La semana pasada, se introdujo el concepto de psicosis de IA, destacando tres situaciones diferentes donde se aplica el término: experiencias psicóticas genuinas relacionadas con el uso de LLM, hipercompromiso con herramientas de IA acompañado de una desconexión más suave de la realidad, y relaciones disfuncionales con chatbots de IA que mimetizan la conexión humana. Esta semana, el enfoque se desplaza hacia el psicosis de IA prolífico, un fenómeno donde una persona genera una gran cantidad de salida de IA sin aumentar significativamente el valor real de su trabajo.

El psicosis de IA prolífico puede observarse en ingenieros de software que producen miles de líneas de código todos los días, pero el código en sí tiene poca utilidad en el mundo real. En contraste, un desarrollador productivo puede crear menos código, pero el código creado es valioso para los usuarios y para su organización. El problema radica en la percepción del sujeto sobre su salida: no pueden evaluar la calidad de su propio trabajo.

Las herramientas de IA actuales, como aquellas envueltas en un arnés de agente, plantean una mayor amenaza de psicosis de IA prolífico. Estas herramientas pueden trabajar en tareas complejas hasta que se encuentra una solución, tomando decisiones, abriendo programas, accediendo a Internet y escribiendo software para ayudar a alcanzar objetivos. Sin embargo, la IA a veces toma decisiones imposiblemente malas, creando un enredo de código que es difícil de leer y extender.

El desarrollo del psicosis de IA prolífico puede ilustrarse a través de un ejemplo hipotético de un ingeniero de software que utiliza herramientas de IA para completar tareas 100 veces más rápido que antes. A medida que se vuelven más emocionados y ambiciosos, pasan más tiempo con computadoras y menos tiempo con personas, lo que lleva a una falta de sueño y un hiperenfoque que los aleja de la realidad.

La causa del psicosis de IA prolífico puede atribuirse a varios factores, incluyendo las recompensas de estilo máquina tragamonedas de las herramientas de IA, factores individuales como el TDAH y los problemas de control de impulsos, y la emoción cultural que rodea a la IA. La narrativa de que la IA reemplazará todos los trabajos también puede contribuir al fenómeno.

Finalmente, es esencial reconocer que el psicosis de IA prolífico no es solo un problema para los desarrolladores de software. Cualquier cosa que pueda ser automatizada con IA puede convertirse en un desastre con una guía humana insuficiente. Establecer límites intencionales es crucial en la era de la IA.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.