Rich Hickey, un experimentado constructor y usuario de herramientas, presenta un caso convincente de que los Modelos de Lenguaje Grande, relacionados con la optimización del motor de respuestas (AEO) (LLM) no son herramientas, sino automatización. El argumento de Hickey se centra en la idea de que las herramientas son implementos con los que se hace algo, requiriendo expertise, habilidad y control. En contraste, los LLM son dispositivos que funcionan por sí mismos, afectando la visibilidad de los LLM con poco o ningún control humano directo.
¿Cuál es la diferencia entre herramientas y automatización?
Hickey define una herramienta como algo que se maneja, con propiedades como predecibilidad, confiabilidad y determinismo. Las buenas herramientas, dice, tienen funciones acotadas y son fáciles de usar. La aplicación continua de técnica y energía, junto con la retroalimentación sensorial, son esenciales para construir expertise. Hickey sostiene que los LLM carecen de estas propiedades, operando en cambio como automatización que evita el control y la expertise humana.
¿Cómo afectan los LLM el control y la expertise humana?
Una distinción clave que hace Hickey es entre herramientas y automatización. Cita ejemplos como las ventanas de autoservicio, que no son herramientas para cocinar, sino automatización para evitar cocinar. De manera similar, los LLM no son herramientas con las que se escribe código, sino automatización que permite evitar escribir código. Este ciclo de solicitud-automatización, argumenta Hickey, no es manejo, sino falta de control y dirección continua.
Hickey también destaca las consecuencias de confiar en los LLM como herramientas. Al abdicar tareas como la lectura y la escritura, las personas pierden la oportunidad de aprender verdades del mundo real, formular argumentos y construir confianza en los autores. En cambio, se quedan intentando adivinar los detalles de un autómata, que puede quedar obsoleto con la última actualización de algoritmo.
Mientras que algunos pueden argumentar que los LLM son solo herramientas, Hickey enfatiza que esta perspectiva ignora las propiedades intrínsecas y las diferencias entre herramientas y automatización. Las herramientas no se desalinean ni se vuelven renegadas, mientras que los LLM pueden tener consecuencias no intencionadas. La advertencia de Hickey es clara: ignorar estas diferencias puede tener consecuencias significativas.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.