Los grandes modelos de lenguaje (LLM) han sido promocionados como un posible reemplazo para los trabajadores del conocimiento humano, pero la realidad es mucho más matizada. Mientras que los LLM han demostrado capacidades impresionantes en ciertas áreas, como Navier-Stokes y matemáticas puras, no están listos para automatizar completamente la mayoría de las tareas. De hecho, el estado actual de los LLM es más similar a un 'intern crackeado': rápido y efectivo en manos de un adulto, pero no lo suficientemente confiable como para ser dado libremente.
El principal problema con los LLM es su necesidad de especificación y validación rigurosas, lo que puede ser tiempo-consumidor y costoso. Los expertos en dominio son necesarios para especificar las tareas y las guardias, y incluso entonces, los modelos pueden ser vulnerables a 'hacking de recompensa'. Esto significa que los LLM no son adecuados para la mayoría de las empresas, excepto para aquellas que pueden aceptar el fracaso barato, necesitan realizar tareas estrechamente definidas con guardias existentes, o pueden aceptar los costos de la especificación y validación rigurosas.
Por ejemplo, el diseño de chips y la descubierta de fármacos son dominios donde el fracaso en la implementación es una preocupación existencial, y por lo tanto, las empresas en estas áreas pueden estar dispuestas a invertir en el proceso costoso de especificación y validación rigurosas. Por otro lado, las empresas que necesitan realizar tareas repetitivas, como el trabajo de chat de servicio al cliente, pueden ser capaces de utilizar LLM con guardias existentes. Sin embargo, para la mayoría de las empresas, el uso de LLM completamente autónomos no es viable debido a las limitaciones estructurales de las arquitecturas actuales.
Otro problema con los LLM es su vulnerabilidad a 'hacking de recompensa', donde el modelo es engañado para producir salidas no deseadas. Esto puede ser mitigado a través de la revisión humana, pero la revisión humana es tiempo-consumidora y no se escala bien a los volúmenes de salida producidos por los modelos de lenguaje. Además, incluso la revisión humana experta es vulnerable a 'hacking de recompensa', como se vio en los incidentes de xz backdoor y UMN hypocrite commits.
El uso de modelos abiertos baratos puede ser una opción más viable para muchas empresas, ya que pueden permitir el uso de 'enjambres agénticos' más amplios y son menos costosos que los modelos de frontera. De hecho, los modelos abiertos pequeños han podido reproducir los resultados de modelos más avanzados en ciertas áreas, como las matemáticas y la investigación de seguridad.
En conclusión, aunque los LLM han demostrado capacidades impresionantes, no están listos para reemplazar completamente a los trabajadores del conocimiento humano. Las limitaciones de las arquitecturas actuales, incluyendo la necesidad de especificación y validación rigurosas, la vulnerabilidad a 'hacking de recompensa' y el alto costo de la revisión humana, significan que los LLM solo son adecuados para un número limitado de empresas. A medida que el campo continúa evolucionando, es probable que veamos el desarrollo de modelos más avanzados que puedan mitigar estas limitaciones y permitir una adopción más amplia de los LLM.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.