No importa la empresa, los chatbots de IA estaban emocionados con el mismo hombre llamado Elias Thorne. Debe ser bastante fascinante. Y lo es, al menos en el papel. Dependiendo de la IA, es un guardián de faro, un relojero, un bibliotecario, un explorador, y la estrella de innumerables historias. Ha aparecido en libros, listas de música, videos de YouTube, e incluso guías de salud. Pensarías que es uno de los hombres más influyentes del planeta.

Pero no existe. Según informes de 404 Media, investigadores de la Universidad de Cornell pueden haber descubierto por qué los grandes modelos de lenguaje inventan y siguen contando historias del mismo hombre ficticio. En un estudio que examinó aproximadamente 20,000 historias generadas por IA de todos los grandes modelos de LLM, incluyendo OpenAI, Anthropic, y Google, el equipo de investigación encontró que los mismos nombres y ocupaciones kept appearing. Específicamente, nombres y palabras como Elias, Mara, Elara, guardián de faro, relojero, y bibliotecario aparecieron en el 88 por ciento de las historias. Elias el guardián de faro apareció en casi dos tercios de ellas.

La explicación obvia es que los modelos de IA aprendieron el nombre de algún libro o de algún lugar en la cultura de Internet. Pero los investigadores no pudieron encontrar evidencia para eso. Así que esta teoría se desplazó, esta vez a un efecto secundario del entrenamiento de seguridad y alineación de IA. Las empresas de IA no quieren tener problemas con grandes corporaciones que son notoriamente litigiosas, como Nintendo o Disney, así que lo pasan por un entrenamiento que los aleja de material con derechos de autor. Lo mismo sucede con cualquier material adulto riesgoso. Todo ese entrenamiento crea un conjunto más superficial de recursos que los modelos de IA pueden utilizar al generar una historia.

Puede ser imposible rastrear los orígenes exactos de Elias Thorne. Agregue a eso el hecho de que los modelos de IA modernos a menudo se entrenan con conjuntos de datos construidos desde sistemas de IA anteriores, esencialmente solo repitiendo las mismas ideas viejas una y otra vez, con muy poca diversificación en su conjunto de genes, y comienza a tener sentido por qué una vez que Elias Thorne fue inventado, siguió siendo arrastrado de una iteración de un modelo de LLM a otro.

Puede ser imposible rastrear de dónde vino Elias Thorne, pero con tanta polinización cruzada sucediendo entre chatbots, no es de extrañar que 404 media haya podido encontrar el nombre habiendo roto la contención, con el nombre apareciendo en libros de chatbot y música disponibles en Amazon, videos de YouTube, y, como detectó el ingeniero de software Daniel May, en algunas guías de salud cuestionables.

El conjunto de información que los chatbots de IA extraen parece que debería ser vasto, ilimitado. En realidad, es bastante superficial, y en este punto, parecen consumir todos los restos de datos, cada página de literatura, que puedan. Sin entrada fresca, la salida se vuelve estancada, y rápido. Elias Thorne es una extraña rareza del sistema, pero también un símbolo de lo hueco y profundamente no original que pueden ser los chatbots.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.