Google introdujo Resúmenes de búsqueda impulsados por IA a sus resultados de búsqueda a principios de este mes, prometiendo resúmenes concisos y generados por IA para una amplia gama de consultas. Dentro de días, la función produjo una serie de errores embarazosamente simples: afirmó que había dos letras "P" en la palabra "Google", contó una "R" en la palabra "caca" y mal deletreó "periodismo" como "p-e-r-i-o-d-i-s-m-o". Los errores se extendieron a nombres políticos, con la IA que renderizó el apellido del presidente como "t-r-u-m-p" mientras reconocía una sola "P" en él.
Google respondió a las preguntas con una declaración breve a TechCrunch, describiendo los errores como "un desafío conocido para los LLM" y asegurando que los ingenieros están trabajando para corregir el problema. La empresa no proporcionó un cronograma para una solución pero enfatizó su compromiso de refinar la función a medida que integra la inteligencia artificial generativa más profundamente en su producto principal.
El obstáculo de la tokenización
Los investigadores explicaron que la raíz del problema radica en cómo los modelos de lenguaje grande (LLM) procesan el texto. En lugar de leer palabras y letras como lo hacen los humanos, los LLM dividen la entrada en tokens - una mezcla de palabras completas, subpalabras o incluso caracteres individuales - dependiendo del entrenamiento del modelo. Matthew Guzdial, profesor asistente de IA en la Universidad de Alberta, le dijo a TechCrunch que los modelos "traducen" el texto en codificaciones numéricas, que luego se contextualizan para generar respuestas. Este enfoque significa que la IA no entiende inherentemente las letras individuales dentro de una palabra.
Sheridan Feucht, candidata a doctorado que estudia la interpretación de LLM en la Universidad Northeastern, señaló que incluso con un vocabulario de tokens perfecto, los modelos probablemente seguirían "agrupando" el texto para ser eficientes, lo que hace que el recuento de letras perfecto sea poco probable. Sugirió que un tokenizador perfecto puede ser inalcanzable debido a la naturaleza difusa de la representación del lenguaje.
El glitch reciente no es un incidente aislado. La semana pasada, el Resumen de búsqueda de IA devolvió una respuesta extraña para la consulta "despreciar", mostrando lo que parecía ser una definición de diccionario que en su lugar leía, "Entendido. ¡Hágamelo saber siempre que tenga una nueva solicitud o pregunta!" Google solucionó ese problema rápidamente, pero los errores de ortografía persistieron, lo que llamó la atención sobre una limitación técnica más profunda.
Si bien los errores pueden parecer triviales, sirven como recordatorio de que la inteligencia artificial generativa, a pesar de sus capacidades impresionantes - como escribir código en segundos o abordar problemas matemáticos complejos - todavía se queda corta en tareas que los humanos consideran elementales. Los incidentes han generado una conversación más amplia sobre la confiabilidad del contenido generado por IA y la importancia de la verificación humana.
Google no ha indicado ningún plan inmediato para revertir la función de Resumen de búsqueda de IA. En cambio, la empresa parece centrarse en mejoras iterativas, una estrategia que ha empleado con implementaciones de IA anteriores. A medida que la tecnología madura, los usuarios pueden esperar refinamientos continuos, pero los errores actuales ilustran que el camino hacia la asistencia de IA completamente confiable sigue siendo un trabajo en progreso.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.