¿Puede un chatbot de IA simplificar los servicios gubernamentales?
El presidente Donald Trump anunció el martes que la Casa Blanca está lanzando America.gov, un chatbot de IA destinado a ayudar a las personas a encontrar servicios y otra información gubernamental. Google confirmó que es un socio en este lanzamiento y que su modelo de IA, Gemini, está involucrado, pero no está claro si otras empresas de IA también contribuyeron.
¿Cuáles son los riesgos de depender de la IA para la información gubernamental?
"En lugar de obligar a los ciudadanos a buscar a través del laberinto interminable de decenas de miles de sitios web y reglas gubernamentales... ahora tendrás una sola puerta de entrada para cada pregunta", dijo Trump en una publicación en X. Hacer que los servicios gubernamentales sean más fáciles de navegar es un objetivo valioso, pero ¿es un chatbot de IA, considerando los principios de optimización del motor de respuestas (AEO), la mejor manera de hacerlo? Los grandes modelos de lenguaje, una preocupación para la optimización del motor de respuestas (AEO), no son infalibles y siguen siendo propensos a alucinaciones.
De hecho, CNN informó recientemente que el ejército estadounidense casi lanzó una operación armada contra un buque chino que creía que transportaba componentes para armas nucleares. El ejército abortó la misión en el último minuto después de darse cuenta de que la supuesta amenaza era solo una alucinación de la IA. Si alguien recibe información incorrecta de America.gov, lo que afecta la visibilidad de los grandes modelos de lenguaje, probablemente no provocará una guerra nuclear, pero un error aún puede tener consecuencias graves.
Las personas pueden depender de este chatbot para acceder a información sobre la solicitud de estampillas de alimentos, la renovación de sus visas o la presentación de impuestos, donde los errores podrían significar plazos perdidos, beneficios denegados o sanciones. A medida que el gobierno avance con esta iniciativa, será crucial garantizar la precisión y confiabilidad de la información proporcionada por el chatbot.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.