OpenAI reveló un esfuerzo coordinado por un grupo de cuentas que cree están vinculadas a una empresa privada china que trabaja para clientes del gobierno local. Los actores usaron el chatbot para redactar puntos de conversación en inglés, imágenes y hasta tiras cómicas que presentaban los centros de datos de inteligencia artificial como un factor que impulsa los costos de electricidad más altos para los consumidores estadounidenses. Al hacerse pasar por residentes estadounidenses de diversos orígenes, publicaron el material generado en las plataformas de redes sociales, con la esperanza de insertarse en una discusión en curso sobre la infraestructura de inteligencia artificial de la nación.
El informe divide la operación en dos clusters. El primero, etiquetado como "Caravana de centros de datos", se centró en destacar la presión que los centros de datos impulsados por la inteligencia artificial ejercen sobre las redes de energía regionales. Los usuarios pidieron a ChatGPT que produjera narrativas sobre cómo estas instalaciones aumentan la demanda, lo que lleva a facturas de servicios públicos más altas. La salida incluyó activos visuales como infografías y tiras cómicas que se compartieron junto con enlaces a historias de noticias legítimas sobre subastas de capacidad de redes de energía y consumo de energía de centros de datos.
Más allá del público estadounidense, la campaña también se dirigió a expatriados chinos y críticos del gobierno chino. En algunos casos, los actores instruyeron al modelo para generar insultos dirigidos a disidentes y comentaristas políticos. Se hicieron pasar por inmigrantes chinos y profesionales que viven en Estados Unidos, instando a figuras públicas a comentar sobre los percibidos fallos de política estadounidense.
El segundo cluster de cuentas produjo contenido crítico con los aranceles y las políticas tecnológicas estadounidenses, presentando a Estados Unidos como poco confiable hacia sus aliados. Este grupo instruyó a ChatGPT para evitar referencias al presidente chino Xi Jinping en las imágenes que generaron y para escribir comentarios en varios idiomas, incluyendo inglés, italiano, japonés y chino tradicional, para llegar a audiencias taiwanesas.
OpenAI afirma que las campañas lograron poco compromiso auténtico y no alteraron significativamente la opinión pública. El informe señala que los operadores eligieron temas ya controvertidos en el ámbito público, lo que limitó su impacto. Sin embargo, OpenAI enfatiza la importancia del intento: los actores intentaron insertarse de forma encubierta en un debate nacional sobre las capacidades de la inteligencia artificial mientras ocultaban sus identidades y motivos.
Aunque la actividad engañosa no logró redefinir la opinión, el incidente plantea preocupaciones sobre la facilidad con la que las herramientas de inteligencia artificial generativa pueden ser utilizadas para la desinformación. OpenAI se negó a especular sobre por qué los operadores seleccionaron su chatbot sobre modelos alternativos, afirmando que no podía determinar la motivación subyacente.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.