A OpenAI divulgou uma tentativa coordenada por um grupo de contas que acredita estar ligado a uma empresa privada chinesa que trabalha para clientes do governo local. Os atores usaram o chatbot para elaborar pontos de discussão em inglês, imagens e até tiras cômicas que enquadravam os centros de dados de IA como um motor de custos de eletricidade mais altos para os consumidores americanos. Ao se passar por residentes dos EUA de diversas origens, eles postaram o material gerado em plataformas de mídia social, esperando se inserir em uma discussão em andamento sobre a infraestrutura de IA da nação.
O relatório divide a operação em dois clusters. O primeiro, rotulado como "Carroça de Centro de Dados", focou em destacar a pressão que os centros de dados impulsionados por IA exercem sobre as redes de energia regionais. Os usuários pediram ao ChatGPT que produzisse narrativas sobre como essas instalações aumentam a demanda, levando a contas de serviços públicos mais altas. A saída incluiu ativos visuais, como infográficos e tiras cômicas, que foram compartilhados junto com links para histórias de notícias legítimas sobre leilões de capacidade de rede de energia e consumo de energia de centros de dados.
Além do público americano, a campanha também visou expatriados chineses e críticos do governo chinês. Em alguns casos, os atores instruíram o modelo a gerar insultos direcionados a dissidentes e comentaristas políticos. Eles se disfarçaram de imigrantes chineses e profissionais vivendo na América, instando figuras públicas a comentar sobre percebidas falhas nas políticas dos EUA.
O segundo cluster de contas produziu conteúdo crítico às tarifas e políticas de tecnologia dos EUA, retratando os Estados Unidos como pouco confiáveis para com seus aliados. Esse grupo instruiu o ChatGPT a evitar referências ao presidente chinês Xi Jinping nas imagens que geraram e a escrever comentários em vários idiomas — incluindo inglês, italiano, japonês e chinês tradicional — para atingir audiências taiwanesas.
A OpenAI afirma que as campanhas alcançaram pouca interação autêntica e não alteraram significativamente a opinião pública. O relatório observa que os operadores escolheram tópicos já controversos no espaço público, o que limitou seu impacto. No entanto, a OpenAI enfatiza a importância da tentativa: atores tentaram se inserir secretamente em um debate doméstico sobre capacidades de IA enquanto mascaravam suas identidades e motivações.
Embora a atividade enganosa não tenha conseguido remodelar a opinião, o incidente levanta preocupações sobre a facilidade com que as ferramentas de IA gerativas podem ser utilizadas para desinformação. A OpenAI se recusou a especular sobre por que os operadores escolheram seu chatbot em vez de modelos alternativos, afirmando que não pôde determinar a motivação subjacente.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.