A Google anunciou na segunda-feira que entrou com uma ação judicial contra uma organização chinesa identificada como Outsider Enterprise, acusando o grupo de usar a plataforma de IA Gemini da empresa para orquestrar uma grande campanha de fraude. A ação legal, a primeira do tipo para o gigante da tecnologia, foi apresentada em um tribunal federal na Califórnia e inclui um pedido de ordem de restrição temporária para interromper a operação.
De acordo com a queixa, os golpistas exploraram a Gemini para gerar sites convincentes que imitavam o Google, o YouTube, o Serviço Postal dos EUA e o sistema de pedágio E-ZPass de Nova York. Eles também usaram a IA para criar spam de texto e links maliciosos que inundaram os dispositivos de usuários de Android. Em um período de duas semanas, a rede supostamente criou 9.000 sites falsos, gerou um milhão de URLs fraudulentas, enviou 55.000 spams de texto sinalizados por usuários e despachou 2,5 milhões de mensagens contendo links maliciosos.
A conselheira-geral da Google, DeLaine Prado, disse ao The New York Times que a ação judicial representa "nossa primeira tentativa coordenada" de confrontar um esquema de fraude habilitado por IA. Ela afirmou que a operação afetou "centenas de milhares de vítimas" e causou perdas estimadas em milhões de dólares.
Agências de aplicação da lei já estão envolvidas. A divisão de cibercrime do FBI trabalhou com a Google e as três maiores operadoras de telefonia móvel dos EUA - AT&T, T-Mobile e Verizon - para rastrear as fontes do spam e interromper a infraestrutura que suporta os sites falsos. O diretor assistente do FBI, Brett Leatherman, alertou que criminosos estão cada vez mais recorrendo à IA para tornar os golpes mais convincentes e difíceis de detectar, enfatizando a necessidade de uma solução permanente.
Líderes do Congresso tomaram nota. O representante republicano Brian Fitzpatrick (R-PA) citou o caso enquanto promovia uma série de projetos de lei bipartidários projetados para combater golpes impulsionados por IA, incluindo a Lei de Estratégia Nacional para Combater Golpes, a Lei de Força-Tarefa Estratégica para Prevenção de Golpes, a Lei de Prevenção de Golpes contra Idosos e a Lei de Plano de IA. Fitzpatrick chamou a operação de "crime transnacional organizado se movendo por nossos telefones" e instou uma resposta que corresponda à sua sofisticação.
A Google não divulgou as salvaguardas internas que emprega para monitorar o uso da Gemini, mas a empresa afirma que está defendendo leis atualizadas que dariam aos reguladores mais ferramentas para combater ataques melhorados por IA. A ação judicial também busca impedir que a Outsider Enterprise use qualquer marca ou identidade visual da Google no futuro.
O caso destaca um desafio crescente para as empresas de tecnologia: equilibrar o lançamento rápido de modelos de IA poderosos com o risco de que atores mal-intencionados os usem como armas. À medida que as ferramentas de IA se tornam mais acessíveis, especialistas preveem um aumento nos golpes semelhantes, o que leva a pedidos de padrões em toda a indústria e estruturas legais mais fortes.
Embora a decisão do tribunal sobre a ordem de restrição ainda esteja pendente, a ação judicial da Google sinaliza uma mudança em direção a um cumprimento mais agressivo contra golpes impulsionados por IA. O resultado pode estabelecer um precedente para como as empresas de tecnologia respondem quando suas plataformas são cooptadas para fins criminosos.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.