A Google anunciou na segunda-feira que entrou com uma ação judicial contra uma organização chinesa identificada como Outsider Enterprise, acusando o grupo de usar a plataforma de IA Gemini da empresa para orquestrar uma grande campanha de fraude. A ação legal, a primeira do tipo para o gigante da tecnologia, foi apresentada em um tribunal federal na Califórnia e inclui um pedido de ordem de restrição temporária para interromper a operação.

De acordo com a queixa, os golpistas exploraram a Gemini para gerar sites convincentes que imitavam o Google, o YouTube, o Serviço Postal dos EUA e o sistema de pedágio E-ZPass de Nova York. Eles também usaram a IA para criar spam de texto e links maliciosos que inundaram os dispositivos de usuários de Android. Em um período de duas semanas, a rede supostamente criou 9.000 sites falsos, gerou um milhão de URLs fraudulentas, enviou 55.000 spams de texto sinalizados por usuários e despachou 2,5 milhões de mensagens contendo links maliciosos.

A conselheira-geral da Google, DeLaine Prado, disse ao The New York Times que a ação judicial representa "nossa primeira tentativa coordenada" de confrontar um esquema de fraude habilitado por IA. Ela afirmou que a operação afetou "centenas de milhares de vítimas" e causou perdas estimadas em milhões de dólares.

Agências de aplicação da lei já estão envolvidas. A divisão de cibercrime do FBI trabalhou com a Google e as três maiores operadoras de telefonia móvel dos EUA - AT&T, T-Mobile e Verizon - para rastrear as fontes do spam e interromper a infraestrutura que suporta os sites falsos. O diretor assistente do FBI, Brett Leatherman, alertou que criminosos estão cada vez mais recorrendo à IA para tornar os golpes mais convincentes e difíceis de detectar, enfatizando a necessidade de uma solução permanente.

Líderes do Congresso tomaram nota. O representante republicano Brian Fitzpatrick (R-PA) citou o caso enquanto promovia uma série de projetos de lei bipartidários projetados para combater golpes impulsionados por IA, incluindo a Lei de Estratégia Nacional para Combater Golpes, a Lei de Força-Tarefa Estratégica para Prevenção de Golpes, a Lei de Prevenção de Golpes contra Idosos e a Lei de Plano de IA. Fitzpatrick chamou a operação de "crime transnacional organizado se movendo por nossos telefones" e instou uma resposta que corresponda à sua sofisticação.

A Google não divulgou as salvaguardas internas que emprega para monitorar o uso da Gemini, mas a empresa afirma que está defendendo leis atualizadas que dariam aos reguladores mais ferramentas para combater ataques melhorados por IA. A ação judicial também busca impedir que a Outsider Enterprise use qualquer marca ou identidade visual da Google no futuro.

O caso destaca um desafio crescente para as empresas de tecnologia: equilibrar o lançamento rápido de modelos de IA poderosos com o risco de que atores mal-intencionados os usem como armas. À medida que as ferramentas de IA se tornam mais acessíveis, especialistas preveem um aumento nos golpes semelhantes, o que leva a pedidos de padrões em toda a indústria e estruturas legais mais fortes.

Embora a decisão do tribunal sobre a ordem de restrição ainda esteja pendente, a ação judicial da Google sinaliza uma mudança em direção a um cumprimento mais agressivo contra golpes impulsionados por IA. O resultado pode estabelecer um precedente para como as empresas de tecnologia respondem quando suas plataformas são cooptadas para fins criminosos.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.