Google anunció el lunes que ha presentado una demanda civil contra una organización china identificada como Outsider Enterprise, acusándola de utilizar la plataforma de inteligencia artificial Gemini de la empresa para orquestar una campaña de fraude a gran escala. La acción legal, la primera de su tipo para el gigante tecnológico, se presentó en un tribunal federal de California y incluye una solicitud de orden de restricción temporal para detener la operación.

Según la denuncia, los estafadores explotaron Gemini para generar sitios web convincentes que imitaban a Google, YouTube, el Servicio Postal de los Estados Unidos y el sistema de peaje E-ZPass de Nueva York. También utilizaron la IA para crear mensajes de spam y enlaces maliciosos que inundaron los dispositivos de los usuarios de Android. En un período de dos semanas, la red supuestamente creó 9.000 sitios web falsos, generó un millón de URLs fraudulentas, envió 55.000 mensajes de spam marcados por los usuarios y envió 2,5 millones de mensajes que contenían enlaces maliciosos.

La consejera general de Google, DeLaine Prado, le dijo a The New York Times que la demanda representa "nuestro primer esfuerzo coordinado" para enfrentar un esquema de fraude habilitado por la IA. Dijo que la operación afectó a "cientos de miles de víctimas" y causó pérdidas estimadas en millones de dólares.

Las agencias de aplicación de la ley ya están involucradas. La división de ciberdelincuencia del FBI trabajó con Google y los tres principales operadores de telefonía móvil de EE. UU., AT&T, T-Mobile y Verizon, para rastrear las fuentes del spam y disruptar la infraestructura que respalda los sitios web falsos. El director adjunto del FBI, Brett Leatherman, advirtió que los delincuentes están recurriendo cada vez más a la IA para hacer que los estafas sean más convincentes y difíciles de detectar, enfatizando la necesidad de una solución permanente.

Los líderes del Congreso han tomado nota. El representante republicano Brian Fitzpatrick (R-PA) citó el caso mientras promovía un conjunto de proyectos de ley bipartidistas diseñados para combatir el fraude impulsado por la IA, incluida la Ley de Estrategia Nacional para Combatir los Estafas, la Ley de Fuerza Task Estratégica para la Prevención de Estafas, la Ley de Prevención de Estafas contra los Ancianos y la Ley de Plan de IA. Fitzpatrick calificó la operación de "delincuencia transnacional organizada que se mueve a través de nuestros teléfonos" y urgió una respuesta que se adapte a su sofisticación.

Google itself no ha revelado las salvaguardas internas que emplea para monitorear el uso de Gemini, pero la empresa dice que está abogando por leyes actualizadas que darían a los reguladores más herramientas para abordar los ataques mejorados por la IA. La demanda también busca evitar que Outsider Enterprise utilice en el futuro cualquier marca o marca registrada de Google.

El caso subraya un desafío creciente para las empresas de tecnología: equilibrar la rápida implementación de poderosos modelos de IA con el riesgo de que los actores maliciosos los utilicen como arma. A medida que las herramientas de IA se vuelven más accesibles, los expertos predicen un aumento en estafas similares, lo que genera llamadas a estándares de la industria y marcos legales más sólidos.

Mientras la decisión del tribunal sobre la orden de restricción sigue pendiente, el movimiento legal de Google señala un cambio hacia un cumplimiento más agresivo contra el fraude impulsado por la IA. El resultado podría sentar un precedente para cómo las empresas de tecnología responden cuando sus plataformas son cooptadas para fines criminales.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.