Cientos de aplicaciones y sitios web de inteligencia artificial de apariencia cotidiana contienen funciones ocultas que permiten a los usuarios generar contenido deepfake violento y sexualmente abusivo, según una investigación de WIRED. El medio identificó unas 400 aplicaciones y sitios web vinculados a desarrolladores de habla china. En la superficie, se parecen a herramientas estándar de IA. Detrás de escena, algunas incluyen funciones secretas para producir imágenes y videos violentos generados por inteligencia artificial.

¿Qué esconde una aplicación de IA con apariencia inofensiva?

Tomemos como ejemplo Viefur. La aplicación se llama a sí misma generador de "retratos de mascotas" y, a primera vista, parece otra fuente de las imágenes de IA de baja calidad que hoy inundan las redes sociales. Los usuarios compran monedas digitales dentro de la aplicación. Unos 4 dólares permiten obtener 130 monedas. Con esas monedas, una foto de una mascota puede convertirse en un "retrato antropomórfico", con el animal vestido con "ropa humana" y ubicado en escenas poco usuales. En un ejemplo, un hámster lleva pantalonetas de playa y gafas de sol y descansa junto a una piscina. En otro, un gato con camisa hawaiana bebe de un coco.

Esa fachada divertida es precisamente el objetivo. Las aplicaciones se presentan como herramientas de novedad para mascotas, fotos y entretenimiento ligero, lo que facilita que pasen desapercibidas. La investigación de WIRED encontró que las capacidades dañinas coexisten con esas funciones inofensivas, y no en productos separados que un usuario casual reconocería como peligrosos.

¿Qué tan extendidas están las aplicaciones de deepfakes sexualmente abusivos?

Los hallazgos se suman a la creciente preocupación sobre cómo las herramientas de IA generativa pueden usarse para crear imágenes sexuales sin consentimiento. Las herramientas de deepfake que pueden alterar la imagen de una persona real para convertirla en contenido abusivo han atraído el escrutinio de reguladores, investigadores y defensores de las víctimas. El informe de WIRED indica que el problema no se limita a unos pocos actores malintencionados evidentes, sino que se extiende a un gran número de aplicaciones y sitios que parecen legítimos.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.