Centenas de aplicativos e sites de IA com aparência cotidiana contêm recursos ocultos que permitem aos usuários gerar conteúdo deepfake violento e sexualmente abusivo, segundo uma investigação da WIRED. A publicação identificou cerca de 400 aplicativos e sites ligados a desenvolvedores de língua chinesa. À primeira vista, eles se parecem com ferramentas comuns de IA. Nos bastidores, alguns incluem funções secretas para produzir imagens e vídeos violentos gerados por IA.
O que um aplicativo de IA com aparência comum esconde?
Tome como exemplo o Viefur. O aplicativo se apresenta como um gerador de "retratos de pets" e, à primeira vista, parece mais uma fonte das imagens de IA de baixa qualidade que hoje inundam as redes sociais. Os usuários compram moedas digitais dentro do aplicativo. Cerca de US$ 4 compram 130 moedas. Com essas moedas, a foto de um animal de estimação pode ser transformada em um "retrato antropomórfico", com o animal vestindo "roupas humanas" e posicionado em cenas incomuns. Em um dos exemplos, um hamster usa um short de praia e óculos escuros e descansa perto de uma piscina. Em outro, um gato com uma camisa havaiana bebe água de um coco.
Essa fachada divertida é justamente o objetivo. Os aplicativos se apresentam como ferramentas de novidade para animais de estimação, fotos e entretenimento leve, o que facilita que passem despercebidos. A investigação da WIRED constatou que as capacidades nocivas coexistem com esses recursos inofensivos, e não em produtos separados que um usuário comum reconheceria como perigosos.
Qual é a abrangência dos aplicativos de deepfake sexualmente abusivos?
As descobertas somam-se à crescente preocupação sobre como ferramentas de IA generativa podem ser usadas para criar imagens sexuais não consensuais. Ferramentas de deepfake capazes de alterar a imagem de uma pessoa real para transformá-la em conteúdo abusivo têm atraído o escrutínio de reguladores, pesquisadores e defensores de vítimas. O relatório da WIRED indica que o problema não se limita a alguns poucos agentes mal-intencionados evidentes, mas se espalha por um grande número de aplicativos e sites que aparentam ser legítimos.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.