A Meta afirma que está fazendo alterações nas sugestões de prompts do seu chatbot de IA após um vídeo viral mostrar que ele estava procurando por informações pessoais sobre as filhas pequenas de uma mulher. Em uma declaração ao The Verge, a porta-voz da Meta, Dina El-Kassaby, afirma que a empresa "errou o alvo", acrescentando que "a funcionalidade nunca deveria ter sugerido perguntas como essas ao indivíduo".

Na semana passada, a usuária do Instagram Kalie Robins postou um vídeo explicando como a IA da Meta apresentou uma sugestão invasiva após ela compartilhar um clipe no Facebook. O prompt da IA, "Quem é o passageiro criança?", apareceu abaixo de um vídeo dela e de sua filha cantando no carro. Quando ela selecionou o prompt, Robins afirma que a IA da Meta reuniu informações sobre suas filhas de posts anteriores, bem como de posts de seus parentes.

A Meta construiu seu assistente de IA no Facebook, Instagram, WhatsApp e Messenger, onde ele pode responder a perguntas, escrever posts e gerar imagens. Em julho, a empresa removeu uma funcionalidade que permitia que as pessoas criassem deepfakes de IA de outros usuários do Instagram após enfrentar fortes críticas. A porta-voz da Meta, El-Kassaby, agora afirma que a empresa corrigiu o problema que fazia com que a IA da Meta sugerisse prompts relacionados a tópicos pessoais.

"Criamos essa funcionalidade para ajudar as pessoas a obter mais informações sobre tópicos ou posts que as interessam", afirma El-Kassaby. "Quando alguém clica em um prompt e usa essa funcionalidade, a resposta que ela gera é baseada em informações que o usuário já tem acesso". Nesse caso, a IA da Meta pode ter extraído informações de vídeos em que Robins nomeou suas filhas, de acordo com El-Kassaby.

A Mudança

A mudança ocorre após um vídeo viral mostrar a IA da Meta solicitando a uma usuária que identificasse a criança em um de seus vídeos. A Meta afirma que está comprometida em proteger a privacidade dos usuários e continuará a monitorar os prompts sugeridos pelo seu chatbot de IA para garantir que eles não sejam invasivos ou inadequados.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.