A Meta divulgou na terça-feira que suas plataformas começarão a usar inteligência artificial para scannerizar imagens e vídeos em busca de traços físicos que sugiram que um usuário é menor de 13 anos. A IA procura por "temas gerais e pistas visuais", incluindo altura e estrutura óssea, para flagrar contas de crianças em potencial. Diferentemente das ferramentas de reconhecimento facial, o sistema não tenta associar um rosto a um indivíduo; ele simplesmente avalia se o sujeito parece ser um menor.

Quando o algoritmo flagra uma conta, a Meta a desativará e pedirá ao proprietário que verifique sua idade antes que o perfil possa ser restaurado. A medida faz parte dos esforços mais amplos da empresa para manter crianças menores de 13 anos fora de seus serviços, um requisito da Lei de Proteção à Privacidade Online de Crianças (COPPA). Além da análise visual, a IA também scannerizará posts, comentários, biografias e legendas em busca de pistas contextuais que sugiram que um usuário pode ser menor de idade.

A Meta também está expandindo uma tecnologia relacionada que coloca automaticamente usuários com idades entre 13 e 17 anos em "Contas de Adolescentes". Essas contas impõem controles de conteúdo mais rigorosos, bloqueiam mensagens de estranhos e impedem que usuários menores de 16 anos façam transmissões ao vivo. O Instagram já usa esse sistema; o Facebook seguirá o exemplo nos Estados Unidos, com um lançamento planejado para o Reino Unido e a União Europeia em junho.

As novas ferramentas de IA estão sendo introduzidas em alguns países, incluindo os Estados Unidos, antes de uma implantação global mais ampla. A Meta afirma que a funcionalidade está disponível apenas em "mercados selecionados" nessa fase.

O anúncio vem após um veredito de um júri do Novo México que encontrou a Meta culpada por violar a lei estadual ao enganar clientes sobre a segurança da plataforma e não proteger as crianças de predadores. O tribunal ordenou que a empresa pagasse US$ 375 milhões e sinalizou que mudanças adicionais podem ser necessárias, uma perspectiva que a Meta havia advertido anteriormente que poderia levá-la a se retirar do estado.

Em seu post no blog, a Meta reiterou seu apoio a mecanismos de verificação de idade incorporados ao nível da loja de aplicativos e do sistema operacional, uma abordagem que está ganhando tração entre os legisladores no Congresso e em estados como a Califórnia e o Colorado. A empresa argumenta que a verificação em nível de sistema forneceria uma barreira mais confiável contra o acesso de menores de idade do que as medidas específicas de plataforma sozinhas.

Críticos apontaram que a scannerização de conteúdo visual para estrutura óssea levanta preocupações de privacidade, mesmo que a Meta enfatize que a tecnologia não identifica indivíduos. A empresa mantém que a IA serve a uma função protetora, visando reduzir a exposição de crianças a conteúdo e interações prejudiciais.

À medida que o lançamento prossegue, a Meta monitorará a eficácia da IA em identificar usuários menores de 13 anos e ajustará suas políticas de acordo. Os próximos passos da empresa incluem expandir a tecnologia para regiões adicionais e aprimorar as salvaguardas de contas de adolescentes para atender às expectativas regulatórias em evolução.

This article was written with the assistance of AI.
News Factory SEO helps you automate news content for your site.