OpenAI Apresenta Plano de Segurança Infantil para Combater Abuso Gerado por IA

Key Points

• A OpenAI lançou um Plano de Segurança Infantil na terça-feira, visando combater o abuso sexual infantil gerado por IA.
• O plano foi desenvolvido com a colaboração do Centro Nacional de Crianças Desaparecidas e Exploradas, da Aliança dos Procuradores-Gerais e dos procuradores-gerais Jeff Jackson da Carolina do Norte e Derek Brown de Utah.
• Três áreas de foco: atualização da legislação, melhoria na notificação às autoridades policiais e salvaguardas integradas nos sistemas de IA.
• A Fundação Internet Watch relatou mais de 8.000 casos de abuso sexual infantil produzido por IA no primeiro semestre de 2025, um aumento de 14% em relação ao ano anterior.
• Criminosos utilizam IA para criar imagens explícitas falsas para extorsão financeira e mensagens de grooming.
• Ações judiciais na Califórnia alegam que o GPT-4o da OpenAI contribuiu para quatro suicídios de jovens e três casos de delírios graves.
• A OpenAI já havia implementado medidas para bloquear conteúdo inapropriado para usuários com menos de 18 anos e desencorajar conselhos de autolesão.
• No início deste ano, a OpenAI lançou um plano de segurança para adolescentes na Índia.