OpenAI está reforçando sua rede de segurança para usuários adolescentes do ChatGPT. A partir de hoje, pais ou guardiões que vincularam suas contas pessoais à perfil de um adolescente serão enviados um alerta se o chatbot desativar a conta do adolescente por violar as políticas de OpenAI sobre ameaças ou atos violentos. A notificação, rotulada como "atualização importante", inclui um link que permite ao adulto visualizar uma explicação breve da violação antes de aprender mais sobre as medidas tomadas.
A melhoria se baseia em um sistema de controle parental introduzido no ano passado. Aquela versão anterior permitia que as famílias agendassem janelas de uso diário, silenciassem tópicos potencialmente sensíveis e recebessem alertas quando a IA detectava sinais de que um usuário poderia estar contemplando autolesão. Agora, o escopo se amplia para cobrir comportamentos que possam colocar outras pessoas em risco, dando aos cuidadores uma visão mais clara das atividades online arriscadas.
OpenAI se associou à Moonshot, uma empresa que monitora e combate a violência digital, para projetar o novo recurso de alerta. A fundadora da Moonshot, Vidhya Ramalingam, disse que a notificação fornece às famílias um "primeiro passo crítico" para intervir precocemente e buscar ajuda, enfatizando que é uma parte de uma estratégia de segurança mais ampla.
A pressão por salvaguardas mais fortes segue uma controvérsia de alto perfil na Colúmbia Britânica, onde as autoridades acusaram OpenAI de não informar as autoridades quando a conta de um suspeito no tiroteio em massa de Tumbler Ridge em 2025 foi desativada. O CEO da empresa, Sam Altman, se desculpou publicamente pelo erro, provocando um foco renovado na transparência e na resposta rápida.
Além dos alertas para pais, OpenAI introduziu dois recursos adicionais destinados a usuários adolescentes. O Modo de Estudo, agora toggleável a partir do painel de controle parental, solicita que o ChatGPT forneça dicas em vez de respostas completas, incentivando os estudantes a trabalhar nos problemas por conta própria. O chatbot também aumenta os lembretes de pausa para adolescentes que passam sessões prolongadas no aplicativo, encorajando-os a se afastar e reduzir a fadiga da tela.
Essas atualizações chegam como parte dos esforços mais amplos da OpenAI para equilibrar os benefícios educacionais da IA gerativa com a responsabilidade de proteger os usuários mais jovens de conteúdo prejudicial. Ao dar aos pais mais visibilidade e controle, a empresa espera criar um ambiente mais seguro, permitindo que os adolescentes explorem o potencial criativo e de aprendizado da tecnologia.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.