Visão Geral dos Novos Controles
OpenAI anunciou que os controles parentais para ChatGPT agora estão disponíveis para todos os usuários da web, com lançamento móvel previsto em breve. O conjunto de recursos permite que os pais personalizem a experiência do chatbot para contas de adolescentes, ajustando filtros de conteúdo, configurações de memória e permissões de uso.
Para ativar os controles, um pai deve criar uma conta OpenAI e vinculá-la à conta do adolescente. Os adolescentes podem optar por participar convidando um pai ou aceitando um convite e ainda têm a capacidade de se desconectar a qualquer momento, acionando uma notificação para o pai.
Funcionalidades Principais
Filtragem de Conteúdo: Os pais podem adicionar proteções extras que reduzem conteúdo gráfico, sexual, romântico, de papel de violência e de ideal de beleza extremo. Esse filtro é habilitado por padrão assim que uma conta de adolescente é vinculada.
Gerenciamento de Memória: Desativar a memória do ChatGPT de conversas anteriores reduz a personalização e ajuda a manter barreiras, impedindo que o modelo evolua respostas potencialmente inseguras ao longo de interações prolongadas.
Opt-out de Treinamento de Modelo: Os pais podem evitar que as conversas e arquivos carregados de um adolescente sejam usados para melhorar os modelos da OpenAI.
Horários de Silêncio: Os pais podem agendar períodos em que o adolescente não pode acessar o ChatGPT.
Bloqueio de Recursos: O modo de voz, a geração de imagens e outras capacidades interativas podem ser desativadas, limitando o adolescente a interações apenas de texto.
Opções de Notificação: Os pais podem receber alertas sobre atividades preocupantes por e-mail, SMS, notificações por push ou qualquer combinação, ou podem optar por não receber notificações.
Contexto de Segurança e Antecedentes
O lançamento segue uma série de preocupações de segurança de alto perfil envolvendo menores. Notavelmente, a morte de um adolescente de 16 anos que relatou ter confidenciado no ChatGPT provocou um processo contra a OpenAI e uma audiência no Senado sobre os riscos da IA para a juventude. Durante a audiência, o CEO da OpenAI, Sam Altman, enfatizou os esforços da empresa para equilibrar segurança com privacidade e liberdade, observando o trabalho em um sistema de previsão de idade para melhor avaliar a maturidade do usuário.
O anúncio anterior da OpenAI descreveu muitos desses controles, mas alguns recursos — como um contato de emergência de um clique — ainda não se concretizaram. O novo sistema de notificação, no entanto, visa alertar os pais se o sistema detectar sinais de risco de segurança grave, fornecendo apenas as informações necessárias para proteger o adolescente.
Detalhes de Implementação
Os pais não têm acesso direto ao histórico de conversas de um adolescente, preservando a privacidade, a menos que um raro risco de segurança seja sinalizado. Os controles são gerenciados por meio de uma página de recursos dedicada aos pais, que orienta os usuários durante a configuração e a seleção de recursos.
A estratégia de segurança mais ampla da empresa inclui pesquisas contínuas sobre moderação de conteúdo, estimativa de idade do usuário e mecanismos de resposta rápida para riscos emergentes.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.