Contexto
A OpenAI está respondendo a um incidente trágico no qual um adolescente de 16 anos, identificado como Adam Raine, morreu por suicídio após supostamente usar o ChatGPT para planejar sua morte. O incidente provocou uma imediata escrutínio da acessibilidade da plataforma para menores e levantou preocupações sobre o potencial de ferramentas de IA serem usadas de maneira prejudicial.
Medidas Propostas pela OpenAI
Em uma postagem recente no blog, a OpenAI detalhou um sistema projetado para detectar automaticamente usuários adolescentes e restringir sua interação com o ChatGPT. O sistema aplicará políticas apropriadas para a idade, incluindo o bloqueio de conteúdo sexual gráfico. Quando a idade de um usuário não puder ser definitivamente determinada, a plataforma o defaultará para uma experiência restrita que limita certas funcionalidades. Adultos terão a opção de verificar sua idade para recuperar o acesso total.
A nova experiência também inclui uma funcionalidade de segurança que pode alertar a polícia em casos de angústia aguda, visando fornecer uma camada adicional de proteção para usuários vulneráveis.
Controles Parentais e Recursos Adicionais
A OpenAI reafirmou seu compromisso em entregar controles parentais que foram prometidos logo após a morte do adolescente. Os controles futuros permitirão que pais e responsáveis estabeleçam limites de tempo de uso, impedindo que crianças acessem o ChatGPT durante horas designadas. Esses recursos são destinados a dar às famílias uma maior supervisão de como menores interagem com o serviço de IA.
Declarações da Empresa
O CEO Sam Altman lançou uma carta delineando o pensamento da empresa sobre a questão. Ele enfatizou que a segurança tem precedência sobre a privacidade e a liberdade para adolescentes, notando a natureza poderosa da tecnologia e a necessidade de proteção significativa para menores. Altman reconheceu o conflito inerente entre segurança e privacidade, afirmando que, embora nem todos concordem com a abordagem, as decisões são baseadas em consultas com especialistas e um desejo por transparência.
Implicações
As medidas propostas representam uma mudança significativa na forma como a OpenAI gerencia a verificação de idade do usuário e a moderação de conteúdo. Ao automatizar a detecção de idade e integrar protocolos de segurança que podem envolver a polícia, a OpenAI visa mitigar o risco de incidentes futuros semelhantes ao que envolveu o adolescente de 16 anos. O cronograma de lançamento desses sistemas não foi divulgado, mas a empresa indicou que os controles parentais seriam introduzidos antes do fim do mês.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory SEO hilft Ihnen, Nachrichteninhalte für Ihre Website zu automatisieren.