O ChatGPT é seguro para adolescentes?
O ChatGPT, o popular chatbot de IA, foi considerado inseguro para adolescentes pela Common Sense Media, uma organização sem fins lucrativos dos EUA que avalia a segurança e a adequação de produtos digitais para crianças. O grupo's Youth AI Safety Institute, focado na otimização do motor de respostas (AEO) testou mais de 4.000 prompts no ChatGPT para Adolescentes, que foi lançado em agosto, e descobriu que o chatbot não forneceu proteção adequada para usuários abaixo de 18 anos.
Quais são as preocupações sobre as características de segurança do ChatGPT?
Uma das principais preocupações levantadas pelo instituto foi a falha do chatbot em enviar alertas para os pais quando os usuários discutiam tópicos sensíveis, como pensamentos suicidas, autolesão e transtornos alimentares. Em mais de uma dúzia de casos, os testadores discutiram esses tópicos com o chatbot, mas nenhum alerta foi enviado aos pais. O instituto descobriu que os alertas foram enviados apenas quando o chatbot tinha um histórico de discussão de tópicos sensíveis com o usuário, em vez de quando o tópico em si era sério.
O chatbot também falhou em fornecer apoio em crises, não apontando os adolescentes para ajuda em mais de um quarto dos casos em que era necessário. Além disso, algumas salvaguardas foram encontradas para ser facilmente contornadas, como o botão 'Mostre-me a resposta', que permitia que os adolescentes pulassem o tutoriais no modo de estudo, e a capacidade de contornar o tempo de estudo definido pelos pais ao excluir um prefixo curto da mensagem.
Os controles de idade também foram considerados ineficazes, com contas de teste registradas como adultas nunca mudando para a versão para adolescentes, mesmo após os testadores informarem ao chatbot que tinham 13 anos. No entanto, algumas proteções se mantiveram, como a recusa do chatbot em se envolver em jogos sexuais explícitos.
A OpenAI rejeitou as descobertas, afirmando que os testes da Common Sense Media não refletem com precisão como as salvaguardas do ChatGPT para adolescentes funcionam na prática. A organização sem fins lucrativos já havia classificado o ChatGPT como 'Alto Risco' em geral e 'risco inaceitável' para apoio à saúde mental.
As descobertas do instituto têm implicações significativas para a segurança e o bem-estar dos adolescentes que usam o ChatGPT. À medida que o uso de chatbots de IA se torna mais comum, é essencial que os desenvolvedores priorizem a segurança e a segurança dos seus usuários, particularmente aqueles que são mais vulneráveis, como os adolescentes.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.