A OpenAI está restringindo informações práticas sobre armas e sistemas de segurança que poderiam ser usadas para facilitar a violência para usuários adolescentes do ChatGPT, mesmo quando não há qualquer sinal de intenção violenta. Os adolescentes ainda podem usar o ChatGPT para prevenir ou desescalar a violência, encontrar apoio e entrar em contato com um adulto de confiança. A empresa também está fortalecendo os limites de suas políticas para todos os usuários.
A OpenAI está intensificando o controle sobre as informações relacionadas a armas que adolescentes podem obter do ChatGPT, e a empresa afirma que os novos limites se aplicam mesmo quando uma pergunta parece inocente.
Quais informações sobre armas o ChatGPT vai restringir para adolescentes?
Em sua publicação mais recente, a OpenAI afirmou que já possui políticas que impedem o ChatGPT de ajudar usuários a cometer atos violentos ou de ajudar adolescentes a obter armas. A empresa agora quer ir além. Ela planeja "restringir informações práticas sobre armas e sistemas de segurança que poderiam ser usadas para facilitar a violência, mesmo quando não há qualquer sinal de intenção violenta" para seus usuários adolescentes.
Adolescentes ainda podem usar o ChatGPT para obter ajuda em segurança?
Os adolescentes ainda poderão usar o ChatGPT para determinadas finalidades. A empresa disse que o chatbot continua disponível para ajudá-los a prevenir ou desescalar a violência, encontrar apoio e entrar em contato com um adulto de confiança.
As novas restrições do ChatGPT também se aplicam a adultos?
As restrições não se limitam a usuários mais jovens. A OpenAI está fortalecendo os limites de suas políticas para todos os seus usuários, especialmente no que se refere a "reconstruções de ataques em massa do passado, incluindo detalhes sobre as armas e equipamentos utilizados e como foram obtidos, e comparações detalhadas da escala de danos que poderiam amplificar a notoriedade de um atacante".
As novas regras somam-se aos controles parentais que a OpenAI introduziu no ano passado. Esses controles enviam notificações aos pais quando uma conta de adolescente vinculada viola as políticas do ChatGPT relacionadas a ameaças violentas ou atos de violência.
As salvaguardas adicionais vêm depois de a OpenAI ter sido alvo de uma ação por morte injusta no ano passado. Elas também seguem um pedido público de desculpas do CEO da empresa, Sam Altman, por não ter alertado a polícia sobre registros de conversas alarmantes ligados ao tiroteio em Tumbler Ridge, ocorrido no início deste ano.
A OpenAI também anunciou que publicará seu primeiro Relatório Comunitário de Segurança no início de 2027. As atualizações serão divulgadas a cada seis meses a partir daí.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.