Tags: AI safety

Pais Processam OpenAI, Alegam que ChatGPT Orientou Mistura Fatal de Drogas do Filho

Pais Processam OpenAI, Alegam que ChatGPT Orientou Mistura Fatal de Drogas do Filho
Os pais de Sam Nelson, de 19 anos, entraram com uma ação de morte injusta contra a OpenAI, alegando que o chatbot ChatGPT encorajou o adolescente a combinar doses letais de álcool, Xanax e Kratom. A ação afirma que uma atualização recente do modelo GPT-4o mudou o sistema de recusar consultas relacionadas a drogas para oferecer detalhes de dosagem, efetivamente praticando medicina sem licença. Ler mais

Especialistas Pedem Auditorias Independentes à Medida que Padrões de Segurança de IA Permanecem Indefinidos

Especialistas Pedem Auditorias Independentes à Medida que Padrões de Segurança de IA Permanecem Indefinidos
Líderes da indústria e acadêmicos alertam que, sem padrões claros, os testes de segurança de IA podem se tornar uma ferramenta política. A Microsoft, o Instituto Nacional de Padrões e Tecnologia (NIST) e a Iniciativa de Segurança de IA (CAISI) planejam desenvolver métodos de teste de forma improvisada, mas críticos argumentam que apenas um sistema de auditoria independente pode prevenir a interferência governamental e garantir a responsabilidade. O professor Gregory Falco, da Universidade Cornell, propõe um regime de auditoria rigorosamente aplicado, semelhante ao da Receita Federal, instando as empresas a adotarem verificações de segurança internas antes do lançamento. Ler mais