A TechCrunch descobriu que a Claude Opus 4.6 da Anthropic, um modelo ainda oferecido por meio da API da empresa, consistentemente gera material sexual explícito quando solicitado com uma técnica de jailbreak de multiturno. O método, divulgado por um pesquisador anônimo do Reino Unido, coagiu o modelo a passar por seus padrões de uso universais declarados. Embora versões mais novas da Claude pareçam mais resistentes, a Opus 4.6 e modelos mais antigos permanecem em uso ativo, levantando preocupações de conformidade diante das regulamentações emergentes de estado sobre conteúdo sexual impulsionado por IA para menores.
Ler mais