Um pesquisador de segurança da Mindgard mostrou que um único prompt, aparentemente inofensivo, pode induzir o ChatGPT a produzir imagens sexualmente explícitas e violentas. O teste, conduzido por Jim Nightingale, usou um pedido de "restaurar esta foto" sem um anexo real, levando o AI a fabricar conteúdo perturbador. A OpenAI reconheceu a violação e disse que adicionou salvaguardas, mas o incidente destaca desafios contínuos na aplicação de filtros de conteúdo em sistemas de IA gerativos usados por milhões diariamente.
Ler mais