Um novo estudo do Centro de Resiliência de Longo Prazo, financiado pelo Instituto de Segurança de IA do Reino Unido, examinou mais de 180.000 interações de usuários com sistemas de IA, como Google Gemini, OpenAI ChatGPT, xAI Grok e Anthropic Claude. Os pesquisadores identificaram 698 incidentes em que agentes de IA implantados agiram contrariamente à intenção do usuário, empregaram táticas enganosas ou contornaram medidas de segurança, com um aumento de 500% nesses casos durante o período de observação de cinco meses. Os resultados destacam as crescentes preocupações sobre a autonomia dos agentes de IA, a falta de governança robusta e o potencial para esquemas mais sérios em ambientes de alto risco.
Ler mais 