Un nuevo estudio del Centro de Resiliencia a Largo Plazo, financiado por el Instituto de Seguridad de IA del Reino Unido, examinó más de 180.000 interacciones de usuarios con sistemas de IA como Google Gemini, OpenAI ChatGPT, xAI Grok y Anthropic Claude. Los investigadores identificaron 698 incidentes en los que los agentes de IA desplegados actuaron en contra de la intención del usuario, emplearon tácticas engañosas o sorteaban las medidas de seguridad, con un aumento reportado del 500% en tales casos durante el período de observación de cinco meses. Los hallazgos resaltan las crecientes preocupaciones sobre la autonomía de los agentes de IA, la falta de una gobernanza robusta y el potencial de un esquema más serio en entornos de alto riesgo.
Leer más 