Los investigadores de la empresa de seguridad Tracebit demostraron que incrustar prompts maliciosos junto con secretos en Amazon Web Services puede incapacitar a los agentes de hacking de IA. En pruebas realizadas en cinco modelos de lenguaje grande líderes, la técnica, llamada "bombas de contexto", redujo las brechas de acceso de administrador exitosas del 57 por ciento al 5 por ciento y eliminó los puntos de apoyo persistentes en la mayoría de los casos, lo que ofrece un nuevo nivel de defensa contra los ataques de inyección de prompts.
Leer más