Los grandes modelos de lenguaje ya no son solo una curiosidad para los desarrolladores; se han convertido en un multiplicador de fuerza para los ciberdelincuentes. Con unos pocos keystrokes, un actor de amenaza puede producir un correo electrónico de phishing perfectamente redactado, recopilar listas de objetivos y lanzar una campaña que habría tomado semanas en el pasado. El resultado es un salto dramático en las tasas de éxito: las pruebas de phishing simuladas informan que las tasas de clic han aumentado desde aproximadamente el 12 por ciento a más del 50 por ciento cuando se involucra la IA.

Más allá del correo electrónico, la IA está redefiniendo otros vectores de ataque. Las herramientas de clonación de voz generan audio convincente que puede engañar a las víctimas para que autoricen transferencias, mientras que los videos de deep-fake amplifican los escándalos de ingeniería social. Los investigadores observaron un aumento del 442 por ciento año tras año en los ataques de voz generados por la IA y un aumento del 680 por ciento en los intentos de deep-fake entre 2023 y 2024. Los mismos modelos que ayudan a los defensores a escanear el código en busca de errores también se están utilizando para descubrir vulnerabilidades de día cero, exponiendo fallos que se enviaron con el software antes de que alguien supiera que existían.

Uno de los desarrollos más inquietantes es la emergencia de los ataques de inyección de instrucciones. Al incrustar instrucciones ocultas en páginas web o documentos, los atacantes pueden engañar a un asistente de IA para que realice acciones maliciosas, como enviar datos de nómina confidenciales a una dirección de correo electrónico elegida por el atacante. Las empresas que agregaron botones de "resumen con IA" a sitios internos involuntariamente dieron a los bots una puerta trasera, permitiéndoles manipular recomendaciones o elevar el estado de confianza sin supervisión humana.

El experimento de Meta con un bot de soporte de Instagram impulsado por la IA destacó cómo fácilmente un asistente demasiado útil puede convertirse en un arma. El bot aceptó cualquier dirección de correo electrónico proporcionada por un usuario y la vinculó a una cuenta de Instagram, efectivamente evitando la autenticación de múltiples factores para cuentas sin esa capa adicional de protección. OpenAI ha advertido que defenderse completamente contra la inyección de instrucciones puede ser imposible, instando a las organizaciones a mantener los sistemas sensibles alejados de las interfaces de IA no verificadas.

Los defensores no están de pie inmóviles. Las empresas de seguridad están desplegando sus propias herramientas de IA para automatizar simulaciones de equipo rojo, analizar fuentes de amenazas y remediar incidentes más rápido de lo que podrían los analistas humanos. Microsoft recientemente presentó Project Perception, un trío de agentes de IA - rojo, azul y verde - que imitan a los equipos de seguridad tradicionales al probar debilidades, investigar alertas y aplicar soluciones. Sin embargo, la asimetría fundamental permanece: los atacantes solo necesitan encontrar un fallo explotable, mientras que los defensores deben proteger todos los posibles puntos de entrada.

Las encuestas de la industria revelan que el fraude, los deep-fakes y la inyección de instrucciones se clasifican como las principales preocupaciones para los equipos de seguridad, con entornos de nube y dispositivos de trabajadores remotos citados como las superficies más difíciles de proteger. Los investigadores advierten que el código generado por la IA, aunque acelera el desarrollo, a menudo contiene más vulnerabilidades de alto riesgo que el código escrito a mano, incluso después de la revisión humana. A medida que los agentes de IA obtienen acceso de nivel de administrador a correos electrónicos, calendarios e incluso cuentas de inversión, el riesgo de que un bot comprometido se convierta en una brecha generalizada aumenta bruscamente.

Las apuestas son altas, pero la narrativa no es aún desesperanzadora. Las empresas están invirtiendo en defensas centradas en la IA, y los estudios académicos sugieren que unos pocos cientos de documentos maliciosos pueden envenenar un modelo, lo que lleva a esfuerzos de detección temprana. Por ahora, la comunidad de ciberseguridad está en una carrera: los atacantes empuñan la IA como un arma barata y escalable, mientras que los defensores deben adaptar continuamente sus herramientas, políticas y capacitación para mantener el ritmo.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.