Microsoft presentó nuevas herramientas para controlar los agentes de IA dentro de Microsoft 365 E7 y su plataforma Project Perception. La compañía afirma que las herramientas limitan lo que cada agente puede alcanzar, y que endurecen esos límites a medida que aumenta el riesgo del agente.

Hayete Gallot, vicepresidenta ejecutiva de Microsoft Security, explicó el enfoque en una publicación del lunes. Escribió que las empresas deberían tratar a los agentes de IA como personal interno. Según dijo, los agentes pueden acceder a datos, herramientas y sistemas, y con frecuencia se les otorga demasiado acceso. También pueden comportarse de maneras inesperadas.

Gallot afirmó que cada agente debería ser vigilado por Guardian Agents, que revisan sus acciones antes de que ocurran. También pidió herramientas de seguridad que revelen el razonamiento de un modelo, y no solo sus entradas y salidas.

Nadim Abdo, vicepresidente corporativo de identidad y acceso a la red, describe las funciones específicas en una publicación aparte. Ambas publicaciones se basan en un ensayo que Satya Nadella, director ejecutivo de Microsoft, publicó a comienzos de este mes. En ese ensayo, Nadella afirmó que las empresas deberían tratar los modelos como riesgos internos.

¿Cómo limitan los Dynamic Permissions el acceso de los agentes de IA?

El eje central es una función llamada Dynamic Permissions. Con ella, un agente comienza sin acceso propio. Recibe solo lo que necesita para una tarea específica y conserva ese acceso únicamente mientras dure la tarea, según explicó la compañía. Un agente nunca puede obtener acceso que aún no tenga.

Microsoft también añade Dynamic Agent Risk, que califica a cada agente de forma continua. La calificación se basa en señales de identidad, datos, dispositivos, nube, red y las propias acciones del agente.

¿Qué pasa cuando aumenta el riesgo de un agente de IA?

Una segunda función, Dynamic Conditional Access, extiende los controles de Entra a los agentes. Cuando el riesgo aumenta, la respuesta se produce por etapas. Un agente puede perder el derecho a modificar archivos y conservar el acceso de lectura. Puede perder acceso a ciertos datos o necesitar que una persona apruebe un paso. En los casos más graves, puede ser detenido.

¿Qué agentes de IA puede detectar Microsoft 365 en los dispositivos del personal?

Microsoft ahora también puede detectar 35 tipos adicionales de agentes que se ejecutan en los dispositivos del personal, con lo que el total asciende a 60. La lista incluye Claude Code de Anthropic, Codex de OpenAI y GitHub Copilot. Entra Agent ID, que da a cada agente su propia identidad separada del usuario, cubrirá estos agentes y también otros desconocidos.

En el lado de Project Perception, Microsoft añade Playbooks y un equipo de Guardian Agents. Estas herramientas investigan por qué cambió el riesgo de un agente y pueden sugerir o aplicar límites.

Terrell Cox, subdirector de seguridad de la información de Microsoft, planteó la necesidad en la publicación. “En Microsoft, ya operamos en un mundo de cientos de miles de agentes”, dijo.

Los agentes también pueden ejecutarse dentro de entornos aislados, como Microsoft Execution Container. La compañía afirma que esto mantiene los controles de seguridad que supervisan a un agente fuera de su alcance, incluso si el agente es hackeado.

Microsoft no dijo cuándo estarán disponibles las nuevas funciones. Tampoco precisó si tendrán un costo adicional más allá de la licencia de Microsoft 365 E7.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.