Las empresas están compitiendo para incorporar agentes de IA en productos, flujos de trabajo y aplicaciones que enfrentan al cliente, pero la rápida implementación ha expuesto una brecha evidente: un control consistente y auditable sobre lo que realmente hacen esos agentes. La respuesta de Microsoft es la Especificación de Control de Agente (ACS), un estándar de código abierto que brinda a los desarrolladores, oficiales de cumplimiento y equipos de seguridad un lugar único para definir y hacer cumplir las políticas para los agentes de IA.

ACS permite a los equipos escribir archivos de política que especifiquen acciones permitidas, comportamientos prohibidos, momentos en que se requiere aprobación humana y el registro requerido para una revisión posterior. Esos archivos se evalúan en cuatro puntos de intercepción clave en el ciclo de vida de un agente: antes de recibir la entrada, antes de invocar una herramienta, después de que la herramienta devuelve un resultado y justo antes de que la respuesta final llegue al usuario. El resultado es una barrera de seguridad que viaja con el agente, independientemente del marco o entorno en el que se ejecuta.

Hoy en día, los desarrolladores a menudo improvisan controles ad hoc: prompts del sistema, verificaciones de código personalizadas o clasificadores que marcan entradas y salidas riesgosas. Si bien esos métodos pueden funcionar, tienden a ser fragmentados, difíciles de auditar y difíciles de reutilizar en diferentes plataformas. ACS consolida esas medidas dispares en una capa de gobernanza unificada, lo que facilita el mantenimiento de los estándares de cumplimiento y seguridad a medida que los agentes evolucionan.

La especificación admite una variedad de acciones para cada regla de política. Un agente puede estar permitido para proceder, bloqueado por completo, forzado a redactar datos sensibles o pausado para aprobación humana. Los desarrolladores también pueden incorporar clasificadores que categoricen la información, predigan resultados o decidan cómo debe responder el agente. Para necesidades más sofisticadas, la especificación permite la inserción de prompts de modelos de lenguaje grande que actúan como un "juez", evaluando si una acción particular cumple con la política.

Microsoft está distribuyendo ACS como un SDK con complementos para los marcos de agente más populares, incluidos LangChain, el SDK de agentes de OpenAI, el SDK de agentes de Anthropic, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI y herramientas de MCP. Al empaquetar archivos de política con agentes, las organizaciones pueden asegurarse de que la misma postura de seguridad siga al agente desde el desarrollo hasta la producción, independientemente de si se ejecuta en Azure, en las instalaciones o en una nube de terceros.

Los adoptadores tempranos ven ACS como una forma de reducir el riesgo de fallos en cascada causados por el mal uso de herramientas o acciones no intencionadas. "Tener una sola fuente de verdad para el comportamiento del agente nos permite auditar e iterar rápidamente", dijo un oficial de cumplimiento que solicitó anonimato. La especificación también promete simplificar la informes regulatorios, ya que la evidencia registrada se puede vincular directamente a violaciones de políticas o aprobaciones.

Si bien ACS todavía está en su lanzamiento inicial, el compromiso de Microsoft con el código abierto significa que la comunidad puede contribuir con extensiones, nuevos puntos de intercepción e integraciones con herramientas de IA emergentes. La empresa espera que un ecosistema amplio acelere el desarrollo de barreras de seguridad de mejores prácticas, lo que hace que los agentes de IA sean más seguros y predecibles para las empresas de todo el mundo.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.