Microsoft lança especificação de controle de agente de código aberto para reforçar guardrails de IA

Key Points

• Microsoft presentó la Especificación de Control de Agente (ACS) de código abierto para agentes de IA.
• ACS permite a los desarrolladores definir políticas que dictan acciones permitidas, prohibiciones, aprobaciones humanas y requisitos de registro.
• Las verificaciones de política ocurren en cuatro puntos de intercepción: antes de la entrada, antes de las llamadas a herramientas, después de los resultados de las herramientas y antes de la salida final.
• El SDK incluye complementos para LangChain, el SDK de agentes de OpenAI, el SDK de agentes de Anthropic, AutoGen, CrewAI, Semantic Kernel y más.
• ACS tiene como objetivo reemplazar controles fragmentados y difíciles de auditar con una capa de gobernanza reutilizable y auditable.
• Clasificadores incorporados y "jueces" de modelos de lenguaje grande pueden evaluar entradas, salidas y cumplimiento de políticas en tiempo real.
• Los archivos de política viajan con los agentes en todos los entornos, asegurando una postura de seguridad consistente.
• Los usuarios tempranos informan una reducción del riesgo de mal uso de herramientas y una informes regulatorios más fáciles.