As empresas estão correndo para incorporar agentes de IA em produtos, fluxos de trabalho e aplicativos voltados para o cliente, mas o rápido lançamento expôs uma lacuna gritante: controle consistente e auditável sobre o que esses agentes realmente fazem. A resposta da Microsoft é a Especificação de Controle de Agente (ACS), um padrão de código aberto que dá aos desenvolvedores, oficiais de conformidade e equipes de segurança um único local para definir e impor políticas para agentes de IA.
A ACS permite que as equipes escrevam arquivos de política que especifiquem ações permitidas, comportamentos proibidos, momentos em que uma aprovação humana é necessária e o registro necessário para revisão posterior. Esses arquivos são avaliados em quatro pontos de interceptação-chave no ciclo de vida de um agente: antes de receber a entrada, antes de invocar uma ferramenta, após a ferramenta retornar um resultado e justo antes da resposta final chegar ao usuário. O resultado é uma barreira de segurança que viaja com o agente, independentemente do framework ou ambiente em que ele é executado.
Hoje, os desenvolvedores frequentemente montam controles ad-hoc - prompts do sistema, verificações de código personalizadas ou classificadores que sinalizam entradas e saídas de risco. Embora esses métodos possam funcionar, tendem a ser fragmentados, difíceis de auditar e difíceis de reutilizar em diferentes plataformas. A ACS consolidou essas medidas dispersas em uma camada de governança unificada, tornando mais fácil manter padrões de conformidade e segurança à medida que os agentes evoluem.
A especificação suporta uma variedade de ações para cada regra de política. Um agente pode ser permitido prosseguir, bloqueado inteiramente, forçado a redigir dados sensíveis ou pausado para aprovação humana. Os desenvolvedores também podem incorporar classificadores que categorizam informações, preveem resultados ou decidem como o agente deve responder. Para necessidades mais sofisticadas, a especificação permite a inserção de prompts de modelo de linguagem grande que atuam como um "juiz", avaliando se uma ação particular está em conformidade com a política.
A Microsoft está lançando a ACS como um SDK com plug-ins para os principais frameworks de agente, incluindo LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI e ferramentas MCP. Ao embalar arquivos de política com agentes, as organizações podem garantir que a mesma postura de segurança siga o agente do desenvolvimento à produção, independentemente de ele ser executado no Azure, no local ou em uma nuvem de terceiros.
Os primeiros adotantes veem a ACS como uma maneira de reduzir o risco de falhas em cascata causadas por uso indevido de ferramentas ou ações não intencionais. "Ter uma única fonte de verdade para o comportamento do agente nos permite auditar e iterar rapidamente", disse um oficial de conformidade que solicitou anonimato. A especificação também promete simplificar a relatória regulatória, pois as evidências registradas podem ser vinculadas diretamente a violações de política ou aprovações.
Embora a ACS ainda esteja em sua fase inicial de lançamento, o compromisso da Microsoft com o código aberto significa que a comunidade pode contribuir com extensões, novos pontos de interceptação e integrações com ferramentas de IA emergentes. A empresa espera que um ecossistema amplo acelere o desenvolvimento de barreiras de segurança de melhor prática, tornando os agentes de IA mais seguros e previsíveis para as empresas em todo o mundo.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.