A Microsoft apresentou novas ferramentas para controlar agentes de IA dentro do Microsoft 365 E7 e de sua plataforma Project Perception. A empresa afirma que as ferramentas limitam o que cada agente pode acessar e endurecem esses limites conforme o risco do agente aumenta.
Hayete Gallot, vice-presidente executiva de Segurança da Microsoft, detalhou a abordagem em uma publicação na segunda-feira. Ela escreveu que as empresas devem tratar os agentes de IA como insiders. Os agentes podem acessar dados, ferramentas e sistemas, disse ela, e frequentemente recebem acesso excessivo. Eles também podem se comportar de maneiras inesperadas.
Gallot afirmou que todos os agentes devem ser monitorados por Guardian Agents, que verificam suas ações antes que elas aconteçam. Ela também defendeu ferramentas de segurança capazes de revelar o raciocínio de um modelo, e não apenas suas entradas e saídas.
Nadim Abdo, vice-presidente corporativo de identidade e acesso à rede, descreve os recursos específicos em uma publicação separada. Ambas as publicações se baseiam em um ensaio que Satya Nadella, CEO da Microsoft, publicou no início deste mês. No ensaio, Nadella afirmou que as empresas devem tratar os modelos como riscos internos.
Como as Permissões Dinâmicas limitam o acesso de agentes de IA?
O destaque é um recurso chamado Permissões Dinâmicas. Por meio dele, um agente começa sem nenhum acesso próprio. Ele recebe apenas o que precisa para uma única tarefa e mantém esse acesso somente enquanto a tarefa durar, segundo a empresa. Um agente nunca pode obter acesso que ainda não possui.
A Microsoft também está adicionando o Risco Dinâmico de Agente, que avalia cada agente de forma contínua. A avaliação considera sinais de identidade, dados, dispositivos, nuvem, rede e das próprias ações do agente.
O que acontece quando o risco de um agente de IA aumenta?
Um segundo recurso, o Acesso Condicional Dinâmico, estende os controles do Entra aos agentes. Quando o risco aumenta, a resposta ocorre em etapas. Um agente pode perder o direito de alterar arquivos, mantendo o acesso de leitura. Pode perder acesso a determinados dados ou precisar que uma pessoa aprove uma etapa. Nos casos mais graves, pode ser interrompido.
Quais agentes de IA o Microsoft 365 consegue detectar em dispositivos de funcionários?
A Microsoft agora também consegue detectar mais 35 tipos de agentes executados em dispositivos de funcionários, elevando o total para 60. A lista inclui o Claude Code, da Anthropic, o Codex, da OpenAI, e o GitHub Copilot. O Entra Agent ID, que dá a cada agente uma identidade própria, separada da do usuário, também abrangerá esses agentes e outros desconhecidos.
No lado do Project Perception, a Microsoft está adicionando Playbooks e uma equipe de Guardian Agents. Essas ferramentas investigam por que o risco de um agente mudou e podem sugerir ou aplicar limites.
Terrell Cox, vice-diretor de segurança da informação da Microsoft, destacou a necessidade na publicação. “Na Microsoft, já operamos em um mundo com centenas de milhares de agentes”, afirmou.
Os agentes também podem ser executados em sandboxes, como o Microsoft Execution Container. A empresa afirma que isso mantém os controles de segurança que monitoram um agente fora do alcance dele, mesmo se ele for invadido.
A Microsoft não informou quando os novos recursos estarão disponíveis. Também não disse se terão custo adicional além da licença do Microsoft 365 E7.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.