Satya Nadella, CEO da Microsoft
A Microsoft anunciou novas capacidades de segurança para agentes de inteligência artificial (IA) por meio do Project Perception. As atualizações incluem controles dinâmicos de permissões, avaliação contínua de riscos e Guardian Agents, agentes de IA desenvolvidos para apoiar equipes de segurança na investigação de ameaças e na resposta a comportamentos suspeitos.
Os agentes já são utilizados em atividades como análise de dados, processamento de despesas, desenvolvimento de software e interação com aplicações corporativas. Para executar essas tarefas, podem precisar acessar informações e sistemas empresariais, o que amplia a necessidade de controles capazes de acompanhar suas ações e limitar possíveis riscos.
A proposta da Microsoft é manter os mecanismos de segurança independentes dos modelos de IA, estabelecendo limites externos para o acesso a dados e a execução de ações.
“O sistema agêntico mais confiável não será aquele com o modelo em que mais confiamos. Será aquele projetado de modo que possamos confiar o mínimo possível no modelo.” - Satya Nadella, CEO da Microsoft
Identidade e permissões dos agentes
A Microsoft está ampliando a descoberta de agentes locais para mais 35 tipos, elevando o total para 60, incluindo Claude Code, OpenAI Codex e GitHub Copilot. A empresa também expande o Microsoft Entra Agent ID para permitir a identificação de diferentes padrões de agentes, inclusive aqueles descobertos por sensores de segurança.
A iniciativa busca atribuir uma identidade própria a cada agente, distinta da pessoa que o utiliza, facilitando a definição de responsabilidades e políticas de acesso.
Outra novidade é o Dynamic Permissions, mecanismo que limita os privilégios dos agentes conforme a tarefa executada. A proposta é conceder apenas os acessos necessários, pelo tempo exigido, com possibilidade de revogação das permissões e exigência de aprovação humana para ações de maior impacto.
Monitoramento contínuo e resposta a riscos
A Microsoft também apresenta o Dynamic Agent Risk, que combina sinais de identidade, dados, endpoints, nuvem, rede e atividade dos agentes para avaliar continuamente os riscos. Já o Dynamic Conditional Access permite ajustar os controles conforme essa avaliação, restringindo recursos, bloqueando determinadas ações ou interrompendo a execução quando necessário.
A arquitetura prevê ainda o uso de Guardian Agents para ajudar as equipes a investigar mudanças nos riscos, analisar evidências e recomendar ou aplicar medidas de contenção. Segundo a empresa, esses recursos buscam acompanhar a operação de agentes em larga escala, reduzindo a dependência de análises e respostas exclusivamente manuais.
“Os agentes só serão adotados em escala se puderem ser confiáveis em escala. Na Microsoft, já operamos em um mundo com centenas de milhares de agentes. Como Customer Zero, aprendemos que proteger agentes exige visibilidade contínua sobre suas atividades, proteção proativa de acesso e dados e proteção adaptativa que acompanhe a evolução das ameaças. Esses aprendizados orientam diretamente as inovações que estamos oferecendo para ajudar todas as organizações a adotar agentes com confiança.” —Terrell Cox, corporate vice president (CVP) e deputy chief information security officer (CISO) de Customer Security na Microsoft
As atualizações também contemplam a integração de sinais mais detalhados sobre o comportamento dos modelos à avaliação de riscos. A Microsoft afirma que a decisão sobre quais ações podem ser executadas deve permanecer sob responsabilidade de controles independentes, e não do próprio modelo de IA.
