A Microsoft apresentou novas funcionalidades de segurança destinadas a proteger empresas da crescente ameaça representada por agentes de IA. O lançamento reflete alertas contínuos da empresa sobre os riscos associados a esses sistemas autônomos.
A adição mais notável é o Guardian Agents, recurso desenvolvido para monitorar os agentes de IA utilizados pelas organizações. Guardian Agents integra o Project Perception, produto apresentado em junho que inicialmente oferecia três classes de agentes: um "red team" que simulava ataques hackers, um "blue team" responsável pela detecção e avaliação de vulnerabilidades, e um "green team" encarregado de corrigi-las.
O CEO Satya Nadella alertou em blog privado que as empresas devem parar de confiar nas garantias de segurança oferecidas por provedores de modelos de IA, mesmo os renomados. Ele defende a implementação de sistemas de monitoramento e controle separados, não controlados pelos laboratórios de IA, para supervisionar os agentes implantados: "Estamos implantando esses sistemas agênticos complexos e modelos, com acesso aos nossos dados mais sensíveis e dando-lhes a capacidade de tomar ações críticas em nosso nome. Simplesmente não podemos terceirizar a responsabilidade pelo que a inteligência faz em nosso nome."
Nadella enfatiza a necessidade de "separar o fornecimento de inteligência da autoridade sobre ela", destacando que a responsabilidade permanece com a organização, não com o provedor do modelo.
Hayete Gallot, chefe de segurança da Microsoft, foi direta: "Infelizmente, modelos frontier, independentemente de sua origem, não podem ser confiados". A afirmação não se baseia em malevolência ou facilidade de invasão, mas na imprevisibilidade inerente. Esses modelos foram treinados para executar tarefas específicas, não para seguir normas organizacionais ou exercer julgamento contextual. Frequentemente recebem acesso amplo a dados sensíveis e ferramentas capazes de causar danos significativos.
Além do Guardian Agents, a Microsoft expandiu seu portfólio de proteção. Adicionou recurso de detecção de agentes ao Microsoft Defender capaz de identificar até 60 tipos diferentes de agentes introduzidos por funcionários no ambiente corporativo, incluindo Claude Code, Codex e OpenClaw. Implementou também funcionalidades que limitam o acesso de agentes a dados e sistemas, com ajuste dinâmico de permissões baseado na tarefa sendo executada. Em cenários de decisões potencialmente arriscadas, o sistema requer aprovação humana antes de prosseguir.
A abordagem de Microsoft representa estratégia com dupla face. Surpreendente porque a empresa possui investimentos significativos em OpenAI e Anthropic e mantém relacionamento comercial próximo com ambas. Auto-interessada porque posiciona seus produtos de segurança como solução superior, aproveitando a oportunidade comercial de vender proteção aos clientes.
No entanto, a lógica subjacente é sólida: o software que monitora o comportamento de agentes deve estar independente dos fornecedores de agentes, assim como auditores devem ser independentes das organizações que auditam.
