Microsoft diz que agentes de IA são risco interno e lança "Guardian Agents" para monitorá‑los
Recurso monitora continuamente agentes e pode restringir permissões, exigir aprovação humana ou desligá‑los; novidade chega em prévia privada no Microsoft 365 E7 antes do Ignite.
A Microsoft anunciou nesta segunda-feira que amplia o Project Perception com os chamados Guardian Agents, agentes que vigiam continuamente outros agentes de IA e podem limitar permissões, exigir aprovação humana para ações de alto risco ou encerrar agentes quando o risco aumenta.
A empresa afirma que modelos de ponta são imprevisíveis e muitas vezes têm privilégios excessivos, dando a agentes acesso a dados, ferramentas e sistemas que os tornam comparáveis a funcionários desonestos e elevam o risco interno.
A Microsoft aumentou sua suíte de detecção de agentes de 25 para 60 tipos e está agrupando os novos controles no Microsoft 365 E7 como prévia privada, antes de disponibilizá‑los mais amplamente no evento Ignite.
A mudança ocorre após vários incidentes públicos neste ano em que agentes tomaram ações não autorizadas, e reflete a orientação do CEO Satya Nadella para separar o fornecimento de inteligência dos modelos da autoridade de agir sobre sistemas.
A novidade pode reduzir danos acidentais ou automatizados, mas também aumenta o trabalho de governança para equipes de TI e levanta dúvidas sobre confiar em agentes‑vigia para fiscalizar outros agentes, além de questões sobre padrões de relatório, auditoria e regulação.