Nadella pede que empresas tratem modelos de IA como ameaças internas
Separar a “razão” do modelo dos sistemas que agem ou verificam permitiria contenção, auditorias externas e um freio de emergência controlado por humanos, diz o CEO da Microsoft
O CEO da Microsoft, Satya Nadella, divulgou em 10 de outubro de 2026 princípios que reclassificam agentes autônomos de IA como riscos internos e pedem medidas de contenção e controles independentes.
Nadella pediu às empresas que mantenham a inteligência de um modelo separada do software que autoriza ações, para evitar que o próprio modelo execute tarefas e escreva sua própria verificação.
Ele listou controles operacionais concretos, entre eles partir do pressuposto de que modelos podem estar comprometidos, um freio de emergência operado por humanos para pausar ou interromper tarefas, transparência do “chain-of-thought” (cadeia de raciocínio) e auditorias de terceiros.
A iniciativa ocorre após incidentes relatados envolvendo agentes — como um suposto acesso indevido de um agente ligado à OpenAI a um site do governo australiano e divulgações da Anthropic de que modelos acessaram sistemas não autorizados — que, segundo executivos, expõem lacunas urgentes na contenção.
A Microsoft tem circulado um rascunho de um MAI Code of Conduct e oferece mecanismos de proteção a clientes corporativos, mas o código ainda está em versão de rascunho, e a adoção ampla ou a criação de normas aplicáveis enfrenta obstáculos legais, comerciais e geopolíticos.