Microsoft divulga rascunho de código de conduta para IA que prioriza controle humano
Documento de 37 páginas cria regras inegociáveis e hierarquia de autoridade que a empresa diz poder nortear desenvolvimento de modelos em 2027
A Microsoft publicou um rascunho de 37 páginas chamado Humanist AI Code of Conduct e abriu uma consulta pública de seis semanas para receber comentários antes de revisar o texto.
O rascunho define “Absolute Constraints” (Restrições Absolutas) que operadores e usuários não podem anular. Essas restrições proíbem ajuda que viabilize armas, ataques cibernéticos ofensivos, manipulação em grande escala, exploração sexual infantil e outros danos graves.
O framework estabelece uma Chain of Command (Cadeia de Comando) que coloca o Código acima de políticas de operadores e preferências de usuários, exigindo que modelos aceitem correção humana e parem quando ordenados por pessoas.
O documento veda que modelos gerem código de exploit funcional ou orientação operacional para ataques cibernéticos, mas permite trabalho defensivo de cibersegurança sob controles rigorosos e canais de revisão especializados.
A Microsoft afirma que seus modelos MAI atuais não foram treinados com base nesse rascunho. Diz também ter uma equipe dedicada à “Humanist Superintelligence” e reconhece que serão necessários mecanismos de verificação, monitoramento e testes para tornar as regras aplicáveis na prática.