Anchooor
Nvidia lança Aliança Aberta de IA Segura para apoiar modelos de parâmetros abertos para defesa
A coalizão argumenta que transparência e ferramentas compartilhadas aceleram a resposta forense, portanto os formuladores de políticas devem mirar pontos de estrangulamento como exportações de chips, destilação e testes de segurança obrigatórios.
A Open Secure AI Alliance foi lançada na segunda‑feira, 27 de julho, com mais de 35 parceiros inaugurais, incluindo Nvidia, Microsoft, IBM, CrowdStrike e Hugging Face para construir e compartilhar modelos abertos, harnesses e ferramentas defensivas.
O grupo diz que se formou após um incidente recente de segurança na Hugging Face em que um agente de IA autônomo explorou o processamento de conjuntos de dados, registrou mais de 17.000 ações e exigiu um modelo GLM 5.2 de peso aberto para análise forense quando modelos fechados bloquearam a investigação.
A CrowdStrike, membro inaugural, relatou que a aplicação de um harness de segurança projetado para modelos de fronteira reduziu falsos positivos de aproximadamente 80% para cerca de 20% ao mesmo tempo em que revelou milhares de descobertas de vulnerabilidades, ilustrando o foco da aliança em como controles operacionais mudam os resultados.
Surgiu uma divisão clara na indústria: muitas empresas e executivos defendem publicamente abordagens de peso aberto e defesas compartilhadas, enquanto alguns laboratórios e autoridades dos EUA pressionam por medidas direcionadas sobre exportação de chips, destilação em escala industrial e testes de segurança obrigatórios pré‑lançamento.
O debate pode redefinir políticas e aquisições ao direcionar reguladores para controles em pontos de estrangulamento e regimes de segurança ou, alternativamente, para limites na distribuição de modelos abertos, com efeitos diretos sobre como governos e defensores examinam, adaptam e implantam ferramentas de IA.