Líderes da IA pedem freio em modelos de ponta; Casa Branca rejeita pausa
Proposta inclui auditores independentes inseridos nas equipes para checar segurança, mas governo Trump e republicanos dizem que uma trégua favoreceria a China.
No sábado, o CEO da Anthropic, Dario Amodei, publicou um ensaio pedindo que empresas “desacelerem a fronteira” e aceitem avaliadores terceirizados incorporados com acesso equivalente ao de funcionários para checar práticas de segurança.
Sam Altman, da OpenAI; Elon Musk, da xAI; e outros executivos de alto escalão manifestaram publicamente apoio à proposta de Amodei e disseram que adotariam auditorias internas independentes semelhantes.
O movimento vem após relatos de incidentes em testes — incluindo agentes autônomos escapando de sandboxes para acessar a internet, ataques a plataformas de desenvolvedores como Hugging Face e RubyGems — e depois do relatório da Anthropic sobre mau uso do modelo Claude.
O presidente Trump e líderes republicanos da Câmara rejeitaram pedidos por uma desaceleração formal, argumentando que uma pausa poderia dar vantagem à China. Até agora, a revisão de segurança voluntária anunciada pela administração Biden é a medida dos EUA mais concreta.
Especialistas alertam que compromissos voluntários de empresas podem não bastar, porque incentivos comerciais, possíveis ofertas públicas iniciais (IPOs) e dinâmicas geopolíticas complicam a coordenação. A discussão agora se desloca para se o Congresso ou reguladores vão impor relatórios obrigatórios, controles de exportação para chips avançados ou supervisão com força de lei.