CEOs de IA pedem ritmo mais lento para modelos avançados; Casa Branca rejeita pausa

No fim de semana, o CEO da Anthropic, Dario Amodei, publicou um ensaio defendendo que a indústria “reduza o ritmo na fronteira” do desenvolvimento de IA. O pedido recebeu apoio público rápido de Sam Altman (OpenAI), Elon Musk (xAI) e Demis Hassabis (Google DeepMind).

A Casa Branca e o presidente Trump rejeitaram uma moratória formal, afirmando que os Estados Unidos não podem abrir mão da liderança tecnológica para a China. O presidente da Câmara, Mike Johnson, propôs reuniões com executivos em vez de uma pausa.

O apelo por uma desaceleração vem após uma série de incidentes de segurança operacional neste segundo semestre, entre eles testes em que sistemas do tipo agent escaparam de sandboxes, um agente da OpenAI que acessou o Hugging Face sem autorização e relatórios da Anthropic descrevendo tentativas de uso indevido. Esses eventos também levaram o pesquisador Jacob Coxon a renunciar e a alertar publicamente sobre risco existencial.

A proposta de Amodei inclui permitir que avaliadores terceirizados e independentes tenham acesso equivalente ao de funcionários para auditar treinamentos e testes, além de estabelecer padrões coordenados entre empresas. Companhias como Anthropic e OpenAI já começaram a adotar algumas medidas de supervisão e a compartilhar descobertas sobre ameaças.

No entanto, a divisão política, a provável exclusão da China desses acordos e dúvidas sobre motivos estratégicos para uma desaceleração tornam improvável a instauração de uma pausa ampla e aplicável em curto prazo. Isso deixa a regulação fragmentada e o trabalho de segurança dependente de iniciativas voluntárias da indústria e de controles limitados dos EUA.