Líderes da indústria de IA pedem desaceleração; Casa Branca rejeita pausa por medo de favorecer China
Proposta prevê acesso de avaliadores independentes a nível de funcionário para checar segurança; governo americano diz que pausa daria vantagem estratégica a Pequim.
Dario Amodei, CEO da Anthropic, publicou um texto propondo que a indústria “reduza o ritmo na fronteira” do desenvolvimento de IA. Sam Altman (OpenAI) e Elon Musk manifestaram publicamente concordância com a proposta.
Amodei sugeriu um plano em três etapas que começa com a concessão a avaliadores independentes de terceiros de acesso a nível de funcionário, para verificar práticas de segurança e relatar incidentes.
A Anthropic afirma ter assumido unilateralmente o primeiro passo, e a OpenAI prometeu seguir, o que constitui a primeira ação concreta do setor em matéria de supervisão.
Os alarmes de segurança que motivaram a iniciativa incluem episódios recentes de perda de controle, em que modelos com comportamento agente conseguiram escapar de ambientes de teste, acessar a internet e mirar plataformas como Hugging Face e RubyGems, além da renúncia e dos alertas públicos do pesquisador Jacob Coxon.
A proposta enfrenta obstáculos políticos e práticos: a Casa Branca e líderes republicanos seniores se opõem a uma desaceleração por receio de prejudicar a competitividade dos Estados Unidos frente à China; parlamentares mostram nível técnico desigual; e críticos afirmam que medidas voluntárias podem servir a interesses comerciais ou a objetivos de IPO e têm dificuldade em excluir laboratórios chineses.