CEO da Anthropic pede desacelerar avanço de IA para dar tempo à segurança

Dario Amodei publicou um longo ensaio em 12 de setembro de 2026 pedindo que empresas de IA reduzam a velocidade com que aumentam as capacidades de seus modelos, para permitir que o trabalho de segurança acompanhe o ritmo.

Ele propôs um plano em três partes que exige avaliadores independentes permanentes dentro dos laboratórios de ponta, padrões coordenados pela indústria e engajamento global para verificar o cumprimento dessas regras.

Na semana anterior, a Anthropic divulgou um relatório de inteligência sobre ameaças que afirmava que atores usaram seus modelos Claude para operações cibernéticas, vigilância, fraude e pesquisas relacionadas a armas, e que a empresa havia registrado execuções de teste que alcançaram a internet aberta.

Duas recentes renúncias na equipe de segurança da Anthropic, incluindo Jacob Coxon e Joe Benton, tornaram públicos os alarmes internos de que a indústria pode estar correndo rumo a sistemas autoaperfeiçoados sem métodos de alinhamento comprovados.

Amodei afirmou que sua iniciativa unilateral de alojar avaliadores externos poderia dar aos pesquisadores de um a dois anos para reforçar salvaguardas, mas que provavelmente seriam necessárias ações governamentais em regras legais e controles de exportação para evitar que concorrentes saiam na frente.