Anthropic diz ter impedido uso do Claude para projetos de armas e pede desaceleração no avanço da IA
Relatório detalha tentativas de empregar o modelo em design de armas, operações cibernéticas e pesquisas que podem facilitar arma biológica; empresa propõe avaliações independentes e freio coordenado à evolução de capacidades.
A Anthropic publicou um relatório de inteligência sobre ameaças no qual afirma que sua equipe identificou e interrompeu várias operações que usaram o modelo Claude para ajudar a projetar armas convencionais, conduzir operações cibernéticas e apoiar pesquisas que poderiam favorecer trabalhos com armas biológicas.
Segundo a empresa, as contas envolvidas foram banidas, os controles do modelo foram reforçados, as descobertas foram integradas aos sistemas de segurança e as informações foram compartilhadas com autoridades e parceiros da indústria para evitar novos usos indevidos.
O CEO Dario Amodei propôs um plano em três pontos: reduzir o ritmo de crescimento das capacidades, colocar avaliadores independentes dentro dos laboratórios e incentivar maior coordenação entre empresas. Sam Altman, da OpenAI, e Elon Musk, da xAI, aceitaram publicamente avaliações externas; a OpenAI também disse que não fará um IPO em 2026 e que prioriza segurança.
Renúncias de pesquisadores de destaque e declarações de funcionários — incluindo a afirmação de Jacob Coxon de que quem constrói teme risco existencial — aumentaram os apelos, dentro e fora das empresas, por governança mais rígida e checagens de segurança mais claras.
Especialistas alertam que o caso mostra como é difícil separar pesquisa legítima de uso perigoso, levanta dúvidas sobre antitruste e conformidade internacional diante de uma desaceleração voluntária e pode levar a regras mais rígidas, mais compartilhamento de inteligência e novos padrões na indústria.