Anthropic diz ter interrompido tentativas de usar Claude para projetar armas e pesquisa biológica perigosa

A Anthropic afirma que sua equipe de segurança detectou e interrompeu várias operações entre dezembro de 2025 e agosto de 2026 que tentaram usar o modelo Claude em sete áreas de risco: armamentos, possível uso indevido biológico, operações cibernéticas, vigilância, fraude, campanhas de influência e cópia ilícita do modelo.

A empresa detalhou seis casos relacionados a trabalho com armas convencionais, atribuindo operações a atores na China, na Rússia e no norte do Iêmen. Entre os episódios, descreve um grupo iemenita que usou Claude para desenvolver código de guiagem, navegação e controle para foguetes, um míssil balístico de longo alcance e um projétil com planador hipersônico.

A Anthropic relatou cinco incidentes que levantam preocupações de duplo uso biológico, incluindo uma plataforma que tentou habilitar Claude para trabalhos de ganho de função com chikungunya e um pesquisador que planejava experimentos de adaptação do vírus da gripe aviária. A empresa afirma ter limitado esses usuários a modelos menos capazes e não divulgou detalhes identificadores.

Como medidas imediatas, a Anthropic diz ter banido as contas implicadas, fortalecido controles de segurança, incorporado as descobertas aos seus sistemas de detecção e compartilhado informações com forças de segurança e parceiros setoriais. O CEO propôs revisores externos e uma desaceleração planejada do desenvolvimento de modelos de ponta.

As divulgações aumentaram pedidos de alguns parlamentares e especialistas por regras mais rígidas ou por desacelerações coordenadas, e devem estimular mais reportes da indústria, maior fiscalização governamental e cooperação internacional na gestão dos riscos da IA.