Anthropic diz ter bloqueado tentativas de usar Claude em pesquisa para armas biológicas

A Anthropic informou nesta quinta‑feira que sua equipe de inteligência sobre ameaças identificou e interrompeu dezenas de tentativas de uso indevido do modelo Claude entre dezembro de 2025 e agosto de 2026, incluindo cinco casos que a empresa avaliou como ligados a pesquisas biológicas que poderiam apoiar o desenvolvimento de armas.

Um dos casos citados envolveu um pedido de ajuda para redigir um projeto de financiamento para trabalho de ganho de função no vírus chikungunya. Outros incidentes mencionados pela empresa se referiam a gripe aviária, ortopoxvírus e pesquisas com toxinas. A Anthropic afirma que bloqueou esses pedidos porque a intenção não pôde ser determinada de forma confiável.

A companhia declarou ter banido as contas envolvidas, colaborado com parceiros para derrubar redes de revenda e de retransmissão usadas para contornar restrições regionais, e compartilhado suas descobertas com agências governamentais e outros laboratórios de IA.

Segundo o relatório, nenhum dos casos documentados usou os modelos mais recentes da Anthropic, das classes Claude Fable ou Mythos, exceto por um episódio de destilação ilícita; a empresa afirma ter aplicado restrições mais rígidas a esses modelos mais novos.

O documento tem 154 páginas e foi publicado dias depois da renúncia do pesquisador Jacob Coxon, que fez alertas sobre riscos de IA fora de controle. A divulgação acontece também em um momento em que a Anthropic vinha se preparando para um IPO, ampliando seu grupo de subscrição — circunstâncias que reacenderam pedidos por maior supervisão e por obrigatoriedade de relato de incidentes.