Anthropic diz ter bloqueado usos maliciosos do Claude e pede desaceleração do avanço da IA
Relatório de inteligência e plano do CEO por revisores independentes provocam debates sobre pausas coordenadas, novas regras e controles internacionais.
A Anthropic publicou um relatório de inteligência afirmando que sua equipe de ameaças identificou e impediu tentativas repetidas de usar o modelo Claude para projeto de armas, invasões cibernéticas, vigilância, operações de influência, fraudes, cópia de modelos e pesquisas que poderiam viabilizar armas biológicas.
No sábado, o CEO Dario Amodei apresentou um plano em três passos que pede: revisores independentes permanentes dentro das empresas, padrões comuns de segurança entre companhias democráticas e engajamento internacional para desacelerar os avanços de capacidade.
Sam Altman e Elon Musk manifestaram publicamente apoio à proposta de Amodei. A OpenAI disse ter pausado parte dos trabalhos de treinamento, e Altman indicou que a empresa não buscará um IPO em 2026 por preocupações com segurança da IA.
O presidente Donald Trump descartou pedidos por desaceleração da IA como exagerados e ressaltou a liderança dos EUA sobre a China. O Palácio de Buckingham informou que o rei Charles III reunirá líderes de grandes empresas de IA nesta semana para discutir desenvolvimento seguro.
O relatório da Anthropic e intrusões recentes conduzidas por agentes automatizados colocaram na mesa opções práticas de política pública, como controles de exportação sobre chips, coordenação voluntária entre empresas — possivelmente exigindo exceções antitruste restritas — e salvaguardas corporativas mais fortes para proteger pesquisadores e o público.