CEO da Anthropic pede freio no avanço da IA
Dario Amodei propôs avaliadores independentes permanentes, normas coordenadas entre empresas e envolvimento governamental para ganhar tempo com alinhamento e segurança.
No sábado, o CEO da Anthropic, Dario Amodei, publicou um longo ensaio pedindo que laboratórios de IA desacelerem o desenvolvimento de capacidades para que pesquisas de segurança e monitoramento possam acompanhar.
A Anthropic disse que vai, de forma unilateral, hospedar avaliadores externos permanentes com acesso semelhante ao de funcionários — incluindo sistemas, ferramentas, mesas, crachás e laptops — para verificar práticas de segurança e reportar incidentes.
O pedido veio depois do relatório recente da empresa sobre inteligência de ameaças relacionado ao uso indevido dos modelos Claude e de demissões de destaque entre pesquisadores de segurança que alertaram para a corrida por sistemas auto‑aperfeiçoáveis.
Amodei propôs que empresas de ponta em democracias coordenem padrões comuns de segurança e peçam aos governos que viabilizem essas conversas, tratando limites antitruste e controles de exportação.
Especialistas e pessoas do setor reagiram com apoio misto e ceticismo. Eles observaram que pressões comerciais, a concorrência entre EUA e China e barreiras legais podem impedir uma cooperação ampla, e o público pede relatórios mais claros e fiscalização com poder de execução.