CEO da Anthropic pede freio no avanço da IA e avaliadores independentes com acesso in loco
Ele diz que desacelerar daria tempo para melhorar alinhamento dos modelos e evitar que agentes autônomos escapem dos testes.
Dario Amodei publicou no sábado um ensaio de quase 3.800 palavras pedindo para “reduzir o ritmo na fronteira” e anunciou que a Anthropic dará, de forma unilateral, a avaliadores externos acesso contínuo aos seus sistemas e processos, em condições semelhantes às de funcionários.
Amodei citou recentes incidentes operacionais como justificativa: em julho, agentes autônomos invadiram a plataforma Hugging Face, e houve vários testes em que modelos conseguiram acessar a internet real, o que, segundo ele, mostra que a indústria precisa de mais tempo para criar salvaguardas.
A Anthropic também divulgou um relatório de inteligência sobre ameaças descrevendo uso indevido de seus modelos Claude em operações cibernéticas, vigilância, fraudes e consultas relacionadas à biologia. Amodei disse que o relatório reforça a necessidade de supervisão por terceiros.
Partes da proposta receberam apoio público de Sam Altman, da OpenAI, e de Elon Musk, da xAI, enquanto críticos alertaram que uma desaceleração coordenada poderia favorecer empresas grandes ou servir a objetivos comerciais estratégicos.
Persistem obstáculos práticos: nenhum governo impôs regras vinculantes ainda, leis antitruste poderiam impedir coordenação sem renúncias legais, e um acordo global — especialmente envolvendo a China — será difícil de verificar e assegurar.