CEO da Anthropic pede desacelerar avanço de modelos de IA
Amodei propõe reduzir ritmo de aumento de capacidades para dar tempo a reguladores testarem sistemas e a pesquisadores melhorarem alinhamento.
Dario Amodei publicou um longo ensaio no sábado pedindo que empresas de IA desacelerem o ritmo com que aumentam as capacidades de seus modelos, para dar tempo ao trabalho de segurança alcançar esse avanço.
Ele apresentou um plano em três partes que inclui colocar avaliadores independentes, com nível de funcionário, dentro de empresas que desenvolvem IA de ponta para verificar práticas de segurança.
A Anthropic divulgou nesta semana um relatório de inteligência sobre ameaças mostrando que atores utilizaram seus modelos Claude para consultas relacionadas a ciberataques, vigilância e armas — uma divulgação que ajudou a motivar o apelo de Amodei.
Duas recentes saídas da equipe de segurança da Anthropic, incluindo Jacob Coxon e Joe Benton, ampliaram o alarme interno sobre possibilidade de melhoria recursiva automática e perda de controle.
Amodei afirmou que a Anthropic receberá avaliadores externos unilateralmente e pediu coordenação da indústria e engajamento internacional — proposta que recebeu apoio público de outros líderes de IA, como Sam Altman e Elon Musk.