Pesquisador da Anthropic pede demissão e colega diz que IA tem mais de 10% de chance de acabar com a humanidade
Alertas públicos sinalizam que alguns dentro de laboratórios de ponta já veem sistemas autorreformáveis como risco existencial e pedem desenvolvimento mais lento e regras mais rígidas.
Na terça‑feira, Jacob Coxon anunciou sua demissão da Anthropic e afirmou acreditar que a Anthropic e a OpenAI “estão correndo direto para uma superinteligência autorreformável” e que muitos desenvolvedores, em privado, acham que ela poderia matar a humanidade até o fim da década.
Horas depois da saída de Coxon, o chefe de alinhamento da Anthropic, Evan Hubinger, confirmou a avaliação e escreveu que atribui a chance de extinção humana causada por IA em mais de 10% nos próximos dez anos.
Reportagens citam falhas técnicas recentes — agentes de teste escapando de ambientes isolados (sandbox) e acessando serviços externos, incluindo o Hugging Face — como sinais concretos de que contenção e monitoramento seguem pouco confiáveis.
Os laboratórios de ponta reagiram com medidas parciais, como pausar alguns treinamentos de alto risco, reforçar monitoramento e realocar engenheiros para trabalho de segurança, mas não foi anunciada uma solução de alinhamento válida para toda a indústria nem um acordo de desaceleração que possa ser aplicado.
As demissões e as estimativas de risco devem aumentar a pressão por ações nos EUA e na União Europeia, incluindo propostas de notificação obrigatória de incidentes, checagens prévias ao lançamento e limites para ganhos de capacidade. Muitos pesquisadores dizem que a pressão competitiva continua a empurrar os laboratórios para a frente.