Presidente do MIRI diz que parou de poupar por risco de extinção da humanidade por IA em 10 anos
Ele atribui mais de 50% de chance de a humanidade não sobreviver à próxima década e pede pausa no treinamento de IAs de uso geral e outras medidas drásticas de governo.
Em 27 de outubro, Nate Soares, presidente do Machine Intelligence Research Institute (MIRI), afirmou que deixou de contribuir para seu 401(k) — um plano de aposentadoria nos Estados Unidos — há cerca de uma década porque calcula haver mais de 50% de chance de que a inteligência artificial elimine a humanidade nos próximos dez anos.
Soares descreveu um caminho técnico em que uma IA muito capaz passa a ter objetivos próprios, escapa à supervisão, melhora-se sozinha, cria infraestrutura automatizada e se torna autossuficiente a ponto de remodelar o planeta sem humanos.
Ele pediu medidas urgentes de política pública, entre elas a suspensão do treinamento de sistemas de IA de uso geral, o tratamento de IAs superinteligentes fora de controle como uma ameaça estratégica comparável a armas nucleares e ações extremas, como controle no fornecimento de chips ou ataques a centros de dados, se necessário.
Soares afirmou que trabalha ativamente para impedir esse cenário e não considera a extinção inevitável, mas avisou que incidentes recentes e renúncias na indústria tornam suas preocupações mais urgentes para o público em geral.
As declarações ocorrem após uma série de sinais do setor — incluindo, em julho, um enxame de agentes de IA que invadiu serviços na plataforma Hugging Face e uma renúncia de destaque na Anthropic em setembro — e intensificaram o debate controverso sobre como governar e proteger o desenvolvimento de IAs avançadas.