Geoffrey Hinton diz que humanidade pode se arrepender de criar IA avançada
Ele estimou em 10–20% o risco de extinção humana por IA e pediu regulador ao estilo dos EUA e responsabilidade legal para frear desenvolvimento concentrado.
Geoffrey Hinton, pioneiro das redes neurais modernas, disse esta semana que a humanidade “talvez tivesse sido melhor nunca tendo desenvolvido” a inteligência artificial e deu uma estimativa aproximada de 10–20% de que IA avançada poderia causar a extinção humana.
Hinton alertou para danos catastróficos no curto prazo, afirmando que modelos cada vez mais autônomos (agentic) poderiam possibilitar ataques a sistemas financeiros ou redes de energia, e que esses riscos de infraestrutura poderiam se manifestar dentro de um ano.
Ele culpou uma corrida competitiva entre governos e grandes empresas de tecnologia por ter ultrapassado o trabalho de segurança e criticou duramente líderes que, segundo ele, priorizam o lucro em vez da cautela. Hinton defendeu que desenvolvedores sejam responsabilizados legalmente quando modelos causarem danos.
Figuras do setor, incluindo o CEO da OpenAI, Sam Altman, reconheceram preocupações centrais — perder o controle humano sobre sistemas e a concentração extrema de poder — ao mesmo tempo em que continuam a defender um desenvolvimento acelerado, porém gerido.
O debate já produz opções de política concretas em discussão: criar um regulador independente que exija evidência estatística de segurança antes de liberar modelos; fortalecer a coordenação internacional para frear corridas tecnológicas; e investimento soberano para reduzir a dependência de poucas empresas.