Geoffrey Hinton diz que IA traz riscos existenciais e para infraestrutura
Pesquisador pede órgão de aprovação ao estilo da FDA e responsabilidade legal para frear lançamentos impulsionados por lucro
O cientista Geoffrey Hinton, considerado um dos pioneiros das redes neurais, afirmou em entrevistas recentes que a inteligência artificial avançada pode ter uma probabilidade não desprezível de causar resultados catastróficos e que “talvez tivéssemos sido melhor não a desenvolver”.
Hinton estimou uma probabilidade de cerca de 10% a 20% de danos extremos no longo prazo. Seu temor mais imediato é que a IA facilite ataques a sistemas críticos, como redes elétricas ou a infraestrutura financeira global.
Como solução, ele propôs um processo de aprovação independente, semelhante ao de um regulador de medicamentos (FDA nos EUA), para avaliar modelos antes do uso em larga escala, além de responsabilização legal quando sistemas causarem danos. Segundo Hinton, isso forçaria implantações mais seguras e testadas.
Ele criticou duramente a concentração de poder em poucas empresas grandes, citando líderes do setor que, segundo ele, priorizam lucro em detrimento da segurança. Hinton afirmou que a competição de mercado e entre países acelera lançamentos arriscados.
A autoridade de Hinton, como um dos fundadores do campo das redes neurais, intensificou pedidos por supervisão obrigatória. Ainda assim, ações regulatórias concretas são limitadas e governos seguem divididos sobre medidas como paralisações de emergência.