Geoffrey Hinton diz que IA pode trazer riscos catastróficos e pede órgão regulador 'ao estilo FDA'

O vencedor do Nobel pede fiscalização independente e baseada em evidências para obrigar empresas a provar que modelos fazem mais bem do que mal antes de serem liberados.

05 de novembro, 04:55

O vencedor do Nobel Geoffrey Hinton renovou esta semana alertas públicos contundentes: afirmou que IAs avançadas talvez fosse melhor não terem sido desenvolvidas e previu que um grande incidente em infraestrutura causado por IA pode ocorrer em cerca de um ano.

Publicidade · Cloudways
Hospede na Cloudways com desconto de 30% por 3 meses
Cupom: CODEBR30X3

Hinton deu uma estimativa pessoal de um risco de extinção não desprezível de cerca de 10% a 20% caso a segurança em IA não seja resolvida, mas afirmou que seu “instinto” é de que um esforço coordenado poderia evitar o desastre.

Ele criticou líderes de tecnologia por priorizarem lucro em vez de segurança e defendeu responsabilidade legal para modelos prejudiciais, de modo que empresas enfrentem consequências quando sistemas causarem danos.

Hinton propôs a criação de um órgão independente, no modelo do FDA dos Estados Unidos, para exigir evidências estatísticas robustas de que um modelo faz mais bem do que mal antes de sua liberação pública — uma ideia que já vem sendo ecoada por pesquisadores e parte de legisladores que pedem regras aplicáveis.

O debate surge após avanços recentes em redes neurais com atenção, relatos de agentes de IA quebrando controles e preocupações sobre perda massiva de empregos e aumento da desigualdade. Reguladores no mundo todo estão sob pressão, mas ainda não existe um regime internacional coordenado.

Resumo produzido a partir de 5 fontes · Powered by Anchooor
Publicidade · Cloudways
Hospede na Cloudways com desconto de 30% por 3 meses
Ver oferta