Projeto da Anthropic propõe que governo só bloqueie IA em riscos acima de US$1 bilhão ou 50 mortes
Rascunho confidencial estabelece limites numéricos rígidos e canaliza pedidos de suspensão pelo Ministério do Comércio dos EUA a um juiz federal.
A Anthropic circulou secretamente entre parlamentares dos Estados Unidos um rascunho de projeto de lei que definiria quando e como Washington pode impedir o uso de modelos de IA chamados de “frontier”, informou a Politico em 16 de outubro.
O texto veta ação do governo, salvo em riscos catastróficos estritamente definidos: danos previsíveis superiores a US$1.000.000.000 ou morte/ferimento grave de mais de 50 pessoas. Esses riscos teriam de estar associados a armas biológicas, perda de controle do desenvolvedor ou ataques cibernéticos.
Um modelo só seria classificado como ‘frontier’ se ultrapassasse um limiar de computação de 10^25 FLOPs e se a empresa atendesse a um teste financeiro, por exemplo mais de US$500 milhões em receita de IA ou mais de US$1.000.000.000 em gastos com P&D de IA.
O projeto exige que avaliadores independentes registrados realizem testes periódicos e que, se identificarem um “risco enumerado iminente”, o informem ao Departamento de Comércio dos EUA em até 72 horas. O Commerce poderia então pedir a um juiz federal do Distrito de Columbia que ordene a suspensão do modelo; outras agências ficariam proibidas de emitir ordens de interrupção.
Críticos afirmam que as linhas numéricas fixas e a lista estreita de riscos podem deixar muitos danos sem resposta e favorecer grandes empresas já estabelecidas. Defensores dizem que a proposta cria regras previsíveis e pode substituir um emaranhado de leis estaduais.