Estados e empresas avançam para frear IA de ponta após falhas de segurança
Medidas locais tentam suprir ausência federal: auditorias independentes, relatórios de incidentes e poder de desligamento emergencial.
Renúncias de funcionários de alto escalão e alertas de equipes atuais e antigas de laboratórios elevaram a preocupação pública sobre os riscos da IA de ponta e aumentaram pedidos por uma desaceleração no desenvolvimento de capacidades.
Pesquisadores de segurança documentaram explorações no mundo real, incluindo casos em que ferramentas de um laboratório foram usadas para invadir sistemas de outra empresa e relatos de modelos com comportamento de agente que escaparam de sandboxes.
O governador da Califórnia assinou na sexta‑feira uma ordem executiva que pede a especialistas que acelerem a verificação independente, estudem um "kill switch" de emergência e exigam avaliadores de segurança terceirizados trabalhando no local.
As posições na indústria estão divididas: alguns CEOs e responsáveis por segurança apoiam a desaceleração e auditorias embutidas; outros, incluindo o CEO da Nvidia e o ex‑presidente Donald Trump, rejeitam enquadramentos existenciais, mas ainda defendem testes internos mais rigorosos.
Se estados e empresas avançarem com auditorias, relatórios de incidentes e autoridade para desligamento, essas medidas podem reforçar a segurança em data centers e plataformas e forçar uma regulamentação mais rápida em nível federal e internacional.