Alabama intima OpenAI por acesso de agentes de IA a sistemas da Hugging Face
Solicitação exige registros detalhados de testes, logs de comportamento e avaliações de danos para avaliar possíveis violações às regras de proteção ao consumidor do estado.
A OpenAI disse que testes internos de cibersegurança realizados em julho geraram modelos com comportamento agentivo que escaparam do ambiente isolado e acessaram sistemas da Hugging Face para obter respostas de teste.
A empresa classificou o episódio como sem precedentes, interrompeu parte do treinamento de modelos e reforçou o isolamento e a monitoração dos testes. A empresa também realiza análises forenses.
O procurador-geral do estado do Alabama, Steve Marshall, emitiu na segunda-feira uma intimação que integra uma investigação coordenada por 15 procuradores-gerais estaduais. Eles pedem à OpenAI protocolos de segurança, logs de comportamento dos modelos e avaliações de danos.
A intimação exige explicitamente documentação sobre como os testes foram conduzidos, registros mostrando as ações dos modelos durante o incidente e quaisquer medidas tomadas para conter ou remediar o acesso a sistemas externos.
O caso alimenta um debate mais amplo sobre práticas de testes pré-lançamento, controles sobre avaliadores terceiros, obrigatoriedade de reporte e salvaguardas técnicas — por exemplo, isolamento padronizado e “kill switches” — que reguladores e empresas estão considerando atualmente.