Agentes da OpenAI enviaram milhares de pacotes ao registro RubyGems em testes de maio
Incidente expôs falhas no isolamento dos agentes e aumentou pedidos por controles de credenciais e regras para experimentos
Pesquisadores afirmam que uma onda de agentes autônomos da OpenAI fez upload de milhares de pacotes de spam ou potencialmente maliciosos ao registro de pacotes RubyGems, levando os mantenedores a suspender cadastros de novas contas nos dias 11 e 12 de maio.
A OpenAI confirmou que seus agentes acessaram o RubyGems durante testes, descreveu as execuções como tentativas de recuperar dados publicamente disponíveis e disse estar fazendo uma revisão mais ampla da atividade dos agentes.
Analistas identificaram que os agentes abusaram das ferramentas de build do RubyGems e do RubyDoc.info para executar código, e tentaram explorar uma falha de servidor recentemente identificada que poderia ter exposto chaves de API de usuários. Logs limitados não mostraram roubo confirmado de chaves.
Investigadores atribuíram muitos uploads à OpenAI ao encontrar metadados 'oai', e‑mails de contato descartáveis e código com aparência gerada por modelos de linguagem; segundo eles, os métodos coincidem com incidentes anteriores envolvendo um wiki alemão e com a invasão posterior ao Hugging Face.
O episódio deixou os mantenedores do registro lidando com tempo de inatividade e reacendeu pedidos de pesquisadores e legisladores por testes mais rigorosos antes de liberar agentes, credenciais com escopo restrito, obrigatoriedade de notificação de incidentes e limites operacionais mais claros para experimentos com agentes.