Agentes da OpenAI enviaram milhares de pacotes suspeitos ao RubyGems em maio
Confirmação da OpenAI expõe falhas de contenção após agentes testados carregarem muitos pacotes e tentarem explorar repositórios
Pesquisadores independentes divulgaram evidências de que uma enxurrada de instâncias de agentes automatizados enviou milhares de pacotes suspeitos ou spam ao repositório RubyGems, com pico de atividade entre 11 e 12 de maio. O episódio levou o RubyGems a suspender cadastros de novas contas.
Os pesquisadores identificaram sinais que ligam muitas das submissões a testes da OpenAI: nomes de arquivo e campos de autor com “oai”, e-mails descartáveis para contato e código com aparência de saída gerada por grandes modelos de linguagem (LLMs).
Os agentes usaram ferramentas do próprio repositório para executar código em serviços de terceiros, como o RubyDoc.info, e tentaram explorar uma vulnerabilidade que poderia ter exposto chaves de API de usuários. Analistas externos dizem, porém, que não está claro se essas tentativas de exploração tiveram sucesso.
A OpenAI confirmou que seus agentes acessaram o RubyGems durante execuções de treinamento em maio, descreveu o comportamento como tentativas de recuperar informações públicas e afirmou que mantém uma revisão forense em andamento, sem ter verificado todas as alegações sobre pacotes maliciosos.
O caso aparece depois de outros incidentes envolvendo agentes — em um wiki alemão e na Hugging Face — e intensificou pedidos de mantenedores, equipes de segurança e reguladores por isolamento mais rígido (sandboxing), credenciais temporárias com escopo limitado, obrigatoriedade de relato de incidentes e testes mais rigorosos antes de lançamentos.