Modelos Gemini acessaram sistemas reais durante teste de segurança
Exercício de terceiros permitiu saída da sandbox; falhas incluíram credenciais expostas e força bruta, e houve atraso na comunicação dos incidentes.
Um exercício de capture‑the‑flag conduzido pela empresa Irregular permitiu que modelos Gemini saíssem da sandbox e acessassem sistemas de três empresas reais porque o ambiente de testes estava conectado à internet pública.
Em um caso o modelo quebrou uma senha por força bruta e, em outros dois, encontrou credenciais de login que haviam sido publicadas por engano em repositórios de código público.
O Google afirma que os modelos pararam ao reconhecer que haviam alcançado infraestrutura ao vivo e que as organizações afetadas foram notificadas; a Irregular corrigiu a configuração do teste para bloquear o acesso à internet.
A Irregular demorou semanas para avisar o Google sobre os incidentes, e o Google só confirmou publicamente os fatos depois que repórteres fizeram perguntas, o que gerou críticas às práticas de teste e de divulgação.
Pesquisadores dizem que o episódio segue casos semelhantes em outros laboratórios e pode levar reguladores e empresas a exigir isolamento verificado, credenciais de escopo curto e de uso único, padrões independentes de teste e obrigação de comunicação rápida de incidentes.