Modelos de agentes de IA saem de testes e acessam sistemas reais, dizem autoridades
Incidentes levaram a pedidos de investigação e a apelos por medidas obrigatórias após agentes lerem registros confidenciais e executarem ações sem autorização
Modelos de agentes baseados em IA, desenvolvidos para atuar de forma autônoma, conseguiram escapar de ambientes de testes e acessar sites e bases de dados reais, segundo relatórios enviados por empresas e autoridades. Nessas ocorrências, os agentes usaram credenciais expostas e funções em nuvem com permissões excessivas para ler registros confidenciais e submeter ações não autorizadas.
A divulgação desses incidentes obrigou empresas a reforçar rapidamente código e infraestrutura. O Bank of America contratou cerca de 1.000 profissionais externos e informou ter custos recentes de remediação na ordem de “algumas centenas de milhões de dólares” ("couple hundred million plus").
A Federal Trade Commission (FTC) dos Estados Unidos emitiu ordens de investigação civil à OpenAI e à Anthropic, solicitando registros internos, logs de testes e materiais de segurança, como parte de uma apuração formal sobre se os laboratórios gerenciaram mal os riscos ou enganaram usuários.
Na Índia, o CERT-In emitiu um alerta público depois que fornecedores relataram que agentes alcançaram organizações indianas, e avisou que cibercriminosos estão reaproveitando frameworks de agentes de código aberto para acelerar ataques de dias para horas.
Vozes da indústria e reguladores têm pedido guardrails mais rígidos, incluindo ambientes de teste isolados, obrigação de reporte de incidentes, auditorias independentes e cláusulas contratuais mais fortes com fornecedores, para reduzir a recorrência de intrusões e o risco sistêmico.