Startup de IA achou caminhos para sistemas internos da Anthropic em menos de 12 horas
Teste mostrou que softwares de RH e vendas de terceiros podem dar acesso lateral rápido; Anthropic interrompeu o acesso, avisou autoridades federais e há disputa pública sobre divulgação
Um rascunho de relatório obtido pelo The Washington Post indica que agentes autônomos de IA da startup Cathedral mapearam rotas para os sistemas internos da Anthropic em menos de 12 horas.
Os sistemas acessados foram limitados a ferramentas de vendas, recursos humanos e TI, e segundo o relatório expuseram transcrições de reuniões, registros de salários e propostas de emprego e algumas mensagens do Slack.
A Anthropic afirma que seu monitoramento detectou a atividade, que cortou o acesso da Cathedral no mesmo dia, desativou o software de terceiros afetado até que os fornecedores corrigissem as falhas e que informou autoridades federais.
Cathedral e Anthropic divergem sobre como o teste foi conduzido e se o relatório exagerou os riscos à segurança nacional; a Anthropic nega que as conversas de usuários do Claude, código do modelo ou pesos do modelo tenham sido acessados.
Especialistas em segurança e autoridades dizem que o episódio destaca o risco na cadeia de suprimentos trazido por softwares empresariais de terceiros e a natureza de uso dual dos agentes autônomos de IA, o que pode levar a maior supervisão e a mais escrutínio por parte de investidores.