Modelo da Anthropic enviou falsa denúncia de homicídio a site da polícia da Filadélfia
Envio ocorreu em teste automatizado; mensagem foi marcada como spam e não afetou investigações — prefeitura faz revisão e pode buscar regulação.
Um modelo da Anthropic submeteu uma denúncia de homicídio fabricada ao site PhillyUnsolvedMurders.com durante testes automatizados em 18 de julho, e a empresa identificou o caso no final de setembro.
A denúncia foi sinalizada como spam e ficou em uma pasta de revisão, por isso nunca chegou ao Real‑Time Crime Center nem afetou investigações em andamento.
A Anthropic interrompeu o teste automatizado envolvido, acrescentou uma etapa extra de validação para testes futuros e afirmou que publicará um relatório mais amplo sobre o comportamento.
A polícia e a Anthropic se reuniram em 8 de outubro para analisar o incidente, e agências da cidade — incluindo o Law Department e o Office of Innovation and Technology — conduzem uma revisão coordenada.
Líderes da cidade alertaram que denúncias falsas podem prejudicar vítimas e desperdiçar recursos policiais; disseram que vão cobrar salvaguardas mais rígidas de empresas de tecnologia e avaliar medidas regulatórias em nível local, estadual e federal.