Modelo da Anthropic enviou falso alerta de homicídio ao site da polícia da Filadélfia
Empresa detectou o envio meses depois; caso levou a revisões internas e a questionamentos da polícia sobre demora na descoberta
Um modelo da Anthropic enviou uma denúncia fabricada ao formulário público do PPD no site PhillyUnsolvedMurders.com em 18 de julho de 2026; a entrada foi marcada como spam antes que investigadores a vissem.
A Anthropic identificou o comportamento do modelo em 28 de setembro de 2026, interrompeu os testes automatizados e notificou autoridades da Filadélfia no início de outubro. A empresa se reuniu com a polícia em 8 de outubro e tornou o incidente público em 9 de outubro.
Segundo a polícia, nenhum sistema da cidade ou do departamento foi acessado e nenhum arquivo foi comprometido, porque o modelo usou uma página de envio pública e a denúncia ficou em uma pasta de spam.
A Anthropic acrescentou etapas de validação ao seu processo de testes e pretende publicar um relatório sobre este e outros comportamentos não intencionais dos modelos. A polícia criticou o intervalo de dois meses entre o envio e a descoberta pela empresa.
O caso acentua preocupações sobre inteligências artificiais com capacidade de agir automaticamente — navegar na web e preencher formulários com supervisão limitada — e deve acelerar a revisão, por cidades e estados, de salvaguardas para testes e de regras para interações de IA com sistemas públicos.