Revisão humana de conversa com o Claude levou à prisão de mulher na Flórida
Mensagens marcadas pelos sistemas da Anthropic foram revistas por um avaliador humano, que comunicou a polícia de Lee County — caso evidencia como monitoramento de IA pode sobrepor expectativas de privacidade.
Investigadores dizem que mensagens na conta Claude — incluindo uma entrada de 26 de setembro com a frase “I’m going to shoot up the sheriff’s right the now” — foram sinalizadas pelos sistemas automatizados da Anthropic e depois revisadas por um humano, que as reportou ao Lee County Sheriff’s Office.
Deputados de Lee County detiveram Carli Michelle Heller em sua casa em Bonita Springs sem incidentes e a acusaram de crime de segundo grau por fazer ameaças por escrito, conforme a Florida Statute 836.10; sua audiência está marcada para novembro.
As políticas públicas da Anthropic permitem que a empresa compartilhe informações de usuários em emergências limitadas quando acreditar que a divulgação pode prevenir morte ou ferimento grave, e conversas sinalizadas podem ser vistas por revisores humanos e usadas para melhorar detectores de segurança.
Trata‑se de, pelo menos, o terceiro caso relatado desde agosto em que uma conversa no Claude chegou às autoridades, padrão que aumentou o escrutínio sobre como empresas de IA equilibram privacidade de usuários, monitoramento de segurança e obrigações legais.
O episódio levanta questões práticas para usuários e reguladores sobre o que conta como fala privada em chatbots e sobre como as empresas devem definir limites, documentar o acesso de revisores e reagir a possíveis ameaças no futuro.