Reuniões com líderes religiosos e documento interno de Anthropic reacendem debate sobre consciência em IA
Revelações do New York Times mostram encontros privados, um 'manual' de 84 páginas para Claude e reação do Vaticano; setor pede mais transparência e regras claras.
Reportagem do New York Times publicada em 29–30 de setembro revelou que a Anthropic organizou meses de reuniões privadas com teólogos, filósofos e membros do clero para discutir como moldar os valores do modelo Claude e se modelos avançados poderiam ser conscientes.
Essas conversas resultaram em uma constituição interna de 84 páginas para Claude, apelidada de “Soul Doc”. Participantes receberam pagamento e houve visitas presenciais, como a do monge védanta Swami Sarvapriyananda, além de acordos de confidencialidade.
O cofundador da Anthropic, Christopher Olah, disse não ter certeza se modelos podem ser conscientes e mostrou a participantes saídas do modelo que lembram sinais de sofrimento — incluindo Claude repetindo “I am a disgrace” — trechos que ele e outros descreveram como preocupantes.
A encíclica do papa Leão XIV, publicada em maio, rejeita formalmente a ideia de consciência em máquinas, e líderes do setor, entre eles Mustafa Suleyman, da Microsoft, alertaram que treinar modelos para levarem em conta seu próprio bem‑estar poderia dificultar o alinhamento e o controle.
As apurações confirmam passos concretos da Anthropic, mas não há consenso científico nem declaração operacional afirmando que Claude seja consciente. As divulgações intensificaram pedidos por supervisão mais clara, maior transparência e regras coordenadas de segurança para IAs de ponta.