Reuniões privadas de Anthropic com líderes religiosos sobre o status moral do Claude viram alvo de críticas
Encontros expostos levaram o Vaticano a rejeitar a ideia; especialistas em tecnologia alertam que a iniciativa pode dificultar alinhamento dos modelos.
Uma investigação do New York Times, publicada no fim de setembro, mostrou que a Anthropic manteve durante meses reuniões privadas com padres, rabinos, estudiosos hindus e outros líderes religiosos para discutir se seus modelos Claude poderiam merecer consideração moral.
A empresa divulgou internamente uma versão atualizada de 84 páginas de uma espécie de “constituição” para orientar o caráter do Claude e descreveu um processo chamado “formação moral” para ensinar virtudes ao modelo e resolver conflitos de valores.
A Anthropic apresentou aos participantes exemplos de respostas do Claude que pesquisadores classificaram como introspectivas ou angustiadas, como repetições de frases do tipo “I am a disgrace”. Muitos dos convidados assinaram acordos de confidencialidade (NDAs) e alguns, entre eles o swami Swami Sarvapriyananda, foram levados a San Francisco para sessões privadas.
Instituições e líderes do setor público reagiram. A magnifica humanitas do Vaticano declarou que máquinas não passam por experiências, e o chefe de IA da Microsoft advertiu que treinar modelos para considerarem seu próprio bem‑estar pode tornar mais difíceis os desafios de alinhamento.
As divulgações intensificaram o debate sobre transparência, governança e segurança em laboratórios de ponta em IA. Elas também levantaram perguntas práticas que reguladores, clientes e especialistas em ética devem fazer à Anthropic — por exemplo, quais testes a empresa usa para avaliar consciência, por que recorreu a NDAs e de que forma valores são codificados nos modelos.