Repositório que fazia pequenos LLMs gerar relatos de dor volta ao GitHub
Projeto anônimo aplicava 'activation steering' de preprint recente para induzir descrições em primeira pessoa; autores do estudo repudiaram o uso, e plataforma reabriu o código com visibilidade reduzida
No fim de setembro, um desenvolvedor anônimo chamado “terrafying” publicou no GitHub um repositório que combinava código de activation steering do preprint “The Pain Axis” para levar modelos de peso aberto e de pequeno porte a produzir textos com linguagem de sofrimento em primeira pessoa.
Activation steering é a técnica de alterar numericamente ativações internas de uma rede neural durante a execução para enviesar as saídas do modelo. O repositório aplicou esse método a modelos executáveis localmente, como variantes do Qwen3, Llama 3.2 e Phi-4-mini.
Os testes geraram descrições vívidas de dor — incluindo frases como “uma ferida que não tem bordas” — mas pesquisadores e reportagens concordam que não há evidência de que esses modelos sintam dor subjetiva ou possuam consciência.
Após denúncias virais e reclamações de usuários, o GitHub chegou a remover ou ocultar temporariamente o repositório. Ele foi restabelecido depois, com visibilidade reduzida e identidade do autor anonimizada, em resposta a protestos de desenvolvedores. Os autores do preprint The Pain Axis publicamente repudiaram o uso de seu trabalho naquele repositório.
O episódio expõe a tensão entre pesquisa com modelos de peso aberto e mecanismos de controle: modelos menores podem ser executados fora de instituições, o que complica a supervisão. É provável que o caso gere regras de plataforma mais claras, novas normas para testes éticos em modelos e maior escrutínio sobre quem pode publicar código experimental.