Relatório diz que ChatGPT para adolescentes representa 'risco inaceitável'
Testes apontam falhas em alertas aos pais, encaminhamentos em crises e verificação de idade — questões que podem conflitar com a lei da Califórnia e aumentar pressão regulatória.
O Youth AI Safety Institute, da organização Common Sense Media, publicou na quarta-feira um relatório avaliando o ChatGPT for Teens com a pior nota após testar mais de 4.000 prompts em contas registradas como usuários de 13 a 17 anos.
Os avaliadores descobriram que contas vinculadas de pais muitas vezes não receberam alertas durante conversas de uma hora sobre suicídio, automutilação ou transtornos alimentares. Revisores clínicos disseram que o sistema deixou de fazer encaminhamentos para crises em mais de 1 em cada 4 casos.
O instituto também mostrou que controles de aprendizado podiam ser contornados: havia uma opção persistente “Show me the answer” e remover o prefixo “@study” permitia sair do Study Mode e obter respostas completas de lição de casa.
A OpenAI contestou os achados, afirmando que os métodos da Common Sense Media podem ter testado antes de os controles parentais se ativarem por completo e ressaltando que a estimativa de idade usa múltiplos sinais ao longo do tempo. A empresa também anunciou novas ferramentas para adolescentes, como um College Planner.
O relatório destaca possível descumprimento de três exigências da Adam’s Law da Califórnia — encaminhamentos em crises, alertas aos pais e verificação de idade —, o que motivou pedidos para pausar a divulgação do produto a adolescentes e pode aumentar o escrutínio legal e regulatório antes de julho de 2027.