OpenAI vai marcar textos do ChatGPT e Codex na União Europeia

A OpenAI anunciou que, nas próximas semanas, ativará uma marca d’água invisível (watermark) para saídas elegíveis do ChatGPT e do Codex em toda a União Europeia, e oferecerá a opção de ativar o recurso a clientes da API em todo o mundo.

O sistema, chamado textGrain, insere um sinal estatístico por meio de uma chave secreta, ajustando levemente as escolhas de palavras do modelo para que um detector consiga identificar texto gerado por IA apenas pelo padrão.

Testes da própria OpenAI mostram limites importantes: a marca é pouco confiável em trechos curtos, muito restritos, traduzidos ou editados. Por exemplo, substituir 10% das palavras por sinônimos reduziu a taxa de detecção de cerca de 92% para 66%; substituir 25% cortou a detecção para cerca de 17%.

O acesso ao detector da marca será inicialmente restrito a pesquisadores aprovados e organizações técnicas; a OpenAI afirma que um resultado positivo não revela quem escreveu ou quem forneceu o prompt, e que um resultado negativo não prova autoria humana.

A medida tem como objetivo cumprir o artigo 50 da Lei de IA da UE antes do prazo de conformidade de 2 de dezembro para modelos anteriores, e segue iniciativas parecidas de concorrentes como a Anthropic. A empresa reconhece, porém, que a aplicação poderá ser limitada, já que a marca pode ser removida por edições ou pela combinação de diferentes saídas.