OpenAI diz ter desativado operações vinculadas à Rússia e Irã que criaram jornalistas falsos em veículos reais
Campanhas usaram ChatGPT para gerar pseudônimos de repórteres, um falso 'think tank' e comentários sintéticos e assim inserir propaganda em jornais e sites menores.
A OpenAI anunciou nesta quinta-feira que desativou duas campanhas de influência que usavam seus modelos e baniu as contas do ChatGPT associadas às operações.
Uma das frentes, chamada Dark Clark, criou a persona falsa Mia Clark e um suposto Social Research Center para semear propaganda na América Latina e provocar negas oficiais e checagens de fatos.
A outra operação criou cerca de sete pseudônimos de jornalistas e publicou quase 100 matérias em aproximadamente uma dúzia de veículos de pequeno e médio porte, usando o ChatGPT para rascunhar textos, pitches e comentários em redes sociais.
A OpenAI classificou a campanha ligada à Rússia com impacto maior em sua escala interna e afirmou não conseguir vincular de forma definitiva qualquer uma das duas operações a uma agência estatal específica, descrevendo a atuação ligada ao Irã como compatível com um esforço comercial de contratados.
As divulgações mostram como a IA facilita a produção de conteúdo com aparência plausível, expõem fragilidades na verificação de colaboradores em muitos veículos e podem levar editoras e governos a endurecer procedimentos de checagem e monitoramento.