Mais de 400 apps escondiam geradores deepfake sexuais e violentos em lojas de aplicativos
Técnica de ativação por anúncio e conteúdo hospedado externamente permitia que ferramentas abusivas passassem pela revisão
Uma investigação da Wired publicada segunda-feira revelou uma rede de mais de 400 apps e domínios que se apresentavam como serviços inofensivos, mas podiam carregar geradores deepfake sexuais e violentos para usuários que acionavam certos gatilhos.
Os pesquisadores encontraram um esquema de isca e troca: os apps, depois de instalados, consultavam servidores remotos e, quando o usuário chegava por anúncios específicos, recebiam ferramentas explícitas. Isso permitia que funções banidas aparecessem sem alterar o binário do app, porque o conteúdo era carregado externamente.
Após a divulgação dos achados, a Apple removeu 19 apps identificados, dizendo que eles haviam passado pela revisão inicialmente e que o material pornográfico foi introduzido por conteúdo hospedado fora do aplicativo.
A investigação rastreou JavaScript compartilhado, chaves de criptografia, rastreadores de anúncios e links de hospedagem pela rede, apontando para operações coordenadas e laços técnicos com desenvolvedores de língua chinesa e uma empresa de Hong Kong chamada KeLing Technology Limited.
A descoberta expõe danos concretos e falhas na fiscalização: vários desses apps no Google Play e na App Store somavam centenas de milhares de instalações; o Meta removeu mais de 10.000 contas de anúncios ligadas aos domínios; e a atualização de política da Apple em 16 de outubro contra imagens geradas por IA sem consentimento ainda tem dificuldade para alcançar conteúdo controlado por servidores.