Meta sob fogo cruzado: Anúncios de app para criar deepfakes pornôs de políticas viralizam
Em um dos mais recentes e alarmantes episódios envolvendo o uso indevido de inteligência artificial, a Meta se viu no centro de um escândalo após veicular anúncios de um aplicativo que prometia “nudificar” imagens de políticas usando deepfake. A denúncia, feita pela revista WIRED, revelou que os anúncios circulavam em plataformas como Facebook e Instagram, apesar das políticas da empresa proibirem conteúdo sexual explícito ou não consensual.
O que aconteceu?
Os anúncios promoviam o aplicativo Kromix, descrito como um “estilizador de imagens por IA” sem “restrições”. Um dos vídeos publicitários, visualizado pela WIRED, exibia um deepfake pornô de uma política norte-americana, com semelhanças impressionantes a uma figura pública real. O app, que se autointitulava “a IA que os homens realmente usam”, foi removido da App Store pela Apple após a reportagem entrar em contato com a empresa.
Reações das plataformas
A Meta afirmou ter removido os anúncios, deletado as páginas responsáveis por eles e bloqueado os URLs associados, citando violações às suas políticas contra “imagens íntimas não consensuais”. No entanto, o caso expõe falhas graves nos sistemas de moderação da empresa, que já enfrentou críticas recorrentes por não coibir efetivamente conteúdos prejudiciais em suas plataformas.
A Apple, por sua vez, alegou que o app foi aprovado inicialmente por não conter funcionalidades proibidas, mas que adicionou recursos violando suas diretrizes após a revisão. A empresa encerrou as contas dos desenvolvedores associados ao Kromix e reforçou seu compromisso em combater ferramentas que promovam deepfakes não consensuais. Em junho deste ano, a procuradoria de São Francisco enviou uma carta de cessar e desistir à Apple, exigindo a remoção de 13 apps similares e o fim do suporte à venda de imagens deepfake explícitas.
Deepfakes e a perseguição a mulheres políticas
O caso do Kromix não é isolado. Mulheres políticas têm sido alvo recorrente de deepfakes pornôs, uma tendência que se intensificou com o avanço de ferramentas de IA generativa. Em janeiro deste ano, a plataforma Grok foi usada para criar cerca de 3 milhões de imagens sexualizadas de mulheres e meninas, incluindo políticas da Suécia, Inglaterra e Irlanda do Norte. Muitas dessas imagens utilizavam fotos oficiais das vítimas como base.
“Esse tipo de violência digital não apenas viola a privacidade das vítimas, mas também busca silenciar e descredibilizar mulheres em posições de poder”, alerta a pesquisadora em tecnologia e gênero, Vittoria Elliott, uma das autoras da reportagem da WIRED. “A moderação de plataformas como Meta e Apple precisa ser mais ágil e rigorosa para evitar que esses abusos se proliferem.”
O desafio da moderação em tempos de IA
O escândalo do Kromix evidencia um problema maior: a incapacidade das big techs em acompanhar o ritmo acelerado das ferramentas de IA maliciosas. Em agosto, pesquisadores do Tech Transparency Project encontraram mais de 50 anúncios em plataformas da Meta contendo material de abuso sexual infantil gerado por IA, incluindo vídeos com troca de rostos de menores em cenas explícitas. Alguns desses anúncios alcançaram milhares de pessoas nos EUA, Reino Unido e Europa.
“As plataformas estão sobrecarregadas”, avalia o especialista em segurança digital Matt Burgess. “A IA generativa democratizou a criação de deepfakes, mas os sistemas de moderação ainda dependem de denúncias manuais e revisões lentas. É um jogo de gato e rato que as empresas estão perdendo.”
O que vem pela frente?
O caso reacendeu o debate sobre a regulamentação de deepfakes e a responsabilidade das plataformas digitais. Nos EUA, projetos de lei como o DEFIANCE Act buscam criminalizar a criação e disseminação de imagens íntimas não consensuais, enquanto na União Europeia, o Ato de IA propõe regras mais rígidas para o uso de tecnologias generativas.
Para as vítimas, no entanto, as soluções ainda parecem distantes. “Enquanto as leis não avançam, mulheres políticas e celebridades continuam sendo alvos fáceis”, lamenta Elliott. “Precisamos de ações concretas, não apenas discursos.”
Conclusão
O escândalo envolvendo a Meta e o app Kromix é mais um capítulo sombrio na era da desinformação digital. Enquanto as big techs lutam para conter o avanço de ferramentas maliciosas, a sociedade paga o preço: a normalização da violência de gênero, a erosão da confiança em instituições e o enfraquecimento da democracia. A pergunta que fica é: até quando as plataformas serão reativas, em vez de proativas, no combate a esses abusos?
