Nova York — Em uma ação sem precedentes no combate aos abusos envolvendo deepfakes, o escritório do Manhattan District Attorney, Alvin Bragg, anunciou nesta segunda-feira a apreensão de 12 domínios de websites dedicados à disseminação de conteúdo pornográfico não consensual gerado por inteligência artificial. Segundo as autoridades, esses sites alvoavam cerca de 1.200 vítimas, em sua maioria mulheres, incluindo celebridades, influenceres, atletas, músicos, políticos e ativistas.
Os sites apreendidos utilizavam ferramentas de IA para criar vídeos e imagens hiper-realistas que simulavam situações sexuais explícitas envolvendo pessoas reais, sem o seu consentimento. Essa prática, conhecida como deepfake não consensual, tem se tornado um dos maiores desafios legais e éticos da era digital.
Contexto e impacto da operação
A operação, considerada a maior já realizada contra esse tipo de crime, foi possível graças a uma lei estadual aprovada em 2023 que proíbe a criação e compartilhamento de imagens explícitas geradas por IA sem autorização. Essa legislação reforçou os esforços para coibir a proliferação de conteúdo que explora e viola a privacidade de indivíduos.
De acordo com o escritório do promotor, os sites apreendidos eram dedicados exclusivamente a esse tipo de conteúdo ilegal, muitas vezes comercializado como deepfake porn. As vítimas, segundo as autoridades, incluem nomes conhecidos do cinema, música, esporte e política, além de figuras públicas menos conhecidas, como influenciadores digitais e ativistas.
Como a tecnologia de deepfake está sendo usada?
Os deepfakes não consensuais são criados a partir de ferramentas de IA que analisam fotos e vídeos existentes de uma pessoa e geram conteúdo falso, muitas vezes com fins maliciosos. Essas imagens e vídeos são tão realistas que podem enganar até mesmo os mais próximos da vítima, causando danos irreparáveis à reputação e à vida pessoal das pessoas envolvidas.
O promotor Alvin Bragg destacou que, além de ser ilegal compartilhar imagens reais de pessoas em situações explícitas sem consentimento, a lei também abrange conteúdo gerado ou alterado por IA. “Esses sites exploravam a vulnerabilidade das vítimas, usando tecnologia para criar conteúdo que nunca existiu na realidade”, afirmou Bragg.
Reações e próximos passos
A operação foi desencadeada após uma vítima denunciar um dos sites, o que levou à investigação mais ampla e à identificação de outras plataformas envolvidas. Embora não tenham sido confirmadas prisões até o momento, a apreensão dos domínios representa um golpe significativo contra a disseminação desse tipo de conteúdo.
Especialistas em tecnologia e direitos digitais comemoram a ação, mas alertam que a batalha contra os deepfakes ilegais está apenas começando. À medida que as ferramentas de IA se tornam mais acessíveis, cresce também o risco de abusos, exigindo uma resposta coordenada entre governos, empresas de tecnologia e sociedade civil.
Enquanto isso, as vítimas continuam a buscar justiça, e as autoridades prometem investigar mais a fundo os responsáveis pela criação e disseminação desse material ilícito. A operação em Nova York serve como um exemplo para outras jurisdições que enfrentam desafios semelhantes na era da inteligência artificial.
