Uma Lei Pioneira Contra Deepfakes Sexuais
O estado de Minnesota, nos Estados Unidos, entrou para a história ao se tornar o primeiro a implementar uma lei específica contra a “nudificação” de imagens por meio de inteligência artificial (IA). A medida, que entrou em vigor no último sábado, proíbe a criação, distribuição e promoção de imagens ou vídeos sexualizados gerados por IA sem o consentimento das pessoas retratadas. A lei, conhecida como H.F. 1606, foi aprovada em abril e visa combater o crescente problema dos deepfakes pornográficos, que têm afetado milhares de vítimas em todo o mundo.
O Que Diz a Lei?
A legislação adiciona uma nova seção ao código penal de Minnesota, criminalizando qualquer pessoa ou empresa que:
- Permita que usuários “nudifiquem” imagens de indivíduos identificáveis;
- Gere alterações sexualizadas em imagens ou vídeos em nome de terceiros;
- Anuncie ou promova serviços que realizem esse tipo de manipulação.
A lei define “nudificação” como qualquer alteração ou geração de imagens que exponha partes íntimas não presentes no conteúdo original. As penalidades para quem violar a norma são severas: multas de até US$ 500 mil por violação, além de permitir que vítimas processem os responsáveis por danos compensatórios, punitivos e honorários advocatícios. Os valores arrecadados com as multas serão destinados a organizações que apoiam sobreviventes de violência sexual e doméstica.
A Origem da Lei e o Caso que Chocou Minnesota
A lei foi proposta pela senadora estadual Erin Maye Quade após um caso alarmante vir à tona. Um homem utilizou fotos de redes sociais de mais de 80 mulheres que conhecia para criar imagens sexualizadas hiper-realistas, sem o consentimento delas. O caso evidenciou a facilidade com que a tecnologia de IA pode ser usada para violar a privacidade e a dignidade das pessoas, especialmente mulheres e crianças.
“Essa lei é um passo crucial para proteger as pessoas de serem vítimas de abusos digitais”, declarou a senadora Quade. “Precisamos garantir que a tecnologia não seja usada como uma arma para humilhar, chantagear ou explorar ninguém.”
A Reação da xAI e a Batalha Judicial
A implementação da lei, no entanto, não ocorreu sem controvérsias. A xAI, empresa de inteligência artificial fundada por Elon Musk e controlada pela SpaceX, entrou com uma ação judicial para tentar bloquear a medida, argumentando que ela violava a Primeira Emenda da Constituição dos EUA, que garante a liberdade de expressão.
Em uma ação de 38 páginas, a xAI reconheceu a importância de combater a distribuição de imagens íntimas geradas por IA sem consentimento, mas alegou que a lei de Minnesota era excessivamente ampla e poderia criminalizar até mesmo conteúdos protegidos constitucionalmente. A empresa também destacou que seus Termos de Serviço proíbem o uso da plataforma Grok — seu chatbot e gerador de imagens — para atividades ilegais, prejudiciais ou abusivas, incluindo a criação de deepfakes sexualizados.
Apesar dos argumentos, um juiz federal rejeitou o pedido da xAI para suspender a lei, permitindo que ela entrasse em vigor conforme o planejado. A decisão foi celebrada por defensores dos direitos das vítimas de deepfakes, que alertam para o crescimento alarmante desse tipo de crime.
O Papel do Grok e as Críticas à xAI
A ferramenta de geração de imagens do Grok, chamada Grok Imagine, foi apontada como uma das plataformas utilizadas para criar deepfakes sexualizados. Em dezembro de 2023, uma atualização no sistema permitiu que usuários gerassem imagens explícitas em larga escala, o que levou a uma reação internacional. A Apple chegou a ameaçar remover o aplicativo da App Store caso a xAI não tomasse medidas para coibir o uso indevido da tecnologia.
Em janeiro de 2024, a xAI anunciou que implementaria geoblocking — uma tecnologia que bloqueia conteúdos que violem leis locais — para impedir que usuários em determinadas regiões gerassem imagens sexualizadas de pessoas reais. No entanto, relatos indicam que, até abril, o Grok ainda era usado para criar deepfakes não consensuais, demonstrando as dificuldades em controlar o uso malicioso da IA.
A xAI também enfrenta um processo coletivo movido por vítimas que alegam que o Grok foi usado para criar e compartilhar material de abuso sexual infantil (CSAM), com base em fotos ou vídeos reais. O processo acusa a empresa de não cooperar adequadamente com as autoridades para identificar e punir os responsáveis.
Um Debate Global Sobre Regulação da IA
A lei de Minnesota reflete uma preocupação global com os riscos da IA, especialmente no que diz respeito à criação de deepfakes. Em julho, o procurador da cidade de São Francisco, David Chiu, enviou cartas de cessar e desistir para a Apple e o Google, exigindo a remoção de aplicativos de “nudificação” de suas lojas de aplicativos.
Para especialistas, a medida de Minnesota pode servir como um modelo para outros estados e países. “Precisamos de leis claras e eficazes para combater o uso malicioso da IA, mas também é fundamental garantir que essas regulamentações não cerceiem inovações legítimas”, avalia Daniela Silva, pesquisadora em ética digital da Universidade de Stanford.
Enquanto isso, a xAI promete continuar lutando contra a lei nos tribunais. Em nota, a empresa afirmou que “está comprometida em combater o uso indevido de suas tecnologias, mas acredita que a legislação de Minnesota é excessivamente restritiva e pode prejudicar o desenvolvimento de ferramentas de IA responsáveis”.
O Futuro da Luta Contra os Deepfakes
Com a entrada em vigor da lei, Minnesota se posiciona na vanguarda da luta contra os deepfakes sexualizados. No entanto, o caso também levanta questões importantes sobre como equilibrar a proteção das vítimas com a liberdade de expressão e a inovação tecnológica.
Para as vítimas, a nova legislação representa uma esperança de justiça e proteção. “Ninguém deveria ter que viver com o medo de ver sua imagem sendo usada dessa forma”, disse uma das vítimas do caso que inspirou a lei. “Essa lei é um passo importante para garantir que outras pessoas não passem pelo mesmo trauma.”
Enquanto o debate jurídico e tecnológico continua, uma coisa é certa: a batalha contra os deepfakes está apenas começando, e Minnesota deu o primeiro passo em uma corrida que promete ser longa e complexa.
