Um projeto de lei federal que permitiria que vítimas de deepfakes sexualmente explícitos não consensuais processassem as pessoas que os criam, compartilham e recebem foi aprovado por unanimidade. passado o Senado e agora segue para a Câmara para votação.
A Lei de Interrupção de Imagens Explícitas Forjadas e Edições Não Consensuais (Desafio) de 2024, apresentada pelo Presidente do Judiciário do Senado, Dick Durbin, D-Ill., e pela Senadora Lindsay Graham, RS.C., criaria uma solução civil federal para vítimas identificáveis de abuso sexual deepfake.
A deputada Alexandria Ocasio-Cortez, DN.Y., que está patrocinando a legislação na Câmara, chamou o ato de primeira proteção federal para “sobreviventes de pornografia deepfake não consensual”.
“Mais de 90% de todos os vídeos deepfake feitos são imagens sexualmente explícitas não consensuais, e as mulheres são os alvos 9 em cada 10 vezes”, disse Ocasio-Cortez em uma afirmação depois que o Senado aprovou o projeto de lei na quinta-feira. Ela tem falado anteriormente sobre ser alvo de tais deepfakes.
A versão do projeto de lei da Câmara ainda está sendo considerada no comitê.
Deepfakes geralmente se referem a imagens manipuladas digitalmente que retratam falsamente alguém dizendo ou fazendo algo. Eles geralmente assumem a forma de fotos e vídeos sexualmente explícitos espalhados online. O material frequentemente mescla o rosto de uma vítima com um corpo em um vídeo pornográfico. Modelos de inteligência artificial generativa também podem criar áudio, vídeos e imagens que são totalmente falsos, mas parecem e soam realistas.
A Lei do Desafio define um deepfake sexualmente explícito não consensual como uma “representação visual criada por meio do uso de software, aprendizado de máquina, inteligência artificial ou qualquer outro meio gerado por computador ou tecnológico para falsamente parecer autêntico” que “retrata a vítima nua ou envolvida em conduta sexualmente explícita ou cenários sexuais”.
O recurso civil seria executável contra pessoas que criam ou possuem o deepfake com a intenção de distribuí-lo, bem como pessoas que o distribuem e recebem se soubessem ou desconsiderassem imprudentemente que a vítima não consentiu com o deepfake. O prazo de prescrição para o recurso é de 10 anos.
A produção de deepfakes sexualmente explícitos não consensuais disparou desde 2023, tornando-se popular primeiro com as imagens de figuras públicas femininas, como influenciadoras, políticas e celebridades. Casos também surgiram em escolas de ensino fundamental e médio ao redor do mundo, com adolescentes frequentemente sendo vítimas de seus colegas homens. Embora a tendência tenha como alvo predominante mulheres e meninas, homens também foram retratados em deepfakes.
Após um incidente de alto perfil com imagens sexualmente sugestivas geradas por IA da cantora Taylor Swift se tornando virais no X, antigo Twitter, vários representantes apresentaram legislação estadual e federal para combater o problema. Durbin tem sido particularmente vocal sobre o assunto, enviando uma carta ao CEO da empresa controladora do Google, Alphabet, Sundar Pichai, em junho pedindo detalhes sobre como o mecanismo de busca planejava lidar com a proliferação de deepfakes nos resultados de busca.
“As leis atuais não se aplicam a deepfakes, deixando mulheres e meninas que sofrem com esse abuso sexual baseado em imagens sem uma solução legal”, Durbin postado em X depois que o Defiance Act foi aprovado pelo Senado. “É hora de dar às vítimas o seu dia no tribunal e as ferramentas de que precisam para lutar.”
