"Sempre que saía de casa, tinha uma sensação de pavor". O aumento da pornografia "deepfake" é devastador para as mulheres

CNN , Sophie Compton e Reuben Hamlyn
4 nov 2023, 19:00
Internet e redes sociais hábitos de internautas e de buscas

OPINIÃO || Tanto celebridades como cidadãos comuns estão a ver os seus rostos inseridos em pornografia sem o seu consentimento, e estes vídeos estão a ser carregados em sites pornográficos para qualquer pessoa ver.

Nota do editor: Sophie Compton é uma realizadora e produtora de documentários, vencedora de uma longa lista do British Independent Film Awards (BIFA) e do prémio SXSW, que conta histórias de mulheres sobre injustiça e cura. Reuben Hamlyn é um realizador de documentários e de ficção, com sede em Nova Iorque, que foi selecionado para uma longa lista de prémios BIFA e para um prémio SXSW. O seu documentário, "Another Body", estreou nas salas de cinema nos EUA e em streaming a 20 de outubro. Os pontos de vista expressos neste comentário são da sua inteira responsabilidade.

 

Um amigo envia-lhe uma mensagem com uma hiperligação. É um endereço do Pornhub, acompanhado da mensagem: "Lamento imenso, mas acho que tens de ver isto." Carrega e o que lhe aparece é a sua cara, a olhar para si, retratada em pornografia hardcore. Você fica em torpor - nunca participou em pornografia em toda a sua vida, e tudo o que consegue pensar é: quem faria isto, e porquê?

Foi isso que aconteceu a Taylor (cujo nome foi alterado para proteger a sua privacidade), uma estudante de engenharia de 22 anos de Nova Inglaterra, e que é o tema do nosso novo documentário vencedor do Prémio do Júri Especial do SXSW, "Another Body". Como Taylor descobre, os vídeos são deepfakes - vídeos adulterados com recurso a inteligência artificial para inserir o rosto de uma pessoa no corpo de outra.

O criminoso anónimo de Taylor carregou seis vídeos deepfake em vários perfis pornográficos, fazendo-se passar por ela. De forma arrepiante, incluiu também os nomes da sua verdadeira faculdade e cidade natal, e encorajou os homens que visitavam o perfil a enviarem-lhe mensagens, com um emoji de piscar de olho. E assim fizeram - ela começou a receber mensagens perturbadoras no Facebook e no Instagram de homens que não conhecia.

Mas quando Taylor chamou a polícia, um detetive disse-lhe que o autor do crime tinha o direito de o fazer e que nenhuma lei tinha sido violada.

Atualmente, não existem leis federais nos Estados Unidos contra a criação e a partilha de pornografia deepfake não consensual. Estamos determinados a alterar esta situação, exigindo uma lei federal que torne ilegal a pornografia deepfake não consensual e alterações à Secção 230 da Lei da Decência das Comunicações, que protege as plataformas em linha da responsabilidade por conteúdos gerados pelos utilizadores. Este é o cenário em linha que permitiu que a criação e o comércio de pornografia falsa não consentida se tornasse um negócio próspero.

Taylor não está sozinha. Com os avanços da inteligência artificial, a pornografia deepfake está a tornar-se cada vez mais comum - e visa quase exclusivamente as mulheres. Pesquisadores da empresa de verificação de identidade Sensity AI descobriram que o número de deepfakes pornográficos online praticamente dobrou a cada seis meses de 2018 a 2020. A empresa também descobriu que 96% dos deepfakes são sexualmente explícitos e apresentam mulheres que não deram consentimento aos vídeos.

Enquanto antigamente eram necessárias centenas de imagens do rosto de uma pessoa para criar um deepfake convincente, agora é possível com apenas uma ou duas imagens. Quando as deepfakes foram criadas pela primeira vez em 2017, exigiam um poder de processamento informático significativo e alguns conhecimentos de programação. Atualmente, existem aplicações de deepfake de fácil utilização disponíveis para iPhones. Noutros casos, os criadores de deepfake aceitam comissões, cobrando apenas 30 dólares para criar vídeos explícitos da celebridade, ex ou professor favorito de um cliente.

Como resultado, tanto celebridades como cidadãos comuns estão a ver os seus rostos inseridos em pornografia sem o seu consentimento, e estes vídeos estão a ser carregados em sites pornográficos para qualquer pessoa ver. Um dos mais proeminentes sites de pornografia deepfake tem uma média de 14 milhões de visitas por mês.

Esta prática já não é um nicho - atingiu o mainstream. E, com ela, corremos o risco de uma nova geração de jovens considerar que ver um deepfake pornográfico da sua atriz favorita - ou do seu colega de turma - é a norma.

O impacto nas vítimas pode ser devastador. Para Taylor, o facto de não saber quem tinha criado os vídeos, ou quem os tinha visto - os seus colegas de turma? Os seus amigos? O seu patrão? - significava que não sabia em quem confiar.

Isto desencadeou um período de transtorno obsessivo-compulsivo e ansiedade extremos, em que ela reavaliou o seu círculo social e debateu se iria continuar com os seus estudos. Outros sobreviventes com quem falámos, como Helen, uma professora de 34 anos, começaram a ter ataques de pânico e disseram-nos: "Sempre que saía de casa, tinha uma sensação de pavor."

A Amnistia Internacional cunhou a expressão "efeito de silenciamento" para falar da forma como o abuso online contra as mulheres pode diminuir a participação feminina em fóruns públicos. Num relatório sobre o assédio no Twitter, a organização descobriu que muitas mulheres encerram as suas contas, censuram o que publicam e são desencorajadas a seguir carreiras públicas, como o jornalismo ou a política. Assistimos a uma reação semelhante entre as mulheres que são vítimas de abusos de deepfake.

Danielle Citron, professora da Faculdade de Direito da Universidade da Virgínia, refere que a Secção 230 é a razão pela qual existem 9.500 sites nos EUA "dedicados a imagens íntimas não consensuais". E acrescentou: "Torna-se algo como uma doença incurável. (...) Não se consegue eliminar [o conteúdo não consensual]. Os sites não se importam. Não podem ser processados".

E não são apenas os criadores de pornografia deepfake que estão a lucrar com este abuso. Os sites de pornografia deepfake são facilitados e possibilitados por motores de busca que direccionam o tráfego da Web para conteúdos deepfake. Os fornecedores de serviços de Internet alojam-nos e as empresas de cartões de crédito e de pagamentos facilitam as transacções nos seus sítios, enquanto outras empresas publicitam os seus produtos nesses vídeos.

Em Inglaterra e no País de Gales, uma nova lei criminalizará a partilha de deepfakes pornográficos sem consentimento. Nos EUA, no entanto, apenas um punhado de estados tem leis que abordam a pornografia deepfake não consensual, e muitas delas têm um âmbito limitado.

Juntamente com a Taylor e outros sobreviventes, criámos a campanha My Image My Choice (A minha imagem, a minha escolha) e estamos a pedir leis federais que visem tanto os criadores como as plataformas, criminalizando a criação e distribuição de pornografia deepfake não consentida e obrigando os sites a remover este conteúdo das suas plataformas.

Embora essas leis, por si só, possam não acabar com o problema, elas ajudariam muito a garantir que todo o modelo de negócios existente, que se baseia na violação do consentimento e da privacidade das mulheres, deixe de ser viável.

Crime e Justiça

Mais Crime e Justiça

Mais Lidas

Patrocinados