As autoridades australianas estão a investigar a distribuição de deepfakes pornográficos de cerca de 50 alunas, alegadamente criados por um adolescente com recurso a inteligência artificial, num momento em que o governo federal propõe leis contra a criação e partilha de imagens explícitas não consensuais
As autoridades australianas estão a investigar a distribuição de imagens pornográficas deepfake de cerca de 50 raparigas, alegadamente criadas por um adolescente com recurso a inteligência artificial.
A descoberta surge num momento em que o governo federal defende a adoção de novas leis que imponham penas de prisão aos infractores que criem e partilhem imagens feitas por ferramentas de IA para humilhar e denegrir as vítimas.
Outros países, incluindo os Estados Unidos, estão a tentar fazer face a um aumento alarmante da pornografia deepfake, em que foram criados e partilhados deepfakes de raparigas nuas, em alguns casos, alegadamente por rapazes.
A polícia de Victoria confirmou ter detido e libertado um adolescente "relacionado com imagens explícitas que estão a circular online", enquanto aguardam por novas investigações.
As imagens terão sido criadas a partir de fotografias publicadas nas redes sociais de 50 alunas da Bacchus Marsh Grammar, uma escola mista situada nos arredores de Melbourne, no estado de Victoria.
O diretor da escola, Andrew Neal, disse à Australian Broadcasting Corporation (ABC) que as vítimas eram raparigas do 9º ao 12º ano, o que indica uma possível faixa etária entre os 14 e os 18 anos. A idade e a identidade do rapaz são desconhecidas, mas Neal disse à ABC que "a lógica sugere que é alguém da escola".
Em declarações à ABC esta quarta-feira, a mãe de uma aluna de 16 anos da Bacchus Marsh Grammar, cuja imagem não foi utilizada, disse que a filha vomitou quando viu as fotografias "mutiladas" na Internet.
"Fui buscar a minha filha a uma festa do pijama e ela estava muito perturbada, estava vomitar e era incrivelmente gráfico", disse a mãe à ABC Radio Melbourne, dando apenas o seu primeiro nome, Emily.
A escola disse num comunicado que estava a oferecer apoio psicológico aos alunos e a ajudar a polícia na sua investigação.
"O bem-estar dos alunos da Bacchus Marsh Grammar e das suas famílias é de importância primordial para a escola e está a ser tratado", refere o comunicado.
Luta legal para acabar com os deepfakes
As empresas de redes sociais, incluindo a X e a Meta, afirmam que toda a pornografia não consensual é proibida nas suas plataformas, mas as imagens explícitas geradas por IA continuam a espalhar-se rapidamente na Internet.
Em novembro do ano passado, uma estudante do liceu de Nova Jérsia, Francesca Mani, de 14 anos, liderou as exigências públicas de uma ação federal nos EUA contra a pornografia deepfake gerada por IA, afirmando que as imagens dela e de dezenas dos seus colegas do liceu de Westfield tinham sido manipuladas.
Entre as vítimas de imagens explícitas manipuladas encontram-se Taylor Swift e a congressista de Nova Iorque Alexandria Ocasio-Cortez.
Em março, Ocasio-Cortez introduziu legislação federal - a Disrupt Explicit Forged Images and Non-Consensual Edits Act of 2024 (Defiance Act) - para dar às vítimas o poder de processar as pessoas que criam deepfakes não consensuais das mesmas.
No entanto, a legislação bipartidária, apoiada por republicanos seniores, não conseguiu passar uma moção de consentimento unânime esta quarta-feira, de acordo com uma declaração da Comissão do Senado para o Judiciário.
Victoria é o único estado australiano onde a partilha de pornografia deepfake é considerada crime.
Em 2022, o governo estadual introduziu penas de prisão de três anos por usar a tecnologia para gerar ou compartilhar material de abuso infantil ou material sexualmente explícito sem consentimento.
Este mês, o governo australiano introduziu legislação para criminalizar a distribuição de pornografia deepfake em todo o país.
Ao abrigo da lei proposta, os infratores podem ser condenados a até seis anos de prisão por partilharem material deepfake sexualmente explícito não consensual.
Se o infrator também tiver criado o conteúdo deepfake que é partilhado sem autorização, a pena pode ir até sete anos de prisão.
Esta medida faz parte da resposta do país à violência baseada no género, que o primeiro-ministro Anthony Albanese classificou como uma "crise nacional".
Até agora, este ano, 35 mulheres foram mortas, de acordo com o projeto Counting Dead Women - muitas delas alegadamente por parceiros atuais ou antigos.
No mês passado, o governo estadual nomeou um secretário parlamentar para a Mudança de Comportamento dos Homens, pela primeira vez na Austrália.
Ao ser nomeado, o deputado Tim Richardson disse que iria concentrar-se no impacto da Internet e das redes sociais, nas atitudes dos homens em relação às mulheres.
Em comunicado esta quarta-feira, a primeira-ministra do Estado de Victoria, Jacinta Allan, afirmou que as alegadas ações do adolescente eram "vergonhosas e misóginas".
"As mulheres e as raparigas merecem respeito nas aulas, na Internet e em todo o lado na nossa comunidade, razão pela qual criámos leis contra este comportamento e estamos a ensinar relações respeitosas nas escolas para travar a violência antes que ela comece", afirmou Jacinta Allan.
