Há algo de profundamente perturbador em ver uma sociedade avançar tecnologicamente ao mesmo tempo que falha, de forma tão brutal, na proteção da dignidade humana. Talvez porque o verdadeiro perigo da Inteligência Artificial nunca tenha sido a máquina. O verdadeiro perigo sempre foi aquilo que os seres humanos fariam com ela. E hoje começamos finalmente a perceber o preço humano dessa irresponsabilidade coletiva.
Quando se levanta o debate sobre deepfakes sexuais, muitas pessoas continuam a reduzi-lo a um problema meramente tecnológico, uma polémica digital, um excesso da internet, ou um fenómeno mediático. Mas não é isso. O que está verdadeiramente em causa são vidas humanas. São adolescentes fechados em quartos sem conseguir voltar à escola. São jovens que deixam de sair de casa porque têm medo de olhar alguém nos olhos. São raparigas que entram em pânico cada vez que o telemóvel vibra. São crianças expostas sexualmente sem sequer compreenderem totalmente o que lhes aconteceu. São famílias destruídas pela vergonha, pelo medo e pela impotência. E sim: são pessoas que se suicidam, porque há um ponto a partir do qual o sofrimento psicológico deixa de ser suportável.
Talvez uma das maiores tragédias desta nova era digital seja precisamente esta: o sofrimento tornou-se invisível. As vítimas continuam aparentemente vivas — continuam online, continuam a publicar, continuam a responder, continuam "presentes" — mas muitas já colapsaram emocionalmente muito antes disso. O que um deepfake sexual destrói não é apenas reputação. Destrói segurança, identidade, pertença, confiança, autoestima e, muitas vezes, a própria vontade de continuar.
A humilhação pública digital tem uma violência diferente de tudo o que conhecíamos até agora. Antes, a vergonha tinha limites geográficos, tinha contexto, e dependia da memória humana. Hoje não. Hoje a humilhação replica-se, arquiva-se, eterniza-se, redistribui-se, amplifica-se algoritmicamente e persegue a vítima durante anos. A internet não esquece, os motores de busca não esquecem, os fóruns não esquecem, os grupos privados não esquecem, e os algoritmos não esquecem. E pior: a vítima sabe disso.
Talvez seja essa consciência de irreversibilidade que torna tudo tão devastador. Há jovens que acordam todos os dias com o medo de descobrir quem recebeu a imagem, quem a guardou, quem a comentou, quem a partilhou, quem acreditou, quem riu, ou quem ficou em silêncio. Porque mesmo quando a imagem é falsa, o sofrimento é absolutamente real. E existe aqui uma perversidade profundamente cruel: o corpo pode nunca ter sido exposto, mas a vergonha instala-se como se tivesse sido. É por isso que tantas vítimas desenvolvem ansiedade severa, depressão, dissociação, ataques de pânico, automutilação, isolamento social, perturbações alimentares e ideação suicida.
Estamos perante uma forma moderna de violência psicológica em massa. E o mais assustador é que isto está a tornar-se banal. Há adolescentes que hoje criam imagens sexualizadas de colegas em minutos. Outros fazem-no sobre si próprios. Outros trocam conteúdos em grupos privados como se fosse entretenimento. Muitos não têm verdadeira consciência do impacto humano porque cresceram num ambiente onde tudo é conteúdo, tudo é partilhável, tudo é descartável, e tudo parece reversível.
Mas não é. Uma imagem enviada aos 14 anos pode reaparecer aos 24. Uma brincadeira digital pode transformar-se num trauma vitalício. Um momento de impulsividade pode destruir relações, carreiras e saúde mental. Estamos a criar uma geração inteira sem preparação emocional para a violência da hiperexposição digital. E isso deveria aterrorizar-nos.
Porque a tecnologia evoluiu exponencialmente, mas a maturidade emocional coletiva não. Os Estados continuam atrasados, os reguladores continuam lentos, as plataformas continuam ambíguas, e as lojas de aplicações continuam a distribuir ferramentas perigosíssimas enquanto discutem “inovação”. A verdade é que se uma aplicação permite gerar nudez sintética não consentida, então essa aplicação não é neutra. Se uma plataforma sabe que existem milhares de vítimas e continua a monetizar engagement gerado por conteúdos abusivos, então já não estamos perante mera falha tecnológica. Estamos perante falha ética. E talvez até falha civilizacional.
Porque nenhuma sociedade pode considerar-se verdadeiramente evoluída se não conseguir proteger os seus jovens, os seus vulneráveis, os seus filhos, e a dignidade da identidade humana.
O mais inquietante é que estamos apenas no início. A próxima geração de deepfakes terá voz perfeita, vídeo em tempo real, microexpressões realistas, clonagem emocional e interações impossíveis de distinguir da realidade. Entraremos numa era em que qualquer pessoa poderá ser sexualizada, comprometida, incriminada, humilhada, ou destruída digitalmente sem nunca ter feito absolutamente nada.
E talvez seja aqui que surge a grande pergunta moral do nosso tempo: O que acontece a uma sociedade quando deixa de ser possível confiar na realidade? Porque a erosão da verdade não destrói apenas informação. Destrói relações humanas, confiança social, justiça, reputação, democracia, e saúde mental coletiva.
Por isso, esta discussão nunca poderá ser apenas sobre tecnologia. É sobre sofrimento humano. É sobre crianças que não conseguem voltar à escola. É sobre jovens que entram em colapso psicológico. É sobre famílias desesperadas. É sobre vítimas que sentem que perderam controlo sobre o próprio corpo e a própria identidade. E é sobre uma obrigação absolutamente fundamental do Estado: proteger os seus cidadãos. Sobretudo quando já não conseguem proteger-se sozinhos. Porque quando uma sociedade permite que alguém seja destruído digitalmente perante milhões de pessoas sem resposta rápida, sem proteção eficaz e sem responsabilização séria, então o problema já não é apenas tecnológico. O problema passa a ser moral. E talvez seja precisamente aí que a nossa geração será julgada.
