Pai enviou fotografias do filho nu ao pediatra. Google marcou-o como criminoso. O que podemos aprender com este caso?

1 out, 08:00
Criança no infantário (Fotografia de Rita Franca/NurPhoto via Getty Images)

Mark ficou sem email, sem fotografias e sem 10 anos de contactos. E ainda não os conseguiu recuperar. Um caso que mostra o desafio numa sociedade em que se tenta encontrar o equilíbrio entre a utilização da tecnologia para o bem e para o mal

Um homem viu todas as suas contas de email e de telemóvel serem suspensas e viu o seu nome envolvido numa investigação judicial por pornografia de menores sem perceber porquê.

Afinal, Mark, o nome fictício que preferiu utilizar ao divulgar a história no The New York Times, foi sinalizado como possível criminoso. O motivo: enviou fotografias da zona genital do seu filho ao pediatra, depois de ter notado um inchaço na zona do pénis, e depois de o próprio médico ter pedido as imagens ao conhecer o caso. Tudo aconteceu em plena pandemia, em fevereiro de 2021, o que impediu que uma ida ao hospital fosse uma hipótese a considerar, sobretudo quando havia outra solução.

As imagens foram tiradas pela mãe da criança, com recurso ao telemóvel de Mark, sendo que a mão do homem até aparecia numa delas, a apontar para a zona onde o menino tinha dores.

As fotografias rapidamente fizeram soar os alarmes no algoritmo da Google, o que virou a vida deste homem do avesso: ficou sem acesso ao email, e, por isso, sem acesso a muitas outras contas que necessitam de verificação através do correio eletrónico; perdeu 10 anos de documentos que estavam guardados na cloud da Google, entre os quais contactos e fotografias; perdeu todas as marcações que tinha no calendário da Google; ficou sem acesso ao Google Fi, funcionalidade que é como uma operadora, permite chamadas, SMS ou acesso à Internet via telemóvel.

Quase dois anos depois continua sem ter acesso a estas plataformas, que, entretanto, foram mesmo apagadas pela Google.

Tudo isso apenas dois dias depois das fotografias serem tiradas, com a suspensão das contas de Mark a chegar com uma mensagem: a sua conta tinha sido suspensa por causa de "conteúdo perigoso" que era uma "séria violação das políticas da Google e podia ser ilegal". A acompanhar vinha ainda um link com as possíveis razões para a suspensão, entre as quais estavam "abuso sexual de menores e exploração infantil".

Este caso, que aconteceu nos Estados Unidos, desperta várias questões além-fronteiras. Poderia o mesmo acontecer em Portugal?

Humano contra a máquina

Elsa Veloso diz à CNN Portugal que esta é uma situação que levanta várias questões. A advogada especialista em Privacidade e Proteção de Dados lembra que, no caso de Mark, foi o próprio algoritmo que decidiu alertar as autoridades depois de verificado por um moderador humano, como obriga a lei norte-americana e a lei da União Europeia.

A especialista sublinha que há várias questões que ficam no ar neste caso, desde logo o que se entende por "intervenção humana", uma vez que se exige contexto, exige-se que a pessoa que vai fazer essa verificação tenha "capacidade de decisão, treino e formação".

"É preciso perceber o que queremos dizer por intervenção humana. Ter um órgão sexual numa fotografia não quer dizer sempre pornografia. Todos os médicos vão ser bloqueados se tirarem fotografias aos pacientes?", questiona Elsa Veloso, apontando esse como um dos maiores desafios da Inteligência Artificial.

"Se o caso fosse comunicado exclusivamente pela Inteligência Artificial era diferente", refere a especialista, que diz que isso iria contra a lei, incluindo na União Europeia, e, por isso, em Portugal. Nesse caso, acrescenta, a Google arriscaria ser "condenada a pagar uma indemnização se utilizasse a Inteligência Artificial sem a intervenção humana e essa intervenção causasse danos a alguém".

Em causa está o Regulamento Geral de Proteção de Dados, aprovado pela Comissão Europeia em 2016, e que tem força de lei diretamente aplicável em Portugal. Cenário diferente seria o algoritmo da Google detetar o mesmo caso e a denúncia ser feita diretamente às autoridades.

Elsa Veloso remete-nos para o artigo 22.º, que fala sobre "decisões individuais automatizadas, incluindo definição de perfis". Nesse mesmo ponto é referido que "o titular dos dados tem o direito de não ficar sujeito a nenhuma decisão tomada exclusivamente com base no tratamento automatizado, incluindo a definição de perfis, que produza efeitos na sua esfera jurídica ou que o afete significativamente de forma similar".

Aí entra em discussão uma nova polémica que resulta de uma proposta da Comissão Europeia em discussão no Parlamento Europeu: obrigar ou não as tecnológicas a fornecerem os dados aos sistemas judiciais dos 27?

Para já, explica à CNN Portugal Eduardo Santos, presidente da associação D3 - Defesa dos Direitos Digitais, o que existe é uma liberdade de escolha por parte das empresas, que podem ou não denunciar o caso.

O mesmo responsável defende que, caso a proposta no Parlamento Europeu, que se destina a "estabelecer regras para prevenir e combater o abuso sexual de crianças", venha a ser aprovada, tal como ela está, existem riscos de privacidade para os cidadãos.

"São propostas brilhantes", ironiza Eduardo Santos, apontando que a Comissão Europeia pretende ter "sol na eira e chuva no nabal", que é como quem diz, ter privacidade de comunicações, mas rastrear comportamentos ilícitos. "O problema é que é impossível ter uma coisa sem ter a outra", continua o advogado de profissão, dizendo que este tipo de proposta "implica colocar em causa a privacidade das comunicações dos cidadãos".

O presidente da D3 sublinha que várias associações já alertaram para este problema, mas aponta uma falha na resposta da Comissão Europeia quando questionada sobre como será garantida uma coisa sem prejudicar a outra, "limitando-se a dizer que as empresas é que têm de responder a essa questão".

"É uma visão de alguém que não compreende a tecnologia, que é cega ao contexto. A tecnologia é muita útil, mas neste ponto também é cega", vinca Eduardo Santos, que vê ainda um outro problema caso a proposta venha a avançar: "imagine-se quantos recursos não serão desperdiçados em todos estes falsos dispositivos. Vamos ter as polícias e os ministérios públicos a desperdiçar recursos por causa de um sistema que não funciona".

Voltando à questão da intervenção humana, e mesmo tendo ela existido, Elsa Veloso recorda que ainda assim a conclusão foi errada, uma vez que o homem não era culpado dos crimes que foram sinalizados às autoridades, que até o ilibaram 10 meses depois da denúncia da Google.

Aí, diz a advogada, a tecnológica "devia ter tido o bom senso de aceitar a decisão da policia e não fazer finca-pé na manutenção da decisão". Até porque a alternativa, que Mark já disse que não vai seguir, é um processo em tribunal com um custo mínimo estimado em sete mil dólares (sensivelmente o mesmo valor em euros).

Como eles nos veem

As empresas como a Google conseguem, se quiserem, ouvir e ver o que estamos a fazer através de algoritmos, neste caso tendo acesso às contas ligadas à Google, que hoje em dia são praticamente todas.

O especialista em cibersegurança, Rui Shantilal explica à CNN Portugal como tudo se processa. Um engenheiro informático insere, por exemplo, 100 mil imagens num software, catalogando-as como pornografia infantil. Esse mesmo software vai conseguir identificar padrões, que posteriormente vai utilizar para rastrear conteúdos que entenda serem semelhantes.

No caso de Mark o software terá encontrado um padrão numa fotografia de um pénis de uma criança com milhares de imagens que viu. Mas Rui Shantilal também identifica o problema: "quando se automatiza demasiado, porque a tecnologia deve ser uma das ferramentas que ajuda a detetar comportamentos, essa deteção deve ser verificada".

"Há um impacto gigante na vida de uma pessoa por causa de um automatismo não verificado", acrescenta o especialista, que até admite também já ter partilhado fotografias com o pediatra do seu filho em situações como a de Mark.

E Mark que o diga, uma vez que ainda não conseguiu recuperar as suas contas. Tudo por causa daquilo que Elsa Veloso diz ser um "abuso de posição" por parte das grandes tecnológicas. No caso em concreto, diz a advogada, a Google vai além da lei, uma vez que a justiça já ilibou o pai da criança de quaisquer crimes, mas a plataforma recusa-se a devolver as contas ao homem.

Rui Shantilal sublinha que a regra é as empresas terem uma verificação humana antes de alertarem as autoridades. Ainda assim, aponta o especialista, há à partida um problema, que até afetou o norte-americano. É que o software, ao identificar um potencial conteúdo ilegal, bloqueia automaticamente as contas e dados daquela pessoa na plataforma.

Quando o criminoso é o denunciante

Existe ainda um problema nesta mesma questão, que está relacionado com o facto de outras pessoas poderem estar a ter acesso a informação e dados pessoais, nomeadamente a fotografias. Imagine-se, por hipótese, que o caso detetado pelo software seguia para um ser humano, mas que esse ser humano tinha um impulso para comportamentos ilícitos. Na prática, e nesse cenário, ficaria com acesso a fotografias que, aí sim, poderia utilizar para conteúdos ilegais.

Rui Shantilal admite que isto pode acontecer, uma vez que a Google "consegue ter acesso a tudo o que está no email ou na cloud". Além disso, existe ainda um outro problema, que pode até ser de controlo de qualidade: muitas vezes são empresas subcontratadas, e não a Google, quem opera estes softwares.

Ainda assim, e conhecendo bem o meio - Rui Shantilal é fundador da INTEGRITY Part of Devoteam, empresa que se dedica a consultoria e auditoria na área da segurança de informação -, o especialista lembra que existem procedimentos que se destinam precisamente a evitar este tipo de cenários.

"Estas empresas costumam fazer uma verificação da pessoa que vai ser contratada, quais os seus antecedentes, etc", afirma, dando o seu próprio exemplo: "já tivemos trabalhadores bons tecnicamente, mas que chumbam ao nível de idoneidade".

Relacionados

Crime e Justiça

Mais Crime e Justiça

Patrocinados