No último ano, milhares de passageiros do metro de Londres, no Reino Unido, foram estudados sem o seu consentimento através de sistemas de inteligência artificial que analisaram as imagens de segurança das câmaras de vigilância.
A denúncia foi publicada na revista norte-americana Wired (acesso pago), citada pelo El País, com base em documentos obtidos pela organização de defesa dos direitos e liberdades civis britânica Big Brother Watch.
PUB
Pelo menos desde abril de 2023, o estudo sem consentimento dos passageiros decorreu em oito estações da rede suburbana de Londres, como Euston, Waterloo ou Manchester Picadilly, sob alegada supervisão da Network Rail, empresa pública que gere e possui a maior parte da rede ferroviária do Reino Unido.
Apesar de a proteção e segurança dos passageiros serem os principais objetivos da utilização do sistema de vigilância, a privacidade dos mesmos pode ter sido colocada em causa, segundo os especialistas em proteção de dados ouvidos pela Wired, que estão preocupados com “a falta de transparência sobre a utilização da IA em espaços públicos”.
Jake Hurfurt, diretor de investigação do grupo Big Brother Watch, explica à Wired que quando questionaram a Network Rail sobre as preocupações relativamente à privacidade dos passageiros foram “tratados com desprezo”.
Tanto em grandes estações, Waterloo e Manchester Piccadilly por exemplo, como em estações mais pequenas, os testes foram extensos. Através do reconhecimento de objetos, este novo sistema consegue “detetar pessoas que invadem as linhas, monitorizar e prever a sobrelotação das plataformas, identificar comportamentos antissociais (“correr, gritar, andar de skate, fumar”) e detetar potenciais ladrões de bicicletas” é possível ler-se na Wired.
PUB
De acordo com Jake Hurfurt, “a implementação e normalização da vigilância por IA nestes espaços públicos, sem muita consulta e conversa, é um passo bastante preocupante”. O facto de ser possível identificar “características demográficas” - como género e faixa etária -, e emoções dos passageiros é o que mais preocupa o responsável.
O sistema de inteligência artificial, criado pela Amazon, é simples: quando os passageiros passam por uma “linha virtual” perto das cancelas de entrada, as câmaras capturam as imagens que são enviadas para análise através do sistema Amazon Rekognition. Através das imagens, é possível analisar rostos e objetos que permitem "medir a satisfação dos passageiros".
Segundo Gregory Butler, CEO da empresa de análise de dados Purple Transform, “o principal benefício [do uso da IA nestes sistemas de vigilância] é a deteção mais rápida de incidentes de invasão”.
Mas o objetivo desta tecnologia é analisar a informação recolhida e "desenhar uma espécie de publicidade personalizada", segundo a denúncia. "Estes dados podem ser utilizados para maximizar a publicidade e as receitas de retalho", escreve a Wired.
Um porta-voz da Network Rail garante que a empresa leva “muito a sério a segurança da rede ferroviária" e utiliza "uma gama de tecnologias avançadas nas estações para proteger os passageiros, os funcionários e a infraestrutura ferroviária do crime e outras ameaças”.
PUB