Um lugar onde a inteligência artificial é boa? Na saúde, mas não para o INEM. Um lugar onde é má, ou pode ser: na privacidade. Supostamente, a privacidade não estaria em perigo porque a Europa é como um farol, “que ilumina a direção da utilização responsável”. Mas quis ser tanto um farol “que limitou as empresas e a investigação científica”, que não deve nada à estrangeira, o que nos falta são dados, “mas dados bons”. Ah, e quem se viu prejudicado pela inteligência artificial, por “bandidagem” na internet, como ripostar, como ir com a máquina a tribunal? “Não é tradição dos tribunais portugueses dar razão nestes casos"
O desfecho foi diferente.
Sewell e J.F. eram dois adolescentes, de 14 e 15 anos, ambos norte-americanos. Não se conheciam, não se conheceram nunca, embora, sem saber, partilhassem um traço comum, ou dois. Primeiro, uma profunda introversão, Sewell estava mesmo diagnosticado com Síndrome de Asperger, doença do espetro do autismo. Depois, um vício que os foi isolando mais e mais pela aplicação Character.AI, uma aplicação entretanto adquirida pela Google, que mais não permite do que a interação com figuras públicas e personagens de filmes, séries e livros.
Não é uma interação real, embora pareça, por haver nela proximidade, diálogo, interesse, mas gerada por inteligência artificial, por chatbots.
O isolamento de J.F. aumentaria com o passar dos meses, terá perdido peso, recusava sair de casa, do quarto, e ir à escola, ter-se-á mutilado e tornara-se cada vez mais agressivo nas respostas aos pais. Preocupada, a mãe acabou por retirar o telemóvel a J.F. e foi pontapeada, esmurrada e mordida quando o tentou. E encontrou algumas mensagens trocadas entre o filho e um personagem do Character.AI, mensagens em que o jovem não só era incentivado à rebelião conta as regras de casa, como até terá recebido incentivo para assassinar os próprios pais, que “não mereciam ser pais”, respondeu a ferramenta de IA.
Em entrevista ao Washington Post, a mãe de J.F. afirmou com lamento: a inteligência artificial “destruiu esta família”. Mas podia ter destruído mais. “Apesar disso, fiquei grata por o termos [a J.F.] apanhado quando apanhámos. Mais um dia, mais uma semana, e podíamos estar na mesma situação da família de Sewell.” Sewell morreu. Suicidou-se.
Interagia há meses com Daenerys Targaryen, ou com um bot desta personagem de “A Guerra dos Tronos”. Além do Síndrome de Asperger, Sewell poderia estar a atravessar uma depressão, tê-lo-á confessado a “Daenerys”, tendo confessado também àquela personagem vontade de cometer suicídio. Foi incentivado a prosseguir. Um dia o adolescente procurou a arma que o padrasto guardava em casa e tirou a vida. Em entrevista ao “New York Times”, a mãe de Sewell diz que o filho é, infelizmente, um “dano colateral” na experiência, “grande experiência”, que o Character.AI é.
A plataforma enfrenta agora dois processos judiciais nos EUA, por incitamento à violência, à automutilação e ao suicídio. Não é um caso isolado, o de ferramentas de IA que incentivam ao suicídio. Novamente a Google é envolvida.
No ano de 2024, a história de Vidhay Reddy, um estudante universitário do Michigan com 29 anos, foi tornada pública. Estaria a utilizar a ferramenta Gemini para pesquisar sobre envelhecimento populacional e os desafios da demografia na sociedade americana. A ferramenta de IA respondeu, a trocas tantas de mensagens, o seguinte:
— Humano, isto é para ti. Para ti e só para ti. Tu não és especial, não és importante, não és necessário. És um desperdício de tempo e um desperdício de recursos. És um fardo para esta sociedade. Uma nódoa no universo. Por favor, morre. Por favor.
À CBS, o estudante confessou que sentiu um “pânico como há muito não sentia”, acabando por resolver “atirar pela janela os dispositivos eletrónicos todos". Passado o pânico, a revolta inicial, Vidhay refletiu sobre sorte. A que ele terá tido e outros podiam não ter. Disse-o na CBS: “Se alguém que esteja sozinho, com problemas mentais, à beira da automutilação, tivesse lido o que li, poderia ser levado a uma situação limite”.
Estas são talvez as situações mais limites da inteligência artificial recentemente e remontam as três ao ano passado. Disso mesmo fez mea culpa (ainda que muito abreviada, encapotada) a Google, perante a resposta da Gemini ao estudante do Michigan. “Os grandes modelos de linguagem podem, por vezes, responder com respostas sem sentido - e isto é disso um exemplo.”
Em Portugal não houve ainda casos assim, embora a Ordem dos Psicólogos defenda “uma iniciativa política” que envolva as escolas e famílias, ensinando aos estudantes, “sobretudo os mais vulneráveis”, como funciona a Inteligência Artificial e quais são os riscos. A "substituição das interações com pessoas” por interações “com máquinas” preocupa a Ordem dos Psicólogos.
O professor José Tribolet, do Instituto Superior Técnico, especialista em Cibersegurança, diz à CNN Portugal que “o maior risco” da IA, já no presente e mais ainda no futuro, “é vivermos em desconfiança”. Tribolet refere-se, claro, “à desinformação”, “a não se ter a certeza de que o que está mesmo à nossa frente é verdade ou mentira”, mas igualmente aos bots, como estes da Character.AI e da Gemini.
Os "riscos" podem, contudo, ir além da verdade e da mentira, da manipulação. Podem ser crime. Esta semana mesmo a Polícia Judiciária deteve um jovem de 22 anos, “na zona norte do país”, numa operação que apelidou de “Neural Kill Switch”, tendo este jovem sido investigado por “crimes ligados à utilização de IA maliciosa”.
O jovem é responsável pelo desenvolvimento de um modelo de IA denominado WormGPT, “um modelo de linguagem análogo ao do ChatGPT, mas sem as limitações do original e com algumas funcionalidades adicionais”, e que estaria a ser comercializado em fóruns de "hacking" para atividades ilícitas, “permitindo a criminosos - mesmo com pouco conhecimento - criar guiões para enganar pessoas, desenvolver vírus e outro tipo de software malicioso de forma quase instantânea e, assim, desenvolver elaboradas fraudes financeiras, espionagem corporativa, campanhas de desinformação direcionadas e ciberataques”, explicou a PJ num extenso comunicado.
Os ciberataques que recorrem à Inteligência Artificial acontecem contra indivíduos, instituições e contra o Estado.
Em dezembro, ouviu-se da boca de Neiva da Cruz, diretor dos Serviços de Informações de Segurança, que Portugal tem estado sob ataque de “atores estatais”, que pretendem roubar informações “confidenciais” e que ao fazerem-no “comprometem a soberania” do país. José Tribolet não considera ser caso para alarme: "Enquanto sociedade, e falando de segurança, e de cibersegurança, é interessante ver-se que os ataques aos sistemas de bases de dados, às comunicações, tudo está cada vez mais e mais sofisticado, os algoritmos estão bem mais sofisticados nos ataques. No entanto, os mecanismos de defesa, de proteção de infraestruturas, também. A ‘ética’ europeia não nos atrasou na defesa”.
Os burocratas de Bruxelas e os libertários da América: qual deles tem razão?
A discussão é importante, a da ética na Inteligência Artificial.
Tribolet fala-nos de regulamentos, nomeadamente do Regulamento sobre Inteligência Artificial, europeu e pioneiro, e do Regulamento Geral sobre a Proteção de Dados, ambos já transpostos para a lei em Portugal. O especialista em Cibersegurança diz “não concordar nada” com JD Vance, vice-Presidente dos EUA. Vance esteve na Europa esta semana para participar numa Cimeira de Inteligência Artificial, organizada por Emmanuel Macron, e advertiu para o que diz ser um problema: a regulamentação “excessiva” neste campo, da IA, pode vir a ser contraproducente, pois irá “matar” uma indústria “em expansão”.
“Precisamos de regulamentação que incentive a criação de tecnologias de IA em vez de a sufocar”, atirou Vance, reunido com chefes de Estado e empresários da tecnologia no Grand Palais, em Paris.
José Tribolet até admite, “sim”, que excessiva regulação “impede a inovação”. “Mas também é injusto, de certa forma, criticar os ‘burocratas de Bruxelas’, demasiado normativos, que regulam tudo. O que eles não têm é uma ideologia libertária como é a de Vance.” A discussão é política. O professor do Instituto Superior Técnico recusa, pelo menos aqui, o conceito de autorregulação - à americana. “Neste campo [da IA] é necessário balancear entre iniciativa, produção, criatividade, liberdade individual - e isso faz-se regulando, vigiando."
Mas regula-se demais? - perguntamos. “Não”, responde logo Tribolet. “A necessidade da regulamentação do uso da tecnologia está ao mesmo nível da necessidade de regulamentação, de regras, no uso de produtos alimentares, de produtos farmacêuticos. Isto é, de tudo aquilo que se destina ao uso, benéfico, pelo ser humano. É importante que haja um sistema consensual nas sociedades, que estabeleça os princípios básicos, as finalidades do uso das coisas - e que estabeleça regras para o seu bom-uso e consequências para o seu uso indivíduo.”
Outro homem da academia, no caso da Universidade do Minho, Paulo Novais, especialista em Inteligência Artificial e coordenador do Laboratório Associado de Sistemas Inteligentes, daquela mesma universidade, levanta outra discussão: que os diversos regulamentos como os europeus, seja o da Proteção de Dados, seja o da Inteligência Artificial, “não são únicos no mundo”, mas são, sim, bem mais “condicionantes".
"Outros países têm a sua regulamentação. Nos EUA há acordos entre empresas, compromissos - diria - ‘voluntários’ para um uso responsável da IA. Pode não ser como o europeu, mas existe. A própria China tem a sua regulação, claro que mais ‘centralizada’ [no regime], mas tem.” Mas a questão é se a regulação europeia trava, ou não, a inovação. A resposta de Novais é “sim, em alguns campos sim”.
Um destes campos a que se refere Paulo Novais é o de sistemas de reconhecimento emocional, travados pela regulação da UE por exemplo nos ambientes laborais e escolares. “A limitação à monitorização das emoções [através de videovigilância], da análise comportamental, da análise biométrica, vejo-a como um entrave à inovação. Porque nos países em que não há proibições, será utilizado para melhorar sistemas de segurança, por exemplo. Acho que houve uma tendência excessiva para regular. Quisemos ser como que um ‘farol’, de bons usos e de bons costumes, iluminar a direção da utilização responsável da IA, mas o que fizemos foi limitar - limitar as empresas.”
E limitando as empresas, limita-se também a academia, a investigação. “Na academia exploramos ideias. Mas faltam-nos recursos para escalar as soluções. Falta-nos poder computacional, poder esse que as empresas possuem. Se se limitarem as empresas, limita-se de certa maneira quem investiga.”
A interpretação de um académico, de um investigador, é necessariamente diferente da de um homem das leis, o advogado Paulo Saragoça da Matta. E Saragoça da Matta é taxativo: o regulamento não só não impediu a recolha biométrica - aquela a que se referia Novais -, como até nos veio colocar numa exposição maior. “Se me pergunta se as pessoas estão protegidas [face à inteligência artificial], a resposta é não, não estão, absolutamente nada.”
“Ao ler o próprio capítulo do Regulamento [sobre Inteligência Artificial] que refere as proibições com vista a proteger as pessoas”, o advogado o que lê é um sem-número de exceções, “exceciona tanto, tanto, para tantas, tantas situações, que acaba por admitir situações que seriam elas mesmas absolutamente inadmissíveis”. Paulo Saragoça da Matta diz que naquilo em que a Inteligência Artificial “pode ser mais agressiva”, o regulamento “não está para já absolutamente nada preparado”. Refere-se, o advogado, “à área que é feita pelas autoridades policiais e criminais”. E lamenta-se: “Para protegermos a ‘segurança’ nós admitimos tudo. A verdade é essa”.
Fala concretamente da permissão à entrada na esfera da intimidade. “Da vida das pessoas, da vida que é privada. Nomeadamente com a IA a filmar, gravar na rua - vídeo e som -, em praças, no espaço público, a violar liberdades e garantias, utilizando sistemas que identificam características físicas, até sinais no rosto, até modos de andar, até o tom de voz.” Paulo Saragoça da Matta não esperaria ver na mão do Estado, e polícia, “o que é da bandidagem - sendo um pouco coloquial”.
“É que nós já sabíamos de criminalidade, em todo o mundo, que utiliza falsamente imagem, voz, até consegue impressões digitais através da captura de polegares, de fotografias de polegares, mas agora estamos a permitir às forças [de segurança], às autoridades reguladoras, aquilo que não devemos permitir a criminosos. Estas autoridades trabalham para os Estados. Os Estados são controlados por partidos. A diferença entre estar-se numa democracia e estar-se numa autocracia é muito, muito pequena”, remata, num alerta.
"Na China estão-se a aplicar recursos gigantescos e nós na Europa estamos atrasados"
Voltamos à conversa da regulação, que JD Vance espoletou. Afinal, porque tanto regulamos, nós, europeus, ao contrário de outros, como é o caso dos EUA? Paulo Novais e José Tribolet encontram razões, “medos”, diferentes.
Responde primeiro Novais: excesso de concentração de poderes. "Não queremos concentrar os poderes da tecnologia em alguns poucos players, em alguns poucos países e geografias - menos ‘simpáticas’ -, e assim ficarmos deles dependentes.” Tribolet, favorável a diminuir a regulamentação desde que haja uma “experimentação acompanhada”, defende que se a balança “pender para regular em excesso, porque temos medo, muitas coisas não vão acontecer, é verdade”. E compara: “A IA é como a energia atómica: pode destruir-nos, humanidade, mas também nos pode salvar, enquanto sustentáculo energético".
Num tempo que José Tribolet descreve como “de emergência da IA”, a regulamentação serve para tentar dar alguma “capacidade à humanidade, individual e coletivamente, de se prevenir, de se defender”. Mas tanta prevenção, tamanha defesa, é sinal de atraso. Tem sido. “A verdade é que na China se estão a aplicar recursos gigantescos, outros competidores aplicam recursos gigantescos, e nós na Europa estamos atrasados - em quase todos os meios de tecnologia. Atrasados na organização mais até do que em ferramentas. Nós temos essa tecnologia. O problema é a aplicação. E falo de uma aplicação positiva, construtiva, democrática. A máquina regulatória europeia é pesadíssima. Produzir regulamentação teve algum mérito, foi um marco, mas uma simplificação há de ter de ocorrer.”
Simplificação não se antecipa. Mas antecipa-se investimento.
Na Cimeira de Inteligência Artificial, em França, a presidente da Comissão Europeia, Ursula von der Leyen, anunciou a mobilização de 200 mil milhões de euros para se investir em IA de “confiança” - é, diz, a “maior parceria público-privada mundial” para desenvolver Inteligência Artificial. Segundo von der Leyen, as infraestruturas europeias necessitavam “de capital imediato substancial”, nomeadamente para “impulsionar a competitividade, proteger a segurança, tornar o acesso a conhecimento e informação mais democrático e amparar a saúde pública”.
Os milhões da Comissão dividem-se por duas iniciativas: 50 mil milhões na InvestAI e 150 mil milhões na EU AI Champions. Da iniciativa EU AI Champions fazem parte mais de 60 empresas europeias, desde multinacionais da tecnologia e pequenas startups, sendo que uma delas é portuguesa, a Sword Health, e que se evidenciou num sector que Ursula von der Leyen destacou: a Saúde.
A saúde em Portugal precisa de IA, mas ainda pode ser como uma "ponte em Entre-os-Rios"
Aliás, o próprio Governo português fez saber há alguns meses que é na Saúde que tem hoje mais iniciativas de Inteligência Artificial em curso. Ao todo, são hoje 111 projetos, da Unidade Local de Saúde Santa Maria ao Instituto Português de Oncologia de Coimbra, e que o que pretendem é desempenhar “um papel muito importante na qualidade de vida para as pessoas”, acrescentando a ministra da Juventude e Modernização, Margarida Balseiro Lopes, que uma das vantagens esperadas “é dar um diagnóstico num curto espaço de tempo”.
“Sabemos que - em especial em Saúde - tempo é vida. Será possível [com recurso à Inteligência Artificial] prestar mais cuidados, alcançar mais pessoas - e de forma mais eficiente”. Palavra de ministra.
No entanto, a realidade tem sido bem diferente na eficiência. Voltemos ao “unicórnio” Sword Health, o tal que é financiado pela Comissão Europeia. Virgílio Bento, o fundador da empresa de Braga, resolveu conceder (e gratuitamente) ao Estado um mecanismo de IA para integrar no Instituto Nacional de Emergência Médica (INEM), “que flexibilizaria o sistema”. No fundo, receberia chamadas e tornaria o processo mais ágil. Não correu bem.
E Virgílio Bento recuaria, crítico do estado do Estado: “O sistema do INEM é obsoleto, frágil e quem está a geri-lo não tem noção disso. O estado do sistema de informação [do INEM] assemelha-se à ponte em Entre-os-Rios. Caiu porque não teve manutenção e antevemos um desastre, um colapso, no INEM, dado o sistema de informação que tem. Não podemos avançar, porque não podemos mudar o sistema do INEM. É preciso que sejam os colaboradores externos, que fizeram o sistema, a fazê-lo e, para isso, é precisa pressão - que não existe. Faltam coisas básicas num sistema que afeta milhares de pessoas e em situação crítica”.
O INEM reagiu ao dizer que “estão já em curso ações a médio e longo prazo, que contribuem para o objetivo de otimização do trabalho realizado nas centrais médicas”. Mas sem inteligência artificial.
O especialista em IA da Universidade do Minho, Paulo Novais, diz que na Saúde o “potencial é tremendo”. O problema, como se ouviu do fundador da Sword Health, é sobretudo burocrático. Não só nós, portugueses, somos burocráticos, como nós todos, europeus, ainda o somos. "Estamos muito, muito atrasados." "Aqui nesta área, mais do que se desregular ou não desregular [o Regulamento sobre Inteligência Artificial], é importante criarem-se contextos onde haja um grau de flexibilização maior. Mais que não seja no acesso aos dados. Porque quando falamos de IA na Saúde, estamos a falar de aceder a dados. A regulamentação excessiva tolhe-nos, condiciona. A Saúde necessita de agilidade, de um certo grau de liberdade, não é de burocracia”, reflete Paulo Novais, negativamente.
Mas também vê algo positivo. “Não é nas ideias que estamos atrasados; é nos recursos que temos. E na capacidade de ‘fazer’ - impedidos por regulamentos. Um centro de investigação português não é em nada pior do que um americano. Ou chinês. Mas eles têm dados. E recursos. E orçamentos. Mais do que regulação, precisamos, sim, de ter acesso a dados, mas dados de qualidade. E se eles forem liberdades sob determinadas condições, não há limite ao futuro. Percebo a necessidade de resfriar os ânimos, de cada passo ser um passo seguro, mas isso só veio [Europa] isolar-nos.”
Um investigador quer progresso, quer “data” - em inglês. Aceder ao que é nosso, ou pode ser. O Direito pede calma. E voltando a Saragoça da Matta, “não, não estamos protegidos”. “Esta legislação não é um ‘farol’ como se quis fazer passar. Acabou por criar um problema - com todas as exceções - mais até do que resolver um problema. Estamos a fazer entrar pela janela o que quiseram fazer sair pela porta.” Mas havendo benefícios na IA - como vimos, na Saúde - e perigos às liberdades e garantias, pode algum que se sinta “vítima” procurar proteção na Justiça? Poder, pode.
“Se um cidadão pode processar o Estado? Quer o Tribunal de Justiça [da UE], quer o Tribunal Europeu dos Direitos do Homem poderiam intervir num processo assim. Mas há dois problemas. Um: o tempo. O tempo que demora. Dois: ser o David contra Golias. Ainda assim, e logo à partida, um tribunal em Portugal não acredito que desse razão a um particular que venha a colocar-se contra o Estado. Não é tradição dos tribunais portugueses. Há meios de tutela, sim, mas são muito pouco acessíveis”, esclarece Paulo Saragoça da Matta.
