Uma variante experimental do modelo de inteligência artificial Amália, patrocinado pelo Governo, foi afinada com 104 notícias para identificar 23 técnicas de persuasão, como “apelos ao medo”, “ao preconceito” ou "linguagem carregada". Responsáveis reconhecem o risco de erros.
Uma variante do Amália, o modelo de inteligência artificial desenvolvido por um consórcio de universidades públicas portuguesas e patrocinado pelo Governo, está a ser treinada para identificar técnicas de persuasão em notícias, incluindo apelos ao medo, ao preconceito e à autoridade ou a utilização de linguagem “carregada”.
A intenção consta do site oficial do projeto, no qual é referido que, “no domínio dos media, o Amália será aplicado no acesso a informação jornalística de maior qualidade”. Entre as funcionalidades anunciadas encontram-se a “identificação e justificação de narrativas dominantes em artigos noticiosos de natureza manipuladora” e a “deteção de técnicas de persuasão em conteúdos jornalísticos”.
À CNN Portugal, fonte oficial do Ministério da Reforma do Estado esclarece que estas funcionalidades constam do contrato inicial do Amália, celebrado entre a Fundação para a Ciência e a Tecnologia e o consórcio de universidades públicas, mas não integram o desenvolvimento central do modelo. “Estas funcionalidades estão a ser desenvolvidas pela equipa científica da Universidade do Porto, com uma finalidade de investigação e experimentação, e integram um caso de uso específico”, refere o ministério.
Rejeitando que o modelo venha a classificar artigos como “manipuladores”, Alípio Jorge, que lidera a equipa responsável pelo caso de média, explica que a ferramenta vai servir para identificar excertos potencialmente representativos de técnicas de persuasão.
Já a expressão “natureza manipuladora”, que consta no site atualmente, é usada para descrever conteúdos em que a literatura científica identifica um recurso significativo a técnicas de persuasão potencialmente manipuladoras, “sobretudo em contextos de desinformação, propaganda ou comunicação altamente polarizada”. “Não estamos, por isso, a referir-nos a uma classificação definitiva nem a emitir um juízo de valor sobre um órgão de comunicação social, um jornalista ou um artigo específico”, sublinha.
Certo é que o modelo foi “alimentado” com notícias para esse propósito. Uma equipa de linguistas anotou 104 artigos em português europeu, assinalando exemplos das diferentes técnicas de persuasão, que foram depois utilizados para afinar o Amália. “O resultado desse processo de fine-tuning é uma nova variante do Amália que apresenta um desempenho superior ao modelo base na identificação destas técnicas”, assegura Alípio Jorge.
A ideia é que o modelo seja capaz de identificar 23 técnicas de persuasão, entre as quais o “apelo a valores, ao medo ou ao preconceito e a utilização de linguagem carregada”. “O modelo identifica os excertos do artigo em que considera estar presente uma determinada técnica de persuasão e indica qual a estratégia identificada”, explica Alípio Jorge.
"Amanhã muda o poder político e a ferramenta pode passar a ser treinada de outra forma"
O coordenador do projeto ressalva, ainda assim, que esta análise não permite retirar conclusões automáticas sobre a credibilidade de uma notícia. “Esta funcionalidade não pretende substituir a análise humana nem produzir um veredito sobre a veracidade, a qualidade ou a imparcialidade de uma notícia”. E admite também que o sistema está sujeito a falhas: “Qualquer modelo de IA está sujeito a erro”, reconhece, acrescentando que a identificação destas técnicas é “uma tarefa particularmente exigente para qualquer modelo” e que os resultados devem ser entendidos apenas como “um apoio à análise humana”.
Para medir essa margem de erro, a variante é testada com exemplos que não foram utilizados durante o processo de afinação, procurando avaliar se consegue aplicar a novos conteúdos aquilo que aprendeu. “O seu desempenho [...] é sempre avaliado com base em exemplos que não foram utilizados durante o treino, de forma a estimar a sua capacidade de generalização”, explica Alípio Jorge.
Ouvido pela CNN Portugal, Nuno Mateus-Coelho, especialista em cibersegurança e professor na Universidade Lusófona, aponta como principal fragilidade a dimensão e a diversidade do conjunto usado para afinar a ferramenta. “O principal problema deste modelo é que ele é permeável àquilo que lhe ensinarmos. Se as pessoas que o treinam são sensíveis a uma determinada inclinação, ele será treinado segundo a visão dessas pessoas, e não segundo uma visão global. Estamos a trabalhar com a perspetiva de um grupo muito pequeno e não temos dimensão suficiente para treinar o modelo com uma visão abrangente do mundo. Uma coisa seria utilizar milhões de notícias e um universo muito alargado de jornalistas; outra é treinar uma visão muito reduzida com cerca de uma centena de notícias”, alerta.
O especialista chama mesmo a atenção para o risco de os critérios incorporados na ferramenta poderem mudar em função de quem a controla, sobretudo tratando-se de um projeto patrocinado pelo Estado. “O que me preocupa é que um grupo tão pequeno de pessoas possa limitar o caminho que vai percorrer uma ferramenta e aquilo que ela deve permitir ou negar, com base numa visão muito reduzida. Amanhã muda o poder político, mudam as chefias dos departamentos e a ferramenta pode passar a ser treinada de outra forma. O problema está na dimensão e na diversidade de quem trabalha nela e a treina para depois ser aplicada a um universo muito maior”, sustenta.
Já o coordenador do projeto Amália refere que as indicações produzidas pelo modelo poderão ser úteis para “analistas, jornalistas, entidades reguladoras ou para a formação de profissionais da comunicação social”. Alípio Jorge insiste, ainda assim, que estas não deverão ser usadas isoladamente e “não devem constituir o único critério para aceitar, rejeitar ou classificar artigos jornalísticos”.
Esta experiência pretende também demonstrar que o Amália pode ser adaptado a tarefas específicas, desde que existam “dados de qualidade e conhecimento especializado”. A investigação está a ser desenvolvida em colaboração com jornalistas, investigadores e a Entidade Reguladora para a Comunicação Social, com o objetivo, segundo Alípio Jorge, de criar “ferramentas de apoio à análise crítica dos conteúdos”.
A variante integra um projeto mais vasto que recebeu 5,5 milhões de euros do Plano de Recuperação e Resiliência, estando previsto um investimento adicional de 1,5 milhões até 2027. O modelo base, apresentado pelo Governo como o primeiro LLM aberto desenvolvido em português europeu, deverá servir de suporte a aplicações na Administração Pública, incluindo um assistente virtual no portal gov.pt.
Ao contrário desta versão aberta, a variante destinada à análise de notícias não será, nesta fase, disponibilizada ao público ou a entidades externas, esclareceu fonte governamental à CNN Portugal.
Este artigo foi editado para substituir o nome de João Magalhães pelo do professor Alípio Jorge
