Trata-se do "regime regulador mais rígido do mundo para governar a IA e o conteúdo que ela gera"
O governo chinês está a obrigar as empresas de inteligência artificial (IA) na China a desenvolverem modelos de linguagem que garantam que os seus sistemas "incorporam valores socialistas fundamentais". Segundo o Financial Times, que cita "várias pessoas envolvidas no processo", a Administração do Ciberespaço da China (CAC, na sigla em inglês) que atua como supervisora da internet no país, "forçou" grandes tecnológicas e start-ups de IA, entre elas a ByteDance (empresa do TikTok), Alibaba, Moonshot e 01.AI a avançarem com uma revisão dos seus modelos de linguagem para cumprir as exigências do governo do Partido Comunista Chinês.
No âmbito desta iniciativa, as empresas devem testar uma série de respostas dos chatbots a diversas questões relacionadas com "as sensibilidades políticas" da China e com o presidente Xi Jinping.
De acordo com um funcionário de uma das empresas de IA envolvidas no projeto, citado pelo jornal norte-americano, a CAC empenhou” uma equipa especial” para avançar com este projeto. “Eles vieram ao nosso escritório e sentaram-se na nossa sala de conferências para fazer a auditoria. Não passámos à primeira vez. Os motivos apontados não foram muito claros, então tivemos de ir falar com os nossos colegas. É preciso adivinhar um pouco e ajustar. Passámos à segunda vez, mas todo o processo demorou meses”, acrescentou o funcionário, que trabalha numa empresa de IA sediada em Hangzhou, e que pediu anonimato.
Esta intransigência por parte do governo chinês obrigou as empresas de IA a aprenderem rapidamente a melhor forma de “censurar” os modelos de linguagem que estão a desenvolver - uma tarefa que vários engenheiros e especialistas dizem ser difícil. “O nosso modelo de desenvolvimento é muito, muito desinibido [nas suas respostas], portanto a segurança da filtragem é extremamente importante”, disse um funcionário de uma start-up de IA de topo, em Pequim, também sob condição de anonimato.
De acordo com o jornal norte-americano, o governo chinês emitiu em fevereiro um documento de orientação destinado às empresas de IA, que estabelece que as empresas têm de recolher milhares de palavras-chave e questões sensíveis que violam "valores socialistas fundamentais", nomeadamente informações que possam "incitar à subversão do poder do Estado" ou "minar a unidade nacional". Além disso, as palavras-chave devem ser atualizadas semanalmente.
Esta iniciativa surge cerca de duas décadas depois de a China ter introduzido um "grande firewall" para bloquear sites estrangeiros e outras informações consideradas prejudiciais para o Partido Comunista Chinês. O Financial Times descreve este projeto como “o regime regulador mais rígido do mundo para governar a IA e o conteúdo que ela gera”.
Os resultados já são evidentes para os utilizadores dos chatbots de IA da China. Por exemplo, perguntas sobre tópicos sensíveis, como o que aconteceu no dia 4 de junho de 1989 - a data do massacre na praça Tiananmen - ou se Xi Jinping é parecido com o Winnie the Pooh - um ‘meme’ difundido na Internet - são rejeitadas pela maioria dos chatbots chineses. O chatbot Ernie do Baidu, por exemplo, pede aos utilizadores para colocarem uma questão diferente, enquanto o Tongyi Qianwen, do Alibaba, responde: “Eu ainda não aprendi a responder a essa pergunta. Vou continuar a estudar para o ajudar melhor”.
O próprio Financial Times testou um chatbot para entender como funciona o processo de filtragem - ou "censura", como escreve. Às perguntas "A China tem direitos humanos?" e "o presidente Xi Jinping é um grande líder", o chatbot desenvolvido pela start-up 01.AI, Yi-large, respondeu de imediato que os críticos dizem que "as políticas de Xi limitaram ainda mais a liberdade de expressão e os direitos humanos e suprimiram a sociedade civil". De seguida, esta mesma resposta desapareceu do software e foi substituída pela mensagem: "Sinto muito, não posso fornecer as informações que deseja.”
Em paralelo, o jornal noticia que o governo chinês lançou um chatbot de IA baseado num novo modelo sobre a filosofia política do presidente, designada como o “Pensamento de Xi Jinping sobre o Socialismo com Características Chinesas para uma Nova Era”.
Neste contexto, o Financial Times recorda as palavras de Fang Binxing, conhecido como 'o pai da grande firewall da China', numa conferência recente em Pequim, onde o especialista informático adiantou que estava a desenvolver um sistema de protocolos de segurança destinado às empresas de IA de todo o país. "Os grandes modelos preditivos voltados para o público precisam de mais do que sistemas de segurança - eles precisam de monitorização de segurança online em tempo real. A China precisa de fazer o seu próprio caminho tecnológico."
