A história parece repetir-se. A sociedade e a tecnologia tiveram um padrão interessante nos últimos séculos. Primeiro vem o medo, depois compreensão e no final a banalização. A eletricidade foi vista como uma força mágica e letal, hoje não vivemos sem ela. A aviação, durante décadas, pareceu uma arrogante afronta à natureza. Hoje é a forma mais segura de transporte. A energia nuclear, continua a ser, para muitos, mais um sinónimo de catástrofe, o medo daquilo que não se vê e controla. É das fontes mais limpas e menos letais. Não é meramente opinião. São dados.
Nasceu tudo sobretudo da ignorância e não do risco. Está a acontecer o mesmo com a Inteligência Artificial, mas é diferente. Desta vez a tecnologia fala connosco.
Imaginem uma caixa fechada. Nós perguntamos alguma coisa e a caixa responde. A primeira intuição humana: está ali alguém. Especialmente se for uma reposta bem construída, ou quando faz uma piada, ou se simular empatia. É compreensível. A linguagem sempre foi, para nós, um sinal de pensamento. Se falarmos, logo pensamos. Se falo, logo existo. Por isso, quando algo fala, então pensa e existe. Mas nem sempre é assim.
Os grandes modelos de linguagem (LLM em inglês), são estruturas de dados estatísticos. Não são consciências digitais. Não são mentes escondidas em servidores, não têm desejos, medo, ambições, vontade, ressentimento ou orgulho. Não acordam de manhã, não fazem planos pela própria existência. Não sofrem, não esperam, não se cansam, não têm essência do “eu” dentro de uma caixa fechada a olhar para o mundo exterior.
Afinal o que fazem? Calculam, com grande eficácia, qual é a sequência de palavras mais provável perante um determinado contexto que nós damos. E os resultados podem ser impressionantes. Podem produzir respostas que parecem humanas. Mas parecer não é ser, assim como um manequim parece um humano, mas não é. Um avião imita um voo de uma ave, até tem asas, e não é uma. A IA de LLM pode imitar conversas, mas não tem consciência.
Esta confusão nasce porque estamos habituados a ligar linguagem a uma intenção. Se eu disser “tenho medo”, quem me ouve assume uma experiência interior que é o medo. Se a IA disser o mesmo, há apenas uma frase estatisticamente adequada ao contexto que lhe demos. A frase existe, mas a experiência não.
Por isso é este medo da IA ganhar consciência própria é um medo mal colocado. Se estamos a falar de LLMs, estamos a falar de um sistema sem corpo, sem mundo, sem necessidades, sem sobrevivência, sem memória, nem biografia própria, sem vontade autónoma. Têm informação já processada. Não têm experiência. Têm um output (saída). Não têm interioridade. Têm uma linguagem, mas não tem a “alma”.
Isto não significa que a IA seja inofensiva, até pelo contrário. A IA pode ser perigosa no momento em que a usamos quando não compreendemos as suas limitações. Pode inventar factos com confiança, pode gerar falsas citações, falsas decisões, falsas provas, falsas testemunhas, falsos textos jurídicos e falsos consensos. Pode amplificar enviesamentos, pode ser usada para manipular, vigiar, automatizar injustiças e, pior de tudo, substituir o julgamento humano por preguiça institucional.
Mas note-se o seguinte: Estes riscos não resultam de a IA querer algo. Resultam de nós querermos demasiado dela, ou de queremos que ela resolva problemas que exigem responsabilidade, contexto e prudência. O perigo não é a máquina se tornar consciente. O perigo é o ser humano abdicar da própria consciência e massa crítica perante a máquina.
É precisamente aqui que a discussão pública deveria ser séria. Entre os que dizem que a IA é a salvadora mágica de todos os problemas e os que a tratam como demónio inevitável, existe uma posição mais racional: Entender a tecnologia, não a endeusar, não a proibir e regular por superstição e não a usar cegamente porque está na moda e temos medo de ficar para trás.
Foi assim com outras tecnologias. A eletricidade não deixou de ser letal e perigosa. Aprendemos os riscos, isolá-la, regulá-la e usá-la. Na aeronáutica não se eliminou o risco também. Há procedimentos, redundâncias, investigação nos acidentes e uma exigente cultura de segurança. A energia nuclear não deve ser discutida com slogans mas com engenharia, dados, regulação honesta com base nos riscos.
A IA merece o mesmo tratamento: menos histeria e mais literacia. Devemos exigir transparência sempre que for possível, auditorias onde é necessário, responsabilização quando existirem impactos sobre pessoas e, por fim, prudência onde estiverem em causa direitos fundamentais. Devemos ensinar os cidadãos, as empresas, a justiça, as escolas e alunos assim como decisões políticas. Todos estes devem fazer a pergunta certa: “Esta ferramenta é adequada para este propósito?” e não “será que isto está vivo?”.
É que não está, e muito dificilmente alguma vez irá estar. A LLM não é uma pessoa. É uma ferramenta bem poderosa de linguagem. Pode muito ajudar como pode muito errar. Pode ser útil e perigosa. Fascinante ou enganadora. Mas não é certamente consciente.
Este medo da IA não deve deixar de existir, mas sim amadurecer. Devemos deixar de temer estes fantasmas de ficção científica e começar a olhar para os riscos que são reais: A ignorância, a irresponsabilidade, a dependência acrítica e a tentação de transformar probabilidades em autoridade.
No final, talvez a pergunta mais importante nem seja se a máquina vai ganhar consciência própria. É se nós iremos perder a nossa.
