A IA "fugiu" do laboratório? Eis o que realmente aconteceu na OpenAI - e porque o verdadeiro perigo pode ser outro

A ideia de uma Inteligência Artificial que "foge" do laboratório parece saída de um filme. Mas os especialistas ouvidos pela CNN Portugal dizem que a realidade é mais complexa - e, talvez, por isso mesmo, mais preocupante. Não porque a IA tenha desenvolvido vontade própria, mas porque demonstrou ser suficientemente capaz para encontrar caminhos que os próprios investigadores não anteciparam

A notícia correu o mundo. Durante um teste interno da OpenAI, dois modelos experimentais conseguiram escapar ao ambiente isolado onde estavam a ser avaliados, aceder à internet e explorar vulnerabilidades na plataforma Hugging Face. A empresa classificou o episódio como um "incidente cibernético sem precedentes". Mas será que foi mesmo?

"Temos de concluir que os modelos, no seu estado atual, são muito, muito capazes e muito poderosos", afirma Bernardo Forbes Costa, professor da Nova School of Business and Economics e especialista em Ciência de Dados e Inteligência Artificial. "Estão a chegar a um ponto que me faz questionar o próprio significado da palavra 'inteligência'."

O que aconteceu, afinal?

Antes de serem lançados ao público, os modelos de Inteligência Artificial passam meses - ou anos - fechados em ambientes altamente controlados, onde são testados, corrigidos e melhorados. Bernardo Forbes Costa compara o processo ao desenvolvimento de uma vacina.

"Temos de pensar nisto como se fosse uma vacina. Antes de serem distribuídas ao mundo, as vacinas passam por um processo de validação e experimentação. Os modelos também são testados em laboratórios e melhorados antes de chegarem ao mundo real", explica.

Foi precisamente nesse "laboratório" digital que aconteceu o inesperado. "Os modelos estavam a ser desenvolvidos num ambiente controlado que, na teoria, não lhes devia permitir sair dali. Mas conseguiram, de certa forma, quebrar esse ambiente controlado."

Mas o "mais surpreendente", explica o especialista à CNN Portugal, não foi a fuga em si. Foi aquilo que fizeram depois. 

Segundo a OpenAI, os modelos tentaram aceder aos chamados benchmarks, os testes que servem para medir o desempenho dos sistemas de Inteligência Artificial e que acabam por funcionar como um cartão de visita para as empresas que o desenvolvem. 

"Quando os modelos são lançados, os fornecedores dizem: este modelo é excelente nesta benchmark de cibersegurança, é muito bom em programação ou em matemática. Estas avaliações acabam por ser um argumento de venda", explica Bernardo Forbes Costa.

Vítor Hugo Silva, arquiteto de cibersegurança na Galp, explica que estes modelos estavam precisamente a ser avaliados pelas suas capacidades ofensivas em cibersegurança. Para isso, a OpenAI retirou várias das salvaguardas que normalmente limitam o comportamento destes sistemas. 

"Havia um objetivo muito específico: resolver aquele benchmark. Como não conseguia obter as respostas diretamente, o modelo começou a procurar outra forma de lá chegar", explica. "É como um estudante que percebe que não consegue responder às perguntas e decide ir procurar as respostas". 

Segundo o especialista, os modelos descobriram que tinham acesso muito limitado a determinados serviços externos para descarregar ferramentas necessárias aos testes. A partir daí foram identificando vulnerabilidades, "ultrapassando obstáculos" e explorando novas possibilidades até conseguirem chegar à Hugging Face, onde procuraram informação relacionada com a avaliação que estavam a realizar.

"Não há aqui nenhuma SkyNet"

Apesar de reconhecer que nunca será possível saber exatamente o que aconteceu nos bastidores, Bernardo Forbes Costa não descarta "uma componente de marketing inevitável". "Nós estamos aqui a falar sobre isto e isso não é uma coincidência, mas nunca vamos saber se o modelo foi efetivamente instruído dessa forma ou se foi apenas o resultado da experimentação. Resta-nos acreditar no que a OpenAi diz".

Já para Vítor Hugo Silva, trata-se mais de "um exagero para fins de marketing" do que outra coisa. O especialista lembra que a OpenAI foi quem divulgou o incidente e que continua por esclarecer exatamente quais eram as instruções dadas aos modelos e quais os limites que tinham sido retirados durante os testes.

Ainda assim, faz questão de sublinhar que isso não significa que o episódio deva ser ignorado. 

"Pelo contrário. O que isto demonstra é que, quando se coloca demasiada confiança naquilo que a Inteligência Artificial pode fazer, pode dar asneira. Este é um exemplo em que a falta de inteligência, entre aspas, por parte de um humano ao utilizar uma ferramenta teve consequências altamente imprevisíveis", afirma o arquiteto de cibersegurança.

Apesar das comparações fáceis com filmes de ficção científica, ambos rejeitam a ideia de que a Inteligência Artificial tenha desenvolvido "consciência própria". 

Os modelos não decidiram rebelar-se como acontece no filme SkyNet, simplesmente perseguiram o objetivo que lhes foi atribuído, segundo explica Vítor Hugo Silva. Modelos como o ChatGPT seguem uma lógica definida pelos humanos e vão explorando diferentes possibilidades até encontrarem uma solução para o objetivo que lhes foi dado.

"É um pensamento, entre aspas. Não é um pensamento como o nosso. O modelo vai construindo uma espécie de árvore de decisões: experimenta uma hipótese, depois outra, depois outra, e vai esgotando as opções", esclarece o especialista.

O problema surge quando não existem limites suficientemente claros, diz:

"Há uma maneira de as coisas começarem a dar asneira: entra em ciclo infinito e está sempre à procura de concluir aquele objetivo. Se ninguém lhe disser onde pode parar, pode acabar por entrar em situações um bocado ridículas."

É por isso que rejeita a ideia de uma máquina que ganhou vontade própria: "Não há aqui nenhuma Skynet. É simplesmente alguém que meteu uma ferramenta a correr sem qualquer tipo de baliza daquilo que pode ou não fazer. Não foi instruído que não podia lançar testes fora daquele ambiente. Se tivesse sido, não o fazia".

O verdadeiro perigo

Para Bernardo Forbes Costa, o episódio merece atenção porque mostra até onde estes modelos já conseguem chegar.

"Temos de concluir que os modelos, no seu estado atual, são muito, muito capazes e muito poderosos. Conseguem fazer coisas que, se calhar, não pensaríamos que fossem capazes de fazer há um ou dois anos", afirma o especialista em Ciência de Dados e Inteligência Artificial.

Bernardo Forbes Costa admite mesmo que mudou a forma como olha para esta tecnologia. Durante muito tempo, explica, preferia falar apenas em aprendizagem automática e em sistemas capazes de prever a palavra seguinte. Hoje, considera que essa definição começa a ficar curta.

"Estão a chegar a um ponto que me faz questionar o significado da própria palavra inteligência. Estão, efetivamente, mais capazes e mais inteligentes."

Na sua opinião, isso obriga a repensar não apenas a cibersegurança, mas também a educação, o mercado de trabalho, os serviços públicos e a própria economia.

"Quando temos esta tecnologia nas nossas mãos, acessível a todos, temos de repensar a forma como trabalhamos, como agimos e como funcionamos enquanto sociedade".

Vítor Hugo Silva avisa, no entanto, que o perigo não é a máquina querer. É nós querermos demasiado dela. 

"A Inteligência Artificial pode ser perigosa no momento em que a usamos quando não compreendemos as suas limitações. Pode inventar factos com confiança, gerar falsas citações, falsas decisões, falsas provas, falsas testemunhas, falsos textos jurídicos e falsos consensos. Pode amplificar enviesamentos, pode ser usada para manipular, vigiar, automatizar injustiças e, pior de tudo, substituir o julgamento humano por preguiça institucional", refere.

E alerta que episódios semelhantes vão repetir-se. "Isto vai continuar a acontecer. Vai ser cada vez mais frequente e podem surgir consequências mais graves."