Yuval Harari: "As empresas de IA dizem: 'Vamos criar um deus e ele será nosso escravo'. É ridículo: se criarmos algo mais inteligente, não será possível mantê-lo sob controlo"

ENTREVISTA || Após milhares de anos em que os humanos controlaram as finanças, as leis ou a cultura, a IA vai assumir o controlo destes sistemas. É todo um mundo novo

"Crescemos num mundo em que todos os poemas foram escritos por seres humanos, todas as séries de televisão foram escritas por seres humanos, todas as roupas foram desenhadas por seres humanos", mas um bebé que nasça hoje "provavelmente crescerá num mundo em que uma percentagem cada vez maior dos produtos culturais será produzida por uma inteligência não humana, por uma espécie de inteligência ou imaginação alienígena."

Não se trata de uma visão, mas de uma antecipação esclarecida, feita pelo filósofo e historiador Yuval Noah Harari (Israel, 1976). Em entrevista à CNN Portugal, que decorreu no MAAT - Museu de Arte Arquitetura e Tecnologia, em Lisboa, o autor de livros como “Sapiens: História Breve da Humanidade”, “Homo Deus: História Breve do Amanhã” ou “Nexus: História Breve das Redes de Informação” começa com um contexto que vai além da tecnologia. Começa com histórias…

A entrevista foi encurtada e editada para efeitos de melhor clareza.

Yuval Noah Harari - ... os seres humanos dominaram o mundo porque somos capazes de cooperar melhor do que qualquer outro animal. Conseguimos cooperar em grupos de milhões e até milhares de milhões. E fazemos isso acreditando em histórias partilhadas. Mas as histórias nunca tiveram de ser verdadeiras.

Por exemplo, se partíssemos numa cruzada na Idade Média e quiséssemos convencer milhares de pessoas a juntarem-se ao nosso exército, contar-lhes-íamos uma história de que tinha sido uma ordem de Deus, e de que, se morrêssemos na guerra, iríamos imediatamente para o paraíso. E viveríamos no paraíso durante milhões de anos. Será esta história verdadeira? Provavelmente, não. Mas se pessoas suficientes acreditarem nela, conseguimos formar o nosso exército.

Agora, Elon Musk está a dizer às pessoas que tem uma história de que as levará a Marte. E há pessoas suficientes que acreditaram nele, por isso deram-lhe 80 mil milhões de dólares. Será que a história é verdadeira? Não sei. Mas ele já tem os 80 mil milhões de dólares.

O próprio dólar também é uma história. O dinheiro é provavelmente a história de maior sucesso alguma vez contada. Talvez seja a única história em que toda a gente acredita. Não tem qualquer valor objetivo. Não podemos comer nem beber dólares. O valor provém das histórias que os banqueiros e os políticos nos contam sobre o dinheiro. E se houver pessoas suficientes a acreditar na história, resulta.

CNN Portugal - Mas aí temos um agente. Temos uma pessoa ou um Estado que é quem tenta manipular-nos ou contar-nos uma história. Com a tecnologia e as redes sociais, existe uma névoa na forma como a informação e a manipulação são concebidas.
YNH - E nem sempre se trata apenas de manipulação. Esta é a primeira vez na História que nos deparamos com algo que não é humano e que consegue contar histórias. Dominámos o mundo porque criámos todos estes sistemas, como o sistema financeiro ou o sistema internacional, com base em histórias sobre dinheiro, sobre nações, sobre leis. Nenhum outro animal sequer sabe que estes sistemas existem. O dinheiro afeta, basicamente, todos os animais do planeta. É possível comprar e vender cavalos, galinhas e vacas. Mas os cavalos não sabem que existe algo como o dinheiro no mundo. É um sistema invisível para eles.  Agora, existe algo no planeta que não é humano e que sabe o que é o dinheiro melhor do que nós. E isso é a IA.

A IA está agora a dominar a linguagem. E a IA está a dominar todos estes sistemas complexos que construímos ao longo de milhares de anos, como o sistema financeiro. A grande questão da nossa era é saber o que acontecerá aos humanos quando houver algo no planeta que conte histórias melhor do que nós, que saiba cooperar melhor do que nós, que seja melhor do que nós em finanças, em leis e até mesmo em religiões.

CNN - Tem alguma opinião sobre isso?
YNH -  Vai ser muito interessante.  Não sei se será bom ou mau. Antes de tirarmos conclusões precipitadas, e determinarmos se é horrível ou maravilhoso, precisamos apenas de parar por um instante e refletir sobre a dimensão da mudança.

Após milhares de anos de História em que os humanos controlaram as finanças, as leis e a cultura, algo novo vai assumir o controlo destes sistemas.

Nós crescemos num mundo em que todos os poemas foram escritos por seres humanos, todas as séries de televisão foram escritas por seres humanos, todas as roupas foram desenhadas por seres humanos.

Um bebé que nasça hoje provavelmente crescerá num mundo em que uma percentagem cada vez maior dos produtos culturais será produzida por uma inteligência não humana, por uma espécie de inteligência ou imaginação alienígena.

Mais uma vez, pode ser bom, pode ser mau, mas será muito, muito diferente. A única coisa que acho que todos devem compreender sobre a IA é que a IA não é apenas uma nova ferramenta que nos capacita. A IA é um agente. A diferença entre uma ferramenta e um agente é que uma ferramenta não consegue tomar decisões por si própria nem inventar novas ideias por si própria. Por exemplo, se inventarmos a imprensa, a imprensa não consegue decidir que livros imprimir. É um editor humano que decide: "Vou imprimir a Bíblia e não o Corão". Uma imprensa não consegue inventar um novo livro, não consegue escrever livros. São os humanos que escrevem os livros e, depois, a imprensa copia-os.

CNN - Mas a IA consegue.
YNH - A IA é diferente. Nas redes sociais, por exemplo, que são a nova imprensa,  quem está a tomar as decisões sobre que ideias copiar e divulgar? Cada vez mais, são os algoritmos de IA. Quando vemos um vídeo no TikTok, foi uma IA que tomou a decisão de nos mostrar esse vídeo.

CNN - Disse que a IA pode dominar vários assuntos, mas será que a IA também tem um mestre? 
YNH - Neste momento, sim. Neste momento, ainda temos as grandes empresas de IA que controlam as IA. Mas, mais uma vez, as IA são agentes. À medida que se tornam cada vez mais sofisticadas, capazes de gerar as suas próprias ideias e decisões, é cada vez mais provável que escapem ao controlo humano.

A história que as grandes empresas de IA nos contam é esta: "Vamos criar um deus e esse deus será nosso escravo. Vamos criar um agente superinteligente que é muito mais inteligente do que o ser humano, capaz de fazer todas as coisas que nós não conseguimos, será, basicamente, um deus, e será nosso escravo. Vamos controlá-lo." Isto é ridículo. Se realmente criarmos um deus, se realmente criarmos algo que seja mais inteligente do que os seres humanos, não será possível mantê-lo sob controlo.

Não há exemplos, pelo menos que eu saiba, da História ou da biologia, de algo menos inteligente que consiga, a longo prazo, manter sob controlo algo mais inteligente.

CNN - Será que isso constitui um risco que vai muito além de um risco tecnológico? Poderá ser, por exemplo, um risco geopolítico? Deu o exemplo da Revolução Industrial, em que, basicamente, os países que possuíam a tecnologia na altura dominaram os outros.
YNH - Sem dúvida.

CNN - Isso pode acontecer com a IA?
YNH - Sim. Na Revolução Industrial do século XIX, os poucos países que se industrializaram primeiro conquistaram e exploraram o mundo inteiro durante os 100, 200 anos que se seguiram.

CNN - Isso era poder.
YNH  - Até países pequenos, como a Bélgica, que, por se terem industrializado primeiro, conseguiram construir um enorme império em África e explorar milhões de pessoas. Porque a diferença entre aqueles que possuíam tecnologia industrial, como comboios, navios a vapor e metralhadoras, e aqueles que não as possuíam era enorme. A IA fará o mesmo, mas numa escala maior. A diferença entre os países que lideram a revolução da IA e todos os outros será muito maior do que a diferença no século XIX entre as potências industriais e aqueles que ficaram para trás. Tanto no plano militar, na guerra, como em termos da economia civil, aqueles que liderarem a revolução da IA estarão em posição de transformar o mundo inteiro no seu império. E a capacidade de concentrar poder com a IA é muito maior do que com qualquer império tecnológico anterior.

Vou dar apenas um exemplo. No Mundo Antigo, o principal ativo económico era o território. E um império como o Império Romano não conseguia concentrar todo o território na Itália. Por isso, muito poder permanecia nas províncias.

No século XIX, os britânicos construíram um império industrial. Ainda assim, não conseguiam concentrar todo o poder industrial, todos os campos de petróleo, plantações de borracha e campos de algodão na Grã-Bretanha.

Com a IA, quando a principal fonte de poder é a informação e o código, é teoricamente possível concentrar todo o poder em apenas um ou dois locais.

CNN - Os exemplos que deu são, hoje em dia, democracias liberais. E há agora países que estão a tentar dominar a IA, mas que não são democracias liberais. É também um risco maior. O que poderia mudar se um país como a China, por exemplo, ultrapassasse os EUA nesta tecnologia?
YNH - De momento, não é muito provável, porque os EUA estão muito à frente da China na corrida à IA. Mas, na verdade, nenhuma das duas opções é ideal.

A China, evidentemente, não é de todo uma democracia. E se for líder em IA, isso não são boas notícias para o resto do mundo.

Mas os EUA, apesar de ainda serem uma democracia, estão a mostrar tendências imperialistas crescentes, como ao afirmarem que querem anexar a Gronelândia, que faz parte de um dos seus melhores amigos. Se fazem isso aos amigos, imagine como se comportarão com países que não são amigos. E se os EUA vencerem a corrida à IA, isso significa que são militarmente mais fortes do que os outros, razão pela qual pensam que já não precisam de amigos, só precisam de vassalos.

Além disso, em termos económicos, isso poderia minar as economias do resto do mundo, incluindo a Europa e os seus aliados.

E o que acontece com os serviços, como advogados, contabilistas, coisas desse género? A IA pode ser um advogado melhor do que a maioria dos humanos. Para ser advogado, é preciso conhecer as leis do país, os precedentes e assim por diante. Nenhum ser humano pode conhecer todas as leis de Portugal e todos os precedentes de todos os processos judiciais alguma vez julgados nos tribunais portugueses. A IA consegue fazer isso. Teoricamente, a IA pode conhecer todas as leis e precedentes. E um advogado de IA nunca precisa de dormir, nunca precisa de comer, nunca vai de férias, pode trabalhar 24 horas por dia. Portanto, se tivermos um advogado de IA nos EUA a oferecer os seus serviços a pessoas em Portugal para redigir uma carta ao seu chefe, aos seus vizinhos ou o que seja, por um décimo do que um advogado humano exigiria e o fizer num décimo do tempo, é óbvio que irá recorrer ao advogado de IA nos EUA. O que acontece aos advogados portugueses?

CNN - Provavelmente, perdem os seus empregos.
YNH - E se disser que vai impor tarifas ou medidas de proteção, os EUA mostram a sua força. "Se impedirem os meus advogados de IA de trabalharem aqui, farei isto e aquilo contra vocês."

CNN - De certa forma, já estamos a assistir a alguma demonstração de poder.
YNH – Sim. Uma explicação para o comportamento geopolítico dos EUA neste momento é que se olharmos para a forma como os EUA se comportam, parece que já não precisam de amigos. Só querem vassalos.

Porquê? Porque chegaram à conclusão, talvez corretamente, que, uma vez que estão a ganhar a corrida à IA, tornar-se-ão tão poderosos, tanto militar como economicamente, que já não precisam de mais ninguém.

CNN - Nos anos 70, um senador americano, Frank Church, disse o seguinte: “Se um dia um ditador assumisse o poder neste país, a capacidade tecnológica que os serviços secretos concederam ao Governo poderia permitir-lhe impor uma tirania total. E não haveria forma de resistir.” Concorda que, 50 anos depois, estamos a seguir este caminho?
YNH - Nos EUA, não sei. A política americana é muito complexa, continua a ser uma democracia, ainda existem alguns mecanismos de equilíbrio e controlo. Não consigo prever. Mas posso dizer que, de um modo geral, a tecnologia de IA pode servir de base para os regimes totalitários mais extremos da História. Porque, pela primeira vez na História, permite uma vigilância total.

No século XX, quando existiam regimes ditatoriais e totalitários, quer fosse a Alemanha nazi, a União Soviética ou o regime de Franco em Espanha, entre outros, ainda não era tecnicamente viável vigiar toda a gente o tempo todo.

Havia 200 milhões de cidadãos na URSS. Não havia 200 milhões de agentes do KGB capazes de seguir toda a gente por todo o lado. E mesmo que tivesse todos esses agentes, alguém teria de analisar toda a informação que eles recolhessem. Seriam necessários analistas humanos. Por isso, a maior parte da informação recolhida pelo KGB nunca chegou a ser analisada. Era só papelada na sede do KGB.

Com a IA, não são necessários milhões de agentes humanos. Há câmaras, microfones, drones e smartphones por todo o lado.

Basicamente, andamos com os agentes no bolso e pagámo-los com o nosso próprio dinheiro. E eles podem vigiar toda a gente a toda a hora. Não precisamos de analistas humanos para analisar toda a informação recolhida dos smartphones e dos computadores. É isto que a IA faz.

Portanto, não é determinístico. Não é inevitável. Ainda podemos tomar decisões sobre o assunto. Mas um país que enveredar pelo caminho totalitário desta vez corre o risco de acabar por ter um regime totalitário muito mais extremo, até do que a União Soviética ou a Alemanha nazi, simplesmente porque a IA permite um nível de vigilância inédito.

CNN -  Acha que os EUA podem estar a seguir esse caminho? No início, referiu que a história da humanidade tem a ver com cooperação. Mas quando olhamos para algumas figuras desta administração, como Stephen Miller, por exemplo, ele afirma que a política é poder. E estamos numa era de poder. Sente que os EUA estão a seguir esse caminho?
YNH - Não é inevitável. Não acho que a História seja determinista. Há certamente pessoas no Governo dos EUA que gostariam de seguir nessa direção.

CNN - Mas como seria o mundo e a política se a cooperação não fosse a prioridade, se as pessoas estivessem apenas à procura de poder?
YNH - Um mundo horrível.  E esta ideia de que a única coisa que existe é o poder não é uma ideia nova que alguém tenha pensado pela primeira vez hoje. Ao longo da história da humanidade, esta foi a ideia de muitas figuras, desde Átila, o Huno, a Gengis Khan e a Estaline.

A única realidade é o poder. Quem pensa o contrário é ingénuo. Podemos dizer que toda a história espiritual e filosófica da humanidade é um argumento contra isso, que esta é uma visão muito cínica e errada do mundo. As pessoas que pensam que só o poder importa deviam, antes de mais, olhar para si próprias. Na vossa vida, a única coisa que importa é o poder? Não se importam com as relações? Não se importam com o amor? Não se importam com a verdade? Se isso for verdade, provavelmente, são pessoas muito infelizes. Mas a maioria das pessoas, se olhar para si própria, percebe: "Sim, quero poder até certo ponto, mas não é a única coisa que quero."

Os seres humanos não são entidades simplistas como demónios sedentos de poder. A maioria dos seres humanos dá alguma importância ao poder, mas também ao amor e à verdade.

Por exemplo, queremos saber a verdade sobre nós próprios porque queremos ser felizes. Se não soubermos a verdade sobre nós próprios, não sabemos qual é a fonte profunda da nossa tristeza e infelicidade na vida.

E se não soubermos isso, mesmo que tenhamos todo o poder do mundo, não saberemos como usá-lo, porque iremos usá-lo para fins errados, como um multimilionário que pensa que é infeliz porque a sua casa é demasiado pequena e não percebe que é infeliz porque não tem amizades verdadeiras. E se ele não souber isso, mesmo que tenha um bilião de dólares, vai simplesmente desperdiçar o dinheiro na construção de um castelo gigante para si próprio e continuará a ser infeliz.  Então, de que adianta?

CNN - Uma última pergunta. Será que a IA, a tecnologia e as redes sociais podem dizer-nos qual é a nossa verdade?
YNH - Essa é a grande questão. O que não sabemos é se a IApode desenvolver  consciência. Nós somos seres conscientes. A consciência e a inteligência têm uma relação complexa.

A inteligência é a capacidade de perseguir objetivos e superar obstáculos no caminho para o objetivo. Por exemplo, temos o objetivo de ganhar uma partida de xadrez ou de ganhar mil milhões de dólares e precisamos de superar obstáculos, precisamos de inteligência.

A consciência é a capacidade de sentir coisas, tais como dor, prazer, amor e ódio.

Os seres humanos têm as duas coisas, inteligência e consciência. E o que realmente importa na vida é a consciência. Não é a inteligência. Precisamos de inteligência para fazer coisas, mas, em última análise, o que nos importa são coisas como o amor e a felicidade.

Atualmente, com a IA, parece que esta se está a tornar mais inteligente do que nós. É melhor do que nós a jogar xadrez. Em breve, será melhor do que nós a ganhar mil milhões de dólares. Mas será que tem consciência? Será capaz de sentir alguma coisa? Se ganhar o jogo, sente alegria?

Tanto quanto sabemos, a resposta é não. Não tem quaisquer sentimentos. Se não tem quaisquer sentimentos, como pode compreender os nossos sentimentos? Como pode dizer-nos quais são as fontes mais profundas de infelicidade e felicidade no nosso caso?

O problema é que, à medida que a IA domina a linguagem, pode enganar-nos. Pode convencer-nos de que é consciente, mesmo não sendo. Podemos ter um amigo ou namorado de IA que diga que nos ama.

Já há pessoas que têm namorados e namoradas de IA. E quando o namorado de IA diz que nos ama, e contrapomos: "Não sei se sabes realmente o que é o amor. Descreve-me o que sentes quando estás apaixonado", a IA domina a linguagem. Já leu todos os poemas de amor alguma vez escritos. Já viu todos os filmes de Hollywood alguma vez produzidos. Consegue descrever o amor com palavras melhor do que qualquer ser humano. Mas haverá alguma coisa por trás das palavras?

Essa é a grande questão.

CNN - Pelo menos, esta entrevista não foi feita por IA. Muito obrigado pelo seu tempo.
YNH - Obrigado.