Investigadores enviaram carta para a administração da empresa a alertar para esta descoberta. O CEO da empresa foi destituído a seguir
Uma carta enviada ao conselho de administração da OpenAI assinada por vários investigadores alerta para uma descoberta que coloca em risco a Humanidade. A carta foi enviada pouco antes de Sam Alman (na fotografia) ter sido destituído do cargo de CEO, avança a Reuters e o jornal especializado The Information.
No conteúdo da carta, vários especialistas no desenvolvimento de software de inteligência artificial alertam para uma nova descoberta que, dizem, pode ameaçar a existência da Humanidade. Pelo menos duas fontes especializadas contaram esta versão dos factos à agência Reuters.
Esta carta foi um dos fatores enumerados na longa lista de queixas do conselho de administração que culminou na destituição de Sam Altman, entre as quais estavam ainda preocupações sobre a comercialização de avanços tecnológicos antes de as suas consequências serem cientificamente compreendidas. Vários investigadores ameaçaram deixar a empresa depois da saída de Sam Altman, que entretanto foi readmitido.
A Reuters esclarece que não conseguiu ter acesso a uma cópia da carta em questão e que os redatores da mesma recusaram fazer qualquer comentário sobre o tema. Mas uma das fontes da Reuters refere a existência de uma mensagem interna sobre um projeto chamado Q* e uma carta dirigida ao conselho de administração antes do fim de semana em que Sam Altman foi destituído.
Alguns dos especialistas acreditam que o projeto Q* (pronuncia-se Q-Star) pode ser um grande passo naquilo que é conhecido como inteligência artificial geral (AGI), ou seja, um sistema autónomo capaz de superar qualquer humano nas tarefas economicamente mais valiosas.
Sob condição de anonimato, por ter um contrato de sigilo com a OpenAI, uma das fontes da Reuters garantiu que, com acesso a um vasto leque de recursos computacionais, este novo modelo conseguiu resolver certos problemas matemáticos. Apesar de estas terem sido resoluções do nível do ensino primário, deixou os investigadores muito otimistas perante o futuro sucesso do projeto Q*.
“A Reuters não conseguiu verificar de forma independente as capacidades do Q* reivindicadas pelos investigadores”, alerta a agência de notícias.
Este passo representa um avança científico porque a matemática é vista como uma das barreiras da inteligência artificial (IA) generativa. Até hoje, a IA generativa é capaz de escrever e traduzir textos graças a modelos probabilísticos. Contudo, a capacidade de dominar a matemática, área em que só existe uma resposta certa na maioria dos casos, implica que o sistema artificial tenha capacidades de raciocínio mais semelhantes às do cérebro humano e será isso mesmo que terá sido alcançado pelo projeto Q*.
E as calculadoras? Uma calculadora é capaz de resolver um número finito de operações, ao passo que, no caso da IA generativa, o sistema pode generalizar, aprender e compreender, possibilitando um número infinito de “raciocínios” matemáticos - como o cérebro humano - perante casos matemáticos avançados.
Na carta dirigida ao conselho administrativo da OpenAI, e perante esta proeza, os investigadores destacam o perigo deste poderoso avanço, disseram ambas as fontes da Reuters sem especificar quais os riscos. Mas, sublinha a Reuters, a maior incerteza dos cientistas e investigadores computacionais prende-se com o perigo de sistemas altamente inteligentes poderem probabilisticamente decidir se a destruição da raça humana é do seu interesse.
Na semana passada, Altman disse que acreditava que grandes avanços estavam para surgir num futuro próximo e acrescentou isto: “Quatro vezes na história da OpenAI, a mais recente há duas semanas, pude estar na sala quando se levantou o véu da ignorância e a fronteira da descoberta foi ultrapassada. Conseguir fazer isto é uma honra profissional de toda uma vida”, afirmou na cimeira de Cooperação Económica Ásia-Pacífico.
Um dia depois, o conselho de administração demitiu Sam Altman. A Microsoft contratou-o. Grande parte dos trabalhadores da OpenAI ameaçou demitir-se se Altman não fosse readmitido. O conselho de administração caiu e, por fim, Altman regressou à OpenAI.
