Nas últimas semanas, vários profissionais de IA de alto nível decidiram demitir-se, com alguns a alertar explicitamente que as empresas para as quais trabalhavam estão a avançar demasiado depressa e a minimizar as falhas da tecnologia
Uma versão desta notícia foi publicada na newsletter Nightcap da CNN Business. Para a receber na sua caixa de entrada, inscreva-se gratuitamente aqui.
“O mundo está em perigo”, alertou o antigo chefe da equipa de Investigação de Salvaguardas da Anthropic, quando se dirigia para a porta de saída. Um investigador da OpenAI, também quando estava de saída da empresa, afirmou que a tecnologia tem “o potencial de manipular os utilizadores de formas que não temos ferramentas para compreender, muito menos para prevenir”.
Fazem parte de uma onda de investigadores e executivos da área da inteligência artificial que não estão apenas a deixar as empresas em que trabalhavam. Estão a soar o alarme quando saem, chamando a atenção para o que consideram sinais de alerta evidentes.
Embora Silicon Valley seja conhecida pela elevada rotatividade, esta última onda surge num momento em que líderes de mercado como a OpenAI e a Anthropic correm para ofertas públicas iniciais (IPO) que poderão impulsionar o seu crescimento, numa altura em que que convidam a um escrutínio intenso das suas operações.
Nas últimas semanas, vários profissionais de IA de alto nível decidiram demitir-se, com alguns a alertar explicitamente que as empresas para as quais trabalhavam estão a avançar demasiado depressa e a minimizar as falhas da tecnologia.
Zoë Hitzig, investigadora da OpenAI nos últimos dois anos, anunciou a sua demissão em fevereiro, num artigo no New York Times, confessando “profundas reservas” sobre a estratégia de publicidade emergente da OpenAI. Hitzig, que alertou para o potencial do ChatGPT para manipular os utilizadores, afirmou que o arquivo de dados dos utilizadores do chatbot, construído com base em “medos médicos, os seus problemas de relacionamento, as suas crenças sobre Deus e a vida após a morte”, apresenta um dilema ético precisamente porque as pessoas acreditavam estar a conversar com um programa que não tinha segundas intenções.
A crítica de Hitzig surge no momento em que o site de notícias tecnológicas Platformer relata que a OpenAI desmantelou a sua equipa de “alinhamento de missão”, criada em 2024 para promover o objetivo da empresa de garantir que toda a humanidade beneficie da busca pela “inteligência artificial geral” - uma IA hipotética capaz de pensamento ao nível humano.
A OpenAI não respondeu a um pedido de comentário pedido pela CNN.
Também em fevereiro, Mrinank Sharma, chefe da equipa de Investigação de Salvaguardas da Anthropic, publicou uma carta enigmática onde anuncia a decisão de deixar a empresa e a alertar que “o mundo está em perigo”.
A carta de Sharma fez apenas referências vagas à Anthropic, a empresa por trás do chatbot Claude. Ele não disse por que estava a sair, mas observou que estava “claro para mim que chegou a hora de seguir em frente” e que “durante todo o meu tempo aqui, vi repetidamente como é difícil deixar que os nossos valores realmente governem as nossas ações”.
A Anthropic disse à CNN num comunicado que estava grata pelo trabalho de Sharma no avanço da investigação sobre segurança da IA.
A empresa referiu que ele não era o diretor de segurança, nem estava a cargo de medidas de proteção mais amplas na empresa.
Entretanto, na xAI, dois cofundadores demitiram-se no espaço de 24 horas, anunciando as suas saídas no X. Isso deixa apenas metade dos fundadores da xAI na empresa, que está a fundir-se com a SpaceX de Elon Musk para criar a empresa privada mais valiosa do mundo. Pelo menos cinco outros funcionários da xAI anunciaram as suas saídas nas redes sociais.
Não ficou imediatamente claro por que razão os mais recentes cofundadores da xAI se foram embora e a xAI não respondeu a um pedido de comentário da CNN. Numa publicação nas redes sociais na quarta-feira, Musk disse que a xAI foi “reorganizada” para acelerar o crescimento, o que “infelizmente exigiu a separação de algumas pessoas”.
Embora não seja invulgar que talentos de alto nível mudem frequentemente de emprego numa indústria emergente como a IA, a escala das saídas num período tão curto na xAI é notável.
A startup enfrentou uma reação global negativa devido ao seu chatbot Grok, que foi autorizado a gerar imagens pornográficas não consensuais de mulheres e crianças durante semanas antes de a equipa intervir para o impedir. O Grok também tem sido propenso a gerar comentários antissemitas em respostas a solicitações dos utilizadores.
Outras saídas recentes sublinham a tensão entre alguns investigadores preocupados com a segurança e os altos executivos ansiosos por gerar receitas.
O The Wall Street Journal noticiou que a OpenAI despediu uma das suas principais executivas de segurança depois de ela ter manifestado oposição à implementação de um “modo adulto” que permite conteúdo pornográfico no ChatGPT. A OpenAI despediu a executiva de segurança, Ryan Beiermeister, alegando que ela discriminou um funcionário do sexo masculino - uma acusação que Beiermeister disse ao Journal ser “absolutamente falsa”.
A OpenAI disse ao Journal que a sua demissão não estava relacionada com “qualquer questão que ela tenha levantado enquanto trabalhava na empresa”.
As deserções de alto nível têm feito parte da história da IA desde que o ChatGPT chegou ao mercado, no final de 2022. Pouco tempo depois, Geoffrey Hinton, conhecido como o “Padrinho da IA”, deixou o seu cargo na Google e começou a evangelizar sobre o que considera serem os riscos existenciais que a IA representa, incluindo uma enorme agitação económica num mundo onde muitos “já não serão capazes de saber o que é verdade”.
As previsões apocalípticas abundam, inclusive entre executivos de IA que têm um incentivo financeiro para exagerar o poder dos seus próprios produtos. Uma dessas previsões tornou-se viral recentemente, com o CEO da HyperWrite, Matt Shumer, a publicar um texto de quase 5 mil palavras sobre como os mais recentes modelos de IA já tornaram alguns empregos na área da tecnologia obsoletos.
“Estamos a contar-vos o que já aconteceu nos nossos próprios empregos”, escreveu ele, “e a avisar-vos de que vocês são os próximos”.
