Hinton contribuiu nos últimos anos para o avanço dos sistemas de inteligência artificial e também ele está surpreendido com o ritmo impressionante dos avanços nesta área e os perigos associados a ela
Geoffrey Hinton, que tem sido chamado o "padrinho da inteligência artificial", confirmou que deixou o seu cargo na Google na semana passada para falar sobre os "perigos" da tecnologia que ajudou a desenvolver.
O trabalho pioneiro de Hinton em redes neuronais deu forma aos sistemas de inteligência artificial que alimentam muitos dos produtos atuais. Trabalhou a tempo parcial na Google durante uma década, participando nos esforços de desenvolvimento da inteligência artificial (IA) do gigante da tecnologia, mas começou a preocupar-se com a tecnologia e com o seu papel no desenvolvimento da mesma.
"Consolo-me com a desculpa normal: se eu não o tivesse feito, outra pessoa o teria", disse Hinton ao New York Times, que foi o primeiro a noticiar a sua decisão.
Num tweet publicado na segunda-feira, Hinton disse que deixou o Google para poder falar livremente sobre os riscos da IA, e não por causa de um desejo de criticar a Google especificamente.
"Saí para poder falar sobre os perigos da IA sem considerar como isso afeta a Google", escreveu Hinton. "A Google agiu de forma muito responsável."
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
Jeff Dean, cientista-chefe do Google, diz que Hinton "fez avanços fundamentais em IA" e expressou apreço pela "década de contribuições de Hinton na Google".
"Continuamos comprometidos com uma abordagem responsável da IA", disse Dean numa declaração fornecida à CNN. "Estamos continuamente a aprender a entender os riscos emergentes e, ao mesmo tempo, inovando com ousadia."
A decisão de Hinton de se afastar da empresa e falar sobre a tecnologia ocorre num momento em que um número crescente de legisladores, grupos de defesa e especialistas em tecnologia têm alertado para o potencial de uma nova safra de chatbots movidos a IA de espalharem desinformação e substituírem empregos.
A onda de atenção em torno do ChatGPT no final do ano passado ajudou a renovar uma corrida às armas entre as empresas de tecnologia para desenvolver e implementar ferramentas de IA semelhantes nos seus produtos. A OpenAI, a Microsoft e a Google estão na vanguarda desta tendência, mas a IBM, a Amazon, a Baidu e a Tencent estão a trabalhar em tecnologias semelhantes.
Em Março, algumas figuras proeminentes do mundo da tecnologia assinaram uma carta apelando aos laboratórios de inteligência artificial para que interrompessem o treino dos sistemas de IA mais poderosos durante pelo menos seis meses, citando "riscos profundos para a sociedade e para a humanidade". A carta, publicada pelo Future of Life Institute, uma organização sem fins lucrativos apoiada por Elon Musk, surgiu apenas duas semanas depois de a OpenAI ter anunciado o GPT-4, uma versão ainda mais potente da tecnologia que alimenta o ChatGPT. Nos primeiros testes e numa demonstração da empresa, o GPT-4 foi utilizado para redigir processos judiciais, passar em exames padronizados e construir uma pagina web funcional a partir de um esboço desenhado à mão.
Na entrevista ao Times, Hinton fez eco das preocupações sobre o potencial da IA para eliminar empregos e criar um mundo onde muitos "não serão mais capazes de saber o que é verdade". Também salientou o ritmo impressionante dos avanços, muito para além do que ele e outros tinham previsto.
"A ideia de que este sistemas pudessem tornar-se mais inteligente do que as pessoas – algumas pessoas acreditavam nisso", disse Hinton na entrevista. "Mas a maior parte das pessoas achava que não era bem assim. E eu achava que isso estava muito longe. Pensava que faltavam entre 30 a 50 anos ou até mais. Obviamente, já não penso assim."
Mesmo antes de se afastar da Google, Hinton tinha falado publicamente sobre o potencial da IA para fazer mal e bem.
"Acredito que o rápido progresso da IA vai transformar a sociedade de maneiras que não entendemos totalmente e nem todos os efeitos serão bons", disse Hinton num discurso no início de 2021 no Instituto Indiano de Tecnologia de Bombaim, em Mumbai. Ele salientou como a IA impulsionará os cuidados de saúde e, ao mesmo tempo, encontrará soluções para armas autónomas letais. "Acho essa perspetiva muito mais imediata e muito mais assustadora do que a perspetiva de robôs a assumirem o controlo, o que me parece que está muito longe."
Hinton não é o primeiro funcionário da Google a levantar uma bandeira vermelha sobre a IA. Em julho, a empresa demitiu um engenheiro que alegou que um sistema de IA não lançado tinha-se tornado senciente, dizendo que violou as políticas de emprego e de segurança de dados. Muitos na comunidade de IA reagiram fortemente contra a afirmação do engenheiro.
