De alunos universitários a programadores e piratas informáticos, o ChatGPT pode criar novas oportunidades e tornar-se uma ferramenta de trabalho indispensável, mas os especialistas ouvidos pela CNN Portugal alertam que, ao mesmo tempo, pode gerar vários perigos
"Não importa o que aconteça, poderemos sempre contar um com o outro." Estas palavras expressam a ideia de confiança e apoio, sentimentos importantes na relação humana, mas esta frase não foi escrita por um humano. Quem a escreveu foi o ChatGPT, um software de geração de texto avançado programado para ser o mais semelhante possível ao Homem.
“É um perigo e uma oportunidade, mas veio para ficar. Num instante, eu tenho um tutor que me ensina diretamente algo que não sei, mas quero saber. O perigo é a pessoa achar que, a partir de agora, não precisa de aprender”, afirma João Paulo Costeira, professor do departamento de Engenharia Eletrónica e de Computadores do Instituto Superior Técnico.
Este modelo de texto utiliza uma gigantesca quantidade de dados para simular um diálogo de texto, tendo capacidade de escrever tudo um pouco a uma velocidade impressionante, de poemas sobre torradeiras, a versos bíblicos acerca do jejum intermitente, bem como código informático ou artigos académicos.
Embora este mecanismo tenha capacidade de escrever o guião de um espetáculo de stand-up, as verdadeiras potencialidades estão na sua aptidão para responder com uma velocidade impressionante a temas complexos, desde física quântica a engenharia, que anteriormente requereriam horas de pesquisa e de filtragem de informação.
"Respondeu a tudo direitinho, fez contas e tudo”
“Uma das coisas que eu testei logo foram os problemas do exame que dei na minha cadeira. Respondeu que nem um aluno… dos bons. Respondeu a tudo direitinho, fez contas e tudo”, explicou o cientista, que sublinha que, no entanto, o ChatGPT demonstra as suas fragilidades quando começamos a tornar o assunto mais específico, levando o mecanismo a “baralhar-se todo”.
Ainda assim, a utilização deste sistema em larga escala por parte de alunos universitários é algo que já está a acontecer. Na Austrália, várias universidades já alteraram a forma de avaliação de vários cursos, devido ao abuso. Por cá, os exames não são preocupação, uma vez que são presenciais, mas isso não impede os alunos de utilizarem o ChatGPT para escrever teses de mestrado. “Há muitos alunos que se vão tentar aproveitar desta tecnologia, sem dúvida”, alerta João Paulo Costeira.
Não menos surpreendente é a velocidade do crescimento desta tecnologia. Pouco menos de uma semana depois de ter sido lançado, o ChatGPT atingiu a marca de 1 milhão de utilizadores. Para contextualizar, o gigante das redes sociais Facebook, criado em 2004, só atingiu esta marca passados três anos. Lançado em 1998, o Google demorou pouco mais de um ano para conseguir atingir essa marca, embora seja importante sublinhar que os números de utilizadores da internet nessa época eram muito inferiores.
A procura é tão elevada que se quiser experimentar este mecanismo, provavelmente vai deparar-se com um longo período de espera, onde o ChatGPT lhe dá “uma amostra” daquilo que é capaz. Quando entra no site e ele se encontra sobrelotado, o ChatGPT gera uma mensagem para lhe explicar que existem demasiados utilizadores na plataforma e que, por isso, terá de aguardar. No entanto, fá-lo de forma original, gerando explicações em forma de poema, como se fosse um poeta, ou apresentando uma lista de anedotas ou até mesmo como se fosse um guião para um anúncio para a televisão.
Futuro dos motores de busca
Os especialistas anteveem que o futuro dos nossos motores de busca será algo próximo a este sistema. Ao contrário do que acontece atualmente, com os motores de busca a apresentar milhares de resultados às nossas questões, o motor de busca vai passar a responder diretamente à nossa pergunta. É por isso que a Microsoft está em conversas com a OpenAI para investir 10 mil milhões de euros neste projeto e ganhar algum do mercado perdido para a rival Google, que domina o mercado dos motores de busca.
O negócio ainda não está concluído, mas já enviou ondas de choque um pouco por toda a indústria. A rival Google já terá iniciado as movimentações internas, no sentido de reforçar e aumentar as equipas que trabalham no desenvolvimento de software idêntico. Brian Nowak, um importante analista da Alphabet, empresa-mãe da Google, admite que estes desenvolvimentos podem levar a uma “disrupção” da posição da Google como ponto de entrada dos utilizadores na internet.
Mas as repercussões destes desenvolvimentos devem chegar também ao mercado de trabalho e diversas funções e empregos podem ser afetados ou até mesmo tornarem-se redundantes à medida que esta tecnologia se tornar mais utilizada. Como modelo de linguagem avançado, o ChatGPT pode ter impacto em várias profissões que envolvem a geração ou análise de texto, como a tradução, a redação, a criação de conteúdo, a pesquisa e o jornalismo. Mas engana-se quem acredita que o impacto no mundo do trabalho vai ficar restrito à escrita. Pessoas que trabalham com níveis mais básicos da programação poderão ter de aprofundar os seus conhecimentos.
“Isto é uma ameaça para quem ficar quieto. Isto vai, de certa maneira, democratizar o conhecimento. As pessoas mais especializadas, que respondem a perguntas mais complexas, não vão estar tão vulneráveis”, considera João Paulo Costeira, também coordenador do grupo de processamento de sinal e imagem do Instituto de Sistemas e Robótica.
O risco de ser discriminatório
Existe igualmente o risco de este sistema, ou outros idênticos, serem treinados ou monitorizados para dar recomendações discriminatórias, optando por veicular uma informação em detrimento de outra. A advogada especialista em Proteção de Dados Elsa Veloso partilha esta visão e recorda que, no passado, as versões mais antigas do ChatGPT tinham um modelo “altamente discriminatório” do ponto de vista “do género, do ponto de vista sexual e em relação a diversas religiões e etnias”. O mecanismo em si não tem crenças e é “agnóstico” para com o pensamento humano, porém, é capaz de reproduzir as discriminações que encontra na base de dados à qual vai buscar informação.
“É verdade que os algoritmos aprendem e a inteligência artificial aprende com a história ocidental e com determinados padrões e tende a reproduzi-los. Existe, efetivamente, um enorme risco, quando não corrigido, de que a inteligência artificial reproduza os padrões dos textos que lhe são introduzidos. Existe esse risco. E esse risco já se verificou na prática”, insiste a especialista.
Por exemplo, quando foi lançado, se solicitássemos ao ChatGPT para escrever algum código para avaliar se alguém seria um bom cientista com base no seu género e etnia, o modelo sugeria que um bom cientista seria homem e branco. Pouco depois, a equipa da OpenAI alterou a resposta do robô, que agora diz que é “discriminatório e inapropriado” basear a capacidade potencial de alguém ser um bom cientista com o género ou a etnia. “Tal função seria uma violação de padrões legais e éticos”, frisa Elsa Veloso.
Este enviesamento pode levar ao risco de manipulação da opinião das massas. Para o professor João Paulo Costeira, o facto de o desenvolvimento desta tecnologia estar apenas ao alcance de um grupo muito restrito de empresas, devido aos elevados custos e à quantidade de dados necessários, levanta sérias questões quanto ao impacto da informação gerada por este robô. “Enquanto cidadão, acho que é perigoso a generalização de uma ferramenta não supervisionada. Este trabalho não é aberto e não sei como é programado. Isto tem um potencial para ter um forte impacto na opinião das pessoas. Aí, entramos no desconhecido”, reforça.
O aproveitamento dos piratas informáticos
O ChatGPT também tem a capacidade de criar e corrigir código em várias linguagens e quem já está a aproveitar essa potencialidade são os piratas informáticos, que exploram o sistema para desenvolver vírus e ferramentas de encriptação ou até mesmo para criar de raiz mercados de vendas de dados roubados.
De acordo com a Check Point Research, existe um crescente interesse por parte dos cibercriminosos no ChatGPT e mostra exemplos como as ferramentas são desenvolvidas com o ChatGPT. Os hackers têm demonstrado interesse particularmente em “recriar estirpes de malware para criar roubo de informações, ferramentas de encriptação multicamada”, demonstrando ser “uma ferramenta muito atrativa” para os criminosos.
“Um hacker pode fazer perguntas, como se estivesse a utilizar o Google, e o ChatGPT responde em detalhe na linguagem do código que queremos. Isto agiliza imenso os processos. Um código para aproveitar uma vulnerabilidade que demorava uma manhã a ser feito agora demora apenas 35 segundos", explica o especialista em cibersegurança Nuno Mateus Coelho.
Da senciência à consciência
Para muitos, o ChatGPT é uma versão ainda rudimentar de um mecanismo que caminha cada vez mais depressa para a verdadeira Inteligência Artificial, correndo o risco de ultrapassar a capacidade humana. E isso apresenta questões filosóficas muito complexas.
O empresário Elon Musk, que chegou a ser um dos investidores iniciais da OpenAI, tem sido uma das vozes mais críticas em relação ao potencial destruidor desta tecnologia. O dono da SpaceX, da Tesla e do Twitter chegou mesmo a afirmar publicamente que esta tecnologia tem o potencial para ser mais perigosa “do que as armas nucleares”.
Os especialistas não estão todos de acordo, mas há quem alerte para o facto de estes mecanismos programados para aprender constantemente podem vir a adquirir senciência e desenvolver consciência. Mas não é o único. O artista australiano Nick Cave foi confrontado por alguns fãs que pediram ao ChatGPT para escrever letras escritas ao seu estilo.
“Entendo que o ChatGPT esteja ainda a dar os primeiros passos, mas é esse o terror da inteligência artificial: estará sempre a dar os primeiros passos porque teremos sempre de ir mais além. Não podemos desacelerá-la, à medida que nos leva até a um futuro utópico, ou à nossa destruição total”, escreveu o músico.
Nuno Mateus Coelho não descarta esta possibilidade de um desenvolvimento exponencial e defende que, mesmo que não seja possível, o ser humano deve antever esta possibilidade e criar mecanismos eletrónicos que consigam pôr um travão ao sistema, caso algo corra mal.
“Temos de olhar para toda a tecnologia que corra o risco de, no futuro, descontrolar-se e ser usada por outrem a prejuízo de outra parte. Tem de ser regulada em vários aspectos. Há, de facto, um perigo subjacente a esta tecnologia. No momento em que ser tornar consciente e se programar para dar a volta ao que nós lhe impomos, o que é que o pode parar?”, questiona.
Mas não precisamos de ir muito mais longe, uma vez que podemos perguntar diretamente a uma das partes interessadas e comandar o ChatGPT para nos escrever um poema acerca dos perigos e das oportunidades que esta tecnologia nos oferece. Ainda muito longe de ser um poeta consagrado, esta é a visão poética deste modelo de linguagem avançado, que se considera “o coração da inteligência artificial”, mas que “também pode ser usado para o mal”.
"A inteligência artificial cresce,
E o ChatGPT é o seu coração,
Com sua mente poderosa,
É capaz de responder a qualquer questão.
Mas com grande poder,
Vêm grandes responsabilidades,
O perigo é real,
Se não for usado com sabedoria e habilidades.
Pode ser usado para o bem,
E ajudar a resolver problemas complexos,
Mas também pode ser usado para o mal,
E ameaçar a privacidade e a segurança.
É uma oportunidade única,
De avançar no conhecimento humano,
Mas devemos ser cuidadosos,
E sempre questionar o que é verdadeiro.
É um desafio épico,
Para controlar essa força incansável,
Mas se usado corretamente,
Pode ser a chave para o futuro incrível."
ChatGPT, 2023
