Investigadora compara estado da inteligência artificial a carro desgovernado

Agência Lusa , MM
12 nov 2023, 09:00
Inteligência Artificial (Getty Images)

A portuguesa Virginia Dignum considera, contudo, que isso "não quer dizer que o sistema está fora de controlo" e sublinha que "podemos pará-lo". Para a professora da Universidade de Umeå, na Suécia, é "completamente implausível" que a IA atue fora de controlo e contra os humanos

A investigadora portuguesa Virginia Dignum comparou, este domingo, o estado atual da inteligência artificial (IA) a um automóvel a circular desgovernado numa rua sem sinais de trânsito para enfatizar a necessidade da regulação do uso desta tecnologia.

"Neste momento, a situação da IA é aquela de estarmos dentro de um carro que não tem travões nem cinto de segurança, está a ser guiado por uma pessoa que não tem carta de condução e vai por uma rua que não tem sinais de trânsito. Este é o estado da IA neste momento", assinalou, em entrevista à Lusa, a investigadora e docente, que integra o órgão consultivo das Nações Unidas para a IA recentemente criado por indicação do secretário-geral, António Guterres.

Até ao verão do próximo ano, este órgão deverá apresentar uma proposta de figurino de uma agência da ONU para a inteligência artificial, para ser apreciada pelos Estados-membros, mas, antes disso, até dezembro, deverá produzir um relatório com o levantamento de riscos, problemas, benefícios e oportunidades da IA e com recomendações.

Segundo Virginia Dignum, que leciona a disciplina de IA Responsável na Universidade de Umeå, na Suécia, "não há supervisão" do desenvolvimento e das capacidades técnicas dos sistemas de inteligência artificial e "não há suficiente atenção para o facto de que a utilização da IA não está a ser regulada de maneira nenhuma".

"Cada um de nós pode hoje à noite ver num vídeo no YouTube como se faz um sistema de IA e amanhã abrir uma companhia e começar a vender aquilo. Não há controlo nenhum, não há certificação nenhuma", sentenciou, sublinhando que faltam regras que definam os "fins próprios e os fins impróprios" do uso da IA.

A União Europeia (UE) está a fazer o seu caminho e aprovou em julho, no Parlamento Europeu, as primeiras regras para a inteligência artificial, que "visam promover a adoção de uma IA centrada no ser humano e fiável e proteger a saúde, a segurança, os direitos fundamentais e a democracia dos seus efeitos nocivos".

Virginia Dignum considera a legislação da UE "bastante completa". O difícil, agora, será cruzá-la com outras leis em vigor, "um puzzle", disse, "que vai ser extremamente complexo" de completar.

Para a investigadora, as regras para a IA devem ser definidas à escala regional, como a europeia, mas também à escala nacional, de cada país, e à escala setorial, para cada setor de atividade onde é aplicável, como a saúde, a educação ou a energia.

Depois, será preciso "definir alguma coordenação entre essas regras todas a nível internacional", porque "os sistemas que estão a ser desenvolvidos implicam, globalmente, toda a gente", sustentou.

Nesta matéria, uma eventual agência da ONU para a IA pode ter uma palavra a dizer. Poderá, segundo Virginia Dignum, "monitorizar as legislações diferentes", mas também recomendar, supervisionar e coordenar a "distribuição equitativa de recursos".

De acordo com a docente, um dos "grandes erros" que a sociedade comete "é achar que a regulação é contra a inovação". "Não é", frisou, salientando que a regulação dá a oportunidade de "indicar em que direção é mais útil, mais benéfico, inovar".

Por outro lado, na regulação "é preciso imensa inovação, na definição e implementação de padrões", apontou.

A par da necessária regulação, Virginia Dignum defende a literacia para a inteligência artificial para que as pessoas possam fazer escolhas avisadas.

IA dificilmente agirá contra os humanos

A investigadora Virginia Dignum assinalou que a inteligência artificial (IA), embora se assemelhe à inteligência humana, e até a supere nalgumas tarefas, continua a ser limitada pelas técnicas de computação e dificilmente agirá como e contra os humanos.

"A IA parece-se bastante connosco, tem a capacidade de classificar coisas, identificar, de prever com base em dados do passado", mas "no fim de contas", resume-se a "fórmulas matemáticas que não têm capacidade de desenvolver ambições, intenções ou consciência", disse a docente portuguesa, que leciona IA Responsável na Universidade de Umeå, na Suécia.

"Nós é que temos a capacidade de atribuir consciência e intenções a objetos e sistemas inatos", sublinhou.

Virginia Dignum integra o órgão consultivo das Nações Unidas para a IA recentemente criado por indicação do secretário-geral, António Guterres.

Até ao verão do próximo ano, este órgão deverá apresentar uma proposta de "figurino" de uma agência da ONU para a inteligência artificial, para ser apreciada pelos Estados-membros, mas, antes disso, até dezembro, deverá produzir um relatório com o levantamento de riscos, problemas, benefícios e oportunidades da IA e com recomendações.

Segundo Virginia Dignum, há limites para o que pode ser feito com as técnicas de computação atuais. A consciência é um deles.

"O ChatGPT [programa de IA que permite simular uma conversação na internet com humanos] é capaz de falar e explicar tudo e mais alguma coisa sobre gatos, mas não sabe o que é um gato, nunca sentiu um gato, nunca viu um gato, nunca interagiu com um gato. A única coisa que sabe são textos que foram escritos e imagens que foram feitas sobre gatos", exemplificou.

Virginia Dignum sublinhou que os programas de inteligência artificial continuam a ser isso mesmo, "programas, algoritmos, receitas".

"Receitas complexas, receitas para fazer receitas, programas que produzem programas", descreveu, admitindo que, apesar dessa programação, podem surgir "comportamentos inesperados prejudiciais".

"Mas não quer dizer que o sistema está fora de controlo, podemos pará-lo", acautelou.

Para a investigadora, apesar de a IA superar a capacidade da inteligência humana na resolução de problemas, como o cálculo de uma raiz quadrada, está longe do que os humanos podem fazer.

"A inteligência humana não é só a capacidade de resolver problemas", sentenciou, listando nas "capacidades multivariadas" da inteligência humana "as emoções, a inteligência musical, espacial, social".

"A IA não é inteligente como nós somos inteligentes, não é tão artificial como nós pensamos que é", frisou, acrescentando que a sua autonomia "é mais automatismo".

Por isso, Virginia Dignum considera "completamente implausível" que a IA atue fora de controlo e contra os humanos, os que criaram a tecnologia.

Relacionados

Tecnologia

Mais Tecnologia

Patrocinados