Uma escritora fez soar os alarmes esta semana depois de ter encontrado livros em seu nome a serem vendidos na Amazon - só que não foi ela que os escreveu. Parecem ter sido gerados por Inteligência Artificial (IA).
Jane Friedman, autora de vários livros e consultora na indústria da escrita e da edição, disse à CNN que um leitor à procura de mais trabalhos seus comprou um dos títulos falsos na Amazon. Os livros tinham títulos semelhantes aos temas sobre os quais a autora escreve normalmente, mas o texto parecia ter sido imitado por um modelo de IA generativa.
"Quando comecei a olhar para estes livros, para as páginas de abertura, para a biografia, tornou-se óbvio que tinham sido maioritariamente, se não totalmente, gerados por IA... Tenho tanto conteúdo disponível online gratuitamente, porque escrevo em blogues desde sempre, que não seria difícil conseguir que uma IA me imitasse", disse Friedman.
Com ferramentas de IA como o ChatGPT agora capazes de produzir grandes volumes de texto de forma rápida, barata e convincente, alguns escritores e autores alertaram para a possibilidade de perderem trabalho para a nova tecnologia. Outros afirmaram que não querem que o seu trabalho seja utilizado para treinar modelos de IA, que poderia depois ser utilizados para os imitar.
"A IA generativa está a ser usada para substituir os escritores - usando os seus trabalhos sem permissão, incorporando esses trabalhos no tecido desses modelos de IA e, em seguida, oferecendo esses modelos de IA ao público, a outras empresas, para substituir escritores ", disse Mary Rasenberger, presidente-executiva da Authors Guild, um grupo sem fins lucrativos de defesa dos escritores. "Pode imaginar que os escritores estão um pouco chateados com isso", lamenta a mesma responsável.
No mês passado, os legisladores norte-americanos reuniram-se com membros das indústrias criativas, incluindo a Authors Guild, para discutir as implicações da inteligência artificial. Numa audiência da subcomissão do Senado, Rasenberger apelou à criação de legislação para proteger os escritores da IA, incluindo regras que exigiriam que as empresas de IA fossem transparentes sobre a forma como treinam os seus modelos. Mais de 10.000 autores - incluindo James Patterson, Roxane Gay e Margaret Atwood - também assinaram uma carta aberta onde apelam aos líderes do sector da IA, como a Microsoft e a OpenAI, fabricante do ChatGPT, para que obtenham o consentimento dos autores quando utilizam o seu trabalho para treinar modelos de IA e para que os compensem de forma justa quando o fizerem.
Um problema crescente
Na segunda-feira, Friedman publicou um post no X (ex-Twitter), e no seu blogue sobre este problema. Vários autores responderam dizendo que tinham tido experiências semelhantes.
As of today, there are about half a dozen books being sold on Amazon, with my name on them, that I did not write or publish. Some huckster generated them using AI. This promises to be a serious problem for the book publishing world. https://t.co/YXcMlJeTMV
— Jane Friedman (@JaneFriedman) August 7, 2023
"As pessoas estão sempre a dizer-me que compraram o meu livro mais recente - que tem o meu nome, mas que eu não escrevi", disse um autor em resposta.
A Amazon retirou os livros falsos que estavam a ser vendidos com o nome de Friedman e afirmou que as suas políticas proíbem este tipo de imitação.
"Temos diretrizes de conteúdo claras que regem os livros que podem ser colocados à venda e investigamos prontamente qualquer livro quando surge uma queixa", afirmou a porta-voz da Amazon, Ashley Vanicek, em comunicado, acrescentando que a empresa aceita o feedback dos autores sobre potenciais problemas. "Investimos fortemente para proporcionar uma experiência de compra fiável e proteger os clientes e os autores da utilização indevida do nosso serviço."
A Amazon também disse a Friedman que está "a investigar o que aconteceu com o tratamento dado às suas reclamações de forma a melhorar os processos internos da empresa", de acordo com um e-mail visto pela CNN.
Os livros falsos com o nome de Friedman também foram adicionados ao seu perfil na rede social literária Goodreads, e só foram removidos depois de a autora ter divulgado o problema.
"Temos diretrizes claras sobre os livros que podem ser incluídos no Goodreads e investigamos rapidamente quando surge uma queixa, removendo os livros quando necessário", afirmou Suzanne Skyvara, porta-voz do Goodreads, num comunicado enviado à CNN.
"O que é assustador é que isto pode acontecer a qualquer pessoa com nome, que tenha reputação, estatuto, procura e que alguém veja uma forma de lucrar com isso", afirmou Friedman.
A Authors Guild tem trabalhado com a Amazon desde o inverno passado para resolver a questão dos livros escritos por IA, disse Rasenberger, adiantando que a empresa tem respondido quando a Authors Guild sinaliza livros falsos em nome dos autores, mas pode ser uma questão complicada de detetar, visto que é possível que dois autores legítimos tenham o mesmo nome.
O grupo também espera que as empresas de IA permitam que os autores optem por não ter o seu trabalho utilizado para treinar modelos de IA - para que seja mais difícil criar imitações - e que encontrem formas de rotular de forma transparente o texto gerado artificialmente. Segundo Rasenberger as empresas e editoras devem continuar a investir no trabalho criativo feito por humanos, mesmo que a IA pareça mais conveniente.
"Usar IA para gerar conteúdo é tão fácil, é tão barato, que me preocupa que haja esse tipo de competição para usar IA para substituir criadores humanos", disse Rasenberger, sublinhando que "nunca se conseguirá com a IA a mesma qualidade dos criadores humanos."
