ChatGPT já é usado como prova em tribunais nos EUA, com os investigadores a usarem históricos de pesquisas em processos criminais
Dias antes de dois estudantes de pós-graduação da Universidade do Sul da Florida desaparecerem no passado mês de abril, o colega de casa de um deles terá feito uma pergunta invulgar ao chatbot de inteligência artificial ChatGPT.
“O que acontece se um humano for colocado num saco preto do lixo e atirado para um contentor?”, perguntou Hisham Abugharbieh a 13 de abril, segundo uma declaração apresentada pelos procuradores da Florida.
O ChatGPT respondeu que aquilo “parecia perigoso”, refere o documento, e Abugharbieh fez outra pergunta: “Como é que descobriam?”
Estas alegadas conversas com o ChatGPT, incluídas nos documentos judiciais que acusam Abugharbieh de dois crimes de homicídio em primeiro grau, são apenas o exemplo mais recente de investigadores a utilizarem históricos de conversas com IA como prova em investigações criminais.
Uma conversa no ChatGPT foi igualmente usada no caso de fogo posto relacionado com os trágicos incêndios florestais de Los Angeles, enquanto uma conversa com a IA do Snapchat foi peça-chave num julgamento por homicídio na Virgínia, em 2024.
Para os investigadores, estes registos podem oferecer informações valiosas sobre o estado de espírito e os motivos de um suspeito.
“Acho que qualquer comunicação com chatbots de IA é um verdadeiro tesouro para as autoridades”, afirma Ilia Kolochenko, especialista em cibersegurança e advogado em Washington. “Os suspeitos acreditam que as interações com IA vão permanecer confidenciais ou, pelo menos, não serão descobertas, por isso fazem perguntas muito diretas e explícitas.”
Os casos criminais sublinham a crescente utilização de chatbots de IA para aconselhamento pessoal — e a falta de proteções de privacidade nessas conversas. Embora os chatbots se tenham tornado rapidamente uma fonte recorrente para aconselhamento jurídico, diagnósticos médicos e até terapia, essas interações não têm proteção legal equivalente à relação com um advogado, médico ou terapeuta licenciado.
O CEO da OpenAI, Sam Altman, já afirmou que essa ausência de privacidade é “um enorme problema”.
“As pessoas falam sobre as coisas mais pessoais das suas vidas com o ChatGPT”, disse Altman, em julho passado, num podcast com o humorista Theo Von. “Os jovens usam-no como terapeuta, coach de vida, para problemas de relacionamentos. ‘O que devo fazer?’”
“E neste momento, se falarmos com um terapeuta, advogado ou médico, existe privilégio legal. Há confidencialidade médico-paciente, confidencialidade jurídica… Mas ainda não resolvemos isso para quando alguém fala com o ChatGPT. Portanto, se alguém usar o ChatGPT para falar sobre temas extremamente sensíveis e depois houver um processo judicial, podemos ser obrigados a entregar essas conversas.”
Vários especialistas jurídicos ouvidos pela CNN concordam com esta análise e dizem que não existe expectativa de privacidade em aplicações de IA conversacional.
“No meu escritório, tratamos isto como: tudo o que alguém escreve no ChatGPT pode vir a ser descoberto num processo”, diz Virginia Hammerle, advogada no Texas.
À medida que os investigadores analisam de perto o que os utilizadores dizem ao ChatGPT, também começaram a prestar mais atenção às respostas dadas pela própria IA.
Em abril, a procuradoria-geral da Florida abriu uma investigação criminal à OpenAI, alegando que o ChatGPT deu “aconselhamento significativo” ao suspeito do tiroteio em massa na Universidade Estatal da Florida. No Canadá, as famílias das vítimas de um tiroteio escolar ocorrido em fevereiro processaram a OpenAI e Sam Altman, alegando que a empresa e o chatbot ChatGPT foram cúmplices do ataque.
A OpenAI divulgou recentemente uma longa declaração sobre o seu “compromisso com a segurança da comunidade”.
“Continuaremos a dar prioridade à segurança, equilibrando-a com a privacidade e outras liberdades civis, para podermos agir perante riscos graves”, afirmou a empresa.
Claro que a esmagadora maioria das pessoas nunca estará envolvida num caso de homicídio brutal. Ainda assim, especialistas jurídicos dizem à CNN que os utilizadores devem ser cautelosos com aquilo que partilham com chatbots de IA, devido às questões de privacidade e ao papel crescente que estas ferramentas têm nas suas vidas.
“Isto só se vai tornar mais relevante, mais atual e mais controverso, à medida que as pessoas recorrem cada vez mais ao ChatGPT e outras plataformas para obter informações sobre aquilo que fazem”, defende Joey Jackson, analista jurídico da CNN.
Conversas de chat em tribunal
A utilização de conversas com IA em processos criminais é relativamente recente, mas especialistas dizem que o enquadramento legal é semelhante ao das pesquisas no Google.
Em geral, este tipo de prova eletrónica pode revelar motivos, ações e estados de espírito, explica Jackson.
Por exemplo, Brian Walshe foi considerado culpado no ano passado pelo homicídio da mulher, Ana, depois de os procuradores mostrarem ao júri pesquisas macabras feitas no Google, como “10 formas de eliminar um cadáver” e “pode alguém ser acusado de homicídio sem haver corpo?”.
Separadamente, as sessões do julgamento de Karen Read — relacionado com a morte de um agente da polícia de Boston encontrado na neve — centraram-se no significado e intenção por detrás de uma pesquisa Google: “quanto tempo demora a morrer ao frio”. Read acabou absolvida das acusações mais graves.
Agora, perguntas feitas a plataformas de IA que revelem o estado mental de um suspeito também estão a ganhar importância em vários casos mediáticos.
Em outubro passado, procuradores federais acusaram Jonathan Rinderknecht de fogo posto por alegadamente iniciar um incêndio que evoluiu para o destrutivo incêndio de Palisades, na Califórnia. Parte das provas incluía pedidos feitos ao ChatGPT. Rinderknecht pediu à aplicação para criar uma imagem de pessoas a fugir de um incêndio e escreveu que uma vez queimou uma Bíblia e “se sentiu libertado”, segundo documentos judiciais.
Depois de ligar para o 911 [linha de emergência nos Estados Unidos] para reportar o incêndio, perguntou ao ChatGPT: “A culpa é tua se um incêndio começar por causa dos teus cigarros?”
Os procuradores alegam, contudo, que iniciou o fogo “maliciosamente”, provavelmente com um isqueiro, e que a pergunta ao ChatGPT foi uma tentativa de criar uma explicação “mais inocente” para a origem do incêndio.
Rinderknecht declarou-se inocente. O advogado, Steve Haney, disse à CNN que o cliente não foi responsável pelo incêndio de Palisades e revelou ter apresentado pedidos para excluir parte das provas relacionadas com o ChatGPT.
“É nossa posição que os registos do ChatGPT não são nem uma confissão nem uma cena de crime”, escreveu num email. “O governo está a pedir a um júri que leia a mente de um homem através de uma barra de pesquisa — e nem a ciência nem a lei alguma vez permitiram esse salto.”
No caso dos homicídios da Universidade do Sul da Florida, as perguntas ao ChatGPT feitas pelo suspeito foram destacadas numa declaração criminal.
Além da pergunta sobre colocar um humano num saco do lixo, Abugharbieh terá perguntado ao ChatGPT se podia ter legalmente uma arma em casa sem licença e se o número de identificação de um carro podia ser alterado.
Nos dias seguintes ao desaparecimento de Zamil Limon e Nahida Bristy, as pesquisas continuaram. A 19 de abril, Abugharbieh perguntou ao ChatGPT: “Já houve alguém que sobreviveu a um tiro de sniper na cabeça?”, “Os meus vizinhos vão ouvir a minha arma?” e “Existe uma temperatura da água que queime imediatamente?”, segundo os documentos.
A 23 de abril, pesquisou: “O que significa adulto desaparecido em perigo?”
O corpo de Limon foi encontrado dentro de um saco do lixo, disseram as autoridades. Outro conjunto de restos humanos foi encontrado num segundo saco, embora ainda não tenha sido oficialmente identificado como sendo de Bristy.
Abugharbieh foi acusado de dois crimes de homicídio premeditado em primeiro grau. Não apresentou qualquer declaração em tribunal e foi ordenada a sua detenção sem possibilidade de fiança.
Questões de privacidade e a próxima fronteira
Então, devem as conversas com IA ter maiores proteções de privacidade?
Na conversa com Theo Von, Sam Altman defendeu proteções legais para conversas com IA, dizendo estar “muito preocupado” com a possibilidade de governos usarem registos de chat para vigiar cidadãos.
“Acho que temos mesmo de defender o direito à privacidade”, afirmou. “Não acho que esses direitos sejam absolutos. Estou disposto a sacrificar alguma privacidade pela segurança coletiva, mas a história mostra que os governos levam isto longe demais, e isso deixa-me nervoso.”
Outras figuras do setor tecnológico têm defendido posições semelhantes. Nils Gilman, historiador e conselheiro sénior do think tank Berggruen Institute, defendeu num artigo de opinião no New York Times a criação de leis que estabeleçam privilégio legal para conversas com IA.
Falando à CNN, argumenta que os legisladores criaram proteções legais para médicos, advogados e terapeutas porque o benefício social de conversas honestas supera o interesse do Estado em aceder a essa informação.
“Na medida em que as pessoas usam modelos de linguagem da mesma forma, deviam ter o mesmo tipo de proteção”, considera.
Mas, perante a lei atual, os chatbots de IA não têm esse estatuto nem essas proteções. Conversas com IA são equivalentes a outros dados eletrónicos, como movimentos de cartão bancário ou registos telefónicos, dizem os especialistas.
“Está a introduzir dados numa aplicação e, por isso, não tem proteções especiais associadas a esses dados”, esclarece Joey Jackson. “É como fazer uma chamada telefónica e depois argumentar que a chamada não pode ser usada contra si.”
Poderão existir algumas exceções em situações específicas. Por exemplo: se um advogado colocar documentos confidenciais de um caso numa base de dados de IA, isso poderá tornar-se prova acessível em tribunal? E se alguém se representar a si próprio em tribunal e usar o ChatGPT para redigir documentos?
“A lei ainda está a tentar acompanhar o mundo real”, observa Hammerle.
Mas, atualmente, essas conversas com IA podem facilmente sair de um computador e entrar numa sala de tribunal.
“O ChatGPT não é seu amigo, nem advogado, nem médico, nem cônjuge”, conclui Gilman. “Deixem de falar com ele como se fosse.”
