A inteligência artificial está a causar críticas bem reais
Scarlett Johansson reclama da voz do ChatGPT - que a "chocou e irritou"
por Brian Fung, Clare Duffy e Ramishah Maruf, CNN
A atriz Scarlett Johansson afirma num comunicado partilhado com a CNN que estava "chocada, irritada e incrédula" com o facto de o CEO da OpenAI, Sam Altman, usar uma voz sintética lançada com uma atualização do ChatGPT "tão assustadoramente semelhante" à dela.
A declaração surge depois de a OpenAI ter afirmado que vai suspender a atualização após as comparações com o assistente de voz fictício retratado no filme quase distópico "Her" com Johansson.
O recuo da OpenAI surge na sequência da reação negativa à voz artificial, conhecida como Sky, que os críticos descreveram como sendo demasiado familiar para os utilizadores e que soava como se tivesse saído da fantasia de um programador masculino. A voz foi amplamente ridicularizada pelo seu tom de sedução.
"Temos ouvido perguntas sobre como escolhemos as vozes no ChatGPT, especialmente Sky", afirmou a OpenAI num post no X na segunda-feira. "Estamos a a fazer uma pausa no uso do Sky enquanto as abordamos".
Johansson revelou que Altman se ofereceu para a contratar em setembro passado para dar voz ao sistema ChatGPT 4.0. No entanto, a atriz acrescenta que recusou a oferta por "razões pessoais".
"Dois dias antes do lançamento da demonstração do ChatGPT 4.0, o Sr. Altman contactou o meu agente, pedindo-me para reconsiderar. Antes de conseguirmos entrar em contacto, o sistema já estava disponível."
Johansson declarou ter contratado um advogado e afirmou que a OpenAI "concordou com relutância" em retirar a voz "Sky" depois de o advogado ter enviado duas cartas a Altman.
"Numa altura em que todos nós lutamos com deepfakes e a proteção da nossa própria semelhança, do nosso próprio trabalho, das nossas próprias identidades, acredito que estas são questões que merecem clareza absoluta. Aguardo ansiosamente uma resolução sob a forma de transparência e a aprovação de legislação adequada para ajudar a garantir a proteção dos direitos individuais", escreveu Johansson.
A empresa garantiu numa publicação, no domingo, que voz em questão não deriva da voz de Johansson, mas "pertence a uma outra atriz profissional que utiliza a sua própria voz natural".
Numa declaração na segunda-feira, Altman reiterou a posição da empresa de que "Sky" foi interpretada por uma atriz diferente, na sequência das afirmações de Johansson.
"A voz de Sky não é a de Scarlett Johansson, e nunca teve a intenção de se assemelhar à dela", afirmou Altman. "A atriz por detrás da voz de Sky foi escolhida antes de qualquer contacto com a Sra. Johansson. Por respeito à Sra. Johansson, deixámos de utilizar a voz da Sky nos nossos produtos. Pedimos desculpa à Sra. Johansson por não termos conseguido comunicar melhor".
A OpenAI afirma que, com cada uma das suas vozes de IA, tentou criar "uma voz acessível que inspira confiança", uma voz que contém um "tom rico" e é "natural e fácil de ouvir". O modo de voz ChatGPT que utilizava a voz Sky ainda não tinha sido amplamente divulgado, mas os vídeos do anúncio do produto e os teasers dos funcionários da OpenAI a falar com ela tornaram-se virais online na semana passada.
Algumas pessoas que ouviram a voz de Sky disseram que talvez fosse demasiado fácil de ouvir. Na semana passada, a controvérsia inspirou um segmento no The Daily Show em que o correspondente sénior Desi Lydic descreveu Sky como uma "voz de bebé robô excitado".
"Isto está claramente programado para alimentar os egos dos gajos", afirmou Lydic. "Dá mesmo para perceber que foi um homem que construiu esta tecnologia".
Até mesmo Altman pareceu reconhecer as semelhanças generalizadas que os utilizadores estavam a encontrar com Johansson quando publicou no X no dia do anúncio do produto: "Ela". Johansson disse que Altman usou esse post para insinuar que "a semelhança era intencional".
"Her" é o título do filme de 2013 em que Johansson interpreta uma assistente de voz com inteligência artificial por quem o protagonista, interpretado por Joaquin Phoenix, se apaixona, mas fica de coração partido quando a IA admite que também está apaixonada por centenas de outros utilizadores e, mais tarde, se torna completamente inacessível.
Questões de liderança
As críticas em torno da Sky evidenciam preocupações sociais mais amplas sobre os potenciais preconceitos de uma tecnologia concebida por empresas tecnológicas maioritariamente lideradas ou financiadas por homens brancos.
O anúncio foi feito depois dos líderes da OpenAI terem sido forçados a defender as suas práticas de segurança durante o fim de semana, depois de um funcionário que saiu ter posto em causa as prioridades da empresa.
Jan Leike, que liderava uma equipa focada na segurança da IA a longo prazo, mas deixou a OpenAI na semana passada juntamente com o cofundador e cientista-chefe Ilya Sutskever, publicou um segmento na X na sexta-feira, alegando que "nos últimos anos, a cultura e os processos de segurança ficaram para trás em relação a produtos brilhantes" na OpenAI. Além disso, o investigador manifestou a sua preocupação pelo facto de a empresa não estar a dedicar recursos suficientes à preparação de uma possível futura "inteligência artificial geral" (AGI), que poderia ser mais inteligente do que os seres humanos.
Altman respondeu de imediato, dizendo que apreciava o empenho de Leike na "cultura de segurança" e acrescentou: "Ele tem razão, temos muito mais para fazer; estamos empenhados em fazê-lo". A empresa confirmou também à CNN que, nas últimas semanas, tinha começado a dissolver a equipa que Leike liderava, integrando os membros da equipa nos diversos grupos de investigação. Um porta-voz da empresa disse que essa estrutura ajudaria a OpenAI a atingir melhor seus objetivos de segurança.
O presidente da OpenAI, Greg Brockman, respondeu numa publicação mais longa no sábado, que foi assinada com o seu nome e o de Altman, expondo a abordagem da empresa à segurança da IA a longo prazo.
"Aumentamos a consciencialização sobre os riscos e oportunidades da AGI para que o mundo possa preparar-se melhor para ela", afirmou Brockman. "Demonstramos repetidamente as incríveis possibilidades de aumentar a aprendizagem profunda e analisamos as suas implicações; apelámos à governação internacional da AGI antes de tais apelos serem populares; e ajudámos de forma pioneira a ciência de avaliar os sistemas de IA para riscos catastróficos."
Além disso, ele acrescentou que, à medida que a IA se torna mais inteligente e mais integrada na vida diária das pessoas, a empresa está focada em ter "um ciclo de feedback muito apertado, testes rigorosos, consideração cuidadosa em cada etapa, segurança de classe mundial e harmonia de segurança e capacidades".
