Se acedeu a qualquer aplicação de redes sociais esta semana, é provável que tenha visto imagens dos seus amigos, mas reinventados como fadas, princesas, personagens de anime ou seres celestes.
É tudo graças à Lensa, uma aplicação que usa inteligência artificial para criar retratos digitais baseados nas fotos que os utilizadores apresentam.
Os retratos altamente estilizados e apelativos da Lensa tomaram a internet de assalto, mas têm também sido alvo de preocupação por parte de especialistas em privacidade, artistas digitais e utilizadores que repararam que a aplicação faz a sua pele ficar mais clara ou o seu corpo mais delgado.
Veja a seguir tudo o que precisa de saber sobre a Lensa:
Como obter o seu próprio ‘avatar mágico'
As imagens que circulam online são produtos da função “Magic Avatars” da Lensa. Para experimentar, terá primeiro de descarregar a aplicação Lensa no seu telemóvel.
Uma assinatura anual da aplicação, que também fornece serviços de edição de fotos, custa 35,99 dólares. Mas pode usar a aplicação gratuitamente durante uma semana se quiser testá-la antes da aquisição.
Criar os avatares mágicos tem um custo adicional. Desde que tenha uma assinatura ou uma versão gratuita de teste, pode obter 50 avatares por 3,99 dólares, 100 por 5,99 dólares ou 200 por 7,99 dólares.
A Lensa aconselha os utilizadores a apresentarem entre 10-20 selfies para obterem os melhores resultados. As fotos devem ser um grande plano da cara com distintos fundos, expressões faciais e ângulos. A Lensa define ainda que deve ser usada apenas por pessoas com 13 anos ou mais.
A Lensa é um produto da Prisma, que se tornou popular em 2016 com uma função que permitia aos utilizadores transformarem as suas selfies em imagens ao estilo de artistas famosos.
A aplicação explica na sua política de privacidade que usa tecnologia TrueDepth API, e que as fotos fornecidas pelos utilizadores, ou “dados faciais”, são usadas para “treinar os algoritmos para terem um melhor desempenho e mostrarem resultados melhores".
Testámos a aplicação para ver como é
Para testar a aplicação, selecionei 20 selfies que apresentavam uma variedade de expressões e ângulos e escolhi a opção de 100 avatares. A Lensa demorou cerca de 20 minutos a enviar-me os avatares, que se enquadravam em dez categorias: fantasia, fadas princesas, foco, pop, estilo, animé, luz, kawaii, iridescente e cósmico.
De forma geral, achei que a aplicação tinha feito um trabalho decente ao produzir imagens artísticas com base nas minhas selfies. Não me reconheci propriamente na maioria dos retratos, mas consegui ver no que se baseavam.
Parecia ter reconhecido e repetido certos traços, como a minha pele clara ou o meu nariz redondo, mais do que outros. Alguns dos retratos tinham um estilo mais realista e eram aproximados o suficiente para me fazerem pensar que eram realmente fotos minhas se as visse de longe. Outros eram significativamente mais estilizados e artísticos, por isso, pareceram-me menos específicos.
Para algumas mulheres, a aplicação produz imagens sexualizadas
Uma das dificuldades que observei na aplicação já tinha sido descrita por outras mulheres online. Apesar de em todas as imagens que carreguei estar completamente vestida e de serem sobretudo planos próximos da minha cara, a aplicação produziu várias imagens com nudez implícita ou explícita.
Numa das imagens mais desorientadoras, parecia que uma versão da minha cara estava num corpo nu. Em várias fotos, parecia que eu estava nua, mas com uma manta colocada de forma estratégica, ou com a imagem cortada para esconder algo mais explícito. E muitas imagens, mesmo quando eu estava completamente vestida, mostravam uma expressão facial sedutora, um decote significativo e roupa muito reveladora, algo que não correspondia às fotos que eu tinha enviado.
Isto foi surpreendente, mas não sou a única mulher que passou por isso. Olivia Snow, investigadora do centro de inquéritos online da UCLA e dominatrix profissional, disse à CNN que a aplicação produziu imagens parecidas com ela nua apesar de ela ter enviado fotos suas em criança, numa experiência que ela documentou para a WIRED.
Snow disse que a tecnologia de inteligência artificial como a usada pela Lensa pode ser usada para criar “pornografia vingativa”, isto é, criar imagens de alguém nu sem o seu consentimento.
Para Snow, o resultado foi um sinal da “total falta de moderação de conteúdos” da aplicação. Ela também apelou a maior regulamentação de aplicações de IA como a Lensa.
A Lensa não respondeu ao pedido de comentário da CNN relativo à produção de imagens nuas ou sexualizadas da aplicação.
Outros utilizadores documentaram formas distintas de polarização apresentadas nas suas imagens na Lensa, como utilizadores negros que foram “caiados” e apresentados com um tom mais claro do que o que têm. De forma semelhante, Aubrey Gordon, escritora e ativista pelos direitos dos obesos, escreveu no seu Instagram verificado que a aplicação produziu imagens que a fizeram parecer muito mais magra do que é na realidade.
"A Lensa está a esforçar-se bastante para me transformar numa pessoa magra com a IA", escreveu ela na legenda.
Os artistas digitais dizem que a aplicação se apropria do seu trabalho
A tecnologia da Lensa assenta num modelo de aprendizagem profunda chamado Stable Diffusion, segundo a sua política de privacidade. O Stable Diffusion usa uma enorme rede de arte digital retirada da internet, de uma base de dados chamada LAION-5B, para treinar a sua inteligência artificial. Atualmente, os artistas não podem optar por ter ou não a sua arte incluída no conjunto de dados, sendo assim usada para treinar o algoritmo.
Isso suscitou a preocupação de alguns artistas, que dizem que o Stable Diffusion depende da arte deles para criar as suas imagens, mas eles não são creditados nem compensados pelo seu trabalho. Este ano, a CNN deu a notícia de vários artistas que ficaram incomodados quando descobriram que o seu trabalho tinha sido usado sem o seu consentimento e sem pagamento para treinar a rede neural do Stable Diffusion.
Vários artistas expressaram a sua preocupação com o facto de as aplicações poderem ameaçar o seu sustento. Os artistas digitais não podem competir com os preços baixos e prazos de entrega curtos que a inteligência artificial possibilita para criar um retrato digital, disseram eles na altura.
A Prisma, dona da Lensa, tentou apaziguar o receio de a sua tecnologia eliminar o trabalho dos artistas digitais.
"Enquanto os humanos e a IA aprendem os estilos artísticos de maneiras quase semelhantes, há algumas diferenças fundamentais: a IA é capaz de analisar rapidamente e aprender com grandes conjuntos de dados, mas não tem o mesmo nível de atenção e apreço pela arte que o ser humano", escreveu a empresa no Twitter a 6 de dezembro.
E "os resultados não podem ser descritos como réplicas exatas de qualquer obra de arte em particular."
