Documentos judiciais alegam que a Meta explora a psicologia do cérebro adolescente
O presidente executivo da Meta, Mark Zuckerberg, tem frustrado pessoal e repetidamente iniciativas destinadas a melhorar o bem-estar dos adolescentes no Facebook e no Instagram, por vezes ignorando diretamente alguns dos seus tenentes mais graduados, de acordo com comunicações internas tornadas públicas como parte de um processo judicial em curso contra a empresa.
As comunicações recentemente reveladas na ação judicial - intentada originalmente pelo estado do Massachusetts no mês passado num tribunal estatal - mostram alegadamente como Zuckerberg ignorou ou afastou executivos de topo, incluindo o CEO do Instagram, Adam Mosseri, e o Presidente dos Assuntos Globais, Nick Clegg, que pediram a Zuckerberg que fizesse mais para proteger os mais de 30 milhões de adolescentes que utilizam o Instagram nos Estados Unidos.
As revelações evidenciam o poder de Zuckerberg sobre as decisões da Meta que podem afetar milhares de milhões de utilizadores. Além disso, revelam as tensões que ocasionalmente surgiram entre Zuckerberg e outros funcionários da Meta que se empenharam em melhorar o bem-estar dos utilizadores.
Rejeição de sugestões de segurança
Zuckerberg vetou uma proposta de 2019 que teria desativado os chamados "filtros de beleza" do Instagram, tecnologia que altera digitalmente a aparência de um utilizador no ecrã e supostamente prejudica a saúde mental dos adolescentes, ao promover expectativas irrealistas de imagem corporal, de acordo com a versão não editada da reclamação apresentada esta semana por funcionários do Estado do Massachusetts.
Após meses de espera pela proposta, Zuckerberg escreveu aos seus adjuntos em abril de 2020, afirmando que havia "procura" dos filtros e que não tinha visto "quaisquer dados" que sugerissem que os filtros eram prejudiciais, de acordo com a queixa.
Apesar da conclusão de Zuckerberg, a proposta teve amplo apoio, segundo o processo, inclusive de Mosseri; a chefe de políticas do Instagram, Karina Newton; o chefe do Facebook, Fidji Simo, e a vice-presidente de design de produto da Meta, Margaret Gould Stewart. (Simo e Mosseri lamentaram noutras ocasiões, de acordo com o processo, que a falta de investimento em iniciativas de bem-estar significava que a Meta não tinha "um guião de trabalho que demonstrasse que nos preocupamos com o bem-estar").
Stewart foi o primeiro a lançar a ideia de desativar os filtros de beleza, citando recomendações de académicos e consultores externos da Meta, enquanto Newton escreveu um e-mail acrescentando que tinha um forte apoio de departamentos, incluindo "comunicação, marketing [e] política", diz o processo.
Mas depois de o diretor de tecnologia Andrew Bosworth levar o assunto à atenção de Zuckerberg, ele acabou por rejeitar o plano e os filtros foram autorizados a permanecer, de acordo com a denúncia.
Mais tarde, Stewart escreveu a Zuckerberg, temendo que a sua decisão de não desativar os filtros pudesse voltar a assombrar a empresa.
"Respeito a sua decisão e vou apoiá-la", escreveu Stewart, de acordo com uma mensagem citada na queixa, "mas quero apenas dizer para que fique registado que não acho que seja a decisão certa, dados os riscos.... Só espero que daqui a uns anos olhemos para trás e nos sintamos bem com a decisão que tomámos".
Em resposta às comunicações recentemente divulgadas, o porta-voz da Meta, Andy Stone, disse que esses filtros de imagem são normalmente utilizados na indústria.
"Embora existam filtros em todas as principais plataformas sociais e câmaras de smartphones, a Meta proíbe os que promovem diretamente a cirurgia estética, alterações na cor da pele ou perda de peso extrema", afirmou Stone. "Observamos claramente quando um filtro está a ser utilizado e trabalhamos para analisar proactivamente os efeitos em relação a estas regras antes de serem publicados."
Stone acrescentou que o Meta oferece 30 ferramentas para apoiar os adolescentes e as famílias, incluindo a capacidade de definir limites de tempo de ecrã e a opção de remover a contagem de gostos das publicações. (Nas partes não editadas da queixa, o processo de Massachusetts alega que a experiência de remover as contagens de gostos das mensagens, com o nome de código Project Daisy, tinha sido originalmente proposta como uma predefinição para toda a aplicação, mas foi posteriormente reduzida para uma funcionalidade opcional que raramente é utilizada).
Na altura da ação judicial original de Massachusetts, que foi uma das várias apresentadas no mesmo dia por vários procuradores-gerais de vários estados, a Meta tinha dito que estava empenhada em "proporcionar aos adolescentes experiências seguras e positivas" e que estava desapontada com o facto de os estados não terem trabalhado com a Meta para desenvolver normas industriais.
Alguns executivos preocupados com o bem-estar
Um ano após a decisão sobre o filtro de beleza, em agosto de 2021, Clegg pressionou Zuckerberg a fazer "investimentos adicionais para reforçar a nossa posição sobre o bem-estar em toda a empresa", citando uma recomendação da equipa para abordar questões de dependência, automutilação e bullying, de acordo com a queixa. Nessa altura, a empresa estava a poucas semanas de ser atingida pelas alegações bombásticas da denunciante do Facebook Frances Haugen de que o Instagram sabia que os seus serviços podiam ser prejudiciais para os adolescentes.
As alegações anónimas de Haugen, em setembro, deram início a um intenso escrutínio do Instagram. Quando Haugen revelou a sua identidade em outubro, Mosseri escreveu para outro executivo de produtos da Meta no mesmo mês em referência à proposta de Clegg, disse o processo, dizendo que ele estava "realmente preocupado" com o bem-estar "mas fez pouco progressos".
Zuckerberg supostamente permaneceu em silêncio sobre a proposta de Clegg durante todo esse tempo, levando Clegg a reiterar as suas preocupações a Zuckerberg em novembro. Por fim, Zuckerberg pareceu responder através da directora financeira da Meta, Susan Li, que "respondeu de forma concisa que o pessoal estava demasiado 'limitado' para satisfazer o pedido", diz o processo.
Li respondeu de forma semelhante em nome de Zuckerberg, depois de outro executivo de produto, David Ginsberg, ter enviado um e-mail a Zuckerberg em 2019 destacando pesquisas internas e externas sugerindo que os serviços da empresa estavam a ter um impacto negativo no bem-estar das pessoas. Ginsberg propôs a contratação de mais engenheiros para construir ferramentas de bem-estar para responder ao vício, comparação social e solidão, mas Li "respondeu que a equipa de liderança da Meta se recusou a financiar esta iniciativa", de acordo com a denúncia.
A rejeição de Zuckerberg às oportunidades de investir mais fortemente no bem-estar reflecte a sua abordagem centrada nos dados para a gestão, disse Arturo Bejar, o ex-diretor de engenharia do Facebook e denunciante que apresentou as suas próprias alegações na semana passada de que o Instagram ignorou repetidamente os avisos internos sobre os potenciais danos da aplicação para os adolescentes.
Bejar, que testemunhou os alegados riscos do Instagram perante os legisladores norte-americanos esta semana, disse à CNN na quarta-feira que não participou na tomada de decisões sobre os filtros de beleza, mas que falou com altos funcionários e outros que trabalharam na investigação interna sobre o assunto.
"No meu entender, Mark precisava de dados causais", disse Bejar, "para poder demonstrar que o facto de alguém estar a utilizar um filtro teria um impacto na forma como essa pessoa se vê a si própria".
"Todas as pessoas com quem falei internamente sobre este assunto disseram... O nível de prova de Mark, para poder levar o trabalho a sério e atuar sobre ele, é demasiado elevado", acrescentou Bejar. "Penso que é um padrão impossível de cumprir".
Na quarta-feira, Stone acrescentou que a Meta tem uma "equipe central robusta que supervisiona os esforços de bem-estar dos jovens em toda a empresa e construiu tecnologia e equipes que podem se mover de forma rápida e eficiente para implementar novas melhorias em aplicativos específicos".
Os defensores da tecnologia atacam
Outras alegações recém-reveladas na reclamação acusam a Meta de explorar a psicologia do cérebro adolescente e que Zuckerberg estabeleceu pessoalmente metas para a empresa aumentar a quantidade de tempo que os utilizadores passam no Instagram.
Uma apresentação interna de 2020, discutida na queixa, descrevia como o Instagram satisfaz o desejo dos adolescentes de "procurar novidades" com "uma dose de dopamina" através de notificações intermitentes sobre comentários, seguidores e outros pedidos de atenção que podem transmitir uma sensação de "aprovação e aceitação [que] são grandes recompensas para os adolescentes".
Grupos de defesa da tecnologia criticaram duramente Zuckerberg na quarta-feira, depois de as comunicações internas virem à tona.
"Estes documentos a que não houve reações provam que Mark Zuckerberg não está interessado em proteger a privacidade ou a segurança de ninguém. A podridão vai até ao topo", afirmou Sacha Haworth, diretor executivo do Tech Oversight Project.
E Zamaan Qureshi, co-presidente da Design It For Us, uma coligação liderada por jovens que pressiona a favor de mudanças nos produtos e da regulamentação das redes sociais, disse que os documentos mostram que os executivos sénior da Meta por vezes enfrentam as mesmas barreiras que os funcionários de base.
"Os comentários de Clegg seguem um padrão e uma prática na Meta, onde os funcionários repetidamente sinalizaram o subinvestimento em ferramentas de bem-estar, apesar de terem a pesquisa", disse Qureshi. "Agora sabemos que nem mesmo a liderança sénior conseguiu chegar a Zuckerberg."
