Nova modalidade promete limitar conversas de alto risco relacionadas com automutilação, violência, perturbações alimentares e conteúdo sexual explícito ou gráfico
A empresa de inteligência artificial (IA) OpenAI anunciou esta terça-feira o lançamento global do ‘ChatGPT for Teens’ (ChatGPT para adolescentes), uma nova modalidade na qual o chatbot limita automaticamente determinadas conversas para proteger melhor os utilizadores jovens e oferece controlos parentais.
Segundo a empresa, este novo chatbot tem as mesmas capacidades que o tradicional, mas foi “concebido para ajudar os adolescentes a aprender, resolver problemas e explorar novas ideias”.
Além disso, limitará as conversas de alto risco relacionadas com automutilação, violência, perturbações alimentares e conteúdo sexual explícito ou gráfico.
Em alguns casos, o ChatGPT enviará alertas aos adultos que tenham optado por ativar os controlos parentais e as notificações.
No entanto, os controlos parentais não permitem que o pai, a mãe ou o tutor leia ou supervisione as conversas do adolescente.
“Se a OpenAI enviar uma notificação de segurança, partilha apenas a informação necessária para proteger o bem-estar do jovem”, precisa o comunicado.
Também oferece “lembretes de tarefas” que podem sugerir a utilização do modo de estudo e ajudar a concluir os trabalhos passo a passo, em vez de fornecer a resposta na primeira pergunta.
Para ativar esta nova funcionalidade, a empresa monitoriza mais de 2 mil sinais, como os horários habituais de início de sessão, para detetar se um utilizador tem menos de 18 anos, caso em que o chatbot ativará automaticamente este modo para adolescentes.
Este lançamento com foco educativo e de segurança surge num momento em que a OpenAI enfrenta uma pressão crescente relativamente à saúde mental e ao desenvolvimento dos seus utilizadores mais jovens.
Grupos de pais em cidades como Nova Iorque e Los Angeles estão a pressionar as escolas para que suspendam a implementação de produtos de IA, receando que estes prejudiquem o pensamento crítico.
