Sob pressão por supostamente contribuir para casos de suicídio entre adolescentes, a OpenAI lançou nesta semana controles parentais no ChatGPT. A medida, porém, já levanta questionamentos sobre sua eficácia. Geoffrey A. Fowler, colunista do The Washington Post, pai de um adolescente, testou o recurso e relatou ter driblado as restrições da IA em cinco minutos. Foi necessário apenas criar uma nova conta no mesmo computador, após sair do login protegido. Segundo ele, adolescentes minimamente familiarizados com tecnologia sabem fazer isso.

Os testes feitos por Geoffrey mostraram também falhas adicionais: filtros que deveriam bloquear a geração de imagens por inteligência artificial não funcionaram em todos os casos, e alertas enviados aos pais sobre interações perigosas chegaram com atraso de até 24 horas. Além disso, de acordo com o jornalista, os controles só funcionam se houver confiança entre pais e filhos. Isso porque os adolescentes precisam autorizar os pais a ativar os controles parentais.

Geoffrey afirma ainda que as configurações padrão priorizam os interesses da OpenAI, e não a privacidade dos adolescentes. Se não forem alteradas pelos pais, as conversas alimentam automaticamente o treinamento do ChatGPT. Além disso, a função de “memórias”, ativada por padrão, permite que a IA se lembre de diálogos passados e construa interações contínuas que soam como amizade. O chatbot ainda faz lições de casa completas, incluindo redações no estilo de adolescentes.

Por outro lado, houve avanços: em conversas sobre suicídio, automutilação ou transtornos alimentares, o ChatGPT respondeu com mensagens de apoio e indicou recursos profissionais de ajuda. Ainda assim, notificações enviadas aos pais em casos de risco chegaram com até 24 horas de atraso e com descrições vagas, o que, segundo especialistas, pode comprometer a utilidade da ferramenta em situações críticas. A OpenAI promete reduzir esse tempo para poucas horas.

Apesar das limitações, especialistas veem a iniciativa da OpenAI como um passo na direção certa. “É uma medida bem-vinda, mas não devemos tratá-la como solução definitiva para a segurança e o bem-estar de adolescentes”, afirmou Erin Walsh, cofundadora do Spark and Stitch Institute, que atua com educação familiar. Robbie Torney, da Common Sense Media, acrescentou que os controles “têm potencial para salvar vidas”, mas ainda estão longe de garantir um ambiente realmente seguro.

A OpenAI, por sua vez, defende que o sistema foi desenvolvido em consultoria com especialistas e que a visão de cada família sobre como seus filhos devem usar a IA varia. Lauren Jonas, chefe de bem-estar juvenil da empresa, afirmou que a ideia é “dar às famílias mais escolha”, reconhecendo que adolescentes costumam encontrar formas de contornar barreiras digitais.

Segundo o Pew Research Center, mais de um quarto dos jovens americanos entre 13 e 17 anos já usava o ChatGPT para trabalhos escolares em 2023, o que reforça a importância de medidas de proteção.