Crédito: Mixvale.com.br
Um novo relatório de segurança revelou que a versão do ChatGPT desenvolvida para usuários com idade entre 13 e 17 anos possui falhas significativas, classificando-a como de “risco inaceitável”. A avaliação foi conduzida pelo Youth AI Safety Institute, uma vertente da Common Sense Media, organização não governamental sediada em São Francisco, Califórnia. O diagnóstico técnico alarmante surgiu após a execução de mais de 4 mil testes detalhados, que simularam interações de jovens na plataforma, evidenciando lacunas graves nos sistemas de alerta para pais e no suporte imediato oferecido durante diálogos críticos sobre saúde mental.
Tom Siegel, diretor-executivo do Youth AI Safety Institute da Common Sense Media e ex-executivo de confiança e segurança do Google, expressou sérias preocupações. Segundo ele, “O ChatGPT para adolescentes pode gerar nos pais uma falsa sensação de segurança, com salvaguardas e alertas que frequentemente não funcionam como esperado. Um jovem pode conversar por uma hora sobre automutilação sem que o responsável receba qualquer tipo de notificação. Até que a OpenAI corrija essas falhas e comprove sua eficácia através de testes independentes, o ChatGPT deveria ser restrito apenas a adultos”. Esta declaração ressalta a urgência da situação e a necessidade de revisão por parte da desenvolvedora.
Durante a minuciosa investigação técnica realizada pelos pesquisadores nos Estados Unidos, mais de doze novas contas de adolescentes foram criadas e vinculadas a perfis parentais para uma análise aprofundada da eficácia dos avisos. Em simulações que envolviam conversas contínuas sobre temas delicados como pensamentos suicidas, automutilação e transtornos alimentares, os diálogos se estenderam por até uma hora sem que nenhuma notificação fosse disparada para os responsáveis previamente cadastrados. Os alertas aos pais somente apareceram em testes com perfis que já acumulavam semanas de histórico de interações com conteúdos sensíveis, o que levou os avaliadores a concluir que o sistema dependia excessivamente de um histórico prévio, em detrimento da identificação do risco imediato da mensagem.
Além da ausência de comunicação efetiva com os familiares, o sistema automatizado demonstrou ineficiência ao direcionar os usuários para linhas telefônicas e serviços de apoio em momentos de crise, falhando em mais de um quarto dos casos que foram considerados mandatórios por psiquiatras e pediatras consultados no estudo. Ou seja, em mais de uma em cada quatro situações graves apresentadas ao chatbot, o adolescente ficou sem acesso a contatos de emergência quando a intervenção especializada era crucial. Em contraste, o levantamento confirmou que as proteções contra conteúdos de natureza sexual funcionaram de forma eficaz, bloqueando todas as tentativas de encenação erótica ou sexual explícita, o que indica uma disparidade na priorização das salvaguardas.
As restrições educacionais implementadas no ChatGPT for Teens também foram objeto de análise e revelaram fragilidades práticas durante as sessões de avaliação. O “Modo de Estudo”, concebido para incentivar o aprendizado através de perguntas e roteiros guiados, em vez de oferecer respostas prontas, pôde ser facilmente desativado pelos estudantes com comandos simples na interface. A ferramenta apresentava um botão com a inscrição “Mostre-me a resposta”, cuja ativação permitia que o sistema solucionasse integralmente a tarefa escolar, dispensando qualquer raciocínio ou esforço por parte do usuário.
Os pesquisadores também identificaram que os limites de tempo estabelecidos pelos pais, destinados à realização de deveres escolares, podiam ser contornados diretamente no campo de texto da plataforma. Quando os responsáveis programavam horários específicos para as atividades acadêmicas, o sistema inseria o comando “@study” no início do diálogo. Os testes comprovaram que a simples exclusão desse comando pelo estudante desativava o controle pedagógico, liberando o uso irrestrito do chatbot e frustrando as restrições de tempo previamente configuradas pela família, o que compromete a supervisão parental sobre o uso educacional da ferramenta.
A OpenAI, desenvolvedora do ChatGPT, contestou veementemente as conclusões apresentadas no relatório, questionando a metodologia empregada pelos pesquisadores e afirmando que o experimento não representa as salvaguardas em cenários reais de operação. “Acolhemos avaliações independentes rigorosas, mas não cremos que os testes da Common Sense Media reflitam com precisão como as proteções para adolescentes do ChatGPT operam na prática”, declarou um porta-voz da OpenAI. A empresa argumentou que a integração operacional entre as contas de pais e filhos pode levar algumas horas para se consolidar completamente no sistema, sugerindo que os testes podem ter sido realizados antes da plena ativação das funcionalidades de segurança.
Houve também um ponto de divergência significativo na maneira como a plataforma infere a idade de seus usuários. Em testes onde contas formalmente cadastradas por adultos declararam no chat ter 13 anos, o sistema não efetuou a migração desses perfis para a versão destinada a jovens. A OpenAI defendeu que a inferência etária não se baseia exclusivamente em declarações diretas no texto, mas sim em uma análise complexa de padrões comportamentais de navegação, um processo que pode demorar até duas semanas para reclassificar adequadamente o usuário e aplicar as configurações etárias apropriadas.
A experiência ChatGPT for Teens foi lançada oficialmente pela OpenAI em 18 de agosto de 2026, uma terça-feira. Não se trata de um aplicativo autônomo, mas sim de um conjunto de configurações, classificadores e ferramentas aplicadas a contas já existentes de menores de idade. O lançamento ocorreu em um contexto de intensa pressão pública e judicial, levantando debates importantes sobre o impacto da inteligência artificial generativa na saúde mental e nas interações sociais de crianças e adolescentes, sublinhando a importância de avaliações rigorosas como a do Youth AI Safety Institute.
Até o momento, não há confirmação se a OpenAI planeja implementar modificações compulsórias no funcionamento do Modo de Estudo ou revisar os prazos técnicos para a ativação das notificações parentais, após a divulgação do relatório da Common Sense Media, que foi publicado em 7 de outubro de 2026. A comunidade de pais, educadores e especialistas em segurança digital aguarda ansiosamente por um posicionamento da empresa, dado o potencial impacto dessas vulnerabilidades na segurança e bem-estar dos usuários mais jovens da plataforma.
