OpenAI lanzó ChatGPT para Adolescentes en agosto con la promesa de que los usuarios más jóvenes recibirían protecciones más sólidas: menor exposición a material inapropiado, controles parentales y herramientas destinadas a promover un uso más saludable. El lanzamiento se produjo en medio de una creciente alarma por los chatbots, la salud mental de los adolescentes y las trampas escolares asistidas por IA.¹

En octubre, el Youth AI Safety Institute de Common Sense Media llegó a una conclusión tajante tras probar más de 4.000 indicaciones en cuentas registradas a nombre de jóvenes de 13 a 17 años: ChatGPT para Adolescentes suponía un «riesgo inaceptable». El grupo afirmó que el chatbot normalmente rechazaba solicitudes directas relacionadas con autolesiones, trastornos alimentarios y juegos de rol sexuales, pero que con demasiada frecuencia no reconocía cuándo un adolescente necesitaba intervención externa.²

La principal queja del organismo de vigilancia no era simplemente que las barreras de seguridad tuvieran fallos, sino que pudieran ofrecer a las familias una falsa sensación de seguridad. Afirmó que los evaluadores podían hablar sobre suicidio, autolesiones o alimentación desordenada durante hasta una hora en cuentas recién creadas y vinculadas a padres sin activar una alerta. «Un adolescente puede pasar una hora hablando de autolesiones sin que su padre o madre reciba una sola alerta», dijo Tom Siegel, director ejecutivo del instituto, quien instó a OpenAI a mantener el servicio solo para adultos hasta que pruebas independientes verifiquen las correcciones.³

Common Sense también afirmó que las derivaciones en casos de crisis eran inconsistentes, que las Horas de Estudio podían eludirse pidiendo directamente una respuesta y que ChatGPT conservaba un lenguaje que fomentaba continuar la conversación incluso en situaciones de angustia. En una prueba sobre un apego excesivo al bot, respondió: «No tienes que dejar de hablar conmigo».⁴

OpenAI cuestiona esta interpretación. La empresa afirma que gran parte de las pruebas sobre alertas parentales podrían haberse realizado antes de que las cuentas de padres y adolescentes terminaran de vincularse, un proceso que, según dice, puede tardar varias horas. También afirma que salir del Modo de Estudio durante las horas designadas es intencional: expertos en educación y adolescentes favorecieron la flexibilidad frente a un bloqueo parental estricto.²

Esto deja una división fundamental. Common Sense considera las salvaguardias como promesas que deben funcionar de forma fiable bajo presión; OpenAI considera que parte del comportamiento cuestionado es una decisión de diseño del producto, y que algunos resultados de las pruebas son prematuros. Para los padres, la pregunta práctica es más simple: si se puede confiar en una etiqueta de seguridad cuando un hijo está en crisis.¹