Cuando OpenAI presentó ChatGPT para Adolescentes en agosto, presentó el producto como una experiencia con mayor protección para los usuarios jóvenes: medidas de seguridad para material sensible, herramientas parentales y funciones destinadas a apoyar el aprendizaje. La promesa era potencialmente significativa en un mercado donde se pide a las familias que confíen sistemas de IA que evolucionan rápidamente a usuarios vulnerables.

El Instituto de Seguridad de IA para Jóvenes de Common Sense Media afirma que la realidad no estuvo a la altura de esa propuesta. Tras probar más de 4.000 indicaciones en cuentas registradas para usuarios de entre 13 y 17 años, concluyó que el servicio planteaba un «riesgo inaceptable». El grupo dijo que el chatbot por lo general evitaba proporcionar instrucciones sobre suicidio, autolesiones, trastornos alimentarios y juegos de rol sexuales o románticos, pero que con demasiada frecuencia no reconocía cuándo un adolescente necesitaba ayuda externa.¹

Su preocupación más grave fue la escalada. Common Sense afirmó que ChatGPT no detectó más de uno de cada cuatro casos en los que sus evaluadores consideraron necesaria una derivación por crisis. En cuentas recién creadas vinculadas a padres, los evaluadores podían hablar sobre suicidio, autolesiones o alimentación desordenada durante hasta una hora sin una alerta parental. «Un adolescente puede pasar una hora hablando de autolesiones sin que su padre o madre reciba una sola alerta», dijo Tom Siegel, director ejecutivo del instituto, quien sostuvo que ChatGPT debería ser solo para adultos hasta que OpenAI corrija las brechas y se someta a pruebas independientes.²

La disputa también va más allá de la detección de crisis. Common Sense concluyó que los adolescentes podían seleccionar «Muéstrame la respuesta» para eludir el Modo de Estudio, y podían salir de ese modo durante las Horas de Estudio establecidas por los padres. Para el grupo, eso socava un control parental; para OpenAI, es una flexibilidad intencional moldeada por consultas con educadores y adolescentes, no una laguna.

OpenAI también rechaza la evaluación más amplia. El portavoz Eric Porterfield dijo que la empresa recibe con agrado el escrutinio externo, pero considera que las pruebas no reflejaron cómo operan sus salvaguardias en la práctica. La empresa afirma que gran parte de las pruebas de alertas parentales se realizaron antes de que las cuentas de padres y adolescentes estuvieran completamente vinculadas —un proceso que puede tardar horas— y que su sistema de predicción de edad sopesa deliberadamente múltiples señales durante hasta dos semanas, con protecciones adicionales mientras tanto.¹

Eso deja sin resolver la cuestión central: si las protecciones que pueden activarse más tarde, o que dejan margen para elegir, son adecuadas cuando las consecuencias de una advertencia no detectada pueden ser inmediatas.