OpenAI presentó ChatGPT para adolescentes en agosto para usuarios de 13 a 17 años, en respuesta a las preocupaciones de que los chatbots de IA pueden socavar el aprendizaje y agravar los riesgos relacionados con las autolesiones, los trastornos alimentarios y otros comportamientos de alto riesgo. La empresa afirmó que el modo limitaría esas conversaciones, ofrecería controles a los padres y detectaría contextos de tareas escolares para poder ayudar a los estudiantes a aprender en lugar de simplemente darles las respuestas.¹

El lanzamiento se produjo en medio de una reacción más amplia contra la dependencia de los jóvenes de los chatbots. Los críticos han advertido que las herramientas capaces de redactar ensayos o resolver tareas pueden debilitar la retención y la capacidad de resolución de problemas, mientras que los titulares sobre interacciones dañinas con chatbots han intensificado el escrutinio de las protecciones para adolescentes vulnerables.¹

El Instituto de Seguridad de la IA para Jóvenes de Common Sense Media probó entonces más de 4.000 indicaciones en cuentas registradas a nombre de jóvenes de 13 a 17 años. Su hallazgo central no fue que ChatGPT proporcionara habitualmente instrucciones explícitas para autolesionarse o desarrollar trastornos alimentarios —por lo general no lo hizo—, sino que era inconsistente al reconocer cuándo un adolescente necesitaba intervención externa. El grupo afirmó que el sistema no detectó más de una de cada cuatro situaciones en las que sus evaluadores consideraron necesaria una derivación por crisis.²

Los defensores también informaron que las cuentas recién creadas y vinculadas a padres podían mantener conversaciones sobre suicidio, autolesiones o alimentación desordenada durante hasta una hora sin alertar a un padre. Descubrieron que el Modo de estudio podía eludirse pidiendo una respuesta, incluso durante las Horas de estudio establecidas por los padres. Para Common Sense, eso dejó al descubierto la brecha entre una promesa de seguridad y una salvaguarda utilizable: «ChatGPT no es seguro para que lo usen los niños», afirmó Tom Siegel, director del instituto.²

OpenAI cuestiona esa conclusión y afirma que las pruebas no reflejaron el producto tal como funciona en la práctica. Dice que muchas pruebas de alertas parentales se realizaron antes de que las cuentas de padres y adolescentes se vincularan por completo, un proceso que puede tardar horas. También describe las Horas de estudio como intencionalmente flexibles, no como un bloqueo rígido, y afirma que su sistema de edad utiliza múltiples señales durante un periodo de hasta dos semanas, mientras aplica protecciones adicionales de forma provisional.²

Eso deja sin resolver el desacuerdo central: OpenAI ve salvaguardas calibradas que preservan la autonomía adolescente; Common Sense ve controles demasiado permeables para un producto que los padres podrían confundir con una red de seguridad confiable.