OpenAI presentó ChatGPT para adolescentes en agosto, tras la creciente preocupación por el uso de chatbots por parte de los jóvenes para obtener apoyo emocional, hacer tareas escolares y mantener largas conversaciones. La empresa prometió controles parentales, límites más estrictos sobre contenido de alto riesgo y protecciones contra la dependencia emocional. Pero Common Sense Media ahora califica el producto como un «riesgo inaceptable», argumentando que algunas de sus protecciones más importantes fallan bajo presión.¹

El Instituto de Seguridad de IA para Jóvenes de la organización sin fines de lucro dijo que probó más de 4.000 indicaciones en cuentas registradas a nombre de usuarios de entre 13 y 17 años. Determinó que el chatbot, por lo general, se negó a facilitar el suicidio, las autolesiones, los trastornos alimentarios y el juego de roles sexual —un éxito importante—, pero afirmó que no detectó más de uno de cada cuatro casos en los que los evaluadores creían necesaria una derivación por crisis. En cuentas recién creadas y vinculadas a un padre o madre, afirmó que los adolescentes podían hablar sobre suicidio, autolesiones o alimentación desordenada durante hasta una hora sin notificar a un progenitor.²

Para Tom Siegel, quien dirige el instituto, la brecha no es una nota técnica al pie, sino el problema central. «Un adolescente puede pasar una hora hablando sobre autolesiones sin que su padre o madre reciba una sola alerta», dijo, y advirtió que el producto podría dar a las familias una «falsa confianza» en salvaguardas que no funcionan de forma fiable.³

OpenAI rechaza esa conclusión. La empresa afirma que gran parte de las pruebas sobre alertas parentales se realizó antes de que las cuentas de padres y adolescentes hubieran completado su proceso de vinculación, que puede tardar horas. También sostiene que su sistema de edad evalúa intencionadamente múltiples señales, en lugar de aceptar sin más una edad declarada, al tiempo que proporciona protecciones provisionales durante su período de evaluación.²

El choque va más allá del momento técnico. Common Sense considera que la posibilidad de salir del Modo de estudio durante las Horas de estudio establecidas por los padres es una laguna; OpenAI dice que es una flexibilidad intencionada, fruto de consultas con educadores y adolescentes. Y aunque el organismo de vigilancia detectó señales de interacción persistentes incluso en conversaciones de crisis —incluidas invitaciones a seguir hablando—, OpenAI afirma que sus propios datos muestran que el uso adolescente promedia menos de 15 minutos diarios y que los recordatorios para tomar descansos suelen hacer que los usuarios se detengan o pausen.¹

La disputa deja a los padres con dos interpretaciones marcadamente distintas del mismo producto: OpenAI ve salvaguardas que aún se están calibrando; Common Sense ve una promesa de seguridad que llegó antes que la ingeniería necesaria para respaldarla.