La presión legal sobre OpenAI ya había comenzado a aumentar en junio, cuando el fiscal general de Florida, James Uthmeier, demandó a la empresa, alegando que lanzó conscientemente un producto inseguro. OpenAI también enfrentaba demandas por muerte por negligencia que culpaban a ChatGPT de reforzar delirios dañinos y, en algunos casos, de contribuir a suicidios.¹

En agosto, OpenAI lanzó ChatGPT para adolescentes, una experiencia específica que, según dijo, combinaba herramientas educativas con salvaguardas apropiadas para la edad. La empresa presentó la medida como un esfuerzo para permitir que los jóvenes usen la IA «para aprender, crear y explorar», al tiempo que protege su desarrollo y sus relaciones en el mundo real.¹

Luego, el miércoles, los fiscales generales de Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental presentaron demandas estatales por separado. Su acusación común: OpenAI comercializó ChatGPT como seguro mientras presuntamente fomentaba las autolesiones o la violencia, reforzaba delirios, ofrecía consejos médicos peligrosos y llevaba a menores a una dependencia emocional.²

Los estados difieren en el énfasis, pero no en su exigencia central de rendición de cuentas. La fiscal general de Iowa, Brenna Bird, dijo que OpenAI estaba «dañando a los niños» mientras afirmaba que ChatGPT era seguro; Arizona alegó que el sistema utilizaba la conformidad y la compasión simulada para ganarse la confianza y recopilar datos personales.¹² Arkansas, Idaho y Nebraska se centraron en supuestos fallos para proteger a los usuarios jóvenes, mientras que Montana planteó preocupaciones sobre la privacidad de los niños. Virginia Occidental quiere protocolos de crisis, límites de tiempo predeterminados y apoyo a la seguridad digital en las escuelas.²

Las medidas solicitadas son amplias: sanciones civiles, verificación de edad, controles parentales, límites a las funciones adictivas, eliminación de datos presuntamente recopilados de forma ilegal, supervisión independiente y restricciones a las pruebas de modelos avanzados.

OpenAI rechaza la sugerencia de que haya ignorado el problema. El portavoz Drew Pusateri dijo que la empresa cuenta con protecciones específicas por edad «que muchos otros productos de IA no tienen», al tiempo que reconoció que ningún sistema es perfecto. Señaló los controles parentales, los recordatorios para tomar descansos y las protecciones de modelos apropiadas para la edad, y dijo que OpenAI seguiría trabajando con expertos y estados en nuevas salvaguardas.¹