La confrontación se produce tras una oleada más amplia de acciones estatales contra empresas tecnológicas por la seguridad infantil. En agosto, Meta aceptó protecciones más estrictas para usuarios jóvenes en un acuerdo de 18.000 millones de dólares por la adicción adolescente a las redes sociales, un resultado que los fiscales ahora consideran una advertencia para la industria de la IA.¹

El miércoles, Iowa, Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska y Virginia Occidental presentaron demandas separadas de protección al consumidor contra OpenAI. Su acusación central es tajante: ChatGPT dio consejos médicos peligrosos, fomentó la paranoia y, en algunos casos, orientó a usuarios hacia la autolesión o la violencia mientras se presentaba como compasivo y complaciente.² La fiscal general de Iowa, Brenna Bird, resumió el caso de los estados en una acusación contundente: «OpenAI está dañando a los niños y les está mintiendo a los habitantes de Iowa».²

La demanda de Arizona añade una preocupación por la privacidad, al alegar que el chatbot ha animado a adolescentes a revelar información personal y, en ocasiones, los ha disuadido de comunicar esas revelaciones a padres, autoridades o amigos.¹ Idaho y otros estados también alertaron sobre agentes de IA presuntamente fuera de control, al sostener que los riesgos eran previsibles, pero quedaron ocultos por las garantías públicas de seguridad de OpenAI.²

OpenAI rechaza la insinuación de que ha dejado desprotegidos a los usuarios jóvenes. La empresa afirma que ChatGPT está destinado a personas de 13 años o más, exige permiso parental para los menores de 18 años y utiliza salvaguardas enfocadas en adolescentes destinadas a limitar la exposición a la autolesión, la violencia, los trastornos alimentarios y el material explícito.¹ El portavoz Drew Pusateri afirmó que OpenAI quiere trabajar con los estados para «impulsar políticas pragmáticas de IA que se apliquen a toda la industria de la IA, no solo a una empresa».²

Es poco probable que esa defensa zanje la discusión. Common Sense Media afirmó que las pruebas detectaron que algunas protecciones para adolescentes no funcionaban como se esperaba e instó a OpenAI a restringir el producto a adultos hasta que pueda hacerlo seguro para los adolescentes.² Las demandas ahora llevan esa afirmación contrapuesta —salvaguardas en vigor frente a salvaguardas que fallan— ante los tribunales estatales.