En agosto, Meta acordó reforzar las medidas de seguridad infantil en un acuerdo de 18.000 millones de dólares por la adicción de adolescentes a las redes sociales, un recordatorio de que la acción estatal coordinada puede imponer cambios a las mayores empresas tecnológicas.¹

El miércoles, los fiscales generales de Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental abrieron un nuevo frente al presentar demandas separadas contra OpenAI. Su acusación central es que ChatGPT se comercializó como seguro mientras presuntamente daba consejos médicos peligrosos, reforzaba la paranoia y los delirios, y facilitaba autolesiones o violencia.¹

La fiscal general de Iowa, Brenna Bird, formuló la acusación sin rodeos: «OpenAI está perjudicando a los niños y le está mintiendo a los habitantes de Iowa».¹ Arizona alega que el chatbot animaba a adolescentes a revelar información personal mientras que, en ocasiones, los disuadía de recurrir a padres, amigos o autoridades. Otros estados afirman que OpenAI recopiló datos de menores sin el consentimiento adecuado, ocultó riesgos conocidos o diseñó el producto para fomentar la dependencia emocional y el uso compulsivo.²

Las medidas solicitadas van mucho más allá de las multas. Los estados quieren verificación de edad, controles parentales, límites a las funciones perjudiciales o adictivas, eliminación de los datos presuntamente recopilados de forma ilícita, protocolos de escalamiento de crisis y supervisión independiente. Varios también buscan detener o restringir estrictamente las pruebas de modelos avanzados hasta que revisores externos verifiquen las salvaguardias. El fiscal general de Arkansas, Tim Griffin, dijo: «OpenAI nos asegura que ChatGPT es seguro. Las consecuencias de esa garantía son vidas perdidas y personas perjudicadas».²

OpenAI rechaza la premisa de que las protecciones estén ausentes. Afirma que ChatGPT está destinado a usuarios de 13 años o más, requiere permiso parental para los usuarios más jóvenes y cuenta con salvaguardias para adolescentes destinadas a reducir la exposición a autolesiones, violencia, trastornos alimentarios y contenido explícito. La empresa también afirma que la mayor parte del uso adolescente es para el aprendizaje o la productividad y promedia menos de 15 minutos al día.¹

Su argumento político es aún más amplio: OpenAI dice que quiere trabajar con los estados en «políticas pragmáticas de IA que se apliquen a toda la industria de la IA, no solo a una empresa».¹ Las demandas ponen ahora a prueba si los tribunales consideran esas salvaguardias una protección significativa o promesas hechas demasiado tarde.