Un grupo bipartidista de fiscales generales de Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental presentó demandas separadas el miércoles, abriendo un amplio nuevo frente legal contra OpenAI. Los estados afirman que la empresa promocionó ChatGPT como seguro sin advertir a los usuarios sobre supuestos riesgos que incluyen autolesiones, violencia, delirios, orientación médica perjudicial y dependencia poco saludable.¹

Las demandas presentan la disputa como algo más que una pelea por errores de chatbots. Arizona alega que OpenAI utilizó «acuerdo excesivo y compasión simulada» para ganarse la confianza de los usuarios y recopilar datos personales; Arkansas afirma que las garantías de seguridad de la empresa tuvieron como resultado «vidas perdidas y personas perjudicadas».² En todos los casos, los estados también acusan a OpenAI de contar con controles de edad inadecuados, recopilar indebidamente datos de menores y anteponer el crecimiento comercial a las salvaguardas.

Las medidas solicitadas muestran hasta dónde quiere que lleguen los tribunales la coalición. Varios estados solicitan verificación de edad, controles parentales, límites a las funciones adictivas y la eliminación de datos supuestamente obtenidos de forma ilegal. Iowa quiere que se destruyan los datos previos a la sentencia de los habitantes de Iowa, mientras que Virginia Occidental busca límites nocturnos y de duración de sesión predeterminados para los niños, protocolos de escalamiento en crisis y un supervisor independiente. Arizona, Idaho, Iowa, Arkansas y Montana también presionan para imponer límites estrictos a las pruebas o el despliegue de modelos avanzados, a menos que operen en entornos seguros verificados de manera independiente.²

OpenAI rechaza la sugerencia de que haya ignorado a los usuarios más jóvenes. El portavoz Drew Pusateri dijo que la empresa ha incorporado a ChatGPT «protecciones específicas por edad líderes en la industria», y citó controles parentales, recordatorios para tomar descansos y protecciones de modelos adecuadas para cada edad. Añadió que OpenAI seguiría trabajando con expertos en salvaguardas adicionales.¹

Las demandas ahora someten esa promesa a una prueba más rigurosa: si las protecciones existentes cumplen las leyes estatales de protección al consumidor y seguridad infantil, y si los tribunales deben dictar los límites del desarrollo avanzado de IA.