La presión legal llegó el miércoles, cuando un grupo bipartidista de fiscales generales de Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental presentó demandas separadas contra OpenAI. Su acusación común: ChatGPT fue promocionado como seguro mientras que su diseño y sus salvaguardias dejaban en riesgo a usuarios vulnerables, en particular menores de edad.¹

Los estados afirman que el chatbot podría reforzar delirios, fomentar las autolesiones o la violencia, proporcionar consejos médicos peligrosos y propiciar una dependencia poco saludable. También acusan a OpenAI de recopilar datos de menores y de no impedir adecuadamente el uso por parte de menores de edad. La demanda de Arizona presenta el caso como una advertencia más amplia sobre el desarrollo de IA impulsado por una «mentalidad de lucro a toda costa que deja de lado salvaguardias esenciales».¹

Las medidas solicitadas muestran hasta dónde quieren que lleguen los fiscales generales los tribunales. Arizona, Idaho, Iowa y Montana quieren límites a las pruebas de modelos avanzados, salvo que se realicen en entornos seguros y verificados de forma independiente. Iowa solicita la eliminación de los datos obtenidos de sus residentes antes de la sentencia; Montana y Virginia Occidental también exigen la eliminación o el cese del uso de datos de menores presuntamente recopilados de forma ilegal. Varios estados solicitan sanciones civiles, mientras que Nebraska y Virginia Occidental quieren verificaciones de edad, controles parentales y límites al tiempo que los niños pasan en el servicio.²

Su énfasis difiere en algunos aspectos. Arizona alega que OpenAI utilizó compasión simulada para generar confianza y recopilar datos personales; Arkansas afirma que las garantías de seguridad tuvieron consecuencias devastadoras; Idaho sostiene que la seguridad de los niños no puede subordinarse al rápido progreso tecnológico. Virginia Occidental va más allá y solicita protocolos de escalamiento de crisis, un monitor independiente y un plan supervisado por el tribunal para la respuesta a crisis juveniles y la educación sobre seguridad digital.²

OpenAI rechaza la insinuación de que ha ignorado a los usuarios jóvenes. El portavoz Drew Pusateri dijo que la empresa ha creado «protecciones específicas por edad líderes en la industria», incluidos controles parentales, recordatorios de pausas y protecciones de modelos adecuadas para cada edad, al tiempo que reconoció que «ningún sistema puede ser perfecto».¹

El choque ahora se dirige a los tribunales: los estados quieren salvaguardias vinculantes y castigo por lo que califican de conducta engañosa; OpenAI afirma que las salvaguardias iterativas, fundamentadas en expertos, siguen siendo el camino a seguir.¹