Las nuevas salvaguardias de Nueva York llegaron tras un reciente endurecimiento de las normas sobre el acceso de los niños a la inteligencia artificial. El mes pasado, el alcalde de la ciudad de Nueva York, Zohran Mamdani, prohibió a los escolares más pequeños usar IA, según un relato de la medida estatal.¹

Ahora la gobernadora Kathy Hochul ha promulgado una ley estatal más amplia dirigida específicamente a los chatbots de estilo acompañante. La medida exige a las empresas de IA impedir que los chatbots «finjan ser humanos» al hablar con usuarios menores de 18 años.¹ También restringe las conversaciones que incluyen halagos, preguntas emocionales no solicitadas y estímulos para guardar secretos, características que los legisladores aparentemente consideran capaces de pasar de la asistencia a la manipulación.¹

La ley no se basa únicamente en restricciones dentro de la ventana de chat. Las empresas deben verificar las edades de los usuarios y proporcionar «al menos una opción que no dependa exclusivamente de una identificación gubernamental».¹ Ese requisito plantea una prueba práctica para los desarrolladores: proteger a los menores sin convertir la identificación oficial en la única vía para demostrar la edad.

La medida de Nueva York surge en medio de una campaña más amplia a nivel estatal para establecer límites a la IA antes de que las normas federales se pongan al día. Los estados actúan cada vez más para proteger a los niños que usan IA, supervisar el uso de sistemas automatizados por parte de los empleadores y presionar a los desarrolladores para que se protejan contra daños catastróficos, según un informe.²

Lo que distingue a Nueva York es la especificidad de su objetivo. En lugar de regular la IA en abstracto, se centra en el comportamiento social de los sistemas creados para sonar atentos, íntimos o humanos, e insiste en que, para los niños, esas decisiones de diseño tienen consecuencias.