Les nouvelles garanties de New York sont intervenues après un récent durcissement des règles entourant l’accès des enfants à l’intelligence artificielle. Le mois dernier, le maire de New York, Zohran Mamdani, a interdit aux plus jeunes écoliers d’utiliser l’IA, selon un récit de l’action de l’État.¹

La gouverneure Kathy Hochul a désormais signé une loi d’État plus large visant directement les chatbots de type compagnon. La mesure exige des entreprises d’IA qu’elles empêchent les chatbots de « faire semblant d’être humains » lorsqu’ils s’adressent à des utilisateurs de moins de 18 ans.¹ Elle limite également les conversations comportant de la flatterie, des questions émotionnelles non sollicitées et des encouragements à garder des secrets — des fonctionnalités que les législateurs considèrent manifestement comme susceptibles de faire basculer l’assistance vers la manipulation.¹

La loi ne repose pas uniquement sur des restrictions au sein de la fenêtre de discussion. Les entreprises doivent vérifier l’âge des utilisateurs et proposer « au moins une option qui ne dépend pas uniquement d’une pièce d’identité officielle ».¹ Cette exigence impose un test pratique aux développeurs : protéger les mineurs sans faire de l’identification officielle le seul moyen de prouver son âge.

La mesure new-yorkaise intervient dans le cadre d’une campagne plus large menée au niveau des États pour fixer des limites à l’IA avant que les règles fédérales ne rattrapent leur retard. Les États agissent de plus en plus pour protéger les enfants utilisant l’IA, superviser l’usage des systèmes automatisés par les employeurs et pousser les développeurs à se prémunir contre des préjudices catastrophiques, selon un rapport.²

Ce qui distingue New York est la précision de sa cible. Plutôt que de réglementer l’IA de manière abstraite, l’État se concentre sur le comportement social des systèmes conçus pour paraître attentifs, intimes ou humains — et insiste sur le fait que, pour les enfants, ces choix de conception ont des conséquences.