La Californie a pris des mesures pour encadrer les fonctionnalités qui maintiennent les jeunes utilisateurs à faire défiler les contenus. Le gouverneur Gavin Newsom a signé un ensemble de mesures de sécurité en ligne qui cible les systèmes de recommandation des réseaux sociaux et renforce le contrôle des chatbots d’IA utilisés par les enfants.¹

Au cœur du dispositif se trouve l’AB 1709, qui interdit aux plateformes de fournir aux moins de 16 ans des recommandations algorithmiques, le défilement infini et la lecture automatique, sauf si un parent donne son consentement. La loi va au-delà d’une application ou d’un format : elle considère les mécanismes d’utilisation compulsive comme le problème, plutôt que de simplement surveiller les publications individuelles.²

Le paquet de mesures augmente également les enjeux pour les grandes entreprises de réseaux sociaux. Les plateformes reconnues négligentes pour avoir nui à des enfants via leurs services pourraient se voir infliger des sanctions allant jusqu’à 1 million de dollars par enfant, tandis que les opérateurs de chatbots doivent effectuer des évaluations des risques avant de déployer leurs produits.¹

Pour les entreprises d’IA, les nouvelles règles ajoutent aussi une protection plus élémentaire : les créateurs de chatbots doivent informer les jeunes utilisateurs qu’ils ne parlent pas à un humain. Cette exigence reflète une inquiétude croissante selon laquelle les enfants pourraient prendre un logiciel conversationnel pour une personne de confiance — alors même que le secteur intègre ces outils dans les usages quotidiens.²

Ensemble, ces lois constituent l’effort le plus clair de la Californie à ce jour pour transférer la responsabilité des jeunes utilisateurs et des parents vers les entreprises qui conçoivent le fil, l’interface et le chatbot qui se cache derrière.