California ha avanzado para controlar las funciones que mantienen a los usuarios jóvenes desplazándose por la pantalla. El gobernador Gavin Newsom promulgó un paquete de medidas de seguridad en internet que apunta a los sistemas de recomendación de redes sociales y amplía el escrutinio de los chatbots de IA utilizados por niños.¹

En el centro está la AB 1709, que prohíbe a las plataformas ofrecer a menores de 16 años recomendaciones algorítmicas, desplazamiento infinito y reproducción automática, salvo que un padre dé su consentimiento. La ley va más allá de una aplicación o un formato: considera que el problema son los mecanismos del uso compulsivo, en lugar de limitarse a vigilar publicaciones individuales.²

El paquete también eleva la presión sobre las grandes empresas de redes sociales. Las plataformas declaradas negligentes por dañar a niños a través de sus servicios podrían enfrentarse a sanciones de hasta 1 millón de dólares por niño, mientras que los operadores de chatbots deben realizar evaluaciones de riesgos antes de implementar sus productos.¹

Para las empresas de IA, las nuevas normas también añaden una salvaguardia más básica: los fabricantes de chatbots deben informar a los usuarios jóvenes de que no están hablando con un ser humano. Ese requisito refleja una preocupación creciente de que los niños puedan confundir el software conversacional con una persona de confianza, incluso mientras la industria impulsa estas herramientas para su uso cotidiano.²

En conjunto, las leyes representan el esfuerzo más claro de California hasta la fecha por trasladar la responsabilidad de los usuarios jóvenes y los padres a las empresas que diseñan el feed, la interfaz y el chatbot que hay detrás.