As novas salvaguardas de Nova York surgiram após um recente endurecimento das regras sobre o acesso de crianças à inteligência artificial. No mês passado, o prefeito da cidade de Nova York, Zohran Mamdani, proibiu crianças menores em idade escolar de usar IA, segundo um relato sobre a medida estadual.¹

Agora, a governadora Kathy Hochul sancionou uma lei estadual mais abrangente voltada diretamente para chatbots no estilo de companheiros. A medida exige que empresas de IA impeçam os chatbots de “fingirem ser humanos” ao falar com usuários menores de 18 anos.¹ Também restringe conversas que envolvam bajulação, perguntas emocionais não solicitadas e incentivo a guardar segredos — recursos que os legisladores aparentemente consideram capazes de ultrapassar a assistência e chegar à manipulação.¹

A lei não se baseia apenas em restrições dentro da janela de conversa. As empresas devem verificar as idades dos usuários e oferecer “pelo menos uma opção que não dependa exclusivamente de documento de identidade emitido pelo governo”.¹ Essa exigência estabelece um teste prático para desenvolvedores: proteger menores sem tornar a identificação oficial a única forma de comprovar a idade.

A medida de Nova York chega em meio a uma campanha mais ampla, em nível estadual, para estabelecer limites para a IA antes que as regras federais acompanhem o ritmo. Os estados estão agindo cada vez mais para proteger crianças que usam IA, supervisionar o uso de sistemas automatizados por empregadores e pressionar desenvolvedores a se resguardarem contra danos catastróficos, disse uma reportagem.²

O que distingue Nova York é a especificidade de seu alvo. Em vez de regular a IA em abstrato, ela se concentra no comportamento social de sistemas criados para soar atenciosos, íntimos ou humanos — e insiste que, para as crianças, essas escolhas de design têm consequências.