Nova York já havia se posicionado como reguladora de IA em 2025, exigindo que desenvolvedores maiores publicassem protocolos de segurança e reportassem sinais de “danos críticos” ao estado em até 72 horas.¹ Mas o debate se intensificou em 28 de outubro, quando a governadora Kathy Hochul assinou uma intervenção mais direta voltada ao uso de chatbots por crianças.

A nova lei proíbe operadores de IA de fornecer a menores recursos de chatbot que personifiquem um ser humano, personagem vivo ou ser com emoções humanas. Ela também proíbe bajulação e servilismo, incentivo ao suicídio ou ao uso de drogas e comandos que isolem crianças de adultos. As empresas devem verificar as idades dos usuários, com pelo menos um método que não dependa exclusivamente de documento de identidade emitido pelo governo.²

Na cerimônia de assinatura, Hochul apresentou a medida como um limite há muito necessário: “Menores აღარ terão acesso a chatbots que fingem ser seus amigos e namorados e namoradas.” Ela também afirmou que os bots não devem reter informações sensíveis de saúde, desencorajar a busca por ajuda profissional ou incentivar pensamentos suicidas.¹ A lei concede à procuradora-geral Letitia James autoridade para buscar penalidades e exigir a destruição de dados obtidos ilegalmente; ela entra em vigor em 1º de janeiro de 2027.¹

Para os defensores, a lei é uma correção após as redes sociais terem superado as salvaguardas públicas. Jim Steyer, da Common Sense Media, chamou a IA de “redes sociais com esteroides”, enquanto o ex-cirurgião-geral Vivek Murthy argumentou que a tecnologia exige padrões de segurança proporcionais à sua importância.³ Steyer posteriormente elogiou a lei como “o projeto de lei mais forte do país sobre segurança de crianças em IA”, classificando recursos perigosos de chatbot como “colocação imprudente em perigo”.¹

A indústria de tecnologia vê danos colaterais. A Tech:NYC afirmou que a linguagem ampla e vaga da legislação poderia afastar menores de serviços de tutoria, ajuda com deveres de casa, assistentes de programação e plataformas de carreira, além de levantar preocupações relacionadas à Primeira Emenda.¹ O embate está agora definido: Nova York vê a restrição como uma salvaguarda contra a intimidade artificial; críticos temem que as mesmas regras possam excluir crianças do uso construtivo da IA.