O acordo da Meta está sendo apresentado tanto como um avanço para a segurança das crianças quanto como uma salva de abertura: defensores querem que o acordo imponha mudanças em todo o setor, enquanto críticos de uma regulamentação abrangente alertam que as redes sociais e a IA são alvos muito menos diretos do que o tabaco.

A pressão já vinha aumentando. Em Nova Gales do Sul, a ministra da Educação Prue Car determinou uma revisão da IA nas escolas em agosto e pediu aos reguladores que considerassem pausar avaliações para serem realizadas em casa sem supervisão. Seu argumento foi direto: a IA pode auxiliar a aprendizagem, mas não deve substituir “o pensamento, a criatividade e a diligência.”¹

Nesta semana, a Meta concordou em pagar até US$ 17,1 bilhões e fazer grandes mudanças no Facebook e no Instagram após alegações de que suas plataformas colocavam crianças em risco por meio de design viciante.² O acordo exige limites diários de uso, bloqueios noturnos para usuários adolescentes, medidas mais robustas de garantia de idade e ferramentas adicionais para pais, com um auditor independente monitorando o cumprimento por cinco anos.³ A garantia de idade é central porque mesmo salvaguardas robustas falham se uma plataforma não consegue identificar de forma confiável seus usuários mais jovens.⁴

Para Mike Moore, o ex-procurador-geral do Mississippi que ajudou a garantir o acordo sobre tabaco de 1998, o acordo da Meta é um modelo, e não um destino final. “O acordo com os estados é um ótimo primeiro passo”, disse ele, defendendo um fundo nacional de educação e prevenção em vez de uma colcha de retalhos de soluções locais.³ O procurador-geral da Califórnia, Rob Bonta, adotou o mesmo tom, chamando o acordo de “um piso conceitualmente, não um teto.”³

Mas a analogia com o tabaco tem limites. Jonathan Caulkins, da Carnegie Mellon, observou que “cigarros são cigarros”, ao passo que os danos e benefícios das plataformas sociais e da IA podem parecer radicalmente diferentes daqui a cinco, 10 ou 15 anos.³ A investidora em tecnologia Allison Ball também alertou os formuladores de políticas a manterem-se “maniacamente focados no que poderia realmente ajudar”, em vez de adotar regras com consequências não intencionais.³

A sombra do acordo já se estende aos chatbots. Jennifer King, pesquisadora de privacidade de Stanford, chamou-o de “definitivamente um alerta para as empresas de IA”, à medida que casos e regulamentações em nível estadual avançam mais rápido do que Washington.⁵ Essa urgência colide com um mercado de IA que continua avançando em ritmo acelerado: a Z.ai revelou que o modelo misterioso Ox Alpha era seu GLM-5.3-Flash, um lançamento promovido como iminente por observadores de IA no X.clem 🤗 (ClementDelangue)⁶ O desafio regulatório não é mais apenas fiscalizar o feed social de ontem; é acompanhar os produtos de amanhã.