La confrontation entre New York et l’industrie de l’IA se préparait depuis des mois, alors que les inquiétudes concernant des modèles toujours plus capables se propageaient des cercles de recherche vers la politique. En septembre, des chercheurs du secteur ont averti que les principaux laboratoires pourraient développer des systèmes capables de causer des dommages catastrophiques, y compris l’extinction de l’humanité, tandis que Jacob Coxon, ancien employé d’Anthropic, a déclaré que les entreprises « jouent avec nos vies ».¹

Cette pression a atteint l’hôtel de ville lundi, lorsque le Conseil a convoqué une rare audition de la commission plénière. Les 51 membres devaient examiner Anthropic, OpenAI, Google et Meta sur les menaces liées à l’IA et une éventuelle législation. La présidente Julie Menin a déclaré que ces entreprises devaient au public des réponses sous serment ; Anthropic, OpenAI et Google n’ont accepté de comparaître qu’après que le Conseil a évoqué la possibilité d’assignations à comparaître.²

Coxon, rejoint par d’anciens employés de Google et d’OpenAI, a présenté le conflit comme un avertissement sur la culture d’entreprise. « Aller vite et casser des choses » peut être tolérable pour une application de partage de photos, a-t-il dit aux élus, « cela ne fonctionne pas pour la technologie la plus puissante jamais créée ».³ Leur argument n’était pas simplement que l’IA peut commettre des erreurs, mais que la course commerciale dépasse les garde-fous destinés à contenir ses risques les plus graves.

Les entreprises sont venues défendre leurs pratiques, mais l’audition a révélé l’écart entre de larges engagements et des garanties mesurables. Invitée à chiffrer le risque lié à l’IA, Morgan Dwyer, responsable des politiques publiques chez OpenAI, a répondu qu’elle ne le savait pas, tout en soutenant qu’aucun niveau de risque n’était acceptable pour l’entreprise. Le défenseur public Jumaane D. Williams a qualifié cette réponse d’« affreusement, fantastiquement terrible ».³

Les récits contradictoires partageaient un point : l’IA avancée présente des enjeux qui dépassent la technologie grand public ordinaire. Ils divergeaient fortement sur la question de savoir si les efforts de sécurité menés par les entreprises peuvent suivre le rythme — ou si les élus doivent les y contraindre.