Histoire
octobre 6, 2026
L’audition de New York sur l’IA révèle une lacune en matière de sécurité alors que des lanceurs d’alerte avertissent que la course est lancée
Les responsables de New York estiment que les puissantes entreprises d’IA doivent au public des réponses claires et responsables sur les risques catastrophiques, tandis que d’anciens initiés affirment que la course du secteur pour créer des systèmes plus capables a dépassé sa culture de sécurité. Les représentants des entreprises soutiennent que les risques inacceptables ne doivent pas être tolérés, mais ont eu du mal à expliquer comment ces risques sont mesurés ou contenus.
L’affrontement se préparait depuis des semaines. Alors que l’examen des laboratoires d’IA de pointe s’intensifiait, la présidente du conseil municipal Julie Menin a convoqué une rare audition du Comité plénier et exigé qu’Anthropic, OpenAI, Google et Meta répondent sous serment à des questions sur les dangers que leurs systèmes pourraient poser. Selon le bureau de Menin, trois des entreprises n’ont accepté qu’après que le Conseil a menacé d’émettre des citations à comparaître.1
Lundi, l’audition a mis en évidence le fossé entre la demande du Conseil de garanties concrètes et les assurances prudentes du secteur. Menin a demandé aux dirigeants comment ils quantifiaient le risque lié à l’IA dans un scénario catastrophique du pire cas. Morgan Dwyer, responsable des politiques chez OpenAI, a répondu : « Je ne sais pas », ajoutant qu’il importait peu que la probabilité soit de 1 %, 10 % ou 20 %, car aucun niveau de risque de ce type n’était acceptable.2
Menin n’a pas été convaincue. « Dire que vous ne savez pas et que cela n’a pas d’importance est, au mieux, désinvolte », a-t-elle déclaré, après que Dwyer a affirmé qu’OpenAI ne devrait pas entraîner de modèles qui ne pourraient pas rester en toute sécurité sous contrôle humain.2 Les entreprises n’ont pas fourni de réponses claires sur leur capacité à arrêter un modèle qui échouerait à un test de sécurité, à s’assurer contre une catastrophe ou à en quantifier la probabilité.2
D’anciens employés ont présenté le problème de manière plus frappante. Jacob Coxon, qui a quitté Anthropic, a déclaré aux élus municipaux que l’éthique du secteur consistant à « aller vite et casser des choses » pouvait convenir à une application de partage de photos, mais pas à « la technologie la plus puissante jamais construite ».3 Il est apparu aux côtés d’anciens employés de Google et d’OpenAI réclamant un contrôle plus strict.
La réprimande politique la plus cinglante est venue du défenseur public Jumaane D. Williams, qui a qualifié la réponse de Dwyer de « réponse affreusement mauvaise, fantastiquement terrible ».3 L’audition a laissé les deux camps alignés sur un point abstrait — le risque catastrophique est inacceptable — mais divisés sur la question de savoir si les entreprises peuvent démontrer que leurs systèmes en accélération sont réellement sous contrôle.