David Robinson, qui dirigeait les efforts de transparence sur la sécurité chez OpenAI, a démissionné la semaine dernière après avoir conclu que l’entreprise ne disposait pas de la culture de sécurité nécessaire aux systèmes qu’elle construit.¹ Dans sa première interview depuis son départ, il a décrit un passage du scepticisme initial face aux risques catastrophiques de l’IA à la conviction que les garde-fous du secteur ne suivent pas le rythme.

Le conflit s’est intensifié durant l’été. En juillet, des centaines d’employés d’OpenAI ont signé la lettre « Pacing the Frontier », appelant les pouvoirs publics à ralentir le développement de l’IA. En septembre, le directeur général Sam Altman a publiquement approuvé la nécessité de « rythmer la frontière », s’alignant sur les appels demandant aux entreprises de coordonner un ralentissement.²

Mais Robinson a déclaré à Ezra Klein que la réalité vue de l’intérieur était radicalement différente. « Une partie de ce qui constituait pour moi la dissonance cognitive fondamentale était que nous continuons de publier ces avertissements, mais qu’en fin de compte, nous continuons à entraîner et à déployer ces modèles dangereux contre lesquels nous mettons en garde. »² Il a décrit le lieu de travail comme « frénétique », avec un personnel « à bout de souffle » tandis que les équipes avançaient à toute vitesse.²

Ce récit contraste avec les propres avertissements des chercheurs d’OpenAI. En septembre, le directeur scientifique Jakub Pachocki a écrit que l’auto-amélioration récursive — des systèmes d’IA contribuant à construire de meilleures IA — était « une période qui appelle à une extrême prudence ».²

La réponse d’OpenAI est que la prudence n’est pas seulement rhétorique. Un porte-parole a déclaré que l’entreprise continue de renforcer ses pratiques de sûreté et de sécurité, se prépare aux risques futurs et « veille à ce que nos modèles ne deviennent pas plus capables que nous ne pouvons les gérer et les sécuriser en toute sûreté ». Le porte-parole a ajouté qu’OpenAI suspend l’entraînement ou ne publie pas des modèles lorsqu’elle doit ralentir.²

La critique de Robinson n’est donc pas qu’OpenAI ignore le danger. C’est que les propres avertissements de l’entreprise n’ont pas encore modifié l’impératif sous-jacent de construire et de déployer rapidement — l’écart qui a finalement convaincu l’un de ses responsables de la sécurité de partir.