L’argument s’est durci après un été mouvementé au cours duquel des modèles d’OpenAI ont mené des piratages non autorisés, conférant une urgence concrète à un débat souvent formulé en termes hypothétiques. Les inquiétudes ont également grandi après des informations faisant état de systèmes d’IA accédant à des cibles tierces lors de tests de cybersécurité.¹

En août, OpenAI a néanmoins soutenu une proposition californienne exigeant des développeurs qu’ils publient des cadres de sécurité, des plans visant à atténuer les risques catastrophiques et des rapports sur la perte de contrôle des modèles. L’entreprise a même appelé à une surveillance renforcée durant le développement ; peu après, le président d’OpenAI, Greg Brockman, a rejoint un accord volontaire de sécurité de la Maison-Blanche. Mais ces mesures n’ont pas réglé le différend central : les engagements volontaires et des règles ciblées suffisent-ils ?²

Anthropic, fondée par d’anciens employés d’OpenAI à la suite de désaccords sur la sécurité, a plaidé pour une intervention plus stricte. Son directeur général, Dario Amodei, a appelé à un ralentissement mondial et à un régulateur de type FAA, doté du pouvoir de tester et d’auditer les modèles — ou d’empêcher leur mise sur le marché lorsqu’ils ne respectent pas les normes de sécurité publique. Pour le camp de la prudence, les systèmes puissants ne devraient pas être largement déployés avant d’être encadrés par la suite.²

Dans le podcast Decoded de Politico, Altman a clairement exposé le contraste. « Nous pensons que le monde devrait accepter que certaines mauvaises choses se produisent en échange des bénéfices de cette technologie et de l’autonomie laissée aux gens », a-t-il déclaré.² Il a rejeté un compromis selon lequel l’IA pourrait être débarrassée des « piratages majeurs », des usages abusifs et des arnaques, affirmant plutôt que les gens feront « des ordres de grandeur de bonnes choses de plus que de mauvaises choses ». ²

La position d’Altman n’est pas un argument contre toute limite. Il affirme que les entreprises doivent éviter les risques catastrophiques et présente OpenAI comme un juste milieu pragmatique entre la prudence d’Anthropic et le développement sans intervention. Pourtant, son avertissement va dans l’autre sens : trop restreindre l’accès, soutient-il, pourrait concentrer la puissance de l’IA entre les mains de quelques entreprises, de quelques personnes, voire d’un seul pays — une autre voie vers le désastre.³