Bill Gates, autrefois parmi les optimistes les plus en vue du secteur technologique concernant l’IA, s’est nettement rapproché du camp de la sécurité. Dans des commentaires annonçant sa participation à Meet the Press de NBC, le cofondateur de Microsoft a déclaré que l’IA était « certainement assez puissante pour provoquer des événements causant un milliard de morts ». ¹

Sa préoccupation immédiate n’est pas qu’une machine autonome devienne soudainement hostile, mais que des personnes aux intentions hostiles accèdent à des outils de plus en plus performants. Gates a qualifié la combinaison d’acteurs malveillants et d’IA de pointe d’inédite par son potentiel destructeur, et a soutenu que les dirigeants politiques devaient agir avant que ces systèmes ne deviennent plus difficiles à contenir.²

La solution qu’il a esquissée est la réglementation, non un arrêt général. « Il faut que les forces de l’ordre et les responsables politiques participent à la discussion sur ce à quoi doivent ressembler les garde-fous et la surveillance », a déclaré Gates, décrivant ces mesures comme un coût nécessaire plutôt que comme un frein spectaculaire à l’industrie.³

Cette position le place aux côtés d’un groupe croissant de défenseurs de la sécurité de l’IA. Elon Musk a relayé une publication rappelant ses avertissements de longue date selon lesquels l’IA représente un risque existentiel, y compris sa comparaison passée de cette technologie au fait d’« invoquer le démon ». Elon Musk (elonmusk)⁴ Le directeur général d’Anthropic, Dario Amodei, a lui aussi soutenu que la réglementation est le moyen le plus efficace de rythmer le développement de l’IA de pointe, après des informations selon lesquelles des acteurs avaient utilisé des outils d’IA pour planifier des attaques de drones et des recherches biologiques.¹

Mais l’industrie et Washington restent divisés sur l’application des règles. Le directeur général de Microsoft, Satya Nadella, a suggéré que les entreprises devraient elles-mêmes arrêter leurs travaux lorsqu’elles rencontrent une défaillance grave, tandis que le président Donald Trump a montré peu d’appétit pour une réglementation étendue. L’intervention de Gates remet en cause ce modèle d’autorégulation : selon lui, la prudence volontaire constitue un bouclier trop mince contre un outil capable d’amplifier des intentions catastrophiques.

Dans un essai publié en août, Gates a déclaré que le monde ne disposait pas d’un plan pour un déploiement sûr de l’IA et qu’il soutiendrait un plan mondial crédible visant à ralentir les avancées. Le dernier avertissement donne à cette inquiétude abstraite une dimension humaine saisissante.¹