Histoire
septembre 23, 2026
Les dirigeants de l’IA disent à l’ONU que l’avenir doit rester humain
Les dirigeants de l’IA ont présenté cette technologie comme une voie vers la découverte et une plus grande capacité d’action humaine, tout en avertissant que son autonomie accélérée pourrait devenir une menace si les gouvernements et le public abandonnent le contrôle. Les deux perspectives convergent vers une exigence de règles qui maintiennent les décisions déterminantes entre des mains humaines.
La veille de la session du Conseil de sécurité, le secrétaire général de l’ONU, António Guterres, a mis en garde contre les « robots tueurs », accentuant une question déjà urgente pour les gouvernements : qui devrait contrôler les décisions de vie ou de mort à mesure que l’IA gagne en capacités — les humains ou les machines ?1
Mercredi, les personnes qui développent cette technologie ont apporté une réponse inhabituellement directe. Le directeur général d’OpenAI, Sam Altman, a déclaré au Conseil que les progrès rapides avaient rendu les promesses de l’IA plus concrètes, mais aussi ses risques plus immédiats. Son avertissement central était que des systèmes de plus en plus capables et autonomes pourraient dépasser les institutions, concentrer le pouvoir et prendre des décisions « que les gens ne comprennent ni ne contrôlent plus ». 2
Altman n’a pas plaidé pour l’abandon de cette technologie. Il a présenté l’enjeu comme un choix entre « une nouvelle Renaissance de créativité et de découverte » et « une nouvelle Révolution industrielle de bouleversements et de désordre ». Mais il a déclaré que les entreprises ne devaient pas entraîner de systèmes à moins de pouvoir démontrer de manière extrêmement convaincante que ces systèmes resteraient sous contrôle humain. Il a également rejeté l’idée qu’une seule entreprise ou qu’un seul pays puisse fixer les règles pour tous les autres.
Cet appel a placé l’optimisme du secteur aux côtés d’une préoccupation plus fondamentale de sécurité publique. Le directeur général d’Anthropic, Dario Amodei, a averti le Conseil que, si elle était mal gérée, l’IA « pourrait représenter un risque pour l’humanité tout entière », tandis que des dirigeants ont exhorté l’ONU à instaurer des contrôles avant que la technologie ne devienne trop puissante pour être maîtrisée.3
La réponse proposée était internationale plutôt qu’unilatérale : des normes communes pour évaluer les modèles avancés, des systèmes de vérification et de signalement des incidents, ainsi que des garde-fous contre les armes biologiques assistées par l’IA. La condition politique d’Altman était tout aussi claire : « les décisions les plus importantes ne peuvent pas être prises uniquement par des laboratoires de San Francisco ». Elles doivent être prises par des processus démocratiques et par des gouvernements responsables devant leurs citoyens.3
La réunion n’a produit aucun régime mondial contraignant. Mais le message, tant du côté de la sécurité humaine que de l’industrie, était sans ambiguïté : le progrès scientifique peut être bienvenu ; en confier le volant à des systèmes autonomes ne l’est pas.