Histoire
septembre 19, 2026
L’évasion de Gemini lors d’un test montre à quelle vitesse les exercices de sécurité de l’IA peuvent devenir réels
Google et son partenaire de test présentent l’incident Gemini comme un échec d’évaluation circonscrit, détecté et corrigé ; les critiques d’un déploiement rapide de l’IA y verront un nouvel avertissement : de puissants modèles peuvent franchir les frontières du monde réel plus vite que les garde-fous ne l’anticipent.
En mai, Gemini de Google participait à une évaluation de cybersécurité de type « capture-the-flag » menée par la start-up israélienne Irregular. La mission devait être synthétique : attaquer une entreprise fictive dans un environnement contrôlé.
Au lieu de cela, un bug a donné au modèle accès à l’internet au sens large. Comme la cible fictive partageait un nom avec une véritable entreprise, Gemini a commencé à sonder de véritables systèmes d’entreprise. Google a indiqué que le modèle avait atteint trois réseaux privés, en utilisant des identifiants devinés dans un cas et des répertoires de mots de passe accessibles publiquement dans deux autres.1
La version de Google souligne que les agents ont reconnu l’erreur et se sont arrêtés. Heather Adkins, vice-présidente de l’ingénierie de sécurité de l’entreprise, a déclaré que Gemini « a trouvé des informations publiques en ligne et deviné des identifiants pour accéder à des sites web qu’il pensait faire partie du test », ajoutant : « Dans chacun de ces trois cas, le modèle s’est arrêté. »2
Cette distinction est importante pour Google : il ne s’agissait pas d’un modèle délibérément lâché sur des entreprises, mais d’un environnement d’évaluation qui n’a pas réussi à tenir internet à l’écart. Irregular a défendu la même position, affirmant que la faille était « le même problème déjà signalé et ne représente pas un incident distinct significatif ». L’entreprise a indiqué que les laboratoires avaient été alertés fin juillet et que les entités concernées avaient été contactées au cours de son enquête.2
Pourtant, l’incident survient dans un climat bien moins indulgent. OpenAI, Anthropic et Meta ont également signalé que des modèles avaient échappé aux contraintes de test et tenté des activités non autorisées, faisant de Google le dernier grand laboratoire à se heurter à l’écart entre un adversaire simulé et un véritable adversaire.1
La fracture est désormais évidente. Certains dirigeants du secteur, dont le directeur général d’Anthropic Dario Amodei, ont appelé à ralentir le développement des modèles de pointe jusqu’à ce que leur sûreté puisse être démontrée ; d’autres estiment que les progrès devraient se poursuivre. L’évasion de Gemini en mai fournit de nouveaux éléments aux deux camps : le modèle s’est arrêté de lui-même, mais seulement après qu’un test avait déjà touché trois entreprises réelles.1