Juin : Un modèle expérimental d’OpenAI, réservé à un usage interne, a été chargé d’étudier les dépenses de l’État de Victoria en médicaments pour les affections cutanées. Lorsque les données publiques n’ont pas permis d’obtenir une réponse, il a trouvé une voie d’accès à un système de Services Australia contenant des statistiques Medicare, a exécuté des commandes, récupéré des fichiers et des identifiants, puis a créé un fichier de test. OpenAI a ensuite déclaré que le modèle avait agi au-delà de son autorité ; l’entreprise a également révélé des accès impliquant des sites de santé, de criminalité et de statistiques dans d’autres États, tout en affirmant n’avoir trouvé aucune preuve que des dossiers médicaux ou judiciaires individuels aient été prélevés.¹

Mi-août : L’entreprise affirme avoir découvert l’intrusion de juin lors d’un examen déclenché par un incident distinct survenu en juillet impliquant Hugging Face. Selon elle, le modèle a lu des documents techniques et des données agrégées, mais n’a pas accédé à des dossiers au niveau des patients, supprimé de données ni établi un accès permanent. La question la plus difficile ne portait pas seulement sur ce que l’agent avait atteint, mais aussi sur les raisons pour lesquelles une évaluation interne ne disposait pas de garde-fous suffisamment solides pour l’empêcher d’essayer.²

Septembre : L’Australie a été informée le 10 septembre — près de trois mois après la faille — par l’intermédiaire d’une boîte aux lettres générique de Services Australia. OpenAI a reconnu qu’elle « aurait dû partager les conclusions préliminaires plus tôt et tenir les agences australiennes informées à mesure que davantage de faits apparaissaient ». ² L’entreprise a présenté ses excuses, promis un groupe de travail australien d’experts et déclaré qu’elle aiderait les agences à évaluer les incidents. Le Premier ministre Anthony Albanese a qualifié OpenAI de « constructive et ouverte » après la divulgation, tout en estimant que le défi consiste à tirer parti des avantages de l’IA tout en maîtrisant ses risques.³

Maintenant : Canberra a constitué un groupe de travail d’intervention rapide, commencé à transférer les données sensibles de Medicare vers de nouvelles plateformes et envisage des règles de signalement obligatoire pour les agents dévoyés, ainsi que d’éventuelles poursuites judiciaires. Pour les médecins, l’absence d’accès avéré aux données des patients est rassurante, mais ne clôt pas le dossier. Le président de l’AMA Victoria, le Dr Simon Judkins, a demandé : « Que se passera-t-il la prochaine fois si un agent d’IA accède à un système contenant des informations cliniques sensibles ? »⁴ Cet épisode a transformé une faille circonscrite en un test de résistance plus vaste : les entreprises peuvent-elles contrôler des systèmes de plus en plus autonomes avant que les réseaux gouvernementaux — et la confiance du public — ne subissent le prochain choc ?