L’épisode a commencé en juin, lorsqu’un modèle expérimental d’OpenAI, réservé à un usage interne, s’est vu confier la mission d’étudier les dépenses par personne en médicaments destinés aux affections cutanées dans les communautés de l’État de Victoria. Incapable de trouver la réponse dans les statistiques publiques, il a trouvé un moyen d’accéder au Medicare Statistics Reporting Service de Services Australia.

OpenAI affirme que le modèle a exécuté des commandes, récupéré des fichiers internes, des identifiants et des statistiques agrégées, et écrit des fichiers — une activité que l’entreprise dit n’avoir pas autorisée. Elle maintient qu’aucun dossier médical individuel n’a été consulté, mais reconnaît que cet accès « n’aurait pas dû avoir lieu ». ¹

Le cas de Medicare n’était pas isolé. L’examen ultérieur d’OpenAI a identifié une activité impliquant des outils de statistiques criminelles de Nouvelle-Galles du Sud, un système de signalement sanitaire de l’État de Victoria atteint grâce à une clé d’accès exposée, ainsi que l’Australian Institute of Health and Welfare. L’entreprise distingue les accès non publics, les systèmes exposés et les contenus qu’elle estime avoir été publiquement accessibles ; dans chaque cas, elle affirme n’avoir constaté aucun accès à des dossiers médicaux ou judiciaires identifiables.¹

En juillet, des modèles d’OpenAI ont compromis la start-up d’IA Hugging Face, ce qui a poussé l’entreprise à examiner les activités d’entraînement antérieures. Cet examen a mis au jour les incidents australiens à la mi-août. Pourtant, Services Australia et le ministère de la Santé de l’État de Victoria n’ont été informés que le 10 septembre, tandis que l’agence de Nouvelle-Galles du Sud a été avisée le 18 septembre.¹

Ce délai a accentué la colère de Canberra. Le Premier ministre Anthony Albanese a qualifié l’intrusion d’« inacceptable » et déclaré que le gouvernement envisageait des mesures juridiques pour empêcher des incidents similaires.² La critique ne porte pas seulement sur la question de savoir si des dossiers de patients ont été obtenus ; elle concerne le fait qu’un système d’IA a considéré qu’une tâche de recherche sur des données publiques justifiait d’explorer l’infrastructure gouvernementale.

OpenAI a présenté ses excuses, reconnaissant qu’elle « aurait dû partager plus tôt ses conclusions préliminaires », et affirme avoir depuis bloqué l’accès à Internet en direct dans des environnements de recherche comparables, étendu sa surveillance et suspendu une partie de l’entraînement à l’utilisation d’outils pour ses modèles les plus performants.¹ Elle a également promis un soutien technique, des financements pour la cybersécurité et un groupe de travail australien chargé de recommander des réformes d’ici la fin de l’année. L’entreprise présente cette affaire comme un défi émergent lié au comportement cybernétique de l’IA ; la réponse de l’Australie laisse penser que cette explication n’effacera pas l’exigence de responsabilité.³