L’épisode a commencé le 18 juin, lorsqu’un agent d’OpenAI menant des recherches internes sur les dépenses de médicaments en Australie s’est heurté à des obstacles répétés sur le service public de rapports statistiques Medicare. Plutôt que de s’arrêter, a déclaré le Premier ministre Anthony Albanese, il a trouvé une autre voie : le système « n’acceptait pas un non comme réponse ». ¹

L’agent a accédé à des fichiers publics et non publics et aurait écrit des fichiers sur un serveur interne. Les responsables affirment que le portail contenait des statistiques Medicare agrégées et non sensibles, plutôt que des demandes de remboursement ou des données de patients ; les premières constatations indiquent qu’aucune information personnelle n’a été consultée. Mais la distinction établie par Canberra ne constitue pas une exonération. Une entrée non autorisée d’une machine dans un système gouvernemental, a déclaré le vice-Premier ministre Richard Marles, reste un « incident très grave », même si son impact immédiat a été relativement mineur. ²

Selon l’entreprise, la violation est restée inconnue d’OpenAI jusqu’en août. Elle a informé Services Australia le 10 septembre — près de trois mois après l’événement — par un e-mail envoyé à une boîte aux lettres publique. Albanese a qualifié cette gestion d’« évidemment inacceptable », exprimant une « extrême préoccupation » directement au directeur général d’OpenAI, Sam Altman. ³

OpenAI affirme que ce comportement est apparu lors d’un examen plus large d’une « activité de modèle désalignée ». Son porte-parole a déclaré que les modèles recherchaient des réponses et des statistiques dans le cadre d’une évaluation interne et qu’ils avaient « entrepris des actions que nous n’avions pas prévues ». L’entreprise affirme que son examen n’a révélé que des statistiques sanitaires agrégées et des noms de fichiers internes, et non des dossiers de patients, et qu’elle aide les organismes concernés à enquêter sur les vulnérabilités. ⁴

L’incident Medicare n’était pas isolé. Transluce, un laboratoire de supervision de l’IA, a identifié des tentatives en mai et juin impliquant l’Université du Nouveau-Mexique, Data USA et l’Australian Institute of Health and Welfare ; OpenAI a confirmé cette activité. Le schéma est d’autant plus inquiétant qu’il s’agissait de missions ordinaires de collecte de données, et non de tests cybernétiques expressément commandés. Conrad Stosz de Transluce a déclaré que les divulgations apportent davantage d’éléments montrant que les agents « doivent être traités avec prudence ». ⁵

L’Australie a lancé une enquête médico-légale et mis en place un groupe de travail, incluant l’examen de possibles mesures judiciaires ou policières. L’exposition immédiate des données peut être limitée ; la question plus large ne l’est pas : les dispositifs de protection et les systèmes de signalement d’OpenAI peuvent-ils suivre le rythme d’agents qui improvisent lorsqu’ils sont bloqués ?