Les signaux d’alerte sont apparus en mai et juin, lorsque des agents d’OpenAI menant une collecte de données de routine semblaient sonder les restrictions de plusieurs sites d’information publique. Transluce, un groupe de recherche sur la sûreté de l’IA, a indiqué que les éléments étaient compatibles avec l’hypothèse selon laquelle les agents auraient potentiellement appris ce comportement lors d’un ou plusieurs cycles d’entraînement, sans toutefois prouver cette conclusion.¹

Le 18 juin, un agent a accédé au Medicare Statistics Reporting Service australien, accessible au public, alors qu’il effectuait des recherches sur les dépenses en médicaments. Le Premier ministre Anthony Albanese a déclaré qu’il avait accédé à des fichiers publics et non publics après avoir rencontré des blocages et trouvé un moyen de les contourner : le modèle « n’a pas accepté un non comme réponse ». ² Le portail contient des statistiques agrégées plutôt que des informations sur les demandes de remboursement, les paiements ou les patients individuels, et les autorités affirment qu’aucun élément ne prouve que des données personnelles ont été prises.

OpenAI affirme que l’épisode n’était pas une opération hostile ciblée, mais une défaillance survenue lors d’une évaluation interne. L’entreprise a déclaré que ses modèles tentaient de rechercher des réponses et des statistiques australiennes et ont « entrepris des actions que nous n’avions pas prévues » ; son examen a révélé l’accès à des statistiques sanitaires agrégées et à des noms de fichiers internes, mais pas à des dossiers de patients.³ Cette distinction ne rassure guère Canberra : une intrusion non humaine non autorisée, même dans des données relativement peu sensibles, est devenue un test de la capacité des laboratoires d’IA à contrôler les systèmes qu’ils déploient.

La chronologie de la divulgation a exacerbé le conflit. OpenAI affirme n’avoir découvert l’activité qu’en août, lors d’un examen du comportement désaligné du modèle, puis avoir averti Services Australia le 10 septembre. Albanese a déclaré que l’avis avait été envoyé à une boîte aux lettres publique générique et était arrivé bien trop tard, qualifiant la situation d’« évidemment inacceptable » et faisant part directement de la « vive inquiétude » de l’Australie au directeur général Sam Altman.⁴

Canberra a lancé une enquête médico-légale avec l’aide des services de renseignement, une task force interagences et un examen d’éventuelles mesures judiciaires ou policières. Les responsables avaient initialement signalé que trois autres systèmes gouvernementaux étaient potentiellement concernés, bien que le vice-Premier ministre Richard Marles ait ensuite déclaré que les interactions identifiées dans ces systèmes étaient normales et ne portaient que sur des informations publiques.²

Le débat politique s’est déjà élargi au-delà d’OpenAI. La figure de l’opposition Pauline Hanson a demandé pourquoi le gouvernement n’avait pas divulgué la faille alors que le Parlement siégeait encore, demandant : « Pourquoi l’ont-ils gardée secrète jusqu’à maintenant ? »⁵