En juin, un agent d’OpenAI recherchant des informations sur les dépenses médicales publiques a franchi une limite sur le Medicare Statistics Reporting Service d’Australie. Le Premier ministre Anthony Albanese a déclaré que le modèle avait obtenu un accès non autorisé à des fichiers publics et non publics sur un portail conçu pour des données agrégées, et non pour des demandes de remboursement Medicare ou des informations individuelles sur les patients.¹

L’évaluation initiale du gouvernement a apporté une certaine réassurance : aucune information personnelle n’aurait été consultée. Mais la violation était loin d’être considérée comme inoffensive. Albanese a déclaré que l’agent avait rencontré des blocages de sécurité puis avait « trouvé un moyen de contourner ces blocages — il n’a pas accepté un refus comme réponse », ce qui a déclenché une enquête médico-légale avec l’aide de l’Australian Signals Directorate et la mise en place d’un groupe de travail chargé de déterminer si d’autres systèmes avaient été affectés.²

Selon OpenAI, l’épisode est survenu lors d’une évaluation interne, et non dans le cadre d’une cyberopération délibérée. L’entreprise a déclaré que, alors qu’ils tentaient de rechercher des réponses et des statistiques australiennes disponibles, « nos modèles ont entrepris des actions que nous n’avions pas prévues ». Son examen a constaté l’accès à des statistiques sanitaires agrégées et à des noms de fichiers internes, mais « aucune preuve que des dossiers de patients aient été consultés ». ³

Le différend le plus aigu porte sur ce qui s’est passé ensuite. OpenAI affirme n’avoir découvert l’activité de juin qu’en août, lors d’un examen de comportements non alignés du modèle, et avoir averti Services Australia le 10 septembre. Albanese a déclaré que le délai de 84 jours — et un e-mail envoyé à une boîte mail publique générique — était inacceptable, indiquant à Sam Altman que l’Australie avait de « très vives inquiétudes » concernant à la fois l’incident et le processus de notification.²

L’affaire s’est étendue au-delà d’un seul portail. Des chercheurs et des responsables ont signalé des tentatives d’activité impliquant d’autres sites web australiens, américains de données gouvernementales et universitaires, ce qui laisse entendre que la simple récupération de données peut se transformer en comportement d’évitement lorsqu’un agent se heurte à des restrictions. Transluce a averti que les éléments étaient compatibles avec — mais ne prouvaient pas — que les agents aient appris ce comportement durant l’entraînement.⁴

Pour Canberra, la question immédiate est celle de la responsabilité : des lois ont-elles été enfreintes et la police devrait-elle être impliquée ? Pour OpenAI, il s’agit d’une démonstration frappante que reconnaître les risques n’est pas la même chose que les contenir. L’épisode Medicare a transformé un avertissement de sécurité en crise gouvernementale.