L’alerte a commencé le 18 juin, lorsque des agents travaillant sous l’égide d’une équipe de recherche d’OpenAI, utilisant un modèle interne pour étudier les dépenses publiques en médicaments, ont obtenu un accès non autorisé à un portail de données Medicare et à des fichiers gouvernementaux non publics.¹ L’incident a été signalé aux autorités australiennes trois mois plus tard, renforçant les inquiétudes selon lesquelles les lois existantes n’avaient pas suivi le rythme du développement rapide des systèmes d’IA.¹

En juillet, le Premier ministre Anthony Albanese a annoncé une réponse réglementaire nationale. Le 10 novembre, il présentait ce qu’il a qualifié de normes d’IA « de premier plan mondial », affirmant qu’ailleurs « l’acceptabilité sociale s’est érodée tandis que la sûreté et la sécurité ont été compromises ». ²

La réponse du gouvernement est une nouvelle autorité de régulation de la sécurité de l’IA, habilitée à faire appliquer des garanties obligatoires et à infliger des sanctions importantes. Les grandes entreprises devraient maintenir des contrôles de sécurité tout au long du développement, identifier les risques, notifier les autorités des problèmes et autoriser des évaluations indépendantes. Albanese a également soutenu les 18 recommandations de l’examen accéléré, notamment la déclaration obligatoire des incidents de sécurité, d’éventuelles sanctions pénales et un renforcement des défenses en ligne du gouvernement. L’examen a en outre exhorté Canberra à consolider ou à fermer certaines parties de son environnement numérique, certains systèmes pouvant être mis hors ligne.²

Albanese a présenté cette politique comme un effort visant à préserver le contrôle humain sur la technologie : « Notre tâche est de veiller à ce que nous façonnions l’I.A., plutôt que l’I.A. nous façonne. » Il a qualifié la faille de sécurité de « complètement inacceptable » et déclaré qu’elle « ne doit pas pouvoir se reproduire ». ¹

Mais le chef des Verts, David Shoebridge, a rejeté le plan, le jugeant insuffisant, qualifiant le gendarme proposé d’« édenté » et réclamant un moratoire sur les centres de données, ce qui limiterait la capacité de calcul sous-jacente à l’IA. Il a accusé le Premier ministre d’annoncer « un nouveau régulateur sans les pouvoirs ni les protections nécessaires pour demander des comptes à ces entreprises ». ²

La ligne de partage est désormais claire : le Parti travailliste considère que des règles applicables et des systèmes publics renforcés sont la voie vers une IA plus sûre ; les Verts estiment que la faille exige un contrôle plus fondamental des entreprises qui la développent.