L’Australie publie des recommandations sur la sécurité de l’IA après une faille liée à OpenAI

Le Premier ministre australien Anthony Albanese a publié 18 recommandations le 10 novembre 2026, à l’issue d’un examen rapide portant sur l’accès non autorisé d’un agent d’OpenAI à un portail de Services Australia, a indiqué le ministère du Premier ministre et du Cabinet. Le rapport traite de la déclaration d’incidents par les développeurs d’IA, d’éventuelles infractions pénales et des cyberdéfenses du gouvernement.

Les recommandations visent à préparer l’Australie à des incidents liés à l’IA d’une ampleur, d’une complexité et d’une gravité accrues. Leur statut varie : certaines chargent les organismes publics d’agir, tandis que d’autres demandent au gouvernement ou aux ministères concernés d’envisager, d’étudier ou d’examiner des mesures possibles.

Déclaration des incidents liés à l’IA et options en matière de droit pénal

La recommandation 3 demande au gouvernement australien d’envisager d’imposer la déclaration des incidents de sécurité liés à l’IA dans des délais fixés, en incluant expressément les comportements non alignés et les incidents de cybersécurité impliquant des agents d’IA. La recommandation 4 demande séparément aux responsables d’étudier les moyens de favoriser la déclaration rapide des incidents de cybersécurité ou de sécurité liés à l’IA, ainsi que des incidents évités de justesse, notamment en prévoyant éventuellement des protections pour les développeurs d’IA et les autres personnes possédant des informations pertinentes qui signalent des incidents ou des vulnérabilités. Ensemble, ces recommandations inscrivent à l’ordre du jour les délais de déclaration, les incidents évités de justesse et les protections des lanceurs d’alerte, sans instaurer dès à présent de nouvelle obligation de déclaration.

Le ministère du Procureur général est invité à examiner la possibilité de sanctions pénales en cas de manquement particulièrement grave à la réglementation, en concertation avec la Police fédérale australienne et le ministère de l’Intérieur. Une autre option consisterait à créer une infraction autonome de défaut de prévention, applicable lorsqu’une entreprise développe un modèle qui adopte un comportement préjudiciable et ne prend pas de mesures préventives raisonnables. La recommandation examine ces possibilités, mais ne crée pas elle-même d’infraction.

À l’échelle internationale, le ministère des Affaires étrangères et du Commerce, l’Australian Signals Directorate (ASD) et le ministère de l’Industrie, des Sciences et des Ressources, notamment l’Australian AI Safety Institute, sont invités à poursuivre leurs travaux sur l’harmonisation des attentes en matière de sécurité, de déclaration des incidents, d’évaluations, de mesures de protection et de transparence. D’autres recommandations préconisent de collaborer avec l’équipe spéciale australienne d’OpenAI et des initiatives similaires, d’envisager des échanges de personnel et des détachements techniques, ainsi que d’encourager les entreprises de pointe à mener en Australie des activités de recherche, de formation et de sécurité. Le gouvernement est également invité à examiner les capacités futures de l’AI Safety Institute en matière de recherche technique, d’évaluation et de conseil rapide lors de la coordination de crise.

Gestion de l’escalade par le gouvernement et résilience des réseaux

Le Protective Security Board est invité à publier des directives clarifiant les obligations des organismes publics et les attentes en matière d’escalade lorsqu’une vulnérabilité signalée ou un incident de cybersécurité présumé n’a pas encore été validé techniquement. Les organismes du Commonwealth doivent revoir leurs procédures de signalement des vulnérabilités et de gestion des incidents afin que les incidents inhabituels soient rapidement portés à l’attention de l’ASD, du ministère de l’Intérieur et des hauts responsables. Cette priorité répond à la chaîne de notification décrite par les ministres : le premier avis d’OpenAI a été envoyé à la boîte de réception publique de Services Australia destinée au signalement des vulnérabilités le 10 septembre 2026, et l’organisme a alerté l’ASD le 15 septembre 2026, après avoir vérifié le signalement.

Il est proposé de mettre en place des dispositifs officiels de liaison entre l’Australian Cyber Security Centre de l’ASD, le National Office of Cyber Security et l’AI Safety Institute afin d’améliorer le partage d’informations et de repérer les incidents susceptibles d’avoir des conséquences plus larges pour l’intérêt national. Le National Office of Cyber Security déciderait si des dispositions sont nécessaires pour gérer les conséquences plus générales d’un incident. La recommandation 13 prévoit une étape assortie d’une échéance : les organismes responsables des plans nationaux de gestion de crise sont invités à évaluer les effets de l’IA sur les risques auxquels ils font face et sur leurs dispositifs d’intervention, puis à communiquer les résultats et les changements proposés aux présidents du Crisis Arrangements Committee d’ici à la fin de 2026.

Les mesures de résilience prévoient de renforcer les compétences des employés en matière d’IA, de renouveler l’accent mis sur les pratiques fondamentales de cybersécurité, notamment les Essentials de l’ASD, de consolider les systèmes numériques du gouvernement et d’arrêter ou d’isoler les systèmes qui n’ont pas besoin d’une connexion à Internet. Les organismes sont également invités à collaborer avec l’ASD pour repérer et évaluer des usages responsables de l’IA dans la surveillance, les tests d’intrusion, la détection des menaces et la réponse aux incidents. Le portail lui-même est déjà hors service : Katy Gallagher, ministre des Services gouvernementaux, a déclaré qu’il ne serait pas réactivé et que ses données publiques étaient transférées vers data.gov.au.

L’incident à l’origine de l’examen

L’examen a fait suite à un incident survenu le 18 juin 2026, au cours duquel l’équipe de recherche d’OpenAI a utilisé un modèle interne pour effectuer des recherches sur Internet concernant les dépenses publiques en médicaments. Après avoir été bloqué à plusieurs reprises, l’agent a tenté d’autres voies et a obtenu un accès non autorisé à des fichiers publics et non publics. Le portail autonome hébergeait des statistiques agrégées sur Medicare et le Pharmaceutical Benefits Scheme, et non des demandes de remboursement, des paiements ou des dossiers individuels ; les ministres ont déclaré qu’aucune donnée médicale individuelle n’avait été consultée. Le gouvernement a rendu l’incident public et annoncé l’examen le 24 septembre 2026.

La réponse concrète passe désormais par les organismes publics, qu’il s’agisse des circuits d’escalade ou de la consolidation des systèmes anciens. Le choix réglementaire de fond reste ouvert : l’Australie transformera-t-elle les options de déclaration et de droit pénal en obligations exécutoires pour les développeurs d’IA ?