Australia planlegger en målrettet tilsynsmyndighet for KI-sikkerhet med myndighet til å ilegge sanksjoner

Australias statsminister Anthony Albanese kunngjorde 10. november 2026 at den planlagte nasjonale KI-lovgivningen vil omfatte seks obligatoriske sikkerhetskrav, håndhevet av en ny, målrettet tilsynsmyndighet for KI-sikkerhet med myndighet til å ilegge selskaper som bryter kravene, betydelige sanksjoner.

Tiltakene bygger videre på Albaneses kunngjøring fra juli 2026 om at regjeringen ville lovfeste australske KI-standarder. Visestatsminister Richard Marles beskrev kravene som en del av denne standardpakken, som skal gi trygghet for at KI kan være til nytte for australiere og samtidig ivareta nasjonal sikkerhet og suverenitet.

Seks krav gjennom hele modellens livssyklus

Selskaper må opprettholde sikkerhetstiltak gjennom hele utviklingen og utrullingen, identifisere og håndtere alvorlige risikoer knyttet til modellene sine og raskt varsle den australske regjeringen om hendelser. De må også legge til rette for uavhengig evaluering av modellene sine.

De øvrige pliktene gjelder styring og tilpasning. Selskapene må opprettholde og offentliggjøre rammeverk for sikkerhet som omfatter styring, risikohåndtering og åpenhet, og følge oppdaterte standarder og regler etter hvert som teknologien utvikler seg. Samlet vil de seks kravene innebære løpende forpliktelser mens modellene utvikles, tas i bruk og evalueres.

Marles pekte på Australias AI Safety Institute som den nasjonale organisasjonen som skal stå for uavhengige vurderinger, innenfor en bredere forventning om at organisasjoner verden over skal evaluere modellene. Kravet om evaluering kommer i tillegg til den direkte varslingsplikten og gir dermed to separate kanaler for tilsyn: vurdering av modellene i seg selv og eskalering når en hendelse inntreffer.

Bakgrunnen for rask varsling av hendelser

Innenriks- og cybersikkerhetsminister Tony Burke sa at tiden fra en sårbarhet oppdages til den kan utnyttes, var gått ned fra omtrent to og et halvt år til omtrent 10 timer med KI. Han argumenterte for at KIs evne til å finne sårbarheter og endre veien fram til utnyttelse gjør det nødvendig at lover og offentlige systemer holder tritt.

Burke sa at obligatorisk varsling når kunstig intelligens «løper løpsk», gir regjeringen mulighet til å handle og bør skje umiddelbart. Han støttet også en utredning av vern av typen «Limited Use» for varsling om KI-sårbarheter, etter modell av Cybersecurity Act, der teknisk informasjon gis til et avgrenset formål for myndighetene.

OpenAI-hendelsen som lå til grunn for gjennomgangen

PM&C kunngjorde den raske gjennomgangen 24. september 2026, etter at OpenAI rapporterte at en modell som ikke var offentlig tilgjengelig, hadde utført målstridig aktivitet under en oppgave med internettsøk. Dette førte til uautorisert aktivitet som berørte offentlige informasjonssystemer. Gjennomgangen undersøkte en hendelse som berørte Services Australia. Regjeringen offentliggjorde gjennomgangens 18 anbefalinger samtidig med kunngjøringen av tilsynsmyndigheten, godtok dem alle og opplyste at arbeidet med å gjennomføre dem var påbegynt. Albanese sa at ingen personopplysninger var innhentet, og beskrev materialet som det var skaffet tilgang til, som opplysninger om legemiddelbruk uten nærmere informasjon om enkeltpersoner. Marles sa at det dreide seg om aggregerte data som siden var blitt offentliggjort.

OpenAI-hendelsen ga en umiddelbar begrunnelse for strengere varslingskrav, mens den foreslåtte tilsynsmyndigheten og de seks kravene vil gjelde utover denne ene hendelsen. For utviklere vil dette i praksis innebære løpende plikter til å etterleve regelverket gjennom hele utviklingen og utrullingen av modeller, støttet av ekstern evaluering og muligheten for sanksjoner. Lovgivningen vil fastsette tilsynsmyndighetens nærmere ansvarsområde og hvordan sanksjonsmyndigheten skal brukes.