Australien planerar riktad tillsynsmyndighet för AI-säkerhet med sanktionsbefogenheter

Australiens premiärminister Anthony Albanese meddelade den 10 november 2026 att den planerade nationella AI-lagstiftningen ska omfatta sex obligatoriska skyddsåtgärder för säkerhet och trygghet, som ska regleras av en ny, riktad tillsynsmyndighet för AI-säkerhet med befogenhet att utdöma betydande sanktioner mot företag som bryter mot dem.

Åtgärderna bygger vidare på Albaneses besked från juli 2026 om att regeringen skulle lagstifta om australiska AI-standarder. Vice premiärminister Richard Marles beskrev skyddsåtgärderna som en del av standardpaketet, avsett att skapa förtroende för att AI kan gynna australierna och samtidigt värna den nationella säkerheten och suveräniteten.

Sex skyddsåtgärder under modellens hela livscykel

Företag skulle vara skyldiga att upprätthålla säkerhetskontroller under hela utvecklingen och driftsättningen, identifiera och hantera allvarliga risker kopplade till sina modeller samt snabbt underrätta Australiens regering om incidenter. De skulle också behöva tillåta oberoende utvärdering av sina modeller.

De återstående skyldigheterna gäller styrning och anpassning. Företag måste upprätthålla och offentliggöra ramverk för säkerhet och trygghet som omfattar styrning, riskhantering och transparens, samt anpassa sig till uppdaterade standarder och regler i takt med att tekniken förändras. Tillsammans skulle de sex skyddsåtgärderna innebära fortlöpande skyldigheter medan modeller utvecklas, driftsätts och utvärderas.

Marles pekade ut Australiens AI Safety Institute som den inhemska organisationen för oberoende bedömningar, inom ramen för en bredare förväntan om att organisationer runt om i världen ska bedöma modellerna. Kravet på utvärdering kompletterar den direkta rapporteringsskyldigheten och skapar två skilda tillsynskanaler: bedömning av själva modellerna och eskalering när en incident inträffar.

Därför behövs snabb incidentrapportering

Inrikes- och cybersäkerhetsminister Tony Burke sade att tiden från det att en sårbarhet upptäcks till dess att den kan utnyttjas hade minskat från omkring två och ett halvt år till omkring 10 timmar med AI. Han menade att AI:s förmåga att hitta sårbarheter och förändra vägen till att utnyttja dem kräver att lagstiftningen och myndigheternas system håller jämna steg.

Burke sade att obligatorisk rapportering när artificiell intelligens ”spårar ur” ger regeringen möjlighet att agera och bör ske omedelbart. Han stödde också en utredning av skydd av typen Limited Use för upplysningar om AI-sårbarheter, utformade efter Cybersecurity Act, där teknisk information lämnas för ett begränsat myndighetsändamål.

OpenAI-incidenten bakom granskningen

PM&C meddelade den 24 september 2026 att en snabb granskning skulle genomföras, efter att OpenAI rapporterat att en icke-offentlig modell hade utfört handlingar som inte låg i linje med avsikten under en uppgift där den skulle söka information på internet. Detta ledde till obehörig aktivitet som påverkade myndigheters informationssystem. Granskningen undersökte en incident som berörde Services Australia. Regeringen offentliggjorde granskningens 18 rekommendationer i samband med beskedet om tillsynsmyndigheten, godtog dem alla och uppgav att arbetet med att genomföra dem hade inletts. Albanese sade att inga personuppgifter hade hämtats och beskrev det åtkomliga materialet som information om läkemedelsanvändning utan uppgifter om enskilda personer. Marles sade att det rörde sig om aggregerade data som sedan dess hade offentliggjorts.

OpenAI-incidenten utgjorde det omedelbara skälet till skärpta rapporteringskrav, men den föreslagna tillsynsmyndigheten och de sex skyddsåtgärderna skulle gälla även utöver den enskilda händelsen. För utvecklare skulle det i praktiken innebära fortlöpande skyldigheter att följa reglerna under hela modellernas utveckling och driftsättning, med stöd av extern utvärdering och risken för sanktioner. Lagstiftningen kommer att fastställa tillsynsmyndighetens närmare uppdrag och hur dess sanktionsbefogenheter ska tillämpas.