Austrálie plánuje specializovaného regulátora bezpečnosti AI s pravomocí ukládat sankce

Australský premiér Anthony Albanese 10. listopadu 2026 oznámil, že připravovaná celostátní legislativa v oblasti AI bude zahrnovat šest povinných bezpečnostních opatření, na jejichž dodržování bude dohlížet nový specializovaný regulátor bezpečnosti AI s pravomocí ukládat významné sankce společnostem, které tato opatření poruší.

Tato opatření navazují na Albaneseho oznámení z července 2026, že vláda přijme legislativu stanovující australské standardy pro AI. Vicepremiér Richard Marles popsal tato opatření jako součást balíčku těchto standardů, jehož cílem je posílit důvěru v to, že AI může Australanům prospívat a zároveň podporovat národní bezpečnost a suverenitu.

Šest opatření pro celý životní cyklus modelu

Společnosti by musely po celou dobu vývoje a nasazování udržovat bezpečnostní opatření, identifikovat a řídit závažná rizika spojená se svými modely a neprodleně informovat australskou vládu o incidentech. Musely by také umožnit nezávislé hodnocení svých modelů.

Zbývající povinnosti se týkají správy a přizpůsobování. Společnosti musí udržovat a zveřejňovat rámce pro bezpečnost a zabezpečení, které zahrnují správu, řízení rizik a transparentnost, a reagovat na aktualizované standardy a pravidla s tím, jak se technologie mění. Všech šest opatření by dohromady znamenalo průběžné povinnosti při vývoji, nasazování a hodnocení modelů.

Marles označil australský Institut pro bezpečnost AI za domácí organizaci, která bude provádět nezávislé hodnocení, a zároveň uvedl širší očekávání, že modely budou posuzovat organizace po celém světě. Požadavek na hodnocení doplňuje přímou povinnost hlásit incidenty a vytváří dva odlišné kanály dohledu: posuzování samotných modelů a eskalaci v případě incidentu.

Proč je důležité rychle hlásit incidenty

Ministr vnitra a kybernetické bezpečnosti Tony Burke uvedl, že díky AI se doba mezi odhalením zranitelnosti a možností jejího zneužití zkrátila z přibližně dva a půl roku na zhruba 10 hodin. Podle něj schopnost AI vyhledávat zranitelnosti a měnit cestu k jejich zneužití vyžaduje, aby s tím držely krok zákony i vládní systémy.

Burke uvedl, že povinné hlášení případů, kdy se umělá inteligence „vymkne kontrole“, dává vládě možnost zasáhnout a mělo by proběhnout okamžitě. Podpořil také zvážení ochrany typu Limited Use pro oznamování zranitelností v AI, vytvořené podle vzoru Cybersecurity Act, na jehož základě se technické informace poskytují pro omezený účel vlády.

Incident OpenAI, který vedl k přezkumu

PM&C oznámilo rychlé přezkoumání 24. září 2026 poté, co OpenAI nahlásila, že neveřejný model během úkolu spočívajícího ve vyhledávání informací na internetu vykonával činnost, která nebyla v souladu se zamýšlenými cíli, a v důsledku toho došlo k neoprávněné aktivitě zasahující do vládních informačních systémů. Přezkum se zabýval incidentem, který se dotkl Services Australia. Vláda zveřejnila 18 doporučení z přezkumu současně s oznámením o regulátorovi, všechna přijala a uvedla, že práce na jejich zavádění již začaly. Albanese řekl, že nebyly získány žádné osobní údaje, a zpřístupněný materiál popsal jako informace o užívání léčiv bez konkrétních údajů o jednotlivcích; Marles uvedl, že šlo o souhrnné údaje, které byly mezitím zveřejněny.

Incident OpenAI bezprostředně ukázal, proč je třeba posílit povinnost hlásit události, navrhovaný regulátor a šest bezpečnostních opatření by se však vztahovaly i na jiné případy. Pro vývojáře by to v praxi znamenalo průběžné povinnosti dodržovat předpisy během vývoje i nasazování modelů, podpořené externím hodnocením a možností uložení sankcí. Podrobné pravomoci regulátora i způsob uplatňování jeho sankčních pravomocí stanoví legislativa.