Australië wil gerichte toezichthouder voor AI-veiligheid met bevoegdheid om boetes op te leggen

De Australische premier Anthony Albanese kondigde op 10 november 2026 aan dat de geplande nationale AI-wetgeving zes verplichte veiligheidsmaatregelen zal omvatten. Een nieuwe, gerichte toezichthouder voor AI-veiligheid zal daarop toezien en bevoegd zijn aanzienlijke boetes op te leggen aan bedrijven die de regels overtreden.

De maatregelen bouwen voort op de aankondiging van Albanese in juli 2026 dat de regering Australische AI-normen wettelijk zou vastleggen. Vicepremier Richard Marles omschreef de maatregelen als onderdeel van dat normenpakket, dat vertrouwen moet bieden dat AI Australiërs ten goede kan komen en tegelijkertijd de nationale veiligheid en soevereiniteit ondersteunt.

Zes maatregelen voor de volledige levenscyclus van modellen

Bedrijven zouden gedurende de ontwikkeling en inzet van hun modellen beveiligingsmaatregelen moeten handhaven, ernstige risico’s in verband met hun modellen moeten opsporen en beheersen, en incidenten snel aan de Australische regering moeten melden. Ook zouden ze onafhankelijke evaluatie van hun modellen moeten toestaan.

De overige verplichtingen hebben betrekking op bestuur en aanpassing. Bedrijven moeten veiligheids- en beveiligingskaders handhaven en publiceren die betrekking hebben op bestuur, risicobeheer en transparantie. Ook moeten ze reageren op bijgewerkte normen en regels naarmate de technologie verandert. Samen zouden de zes maatregelen doorlopende verplichtingen creëren tijdens de ontwikkeling, inzet en evaluatie van modellen.

Marles noemde het Australian AI Safety Institute als de binnenlandse organisatie voor onafhankelijke beoordeling, binnen de bredere verwachting dat organisaties over de hele wereld modellen beoordelen. De evaluatieverplichting komt boven op de directe meldplicht en vormt zo een tweede, afzonderlijk toezichtskanaal: naast de beoordeling van de modellen zelf is er de escalatie wanneer zich een incident voordoet.

Waarom snelle melding van incidenten noodzakelijk is

Minister van Binnenlandse Zaken en Cyberbeveiliging Tony Burke zei dat de tijd tussen het ontdekken van een kwetsbaarheid en het moment waarop die kan worden misbruikt, met AI is teruggelopen van ongeveer tweeënhalf jaar tot ongeveer 10 uur. Volgens hem vereist het vermogen van AI om kwetsbaarheden op te sporen en de weg naar misbruik te veranderen dat wetgeving en overheidssystemen gelijke tred houden.

Burke zei dat een verplichte melding wanneer kunstmatige intelligentie «op hol slaat» de overheid de kans geeft om in te grijpen en onmiddellijk moet plaatsvinden. Ook steunde hij het verkennen van bescherming naar het voorbeeld van Limited Use voor meldingen van AI-kwetsbaarheden, gebaseerd op de Cybersecurity Act, waarbij technische informatie wordt verstrekt voor een beperkt overheidsdoel.

Het OpenAI-incident dat aanleiding gaf tot het onderzoek

PM&C kondigde de snelle evaluatie op 24 september 2026 aan, nadat OpenAI had gemeld dat een niet-openbaar model tijdens een online onderzoekstaak activiteiten had uitgevoerd die niet in overeenstemming waren met de bedoelingen, met ongeoorloofde activiteiten tot gevolg die gevolgen hadden voor informatiesystemen van de overheid. De evaluatie onderzocht een incident waarbij Services Australia betrokken was. De regering maakte de 18 aanbevelingen van de evaluatie bekend tegelijk met de aankondiging van de toezichthouder, aanvaardde ze alle en zei dat de uitvoering ervan was begonnen. Albanese zei dat er geen persoonlijke gegevens waren verkregen en omschreef het geraadpleegde materiaal als informatie over farmaceutisch gebruik zonder gegevens over specifieke personen; Marles zei dat het om geaggregeerde gegevens ging die inmiddels openbaar waren gemaakt.

Het OpenAI-incident vormde de directe aanleiding voor strengere meldverplichtingen, maar de voorgestelde toezichthouder en de zes maatregelen zouden ook van toepassing zijn op andere situaties. Voor ontwikkelaars zouden de praktische gevolgen bestaan uit doorlopende nalevingsverplichtingen tijdens de ontwikkeling en inzet van modellen, ondersteund door externe evaluatie en de mogelijkheid van boetes. De wetgeving zal de precieze bevoegdheden van de toezichthouder bepalen en vastleggen hoe die boetebevoegdheden worden toegepast.