AI-alliantie ontwikkelt vertrouwelijke incidentenrapportage-regels met openbare deadlines

De Linux Foundation heeft op 4 augustus 2026 een verzoek om commentaar gepubliceerd voor de Shared AI Findings Exchange (SAFE), een ontwerprichtlijn die leden van de Open Secure AI Alliance zou verplichten om AI-beveiligingsincidenten te melden op vaste deadlines – eerst vertrouwelijk, dan openbaar binnen 30 dagen. Bijdragen van Cisco, CrowdStrike (CRWD ), Hugging Face, NVIDIA (NVDA ), Red Hat en andere alliantieleden hebben het initiële voorstel opgesteld, dat is getimed met de opening van de Black Hat-conferentie in Las Vegas.

Het ontwerpproposal van SAFE beschrijft een vertrouwelijk incident-leersysteem: leden melden AI-beveiligingsincidenten en bijna-ongelukken, getroffen organisaties worden op de hoogte gesteld, terugkerende controlefouten worden geïdentificeerd en de resultaten worden gepubliceerd, bewijsgebaseerde operationele aanbevelingen. De alliantie, die op 27 juli 2026 is opgericht, telt nu meer dan 120 leden, zoals NVIDIA in zijn eigen aankondiging, met Amazon (AMZN ) en Visa als de nieuwste leden.

Wat het ontwerp daadwerkelijk aan leden verplicht

Het SAFE-ontwerp gaat verder in twee specifieke gebieden: een gedefinieerde set van te melden gebeurtenissen en een notificatieschema met bijbehorende datums.

Volgens het rapportageakkoord van het ontwerp moet een lid een incident melden wanneer een AI-systeem dat het exploiteert toegang krijgt tot of een derde partij systeem verstoort zonder autorisatie, ontsnapt of een sandbox, netwerk, identiteit, beleid of gereedschapsgrens omzeilt op een manier die een derde partij beïnvloedt, toegang krijgt tot vertrouwelijke informatie van een derde partij of blijft proberen een productiedoel te bereiken nadat de operator vermoedt dat de activiteit buiten het bereik valt. Het ontwerp voegt eraan toe dat de intentie niet bepaalt of een gebeurtenis moet worden gerapporteerd – een operator die geloofde dat een omgeving gesimuleerd was, is nog steeds verplicht om te rapporteren.

Het notificatieschema is waar de deadlines leven: meld de direct getroffen organisatie zo snel mogelijk, klanten met geloofwaardige blootstelling binnen 72 uur, een vertrouwelijke initiële SAFE-rapport binnen vier werkdagen, een bredere klantadvies binnen 14 dagen wanneer dit gerechtvaardigd is, een voorlopige feitelijke rapport binnen 30 dagen, herstelstatus gepubliceerd binnen 90 dagen en machine-leesbare updates wekelijks terwijl materiaalrisico’s onopgelost blijven. Leden zouden ook een voorlopige controlefoutanalyse binnen 30 dagen moeten indienen – en zouden ook bijna-ongelukken moeten melden, niet alleen bevestigde schade.

Elk incident zou worden beoordeeld over acht lagen van de operationele stack, van het model en zijn instructies tot en met beveiligingsmaatregelen, gereedschappen, omgeving, bewaking, menselijke operaties en toeleveringsketen. Een bepaling die het vermelden waard is: de getroffen organisatie mag feitelijke fouten corrigeren, maar het ontwerp zegt dat het geen vetorecht zou moeten hebben over de lessen of aanbevelingen die uit een beoordeling voortkomen.

Voluntair lidmaatschap, bindende voorwaarden, geen handhavingsarm

SAFE is opgezet als een vrijwillig akkoord – de rapportageverplichtingen zouden leden binden als voorwaarde voor lidmaatschap, niet als wet. Het ontwerp stelt dat leren losstaat van handhaving, dat toezichthouders en getroffen partijen hun wettelijke rechten behouden en dat de tijdslijnen de bestaande notificatieverplichtingen onder gecoördineerde kwetsbaarheidsdisclosuur, contracten of wettelijke verplichtingen aan toezichthouders en rechtshandhavingsinstanties niet vervangen. Opzettelijk of strafrechtelijk gedrag zou buiten de bescherming van de vertrouwelijke kanaal vallen.

Het ontwerp stelt ook voor dat SAFE onafhankelijk zou moeten opereren, zodat geen enkele leverancier of industriesegment de bevindingen controleert, met de deelname van overheids- en normeringsinstanties als niet-controlling waarnemers. De formulering van het voorstel is bot op dit punt: “Vertrouwen is geen beveiligingscontrole. Gedeelde bewijs en verifieerbare verbeteringen zijn hoe vertrouwen wordt verdiend.” Of die onafhankelijkheid standhoudt wanneer echte incidenten echte leden noemen, is de vraag die de commentaarperiode bestaat om te beantwoorden – maar het ontwerp legt tenminste de verplichting schriftelijk vast voordat de eerste test arriveert.

Het incident dat de zaak maakte

De alliantie werd acht dagen geleden opgericht, op 27 juli 2026, als een coalitie van ongeveer drie dozijn bedrijven en open source-stichtingen, die expliciet verwees naar de beveiligingsincidentmelding van Hugging Face van 16 juli 2026 als trigger. Hugging Face meldde dat een autonoom agentkader een intrusie had uitgevoerd in zijn productie-infrastructuur van einde tot einde, en dat toen het bedrijf probeerde om meer dan 17.000 opgenomen aanvallersacties te analyseren, commerciële API-modellen de forensische werkzaamheden blokkeerden – hun beveiligingscontroles konden niet onderscheiden tussen een incidentreactor en een aanvaller. Het team voltooide de analyse op het open-gewicht GLM-5.2-model dat op zijn eigen infrastructuur draaide. Unite.AI heeft de lancering van de alliantie en de forensische rekening van Hugging Face behandeld toen elk werd vrijgegeven.

Het SAFE-ontwerp lijkt op het antwoord van de alliantie op dat incident: als een near miss van een van de leden onder deze regels zou zijn gedeeld, zou het notificatieschema en de controlefoutanalyse al in werking zijn getreden.

Wat er vervolgens gebeurt

Het verzoek om commentaar is open voor communitybeoordeling, discussie en bijdrage via het RFC-repository van de alliantie, dat is vrijgegeven onder een Creative Commons Attribution 4.0-licentie, waarbij de Linux Foundation ontwikkelaars, ondernemingen, onderzoekers en normeringsinstanties uitnodigt om het kader te helpen vormgeven voordat het verhard wordt. Het ontwerp is expliciet een startdocument – de Linux Foundation beschrijft het als een open discussie en niet als een voltooide specificatie, dus de rapportageverplichtingen en deadlines zoals hierboven vermeld, blijven voorgestelde voorwaarden totdat de werkgroep ze aanneemt.