AI-alliansen utarbetar konfidentiella incidentrapporteringsregler med offentliga tidsfrister

Linux Foundation publicerade den 4 augusti 2026 en begäran om kommentarer för Shared AI Findings Exchange (SAFE), ett utkast till ramverk som skulle binda medlemmarna i Open Secure AI Alliance att rapportera AI-säkerhetsincidenter på fasta tidsfrister – konfidentiellt till en början, sedan offentligt inom 30 dagar. Bidragsgivare från Cisco, CrowdStrike (CRWD ), Hugging Face, NVIDIA (NVDA ), Red Hat och andra alliansmedlemmar utarbetade det ursprungliga förslaget, som sammanföll med öppnandet av Black Hat-konferensen i Las Vegas.

Det utkastade SAFE-förslaget beskriver ett konfidentiellt incidentlärandesystem: medlemmar rapporterar AI-säkerhetsincidenter och nära missar, berörda organisationer får meddelande, återkommande kontrollfel identifieras och resultaten blir publicerade, bevisbaserade driftrekommendationer. Alliansen, som lanserades den 27 juli 2026, har nu över 120 medlemsorganisationer, enligt NVIDIA i sitt eget tillkännagivande, med Amazon (AMZN ) och Visa bland de senaste att ansluta sig.

Vad utkastet faktiskt åtar medlemmarna

SAFE-utkastet går längre på två specifika punkter: en definierad uppsättning rapporterbara händelser och en meddelandeladder med datum.

Enligt utkastets rapporteringsavtal skulle en medlem vara skyldig att rapportera en incident när ett AI-system som de driver får åtkomst till eller stör ett tredjepartssystem utan auktorisering, flyr eller kringgår en sandlåda, nätverk, identitet, policy eller verktygsgräns på ett sätt som påverkar en tredje part, får åtkomst till en tredje parts konfidentiella uppgifter eller fortsätter att undersöka en produktionsmål efter att operatören misstänker att aktiviteten är utanför ramen. Utkastet tillägger att avsikt inte bestämmer om en händelse är rapporterbar – en operatör som trodde att miljön var simulerad har fortfarande skyldighet att rapportera.

Meddelandeladdern är där tidsfristerna finns: meddela den direkt berörda organisationen så snart som möjligt, kunder med trovärdig exponering inom 72 timmar, en konfidentiell initial SAFE-rapport inom fyra arbetsdagar, en bredare kundmeddelande inom 14 dagar när det är motiverat, en preliminär faktisk rapport publicerad inom 30 dagar, åtgärdsstatus publicerad inom 90 dagar och maskinläsbara uppdateringar varje vecka medan väsentliga risker förblir olösta. Medlemmar skulle också ha en preliminär kontrollfelanalys inom 30 dagar – och skulle vara skyldiga att rapportera nära missar, inte bara bekräftad skada.

<p.Varje incident skulle granskas över åtta lager av driftstacken, från modellen och dess instruktioner genom säkerhetsåtgärder, verktyg, miljö, övervakning, mänskliga operationer och leverantörskedja. En bestämmelse som är värd att notera: den berörda organisationen kan korrigera faktamässiga fel, men utkastet säger att det inte bör ha vetorätt över lärdomarna eller rekommendationerna som kommer ut från en granskning.

Frivilligt medlemskap, bindande villkor, ingen verkställighetsarm

SAFE är strukturerat som ett frivilligt avtal – rapporteringsplikterna skulle binda medlemmarna som en villkor för medlemskap, inte som lag. Utkastet anger att lärande är skilt från verkställighet, att tillsynsmyndigheter och berörda parter behåller sina rättsliga rättigheter och att tidsfristerna inte ersätter befintliga meddelandeplikter enligt samordnad sårbarhetsdisclosure-praxis, kontrakt eller rättsliga skyldigheter till tillsynsmyndigheter och brottsbekämpande myndigheter. Avsiktligt eller brottsligt beteende skulle ligga utanför det konfidentiella kanalens skydd.

Utkastet föreslår också att SAFE ska verka oberoende, så att ingen enskild leverantör eller branschsegment kontrollerar dess resultat, med deltagande från regeringar och standardiseringsorgan som icke-kontrollerande observatörer. Förslagets egen ram är tydlig på denna punkt: “Förtroende är inte en säkerhetskontroll. Delade bevis och verifierbara förbättringar är hur förtroende tjänas.” Om denna oberoende står sig när verkliga incidenter namnger verkliga medlemmar är frågan som kommentarsperioden finns till för att besvara – men utkastet lägger åtminstone skyldigheten i skrift innan den första testen anländer.

Den incident som gjorde fallet

Alliansen bildades för åtta dagar sedan, den 27 juli 2026, som en koalition av cirka tre dussin företag och öppen källkodsstiftelser, som uttryckligen citerade Hugging Faces säkerhetsincident den 16 juli 2026 som utlösaren. Hugging Face rapporterade att ett autonomt agentramverk hade genomfört en intrång i sin produktionsinfrastruktur från början till slut, och att när företaget försökte analysera mer än 17 000 inspelade angreppshandlingar blockerade kommersiella API-modeller den forensiska arbetet – deras skydd kunde inte skilja en incidentrespondent från en angripare. Teamet slutförde analysen på den öppna GLM-5.2-modellen som kördes på sin egen infrastruktur. Unite.AI täckte alliansens lansering och Hugging Faces forensiska redogörelse när var och en anlände.

SAFE-utkastet läser som alliansens svar på den episoden: om en medlems nära miss hade delats under dessa regler, skulle meddelandeladdern och kontrollfelanalysen redan vara på gång.

Vad händer härnäst

RFC är öppen för communitygranskning, diskussion och bidrag genom alliansens RFC-repo, släppt under en Creative Commons Attribution 4.0-licens, där Linux Foundation inbjuder utvecklare, företag, forskare och standardiseringsorgan att forma ramverket innan det stelnar. Utkastet är uttryckligen ett startdokument – Linux Foundation beskriver det som en öppen diskussion snarare än en färdig specifikation, så rapporteringsplikterna och tidsfristerna ovan förblir föreslagna villkor tills arbetsgruppen antar dem. Archers och standardiseringsorganisationer formas för att forma ramverket innan det stelnar. Utkastet är uttryckligen ett startdokument — Linux Foundation beskriver det som en öppen diskussion snarare än en färdig specifikation, så rapporteringsplikterna och tidsfristerna ovan förblir föreslagna villkor tills arbetsgruppen antar dem.