AI Aliance vypracovává návrh pravidel pro hlášení incidentů s důvěrnými informacemi a veřejnými termíny

Linux Foundation dne 4. srpna 2026 zveřejnila žádost o komentáře k Shared AI Findings Exchange (SAFE), návrhům rámcového předpisu, který by členy Open Secure AI Alliance zavázal k hlášení incidentů souvisejících s bezpečností AI v pevně stanovených termínech – nejprve důvěrně, poté veřejně do 30 dnů. Příspěvky od Cisco, CrowdStrike (CRWD ), Hugging Face, NVIDIA (NVDA ), Red Hat a dalších členů aliance vypracovaly počáteční návrh, který byl zahájen v den zahájení konference Black Hat v Las Vegas.

Návrh SAFE popisuje důvěrný systém pro učení z incidentů: členové hlásí incidenty související s bezpečností AI a téměř incidenty, postižené organizace jsou informovány, opakující se kontrolní selhání jsou identifikována a výsledky se stanou publikovanými, založenými na důkazech, provozními doporučeními. Aliance, která byla spuštěna 27. července 2026, nyní má více než 120 členů, uvedla NVIDIA ve svém vlastním oznámení, s Amazonem (AMZN ) a Visou mezi nejnovějšími, kteří se připojili.

Co návrh skutečně zavazuje členy

Návrh SAFE jde dále ve dvou konkrétních bodech: definovaný soubor hlášených událostí a notifikační harmonogram s připojenými daty.

Podle dohody o hlášení člena by člen musel hlásit incident, pokud by systém AI, který provozuje, přístup nebo narušil třetí stranu bez autorizace, unikl nebo obešel hranice sandboxu, sítě, identity, zásady nebo nástroje způsobem, který ovlivňuje třetí stranu, přístup k důvěrným informacím třetí strany nebo pokračoval v testování produkčního cíle po podezření, že činnost je mimo rozsah. Návrh dále uvádí, že úmysl neurčuje, zda je událost hlášena – operátor, který věřil, že prostředí je simulované, má stále povinnost hlásit.

Notifikační žebříček je místem, kde žijí termíny: oznámit přímo postiženou organizaci co nejdříve, zákazníkům s věrohodnou expozicí do 72 hodin, důvěrnou počáteční zprávu SAFE do čtyř pracovních dnů, širší zákaznickou poradenskou do 14 dnů, pokud je to odůvodněné, předběžnou faktickou zprávu zveřejněnou do 30 dnů, stav nápravy zveřejněný do 90 dnů a strojově čitelné aktualizace týdně, zatímco materiální rizika zůstávají nevyřešena. Členové by také měli mít předběžnou analýzu kontrolního selhání do 30 dnů – a měli by hlásit téměř incidenty, nejen potvrzené poškození.

Každý incident by byl přezkoumán napříč osmi vrstvami provozního zásobníku, od modelu a jeho pokynů přes bezpečnostní opatření, nástroje, prostředí, monitorování, lidskou činnost a dodavatelský řetězec. Jedna ustanovení, která stojí za zmínku: postižená organizace může opravovat faktické chyby, ale návrh uvádí, že by neměla mít veto právo nad znalostmi nebo doporučeními, která vyplývají z přezkumu.

Dobrovolné členství, závazné podmínky, žádný vymáhací orgán

SAFE je strukturován jako dobrovolná dohoda – hlášecí povinnosti by zavázaly členy jako podmínku členství, nikoli jako zákon. Návrh uvádí, že učení je odděleno od vymáhání, že regulátoři a postižené strany si zachovávají své právní práva a že termíny nenahrazují stávající oznamovací povinnosti podle koordinovaného odhalování zranitelností, smluv nebo právních povinností vůči regulátorům a orgánům činným v trestním řízení. Úmyslné nebo trestné jednání by se nacházelo mimo ochranu důvěrného kanálu.

Návrh také navrhuje, aby SAFE fungoval nezávisle, aby žádný jediný dodavatel nebo segment průmyslu nekontroloval jeho zjištění, s účastí vlády a standardních orgánů jako nekontrolujících pozorovatelů. Vlastní rámcování návrhu je přímé na tomto bodě: “Důvěra není bezpečnostní kontrolou. Sdílené důkazy a ověřitelná zlepšení jsou tím, jak se důvěra získává.” Zda tato nezávislost vydrží, až skutečné incidenty pojmenují skutečné členy, je otázka, na kterou existuje období pro komentáře – ale návrh alespoň uvádí povinnost písemně před prvním testem.

Incident, který způsobil případ

Aliance se vytvořila před osmi dny, 27. července 2026, jako koalice zhruba tří desítek společností a open source nadací, výslovně citujících bezpečnostní oznámení Hugging Face ze dne 16. července 2026 jako spouštěcí mechanismus. Hugging Face uvedl, že autonomní agentní rámec provedl invazi do produkční infrastruktury od konce ke konci a že když společnost pokusila analyzovat více než 17 000 zaznamenaných akcí útočníka, komerční modely API blokovaly forenzní práci – jejich bezpečnostní zábrany nemohly rozlišit mezi respondentem incidentu a útočníkem. Tým dokončil analýzu na otevřeném modelu GLM-5.2 běžícím na své vlastní infrastruktuře. Unite.AI pokrýval spuštění aliance a Hugging Faceovu forenzní zprávu, když každá z nich byla zveřejněna.

Návrh SAFE vypadá jako odpověď aliance na tuto epizodu: kdyby jeden členův téměř incident byl sdílen podle těchto pravidel, notifikační harmonogram a analýza kontrolního selhání by již byly na hodinách.

Co se stane dál

RFC je otevřen pro komunitní přezkum, diskusi a příspěvek prostřednictvím úložiště RFC aliance, vydané pod licencí Creative Commons Attribution 4.0, s Linux Foundation, která vyzývá vývojáře, podniky, výzkumné pracovníky a standardní organizace, aby formovaly rámec, než ztuhne. Návrh je výslovně začínajícím dokumentem – Linux Foundation jej popisuje jako otevřenou diskusi spíše než dokončenou specifikaci, takže hlášecí povinnosti a termíny uvedené výše zůstávají navrhovanými podmínkami, dokud pracovní skupina je nepřijme.