Wstępny projekt Sojuszu AI dotyczący poufnych reguł raportowania incydentów z ustalonymi terminami

Fundacja Linux opublikowała 4 sierpnia 2026 r. wniosek o komentarz do ramy Wspólnego Wyboru AI (SAFE), który zobowiązywałby członków Sojuszu Otwartego AI do raportowania incydentów związanych z bezpieczeństwem AI w określonych terminach – początkowo poufnie, a następnie publicznie w ciągu 30 dni. Wniosek został opracowany przez członków sojuszu, w tym przedstawicieli firm Cisco, CrowdStrike (CRWD ), Hugging Face, NVIDIA (NVDA ), Red Hat i innych.

Wstępny projekt SAFE opisuje system poufnego raportowania incydentów: członkowie zgłaszają incydenty związane z bezpieczeństwem AI i niebezpieczne zdarzenia, dotknięte organizacje otrzymują powiadomienia, identyfikowane są powtarzające się awarie kontroli, a wyniki stają się opublikowanymi, opartymi na dowodach zaleceniami operacyjnymi. Sojusz, utworzony 27 lipca 2026 r., liczy już ponad 120 organizacji członkowskich, jak podała firma NVIDIA w swoim oświadczeniu, z Amazon (AMZN ) i Visa wśród najnowszych członków.

Czego dokładnie projekt zobowiązuje członków

Wstępny projekt SAFE idzie dalej w dwóch konkretnych punktach: określonym zestawie zdarzeń podlegających raportowaniu oraz harmonogramie powiadomień z przypisanymi datami.

Zgodnie z projektem raportowania, członek byłby zobowiązany do zgłoszenia incydentu, gdy system AI, który obsługuje, uzyskał dostęp lub zakłócił system trzeciej strony bez autoryzacji, uciekł lub ominął granice piaskownicy, sieci, tożsamości, polityki lub narzędzia w sposób wpływający na stronę trzecią, uzyskał dostęp do poufnych informacji strony trzeciej lub kontynuował próby dostępu do celu produkcyjnego po tym, jak operator podejrzewał, że działanie było poza zakresem. Projekt dodaje, że zamiar nie determinuje, czy zdarzenie podlega raportowaniu – operator, który uwierzył, że środowisko było symulowane, nadal ma obowiązek zgłoszenia.

Drabina powiadomień to miejsce, w którym znajdują się terminy: powiadomienie bezpośrednio dotkniętej organizacji jak najszybciej, klientów z wiarygodnym narażeniem w ciągu 72 godzin, poufnego wstępnego raportu SAFE w ciągu czterech dni roboczych, szerszego doradztwa dla klientów w ciągu 14 dni, gdy jest to uzasadnione, wstępnego raportu faktów opublikowanego w ciągu 30 dni, stanu naprawy opublikowanego w ciągu 90 dni oraz aktualizacji w postaci maszynowo czytelnej co tydzień, dopóki istnieją istotne nie rozwiązane ryzyka. Członkowie mieliby również obowiązek przedstawienia wstępnej analizy awarii kontroli w ciągu 30 dni – oraz mieliby obowiązek zgłaszania nie tylko potwierdzonych szkód, ale także niebezpiecznych zdarzeń.

Każdy incydent byłby przeglądany na ośmiu warstwach stosu operacyjnego, od modelu i jego instrukcji przez zabezpieczenia, narzędzia, środowisko, monitorowanie, operacje ludzkie i łańcuch dostaw. Jedna z wartości godna uwagi: dotknięta organizacja może skorygować błędy faktograficzne, ale projekt mówi, że nie powinna mieć prawa weta wobec wniosków i zaleceń wynikających z przeglądu.

dobrowolne członkostwo, wiążące warunki, brak organu egzekucyjnego

SAFE jest zorganizowany jako dobrowolne porozumienie – obowiązki raportowania wiążą członków jako warunek członkostwa, a nie jako prawo. Projekt stanowi, że uczenie się jest oddzielone od egzekwowania, że organy regulacyjne i strony dotknięte zachowują swoje prawa prawne, a terminy nie zastępują istniejących obowiązków powiadomienia w ramach koordynowanego ujawniania podatności, umów lub obowiązków prawnych wobec regulatorów i organów ścigania. Zamierzone lub karalne zachowania znalazłyby się poza ochroną kanału poufnego.

Projekt również proponuje, aby SAFE działał niezależnie, tak aby żaden pojedynczy dostawca ani segment branży nie kontrolował jego ustaleń, z udziałem rządów i organizacji standardowych jako niekontrolujących obserwatorów. Własne ramy projektu są otwarte w tej kwestii: “Zaufanie nie jest mechanizmem bezpieczeństwa. Współdzielone dowody i weryfikowalne ulepszenia to sposób, w jaki zdobywa się zaufanie.” Czy ta niezależność się utrzyma, gdy prawdziwe incydenty nazwą prawdziwych członków, jest to pytanie, na które odpowiedź ma być udzielona w trakcie okresu konsultacji – ale projekt przynajmniej umieszcza obowiązek na piśmie przed pierwszym testem.

incydent, który spowodował powstanie sprawy

Sojusz powstał osiem dni temu, 27 lipca 2026 r., jako koalicja około trzydziestu firm i fundacji open source, wyraźnie cytując ujawnienie incydentu bezpieczeństwa Hugging Face z 16 lipca 2026 r. jako wyzwalacz. Hugging Face poinformowało, że ramowy agent autonomiczny wykonał inwazję na infrastrukturę produkcyjną od końca do końca, a gdy firma próbowała przeanalizować ponad 17 000 nagranych działań atakującego, komercyjne modele API zablokowały prace kryminalistyczne – ich barierki nie mogły odróżnić respondentów incydentu od atakującego. Zespół ukończył analizę na modelu GLM-5.2 o otwartych wagach, uruchomionym na własnej infrastrukturze. Unite.AI relacjonował o uruchomieniu sojuszu i rachunku Hugging Face, gdy każdy z nich został opublikowany.

Wstępny projekt SAFE czyta się jako odpowiedź sojuszu na ten epizod: gdyby jeden z członków miał incydent bliski, a podzielono się nim zgodnie z tymi zasadami, harmonogram powiadomień i analiza awarii kontroli już by się liczyły.

co się dzieje dalej

RFC jest otwarty do przeglądu społeczności, dyskusji i wkładu przez repozytorium RFC sojuszu, opublikowany na licencji Creative Commons Attribution 4.0, z Fundacją Linux zapraszającą deweloperów, przedsiębiorstwa, badaczy i organizacje standardowe do kształtowania ramy przed jej utwardzeniem. Wstępny projekt jest wyraźnie dokumentem rozpoczynającym – Fundacja Linux opisuje go jako otwartą dyskusję, a nie ukończoną specyfikację, tak aby obowiązki raportowania i terminy wymienione powyżej pozostały proponowanymi warunkami do czasu przyjęcia ich przez grupę roboczą. architekci i organizacje standardowe do kształtowania ramy przed jej utwardzeniem. Wstępny projekt jest wyraźnie dokumentem rozpoczynającym – Fundacja Linux opisuje go jako otwartą dyskusję, a nie ukończoną specyfikację, tak aby obowiązki raportowania i terminy wymienione powyżej pozostały proponowanymi warunkami do czasu przyjęcia ich przez grupę roboczą.