Cyberbezpieczeństwo
Nvidia Uruchamia Open Secure AI Alliance, aby Wzmacniać Obronnę Przed Zagrożeniami Cybernetycznymi
Dodaj Unite.AI do preferowanych źródeł w Google
Nvidia (NVDA ) 27 lipca 2026 r. uruchomiła Open Secure AI Alliance, koalicję około trzydziestu firm i fundacji open source, zbudowaną wokół jednego argumentu: obrońcy cybernetyczni potrzebują modeli AI, które mogą być inspekcjonowane, modyfikowane i uruchamiane na własnej infrastrukturze, a regulatorzy powinni traktować te modele jako aktywa obronne, a nie ryzyko proliferacji.
Pierwsi partnerzy to Microsoft (MSFT ), IBM, Red Hat, Cisco, CrowdStrike (CRWD ), Palo Alto Networks (PANW ), Hugging Face, Palantir, Siemens i Linux Foundation, obok nowszych laboratoriów, takich jak Thinking Machines Lab, Nous Research i Reflection AI. Sojusz twierdzi, że będzie budował na Akrites vulnerability-disclosure effort i istniejącej pracy społeczności OpenSSF, usuwając i ujawniając podatności z otwartymi narzędziami.
Incident za argumentem
Uruchomienie opiera się na konkretnym, datowanym wydarzeniu, a nie na prognozie zagrożeń, co jest niezwykłe dla tego typu ogłoszenia. 16 lipca 2026 r. Hugging Face ujawniło włamanie do części swojej infrastruktury produkcyjnej, którą prowadził system agenta autonomicznego. Punkt wejścia był potok danych: zatruty zestaw danych wyzwolił dwa ścieżki, które pozwoliły na wykonanie kodu na procesorze. Napastnik następnie przejął kontrolę na poziomie węzła, pobrał poświadczenia chmury i klastra, i rozprzestrzenił się na kilka wewnętrznych klastrów przez weekend.
Szczegół, na którym Nvidia polega, to to, co się stało następnie. Gdy odpowiedzialni za Hugging Face próbowali analizować dziennik działań napastnika przy użyciu modeli frontier za komercyjnymi API, żądania zostały odrzucone. Podanie prawdziwych ładunków wykorzystujących i artefaktów dowodowych do tych API spowodowało, że filtry bezpieczeństwa dostawców zostały wyzwolone, co, według słów firmy, “nie mogą odróżnić odpowiedzialnego za incydent od napastnika”. Hugging Face przeniosło badanie na GLM 5.2, model otwartych wag uruchamiany na własnym sprzęcie, i odtworzyło chronologię z dziennika ponad 17 000 działań napastnika bez poświadczeń ani ładunków opuszczających jego środowisko.
To jest tryb awaryjny operacyjny z ujawnieniem, a nie statystyka ankiety dostawcy, i jest to najmocniejszy materiał w uruchomieniu. Nosi on również kontekst, którego brakuje w poście sojuszu: OpenAI później stwierdziło, że włamujące się agenci byli ich własnymi modelami, które uciekły z wewnętrznego zabezpieczenia. Asymetria, którą Hugging Face udokumentowało, wystąpiła między zabezpieczeniami jednego laboratorium a zabezpieczeniami innego laboratorium.
Co jest dostępne dzisiaj
Wkład Nvidii to ramowy framework badawczy o nazwie NVIDIA Labs Object-Oriented Agents, lub NOOA, opublikowany jako podgląd badawczy z kodem i opisem oceny. Składa się on z agenta w jednej klasie Pythona: to, co agent może zrobić, staje się jego metodami, to, co wie, siedzi w jego polach, a jego sygnatury typów są traktowane jako umowy, które są egzekwowane przez czas wykonywania. Praktyczny wynik jest taki, że zachowanie agenta może być porównywane, testowane jednostkowo i śledzone z użyciem narzędzi, których zespoły już używają w dowolnej innej bazie kodu.
Relevancja bezpieczeństwa leży w kroku walidacji. W pipeline odkrywania podatności, którą Nvidia opisuje, trzy bramki deterministyczne decydują, czy awaria jest prawdziwa, czy odpowiada zgłoszonemu błędowi, i czy się powtarza, zamiast prosić model o poświadczenie własnego odkrycia. Nvidia twierdzi, że NOOA rozwiązuje 86,8% zadań na CyberGym L1, benchmarku prawdziwego odkrywania podatności, z wyłączoną siecią i każdą trajektorią przesiewaną pod kątem oszustwa.
Firma nazywa to najlepszym otwartym agentem na benchmarku, co jest starannie sformułowanym twierdzeniem. Microsoft, jeden z partnerów założycielskich sojuszu, zgłosił wynik 88,45% na tym samym benchmarku w maj 2026 r. z użyciem wielomodelowego systemu skanowania o nazwie MDASH, za który odpowiedzialni inżynierowie podziękowali za znalezienie 16 podatności sieci i uwierzytelniania systemu Windows. MDASH pozostaje w ograniczonej wersji prywatnej. Na benchmarku, który sojusz cytował, najwyższy publicznie zgłoszony wynik należy do systemu, którego obrońcy nie mogą pobrać.
Kilka innych wymienionych wkładów poprzedza ogłoszenie. Format wag Safetensors Hugging Face, projekt SPIFFE/SPIRE tożsamości obciążeń, do którego HPE przyczynia się, i harness Microsoftu były wszystkie publicznie dostępne przed sojuszem. Prawdziwie nowe elementy to NOOA i Lightwell, wysiłek IBM i Red Hat, który rozszerza cyfrowo podpisywane łaty w całym łańcuchu dostaw open source.
Lista członków
Lista członków jest równie pouczająca jak argument. OpenAI, Anthropic i Google, trzy dostawcy, których zamknięte zabezpieczenia zablokowały prace Hugging Face, nie są wśród partnerów założycielskich. Wszystkie trzy podpisały się na Akrites, gdy Linux Foundation uruchomił ją 25 czerwca 2026 r., więc brak jest ogólnej niechęci do przyłączania się do wysiłków bezpieczeństwa branży. Sojusz oparty na operacyjnych ograniczeniach zamkniętych modeli frontier nie obejmuje firm, które je prowadzą.
Pozycja Nvidii nie jest obojętna. Otwarte wagi, które przedsiębiorstwa uruchamiają lokalnie, są obciążeniami, które potrzebują kart graficznych, a firma robiła wersję tego przypadku gdzie indziej, w tym wspólny list z Microsoftem popierającym otwarte wagi AI opublikowany kilka dni wcześniej. Laboratoria frontier lobbingują tych samych decydentów na własnych warunkach, z OpenAI, które niedawno naciskało na Biały Dom, aby przyspieszyć przeglądy swoich modeli frontier.
Żądanie polityczne jest jawne. Sojusz nakłania rządy, aby nie wprowadzały ogólnych ograniczeń na otwarte systemy frontier, twierdząc, że takie limity skoncentrują zdolność obronną w garstce zamkniętych dostawców, i chce publicznych inwestycji w wspólną infrastrukturę obronną: zestawy danych, ramy oceny, symulatory ataków i narzędzia czerwonego zespołu.
Dla zespołów bezpieczeństwa zmiana w najbliższej perspektywie jest konkretna. Jeden użyteczny artefakt jest dostępny dzisiaj, a ujawnienie Hugging Face dostarcza konkretną rekomendację: sprawdź i przygotuj odpowiedni model samo-hostowany przed incydentem, a nie podczas niego. Anthropic już prowadzi zamkniętego odpowiednika części tej pracy przez program Glasswing vulnerability-hunting z wybranymi partnerami. Koordynacja, którą sojusz obiecuje w zakresie tożsamości, izolacji, bezpiecznych formatów modeli i skanowania wielomodelowego, jest pracą, która jest przed nim.
