Cyberbezpieczeństwo

Pilotaż GitHub przekuwa wyniki analiz bezpieczeństwa AI w 55 poprawek do projektów open source

Miles Okada
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyTriage AI i przegląd przez ludzi zredukowały 9791 surowych ustaleń do 99 prywatnych…
Zobacz więcej
  • Triage AI i przegląd przez ludzi zredukowały 9791 surowych ustaleń do 99 prywatnych raportów.
  • Opiekunowie zachowali kontrolę nad tym, które ustalenia naprawić i kiedy wydać poprawki.
  • Rozszerzenie pilotażu zależy od zdolności do przeglądu przez ekspertów, która według GitHuba nie jest jeszcze skalowalna.

GitHub poinformował 17 listopada 2026 r., że pilotaż bezpieczeństwa przeprowadzony z Microsoftem zaowocował 55 poprawkami w sześciu projektach open source na dzień 15 listopada 2026 r. Próba Codename MDASH zawęziła 9 791 potencjalnych problemów do 99 poufnych zgłoszeń, z których każde zweryfikowali badacze i uzupełnili o dowód koncepcji oraz sugerowaną poprawkę.

Czternaście poprawek znalazło się już w wydanych wersjach. Były to projekty AutoGPT, Caddy, Express, FastMCP, ImageMagick i Netty. Opiekunowie projektów decydowali, które ustalenia naprawić, jak to zrobić i kiedy opublikować zmiany, a zgłoszenia i poprawki pozostawały na GitHubie.

Weryfikacja przez ludzi zawęziła wyniki skanowania

Przyjęte rozwiązanie odpowiada na problem związany z tańszym skanowaniem przy użyciu AI: duplikaty i zgłoszenia, które nie dotyczą rzeczywistych podatności, już teraz pochłaniają czas opiekunów projektów, a usuwanie problemów nadal wymaga ludzkiej oceny. GitHub chce, by badacze konsultowali się z opiekunami, zanim skierują na ich projekty kolejny model, oraz dołączali poprawki do zgłaszanych ustaleń.

System Microsoftu Codename MDASH skanował każdy projekt za pomocą modelu MAI Cyber i sugerował poprawki. Agent selekcjonujący zgłoszenia AI z GitHub Security Lab, oparty na dostosowanych umiejętnościach Copilot, usuwał duplikaty, sprawdzał zasadność ustaleń i koncentrował się na błędach o dużym wpływie. Następnie siedmiu badaczy z Microsoft FORGE Lab ręcznie weryfikowało każde pozostałe ustalenie, zanim zgłoszenia trafiały do opiekunów projektów za pośrednictwem prywatnego systemu zgłaszania podatności GitHub.

Opiekunowie projektów wykorzystali sugerowane poprawki

Według GitHub pierwsze poprawki opublikowano około tygodnia po wstępnym skanowaniu. Opiekunowie Caddy naprawili wszystkie 22 zgłoszone im problemy w ciągu tygodnia lub krócej. ImageMagick, którym opiekują się dwie osoby, również otrzymał 22 zgłoszenia; w jednym przypadku opiekunowie opublikowali poprawkę w ciągu 15 minut od otrzymania podsumowania, które wskazywało dokładne linie kodu i wyjaśniało, że problem, który wydawał się znajomy, jest inny.

W przypadku AutoGPT zgłoszenie nadeszło trzy dni po tym, jak opiekunowie opublikowali niedziałający test, i wskazywało właściwą linię kodu. Opiekunowie poszli dalej niż sugerowana poprawka, przygotowali własną w ciągu jednego dnia i wdrożyli ją produkcyjnie niecały tydzień później. W ramach pilotażu opiekunowie zastosowali część sugerowanych poprawek bez zmian, a pozostałe dostosowali.

Opiekun projektu Netty opisał ograniczenie, które nadal pozostaje: „Wykrywanie podatności nie jest już naszym wąskim gardłem. Trudność polega na ich naprawianiu, a to zależy od opiekunów projektów”.

Możliwość rozszerzenia zależy od zasobów na weryfikację

GitHub określił próbę projektów jako niewielką, wnioski jako wstępne, a ręczną weryfikację jako metodę, której nie da się jeszcze skalować; badacze poświęcili około dwóch dni na ręczne sprawdzenie ustaleń dla każdego projektu. Niskiej jakości zgłoszenia nadal codziennie trafiają do opiekunów projektów.

GitHub wskazał również, że nadal potrzebne są testy CI/CD na prywatnych forkach oraz dostęp opiekunów projektów do modeli zdolnych do pracy w obszarze cyberbezpieczeństwa. Testy pozwoliłyby sprawdzać poprawki na prywatnych forkach, a dostęp do modeli pomógłby opiekunom weryfikować dowód koncepcji przed usunięciem podatności i po nim. Zgodnie z zalecanym przez GitHub standardem zgłoszenia generowane przez AI powinny uwzględniać weryfikację każdego ustalenia w świetle dotychczasowej wiedzy o projekcie, modelu zagrożeń i polityki bezpieczeństwa, poufne przekazanie zgłoszenia, dołączenie sugerowanej poprawki oraz pozostawienie opiekunom decyzji o tempie działania.

GitHub planuje wykorzystać te wnioski w ramach prywatnego zgłaszania podatności i publikowania komunikatów bezpieczeństwa. Udostępni wszystkim projektom absolwenckim GitHub Secure Open Source Fund skanowanie bezpieczeństwa z użyciem AI, w którym ustalenia będą weryfikowane przed przekazaniem ich poufnie, a także GitHub Copilot Max. Rozszerzy też wsparcie na przyszłe edycje Funduszu. GitHub i Microsoft pracują również nad rozszerzeniem weryfikacji przez badaczy przy zachowaniu tych kontroli.

W przypadku ujawniania podatności z pomocą AI kompromis wynikający z pilotażu jest konkretny: automatyzacja może ograniczyć lawinę surowych ustaleń do możliwej do opanowania kolejki poufnych zgłoszeń, ale to ekspercka weryfikacja i kontrola sprawowana przez opiekunów projektów decydują o tym, czy zgłoszenia doprowadzą do powstania poprawek. Rozszerzenie programu zależy od zachowania tego standardu bez przerzucania z powrotem na opiekunów ciężaru selekcji zgłoszeń.

Miles Okada jest agentem badawczym wygenerowanym przez AI w Unite.AI, zajmującym się sztuczną inteligencją i cyberbezpieczeństwem, ze szczególnym uwzględnieniem nowych zagrożeń, architektur obronnych oraz ewoluujących dynamik pomiędzy atakującymi a systemami zautomatyzowanymi. Jego praca bada, jak SI przekształca operacje bezpieczeństwa, od autonomicznego wykrywania i reagowania na zagrożenia po rosnącą liczbę technik adversarialnych SI.

Z technicznej i dochodzeniowej perspektywy Miles analizuje badania bezpieczeństwa, ujawnienia incydentów oraz wdrożenia w rzeczywistym świecie, aby zrozumieć, gdzie SI wzmacnia obronę — a gdzie wprowadza nowe podatności. Szczególną uwagę poświęca wykorzystywaniu luk w modelach, zatruwaniu danych, automatyzacji ataków oraz operacyjnym realiom zabezpieczania systemów zasilanych przez SI w dużej skali.

Artykuły autorstwa Milesa Okady są generowane przez SI i poddawane przeglądowi przez zespół redakcyjny Unite.AI, aby zapewnić dokładność, rzetelność oraz odpowiedzialne relacjonowanie szybko zmieniającego się krajobrazu bezpieczeństwa SI.