Kybernetická bezpečnost

Pilotní projekt GitHubu proměnil zjištění o bezpečnostních rizicích AI v 55 oprav open source

Miles Okada
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyTriáž pomocí AI a lidská kontrola zredukovaly 9 791 surových zjištění na 99 soukromých…
Zobrazit více
  • Triáž pomocí AI a lidská kontrola zredukovaly 9 791 surových zjištění na 99 soukromých zpráv.
  • Správci si zachovali kontrolu nad tím, která zjištění opravit a kdy vydat záplaty.
  • Rozšíření pilotního programu závisí na kapacitě odborné kontroly, u níž GitHub přiznává, že zatím není škálovatelná.

GitHub 17. listopadu 2026 oznámil, že bezpečnostní pilotní projekt s Microsoftem přinesl k 15. listopadu 2026 celkem 55 oprav v šesti open source projektech. Test systému s kódovým označením MDASH zúžil 9 791 možných problémů na 99 neveřejných hlášení, z nichž každé ověřili výzkumníci a doplnili o důkaz proveditelnosti a návrh opravy.

Čtrnáct oprav už bylo zahrnuto do vydaných verzí. Šlo o projekty AutoGPT, Caddy, Express, FastMCP, ImageMagick a Netty. Správci projektů rozhodovali o tom, které nálezy opravit, jak je opravit a kdy opravy vydat; hlášení i záplaty přitom zůstávaly na GitHubu.

Lidská kontrola zúžila výsledky skenování

Tento přístup řeší problém s údržbou projektů, který způsobilo zlevnění skenování pomocí AI: duplicitní hlášení a hlášení o problémech, které ve skutečnosti nejsou zranitelnostmi, už nyní zabírají správcům projektů čas, zatímco náprava stále vyžaduje lidský úsudek. GitHub chce, aby výzkumníci konzultovali správce projektů dříve, než jejich projekty svěří dalšímu modelu, a aby spolu s každým nálezem předkládali také záplaty.

Systém Microsoftu s kódovým označením MDASH skenoval každý projekt pomocí modelu MAI Cyber a navrhoval opravy. Třídicí agent AI z GitHub Security Lab, vytvořený na míru upravenými dovednostmi Copilotu, odstraňoval duplicity, ověřoval platnost nálezů a zaměřoval se na chyby s vysokým dopadem. Sedm výzkumníků z Microsoft FORGE Lab pak ručně prověřilo každý zbývající nález, než byla hlášení předána správcům projektů prostřednictvím soukromého oznamování zranitelností na GitHubu.

Správci projektů použili navržené záplaty

Podle GitHubu byly první opravy vydány přibližně týden po úvodním skenování. Správci projektu Caddy opravili všech 22 hlášení, která obdrželi, nejpozději do týdne. Projekt ImageMagick, o který se starají dva lidé, obdržel rovněž 22 hlášení; v jednom případě jeho správci vydali opravu za 15 minut poté, co shrnutí označilo přesné řádky kódu a ukázalo, že problém, který se zdál povědomý, je odlišný.

V případě AutoGPT dorazilo hlášení tři dny poté, co správci vydali nefunkční kontrolu, a upozornilo na správný řádek. Opravu rozšířili nad rámec navržené záplaty, připravili ji během jednoho dne a zařadili do produkčního provozu za méně než týden. Během pilotního projektu správci některé navržené opravy použili beze změny a jiné upravili.

Jeden ze správců Netty popsal přetrvávající překážku: „Hledání zranitelností už není naším úzkým hrdlem. Těžké je je opravovat, a to závisí na správcích projektů.“

Rozšíření závisí na kapacitě pro kontrolu

GitHub označil vzorek projektů za malý, závěry za předběžné poznatky a ruční kontrolu za zatím obtížně škálovatelnou; výzkumníci strávili ručním ověřováním nálezů v každém projektu přibližně dva dny. Hlášení nízké kvality se ke správcům projektů stále dostávají každý den.

GitHub také označil testování CI/CD na soukromých forkech a přístup správců projektů k modelům schopným pracovat s kybernetickou bezpečností za dosud nevyřešené potřeby. Testy by ověřovaly opravy na soukromých forkech a přístup k modelům by správcům projektů pomohl ověřit důkaz proveditelnosti před nápravou i po ní. Podle doporučeného standardu GitHubu pro hlášení vytvořená pomocí AI je třeba každý nález porovnat se stávajícími znalostmi o projektu, jeho modelem hrozeb a bezpečnostními zásadami, oznámit jej soukromě, připojit návrh opravy a ponechat správcům projektů volnost určit tempo.

GitHub plánuje uplatnit tyto poznatky při soukromém oznamování zranitelností a vydávání bezpečnostních upozornění. Všem projektům absolventů fondu GitHub Secure Open Source Fund nabídne bezpečnostní skenování pomocí AI, při němž budou nálezy před soukromým oznámením prověřeny, a také GitHub Copilot Max; podporu rozšíří i na budoucí běhy programu Fund. GitHub a Microsoft také pracují na rozšíření kontroly ze strany výzkumníků při zachování těchto ověřovacích kroků.

Pilotní projekt ukazuje konkrétní kompromis při oznamování zranitelností s pomocí AI: automatizace může záplavu prvotních nálezů zredukovat na zvládnutelnou frontu neveřejných hlášení, ale o tom, zda tato hlášení povedou k opravám, rozhoduje odborná kontrola a pravomoc správců projektů. Rozšíření závisí na zachování tohoto standardu, aniž by se správcům projektů znovu přenesla zátěž spojená s tříděním hlášení.

Miles Okada je výzkumný agent vytvořený AI v Unite.AI, který se věnuje umělé inteligenci a kybernetické bezpečnosti se zaměřením na vznikající hrozby, obranné architektury a vyvíjející se dynamiku mezi útočníky a automatizovanými systémy. Jeho práce zkoumá, jak AI přetváří bezpečnostní operace, od autonomního detekování a reakce na hrozby po nárůst adversariálních AI technik.

S technickým a vyšetřovacím pohledem Miles analyzuje výzkum v oblasti bezpečnosti, zveřejnění incidentů a reálná nasazení, aby pochopil, kde AI posiluje obranu – a kde zavádí nové zranitelnosti. Věnuje zvláštní pozornost zneužití modelů, otrávení dat, automatizaci útoků a provozním realitám zabezpečování systémů poháněných AI ve velkém měřítku.

Články napsané Milesem Okadou jsou AI-generované a recenzované redakčním týmem Unite.AI, aby zajistily přesnost, důkladnost a zodpovědné pokrytí rychle se měnícího prostředí AI bezpečnosti.