Myslitelé

Umělá inteligence hledá zranitelnosti závratnou rychlostí. Jejich oprava je ale úplně jiný příběh.

Eylam Milner
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyAI nyní odhaluje zranitelnosti zero-day rychleji, než je obránci dokážou opravit.
Zobrazit více
  • AI nyní odhaluje zranitelnosti zero-day rychleji, než je obránci dokážou opravit.
  • Více než polovina záplat vytvořených AI nedokázala chybu opravit nebo zavedla nové.
  • Spoléhání pouze na zveřejněné CVE ponechává obránce reagovat podle časového plánu útočníků.

V kyberbezpečnosti se objevil nový problém a paradoxně ho vyvolala naše schopnost nacházet problémy rychleji než kdy dřív.

Špičkové modely umělé inteligence jsou stále lepší v odhalování a zneužívání zranitelností softwaru. Chyby, které mohly zůstat skryté celé roky, se tak nyní odhalují rychlostí, jakou by si ještě před několika měsíci bylo téměř nemožné představit.

Odhalování zranitelností se však průmyslu daří mnohem lépe než jejich oprava. Podívejme se na nejnovější výzkum společnosti Anthropic. Otevřený model GLM-5.3 společnosti Zhipu AI úspěšně vytvořil funkční exploity od začátku do konce v 50 z 410 pokusů v benchmarku ExploitBench, zatímco Claude Mythos Preview to dokázal v 56 případech.

Rozdíl mezi omezeným špičkovým modelem a modelem, jehož váhy jsou veřejně dostupné, je tedy mimořádně malý. Schopnosti, které dříve vyžadovaly vysoce specializované bezpečnostní výzkumníky, se stávají dostupnými mnohem širšímu okruhu lidí. A software, který všichni používáme, se mezitím nestal o nic méně zranitelným. Vstoupili jsme do éry, kdy může být nalezení zero-day zranitelnosti rychlejší než její oprava.

Nedávné zranitelnosti PHP2Shell jsou ukázkovým příkladem. Podle výzkumu společností Wiz, Calif a týmu Codex pro zabezpečení společnosti OpenAI pomohla špičková umělá inteligence jedinému výzkumníkovi odhalit kritické chyby v jádře PHP přibližně za týden. Tyto zranitelnosti postihly běhové prostředí, na němž stojí značná část webu, včetně aplikací vytvořených na platformách WordPress, Drupal a Joomla.

Bezpečnostním týmům to přináší naléhavou otázku: Co se stane, když útočníci dokážou odhalovat zranitelnosti rychleji, než je obránci stíhají opravovat?

Postupy pro správu zranitelností na tohle nebyly připravené

Správa zranitelností se po léta řídila známým postupem. Zranitelnost se odhalí, někdo ji nahlásí, přidělí se jí identifikátor CVE, zpřístupní se oprava, skenery ji označí, bezpečnostní týmy vyhodnotí riziko, určí prioritu opravy a nasadí ji. Není to dokonalý proces, ale celý bezpečnostní ekosystém je vybudován právě kolem něj.

Skutečný problém však spočívá v tom, že celý proces do značné míry závisí na tom, zda o zranitelnosti vůbec víme. Tradiční skenery dobře zjišťují, které známé zranitelnosti se ve vašem prostředí vyskytují. Co ale ty, které dosud nebyly zveřejněny? Ty, které nemají identifikátor CVE, bezpečnostní upozornění ani opravu?

Případ zveřejnění zranitelností PHP2Shell ukazuje, jak zranitelnými nás tento model ponechává. Obě kritické zranitelnosti, CVE-2026-109618 a CVE-2026-109619, získaly hodnocení CVSS 9.2 a souvisely s chybami zabezpečení paměti přímo v PHP. Výzkumníci předvedli vzdálené spuštění kódu i zpřístupnění obsahu paměti v široce používaných aplikacích, včetně WordPressu, Drupalu a Joomly. Zranitelné mohly být i aplikace s jinak zabezpečeným kódem, protože slabina se nacházela v samotném základním běhovém prostředí.

Výmluvné bylo i načasování. Po prvním veřejném varování bezpečnostní tým PHP urychlil vydávání oprav. V době, kdy byly opravy k dispozici, už byly zaznamenány první pokusy o útok.

A PHP nebylo jediným problémem toho dne. Při samostatném útoku na dodavatelský řetězec softwaru byla kompromitována verze 1.107.0 nástroje LiteLLM, oblíbené open-source brány pro velké jazykové modely. Útočníci vložili do zveřejněného balíčku Pythonu program kradoucí informace a trojského koně pro vzdálený přístup, zatímco zdrojový repozitář projektu zůstal čistý. Tým, který by kontroloval pouze zdrojový kód, by škodlivý obsah vůbec nezachytil.

Tyto incidenty ukazují, že zranitelnosti mohou po léta přetrvávat hluboko v důvěryhodných softwarových komponentách a že škodlivý kód může proniknout také prostřednictvím závislostí, které organizace běžně instalují. Ani jeden z těchto případů přitom nemusí mít původ ve vlastním kódu aplikace.

Ukazují také, že skener může hlásit, že je vše v pořádku, i když v softwaru, na němž vaše aplikace závisejí, stále zůstávají závažné zranitelnosti. Ještě donedávna vyžadovalo rozsáhlé odhalování skrytých chyb značné odborné znalosti a prostředky, ale špičková umělá inteligence tuto situaci mění.

Najít chybu je ta snadná část. Co teď?

Schopnost umělé inteligence odhalovat zero-day zranitelnosti vzbuzuje velké nadšení. Oprávněně, protože pokrok je mimořádný. Myslím si ale, že se příliš mluví o tom, kolik zranitelností umělá inteligence dokáže najít, a zdaleka ne dost o tom, co následuje.

Samotné nalezení zranitelnosti vás neochrání. Nejprve musíte ověřit, že je skutečná, protože zjištění vytvořená umělou inteligencí nejsou automaticky správná a exploit, který vypadá přesvědčivě, nemusí být vždy reprodukovatelný. Poté musíte zjistit, kterých verzí se zranitelnost týká, zda ji lze skutečně zneužít a jaké riziko představuje.

Pak ji musíte opravit — a právě tady začíná být situace obzvlášť zajímavá. Výzkum společnosti 1Password analyzoval 6 080 oprav vytvořených umělou inteligencí a zjistil, že 53,9 % z nich neodstranilo původní zranitelnost, zavedlo novou bezpečnostní chybu, nebo obojí.

V této studii měla více než polovina vygenerovaných oprav vlastní bezpečnostní problém. Tyto výsledky samozřejmě odrážejí konkrétní podmínky testování. Ukazují však něco, co každý zkušený inženýr ví: napsat kód, který vypadá jako oprava, a prokázat, že problém skutečně řeší, jsou dvě velmi odlišné věci.

A ani když je oprava správná, ještě nemáte hotovo. Naruší stávající funkčnost? Bude fungovat se starší verzí knihovny, na které vaše aplikace závisí? Lze ji nasadit, aniž by bylo nutné provést upgrade, který způsobí tucet dalších problémů?

Co se stane, když ji potřebujete zavést ve stovkách aplikací, týmů a prostředí? Oprava, která funguje v testovacím prostředí, ale nikdy se nedostane do produkčního provozu, nikoho nechrání. Právě tento zásadní rozpor musí podle mě bezpečnostní odvětví řešit.

Zranitelnosti odhalujeme neuvěřitelně rychleji, zatímco většina práce potřebné k tomu, aby se tato odhalení proměnila ve skutečnou ochranu, zůstává bolestně pomalá. A tato propast se sama o sobě stává bezpečnostním rizikem.

Jak tedy tuto propast skutečně překlenout?

Nemyslím si, že řešením je říkat už tak přetíženým bezpečnostním týmům, aby pracovaly usilovněji nebo zpracovávaly více upozornění. Musíme znovu promyslet, jak má vypadat účinná správa zranitelností, když odhalování chyb už není největším úzkým hrdlem.

Začal bych na těchto čtyřech místech.

1. Nepovažujte databázi CVE za úplný přehled

CVE a skenery zranitelností jsou nezbytné, ale zaznamenávají to, co známe – nikoli vše, co ve skutečnosti existuje. Bezpečnostní týmy by měly začít uvažovat i o zranitelnostech, které nebyly veřejně zveřejněny, a kombinovat tradiční skenování s proaktivním výzkumem, analýzou kódu, zpravodajstvím o hrozbách a důkladnou znalostí softwarových komponent, na nichž jejich organizace závisí.

Zdroje, jako je Katalog známých zneužívaných zranitelností CISA, jsou užitečné při určování priorit známých hrozeb, nemohou vám však říct o zranitelnostech, které dosud nikdo nezveřejnil. PHP2Shell ukázal, že závažné zranitelnosti mohou v základním softwaru existovat celé roky, než jsou odhaleny. Když špičková umělá inteligence dokáže tyto chyby odhalit během několika dní, spoléhání výhradně na zveřejněná bezpečnostní upozornění znamená, že obránci budou vždy reagovat podle časového plánu někoho jiného.

2. Uvědomte si, že více nálezů ≠ lepší zabezpečení

Umělá inteligence dokáže vytvořit obrovské množství potenciálních nálezů, ale to neznamená, že každý z nich stojí za to, aby kvůli němu inženýrský tým přerušil všechnu ostatní práci a začal ho prověřovat.

Skutečná hodnota spočívá v tom, že víte, které zranitelnosti jsou skutečné, lze je zneužít a jsou relevantní pro vaše prostředí. Dokážete problém reprodukovat? Kterých verzí se týká? Existuje reálná cesta k útoku? Jaký je skutečný dopad na podnikání?

Bez těchto souvislostí organizacím hrozí, že budou určovat priority zranitelností pouze podle skóre závažnosti a přehlédnou, jak by útočníci ve skutečnosti mohli získat přístup k citlivým systémům a přihlašovacím údajům.

3. Zajistěte, aby bylo možné opravu nasadit, nejen aby byla technicky správná

Tohle je jedna z nejvíce podceňovaných výzev při odstraňování zranitelností. Podniky nefungují v dokonale čistém prostředí, kde lze přes noc aktualizovat každou závislost na nejnovější verzi. Používají starší aplikace a propojené systémy, musí splňovat požadavky na kompatibilitu a pracují s verzemi softwaru, které nemohou jednoduše vyměnit.

Oprava, která vyžaduje, aby organizace přestavěla polovinu své infrastruktury, proto není příliš užitečná. Potřebujeme lepší způsoby, jak bezpečnostní opravy zpětně přenášet do starších verzí, zachovat kompatibilitu, omezit zbytečnou plochu pro útok a dodávat aktualizace prostřednictvím nástrojů a pracovních postupů, které týmy už používají.

Pokyny NIST pro podnikovou správu oprav zdůrazňují, jak důležité je aktualizace identifikovat, určit jejich priority, instalovat a ověřovat. Výzvou nyní je celý tento proces zrychlit natolik, aby držel krok s odhalováním zranitelností pomocí umělé inteligence, protože i ta nejlepší oprava na světě je k ničemu, pokud ji nikdo nedokáže nasadit.

4. Měřte, jak rychle jste skutečně chráněni

Pokud umělá inteligence dnes odhalí kritickou zranitelnost, jak dlouho trvá její ověření, vytvoření funkční opravy, její otestování a nasazení do produkčního provozu?

Reakce na PHP2Shell nabízí užitečný srovnávací ukazatel. Ve společnosti Echo jsme dodali opravené balíčky PHP hned poté, co byly k dispozici upstreamové opravy, a aktualizované obrazy pro podporované verze PHP jsme znovu sestavili ještě téhož odpoledne.

Bezpečnostní týmy by měly měřit celý cyklus nápravy, od odhalení a ověření přes vývoj opravy a testování kompatibility až po nasazení. Měly by vědět, jak rychle dokážou znovu sestavit dotčený software, zda dokážou identifikovat všechny aplikace používající zranitelnou závislost a kolik ručních zásahů je potřeba k zajištění ochrany.

S tím, jak nejpokročilejší umělá inteligence zrychluje a zpřístupňuje odhalování zranitelností, bude se doba mezi jejich odhalením a možným zneužitím dál zkracovat. Nemůžeme předpokládat, že tradiční cykly zveřejňování zranitelností a vydávání oprav budou držet krok. Další éru správy zranitelností určí to, kdo dokáže tyto objevy proměnit ve spolehlivé opravy připravené k nasazení dřív, než útočníci dostanou příležitost jednat.

Eylam Milner je spoluzakladatelem a technickým ředitelem společnosti Echo, která dodává software zabezpečený proti nejpokročilejším hrozbám napříč dodavatelským řetězcem podnikového softwaru. Předtím zastával stejnou funkci ve společnosti Argon Security, kterou koupila společnost Aqua.