Zabezpečení AI potřebuje druhý názor

AI píše software rychleji, než ho dokážeme zabezpečit. Stíháte s ní držet krok?

Než dočtete tuto větu, vývojáři a jejich agenti AI odešlou několik tisíc změn kódu. Touto dobou loni by jich bylo přibližně 150.

Za poslední rok se tempo tvorby softwaru pomocí AI vyšplhalo na ohromující úroveň. GitHub zaznamenal jen v září 2026 7,38 miliardy změn kódu, tedy více než pětinásobek celkového počtu za předchozí rok. Dopady tohoto prudkého nárůstu na bezpečnost jsou zásadní. Každá z těchto změn obsahuje kód, kterému by měl někdo rozumět, udržovat ho a zabezpečit. Cloud Security Alliance zjistila, že vývojáři z firem žebříčku Fortune 50, kteří využívají AI, odevzdávají kód třikrát až čtyřikrát častěji než jejich kolegové, zatímco počet bezpečnostních nálezů za měsíc u nich vzrostl přibližně desetinásobně.

Teď se zamysleme nad tím, kdo se s tímto nárůstem musí vypořádat. Tým CISO je stejně velký jako před rokem, ale nevyřízených úkolů přibylo. Počet nahlášených zranitelností roste, měsíční počet oprav klesá a počet nevyřešených kritických zranitelností se zvyšuje. Není divu, že Gartner uvádí, že vyhoření CISO se stává kritickým provozním rizikem.

Pokušení sáhnout po nejnovějším modelu

Když je číslo tak vysoké, člověk má tendenci usilovat o ještě vyšší: více nálezů, širší pokrytí, více skenování. Je to ale jako vylévat vodu z potápějící se lodi a chtít větší kbelík, když ve skutečnosti potřebujete najít díru. Úroveň bezpečnostního programu se neměří tím, kolik toho odhalí. Rozhoduje, kolik z odhalených problémů je skutečných a kolik nejzávažnějších nálezů se skutečně podaří opravit.

Nejmodernější modely AI jsou díky pravděpodobnostnímu uvažování mimořádně schopné odhalovat nové způsoby zneužití a dosud nezařazené chyby. Výsledky se však liší. Podle výzkumu společnosti Checkmarx se při pěti spuštěních stejného skenování nad stejným kódem shoduje přibližně jen třetina nálezů.

Právě proto je analýza založená na pravidlech stále důležitá. Je méně flexibilní než nejmodernější AI, ale osvědčenou logiku uplatňuje pokaždé stejně, takže týmy mohou výsledkům důvěřovat a ověřit si je. AI odhalí to, co pravidla přehlédnou, například známé slabiny v neobvyklé podobě nebo chyby, které lze zneužít teprve tehdy, když se vzájemně ovlivní různé části kódu. Kombinace AI a analýzy založené na pravidlech odhalí více podstatných problémů a zároveň sníží počet falešných poplachů.

Tohle není argument proti AI. Je to argument pro to, že zabezpečení potřebuje druhý názor. Ať už zvolíte jakýkoli nástroj, posuzujte ho podle tří otázek.

První otázka: důvěryhodnost

Když skener oznámí, že je něco špatně, stojí za to tomu věnovat čas?

Důvěryhodnost znamená, že se na nález můžete spolehnout. Nereálný nález stojí vývojáře celé odpoledne a bezpečnostní tým připravuje o další část důvěryhodnosti. Ve velkém měřítku právě falešně pozitivní nálezy způsobují, že je týmy přestanou brát vážně. Upozornění pak jen „křičí: vlk!“ a splývají s okolním šumem.

Právě zde záleží na konzistentnosti. Deterministická analýza vrací pro stejný kód pokaždé stejnou odpověď, což posiluje důvěru a umožňuje výsledky auditovat.

Druhá otázka: přesnost

Odhalujete úplný soubor nejzávažnějších problémů?

Důvěryhodnost vám říká, zda nález stojí za váš čas, ale neprozradí, co skener přehlédl. Používáme pracovní metriku známou z datové vědy, které se říká skóre F1. Skóre F1 hodnotí výkon na stupnici od 1 do 0 na základě dvou faktorů:

• Přesnost: podíl nahlášených nálezů, které jsou skutečné. Vysoká přesnost znamená méně falešných poplachů.
• Úplnost: podíl skutečných zranitelností, které skener opravdu odhalí. Vysoká úplnost znamená, že jen máloco unikne pozornosti.

Skener může působit přesně, když označí téměř nic, nebo důkladně, když označí všechno; v obou případech ale může dosahovat nízkého skóre F1. Průměr v oboru je přibližně 0,20. Na tomto problému usilovně pracujeme a dosáhli jsme výsledků s přesností třikrát až čtyřikrát vyšší než u běžného skeneru.

Vyšší přesnost usnadňuje vývojářům všechny navazující kroky. Váš tým tráví méně času ověřováním a více času opravami.

Třetí otázka: návratnost investic (ROI)

Jak co nejlépe využít investice a zdroje?

Tato otázka se při pilotním nasazení nejčastěji opomíjí a v produkčním provozu na ni bývá nejbolestivější hledat odpověď.

Nejmodernější modely účtují podle počtu tokenů a tokeny se spotřebovávají bez ohledu na to, zda skenování něco odhalí. Skenování repozitáře s milionem řádků stojí při aktuálně zveřejněných cenách více než tisíc dolarů. Rozdíly v počtu tokenů, které jednotlivé modely spotřebují, jsou navíc značné; cena se liší podle toho, který model si vyberete a kolik uvažování potřebuje k dokončení vašeho úkolu.

Vynásobte si tyto náklady počtem všech změn kódu, žádostí o začlenění změn a repozitářů v podniku. Společnost Uber, která ročně vynakládá 3,4 miliardy dolarů na výzkum a vývoj, podle zpráv vyčerpala celý rozpočet na AI pro rok 2026 během několika měsíců od zavedení nástrojů pro programování s AI.

Říkáme tomu daň za tokeny. Je to jako jet pro nákup ve Ferrari: platíte za výkon, který na tu cestu nepotřebujete. Natvrdo zadané přihlašovací údaje a SQL injection jsou předvídatelné vzorce, které deterministická analýza spolehlivě odhalí.

Zabezpečení aplikací se musí vyvíjet

Právě na tomto principu je založena architektura Checkmarx Fusion. Nástroje založené na pravidlech stanovují referenční pravdu opakovatelně a s nižšími náklady než analýza založená na tokenech. Nejmodernější modely se zaměřují na to, co pravidla nedokážou předvídat: nové vzorce, složitou logiku a zneužitelnost v kontextu. Vrstva pro analýzu nálezů pak výsledky slučuje do jediné důvěryhodné sady.

Deterministický přístup přináší jistotu. Umělá inteligence rozšiřuje záběr. Pokrytí i důvěryhodnost rostou zároveň. Ve srovnání s LLM, který pracuje samostatně, dosahujeme až čtyřnásobné věrnosti výsledků, dvojnásobné až čtyřnásobné přesnosti a přibližně třetinových nákladů.

Odhalení problémů je teprve začátek. Stejný princip platí i pro prevenci. Uveďme si příklad. Když vývojářům pomůžeme přímo při tvorbě kódu v IDE, kde ho píší, můžeme problémům zabránit ještě předtím, než vzniknou. A pokud jde o zranitelnosti, které přece jen proniknou dál, proč vývojářům neposkytnout opravy připravené ke sloučení pro ty nejzávažnější z nich? Právě tyto problémy řešíme. Naším cílem je postupně snižovat stávající backlog a dosáhnout co nejrychlejšího účinku s co nejmenším úsilím.

Kód už běží. Dokážete držet krok?

Umělá inteligence darovala útočníkům rychlost. Tuto mezeru nevyřeší další nástroj. Jde o rozhodnutí, jak bude celá vaše organizace vyvíjet a zabezpečovat software. Kód, který se píše dnes, bude řídit vaše podnikání po mnoho dalších let. Bezpečnostní lídry už nezajímá, o kolik rychleji jim umělá inteligence pomáhá vyvíjet software. Podstatné je, zda vaše bezpečnostní programy dokážou držet krok s tím, co umělá inteligence vytváří.

Nenechte se tedy odvést od podstaty čísly. U každého programu si položte tři otázky: Mohu důvěřovat tomu, co odhalí? Odhalí dostatek toho, na čem záleží? Je reálné ho zavést v celé organizaci? Spojení deterministické přesnosti s uvažováním nejmodernějších modelů vám dává nejlepší šanci odpovědět na všechny tři otázky kladně.

Vývoj softwaru nezpomaluje. Naším úkolem je nyní zmenšit mezeru v řízení rizik: rozdíl mezi rychlostí, s jakou software vzniká, a rychlostí, s jakou jsou rizika odhalována a napravována.