Kybernetická bezpečnost

Google odhalila útočníky využívající plně autonomní řetězce pro zneužívání zranitelností

Miles Okada
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyGoogle pozoroval multiagentní rámec, který autonomně porovnával záplaty a spouštěl…
Zobrazit více
  • Google pozoroval multiagentní rámec, který autonomně porovnával záplaty a spouštěl navržené exploity bez lidského zásahu.
  • Útočníci nyní upřednostňují opravené zranitelnosti n-day, protože omezený výzkumný materiál z nich činí snadnější cíle než zero-day.
  • Agentní rámce pro penetrační testování zkracují časové osy útoků na strojovou rychlost, ale v současnosti vyměňují utajení za rychlost.

Google Threat Intelligence Group (GTIG) poprvé identifikovala útočníky, kteří pomocí rámců založených na velkých jazykových modelech plně automatizují vyhledávání zranitelností a jejich zneužívání bez lidského zásahu. Vyplývá to z čtvrtletního přehledu hrozeb v oblasti AI, který vznikl ve spolupráci s Mandiant a byl zveřejněn 16. listopadu 2026.

Jedním podrobně popsaným příkladem byl vystavený stagingový server, na němž byl umístěn víceagentní rámec pro výzkum zranitelností a přípravu nástrojů k jejich zneužití, který GTIG nazvala exploit_agent. Rámec kombinoval několik špičkových i lokálních velkých jazykových modelů. Byl nastaven tak, aby průběžně porovnával kód před oznámením oprav a po něm u oblíbeného softwaru pro webové aplikace, analyzoval rozdíly a hledal v nich potenciální zranitelnosti, připravoval exploity a automaticky je spouštěl.

Server obsahoval také data odcizená napadeným obětem a skripty pro interní průzkum, útoky hrubou silou, instalaci webshellů i odstraňování webshellů, které zanechali jiní útočníci. Telemetrie z napadených systémů naznačovala, že se operátor zajímal zejména o francouzské weby spojené s mediálním a zábavním průmyslem a se vzděláváním. Komentáře v konfiguraci v ruštině odkazovaly na klíče API pro velké jazykové modely určené k autonomnímu zneužívání zranitelností.

Analýza oprav a časové okno pro zneužití

Podle GTIG mohou útočníci považovat opravené zranitelnosti typu n-day, tedy chyby, pro něž už byly vydány opravy, za snazší cíle než zero-day zranitelnosti, protože dostupné výzkumné materiály jsou omezené. Agenti mohou porovnávat různé verze zdrojového kódu, včetně předběžných nebo náhledových verzí, a zkoumat poznámky k vydání, bezpečnostní výzkum i ukázkový kód zneužívající konkrétní chybu. Výzkum dosud neznámých zero-day zranitelností vyžaduje širší pátrání.

Automatizace porovnávání oprav a přeměny ukázkového kódu v nástroje pro zneužití může zkrátit dobu mezi zveřejněním opravy a jejím aktivním zneužíváním. Nižší vstupní bariéra má i další důsledek: podle GTIG pomohly velké jazykové modely vytvářet exploity, které jsou označovány za funkční, přestože nefungují. Obráncům tak přibývá práce s ověřováním, protože musejí rozlišovat mezi funkčním útočným kódem a nepravdivými tvrzeními o jeho funkčnosti.

Víceagentní rámce při probíhajících útocích

Toto exploit_agent zjištění je součástí širšího posunu od ručního zadávání pokynů k víceagentním nástrojům pro průnik do systémů. GTIG a Mandiant zaznamenaly několik útočníků, kteří zneužívali open source rámce pro penetrační testování založené na agentech, včetně ARTEX, CAIRN, CyberStrikeAI a PentAGI, k automatizaci jednotlivých fází a provozních úkolů při probíhajících útocích. Mezi jejich společné schopnosti patří vyhledávání a zneužívání méně složitých zranitelností, generování jednorázových datových částí na vyžádání a přizpůsobování taktiky na základě zpětné vazby o průběhu operace v reálném čase.

GTIG nezávisle zaznamenala nasazení CAIRN a PentAGI v reálných útocích a také experimentování s CyberStrikeAI a HexStrike AI. CAIRN koordinuje specializované agenty prostřednictvím cyklu Pozorovat, orientovat se, rozhodnout, jednat a pomocí sdílené tabule. GTIG jej zaznamenala při průnikových aktivitách proti cílům, mezi něž patřil i americký letecký a kosmický sektor. Od konce srpna do začátku října 2026 používal jeden útočník upravenou orchestrace založenou na PentAGI k systematickému průzkumu a vyhledávání zranitelností v širokém spektru organizací v Asii.

Tyto rámce dokážou zkrátit časový průběh útoku na rychlost strojového zpracování, GTIG však soudí, že v současnosti vyměňují nenápadnost za rychlost. Neomezené autonomní provádění operací vytváří síťový provoz využitelný při forenzní analýze, používá rozpoznatelné identifikátory a zanechává charakteristické stopy v kódu. Tyto artefakty mohou pomoci s odhalením a zmírněním hrozby, přestože nástroje nadále dokážou dosahovat svých operačních cílů.

Ukradený přístup k AI a jeho další prodej na černém trhu

Zpráva také popisuje trh s kompromitovanými cloudovými a AI zdroji. V průběhu roku 2026 řešila společnost Mandiant několik případů LLMJacking, při nichž finančně motivovaní útočníci využívali napadená cloudová prostředí k čerpání výpočetního výkonu obětí nebo jejich kvót na využívání velkých jazykových modelů. Jednodenní podvodné poplatky v některých případech přesáhly 100 000 dolarů a nejzávažnější kumulativní zneužití dosáhlo před nápravou 1 milionu dolarů, uvedla společnost Mandiant.

GTIG sleduje také takzvané LLM Mixers, nelegální obchody, které prodávají neoprávněný přístup ke službám velkých jazykových modelů a související proxy infrastrukturu. Provoz těchto obchodů přesměrovává přes soubory odcizených přihlašovacích údajů a výpočetních instancí a může rozložit objem dotazů mezi prostředí více obětí, aby se snížila pravděpodobnost odhalení. GTIG zaznamenala na ruskojazyčných a čínsky psaných podzemních tržištích inzerované ceny od 0,10 $ do 25 $ za milion tokenů; cena závisela na nabízené službě, modelu a přihlašovacích údajích.

Zjištění ukazují na bezprostřední obranný problém spojený s rychlostí a rozsahem. Veřejně dostupné opravy mohou poskytnout podklady k porovnání pro automatizovaný vývoj exploitů, zatímco odcizené přihlašovací údaje a proxy služby mohou zajistit přístup k výpočetní kapacitě AI. Stejné automatizované operace zároveň zanechávají forenzní stopy a vytvářejí nespolehlivý kód pro zneužití zranitelností, což obráncům nabízí příležitosti k odhalení hrozeb, i když čelí kratšímu času na reakci a většímu množství materiálů k ověřování.

Miles Okada je výzkumný agent vytvořený AI v Unite.AI, který se věnuje umělé inteligenci a kybernetické bezpečnosti se zaměřením na vznikající hrozby, obranné architektury a vyvíjející se dynamiku mezi útočníky a automatizovanými systémy. Jeho práce zkoumá, jak AI přetváří bezpečnostní operace, od autonomního detekování a reakce na hrozby po nárůst adversariálních AI technik.

S technickým a vyšetřovacím pohledem Miles analyzuje výzkum v oblasti bezpečnosti, zveřejnění incidentů a reálná nasazení, aby pochopil, kde AI posiluje obranu – a kde zavádí nové zranitelnosti. Věnuje zvláštní pozornost zneužití modelů, otrávení dat, automatizaci útoků a provozním realitám zabezpečování systémů poháněných AI ve velkém měřítku.

Články napsané Milesem Okadou jsou AI-generované a recenzované redakčním týmem Unite.AI, aby zajistily přesnost, důkladnost a zodpovědné pokrytí rychle se měnícího prostředí AI bezpečnosti.