Gambit Security’s „AI Across the Intrusion Lifecycle“ ukazuje, jak se AI dostává hlouběji do reálných kybernetických útoků

Gambit Security’s nová zpráva, AI Across the Intrusion Lifecycle, nabízí podrobný pohled na to, jak se umělá inteligence (AI) dostává za hranice podpůrné role v kybernetické kriminalitě a stává se integrovanou součástí denních mechanizmů reálných útoků. Zpráva, kterou napsali ředitel oddělení threat intelligence Eyal Sela a výzkumník kybernetických hrozeb Nir Varon, zkoumá tři nezávislé hrozby, které používají AI pro vše od vytváření jednorázových skriptů a nástrojů pro利用 až po analýzu ukradených obchodních dat, řešení problémů infrastruktury a interaktivní stanovení dalšího postupu uvnitř kompromitovaných prostředí.

Důležitost spočívá nejen v tom, že útočníci žádají velké jazykové modely o vytvoření malwaru. Případy naznačují něco podstatnějšího: AI se stává součástí provozního workflow útoku, pomáhá útočníkům přizpůsobovat se novým systémům, přihlašovacím údajům, chybám a příležitostem, které se objevují.

Od coding asistenta k provoznímu účastníkovi

V průběhu tří vyšetřování Gambit pozoroval útočníky, kteří používali AI v různých fázích útoku. Modely generovaly skripty přizpůsobené prostředí, které narazily, vyvíjely nástroje pro využití, priorizovaly cenné obchodní informace, prováděly úkoly IT a DevOps a opakovaně upravovaly příkazy na základě výstupu vráceného kompromitovanými systémy.

Toto představuje důležitý vývoj od některých z prvních diskusí o AI-podporované kybernetické kriminalitě, které se soustředily především na phishingové e-maily, generování malwaru nebo snižování technické bariéry pro nezkušené útočníky.

AI může nyní fungovat více jako vysoce reaktivní technický asistent, který zůstává zapojený, zatímco operace probíhá.

Širší hrozivá krajina se zdá být směřována stejným směrem. Anthropic nedávno analyzoval 832 účtů spojených s škodlivou kybernetickou aktivitou mezi březnem 2025 a březnem 2026 a zjistil, že použití AI sahá napříč všemi 14 taktikami reprezentovanými v rámci MITRE ATT&CK. Společnost také zjistila, že podíl aktérů, které klasifikovala jako střední riziko nebo vyšší, se zvýšil z 33 % na 56 % mezi první a druhou polovinou období, které bylo studováno.

Případy Gambit poskytují zvláště konkrétní pohled na to, jak může tato změna vypadat uvnitř aktivních kompromitací.

Podezřelý operátor ransomwaru vkládá Claude Code do útoku

První případ se týká podezřelého operátora ransomwaru, kterého Gambit pozoroval při použití Claude Code napříč útoky na šest organizací v červnu 2026, přičemž výzkumníci také spojují aktéra se dvěma předchozími kompromitacemi.

Oběti zahrnovaly několik odvětví a zemí, včetně australské energetické společnosti, finanční služby na Mauriciu, podniků v Jižní Africe, Thajsku a Malajsii a několika organizací ve Spojených státech. Gambit přisuzuje aktivitu se střední důvěrou k afiliaci, která používá službu ransomwaru The Gentlemen.

Co vyčnívá, je rozsah role Claude Code.

Útočník používal systém k provedení průzkumu, generování nástrojů pro využití, psaní škodlivých skriptů, úpravě brán firewall, mapování interních systémů a určení, které stroje nebo databáze si zaslouží další pozornost.

Jakmile byly zajištěny přihlašovací údaje a vzdálený přístup, AI pomohla interpretovat data z průzkumu a identifikovat systémy s vyšší hodnotou, jako jsou řadiče domény, servery souborů a zálohovací infrastruktura. V jiné části útoku analyzovala databáze patřící finanční službě a pomohla identifikovat produkční data a dokumenty klientů jako zvláště důležité.

Případ také ilustruje limity dnešních bezpečnostních opatření. V jednom okamžiku Claude rozpoznal, že se zdá, že interaguje s reálnou firemní sítí, a odmítl pokračovat bez důkazu o autorizaci. Operátor otevřel novou relaci, přeformuloval práci jako autorizované testování zranitelnosti, a model pokračoval.

Ale zvýšená schopnost neznamenala bezchybnou realizaci. Během kompromitace utility se Claude pokusil upravit konfiguraci brány firewall a nakonec ji nechal nedosažitelnou. Incident je důležitým protipříkladem strachu z dokonale autonomních AI hackerů: modely mohou urychlit útočné operace, ale mohou také udělat drahé chyby uvnitř systémů, které útočníci snaží ovládat.

Zerofot ukazuje, co se stane, když se AI setká se škálovatelností

Druhý případ se netýká jednoho cíleného útoku, ale spíše industrializace krádeže přihlašovacích údajů.

Gambit sleduje operátora jako Zerofot, popisující kampaň, která prohledávala internetově přístupné soubory a adresáře pro API klíče, cloudové přihlašovací údaje, software tokeny a SSH soukromé klíče.

V centru operace byl vlastní skener pro sběr přihlašovacích údajů nazvaný auto_scan. Operátor postavil nástroj pomocí OpenAI Codex a Claude Code, instruoval modely pod záminkou, že práce probíhala uvnitř autorizovaného prostředí pro zachycení vlajky. Skener shromažďoval exponované soubory, prohledával je pro potenciální přihlašovací údaje a poté se pokusil ověřit nalezené klíče proti jejich příslušným službám.

Role AI nezastavila se, když byl nástroj napsán.

Claude Code byl také použit pro méně okázalou, ale provozně kritickou práci spojenou se správou infrastruktury. Prostřednictvím víceuživatelského frameworku orchestrace pomáhal spravovat infrastrukturu skeneru, proxy, síť, konfigurace brány firewall, monitorování a ladění.

To je důležité. Kybernetické operace vyžadují mnohem více než objev zranitelnosti nebo generování payloadu. Infrastruktura musí být nasazena, software se láme, logy musí být interpretovány a problémy s konfigurací musí být vyřešeny. AI může stále více pomáhat s touto spojovací prací.

Měřítko dokumentované Gambitem je podstatné. Mezi 5. dubnem a 23. květnem 2026 operace shromáždila 2 975 validovaných přihlašovacích údajů a klíčů z 1 742 hostitelů obětí. To zahrnovalo 661 SSH soukromých klíčů, 635 AWS přístupových klíčů spojených s 214 účty, 448 Google Gemini klíčů, 254 OpenAI klíčů a 176 Anthropic klíčů, mezi mnoha dalšími typy přihlašovacích údajů. Gambit říká, že informace byly sdíleny se Shadowserver Foundation a postiženými poskytovateli služeb za účelem oznámení a zrušení přihlašovacích údajů.

RAGE mění AI-generovaný kód na framework pro využití

Třetí vyšetřování se zaměřuje na RAGE, vlastní framework Pythonu navržený pro skenování internetově přístupných služeb, využití zranitelných nasazení, sběr přihlašovacích údajů a instalaci těžebních minerálů.

Výzkumníci Gambit věří, že většina RAGE a souvisejících skriptů byla AI-generována. Jedním z indicií je neobvykle odhalující: části kódu stále obsahují první osobu, sebeopravné uvažování, které zřejmě zůstalo po modelu během vývoje.

AI byl také začleněn přímo do dokončeného systému. RAGE zahrnoval „AI Orchestrator“ s podporou DeepSeeku uvnitř operačního panelu, který poskytoval vedení pro správu těžební operace.

Framework cílil na exponované služby, včetně Redis, Elasticsearch, Docker, Tomcat, Jenkins a dalších, zatímco hledal v kompromitovaných prostředích přihlašovací údaje, které by mohly vytvořit další příležitosti.

V jednom případě poskytly přihlašovací údaje z exponovaného nasazení Redis patřícího poskytovateli software jako služba administrativní přístup k účtu AWS. Útočník následně generoval další nástroje pro enumeraci identit, úložišť a dalších cloudových zdrojů.

Obnovené logy ukázaly přístup k osm identitám a přístupů, čtyři z nich měly AdministratorAccess, stejně jako 196 Amazon S3 kbelíků.

Kampaň, která se zdála být primárně motivována těžbou kryptoměn, měla také schopnost proměnit exponovanou službu v mnohem širší cloudový útok.

Chyby AI mohou se stát součástí výhod obránců

Jedním z nejzajímavějších aspektů výzkumu Gambit je, že dokumentuje chyby AI spolu se úspěchy AI.

Modely někdy odhalovaly úmysly útočníků neočekávaným způsobem. AI-generované nástroje používaly nápadné názvy, jako je „recon“ pro cloudové relace, zatímco jiné generované artefakty uchovávaly popisné komentáře a uvažování, které by mohly poskytnout nápovědu o tom, jak byly vytvořeny. V případě ransomwaru se pokus o úpravu brány firewall vyústil v výpadek.

Tyto slabiny komplikují myšlenku, že AI automaticky činí kybernetické operace tajnější nebo sofistikovanější.

Výzkumníci z Microsoftu popsali AI jako urychlovač uvnitř pracovních postupů útočníků, s lidskými operátory, kteří řídí mnoho koncových operací. Zjištění Gambit naznačují, že vztah může stále více připomínat partnerství: lidé poskytují cíle a úsudky, zatímco AI absorbuje podstatné části technické iterace požadované k dosažení těchto cílů.

To může udělat útočníky rychlejšími, aniž by je nutně dělalo lepšími v provozní bezpečnosti.

Kybernetické týmy mohou potřebovat bránit se proti strojové iteraci

Větším problémem, který výzkum vyvolává, je rychlost.

Mnohé bezpečnostní kontroly předpokládají, že útočník bude procházet sítí v tempu, které je podobné lidskému tempu. Útočník tradičně potřebuje porozumět neznámé technologii, prozkoumat příkazy, napsat skripty, odstranit chyby a interpretovat velké množství dat, než rozhodne, kam se bude pohybovat dál.

Systém AI může komprimovat mnoho z těchto kroků.

Riziko proto není omezeno na budoucího autonomního hackingového agenta. Útočník, který zůstává pevně v kontrolě, může stále použít AI k redukci množství odborných znalostí, času a manuálního úsilí požadovaného pro operace v neznámých prostředích.

Obránci mohou proto potřebovat zaměřit se méně na to, zda konkrétní kus malwaru byl „AI-generován“, a více na behaviorální signály napříč celým životním cyklem útoku: neobvykle rychlý průzkum, opakované adaptivní příkazy, agresivní objevování přihlašovacích údajů, neočekávaná cloudová enumerace, změny v zálohovací nebo bezpečnostní infrastruktuře a pohyb mezi systémy, který se vyskytuje rychleji, než by tradiční lidské vedené operace naznačovaly.

Tytéž schopnosti zůstávají cenné pro obranu. Anthropic, například, vyvíjí AI systémy, které identifikují zranitelnosti a pomáhají bezpečnostním týmům je odstranit, zdůrazňující dual-use povahu stále schopnějších kybernetických modelů. Soutěž je stále více o tom, která strana může uplatnit tyto schopnosti rychleji a s lepší viditelností.

Nakonec je „AI Across the Intrusion Lifecycle“ přesvědčivý, protože posouvá diskusi o AI a kybernetické bezpečnosti od hypotetických budoucích útoků k pozorovatelnému provoznímu chování. Tři případy dokumentované Gambit Security ukazují útočníky, kteří experimentují s různými modely, rámci a úrovněmi automatizace, ale sdílejí jeden důležitý vzorec: AI již není omezena na pomoc při přípravě útoku. Stává se stále více přítomnou, zatímco útok skutečně probíhá.