AI proti AI: Nová realita kybernetické bezpečnosti

Kybernetické útoky poháněné umělou inteligencí (AI) již dorazily a potvrzují, co bylo dříve pouze teoretickým, ale očekávaným rizikem, a signalizují novou éru v oblasti hrozeb. S tím, že agenti AI mohou nyní spustit komplexní, koncové kampaně za několik minut, mohou kyberzločinci identifikovat a využít zranitelnosti podniků rychlostí strojů. Pravidla zapojení se změnily: včerejší kybernetická obrana již nemůže držet krok s dnešním AI poháněným útokem.

Jak AI zvyšuje kybernetické hrozby, podniky potřebují nasadit své vlastní AI poháněné obranné schopnosti, aby držely krok z hlediska rychlosti, rozsahu a přesnosti. Prozatím kybernetičtí protivníci stále následují známé taktiky, techniky a postupy (TTP), ale AI urychluje a vylepšuje jejich herní plán. Navíc, AI modely podniků samy o sobě jsou také novým cílem prostřednictvím otrávení modelů a jazykově řízeného sociálního inženýrství, což vyžaduje, aby kybernetické týmy řádně zabezpečily své AI schopnosti. Proto by bezpečnost měla být jádrem větší AI strategie organizace.

Co odlišuje kybernetické útoky poháněné AI?

V digitálním světě, který je již nasycen téměř neustálými kybernetickými pokusy o proniknutí, byla snížena hranice pro vstup pro škodlivého aktéra, což zvýšilo nejen objem, ale také složitost útoků. Útoky poháněné AI mohou nyní využít AI nebo strojové učení (ML) k automatizaci, urychlení nebo vylepšení kterékoli fáze životního cyklu útoku, od průzkumu a shromažďování informací až po využívání a odstranění citlivých dat.

Spoléhání se výhradně na stávající bezpečnostní procesy a technologie bez nasazení stejné pokročilé technologie, kterou využívají protivníci, poskytuje protivníkovi výhodu, která je téměř nemožné škálovat bez obranného AI. Organizace jsou již zahlceny monitorováním své podnikové činnosti z tradičních hrozeb. Útoky poháněné AI budou zhoršovat únavu z výstrah. To vyžaduje evoluci z lidsky řízených procesů na hybridní kybernetickou lidskou a digitální pracovní sílu.

Mapovat každý digitální aktivum

V dnešním světě je pochopení potenciálních vstupních bodů napříč podnikovým prostředím základní podmínkou, ale stále je to pro mnoho velkých podniků nedosažitelné. Kromě digitálních systémů a aktiv je zapotřebí komplexní mapování všech identit a přístupů v rámci organizace. Digitální identita, která spojuje fyzické a behaviorální charakteristiky s jednotlivcem, je dobře pochopena s existujícími kontrolami potřebnými pro řízení digitálního přístupu.

Jedná se však o pochopení podnikového prostředí nehumánních identit (NHIs), které je nezbytné pro zabezpečení digitálních aktiv. Realizace potenciální hodnoty AI v rámci organizace znamená poskytnutí AI agentům přístupu a povolení k autonomnímu dokončení obchodního procesu. Stejně jako cloudová prostředí předchozí bezpečnostní éry, dnešní agentic-poháněné pracovní postupy spouští a zastavují NHIs v rozsahu, což vyžaduje pokročilou schopnost řídit a sledovat, kde v prostředí fungují a jak plní své úkoly nebo role.

Podniky by měly rozšířit řízení identit napříč životním cyklem agentovy identity a monitorovat agentovy akce, stejně jako monitorují lidský přístup dnes pro insiderové riziko nebo kompromitaci účtů ze strany protivníků. Jakmile agenticové schopnosti získají více autonomie a podnikové práce, je pochopení jejich identifikační stopy a vzoru přístupu kritické pro implementaci přístupových a monitorovacích kontrol nezbytných pro jejich ochranu a ochranu podniku před zneužitím.

Zabezpečit AI modely

Schopnosti AI mají slib osvobození od efektivity a produktivity, ale také potenciál být otočeny proti organizacím. Zavedení AI do každé oblasti podnikových operací již není „hezké“, ale nutností pro úspěch v dnešním konkurenčním prostředí. Proto je zabezpečené nasazení AI nezbytnou součástí pro bezpečné dosažení plného podnikového potenciálu a výsledků.

Přechod na AI poháněnou kybernetickou obranu je stále v průběhu, zatímco samy AI modely se staly cílem. Protivníci mohou pokusit otrávit data, která krmit tyto modely, a manipulovat je, aby provedly neúmyslné akce nebo dokonce odhalily citlivé informace.

Protivníkové útoky proti AI mohou pocházet z různých forem, jako jsou útoky na otrávení, útoky na vstřikování podnětů a další. Aby organizace řádně chránily AI před potenciální manipulací, měly by využít filozofii agentury pro kybernetickou infrastrukturu a bezpečnost (CISA) Secure by Design. To začíná s daty, která krmit modely během jejich výcviku. Zabezpečení vstupů brzy ve fázi vývoje vytváří základ pro spolehlivé výstupy během nasazení.

Pochopení vstupů, které jsou použity pro vývoj modelů a schopností, je možné prostřednictvím úmyslného řízení dat a kontrolu přístupu k modelům samým. Kritické kontroly, které umožňují ověřit požadované výstupy, zahrnují kontrolu ztráty dat (DLP); implementaci zásad a bezpečnostních pravidel; ukotvení pomocí ověřitelných zdrojů a přísné schvalovací kontroly pro vysoké dopady, auditovatelnost a nepřetržité testování, včetně penetračních testů modelů, aby je učinily odolnými.

Integrovat AI do bezpečnostních operací

Až dosud, aplikování AI na kybernetickou obranu bylo taktické, s mnoha organizacemi, které přidaly AI k legacy, lidsky orientovaným procesům, místo aby strategicky předefinovaly, jak postavit AI centrické procesy. To je jako pokus o umístění V8 motoru na kolo. Další evoluce AI-poháněné schopnosti bude spočívat v návrhu procesů od základu, s agentic AI a automatizací, která je v návrhu nativní. Osvědčené bezpečnostní operace metody a procesy, jako je detekce hrozeb, lov hrozeb a detekční inženýrství, jsou stále kritickými položkami, které jsou nezbytné pro organizaci v AI éře. Transformace stávajících bezpečnostních procesů na umožnění AI rozšíření může vytvořit silný základ pro budoucí AI-poháněné bezpečnostní operace (SOC).

Navíc, automatizace není nový koncept, který je jedinečný pro vznik AI; bezpečnostní pracovní postupy a procesy byly automatizovány po mnoho let, s pokročilými organizacemi, které mají velmi sofistikované orchestrace a automatizační schopnosti. AI však vylepšuje stávající pravidla založená automatizaci a rozvíjí ji dále, umožňující dynamické, adaptivní, kontextově bohaté automatizované pracovní postupy, které mohou pomoci řešit rychlost a agilitu, požadované pro tyto vznikající AI rizika.

Co dál?

Bezpečnost by měla pokračovat v tom, aby byla na vrcholu mysli pro podnikání a IT, aby udržely své kritické aktiva a uživatele v bezpečí před zlým využitím. Bezpečnostní AI podle designu je nezbytností, vzhledem k rychlosti, s jakou mohou být AI modely nasazeny a požádány o provedení kritických aktivit. Kybernetické týmy by měly strategicky uvažovat o transformaci procesů od základu, aby řádně implementovaly nové AI schopnosti a držely krok v kybernetické hře kočky a myši.

Bezpečnostní lídři mohou podniknout několik konkrétních kroků v blízké budoucnosti: provést komplexní přehled stávajících bezpečnostních procesů, aby identifikovali mezery, příležitosti k modernizaci a oblasti vhodné pro transformaci. Zůstat v obraze o vznikajících AI hrozbách, trendech a technologiích. Především zůstat ukotveni v základním bezpečnostním principu hloubkové obrany, který se osvědčil v průběhu času – vrstvená ochrana a ověření od identity, koncového bodu, sítě, dat, s robustním monitorováním a reakčními schopnostmi, které jsou vždy testovány.

Proměnná potenciál AI slibuje příliš velkou výhodu, aby se jí zřekly, a džin je již ven z lahve pro protivníky. Proto je role bezpečnostních lídrů v tomto příštím věku stejná jako vždy: podporovat své organizace při dosahování jejich podnikových cílů s uváženou rizikovou mitigací – pouze nyní rychlostí strojů s využitím AI.