Myslitelé
AI proti AI: nová realita kybernetické bezpečnosti

Klíčové bodyÚtoky využívající umělou inteligenci automatizují celé životní cykly útoků rychlostí…
Zobrazit více
- Útoky využívající umělou inteligenci automatizují celé životní cykly útoků rychlostí strojů, což přemáhá tradiční obranu spravovanou lidmi.
- Podniky musí mapovat a zabezpečovat identity ne-lidských agentů s umělou inteligencí, protože tyto autonomní systémy získávají kritický obchodní přístup.
- Organizace musí zabezpečit modely umělé inteligence pomocí principů Secure by Design, aby předešly otrávení dat a nepřátelské manipulaci.
Kybernetické útoky poháněné umělou inteligencí (AI) již dorazily a potvrzují, co bylo dříve pouze teoretickým, ale očekávaným rizikem, a signalizují novou éru v oblasti hrozeb. S tím, že agenti AI mohou nyní spustit komplexní kampaně od začátku do konce za několik minut, mohou kyberzločinci identifikovat a využít zranitelnosti podniků rychlostí strojů. Pravidla střetu se změnila: včerejší kybernetická obrana již nemůže držet krok s dnešním AI poháněným útokem.
Jak AI zvyšuje kybernetické hrozby, podniky potřebují nasadit své vlastní AI poháněné obranné schopnosti, aby držely krok z hlediska rychlosti, rozsahu a přesnosti. Prozatím kybernetičtí protivníci stále následují známé taktiky, techniky a postupy (TTP), ale AI urychluje a vylepšuje jejich herní plán. Navíc, AI modely podniků samy o sobě jsou také novým cílem prostřednictvím otrávení modelů a jazykově řízeného sociálního inženýrství, což vyžaduje, aby kybernetické týmy řádně zabezpečily své AI schopnosti. Proto by bezpečnost měla být jádrem větší AI strategie organizace.
Co odlišuje kybernetické útoky poháněné AI?
V digitálním světě, který je již nasycen téměř neustálými kybernetickými pokusy o proniknutí, byla snížena hranice pro vstup pro škodlivého aktéra, což zvýšilo nejen objem, ale také složitost útoků. Útoky poháněné AI mohou nyní využít AI nebo strojové učení (ML) k automatizaci, urychlení nebo vylepšení kterékoli fáze životního cyklu útoku, od průzkumu a shromažďování informací až po zneužití zranitelností a odcizení citlivých dat.
Spoléhání se výhradně na stávající bezpečnostní procesy a technologie bez nasazení stejné pokročilé technologie, kterou využívají protivníci, poskytuje protivníkovi výhodu, kterou je bez obranné AI téměř nemožné vyvážit v odpovídajícím rozsahu. Organizace jsou již zahlceny monitorováním svého podnikového prostředí kvůli tradičním hrozbám. Útoky poháněné AI budou zhoršovat únavu z výstrah. To vyžaduje evoluci z lidsky řízených procesů na hybridní kybernetickou lidskou a digitální pracovní sílu.
Zmapujte každé digitální aktivum
V dnešním světě je pochopení potenciálních vstupních bodů napříč podnikovým prostředím základní podmínkou, ale stále je to pro mnoho velkých podniků nedosažitelné. Kromě digitálních systémů a aktiv je zapotřebí komplexní mapování všech identit a přístupů v rámci organizace. Digitální identita, která spojuje fyzické a behaviorální charakteristiky s jednotlivcem, je dobře pochopena s existujícími kontrolami potřebnými pro řízení digitálního přístupu.
Jedná se však o pochopení podnikového prostředí nehumánních identit (NHIs), které je nezbytné pro zabezpečení digitálních aktiv. Realizace potenciální hodnoty AI v rámci organizace znamená poskytnutí AI agentům přístupu a povolení k autonomnímu dokončení obchodního procesu. Stejně jako cloudová prostředí předchozí bezpečnostní éry, dnešní agentně řízené pracovní postupy spouští a zastavují NHIs v rozsahu, což vyžaduje pokročilou schopnost řídit a sledovat, kde v prostředí fungují a jak plní své úkoly nebo role.
Podniky by měly rozšířit řízení identit napříč životním cyklem agentovy identity a monitorovat agentovy akce, stejně jako monitorují lidský přístup dnes pro insiderové riziko nebo kompromitaci účtů ze strany protivníků. Jakmile schopnosti agentů získají více autonomie a podnikatelsky kritické práce, je pochopení jejich identifikační stopy a vzoru přístupu kritické pro implementaci přístupových a monitorovacích kontrol nezbytných pro jejich ochranu a ochranu podniku před zneužitím.
Zabezpečit AI modely
Schopnosti AI mají příslib zvýšení efektivity a produktivity, ale také potenciál být otočeny proti organizacím. Zavedení AI do každé oblasti podnikových operací již není „hezké“, ale nutností pro úspěch v dnešním konkurenčním prostředí. Proto je zabezpečené nasazení AI nezbytnou součástí pro bezpečné dosažení plného podnikového potenciálu a výsledků.
Přechod na AI poháněnou kybernetickou obranu je stále v průběhu, zatímco samy AI modely se staly cílem. Protivníci se mohou pokusit otrávit data, která vstupují do těchto modelů, a manipulovat je, aby provedly neúmyslné akce nebo dokonce odhalily citlivé informace.
Protivníkové útoky proti AI mohou pocházet z různých forem, jako jsou útoky na otrávení, útoky na vstřikování podnětů a další. Aby organizace řádně chránily AI před potenciální manipulací, měly by využít filozofii agentury pro kybernetickou infrastrukturu a bezpečnost (CISA) Secure by Design. To začíná s daty, která se používají k trénování modelů. Zabezpečení vstupů brzy ve fázi vývoje vytváří základ pro spolehlivé výstupy během nasazení.
Pochopení vstupů, které jsou použity pro vývoj modelů a schopností, je možné prostřednictvím úmyslného řízení dat a kontroly přístupu k modelům samým. Kritické kontroly, které umožňují ověřit požadované výstupy, zahrnují prevenci úniku dat (DLP); implementaci zásad a bezpečnostních pravidel; ukotvení pomocí ověřitelných zdrojů a přísné schvalovací kontroly pro akce s významným dopadem, auditovatelnost a nepřetržité testování, včetně penetračních testů modelů, aby je učinily odolnými.
Integrovat AI do bezpečnostních operací
Až dosud, aplikování AI na kybernetickou obranu bylo taktické, s mnoha organizacemi, které přidaly AI k tradičním procesům orientovaným na člověka, místo aby strategicky předefinovaly, jak postavit AI centrické procesy. To je jako pokus o umístění V8 motoru na kolo. Další evoluce AI-poháněné schopnosti bude spočívat v návrhu procesů od základu, s agentní AI a automatizací, která je v návrhu nativní. Osvědčené bezpečnostní operace metody a procesy, jako je detekce hrozeb, lov hrozeb a detekční inženýrství, jsou stále kritickými položkami, které jsou nezbytné pro organizaci v AI éře. Transformace stávajících bezpečnostních procesů tak, aby je mohla podporovat AI může vytvořit silný základ pro budoucí bezpečnostní operační centrum (SOC) podporované AI.
Navíc, automatizace není nový koncept, který je jedinečný pro vznik AI; bezpečnostní pracovní postupy a procesy byly automatizovány po mnoho let, s pokročilými organizacemi, které mají velmi sofistikované orchestrace a automatizační schopnosti. AI však vylepšuje stávající automatizaci založenou na pravidlech a rozvíjí ji dále, umožňující dynamické, adaptivní, kontextově bohaté automatizované pracovní postupy, které mohou pomoci řešit rychlost a agilitu, požadované pro tyto vznikající AI rizika.
Co dál?
Bezpečnost by měla pokračovat v tom, aby byla prioritou pro podnikání a IT, aby udržely svá kritická aktiva a uživatele v bezpečí před zlým využitím. AI zabezpečená již při návrhu je nezbytností, vzhledem k rychlosti, s jakou mohou být AI modely nasazeny a požádány o provedení kritických aktivit. Kybernetické týmy by měly strategicky uvažovat o transformaci procesů od základu, aby řádně implementovaly nové AI schopnosti a držely krok v kybernetické hře kočky a myši.
Bezpečnostní lídři mohou podniknout několik konkrétních kroků v blízké budoucnosti: provést komplexní přehled stávajících bezpečnostních procesů, aby identifikovali mezery, příležitosti k modernizaci a oblasti vhodné pro transformaci. Zůstat v obraze o vznikajících AI hrozbách, trendech a technologiích. Především zůstat ukotveni v základním bezpečnostním principu hloubkové obrany, který se osvědčil v průběhu času – vrstvená ochrana a ověření od identity, koncového bodu, sítě, dat, s robustním monitorováním a reakčními schopnostmi, které jsou vždy testovány.
Transformační potenciál AI slibuje příliš velké přínosy na to, abychom její zavádění odmítali, a džin je již ven z lahve pro protivníky. Proto je role bezpečnostních lídrů v tomto příštím věku stejná jako vždy: podporovat své organizace při dosahování jejich podnikových cílů s uváženou redukcí rizik – pouze nyní rychlostí strojů s využitím AI.













