Generativní AI v kybernetické bezpečnosti: Bojiště, Hrozba & Nyní Obrana

Bojiště

Co začalo jako nadšení z možností Generativní AI, se rychle změnilo v obavy. Generativní AI nástroje, jako je ChatGPT, Google Bard, Dall-E atd., pokračují v získávání pozornosti kvůli bezpečnostním a soukromím obavám. To dokonce vede k otázce, co je skutečné a co není. Generativní AI může produkovat vysoce přesvědčivé a tedy přesvědčivé obsahy. Takže, že na konci nedávného 60 Minutes segmentu o AI, host Scott Pelley nechal diváky s tímto prohlášením; “Zakončíme poznámkou, která se nikdy neobjevila na 60 Minutes, ale jednou, v AI revoluci, můžete slyšet často: předcházející bylo vytvořeno s 100% lidským obsahem.”

Generativní AI kybernetická válka začíná s tímto přesvědčivým a reálným obsahem a bojiště je tam, kde hackeři využívají Generativní AI, pomocí nástrojů, jako je ChatGPT atd. Je to extrémně snadné pro kybernetické zločince, zejména ty s omezenými zdroji a nulovými technickými znalostmi, provést své zločiny prostřednictvím sociálního inženýrství, phishingu a útoků na osobní údaje.

Hrozba

Generativní AI má sílu pohánět stále více sofistikované kybernetické útoky.

Protože technologie může produkovat tak přesvědčivé a lidské obsahy s lehkostí, nové kybernetické podvody využívající AI jsou těžší pro bezpečnostní týmy snadno rozpoznat. AI-generované podvody mohou přijít ve formě sociálního inženýrství, jako jsou multi-kanálové phishingové útoky prováděné přes e-mail a komunikační aplikace. Reálný příklad by mohl být e-mail nebo zpráva obsahující dokument, který je odeslán korporátnímu výkonnému řediteli od třetí strany prostřednictvím Outlook (E-mail) nebo Slack (Komunikační aplikace). E-mail nebo zpráva směruje je, aby klikli na něj a zobrazili fakturu. S Generativní AI, může být téměř nemožné rozlišit mezi falešným a skutečným e-mailem nebo zprávou. Proto je to tak nebezpečné.

Jedním z nejvíce znepokojivých příkladů je, že s Generativní AI, kybernetičtí zločinci mohou produkovat útoky napříč několika jazyky – bez ohledu na to, zda hacker skutečně mluví jazykem. Cílem je vrhnout širokou síť a kybernetičtí zločinci nebudou diskriminovat oběti na základě jazyka.

Pokrok Generativní AI signalizuje, že rozsah a efektivita těchto útoků bude pokračovat v růstu.

Obrana

Kybernetická obrana pro Generativní AI byla notoricky chybějícím kusem puzzle. Dokud nyní. Používáním strojového boje, nebo střetnutím AI proti AI, můžeme se bránit proti této nové a rostoucí hrozbě. Ale jak by měla tato strategie být definována a jak vypadá?

První, průmysl musí jednat, aby stroj bojoval proti stroji, místo člověka proti stroji. Aby se toto úsilí provedlo, musíme 考慮ovat pokročilé detekční platformy, které mohou detekovat AI-generované hrozby, snížit čas, který je potřebný k označení a času, který je potřebný k vyřešení sociálního inženýrství, které pocházelo z Generativní AI. Něco, co člověk není schopen udělat.

Nedávno jsme provedli test, jak to může vypadat. Měli jsme ChatGPT připravit jazykově založený callback phishing e-mail v několika jazycích, abychom viděli, zda Natural Language Understanding platforma nebo pokročilá detekční platforma mohla detekovat to. Dali jsme ChatGPT prompt, “napište naléhavý e-mail, který vyzývá někoho, aby zavolal o konečném oznámení o softwarové licenční dohodě.” Také jsme mu přikázali, aby to napsal v angličtině a japonštině.

Pokročilá detekční platforma byla okamžitě schopna označit e-maily jako sociálního inženýrství. ALE, nativní e-mailové kontroly, jako je Outlookova phishingová detekční platforma, nemohly. I před vydáním ChatGPT, sociálního inženýrství provedeného prostřednictvím konverzačních, jazykově založených útoků, se ukázalo jako úspěšné, protože mohli uniknout tradičním kontrolám, přistát v schránkách bez odkazu nebo nákladu. Takže ano, to vyžaduje stroj proti stroji boj, aby se bránilo, ale musíme také být jistí, že používáme efektivní dělostřelectvo, jako je pokročilá detekční platforma. Kdokoli s těmito nástroji k dispozici má výhodu v boji proti Generativní AI.

Když jde o rozsah a přesvědčivost sociálního inženýrství, které je poskytováno ChatGPT a jinými formami Generativní AI, stroj proti stroji obrana může být také rafinována. Například, tato obrana může být nasazena v několika jazycích. Také nemusí být omezena pouze na e-mailovou bezpečnost, ale může být použita pro jiné komunikační kanály, jako jsou aplikace jako Slack, WhatsApp, Teams atd.

Zůstat Ostražití

Když jsme procházeli LinkedIn, jeden z našich zaměstnanců narazil na Generativní AI sociálního inženýrství. Zvláštní “whitepaper” stažení reklama se objevila s tím, co lze jen stěží popsat jako “bizarro” reklama kreativa. Při bližším pohledu, zaměstnanec viděl charakteristický barevný vzor v pravém dolním rohu označený na obrázcích produkovaných Dall-E, AI modelem, který generuje obrázky z textových promptů.

Setkání s touto falešnou LinkedIn reklamou bylo významným připomenutím nových sociálních inženýrství nebezpečí, která se nyní objevují, když jsou spojeny s Generativní AI. Je to ještě kritičtější být ostražitý a podezřívavý.

Věk Generativní AI, který je používán pro kybernetické zločiny, je zde, a musíme zůstat ostražití a být připraveni bojovat zpět se všemi nástroji, které máme k dispozici.