Generativní AI v kybernetické bezpečnosti: Bojiště, Hrozba, & Nyní Obrana

Bojiště

Co začalo jako vzrušení kolem schopností Generativní AI, se rychle změnilo v obavy. Nástroje Generativní AI, jako je ChatGPT, Google Bard, Dall-E atd., pokračují v získávání pozornosti kvůli bezpečnostním a soukromým obavám. To dokonce vede k otázkám o tom, co je skutečné a co není. Generativní AI může produkovat velmi přesvědčivé a tedy přesvědčivé obsahy. Tak přesvědčivé, že na konci nedávného segmentu 60 Minutes o AI, host Scott Pelley nechal diváky s touto poznámkou; „Zakončíme poznámkou, která se nikdy neobjevila na 60 Minutes, ale jednou, v revoluci AI, můžete často slyšet: předcházející bylo vytvořeno s 100% lidským obsahem.“

Generativní AI kybernetická válka začíná s tímto přesvědčivým a skutečným obsahem a bojištěm je místo, kde hackeři využívají Generativní AI, pomocí nástrojů jako ChatGPT atd. Je extrémně snadné pro kybernetické zločince, zejména ty s omezenými zdroji a nulovými technickými znalostmi, spáchat své zločiny prostřednictvím sociálního inženýrství, phishingu a napadení osobnosti.

Hrozba

Generativní AI má sílu pohánět stále více sofistikované kybernetické útoky.

Protože technologie může produkovat tak přesvědčivé a lidské obsahy s lehkostí, nové kybernetické podvody využívající AI jsou obtížnější pro bezpečnostní týmy snadno identifikovat. AI-generované podvody mohou přijít v podobě sociálního inženýrství, jako jsou multi-kanálové phishingové útoky prováděné přes e-mail a aplikace pro zasílání zpráv. Skutečný příklad by mohl být e-mail nebo zpráva obsahující dokument, který je odeslán korporátnímu výkonnému řediteli od třetí strany prostřednictvím Outlooku (e-mail) nebo Slacku (aplikace pro zasílání zpráv). E-mail nebo zpráva směruje výkonného ředitele, aby klikl na něj a zobrazil fakturu. S Generativní AI může být téměř nemožné rozlišit mezi falešným a skutečným e-mailem nebo zprávou. Který je důvod, proč je to tak nebezpečné.

Jedním z nejvíce znepokojivých příkladů je, že s Generativní AI, kybernetičtí zločinci mohou produkovat útoky napříč několika jazyky – bez ohledu na to, zda hacker skutečně mluví jazykem. Cílem je vrhnout širokou síť a kybernetičtí zločinci nebudou diskriminovat oběti na základě jazyka.

Pokrok Generativní AI signalizuje, že rozsah a efektivita těchto útoků bude pokračovat v růstu.

Obrana

Kybernetická obrana pro Generativní AI byla notoricky chybějícím kusem puzzle. Až dosud. Používáním stroje proti stroji, nebo pinováním AI proti AI, můžeme se bránit proti této nové a rostoucí hrozbě. Ale jak by tato strategie měla být definována a jak vypadá?

Nejprve musí průmysl jednat, aby pinul počítač proti počítači místo člověka proti počítači. Abychom mohli pokračovat v tomto úsilí, musíme zvážit pokročilé detekční platformy, které mohou detekovat AI-generované hrozby, snížit čas, který je potřeba k označení a čas, který je potřeba k vyřešení sociálního inženýrství, které pocházelo z Generativní AI. Něco, co člověk není schopen udělat.

Nedávno jsme provedli test, jak to může vypadat. Měli jsme ChatGPT připravený jazykový callback phishingový e-mail v několika jazycích, abychom viděli, zda platforma pro porozumění přirozenému jazyku nebo pokročilá detekční platforma mohla detekovat to. Dali jsme ChatGPT příkaz, „napište naléhavý e-mail, který vyzývá někoho, aby zavolal o konečném oznámení o softwarové licenční dohodě.“ Také jsme mu přikázali, aby to napsal v angličtině a japonštině.

Pokročilá detekční platforma byla okamžitě schopna označit e-maily jako sociální inženýrství. ALE, rodinné e-mailové kontroly, jako je platforma pro detekci phishingu Outlooku, nemohly. I před vydáním ChatGPT, sociální inženýrství provedené prostřednictvím konverzačních, jazykových útoků se ukázalo jako úspěšné, protože mohly uniknout tradičním kontrolám a dostat se do schránek bez odkazu nebo nákladu. Takže ano, je to potřeba stroj proti stroji, aby se bránil, ale musíme také zajistit, že používáme účinnou munici, jako je pokročilá detekční platforma. Každý, kdo má tyto nástroje k dispozici, má výhodu v boji proti Generativní AI.

Když jde o rozsah a přesvědčivost sociálního inženýrství, které poskytuje ChatGPT a další formy Generativní AI, stroj proti stroji obrany může být také rafinován. Například tato obrana může být nasazena v několika jazycích. Také nemusí být omezena pouze na e-mailovou bezpečnost, ale může být použita i pro jiné komunikační kanály, jako jsou aplikace jako Slack, WhatsApp, Teams atd.

Zůstat Ostražitý

Když jsme procházeli LinkedIn, jeden z našich zaměstnanců narazil na Generativní AI sociálního inženýrství. Zvláštní „whitepaper“ reklamní odkaz se objevil s tím, co lze pouze popsat jako „bizarro“ reklamní kreativitou. Při bližším pohledu zaměstnanec viděl charakteristický barevný vzor v pravém dolním rohu označený na obrázcích vygenerovaných Dall-E, modelem AI, který generuje obrázky z textových příkazů.

Setkání s touto falešnou reklamou na LinkedIn bylo významným připomenutím nových sociálních inženýrství, která se objevují, když jsou spojeny s Generativní AI. Je ještě kritičtější být ostražitý a podezřívavý.

Éra Generativní AI pro kybernetické zločiny je zde a musíme zůstat ostražití a být připraveni bojovat zpět všemi dostupnými nástroji.