Myslitelé
Generativní AI v kybernetické bezpečnosti: bojiště, hrozba a nyní obrana

Klíčové bodyGenerativní AI umožňuje sofistikované vícejazyčné phishingové útoky, které obcházejí…
Zobrazit více
- Generativní AI umožňuje sofistikované vícejazyčné phishingové útoky, které obcházejí tradiční e-mailovou bezpečnost.
- Strojový boj s využitím pokročilých detekčních platforem je nezbytný pro čelení sociálnímu inženýrství generovanému AI.
- Falešný inzerát na LinkedIn s obrázky z Dall-E ukazuje, že generativní AI je nyní zneužívána pro cílenou kyberkriminalitu.
Bojiště
Co začalo jako vzrušení kolem schopností Generativní AI, se rychle změnilo v obavy. Nástroje Generativní AI, jako je ChatGPT, Google Bard, Dall-E atd., pokračují v získávání pozornosti kvůli obavám o bezpečnost a soukromí. To dokonce vede k otázkám o tom, co je skutečné a co není. Generativní AI může produkovat velmi věrohodný, a tedy přesvědčivý obsah. Tak přesvědčivé, že na konci nedávného segmentu 60 Minutes o AI, moderátor Scott Pelley nechal diváky s touto poznámkou; „Zakončíme poznámkou, která se nikdy neobjevila na 60 Minutes, ale v době revoluce AI ji možná budete slýchat často: předcházející bylo vytvořeno s 100% lidským obsahem.“
Generativní AI kybernetická válka začíná s tímto přesvědčivým a realistickým obsahem a bojištěm je místo, kde hackeři využívají Generativní AI, pomocí nástrojů jako ChatGPT atd. Je extrémně snadné pro kybernetické zločince, zejména ty s omezenými zdroji a nulovými technickými znalostmi, spáchat své zločiny prostřednictvím sociálního inženýrství, phishingu a vydávání se za jinou osobu.
Hrozba
Generativní AI má sílu pohánět stále více sofistikované kybernetické útoky.
Protože technologie může produkovat tak snadno přesvědčivý obsah podobný lidské tvorbě, nové kybernetické podvody využívající AI jsou obtížnější pro bezpečnostní týmy snadno identifikovat. AI-generované podvody mohou přijít v podobě sociálního inženýrství, jako jsou multi-kanálové phishingové útoky prováděné přes e-mail a aplikace pro zasílání zpráv. Skutečný příklad by mohl být e-mail nebo zpráva obsahující dokument, který je odeslán korporátnímu výkonnému řediteli od externího dodavatele prostřednictvím Outlooku (e-mail) nebo Slacku (aplikace pro zasílání zpráv). E-mail nebo zpráva směruje výkonného ředitele, aby klikl na něj a zobrazil fakturu. S Generativní AI může být téměř nemožné rozlišit mezi falešným a skutečným e-mailem nebo zprávou. Právě proto je to tak nebezpečné.
Jedním z nejvíce znepokojivých příkladů je, že s Generativní AI, kybernetičtí zločinci mohou produkovat útoky napříč několika jazyky – bez ohledu na to, zda hacker skutečně mluví jazykem. Cílem je vrhnout širokou síť a kybernetičtí zločinci nebudou diskriminovat oběti na základě jazyka.
Pokrok Generativní AI signalizuje, že rozsah a efektivita těchto útoků budou dále růst.
Obrana
Kybernetická obrana proti hrozbám spojeným s generativní AI byla notoricky chybějícím kusem puzzle. Až dosud. Používáním stroje proti stroji, nebo nasazením AI proti AI, můžeme se bránit proti této nové a rostoucí hrozbě. Ale jak by tato strategie měla být definována a jak vypadá?
Nejprve musí průmysl jednat, aby postavil počítač proti počítači místo člověka proti počítači. Abychom mohli pokračovat v tomto úsilí, musíme zvážit pokročilé detekční platformy, které mohou detekovat AI-generované hrozby, snížit čas, který je potřeba k označení a čas, který je potřeba k vyřešení útoku sociálního inženýrství, který vzešel z Generativní AI. Něco, co člověk není schopen udělat.
Nedávno jsme provedli test, jak to může vypadat. Nechali jsme ChatGPT vytvořit v několika jazycích phishingový e-mail, který příjemce vybízí k telefonickému zavolání, abychom viděli, zda platforma pro porozumění přirozenému jazyku nebo pokročilá detekční platforma dokáže takový útok odhalit. Dali jsme ChatGPT příkaz, „napište naléhavý e-mail, který vyzývá někoho, aby zavolal o konečném oznámení o softwarové licenční dohodě.“ Také jsme mu přikázali, aby to napsal v angličtině a japonštině.
Pokročilá detekční platforma byla okamžitě schopna označit e-maily jako sociální inženýrství. ALE, vestavěné ochranné mechanismy e-mailového systému, jako je platforma pro detekci phishingu Outlooku, nemohly. I před vydáním ChatGPT, sociální inženýrství provedené prostřednictvím konverzačních, jazykových útoků se ukázalo jako úspěšné, protože mohly uniknout tradičním kontrolám a dostat se do schránek bez odkazu nebo škodlivého obsahu. Takže ano, k obraně je třeba postavit stroj proti stroji, ale musíme také zajistit, že používáme účinnou munici, jako je pokročilá detekční platforma. Každý, kdo má tyto nástroje k dispozici, má výhodu v boji proti Generativní AI.
Když jde o rozsah a přesvědčivost sociálního inženýrství, které poskytuje ChatGPT a další formy Generativní AI, obranu stroje proti stroji lze dále zdokonalovat. Například tato obrana může být nasazena v několika jazycích. Také nemusí být omezena pouze na e-mailovou bezpečnost, ale může být použita i pro jiné komunikační kanály, jako jsou aplikace jako Slack, WhatsApp, Teams atd.
Zůstaňte ostražití
Když jsme procházeli LinkedIn, jeden z našich zaměstnanců narazil na pokus o sociální inženýrství využívající generativní AI. Objevila se zvláštní reklama na stažení dokumentu typu „whitepaper“, jejíž výtvarné zpracování by se dalo velkoryse označit za bizarní. Při bližším pohledu zaměstnanec viděl charakteristický barevný vzor v pravém dolním rohu označený na obrázcích vygenerovaných Dall-E, modelem AI, který generuje obrázky z textových příkazů.
Setkání s touto falešnou reklamou na LinkedIn bylo významným připomenutím nových hrozeb sociálního inženýrství, které vznikají ve spojení s generativní AI. Je ještě kritičtější být ostražitý a podezřívavý.
Éra Generativní AI pro kybernetické zločiny je zde a musíme zůstat ostražití a být připraveni bránit se všemi dostupnými nástroji.












