Dokáže umělá inteligence napsat přesvědčivější phishingový e-mail než lidé?

Zpracování přirozeného jazyka a pokročilé možnosti překladu dělají z generativní umělé inteligence neocenitelný nástroj pro hackery. Phishingové e-maily generované umělou inteligencí však nemusí být o nic nebezpečnější než podvodný obsah vytvořený lidmi. Co by měli uživatelé a bezpečnostní profesionálové vědět o roli umělé inteligence při phishingu a kybernetických útocích?

Jak AI píše phishingové e-maily

Nahlášený phishingový obsah od roku 61 vzrostly o 2021 %. do roku 2022. Od škodlivých adres URL po e-mailové podvody se phishing každým rokem zvyšuje. Umělá inteligence je nejnovější nástroj, který hackeři používají k rozvoji phishingových kampaní. I když je zpracování přirozeného jazyka AI prospěšné, hackeři jej mohou využít k vytvoření efektivnějšího phishingového obsahu.

Díky dostupnosti platforem AI-as-a-Service, jako je ChatGPT, je vytváření obsahu pro kohokoli snazší než kdy dříve. Hacker by mohl ukázat velkému jazykovému modelu AI tisíce příkladů legitimních e-mailů a poté jej požádat, aby na základě nich vytvořil originální e-maily. Zpracování přirozeného jazyka (NLP) umožňuje AI porozumět a znovu vytvořit realistický psaný obsah – dokonalý nástroj při phishingových útocích.

V ideálním případě AI vygeneruje originální e-mail, který napodobuje e-mail psaný člověkem. Hacker jej může požádat, aby upravil zprávu tak, aby obsahovala podrobnosti o konkrétní společnosti, osobě nebo místě. Umělá inteligence může zprávu dokonce přeložit do jiného jazyka. Hackeři mohou efektivně vytvářet zcela originální, personalizované phishingové e-maily během pouhých okamžiků, což jim umožňuje odklonit se od recyklace jednoho škodlivého e-mailu mezi mnoha cíli.

Jsou phishingové e-maily generované AI efektivní? 

Možnosti phishingu s umělou inteligencí mohou znít hrozivě, ale jsou nebezpečnější než phishingový obsah vytvořený lidmi? Výhody phishingových e-mailů generovaných umělou inteligencí spočívají především v efektivnějších pracovních postupech pro hackery.

První výzkumné studie prokázaly phishingové e-maily generované umělou inteligencí jsou přibližně stejně přesvědčivé jako phishingové e-maily vytvořené lidmi. Hackeři mají také omezený přístup k platformám AI-as-a-Service. Většina velkých vývojářů – včetně OpenAI – má ochranná opatření, aby zabránila nelegálním aplikacím modelu AI. 

Hlavními výhodami AI pro phishingové hackery jsou efektivita a jazyk. Použití umělé inteligence ke generování podvodných e-mailů je rychlejší než ruční psaní, což hackerům umožňuje vytvářet větší množství phishingových e-mailů. Navíc se mohou zaměřit na oběti kdekoli na světě, a to díky snadno dostupným nástrojům pro překlad AI s funkcemi NLP.

Phishingové e-maily generované umělou inteligencí tedy zvyšují riziko phishingových útoků, ale nemusí být nutně přesvědčivější než obsah vytvořený lidmi.

Jak se bránit proti phishingu generovanému AI

AI je užitečný nástroj pro hackery, ale není spolehlivý. Bezpečnostní technologie a uživatelé mohou také vylepšit své obranné strategie, protože phishingové útoky jsou chytřejší. Uživatelé by měli začít tím, že budou mít aktuální informace červené příznaky phishingového obsahu, protože ty zůstanou relevantní i v případě e-mailů generovaných umělou inteligencí.

I když může být obtížnější odhalit phishingové e-maily na první pohled, určité bezpečnostní kroky mohou minimalizovat nebo eliminovat možnost, že phishing způsobí škody. Nové detekční technologie navíc dokážou zachytit škodlivé e-maily psané umělou inteligencí i lidmi.

Přepněte na cloudové úložiště

Přechod na cloudové úložiště je skvělý způsob, jak minimalizovat hrozbu phishingových e-mailů a kybernetických útoků. Izolovaná povaha konvenčního úložiště dat je činí vysoce zranitelnými vůči zneužití hackery. Vše, co hacker potřebuje, je získat kontrolu nad jedním pevným diskem nebo serverem a mohou držet všechna něčí data jako rukojmí.

Cloudové úložiště se této hrozbě vyhýbá. Vzhledem k tomu, že data nejsou vázána na žádné konkrétní zařízení, je pro hackery mnohem obtížnější jakékoli informace smazat nebo poškodit. Kybernetická bezpečnost založená na cloudu může také zlepšit odolnost vůči pokusům o hackování.

Uživatelé mohou například implementovat automatické skenování zranitelnosti najít slabiny v jejich cloudu bezpečnostní. To je skvělé pro zabránění hackerům v používání zadních vrátek nebo ukradených přihlašovacích údajů k přístupu k datům v cloudu. I když ano, bude pro ně obtížné plně kontrolovat jakákoli data, protože cloudové úložiště je tak rozptýlené.

Vytvořte si vlastní ověřovací systém

Jedním z DIY řešení, které pomáhá odradit od phishingových zpráv jakéhokoli druhu, je vytvoření systému kódu mezi důvěryhodnými korespondenty. To může zahrnovat lidi jako rodinu, přátele a spolupracovníky. Kdykoli si členové skupiny e-mailují navzájem, mohou napsat konkrétní kódovou frázi, aby si ověřili, že zpráva je skutečně od nich.

Tento kódovací systém nemusí být příliš složitý. Cílem je jednoduše přidat do e-mailů faktor, který hacker nebo umělá inteligence předem nemohou spolehlivě znát. Kódovou frázi udělejte něco neobvyklého, aby se pravděpodobně běžně nevyskytovala v tréninkových e-mailech umělé inteligence.

Kód může být například název fiktivní osady, jako je „Agloe, New York“. Je nepravděpodobné, že by se fantomové osady často objevovaly v e-mailech, protože se jedná o fiktivní místa, která jsou jednoduše přidána do map pro účely autorských práv.

Použijte AI phishing Detection

Hackeři nejsou jediní, kdo používá AI k inovaci své metodiky. Uživatelé a bezpečnostní profesionálové mohou využívat modely umělé inteligence k detekci phishingového obsahu, ať už jej napíše člověk nebo umělá inteligence.

Vývojáři mohou například využít strojové učení sledovat a sledovat přirozenou komunikaci vzory legitimních e-mailových korespondentů. Pokud by umělá inteligence dokázala rychle naučit jedinečný komunikační styl jednotlivce, mohla by rozpoznat falešné e-maily, které se neshodují. To platí bez ohledu na to, zda e-mail napsal člověk nebo AI.

Jednou z největších předností phishingu s umělou inteligencí je také hlavní nedostatek. Hackeři mohou efektivně vytvářet věrohodné falešné e-maily pomocí AI, ale styl komunikace těchto e-mailů nelze efektivně personalizovat. Hacker obvykle nemá technické znalosti nebo zdroje na to, aby vycvičil AI, aby přesně replikovala styl psaní konkrétní osoby. Modely umělé inteligence pro detekci phishingu mohou tuto slabinu využít k ochraně uživatelů.

Pochopení rizika phishingu založeného na umělé inteligenci

AI může být cenným nástrojem pro hackery při vytváření phishingových e-mailů. E-maily generované umělou inteligencí však nemusí být nutně přesvědčivější než phishingový obsah vytvořený lidmi. Hlavní varovné signály phishingu – jako jsou naléhavé výzvy k akci – zůstávají relevantní bez ohledu na to, kdo nebo co vytváří phishingový e-mail. Uživatelé a bezpečnostní profesionálové mohou využívat inovativní techniky a technologie k ochraně svých dat před phishingovými kampaněmi s umělou inteligencí.