Odborníci na kybernetickou bezpečnost brání proti kybernetickým útokům s využitím AI

Ne každý, kdo má dobré úmysly, chce využít výhod umělé inteligence. Kybernetická bezpečnost je určitě jedním z těch oblastí, kde ti, kdo se snaží bránit určitý kybernetický systém, a ti, kdo se snaží jej napadnout, používají nejmodernější technologie.

Ve své analýze tohoto tématu World Economic Forum (WEF) uvádí příklad, kdy v březnu 2019 „generální ředitel velké energetické firmy schválil urgentní převod 220 000 eur na účet, o kterém se domníval, že patří novému dodavateli z východní Evropy, po telefonátu který se domníval, že je s generálním ředitelem mateřské společnosti. Během několika hodin prošel peněz prostřednictvím sítě účtů v Latinské Americe k podezřelým zločincům, kteří použili umělé inteligence (AI), aby přesvědčivě napodobovali hlas generálního ředitele.” Naopak Forbes uvádí příklad, kdy „dvě nemocnice v Ohiu a Západní Virginii odmítly pacienty kvůli kybernetickému útokukterý vedl k selhání systému. Nemocnice nemohly zpracovat žádné nouzové požadavky pacientů. Proto poslaly příchozí pacienty do blízkých nemocnic.”

Tato kybernetická hrozba je určitě důvodem, proč Equifax a Světové ekonomické fórum svolaly první Future Series: Cybercrime 2025. Globální odborníci na kybernetickou bezpečnost z akademické sféry, vlády, donucovacích orgánů a soukromého sektoru se sejdou v Atlantě, Georgii, aby přezkoumali schopnosti, které jim AI může poskytnout v oblasti kybernetické bezpečnosti. Kromě toho Capgemini Research Institute vydal zprávu, která dospěla k závěru, že budování obranných mechanismů kybernetické bezpečnosti s AI je nezbytné pro prakticky všechny organizace.

Ve své analýze WEF uvedl čtyři výzvy při prevenci používání AI v kyberzločinu. První je rostoucí sofistikovanost útočníků – objem útoků bude stoupat a „technologie s podporou AI může také zvýšit schopnosti útočníků zachovat si anonymitu a vzdálenost od svých obětí v prostředí, kde je již obtížné připsat a vyšetřit zločiny.”

Druhá je asymetrie cílů – zatímco obránci musí mít stoprocentní úspěšnost, útočníci potřebují být úspěšní pouze jednou. „Zatímco AI a automatizace snižují variabilitu a náklady, zlepšují měřítko a omezují chyby, útočníci mohou také použít AI, aby změnili rovnováhu.”

Třetí je skutečnost, že „jak organizace rostou, tak i velikost a složitost jejich technologií a datových majetků, což znamená, že útočníci mají více ploch, které mohou prozkoumat a využít. Aby organizace zůstaly před útočníky, mohou nasadit pokročilé technologie, jako je AI a automatizace, aby pomohly vytvořit obranyschopné „uzly“ místo toho, aby rozložily úsilí rovnoměrně po celém prostředí.”

Čtvrtá je dosažení správné rovnováhy mezi možnými riziky a skutečným „provozním umožněním“ obránců. WEF je toho názoru, že „bezpečnostní týmy mohou použít riziko-založený přístup, stanovením řídících procesů a prahů materiálnosti, informováním provozních lídrů o jejich kybernetické pozici a identifikací iniciativ, které budou neustále zlepšovat.” Skrze svůj program Future Series: Cybercrime 2025 WEF a jeho partneři hledají „účinné akce potřebné k zmírnění a překonání těchto rizik.”

Naopak Forbes identifikoval čtyři kroky přímého použití AI v kybernetické bezpečnosti připravené jejich přispěvatelem Naveenem Joshi a prezentované v níže uvedeném grafu:

V každém případě je jisté, že jak obránci, tak útočníci v oblasti kybernetické bezpečnosti budou dále rozvíjet své využití umělé inteligence, jakmile sama technologie dosáhne nové úrovně složitosti.