Rastúci vplyv AI na volebné podvody v tejto sezóne

V roku 2022 boli škodlivé e-maily zamerané na volebných pracovníkov okresu Pennsylvánia stúpa okolo svojich primárnych volieb 17. mája, pričom za šesť mesiacov vzrástol o viac ako 546 %. V spojení s potenciálom pre hanebné veľké jazykové modely (LLM) popri týchto tradičných phishingových útokoch je vysoká pravdepodobnosť, že každodenný Američan bude v tejto volebnej sezóne terčom ešte realistickejšieho podvodu.

Vlády si to začínajú všímať, najmä keď sa AI integruje do nášho každodenného života. Napríklad Americká agentúra pre kybernetickú bezpečnosť a bezpečnosť infraštruktúry zahájená program na zvýšenie volebnej bezpečnosti – demonštrujúci rastúci dopyt zo strany vlády aj verejnosti na ochranu seba a svojich údajov pred potenciálnymi zlými aktérmi v tejto volebnej sezóne.

A ešte nedávno, na Mníchovskej bezpečnostnej konferencii v roku 2024 podpísalo 20 technologických a AI spoločností a „Technický súhlas na boj proti podvodnému používaniu AI vo voľbách v roku 2024,“ ktorý zdôrazňuje hlavné zásady ochrany volieb a volebného procesu vrátane prevencie, pôvodu, odhaľovania, responzívnej ochrany, hodnotenia a povedomia verejnosti. Tvoria ju významní technologickí hráči vrátane Microsoftu, Amazonu a Google, čo znamená dôležitý posun v tomto odvetví, že aj mimo politickej príslušnosti je bezpečnosť údajov témou, ktorá sa bude týkať občanov aj kybernetických odborníkov počas zvyšku tohto volebného roka. Navyše, generatívna AI výrazne ovplyvní spôsob, akým môžu zlí herci vykonávať svoje útoky, čo uľahčuje vytváranie vysoko realistických podvodov.

Druhy volebných podvodov

Hoci volebné obdobie nie je jediným obdobím, kedy vidíme nárast podvodov, keď príde čas voliť, či už v primárkach alebo vo všeobecných voľbách, máme tendenciu vidieť nárast viacerých metód a techník. Každý z nich sa používa s typickým cieľom získať prístup k individuálnemu účtu alebo k peňažnému zisku a dôsledky pádu na ne môžu mať vážne následky. V skutočnosti samotný deepfake podvod stál USA viac ako $ 3.4 miliardy v stratách.

Niektoré príklady podvodov, ktoré vidíme počas volebného obdobia, zahŕňajú:

• phishing: Neoprávnené získavanie údajov (phishing) zahŕňa použitie falošných odkazov, e-mailov a webových stránok na získanie prístupu k citlivým spotrebiteľským informáciám – zvyčajne inštaláciou škodlivého softvéru do cieľového systému. Tieto údaje sa potom použijú na odcudzenie iných identít, získanie prístupu k hodnotným aktívam a preťaženie priečinkov doručenej pošty e-mailovým spamom. Vo volebnom období môžu byť phishingové e-maily maskované ako darovacie e-maily, ktoré nútia občana kliknúť na odkaz v domnení, že darujú nejakému kandidátovi, no v skutočnosti hrajú na plán zlého herca.
• Robocall, odcudzenie identity a hlasové či chatboty generované AI: Ako je vidieť v New Hampshire keď sa robotický hovor vydáva za prezidenta Bidena a vyzýva občanov, aby nevolili, volebné obdobie prinesie nárast vydávania sa za hlasujúcich alebo politických kandidátov s cieľom falošne získať dôveru a získať citlivé informácie.
• Deepfakes: S rozmachom AI sa dnes deepfakes stali neuveriteľne realistickými a možno ich použiť na vydávanie sa za šéfa alebo dokonca za vašu obľúbenú celebritu. Deepfakes sú videá alebo obrázky, ktoré využívajú AI na nahradenie tvárí alebo manipuláciu s výrazmi tváre či rečou. Mnohé z hlbokých falzifikátov, s ktorými sa denne stretávame, budú vo forme videa s upraveným klipom zobrazujúcim osobu, ktorá hovorí alebo robí niečo, čo možno nikdy neurobila. Očakáva sa, že to bude obzvlášť prevládajúce v tejto volebnej sezóne s rizikom vytvárania hlbokých falošných správ na vydávanie sa za kandidátov. Dokonca aj mimo USA, ako napríklad v Spojenom kráľovstve, existujú obavy, že by sa na zmanipulovanie volieb mohli použiť deepfakes.

Vplyv AI na voľby

Okrem týchto podvodov sa používajú algoritmy AI na generovanie presvedčivejších a pútavejších falošných správ, e-mailov a príspevkov na sociálnych médiách, aby oklamali používateľov, aby sa vzdali citlivých informácií.

Microsoft a OpenAI zverejnili brífing o hrozbách, “Navigácia v kybernetických hrozbách a posilňovanie obrany v ére AI“, ktorý poznamenal, že päť aktérov hrozieb z Ruska, Severnej Kórey, Iránu a Číny už používa GenAI na nové a inovatívne spôsoby, ako zlepšiť svoje operácie proti mäkkým cieľom.

Podvody, ako sú chatboty, klonovanie hlasu a ďalšie, sú vďaka AI ako nástroju na šírenie dezinformácií, vývoj malvéru a vydávanie sa za jednotlivcov posunuté o krok ďalej. Nástroje na klonovanie hlasu dokážu vytvoriť takmer dokonalé repliky napríklad hlasu alebo tváre volebnej postavy. Umelá inteligencia by sa dala použiť aj na zaplavenie call centier falošnými volaniami voličov, ktoré by ich zahltili dezinformáciami.

V najvyššom strehu budú sociálne médiá, pretože sú hlavným prostriedkom kampaní v tejto volebnej sezóne. Voliči budú zdieľať, či hlasovali, a možno aj prejavia podporu svojmu obľúbenému kandidátovi na svojich stránkach. Tento rok však predstavuje novú hrozbu, keďže sme svedkami nového nárastu phishingu AI (vrátane smishingu a vishingu) podvodov.

Zvážte, či niekto uverejnil príspevok na svojom účte na sociálnych sieťach podporu konkrétneho kandidáta. O niekoľko minút neskôr dostanú e-mail, ktorý vyzerá ako od manažéra kampane, v ktorom im ďakuje za podporu. Táto potenciálna obeť by sa mohla s týmto e-mailom spojiť kliknutím na odkaz, čím by sa otvorila zbieraniu poverení, finančnej strate alebo inštalácii škodlivého softvéru. Vďaka schopnosti AI monitorovať, vytvárať a doručovať cielené phishingové kampane takmer v reálnom čase, zdanlivo nevinné príspevky na sociálnych médiách teraz otvárajú používateľom novú úroveň realistických phishingových schém.

V tomto volebnom období buďte ostražití

Útoky ako phishing budú aj naďalej bežným spôsobom, akým zlí herci vytvárajú realistické podvody, ktoré môžu prekĺznuť aj tým najznalejším, a vo veku generatívnej AI sa ich potenciálny vplyv len zrýchlil, aby sa zlým hercom umožnil rýchlejší prístup k citlivým informácie.

Zatiaľ čo podniky nasadzujú technológiu na ochranu svojich údajov a zamestnancov, spotrebitelia si musia byť vedomí aj techník, ako odhaliť podvody a vyhnúť sa im. Niektoré z nich zahŕňajú:

• Dávajte pozor na náhodné alebo nesprávne napísané hypertextové odkazy alebo riadky s predmetom e-mailu
• Nekliknutie na odkaz od neznámeho odosielateľa
• Využívanie dvojfaktorovej autentifikácie alebo biometrickej autentifikácie všade tam, kde je to možné
• Nastavenie účtov na sociálnych sieťach ako súkromných
• Hlásenie škodlivej aktivity
• Vzdelávanie ostatných kolegov alebo rodinných príslušníkov
• Ak chcete overiť pravosť volebného kandidáta, vyhľadajte doménu webu .gov
• Ak máte IT na svojom pracovisku, môžete sa opýtať aj na:
  • Siete s nulovou dôveryhodnosťou
  • Dvojfaktorové overenie odolné voči phishingu
  • Nástroje na zabezpečenie e-mailu (DMARC, DKIM, SPF)
  • Metódy digitálneho podpisovania obsahu (alebo iný spôsob kryptografického overenia vašej komunikácie)

Hoci predvolebné obdobia sú časom vysokej pohotovosti, k útokom môže dôjsť kedykoľvek, preto je dôležité zabezpečiť, aby vaše základy kybernetickej bezpečnosti boli silné a spoľahlivé po celý rok.