Sve veći utjecaj umjetne inteligencije na izborne prijevare ove sezone

U 2022. zlonamjerna e-pošta usmjerena na izborne radnike okruga Pennsylvania skočila oko svojih primarnih izbora 17. svibnja, porasvši za više od 546% u šest mjeseci. U kombinaciji s potencijalom za opake velike jezične modele (LLM) povrh ovih tradicionalnih phishing napada, velika je vjerojatnost da će obični Amerikanac biti meta još realističnije prijevare ove izborne sezone.

Vlade počinju primjećivati, osobito kako se umjetna inteligencija integrira u naše svakodnevne živote. Na primjer, američka Agencija za kibernetičku sigurnost i sigurnost infrastrukture pokrenula program za jačanje izborne sigurnosti – pokazujući sve veći zahtjev i vlade i javnosti da zaštite sebe i svoje podatke od potencijalnih loših aktera ove izborne sezone.

A još nedavno, na Münchenskoj sigurnosnoj konferenciji 2024., 20 tehnoloških i AI tvrtki potpisalo je “Tehnološki sporazum za borbu protiv lažne upotrebe umjetne inteligencije na izborima 2024.” koji ističe vodeća načela za zaštitu izbora i izbornog procesa uključujući prevenciju, porijeklo, otkrivanje, brzu zaštitu, procjenu i javnu svijest. Sastavljen od glavnih tehnoloških igrača, uključujući Microsoft, Amazon i Google, ovo označava važnu promjenu u industriji da je, čak i izvan političkih opredjeljenja, sigurnost podataka tema koja će podjednako brinuti građane i cyber stručnjake do kraja ove izborne godine. Štoviše, generativna umjetna inteligencija uvelike će utjecati na to kako loši akteri mogu izvesti svoje napade, olakšavajući stvaranje vrlo realističnih prijevara.

Vrste izbornih prijevara

Iako izborna sezona nije jedino vrijeme kada vidimo porast prijevara, kada dođe vrijeme za glasovanje, bilo na predizborima ili općim izborima, obično vidimo porast nekoliko metoda i tehnika. Svaki od njih koristi se s tipičnim ciljem stjecanja pristupa računu pojedinca ili novčane dobiti, a posljedice nasjedanja na njih mogu imati velike posljedice. Zapravo, sama prijevara deepfake koštala je SAD više od $ 3.4 milijardi u gubicima.

Neki primjeri prijevara koje vidimo u izbornoj sezoni uključuju:

• phishing: Phishing uključuje korištenje lažnih poveznica, e-pošte i web-mjesta za dobivanje pristupa osjetljivim informacijama potrošača – obično instaliranjem zlonamjernog softvera na ciljni sustav. Ti se podaci zatim koriste za krađu drugih identiteta, dobivanje pristupa vrijednoj imovini i pretrpavanje ulaznih sandučića neželjenom e-poštom. U predizbornoj sezoni e-poruke za krađu identiteta mogu se zakamuflirati kao e-poruke o donacijama koje navode građanine da kliknu na poveznicu, misleći da doniraju kandidatu, ali zapravo igraju u shemi lošeg glumca.
• Robopozivi, lažno predstavljanje i glasovi ili chatbotovi generirani umjetnom inteligencijom: Kao što se vidi u New Hampshireu kada robotski poziv oponaša predsjednika Bidena koji poziva građane da ne glasaju, izborna sezona dovest će do porasta lažnog predstavljanja anketara ili političkih kandidata kako bi se lažno stekli povjerenje i dobili osjetljive informacije.
• Deepfakes: S porastom AI-ja, deepfakeovi su danas postali nevjerojatno realistični i mogu se koristiti za oponašanje šefa ili čak vaše omiljene slavne osobe. Deepfakeovi su videozapisi ili slike koje koriste AI za zamjenu lica ili manipuliranje izrazima lica ili govorom. Mnogi od deepfakeova s ​​kojima se svakodnevno susrećemo bit će u obliku videozapisa, s isječkom koji prikazuje osobu koja govori ili radi nešto što možda nikada nije učinila. Očekuje se da će to biti posebno prevladavajuće ove izborne sezone s rizikom stvaranja deepfakeova za lažno predstavljanje kandidata. Čak i izvan SAD-a, primjerice u Velikoj Britaniji, postoji strah da bi se deepfakeovi mogli koristiti za lažiranje izbora.

Utjecaj AI na izbore

Povrh ovih prijevara, algoritmi umjetne inteligencije koriste se za generiranje uvjerljivijih i privlačnijih lažnih poruka, e-pošte i objava na društvenim mrežama kako bi se korisnici prevarili da odaju osjetljive informacije.

Microsoft i OpenAI objavili su brifing o prijetnjama, “Upravljanje kibernetičkim prijetnjama i jačanje obrane u eri umjetne inteligencije”, koji je istaknuo da pet aktera prijetnji iz Rusije, Sjeverne Koreje, Irana i Kine već koriste GenAI za nove i inovativne načine poboljšanja svojih operacija protiv mekih meta.

Prijevare poput chatbota, kloniranja glasa i više idu korak dalje s AI kao alatom za širenje dezinformacija, razvoj zlonamjernog softvera i lažno predstavljanje pojedinaca. Alati za kloniranje glasa mogu stvoriti gotovo savršene replike glasa ili lica izborne osobe, na primjer. AI bi se također mogla koristiti za preplavljivanje pozivnih centara lažnim pozivima glasača, zatrpavajući ih dezinformacijama.

Društveni mediji bit će na oprezu jer su oni glavno sredstvo kampanja ove izborne sezone. Glasači će podijeliti jesu li glasali i možda čak pokazati podršku svom omiljenom kandidatu na svojim stranicama. Međutim, ova godina predstavlja novu prijetnju jer vidimo novi porast AI phishing prijevara (uključujući smishing i vishing).

Razmislite je li netko objavio podršku određenom kandidatu na svom računu društvenih medija. Nekoliko minuta kasnije dobivaju e-poruku za koju se čini da je od voditelja kampanje, u kojoj im se zahvaljuje na podršci. Ta potencijalna žrtva mogla bi stupiti u kontakt s tom e-poštom klikom na vezu, otvarajući je za prikupljanje vjerodajnica, financijski gubitak ili instalaciju zlonamjernog softvera. Zbog sposobnosti umjetne inteligencije da prati, stvara i isporučuje ciljane phishing kampanje u gotovo stvarnom vremenu, naizgled nevine objave na društvenim mrežama sada otvaraju korisnicima novu razinu realističnih phishing shema.

Budite oprezni u ovoj izbornoj sezoni

Napadi poput krađe identiteta i dalje će biti uobičajen način na koji loši akteri stvaraju realistične prijevare koje mogu promaći čak i najupućenijima, au doba generativne umjetne inteligencije njihov potencijalni učinak samo je ubrzan kako bi lošim akterima omogućio brži pristup osjetljivim informacija.

Dok tvrtke koriste tehnologiju za zaštitu svojih podataka i zaposlenika, potrošači također moraju biti svjesni tehnika za uočavanje i izbjegavanje prijevara. Neki od njih uključuju:

• Tražite nasumične ili pogrešno napisane hiperveze ili retke predmeta e-pošte
• Ne kliknuti na poveznicu nepoznatog pošiljatelja
• Korištenje dvofaktorske autentifikacije ili biometrijske autentifikacije gdje god je to moguće
• Učinite račune društvenih medija privatnim
• Prijavljivanje zlonamjerne aktivnosti
• Edukacija drugih kolega ili članova obitelji
• Potražite domenu web stranice .gov kako biste provjerili autentičnost izbornog kandidata
• Ako imate IT na svom radnom mjestu, također možete pitati o:
  • Mreže nula povjerenja
  • Dvostruka autentifikacija otporna na krađu identiteta
  • Sigurnosni alati za e-poštu (DMARC, DKIM, SPF)
  • Metode za digitalno potpisivanje sadržaja (ili drugi način za kriptografsku provjeru vaše komunikacije)

Iako su predizborne sezone vrijeme kada treba biti u stanju pripravnosti, napadi se mogu dogoditi u bilo kojem trenutku, stoga je važno osigurati da su temelji vaše kibernetičke sigurnosti jaki i pouzdani tijekom cijele godine.