Impactul în creștere al inteligenței artificiale asupra înșelătoriilor electorale în acest sezon

În 2022, e-mailuri rău intenționate care vizează lucrătorii electorali din comitatul Pennsylvania a crescut în preajma alegerilor sale primare din 17 mai, crescând cu peste 546% în șase luni. Împreună cu potențialul de modele de limbaj mari (LLM) nefaste pe lângă aceste atacuri tradiționale de phishing, există o mare probabilitate ca americanul obișnuit să fie ținta unei escrocherii și mai realiste în acest sezon electoral.

Guvernele încep să ia atenție, mai ales pe măsură ce AI devine integrată în viața noastră de zi cu zi. De exemplu, Agenția SUA pentru Securitate Cibernetică și Securitate a Infrastructurii a lansat un program de creștere a securității electorale – demonstrând o cerere din ce în ce mai mare atât din partea guvernului, cât și a publicului de a se proteja pe ei înșiși și datele lor de potențialii actori răi în acest sezon electoral.

Și chiar mai recent, la Conferința de securitate de la München din 2024, 20 de companii de tehnologie și inteligență artificială au semnat un „Acordul tehnologic pentru combaterea utilizării înșelătoare a inteligenței artificiale în alegerile din 2024”, care evidențiază principiile directoare pentru protejarea alegerilor și a procesului electoral, inclusiv prevenirea, proveniența, detectarea, protecția receptivă, evaluarea și conștientizarea publicului. Format din actori tehnologici importanți, inclusiv Microsoft, Amazon și Google, aceasta semnifică o schimbare importantă în industrie, care chiar și dincolo de afilierile politice, securitatea datelor este un subiect care va preocupa cetățenii și experții cibernetici deopotrivă pe tot restul acestui an electoral. Mai mult, AI generativă va avea un impact semnificativ asupra modului în care actorii răi își pot duce atacurile, facilitând realizarea de escrocherii extrem de realiste.

Tipuri de escrocherii electorale

Deși sezonul electoral nu este singurul moment în care observăm o creștere a înșelătoriilor, atunci când vine timpul să votăm, fie la primare, fie la alegerile generale, avem tendința de a observa o creștere a mai multor metode și tehnici. Fiecare dintre acestea sunt utilizate cu scopul tipic de a obține acces la contul unui individ sau la un câștig monetar, iar consecințele căderii lor pot avea consecințe majore. De fapt, doar frauda deepfake a costat SUA mai mult decât $ 3.4 de miliarde de în pierderi.

Câteva exemple de escrocherii pe care le vedem în timpul sezonului electoral includ:

• Phishing: Phishing-ul implică utilizarea de linkuri, e-mailuri și site-uri web false pentru a obține acces la informații sensibile ale consumatorilor – de obicei prin instalarea de programe malware pe sistemul țintă. Aceste date sunt apoi folosite pentru a fura alte identități, pentru a obține acces la bunuri valoroase și pentru a supraîncărca căsuțele de e-mail cu spam. Într-un sezon electoral, e-mailurile de phishing pot fi camuflate ca e-mailuri de donație, determinând un cetățean să facă clic pe link, crezând că donează unui candidat, dar de fapt joacă în schema unui actor rău.
• Apeluri automate, uzurpare a identității și voce sau chatbot generați de AI: După cum se vede în New Hampshire atunci când un apel automat l-a uzurpat pe președintele Biden, îndemnând cetățenii să nu voteze, sezonul electoral va aduce o creștere a usurărilor de identități ale sondatorilor sau ale candidaților politici pentru a câștiga în mod fals încrederea și a obține informații sensibile.
• Deepfakes: Odată cu creșterea inteligenței artificiale, deepfake-urile au devenit incredibil de realiste astăzi și pot fi folosite pentru a uzurpa identitatea unui șef sau chiar a celebrității tale preferate. Deepfake-urile sunt videoclipuri sau imagini care utilizează inteligența artificială pentru a înlocui fețele sau pentru a manipula expresiile faciale sau vorbirea. Multe dintre deepfake-urile pe care le întâlnim zilnic vor fi sub forma unui videoclip, cu un clip falsificat care înfățișează persoana spunând sau făcând ceva ce poate nu ar fi făcut niciodată. Se așteaptă ca acest lucru să fie deosebit de răspândit în acest sezon electoral, cu riscul ca deepfake-uri să fie create pentru a uzurpa identitatea candidaților. Chiar și în afara SUA, cum ar fi în Marea Britanie, există temeri că deepfake-urile ar putea fi folosite pentru a truca alegerile.

Impactul AI asupra alegerilor

Pe lângă aceste escrocherii, algoritmii AI sunt folosiți pentru a genera mesaje, e-mailuri și postări false mai convingătoare și mai atractive pentru a-i păcăli pe utilizatori să renunțe la informații sensibile.

Microsoft și OpenAI au publicat un briefing despre amenințări, „Navigarea amenințărilor cibernetice și consolidarea apărării în era AI”, care a remarcat că cinci actori de amenințări din Rusia, Coreea de Nord, Iran și China au folosit deja GenAI pentru modalități noi și inovatoare de a-și îmbunătăți operațiunile împotriva țintelor slabe.

Escrocherii precum chatbot-urile, clonarea vocii și multe altele sunt făcute cu un pas mai departe, cu inteligența artificială ca instrument pentru a răspândi dezinformarea, a dezvolta malware și a uzurpa identitatea persoanelor. Instrumentele de clonare a vocii pot crea replici aproape perfecte ale vocii sau feței unei figuri electorale, de exemplu. Inteligența artificială ar putea fi, de asemenea, folosită pentru a inunda centrele de apeluri cu apeluri false ale alegătorilor, copleșindu-i cu dezinformări.

În cea mai mare alertă va fi rețelele sociale, deoarece este un vehicul principal pentru campaniile din acest sezon electoral. Alegătorii vor împărtăși dacă au votat și poate chiar vor arăta sprijin pentru candidatul lor preferat pe paginile lor. Cu toate acestea, anul acesta reprezintă o nouă amenințare, deoarece observăm o nouă creștere a înșelătoriilor de tip phishing AI (pentru a include smishing și vishing).

Luați în considerare dacă cineva a postat în contul său de socializare suport pentru un anumit candidat. Câteva minute mai târziu, primesc un e-mail care pare să fie de la un manager de campanie, mulțumindu-le pentru sprijinul acordat. Acea potențială victimă ar putea interacționa cu acel e-mail făcând clic pe un link, deschizându-le spre colectarea de acreditări, pierderi financiare sau instalare malware. Datorită capacității AI de a monitoriza, crea și livra campanii de phishing țintite aproape în timp real, postările aparent inocente pe rețelele sociale deschid acum utilizatorii la un nou nivel de scheme realiste de phishing.

Rămâneți vigilenți în acest sezon electoral

Atacurile precum phishing-ul vor continua să fie o modalitate obișnuită pentru actorii răi de a crea înșelătorii realiste care pot scăpa chiar și de cei mai cunoscători, iar în era IA generativă, impactul potențial al acestora a fost accelerat doar pentru a permite actorilor răi acces mai rapid la informații sensibile. informație.

În timp ce companiile implementează tehnologia pentru a-și proteja datele și angajații, consumatorii trebuie să fie, de asemenea, conștienți de tehnicile pentru a detecta și a evita înșelătoriile. Unele dintre acestea includ:

• Căutați hyperlinkuri aleatoare sau greșite sau linii de subiect ale e-mailului
• Nu faceți clic pe un link de la un expeditor necunoscut
• Folosind autentificarea cu doi factori sau autentificarea biometrică ori de câte ori este posibil
• Privind conturile de rețele sociale
• Raportarea activităților rău intenționate
• Educarea altor colegi sau membri ai familiei
• Căutați un domeniu de site .gov pentru a verifica autenticitatea unui candidat electoral
• Dacă aveți IT la locul de muncă, puteți întreba și despre:
  • Rețele Zero Trust
  • Autentificare cu doi factori rezistentă la phishing
  • Instrumente de securitate pentru e-mail (DMARC, DKIM, SPF)
  • Metode de semnare digitală a conținutului (sau altă modalitate de verificare criptografică a comunicațiilor)

Deși sezonul electoral este un moment pentru a fi în alertă maximă, atacurile pot avea loc în orice moment, așa că este important să vă asigurați că bazele dvs. de securitate cibernetică sunt solide și de încredere pe tot parcursul anului.