Az AI növekvő hatása a választási csalásokra ebben a szezonban

2022-ben a Pennsylvania megyei választási dolgozókat célzó rosszindulatú e-mailek ugrott május 17-i előválasztása körül, hat hónap alatt több mint 546%-kal nőtt. A hagyományos adathalász támadásokon túlmenően az aljas nagy nyelvi modellek (LLM) lehetőségével párosulva nagy a valószínűsége annak, hogy a hétköznapi amerikaiak egy még valósághűbb átverés célpontja lesz ebben a választási szezonban.

A kormányok kezdik ezt észrevenni, különösen akkor, amikor a mesterséges intelligencia beépül mindennapi életünkbe. Például az Egyesült Államok Kiberbiztonsági és Infrastruktúrabiztonsági Ügynöksége indított egy program a választási biztonság fokozására – a kormány és a közvélemény növekvő igénye arra, hogy megvédjék magukat és adataikat a potenciális rossz szereplőktől ebben a választási szezonban.

És még a közelmúltban, a 2024-es müncheni biztonsági konferencián 20 technológiai és mesterséges intelligencia vállalat írt alá egy megállapodást. „Tech Accord az AI megtévesztő felhasználása elleni küzdelemben a 2024-es választásokon” amely kiemeli a választások és a választási folyamat védelmének vezérelveit, beleértve a megelőzést, a származást, a felderítést, a reagáló védelmet, az értékelést és a közvélemény tudatosítását. A jelentős technológiai szereplők – köztük a Microsoft, az Amazon és a Google – alkotják, ez fontos változást jelent az iparágban, mivel az adatbiztonság még a politikai hovatartozáson túl is olyan téma, amely a polgárokat és a kiberszakértőket egyaránt foglalkoztatja a választási év hátralévő részében. Ezenkívül a generatív mesterséges intelligencia nagyban befolyásolja, hogy a rossz szereplők milyen támadásokat hajthatnak végre, megkönnyítve a rendkívül valósághű csalásokat.

A választási csalások típusai

Bár nem a választási szezon az egyetlen alkalom, amikor a csalások növekedését tapasztaljuk, amikor szavazni kell, akár az előválasztáson, akár az általános választásokon, több módszer és technika növekedését tapasztaljuk. Mindegyiket azzal a tipikus céllal használják, hogy hozzáférést kapjanak az egyén számlájához vagy pénzbeli haszonhoz, és az elesésük következményei súlyos következményekkel járhatnak. Valójában a mélyhamisítás önmagában többe került az Egyesült Államoknak, mint 3.4 milliárd $ veszteségekben.

Néhány példa a választási szezon során tapasztalt csalásra:

• Adathalászat: Az adathalászat hamis hivatkozások, e-mailek és webhelyek használatát jelenti a fogyasztók bizalmas információihoz való hozzáférés érdekében – általában rosszindulatú program telepítésével a célrendszerre. Ezeket az adatokat aztán más identitások ellopására, értékes eszközökhöz való hozzáférésre és a beérkező levelek levélszeméttel való túlterhelésére használják fel. A választási szezonban az adathalász e-maileket adományozási e-maileknek lehet álcázni, amelyek arra késztetik az állampolgárokat, hogy rákattintsanak a linkre, azt gondolva, hogy egy jelöltnek adományoznak, de valójában egy rossz színész tervét játszák el.
• Robohívások, megszemélyesítések és mesterséges intelligencia által generált hang- vagy chatbotok: Ahogy New Hampshire-ben látták Amikor egy roboccal kiadta magát Biden elnöknek, és arra buzdította a polgárokat, hogy ne szavazzanak, a választási szezonban megnövekszik a közvélemény-kutatók vagy politikai jelöltek megszemélyesítése, hogy hamisan kivívják a bizalmat és érzékeny információkat szerezzenek.
• Deep hamisítványok: A mesterséges intelligencia térnyerésével a mélyhamisítások hihetetlenül valósághűvé váltak, és felhasználhatók egy főnök vagy akár a kedvenc híresség megszemélyesítésére. A mélyhamisítások olyan videók vagy képek, amelyek mesterséges intelligencia segítségével helyettesítik az arcokat, vagy manipulálják az arckifejezéseket vagy a beszédet. Sok hamisítvány, amellyel naponta találkozunk, videó formájában jelenik meg, amelyen egy jól megszerkesztett klip ábrázolja azt a személyt, aki olyasmit mond vagy tesz, amit talán soha nem csinált. Ez várhatóan különösen gyakori lesz ebben a választási szezonban, mivel fennáll annak a veszélye, hogy hamisítványokat készítenek a jelöltek megszemélyesítésére. Még az Egyesült Államokon kívül is, például az Egyesült Királyságban, attól tartanak, hogy a mélyhamisításokat a választások meghamisítására használhatják.

Az AI hatása a választásokra

Ezeken a csalásokon felül mesterséges intelligencia algoritmusokat használnak meggyőzőbb és vonzóbb hamis üzenetek, e-mailek és közösségi média bejegyzések generálására, hogy rávegyék a felhasználókat arra, hogy érzékeny információkat adjanak fel.

A Microsoft és az OpenAI fenyegetési tájékoztatót tett közzé:Navigálás a kiberfenyegetések és a védelem megerősítése az AI korszakában”, amely megjegyezte, öt orosz, észak-koreai, iráni és kínai fenyegetettség szereplője már mind a GenAI-t használta új és innovatív módszerekre a puha célpontok elleni műveleteik fokozására.

Az olyan csalások, mint a chatbotok, a hangklónozás és egyebek egy lépéssel tovább lépnek az AI-val, amely a téves információk terjesztésére, rosszindulatú programok fejlesztésére és egyének megszemélyesítésére szolgál. A hangklónozó eszközök közel tökéletes másolatokat készíthetnek például egy választási alak hangjáról vagy arcáról. A mesterséges intelligencia arra is használható, hogy hamis szavazóhívásokkal árasszák el a telefonközpontokat, félretájékoztatva őket.

A közösségi média lesz a legnagyobb riasztásban, mivel ez a kampányok fő eszköze ebben a választási szezonban. A szavazók megosztják velünk, hogy szavaztak-e, és talán még támogatják is kedvenc jelöltjüket oldalaikon. Az idei év azonban új fenyegetést jelent, mivel új növekedést tapasztalunk az AI adathalászat (beleértve a smishing és vishing) csalások számát.

Fontolja meg, hogy valaki közzétette-e a közösségi médiában egy adott jelölt támogatását. Néhány perccel később kapnak egy e-mailt, amely mintha egy kampánymenedzsertől érkezett volna, és megköszönik a támogatásukat. A potenciális áldozat kapcsolatba léphet az e-maillel, ha rákattint egy linkre, és megnyithatja őt a hitelesítő adatok begyűjtése, pénzügyi veszteségek vagy rosszindulatú programok telepítése előtt. A mesterséges intelligencia azon képessége miatt, hogy közel valós időben képes nyomon követni, létrehozni és célzott adathalász kampányokat végezni, az ártatlannak tűnő közösségi média bejegyzések most a valósághű adathalászati ​​sémák új szintjére nyitják meg a felhasználókat.

Továbbra is éber ebben a választási szezonban

Az olyan támadások, mint az adathalászat, továbbra is gyakori módja annak, hogy a rossz színészek valósághű átveréseket hozzanak létre, amelyek még a legtudatosabbakat is elúszhatják, és a generatív mesterséges intelligencia korában ezek lehetséges hatását csak felgyorsították, hogy a rossz szereplők gyorsabban hozzáférhessenek az érzékeny információkhoz. információ.

Míg a vállalkozások technológiát alkalmaznak adataik és alkalmazottaik védelme érdekében, a fogyasztóknak tisztában kell lenniük a csalások észlelésének és elkerülésének technikáival is. Ezek közül néhány a következőket tartalmazza:

• Véletlenszerű vagy hibás hiperhivatkozások vagy e-mail tárgysorok keresése
• Nem kattint egy ismeretlen feladótól származó linkre
• Kéttényezős hitelesítés vagy biometrikus hitelesítés alkalmazása, ahol csak lehetséges
• A közösségi média fiókok priváttá tétele
• Rosszindulatú tevékenység jelentése
• Más kollégák vagy családtagok oktatása
• Keressen egy .gov webhelydomaint a választási jelölt hitelességének ellenőrzéséhez
• Ha van informatikai szolgáltatása a munkahelyén, akkor a következőkről is kérdezhet:
  • Zero Trust hálózatok
  • Adathalászat-ellenálló kétfaktoros hitelesítés
  • E-mail biztonsági eszközök (DMARC, DKIM, SPF)
  • A tartalom digitális aláírásának módszerei (vagy a kommunikáció kriptográfiai ellenőrzésének más módja)

Bár a választási szezon a fokozott éberség időszaka, a támadások bármikor megtörténhetnek, ezért fontos, hogy a kiberbiztonsági alapok erősek és megbízhatóak legyenek egész évben.