Rostoucí dopad AI na volební podvody v této sezóně

V roce 2022 se zlomyslné e-maily cílené na pracovníky okresních voleb v Pensylvánii prudce zvýšily kolem primárních voleb 17. května, a to o více než 546 % za šest měsíců. V kombinaci s potenciálem pro zlověstné velké jazykové modely (LLM) nad těmito tradičními phishingovými útoky existuje vysoká pravděpodobnost, že běžný Američan bude terčem ještě více realistického podvodu v této volební sezóně.

Vládám začíná docházet, že se AI začíná integrovat do našeho každodenního života. Například agentura U.S. Cybersecurity and Infrastructure Security Agency spustila program na zvýšení bezpečnosti voleb – což ukazuje na rostoucí poptávku ze strany vlády i veřejnosti chránit sebe, svá data a před potenciálními špatnými aktéry v této volební sezóně.

A ještě nedávno, na 2024 Mnichovské bezpečnostní konferenci, 20 technologických a AI společností podepsalo “Tech Accord to Combat Deceptive Use of AI in 2024 Elections,” který zdůrazňuje směrnice na ochranu voleb a volebního procesu, včetně prevence, původu, detekce, ochrany a veřejné osvěty. Skupina se skládá z významných technologických hráčů, včetně Microsoftu, Amazonu a Googlu, což signalizuje důležitý posun v odvětví, který ukazuje, že i za hranicemi politických afiliací je bezpečnost dat tématem, které bude zajímat občany i kybernetické odborníky po zbytek tohoto volebního roku. Navíc, generativní AI bude mít velký dopad na to, jak špatní aktéři mohou provádět své útoky, což jim umožní vytvářet vysoce realistické podvody.

Typy volebních podvodů

Zatímco volební sezóna není jediným obdobím, kdy vidíme nárůst podvodů, když nastane čas volit, buď v primárních nebo všeobecných volbách, tendence vidět nárůst několika metod a technik. Každá z nich je použita s typickým cílem získat přístup k účtu jednotlivce nebo získat peněžní zisk a důsledky pádu na ně mohou mít vážné následky. Skutečně, deepfake podvody samotné stály USA více než 3,4 miliardy dolarů v ztrátách. (AMZN )

Některé příklady podvodů, které vidíme kolem volební sezóny, zahrnují:

• Phishing: Phishing zahrnuje použití falešných odkazů, e-mailů a webových stránek k získání přístupu k citlivým informacím spotřebitelů – obvykle instalací malwaru na cílovém systému. Tyto údaje jsou poté použity ke krádeži dalších identit, získání přístupu k cenným aktivům a zahlcení schránek e-mailovým spamem. V volební sezóně mohou být phishingové e-maily maskovány jako e-maily s žádostí o dar, aby občan klikl na odkaz, domnívaje se, že daruje kandidátovi, ale ve skutečnosti hraje do karet špatnému aktérovi.
• Robocalls, Impersonations, and AI-generated voice or chatbots: Jako se stalo v New Hampshire, kdy robocall napodoboval prezidenta Bidena a vyzýval občany, aby nevolili, volební sezóna přinese nárůst impersonací volebních pracovníků nebo politických kandidátů, aby falešně získali důvěru a získali citlivé informace.
• Deepfakes: S rostoucí popularitou AI se deepfakes staly nesmírně realistickými a mohou být použity k napodobení šéfa nebo dokonce vaší oblíbené celebrity. Deepfakes jsou videa nebo obrázky, které používají AI k nahrazení obličeje nebo manipulaci s mimikou nebo řečí. Mnoho deepfakes, se kterými se setkáváme denně, bude ve formě videa, s upraveným klipem, který zobrazuje osobu, která říká nebo dělá něco, co nikdy neřekla nebo nedělala. To se očekává, že bude zejména časté v této volební sezóně, s rizikem, že deepfakes budou vytvářeny k napodobení kandidátů. I mimo USA, jako je ve Spojeném království, existují obavy, že deepfakes mohou být použity k ovlivnění voleb.

Dopad AI na volby

Kromě těchto podvodů jsou algoritmy AI používány k vytváření více přesvědčivých a atraktivních falešných zpráv, e-mailů a příspěvků na sociálních sítích, aby oklamali uživatele a získali citlivé informace.

Microsoft (MSFT ) a OpenAI zveřejnily bezpečnostní zprávu, “Navigating Cyberthreats And Strengthening Defenses In The Era Of AI,” která uvedla, že pět hrozeb ze strany Ruska, Severní Koreje, Íránu a Číny již používá GenAI pro nové a inovativní způsoby, jak vylepšit své operace proti měkkým cílům.

Podvody, jako jsou chatboty, voice cloning a další, jsou dále rozvinuty pomocí AI jako nástroje pro šíření dezinformací, vytváření malwaru a napodobení osob. Nástroje pro voice cloning mohou vytvořit téměř dokonalé repliky hlasu nebo obličeje volební osobnosti, například. AI může být také použita k zahlcení volebních center falešnými volebními hovory, čímž je zahlcuje dezinformacemi.

Na nejvyšší úrovni bdělosti budou sociální sítě, protože jsou hlavním vozidlem pro kampaně v této volební sezóně. Voliči budou sdílet, zda již volili, a možná dokonce projeví podporu svému oblíbenému kandidátovi na svých stránkách. Nicméně, tento rok představuje novou hrozbu, protože vidíme nárůst AI phishingových (včetně smishingu a vishingu) podvodů.

Představte si, že někdo zveřejnil na svém účtu na sociálních sítích podporu konkrétního kandidáta. O několik minut později obdrží e-mail, který vypadá, jako by pocházel od manažera kampaně, děkování za jejich podporu. Potenciální oběť by mohla interagovat s tímto e-mailem kliknutím na odkaz, čímž by se otevřela možnost krádeže přihlašovacích údajů, finančních ztrát nebo instalace malwaru. Vzhledem k tomu, že AI je schopna monitorovat, vytvářet a doručovat cílené phishingové kampaně v near-reálném čase, zdánlivě neškodné příspěvky na sociálních sítích nyní otevírají uživatele novému levelu realistických phishingových schémat.

Zůstávání bdělými v této volební sezóně

Útoky, jako je phishing, budou i nadále běžným způsobem, jak špatní aktéři vytvářejí realistické podvody, které mohou projít i těmi nejzkušenějšími, a ve věku generativní AI se potenciál těchto útoků pouze urychlil, aby umožnil špatným aktérům rychlejší přístup k citlivým informacím.

Zatímco podniky nasazují technologii na ochranu svých dat a zaměstnanců, spotřebitelé musí být také vědomi technik, jak rozpoznat a vyhnout se podvodům. Některé z nich zahrnují:

• Vyhledávání náhodných nebo chybně psaných odkazů nebo předmětů e-mailů
• Neklikání na odkaz od neznámého odesílatele
• Používání dvoufaktorové autentizace nebo biometrické autentizace, kde je to možné
• Učinění sociálních médií soukromými
• Hlášení škodlivé činnosti
• Vzdělávání dalších kolegů nebo členů rodiny
• Vyhledání .gov webové domény pro ověření autenticity volebního kandidáta
• Pokud máte IT na svém pracovišti, můžete se také zeptat na:
  • Sítě Zero Trust
  • Dvoufaktorovou autentizaci odolnou proti phishingu
  • Nástroje pro bezpečnost e-mailů (DMARC, DKIM, SPF)
  • Metody pro digitální podepisování obsahu (nebo jiný způsob, jak kryptograficky ověřit vaše komunikace)

Ačkoli volební sezóny jsou dobou, kdy je třeba být na vysoké úrovni bdělosti, útoky mohou nastat kdykoli, takže je důležité zajistit, aby vaše základy kybernetické bezpečnosti byly silné a spolehlivé po celý rok.