Rostoucí dopad AI na volební podvody v této sezóně

V roce 2022, škodlivé e-maily zaměřené na volební pracovníky v Pensylvánii vzrostl kolem svých primárních voleb 17. května, během šesti měsíců vzrostl o více než 546 %. Ve spojení s potenciálem pro hanebné velké jazykové modely (LLM) vedle těchto tradičních phishingových útoků je vysoká pravděpodobnost, že se každodenní Američané stanou v této volební sezóně cílem ještě realističtějšího podvodu.

Vlády si toho začínají všímat, zvláště když se umělá inteligence začleňuje do našeho každodenního života. Například americká Agentura pro kybernetickou bezpečnost a bezpečnost infrastruktury zahájena program na posílení volební bezpečnosti – demonstrující rostoucí požadavek vlády i veřejnosti na ochranu sebe a svých dat před potenciálními špatnými aktéry v této volební sezóně.

A ještě nedávno, na Mnichovské bezpečnostní konferenci v roce 2024, podepsalo 20 technologických a AI společností a „Technický souhlas k boji proti podvodnému používání AI ve volbách v roce 2024,“ který zdůrazňuje hlavní zásady ochrany voleb a volebního procesu, včetně prevence, původu, detekce, citlivé ochrany, hodnocení a informovanosti veřejnosti. Tvoří ji hlavní tech hráči včetně Microsoftu, Amazonu a Google, což znamená důležitý posun v tomto odvětví, že i mimo politickou příslušnost je bezpečnost dat tématem, které bude znepokojovat občany i kybernetické odborníky po zbytek tohoto volebního roku. Navíc generativní umělá inteligence výrazně ovlivní, jak mohou špatní herci provádět své útoky, což usnadní provádění vysoce realistických podvodů.

Druhy volebních podvodů

I když volební období není jediným obdobím, kdy jsme svědky nárůstu podvodů, když přijde čas volit, ať už v primárkách, nebo ve všeobecných volbách, máme tendenci vidět nárůst několika metod a technik. Každý z nich se používá s typickým cílem získat přístup k účtu jednotlivce nebo k peněžnímu zisku a důsledky pádu na ně mohou mít vážné důsledky. Ve skutečnosti samotný deepfake podvod stál USA více než $ 3.4 miliardy ve ztrátách.

Některé příklady podvodů, které vidíme kolem volebního období, zahrnují:

• Phishing: Phishing zahrnuje použití falešných odkazů, e-mailů a webových stránek k získání přístupu k citlivým informacím spotřebitelů – obvykle instalací malwaru do cílového systému. Tato data se pak použijí ke krádeži dalších identit, získání přístupu k cenným aktivům a přetížení doručené pošty e-mailovým spamem. Ve volební sezóně mohou být phishingové e-maily maskovány jako darovací e-maily, které vyzývají občana, aby klikl na odkaz v domnění, že daruje kandidátovi, ale ve skutečnosti hraje na schéma špatného herce.
• Robotické hovory, zosobnění a hlas nebo chatboti generované umělou inteligencí: Jak je vidět v New Hampshire když se robotická výzva vydávala za prezidenta Bidena a vyzývala občany, aby nevolili, volební období povede k nárůstu vydávání se za hlasatele průzkumu veřejného mínění nebo politických kandidátů s cílem falešně získat důvěru a získat citlivé informace.
• Deepfakes: S nástupem umělé inteligence se dnes deepfakes staly neuvěřitelně realistickými a lze je použít k napodobení šéfa nebo dokonce vaší oblíbené celebrity. Deepfakes jsou videa nebo obrázky, které využívají umělou inteligenci k nahrazení obličejů nebo manipulaci s výrazy obličeje nebo řečí. Mnoho deepfakes, se kterými se denně setkáváme, bude ve formě videa s upraveným klipem zobrazujícím osobu, která říká nebo dělá něco, co možná nikdy neudělala. Očekává se, že to bude převládat zejména v této volební sezóně s rizikem, že budou vytvořeny deepfakes za účelem předstírání identity kandidátů. Dokonce i mimo USA, jako například ve Spojeném království, existují obavy, že by deepfakes mohly být použity ke zmanipulování voleb.

Vliv AI na volby

Kromě těchto podvodů se používají algoritmy umělé inteligence k generování přesvědčivějších a poutavějších falešných zpráv, e-mailů a příspěvků na sociálních sítích, aby přiměli uživatele, aby se vzdali citlivých informací.

Microsoft a OpenAI zveřejnily briefing o hrozbách, “Navigace v kybernetických hrozbách a posilování obrany v éře AI“, která poznamenala, že pět aktérů hrozeb z Ruska, Severní Koreje, Íránu a Číny již používá GenAI pro nové a inovativní způsoby, jak zlepšit své operace proti měkkým cílům.

Podvody, jako jsou chatboti, klonování hlasu a další, jsou díky umělé inteligenci jako nástroji k šíření dezinformací, vývoji malwaru a vydávání se za jednotlivce o krok dále. Nástroje pro klonování hlasu dokážou vytvořit téměř dokonalé repliky například hlasu nebo tváře volební postavy. Umělá inteligence by také mohla být použita k zahlcení call center falešnými hovory voličů a jejich zahlcení dezinformacemi.

V nejvyšší pohotovosti budou sociální média, protože jsou hlavním prostředkem kampaní v této volební sezóně. Voliči budou sdílet, zda hlasovali, a možná na svých stránkách dokonce projeví podporu svému oblíbenému kandidátovi. Tento rok však představuje novou hrozbu, protože jsme svědky nového nárůstu phishingu s umělou inteligencí (včetně smishingu a vishingu) podvodů.

Představte si, že někdo na svém účtu na sociálních sítích zveřejní příspěvek na podporu konkrétního kandidáta. O několik minut později obdrží e-mail, který vypadá, že je od manažera kampaně a děkuje mu za podporu. Potenciální oběť by mohla na tento e-mail reagovat kliknutím na odkaz, čímž by se vystavila riziku odcizení přihlašovacích údajů, finanční ztráty nebo instalace malwaru. Díky schopnosti umělé inteligence monitorovat, vytvářet a realizovat cílené phishingové kampaně téměř v reálném čase se zdánlivě nevinné příspěvky na sociálních sítích otevírají uživatelům novou úroveň realistických phishingových schémat.

V tomto volebním období buďte ostražití

Útoky, jako je phishing, budou i nadále běžným způsobem, jak špatní herci vytvářet realistické podvody, které mohou uniknout i těm nejzkušenějším, a ve věku generativní umělé inteligence se jejich potenciální dopad pouze urychlil, aby se špatným hercům umožnil rychlejší přístup k citlivým informace.

Zatímco podniky nasazují technologie k ochraně svých dat a zaměstnanců, spotřebitelé si také musí být vědomi technik, jak odhalit podvody a vyhnout se jim. Některé z nich zahrnují:

• Dávejte pozor na náhodné nebo chybně napsané hypertextové odkazy nebo řádky s předmětem e-mailu
• Nekliknutí na odkaz od neznámého odesílatele
• Použití dvoufaktorové autentizace nebo biometrické autentizace, kdykoli je to možné
• Nastavení účtů na sociálních sítích jako soukromých
• Hlášení škodlivé aktivity
• Vzdělávání ostatních kolegů nebo rodinných příslušníků
• Pro ověření pravosti volebního kandidáta vyhledejte doménu webu .gov
• Pokud máte na pracovišti IT, můžete se také zeptat na:
  • Sítě s nulovou důvěrou
  • Dvoufaktorové ověřování odolné proti phishingu
  • Nástroje pro zabezpečení e-mailu (DMARC, DKIM, SPF)
  • Metody digitálního podepisování obsahu (nebo jiný způsob, jak kryptograficky ověřit vaši komunikaci)

Přestože jsou volební období obdobím zvýšené pohotovosti, k útokům může dojít kdykoli, takže je důležité zajistit, aby vaše základy kybernetické bezpečnosti byly silné a spolehlivé po celý rok.