Den ökande påverkan av AI på valbedrägerier den här säsongen

År 2022 ökade skadliga e-postmeddelanden som riktade sig mot valarbetare i Pennsylvania markant runt primärvalen den 17 maj, med en ökning på över 546% på sex månader. I kombination med möjligheten för skadliga stora språkmodeller (LLM) ovanpå dessa traditionella phishingattacker, finns det en stor sannolikhet för att den vanliga amerikanen kommer att bli måltavla för ännu mer realistiska bedrägerier under den här valsäsongen.

Regeringar börjar att ta notis om detta, särskilt när AI integreras i våra dagliga liv. Till exempel lanserade den amerikanska myndigheten för cybersäkerhet och infrastruktursäkerhet ett program för att förbättra valsäkerheten – vilket visar på en ökande efterfrågan från både regeringen och allmänheten att skydda sig själva och sin data från potentiella illasinnade aktörer under den här valsäsongen.

Och ännu nyligen, vid 2024 års München-säkerhetskonferens, undertecknade 20 teknik- och AI-företag ett “Tekniskt avtal för att bekämpa bedräglig användning av AI i 2024 års val,” som betonar riktlinjer för att skydda val och valprocessen, inklusive förebyggande, ursprung, upptäckt, responsivt skydd, utvärdering och allmän medvetenhet. Det består av stora teknikföretag, inklusive Microsoft (MSFT ), Amazon (AMZN ) och Google, vilket markerar en viktig förändring i branschen som visar att även bortom politiska tillhörigheter är datasäkerhet ett ämne som kommer att engagera medborgare och cybersäkerhetsexperter under resten av det här valåret. Dessutom kommer generativ AI att ha en stor påverkan på hur illasinnade aktörer kan genomföra sina attacker, vilket gör det lättare att skapa mycket realistiska bedrägerier.

Typer av valbedrägerier

Medan valsäsongen inte är den enda tiden då vi ser en ökning av bedrägerier, tenderar vi att se en ökning av flera metoder och tekniker när det är dags att rösta, antingen i primärval eller allmänna val. Var och en av dessa används med det typiska målet att få tillgång till en persons konto eller ekonomisk vinning, och konsekvenserna av att falla för dem kan ha stora konsekvenser. Faktum är att deepfake-bedrägerier ensamma har kostat USA mer än 3,4 miljarder dollar i förluster.

Några exempel på bedrägerier som vi ser under valsäsongen inkluderar:

• Phishing: Phishing innebär användning av falska länkar, e-postmeddelanden och webbplatser för att få tillgång till känslig konsumentinformation – vanligtvis genom att installera skadlig kod på målsystemet. Denna data används sedan för att stjäla andra identiteter, få tillgång till värdefulla tillgångar och överbelasta inkorgar med e-postskräp. Under en valsäsong kan phishing-e-postmeddelanden kamufleras som insamlingsmeddelanden som får en medborgare att klicka på länken, tro att de donerar till en kandidat, men i själva verket spelar de in i en illasinnad aktörs schema.
• Robosamtal, imitationer och AI-genererade röster eller chattbotar: Som vi såg i New Hampshire när ett robosamtal imiterade president Biden och uppmanade medborgare att inte rösta, kommer valsäsongen att medföra en ökning av imitationer av opinionsundersökare eller politiska kandidater för att falskt vinna förtroende och få känslig information.
• Deepfakes: Med den ökande användningen av AI har deepfakes blivit otroligt realistiska idag och kan användas för att imitera en chef eller till och med din favoritkändis. Deepfakes är videor eller bilder som använder AI för att ersätta ansikten eller manipulera ansiktsuttryck eller tal. Många av de deepfakes vi möter dagligen kommer att vara i form av en video, med en förfalskad klipp som visar personen som säger eller gör något de kanske aldrig har gjort. Detta förväntas vara särskilt vanligt under den här valsäsongen med risken för att deepfakes skapas för att imitera kandidater. Även utanför USA, som i Storbritannien, finns det farhågor om att deepfakes kan användas för att manipulera val.

AI:s påverkan på val

Utöver dessa bedrägerier används AI-algoritmer för att generera mer övertygande och engagerande falska meddelanden, e-postmeddelanden och sociala medieinlägg för att lura användare att avslöja känslig information.

Microsoft och OpenAI publicerade en hotbriefing, “Navigering av cyberhot och förstärkning av försvar i AI-eran“, som noterade att fem hotaktörer från Ryssland, Nordkorea, Iran och Kina redan har använt GenAI för nya och innovativa sätt att förbättra sina operationer mot mjuka mål.

Bedrägerier som chattbotar, röstkloning och mer tas till en ny nivå med AI som ett verktyg för att sprida desinformation, utveckla skadlig kod och imitera individer. Röstkloningverktyg kan skapa nästan perfekta replikor av en valfigur eller ansikte, till exempel. AI kunde också användas för att översvämma valcentraler med falska väljaranrop, vilket skulle överbelasta dem med desinformation.

På högsta beredskap kommer att vara sociala medier, eftersom det är en huvudkanal för kampanjer under den här valsäsongen. Väljare kommer att dela om de har röstat och kanske till och med visa sitt stöd för sin favoritkandidat på sina sidor. Men i år utgör detta en ny risk, eftersom vi ser en ny ökning av AI-phishing (inklusive smishing och vishing) bedrägerier.

Tänk om någon publicerade ett inlägg på sitt sociala mediekonto som visade stöd för en specifik kandidat. Några minuter senare får de ett e-postmeddelande som ser ut att komma från en kampanjledare, tackar dem för deras stöd. Den potentiella offret kunde engagera sig med det e-postmeddelandet genom att klicka på en länk, vilket skulle öppna dem upp för autentiseringsuppgiftsinsamling, ekonomisk förlust eller installation av skadlig kod. Eftersom AI har förmågan att övervaka, skapa och leverera riktade phishing-kampanjer i nästan realtid, öppnar till synes oskyldiga sociala medieinlägg nu upp användare för en ny nivå av realistiska phishing-scheman.

Att förbli vaksam under valsäsongen

Attacker som phishing kommer att fortsätta att vara ett vanligt sätt för illasinnade aktörer att skapa realistiska bedrägerier som kan smyga förbi även de mest kunniga, och i AI-eran har potentialen för dessa accelererats för att ge illasinnade aktörer snabbare tillgång till känslig information.

Medan företag distribuerar teknik för att skydda sin data och anställda, måste konsumenter också vara medvetna om tekniker för att upptäcka och undvika bedrägerier. Några av dessa inkluderar:

• Att leta efter slumpmässiga eller felstavade hyperlänkar eller e-postämnesrader
• Att inte klicka på en länk från en okänd avsändare
• Att använda tvåfaktorsautentisering eller biometrisk autentisering där det är möjligt
• Att göra sociala mediekonton privata
• Att rapportera skadlig aktivitet
• Att utbilda andra kollegor eller familjemedlemmar
• Att leta efter en .gov-webbplatsdomän för att verifiera äktheten av en valkandidat
• Om du har IT på din arbetsplats kan du också fråga om:
  • Nolltillitnätverk
  • Phishing-resistenta tvåfaktorsautentisering
  • E-postskyddverktyg (DMARC, DKIM, SPF)
  • Metoder för att digitalt signera innehåll (eller ett annat sätt att kryptografiskt verifiera din kommunikation)

Även om valsäsongen är en tid att vara på hög beredskap, kan attacker hända när som helst, så det är viktigt att säkerställa att dina cybersäkerhetsgrunder är starka och tillförlitliga året runt. säkerhet tools (DMARC, DKIM, SPF) Metoder för att digitalt signera innehåll (eller ett annat sätt att kryptografiskt verifiera din kommunikation) Även om valsäsongen är en tid att vara på hög beredskap, kan attacker hända när som helst, så det är viktigt att säkerställa att dina cybersäkerhetsgrunder är starka och tillförlitliga året runt.