Den stigende indvirkning af kunstig intelligens på valgsvindel denne sæson

I 2022 oplevede Pennsylvania et stort antal ondsindede e-mails, der var rettet mod valgmedarbejdere i amtet, steg omkring primærvalget den 17. maj, og steg med mere end 546% på seks måneder. Sammen med muligheden for skurkagtige store sprogmodeller (LLM’er) oven på disse traditionelle phishing-angreb, er der en stor sandsynlighed for, at den gennemsnitlige amerikaner vil blive mål for endnu mere realistiske svindel denne valgsæson.

Regeringer begynder at lægge mærke til det, især da kunstig intelligens integreres i vores daglige liv. For eksempel lancerede den amerikanske myndighed for cybersikkerhed og infrastruktursikkerhed et program for at styrke valgsikkerheden – hvilket viser en stigende efterspørgsel fra både regeringen og offentligheden om at beskytte sig selv og deres data mod potentielle skurke denne valgsæson.

Og endnu mere nyligt, på 2024 Munich Security Conference, underskrev 20 teknologi- og AI-virksomheder en “Teknologi-aftale til bekæmpelse af bedragerisk brug af AI i 2024-valget,” som fremhæver retningslinjer for at beskytte valg og valgprocessen, herunder forebyggelse, oprindelse, opdækning, responsiv beskyttelse, evaluering og offentlig opmærksomhed. Bestående af store teknologivirksomheder som Microsoft (MSFT ), Amazon (AMZN ) og Google, markerer dette en vigtig skift i branchen, som selv ud over politiske tilhørsforhold, er datasikkerhed et emne, der vil bekymre både borgere og cybersikkerhedseksperter i løbet af resten af dette valgår. Desuden vil generativ AI have en stor indvirkning på, hvordan skurke kan udføre deres angreb, og gøre det lettere at lave meget realistiske svindel.

Typer af valgsvindel

Selv om valgsæsonen ikke er den eneste tid, vi ser en stigning i svindel, så tenderer vi til at se en stigning i flere metoder og teknikker, når det er tid til at stemme, enten i primærvalget eller i det almindelige valg. Hvert af disse bruges med det typiske mål at få adgang til en persons konto eller økonomisk gevinst, og konsekvenserne af at falde for dem kan have store konsekvenser. Faktisk har deepfake-svindel alene kostet USA mere end 3,4 milliarder dollars i tab.

Nogle eksempler på svindel, vi ser omkring valgsæsonen, omfatter:

• Phishing: Phishing indebærer brug af falske links, e-mails og websites for at få adgang til følsom forbrugerinformation – som regel ved at installere malware på målsystemet. Denne data bruges herefter til at stjæle andre identiteter, få adgang til værdifulde aktiver og overbelaste indbokse med e-mail-spam. I en valgsæson kan phishing-e-mails kamufleres som donationse-mails, der får en borger til at klikke på linket, mens de tror, de donerer til en kandidat, men i virkeligheden spiller de ind i en skurks plan.
• Robocalls, impersonationer og AI-genererede stemmer eller chatbots: Som set i New Hampshire, hvor en robocall impersonerede præsident Biden og opfordrede borgere til ikke at stemme, vil valgsæsonen bringe en stigning i impersonationer af meningsmålinger eller politiske kandidater for at falsk vinde tillid og få følsom information.
• Deepfakes: Med opkomsten af AI er deepfakes blevet utrolig realistiske i dag og kan bruges til at impersonere en chef eller endda din yndlingscelebrity. Deepfakes er videoer eller billeder, der bruger AI til at erstatte ansigter eller manipulere ansigtsudtryk eller tale. Mange af de deepfakes, vi møder dagligt, vil være i form af en video, med en manipuleret klip, der viser personen sige eller gøre noget, de måske aldrig har gjort. Dette forventes at være særlig udbredt denne valgsæson med risikoen for, at deepfakes bliver lavet for at impersonere kandidater. Selv uden for USA, som i Storbritannien, er der frygt for, at deepfakes kan blive brugt til at manipulere valg.

Kunstig intelligens’ indvirkning på valg

Oven på disse svindel bruges AI-algoritmer til at generere mere overbevisende og engagerende falske meddelelser, e-mails og sociale medie-indlæg for at narre brugere til at afsløre følsom information.

Microsoft og OpenAI offentliggjorde en trusselsbrief, “Navigating Cyberthreats And Strengthening Defenses In The Era Of AI,” som bemærkede, at fem trusler fra Rusland, Nordkorea, Iran og Kina allerede har brugt GenAI til nye og innovative måder at forbedre deres operationer mod bløde mål.

Svindel som chatbots, stemmekloning og mere tages et skridt videre med AI som værktøj til at sprede misinformation, udvikle malware og impersonere personer. Stemmekloningværktøjer kan skabe næsten perfekte kopier af en valgfigurs stemme eller ansigt, for eksempel. AI kunne også bruges til at oversvømme callcenter med falske valgopkald, der overvælder dem med misinformation.

På højeste alert vil være sociale medier, da det er en hovedvej for kampagner denne valgsæson. Vælgere vil dele, om de har stemt, og måske endda vise støtte til deres yndlingskandidat på deres profiler. Dog udgør dette år en ny trussel, da vi ser en stigning i AI-phishing (herunder smishing og vishing) svindel.

Tænk, hvis nogen postede en opdatering på deres sociale medie-profil for at støtte en bestemt kandidat. Et par minutter senere modtager de en e-mail, der ser ud til at være fra en kampagneleder, der takker dem for deres støtte. Den potentielle offer kunne engagere sig med den e-mail ved at klikke på linket, hvilket åbner dem op for credential-høst, finansielt tab eller installation af malware. Fordi AI kan overvåge, oprette og levere målrettede phishing-kampagner i næsten realtid, åbner selv uskyldige sociale medie-indlæg nu brugere op for et nyt niveau af realistiske phishing-schemes.

At forblive vigilen denne valgsæson

Angreb som phishing vil fortsætte med at være en almindelig måde, som skurke kan lave realistiske svindel, der kan glide forbi selv de mest kendskabsrige, og i tiden med generativ AI er potentialet for disse accelereret for at give skurke hurtig adgang til følsom information.

Selv om virksomheder udruller teknologi for at beskytte deres data og medarbejdere, skal forbrugere også være opmærksomme på teknikker til at spotte og undgå svindel. Nogle af disse inkluderer:

• At holde udkig efter tilfældige eller stavfejl i hyperlinks eller e-mail-emne linjer
• Ikke at klikke på et link fra en ukendt afsender
• At bruge to-faktor-autentificering eller biometrisk autentificering, hvor det er muligt
• At gøre sociale medie-konti private
• At rapportere skadelig aktivitet
• At uddanne andre kollegaer eller familiemedlemmer
• At søge efter en .gov-webdomæne for at verificere ægthed af en valgkandidat
• Hvis du har IT på din arbejdsplads, kan du også spørge om:
  • Zero Trust-netværk
  • Phishing-resistente to-faktor-autentificering
  • E-mail-sikkerhedsværktøjer (DMARC, DKIM, SPF)
  • Metoder til at digitalt signere indhold (eller en anden måde at kryptografisk verificere dine kommunikationer)

Selv om valgsæsonen er en tid, hvor man skal være på højeste alert, kan angreb ske til enhver tid, så det er vigtigt at sikre, at dine cybersikkerhedsfundamenter er stærke og pålidelige året rundt.