Den stigende indflydelse af AI på valgsvindel denne sæson

I 2022, ondsindede e-mails rettet mod Pennsylvania amtsvalgarbejdere steg omkring dets primærvalg den 17. maj og steg mere end 546 % på seks måneder. Parret med potentialet for ondsindede store sprogmodeller (LLM'er) oven i disse traditionelle phishing-angreb, er der stor sandsynlighed for, at den almindelige amerikaner vil være målet for en endnu mere realistisk fidus i denne valgsæson.

Regeringer begynder at lægge mærke til det, især da kunstig intelligens bliver integreret i vores daglige liv. For eksempel det amerikanske Cybersecurity and Infrastructure Security Agency lanceret et program til at øge valgsikkerheden – som demonstrerer et stigende krav fra både regeringen og offentligheden om at beskytte sig selv og deres data fra potentielle dårlige aktører i denne valgsæson.

Og endnu for nylig underskrev 2024 teknologi- og AI-virksomheder på sikkerhedskonferencen i München i 20 en "Teknisk aftale til bekæmpelse af vildledende brug af kunstig intelligens ved valget i 2024," som fremhæver vejledende principper for at beskytte valg og valgprocessen, herunder forebyggelse, herkomst, opdagelse, responsiv beskyttelse, evaluering og offentlig bevidsthed. Består af store teknologiske aktører, herunder Microsoft, Amazon og Google, betyder dette et vigtigt skift i branchen, at selv ud over politiske tilhørsforhold er datasikkerhed et emne, der vil bekymre både borgere og cybereksperter gennem resten af ​​dette valgår. Desuden vil generativ AI i høj grad påvirke, hvor dårlige skuespillere kan udføre deres angreb, hvilket gør det nemmere at lave meget realistiske svindelnumre.

Typer af valgsvindel

Mens valgsæsonen ikke er det eneste tidspunkt, hvor vi ser en stigning i svindel, når det er tid til at stemme, enten ved primærvalg eller folketingsvalg, har vi en tendens til at se en stigning i flere metoder og teknikker. Hver af disse bruges med det typiske mål at få adgang til en persons konto eller pengegevinst, og konsekvenserne af at falde for dem kan have store konsekvenser. Faktisk har deepfake svindel alene kostet USA mere end $ 3.4 milliarder i tab.

Nogle eksempler på svindel, vi ser omkring valgsæsonen, omfatter:

• Phishing: Phishing involverer brugen af ​​falske links, e-mails og websteder for at få adgang til følsomme forbrugeroplysninger - normalt ved at installere malware på målsystemet. Disse data bruges derefter til at stjæle andre identiteter, få adgang til værdifulde aktiver og overbelaste indbakker med e-mail-spam. I en valgsæson kan phishing-e-mails camoufleres som donations-e-mails, der får en borger til at klikke på linket, idet de tror, ​​at de donerer til en kandidat, men faktisk spiller ind i en dårlig skuespillers plan.
• Robocalls, efterligninger og AI-genererede stemme- eller chatbots: Som set i New Hampshire Når et robocall efterlignede præsident Biden, der opfordrede borgerne til ikke at stemme, vil valgsæsonen medføre en stigning i efterligninger af meningsmålere eller politiske kandidater for falsk at opnå tillid og få følsomme oplysninger.
• Deepfakes: Med fremkomsten af ​​AI er deepfakes blevet utroligt realistiske i dag og kan bruges til at efterligne en chef eller endda din yndlingsberømthed. Deepfakes er videoer eller billeder, der bruger AI til at erstatte ansigter eller manipulere ansigtsudtryk eller tale. Mange af de deepfakes, vi støder på dagligt, vil være i form af en video, med et manipuleret klip, der skildrer personen, der siger eller gør noget, de måske aldrig har gjort. Dette forventes at være særligt udbredt i denne valgsæson med risiko for, at deepfakes bliver skabt for at efterligne kandidater. Selv uden for USA, såsom i Storbritannien, er der frygt for, at deepfakes kan blive brugt til at manipulere valg.

AI's indflydelse på valg

Oven i disse svindelnumre bliver AI-algoritmer brugt til at generere mere overbevisende og engagerende falske beskeder, e-mails og opslag på sociale medier for at narre brugere til at opgive følsomme oplysninger.

Microsoft og OpenAI offentliggjorde en trusselsbriefing, "Navigering af cybertrusler og styrkelse af forsvar i AI-æraen", der bemærkede, at fem trusselsaktører fra Rusland, Nordkorea, Iran og Kina alle allerede har brugt GenAI til nye og innovative måder at forbedre deres operationer mod bløde mål.

Svindel som chatbots, stemmekloning og mere tages et skridt videre med kunstig intelligens som et værktøj til at sprede misinformation, udvikle malware og efterligne personer. Stemmekloningsværktøjer kan skabe næsten perfekte replikaer af en valgpersons stemme eller ansigt, for eksempel. AI kunne også bruges til at oversvømme callcentre med falske vælgeropkald og overvælde dem med misinformation.

På højeste alarmberedskab vil de sociale medier være, da det er et hovedredskab for kampagner i denne valgsæson. Vælgerne vil dele, hvis de har stemt, og måske endda vise støtte til deres favoritkandidat på deres sider. Dette år udgør dog en ny trussel, da vi ser en ny stigning i AI-phishing (for at inkludere smishing og vishing) svindel.

Overvej, om nogen har skrevet til deres sociale medie-konto support til en specifik kandidat. Et par minutter senere får de en e-mail, der ser ud til at være fra en kampagneleder, der takker dem for deres støtte. Det potentielle offer kunne engagere sig i den e-mail ved at klikke på et link og åbne dem for indsamling af legitimationsoplysninger, økonomisk tab eller malwareinstallation. På grund af AI's evne til at overvåge, skabe og levere målrettede phishing-kampagner i næsten realtid, åbner tilsyneladende uskyldige sociale medier nu brugerne op til et nyt niveau af realistiske phishing-skemaer.

Forbliver på vagt i denne valgsæson

Angreb som phishing vil fortsat være en almindelig måde for dårlige skuespillere at skabe realistiske svindelnumre, der kan slippe forbi selv de mest vidende, og i en alder med generativ AI er den potentielle virkning af disse kun blevet fremskyndet for at give dårlige skuespillere hurtigere adgang til følsomme Information.

Mens virksomheder implementerer teknologi for at beskytte deres data og medarbejdere, skal forbrugerne også være opmærksomme på teknikker til at opdage og undgå svindel. Nogle af disse omfatter:

• Hold øje med tilfældige eller fejlstavede hyperlinks eller e-mail-emnelinjer
• Ikke at klikke på et link fra en ukendt afsender
• Anvendelse af to-faktor autentificering eller biometrisk autentificering, hvor det er muligt
• Gør sociale mediekonti private
• Rapportering af ondsindet aktivitet
• Undervisning af andre kolleger eller familiemedlemmer
• Se efter et .gov-websteddomæne for at bekræfte ægtheden af ​​en valgkandidat
• Har du IT på din arbejdsplads, kan du også spørge om:
  • Zero Trust netværk
  • Phishing-resistent to-faktor-godkendelse
  • E-mailsikkerhedsværktøjer (DMARC, DKIM, SPF)
  • Metoder til digital signering af indhold (eller en anden måde til kryptografisk måde at bekræfte din kommunikation på)

Selvom valgsæsoner er en tid til at være i høj beredskab, kan angreb ske når som helst, så det er vigtigt at sikre, at dit cybersikkerhedsgrundlag er stærkt og pålideligt året rundt.