De Stijgende Impact van AI op Verkiezingszwendel deze Seizoen

In 2022 steeg het aantal kwaadwillige e-mails gericht op verkiezingswerknemers in Pennsylvania explosief rond de primaire verkiezingen op 17 mei, met een stijging van meer dan 546% in zes maanden. In combinatie met het potentieel voor nefaste grote taalmodellen (LLM’s) bovenop deze traditionele phishingaanvallen, is de kans groot dat de gemiddelde Amerikaan het doelwit wordt van een nog realistischer zwendel deze verkiezingsseizoen.

Overheden beginnen hier nu aandacht aan te besteden, vooral nu AI een integraal onderdeel van ons dagelijks leven wordt. Zo lanceerde het Amerikaanse Cybersecurity and Infrastructure Security Agency een programma om de verkiezingsbeveiliging te verhogen – een groeiende vraag van zowel de overheid als het publiek om zichzelf en hun gegevens te beschermen tegen potentieel slechte actoren tijdens het verkiezingsseizoen.

En nog onlangs, op de 2024 Munich Security Conference, tekenden 20 technologie- en AI-bedrijven een “Tech Accord to Combat Deceptive Use of AI in 2024 Elections,” die richtlijnen bevat om verkiezingen en het verkiezingsproces te beschermen, waaronder preventie, herkomst, detectie, responsieve bescherming, evaluatie en openbare bewustwording. Dit akkoord bestaat uit grote technologiebedrijven zoals Microsoft (MSFT ), Amazon (AMZN ) en Google, en markeert een belangrijke verschuiving in de industrie, waarbij zelfs buiten politieke affiliaties, gegevensbeveiliging een onderwerp is dat burgers en cyberexperts gedurende het hele verkiezingsjaar zal bezighouden. Bovendien zal generatieve AI een grote invloed hebben op de manier waarop slechte actoren hun aanvallen kunnen uitvoeren, waardoor het makkelijker wordt om zeer realistische zwendels te maken.

Soorten Verkiezingszwendel

Terwijl het verkiezingsseizoen niet de enige tijd is waarin we een toename van zwendels zien, zien we tijdens de verkiezingen, of het nu om de primaire of de algemene verkiezingen gaat, een toename van verschillende methoden en technieken. Elk van deze wordt gebruikt met het doel om toegang te krijgen tot iemands account of financieel gewin, en de gevolgen van het fallen voor deze zwendels kunnen grote gevolgen hebben. In feite heeft deepfake-fraude alleen al de VS meer dan $3,4 miljard aan verliezen gekost.

Enkele voorbeelden van zwendels die we rond het verkiezingsseizoen zien, zijn:

• Phishing: Phishing houdt in het gebruik van nep-links, e-mails en websites om toegang te krijgen tot gevoelige consumenteninformatie – meestal door malware te installeren op het doelsysteem. Deze gegevens worden vervolgens gebruikt om andere identiteiten te stelen, toegang te krijgen tot waardevolle activa en inboxes vol te stoppen met e-mailspam. Tijdens het verkiezingsseizoen kunnen phishing-e-mails zich voordoen als donatie-e-mails, waardoor een burger kan denken dat hij doneert aan een kandidaat, maar in werkelijkheid meedoet aan het plan van een slechte actor.
• Robocalls, Impersonaties en AI-gegenereerde stemmen of chatbots: Zoals gezien in New Hampshire toen een robocall zich voordoorde als president Biden en burgers aanspoorde om niet te stemmen, zal het verkiezingsseizoen een toename van impersonaties van pollsters of politieke kandidaten zien, om vals vertrouwen te winnen en gevoelige informatie te verkrijgen.
• Deepfakes: Met de opkomst van AI zijn deepfakes vandaag de dag zeer realistisch geworden en kunnen ze worden gebruikt om een baas of zelfs uw favoriete beroemdheid te imiteren. Deepfakes zijn video’s of afbeeldingen die AI gebruiken om gezichten of gezichtsuitdrukkingen te vervangen of te manipuleren. Veel van de deepfakes die we dagelijks tegenkomen, zullen in de vorm van een video zijn, met een gemanipuleerde clip die de persoon laat zien of horen zeggen of doen iets wat hij nooit heeft gedaan. Dit wordt vooral verwacht tijdens het verkiezingsseizoen, met het risico dat deepfakes worden gemaakt om kandidaten te imiteren. Ook buiten de VS, zoals in het VK, bestaat de vrees dat deepfakes kunnen worden gebruikt om verkiezingen te manipuleren.

AI’s Impact op Verkiezingen

Naast deze zwendels worden AI-algoritmen gebruikt om nog overtuigender en aantrekkelijker nep-berichten, e-mails en sociale media-berichten te genereren, om gebruikers te misleiden en gevoelige informatie te verkrijgen.

Microsoft en OpenAI publiceerden een dreigingsbrief, “Navigating Cyberthreats And Strengthening Defenses In The Era Of AI“, die meldde dat vijf dreigingsactoren uit Rusland, Noord-Korea, Iran en China al GenAI gebruiken voor nieuwe en innovatieve manieren om hun operaties tegen zachte doelen te versterken.

Zwendels zoals chatbots, stemklooninig en meer worden nog een stap verder gebracht met AI als een instrument om desinformatie te verspreiden, malware te ontwikkelen en individuen te imiteren. Stemklooninigtools kunnen near-perfecte replica’s van de stem of het gezicht van een verkiezingsfiguur maken, bijvoorbeeld. AI kan ook worden gebruikt om callcenters te overspoelen met nep-voteroproepen, waardoor ze worden overweldigd met desinformatie.

Op de hoogste waakzaamheid zullen sociale media zijn, aangezien dit een belangrijk voertuig is voor campagnes tijdens het verkiezingsseizoen. Kiezers zullen delen of ze hebben gestemd en misschien zelfs steun betuigen voor hun favoriete kandidaat op hun pagina’s. Echter, dit jaar vormt een nieuw gevaar, aangezien we een toename zien in AI-phishing (inclusief smishing en vishing) zwendels.

Stel je voor dat iemand een bericht plaatst op zijn sociale media-account met steun voor een specifieke kandidaat. Een paar minuten later krijgt hij een e-mail die lijkt te zijn van een campagneleider, die hem bedankt voor zijn steun. Dat potentiële slachtoffer kan reageren op die e-mail door op een link te klikken, waardoor hij zich openstelt voor credential harvesting, financieel verlies of malware-installatie. Vanwege de mogelijkheid van AI om doelgerichte phishingcampagnes in bijna realtime te monitoren, creëren en te leveren, openen ogenschijnlijk onschuldige sociale media-berichten gebruikers nu voor een nieuw niveau van realistische phishing-schema’s.

Waakzaam Blijven tijdens het Verkiezingsseizoen

Aanvallen zoals phishing zullen blijven een veelvoorkomende manier zijn voor slechte actoren om realistische zwendels te creëren die zelfs de meest kundige kunnen misleiden, en in de tijd van generatieve AI is het potentieel impact van deze aanvallen nog verder versneld, waardoor slechte actoren sneller toegang krijgen tot gevoelige informatie.

Terwijl bedrijven technologie inzetten om hun gegevens en medewerkers te beschermen, moeten consumenten zich ook bewust zijn van technieken om zwendels te herkennen en te vermijden. Enkele van deze technieken zijn:

• Let op onverwachte of verkeerd gespelde hyperlinks of e-mailonderwerpen
• Klik niet op een link van een onbekende afzender
• Gebruik twee-factorauthenticatie of biometrische authenticatie waar mogelijk
• Maak sociale media-accounts privé
• Meld malafide activiteiten
• Educeer collega’s of familieleden
• Zoek naar een .gov-website-domein om de authenticiteit van een verkiezingskandidaat te verifiëren
• Als je IT op je werk hebt, kun je ook vragen naar:
  • Zero Trust-netwerken
  • Phishing-resistente twee-factorauthenticatie
  • E-mailbeveiligingstools (DMARC, DKIM, SPF)
  • Methoden om inhoud digitaal te ondertekenen (of een andere manier om uw communicatie cryptografisch te verifiëren)

Hoewel verkiezingsseizoenen een tijd zijn om extra waakzaam te zijn, kunnen aanvallen op elk moment plaatsvinden, dus het is belangrijk om ervoor te zorgen dat uw cybersecurity-fundamenten sterk en betrouwbaar zijn het hele jaar door.