Hoe AI-aangedreven deepfakes de integriteit van verkiezingen bedreigen – en wat eraan gedaan kan worden

Verkiezingsreclame kan al behoorlijk rommelig en omstreden zijn.

Stel je nu voor dat je wordt gericht met een verkiezingsreclame waarin een kandidaat krachtige standpunten inneemt die je stem beïnvloeden – en de reclame is niet eens echt. Het is een deepfake.

Dit is geen toekomstig hypothetisch scenario; deepfakes zijn een echt, wijdverspreid probleem. We hebben al AI-generate “aanbevelingen” in het nieuws gezien, en wat we hebben gehoord, krast alleen maar het oppervlak.

Terwijl we de Amerikaanse presidentsverkiezingen van 2024 naderen, betreden we ongekend terrein op het gebied van cybersecurity en informatieveiligheid. Ik heb gewerkt aan de kruising van cybersecurity en AI sinds beide concepten nog in de kinderschoenen stonden, en ik heb nog nooit iets gezien zoals wat er nu gebeurt.

De snelle evolutie van kunstmatige intelligentie – specifiek generatieve AI en, natuurlijk, de resulterende gemakkelijkheid van het creëren van realistische deepfakes – heeft het landschap van verkiezingsbedreigingen getransformeerd. Deze nieuwe realiteit vereist een verandering in de basisveronderstellingen met betrekking tot verkiezingsbeveiliging en voteronderwijs.

Weaponized AI

Je hoeft mijn persoonlijke ervaring niet te geloven; er is genoeg bewijs dat de cybersecurity-uitdagingen waar we vandaag mee te maken hebben, zich op een ongekend tempo ontwikkelen. In de loop van slechts een paar jaar hebben we een dramatische transformatie gezien in de capaciteiten en methoden van potentiële bedreigingsactoren. Deze evolutie weerspiegelt de versnelde ontwikkeling die we hebben gezien in AI-technologieën, maar met een verontrustende twist.

Voorbeeld:

• Snel wapenen van kwetsbaarheden. Vandaag kunnen aanvallers snel nieuwe kwetsbaarheden exploiteren, vaak sneller dan patches kunnen worden ontwikkeld en geïmplementeerd. AI-hulpmiddelen versnellen dit proces nog verder, waardoor het tijdsvenster tussen kwetsbaarheidsontdekking en exploitatie kleiner wordt.
• Uitgebreid aanvalsoppervlak. De wijdverbreide adoptie van clouddiensten heeft het potentiële aanvalsoppervlak aanzienlijk verbreed. Gedistribueerde infrastructuur en het gedeelde verantwoordelijkheidsmodel tussen clouddienstverleners en gebruikers creëren nieuwe vectoren voor exploitatie als ze niet goed worden beheerd.
• Verouderde traditionele beveiligingsmaatregelen. Traditionele beveiligingshulpmiddelen zoals firewalls en antivirussoftware hebben moeite om gelijke tred te houden met deze evoluerende bedreigingen, vooral als het gaat om het detecteren en mitigeren van AI-generateerde inhoud.

Kijk Wie Er Praat

In dit nieuwe bedreigingslandschap vormen deepfakes een bijzonder sluwe uitdaging voor de integriteit van verkiezingen. Recent onderzoek van Ivanti geeft enkele cijfers over de dreiging: meer dan de helft van de kantoorwerkers (54%) is zich niet bewust dat geavanceerde AI iemands stem kan imiteren. Dit gebrek aan bewustzijn onder potentiële kiezers is zeer verontrustend als we een cruciale verkiezingscyclus naderen.

Er staat veel op het spel.

De geavanceerde deepfake-technologie van vandaag stelt bedreigingsactoren, zowel binnenlands als buitenlands, in staat om overtuigende nep-audio-, video- en tekstinhoud te creëren met minimale inspanning. Een eenvoudige tekstprompt kan nu een deepfake genereren die steeds moeilijker te onderscheiden is van echte inhoud. Deze capaciteit heeft ernstige gevolgen voor de verspreiding van desinformatie en de manipulatie van de publieke opinie.

Uitdagingen in Toeschrijving en Mitigatie

Toeschrijving is een van de grootste uitdagingen waar we mee te maken hebben bij AI-generate verkiezingsinterferentie. Terwijl we historisch gezien verkiezingsinterferentie hebben geassocieerd met nationale actoren, betekent de democratisering van AI-hulpmiddelen dat binnenlandse groepen, gedreven door verschillende ideologische motivaties, deze technologieën kunnen gebruiken om verkiezingen te beïnvloeden.

Deze diffusie van potentiële bedreigingsactoren compliceert onze mogelijkheid om bronnen van desinformatie te identificeren en te mitigeren. Het benadrukt ook de noodzaak van een multifacetteerde aanpak van verkiezingsbeveiliging die verder gaat dan traditionele beveiligingsmaatregelen.

Een Gecoördineerde Inspanning om de Integriteit van Verkiezingen te Handhaven

Het aanpakken van de uitdaging van AI-aangedreven deepfakes in verkiezingen zal een gecoördineerde inspanning over meerdere sectoren vereisen. Hier zijn enkele sleutelgebieden waarop we ons moeten concentreren:

• Shift-left-beveiliging voor AI-systemen. We moeten de principes van “shift-left”-beveiliging toepassen op de ontwikkeling van AI-systemen zelf. Dit betekent dat we beveiligingsoverwegingen moeten incorporeren vanaf de vroegste stadia van AI-modelontwikkeling, inclusief overwegingen voor potentieel misbruik in verkiezingsinterferentie.
• Veilige configuraties afdwingen. AI-systemen en -platforms die mogelijk gebruikt kunnen worden om deepfakes te genereren, moeten standaard robuuste, veilige configuraties hebben. Dit omvat sterke authenticatiemaatregelen en beperkingen op het type inhoud dat kan worden gegenereerd.
• De AI-supply chain beveiligen. Net zoals we ons concentreren op het beveiligen van de software-supply chain, moeten we deze waakzaamheid uitbreiden naar de AI-supply chain. Dit omvat het onderzoeken van de datasets die worden gebruikt om AI-modellen te trainen en de algoritmen die worden gebruikt in generatieve AI-systemen.
• Verbeterde detectiecapaciteiten. We moeten investeren in en ontwikkelen geavanceerde detectiehulpmiddelen die AI-generateerde inhoud kunnen identificeren, met name in de context van verkiezingsgerelateerde informatie. Dit zal waarschijnlijk het gebruik van AI zelf om AI-generateerde desinformatie te bestrijden, vereisen.
• Voteronderwijs en -bewustzijn. Een cruciaal onderdeel van onze verdediging tegen deepfakes is een geïnformeerd electoraat. We hebben uitgebreide onderwijsprogramma’s nodig om kiezers te helpen begrijpen het bestaan en de potentiële impact van AI-generateerde inhoud, en om hen te voorzien van hulpmiddelen om de informatie die ze tegenkomen, kritisch te evalueren.
• Sectoroverschrijdende samenwerking. De technologie-sector, met name IT- en cybersecuritybedrijven, moet nauw samenwerken met overheidsinstanties, verkiezingsfunctionarissen en media-organisaties om een verenigd front te creëren tegen AI-gedreven verkiezingsinterferentie.

Wat Nu, en Wat Volgt

Terwijl we deze strategieën implementeren, is het cruciaal dat we continu meten hoe effectief ze zijn. Dit zal nieuwe metrics en monitoringtools vereisen die specifiek zijn ontworpen om de impact van AI-generateerde inhoud op verkiezingsdiscours en kiezersgedrag te volgen.

We moeten ook bereid zijn om onze strategieën snel aan te passen. Het veld van AI evolueert met een ongekend tempo, en onze defensieve maatregelen moeten even snel evolueren. Dit kan het gebruik van AI zelf om robuustere en aanpasbare beveiligingsmaatregelen te creëren, vereisen.

De uitdaging van AI-aangedreven deepfakes in verkiezingen vertegenwoordigt een nieuw hoofdstuk in cybersecurity en informatieveiligheid. Om dit aan te pakken, moeten we voorbij traditionele beveiligingsparadigma’s denken en samenwerking stimuleren over sectoren en disciplines heen. Het doel: de kracht van AI benutten voor het voordeel van democratische processen, terwijl we de potentiële schade mitigeren. Dit is niet alleen een technische uitdaging, maar een maatschappelijke uitdaging die voortdurende waakzaamheid, aanpassing en samenwerking vereist.

De integriteit van onze verkiezingen – en bij uitbreiding, de gezondheid van onze democratie – hangt af van onze capaciteit om deze uitdaging aan te gaan. Het is een verantwoordelijkheid die op ons allemaal rust: technici, beleidsmakers en burgers.