Hur AI-drivna deepfakes hotar valintegritet — och vad man kan göra åt det

Valkampanjer kan redan bli ganska röriga och kontroversiella.

Tänk dig att du utsätts för en valkampanj där en kandidat uttrycker starka åsikter som påverkar din röst — och annonsen inte ens är äkta. Det är en deepfake.

Detta är inte något framtida hypotetiskt scenario; deepfakes är ett verkligt och utbrett problem. Vi har redan sett AI-genererade “rekommendationer” som gjort rubriker, och det vi har hört är bara början.

När vi närmar oss valet 2024 i USA går vi in i okänt territorium när det gäller cybersäkerhet och informationsintegritet. Jag har arbetat på gränsen mellan cybersäkerhet och AI sedan båda dessa begrepp var i sin linda, och jag har aldrig sett något liknande det som händer just nu.

Den snabba utvecklingen av artificiell intelligens — särskilt generativ AI och, naturligtvis, den resulterande lättheten att skapa realistiska deepfakes — har förändrat landskapet för valhot. Denna nya verklighet kräver en förändring av de grundläggande antagandena om valsäkerhet och väljarutbildning.

Beväpnad AI

Du behöver inte ta mitt personliga erfarenhetsutdrag som bevis; det finns gott om bevis för att de cybersäkerhetsutmaningar vi står inför idag utvecklas i en aldrig tidigare skådad takt. Under loppet av bara några år har vi sett en dramatisk förändring i kapacitet och metoder hos potentiella hotaktörer. Denna utveckling speglar den accelererade utveckling vi sett inom AI-teknologier, men med en oroande twist.

Till exempel:

• Snabb beväpnning av sårbarheter. Idag kan angripare snabbt utnyttja nyligen upptäckta sårbarheter, ofta snabbare än säkerhetskopior kan utvecklas och distribueras. AI-verktyg accelererar ytterligare denna process, vilket minskar tiden mellan upptäckt av sårbarhet och utnyttjande.
• Utvidgad angreppsyta. Den allmänna tillämpningen av molnteknologier har avsevärt utvidgat den potentiella angreppsytan. Distribuerad infrastruktur och den delade ansvarsmodellen mellan molntjänstleverantörer och användare skapar nya vektorer för utnyttjande om de inte hanteras på rätt sätt.
• Föråldrade traditionella säkerhetsåtgärder. Äldre säkerhetsverktyg som brandväggar och antivirusprogram kämpar för att hålla jämna steg med dessa utvecklande hot, särskilt när det gäller att upptäcka och mildra AI-genererat innehåll.

Se Vem Som Talar

I detta nya hotlandskap utgör deepfakes en särskilt illvillig utmaning för valintegritet. Nylig forskning från Ivanti ger siffror till hotet: mer än hälften av kontorsarbetare (54%) är omedvetna om att avancerad AI kan imitera någon röst. Denna brist på medvetenhet bland potentiella väljare är djupt oroande när vi närmar oss en kritisk valcykel.

Det står så mycket på spel.

Den sofistikerade deepfake-tekniken idag tillåter hotaktörer, både utländska och inhemska, att skapa övertygande falskt ljud, video och textinnehåll med minimal ansträngning. En enkel textprompt kan nu generera en deepfake som blir allt svårare att skilja från äkta innehåll. Denna förmåga har allvarliga konsekvenser för spridningen av desinformation och manipulationen av allmänningen.

Utmaningar i Attribuering och Minskning

Attribuering är en av de största utmaningarna vi står inför när det gäller AI-genererat valpåverkan. Medan vi historiskt har associerat valpåverkan med nationella statliga aktörer, innebär demokratiseringen av AI-verktyg att inhemska grupper, drivna av olika ideologiska motiv, nu kan utnyttja dessa teknologier för att påverka val.

Denna spridning av potentiella hotaktörer komplicerar vår förmåga att identifiera och mildra källor till desinformation. Det understryker också behovet av en mångfacetterad strategi för valskydd som går utöver traditionella cybersäkerhetsåtgärder.

En Samordnad Insats för att Upprätthålla Valintegritet

Att hantera utmaningen med AI-drivna deepfakes i val kräver en samordnad insats över flera sektorer. Här är nyckelområden där vi behöver fokusera våra ansträngningar:

• Shift-left-säkerhet för AI-system. Vi behöver tillämpa principerna för “shift-left”-säkerhet på utvecklingen av AI-system i sig. Detta innebär att integrera säkerhetsaspekter från de tidigaste stadierna av AI-modellutveckling, inklusive överväganden för potentiell missbruk i valpåverkan.
• Genomdriva säkra konfigurationer. AI-system och plattformar som potentiellt kan användas för att generera deepfakes bör ha robusta, säkra konfigurationer som standard. Detta inkluderar starka autentiseringsåtgärder och begränsningar för de typer av innehåll som kan genereras.
• Säkra AI-leverantörskedjan. Liksom vi fokuserar på att säkra programvaruleverantörskedjan behöver vi utöka denna vaksamhet till AI-leverantörskedjan. Detta inkluderar att granska de dataset som används för att träna AI-modeller och de algoritmer som används i generativ AI-system.
• Förbättrade upptäcktsförmågor. Vi behöver investera i och utveckla avancerade upptäcktsverktyg som kan identifiera AI-genererat innehåll, särskilt i sammanhang med valrelaterad information. Detta kommer troligen att innebära att man använder AI själv för att bekämpa AI-genererad desinformation.
• Väljarutbildning och medvetenhet. En avgörande komponent i vår försvar mot deepfakes är en informerad väljarkår. Vi behöver omfattande utbildningsprogram för att hjälpa väljare att förstå existensen och den potentiella påverkan av AI-genererat innehåll, och för att ge dem verktyg för att kritiskt utvärdera den information de möter.
• Sektorsövergripande samarbete. Teknissektorn, särskilt IT- och cybersäkerhetsföretag, måste arbeta nära med regeringsbyråer, valtjänstemän och medieorganisationer för att skapa en enad front mot AI-driven valpåverkan.

Vad som Är Nu, och Vad som Kommer

När vi implementerar dessa strategier är det avgörande att vi kontinuerligt mäter deras effektivitet. Detta kommer att kräva nya mått och övervakningsverktyg som specifikt är utformade för att spåra påverkan av AI-genererat innehåll på valdiskurs och väljarbeteende.

Vi bör också vara beredda att anpassa våra strategier snabbt. AI-fältet utvecklas i en hisnande takt, och våra försvarsåtgärder måste utvecklas lika snabbt. Detta kan innebära att man använder AI själv för att skapa mer robusta och anpassningsbara säkerhetsåtgärder.

Utmaningen med AI-drivna deepfakes i val representerar ett nytt kapitel i cybersäkerhet och informationsintegritet. För att hantera det måste vi tänka bortom traditionella säkerhetsparadigm och främja samarbete över sektorer och discipliner. Målet: att utnyttja AI:s kraft till förmån för demokratiska processer samtidigt som man mildrar dess potentiella skada. Detta är inte bara en teknisk utmaning, utan en samhällelig som kommer att kräva kontinuerlig vaksamhet, anpassning och samarbete.

Integriteten i våra val — och som en förlängning, hälsan i vår demokrati — beror på vår förmåga att möta denna utmaning direkt. Det är ett ansvar som faller på oss alla: teknologer, beslutsfattare och medborgare.