Hvordan AI-drevne deepfakes truecerer valgintegritet — Og hvad vi kan gøre ved det

Valgkampagnens annoncer kan allerede være ret besværlige og kontroversielle.

Nu forestil dig, at du bliver målrettet med en valgkampagne, hvor en kandidat udtrykker stærke holdninger, der kan påvirke din stemme — og annoncen ikke engang er ægte. Det er en deepfake.

Dette er ikke noget futuristisk hypotetisk scenarie; deepfakes er et virkeligt og udbredt problem. Vi har allerede set AI-genererede “støtterklæringer” i overskrifterne, og hvad vi har hørt, er kun toppen af isbjerget.

Da vi nærmer os det amerikanske præsidentvalg i 2024, bevæger vi os ind i ukendt territorie, når det kommer til cybersikkerhed og informationsintegritet. Jeg har arbejdet ved skæringen af cybersikkerhed og kunstig intelligens, siden begge disse begreber var i deres spæde barsel, og jeg har aldrig set noget lignende, hvad der sker lige nu.

Den hurtige udvikling af kunstig intelligens — specifikt generativ AI og, naturligvis, den resulterende lette skabelse af realistiske deepfakes — har forvandlet landskabet af valgtrusler. Denne nye virkelighed kræver en ændring af grundlæggende antagelser om valgsikkerhed og voteruddannelse.

Våbeniseret AI

Du behøver ikke at tage min personlige erfaring som bevis; der er masser af beviser på, at de cybersikkerhedsudfordringer, vi står over for i dag, udvikler sig i en uhørt hastighed. På blot få år har vi oplevet en dramatisk forvandling i kapaciteterne og metoderne hos potentielle trusler. Denne udvikling spejler den accelererede udvikling, vi har set i AI-teknologier, men med en bekymrende vending.

Eksempelvis:

• Hurtig våbenisering af sårbarheder. I dag kan angriberne hurtigt udnytte nyligt opdagede sårbarheder, ofte hurtigere end patches kan udvikles og implementeres. AI-værktøjer accelererer denne proces yderligere, hvilket reducerer tidsrummet mellem opdagelse af sårbarheder og udnyttelse.
• Udvidet angrebsflade. Den bredt anvendte cloud-teknologi har betydeligt udvidet den potentielle angrebsflade. Distribueret infrastruktur og den delte ansvarsmodel mellem cloud-leverandører og brugere skaber nye vektorer for udnyttelse, hvis de ikke håndteres ordentligt.
• Forældede traditionelle sikkerhedsforanstaltninger. Arvet sikkerhedssoftware som firewalls og antivirus-programmer kæmper for at følge med de udviklende trusler, især når det kommer til at opdage og afværge AI-genereret indhold.

Se, hvem der taler

I dette nye trusselslandskab repræsenterer deepfakes en særligt snu udfordring for valgintegritet. Seneste forskning fra Ivanti giver nogle tal for truslen: mere end halvdelen af kontorarbejdere (54%) er ikke klar over, at avanceret AI kan efterligne hvem som helst stemme. Mangel på bevidsthed blandt potentielle vælgere er dybt bekymrende, da vi nærmer os en kritisk valgperiode.

Der er så meget på spil.

Sophistikationen af i dagens deepfake-teknologi giver trusler, både hjemlige og udenlandske, mulighed for at skabe overbevisende falsk audio, video og tekstindhold med minimal indsats. En simpel tekstprompt kan nu generere en deepfake, der er stadig sværere at skelne fra ægte indhold. Denne kapacitet har alvorlige implikationer for spredning af desinformation og manipulation af offentlig mening.

Udfordringer i tilskrivning og afværge

Tilskrivning er en af de største udfordringer, vi står over for, når det kommer til AI-genereret valgindgreb. Mens vi historisk har associeret valgindgreb med nationale aktører, betyder demokratiseringen af AI-værktøjer, at hjemlige grupper, drevet af forskellige ideologiske motiver, nu kan udnytte disse teknologier til at påvirke valg.

Denne diffusion af potentielle trusler komplicerer vores evne til at identificere og afværge kilder til desinformation. Det understreger også behovet for en multifacetteret tilgang til valgsikkerhed, der går ud over traditionelle cybersikkerhedsforanstaltninger.

Koordineret indsats for at opretholde valgintegritet

At imødegå udfordringen med AI-drevne deepfakes i valg kræver en koordineret indsats på tværs af flere sektorer. Her er nøgleområder, hvor vi skal fokusere vores indsats:

• Shift-left-sikkerhed for AI-systemer. Vi skal anvende principperne for “shift-left”-sikkerhed på udviklingen af AI-systemer selv. Dette betyder, at vi integrerer sikkerhedsbetragtninger fra de tidligste faser af AI-modeludvikling, herunder overvejelser om mulig misbrug i valgindgreb.
• Gennemføring af sikre konfigurationer. AI-systemer og -platforme, der potentielt kan bruges til at generere deepfakes, skal have robuste, sikre konfigurationer som standard. Dette inkluderer stærke autentificeringsforanstaltninger og begrænsninger på de typer af indhold, der kan genereres.
• Sikring af AI-levirkeden. Ligesom vi fokuserer på at sikre software-levirkeden, skal vi udstrække denne vagtsomhed til AI-levirkeden. Dette inkluderer at undersøge de datasæt, der bruges til at træne AI-modeller, og de algoritmer, der anvendes i generativ AI.
• Forbedrede registreringsmuligheder. Vi skal investere i og udvikle avancerede registreringsværktøjer, der kan identificere AI-genereret indhold, især i sammenhæng med valgrelateret information. Dette vil sandsynligvis indebære at udnytte AI selv til at bekæmpe AI-genereret desinformation.
• Voteruddannelse og bevidsthed. En afgørende komponent i vores forsvar mod deepfakes er en informeret vælger. Vi skal have omfattende uddannelsesprogrammer til at hjælpe vælgerne med at forstå eksistensen og den potentielle indvirkning af AI-genereret indhold, og give dem værktøjer til at kritisk evaluere den information, de møder.
• TVÆrssektoriel samarbejde. Teknosektoren, især IT- og cybersikkerhedsfirmaer, skal arbejde tæt sammen med regeringsinstitutioner, valgmyndigheder og medieorganisationer for at skabe en samlet front mod AI-drevet valgindgreb.

Hvad nu, og hvad kommer herefter

Da vi implementerer disse strategier, er det afgørende, at vi kontinuerligt måler deres effektivitet. Dette kræver nye målinger og overvågningsværktøjer, der specifikt er designet til at spore indvirkningen af AI-genereret indhold på valgdiskurs og vælgeradfærd.

Vi skal også være forberedt på at tilpasse vores strategier hurtigt. AI-feltet udvikler sig i en hurtig takt, og vores defensive foranstaltninger må udvikle sig lige så hurtigt. Dette kan indebære at udnytte AI selv til at skabe mere robuste og tilpasningsdygtige sikkerhedsforanstaltninger.

Udfordringen med AI-drevne deepfakes i valg repræsenterer et nyt kapitel i cybersikkerhed og informationsintegritet. For at imødegå denne udfordring må vi tænke ud over traditionelle sikkerhedsparadigmer og fremme samarbejde på tværs af sektorer og discipliner. Målet: at udnytte AI’s kraft til gavn for demokratiske processer, samtidig med at vi afværger dens potentielle skade. Dette er ikke kun en teknisk udfordring, men en samfundsudfordring, der kræver kontinuerlig vagtsomhed, tilpasning og samarbejde.

Integriteten af vores valg — og som en udvidelse, sundheden af vores demokrati — afhænger af vores evne til at imødegå denne udfordring frontalt. Det er en ansvar, der falder på os alle: teknologer, politikere og borgere.