Hvordan AI-drevne deepfakes truer valgintegritet — Og hva vi kan gjøre med det

Valgkampanjer kan allerede bli ganske uoversiktlige og kontroversielle.

Forestall nå at du blir målrettet med en valgkampanje hvor en kandidat uttrykker sterke meninger som kan påvirke din stemme — og annonsen ikke engang er ekte. Det er en deepfake.

Dette er ikke noen fremtidsrettede hypotese; deepfakes er et virkelig og utbredt problem. Vi har allerede sett AI-genererte “støtterklæringer” som har skapt overskrifter, og det vi har hørt er bare toppen av isfjellet.

Ettersom vi nærmer oss det amerikanske presidentvalget i 2024, går vi inn i et ukjent territorium når det gjelder datasikkerhet og informasjonsintegritet. Jeg har arbeidet på交set mellom datasikkerhet og AI siden begge disse konseptene var i sin spede begynnelse, og jeg har aldri sett noe lignende det som skjer nå.

Den raske utviklingen av kunstig intelligens — spesielt generativ AI og, naturligvis, den resulterende lettheten ved å lage realistiske deepfakes — har forandret landskapet av valgtrusler. Denne nye virkeligheten krever en endring i grunnleggende antakelser når det gjelder valgsikkerhet og velgerutdanning.

Våpenisert AI

Du trenger ikke å ta min personlige erfaring som bevis; det finnes nok med bevis for at datasikkerhetsutfordringene vi står overfor i dag utvikler seg i en utenkelig hastighet. På bare noen få år har vi vært vitne til en dramatisk transformasjon i evnene og metodene til potensielle trusler. Denne utviklingen speiler den akselererte utviklingen vi har sett i AI-teknologier, men med en bekymringsverdig vending.

Eksempel på dette:

• Rask våpenisering av sårbarheter. I dag kan angripere raskt utnytte nyoppdagede sårbarheter, ofte raskere enn det tar å utvikle og distribuere patches. AI-verktøy akselererer denne prosessen ytterligere, og reduserer tidsrommet mellom oppdagelse av sårbarhet og utnyttelse.
• Utvidet angrepsflate. Den omfattende bruken av skyteknologier har betraktelig utvidet den potensielle angrepsflaten. Distribuert infrastruktur og den delte ansvarsmodellen mellom skytjenesteleverandører og brukere skaper nye vektorer for utnyttelse hvis de ikke håndteres korrekt.
• Forældede tradisjonelle sikkerhetstiltak. Arvet sikkerhetstverktøy som brannmurer og antivirusprogrammer sliter med å holde tritt med disse utviklende truslene, spesielt når det gjelder å oppdage og mildne AI-generert innhold.

Se Hvem som Snakker

I dette nye trussellandskapet representerer deepfakes en særlig snu trussel mot valgintegritet. Ny forskning fra Ivanti gir noen tall til trusselen: mer enn halvparten av kontorarbeidere (54%) er ikke klar over at avansert AI kan etterligne noen som helst stemme. Mangelen på bevissthet blant potensielle velgere er dypt bekymringsverdig ettersom vi nærmer oss en kritisk valgperiode.

Det står så mye på spill.

Sophistikasjonen i dagens deepfake-teknologi tillater trusler, både utenlandske og innenlandske, å lage overbevisende falsk audio, video og tekstinnhold med minimalt arbeid. En enkel tekstprompt kan nå generere en deepfake som er stadig vanskeligere å skille fra ekte innhold. Denne evnen har alvorlige implikasjoner for spredning av desinformasjon og manipulering av offentlig mening.

Ufordringer i Tilstedeværelse og Mildning

Tilstedeværelse er en av de største utfordringene vi står overfor når det gjelder AI-generert valginngripen. Mens vi historisk har assosiert valginngripen med nasjonalstatlige aktører, betyr demokratiseringen av AI-verktøy at innenlandske grupper, drevet av ulike ideologiske motiver, nå kan utnytte disse teknologiene for å påvirke valg.

Denne diffusjonen av potensielle trusler kompliserer vår evne til å identifisere og mildne kilder for desinformasjon. Det understreker også behovet for en flerfoldig tilnærming til valgsikkerhet som går utenfor tradisjonelle datasikkerhetstiltak.

Koordinert Innsats for å Opprettholde Valgintegritet

Å håndtere utfordringen med AI-drevne deepfakes i valg vil kreve en koordinert innsats over flere sektorer. Her er noen nøkkelområder hvor vi må fokusere våre innsatser:

• Shift-left-sikkerhet for AI-systemer. Vi må bruke prinsippene for “shift-left”-sikkerhet på utviklingen av AI-systemer selv. Dette betyr å inkorporere sikkerhetshensyn fra de tidligste stadiene av AI-modellutvikling, inkludert hensyn til potensiell misbruk i valginngripen.
• Påtvingelse av sikre konfigurasjoner. AI-systemer og plattformer som potensielt kan brukes til å generere deepfakes, bør ha robuste, sikre konfigurasjoner som standard. Dette inkluderer sterke autentiseringsmetoder og begrensninger på typene av innhold som kan genereres.
• Sikring av AI-levirkeden. Like som vi fokuserer på å sikre programvarelevirkeden, må vi utvide denne varsomheten til AI-levirkeden. Dette inkluderer å skrutinisere datasettene som brukes til å trene AI-modeller og algoritmene som brukes i generativ AI-systemer.
• Forbedret deteksjonskapasitet. Vi må investere i og utvikle avanserte deteksjonsverktøy som kan identifisere AI-generert innhold, spesielt i sammenheng med valgrelatert informasjon. Dette vil sannsynligvis involvere å bruke AI selv til å bekjempe AI-generert desinformasjon.
• Velgerutdanning og bevissthet. En avgjørende komponent i vår forsvar mot deepfakes er en informert velgermasse. Vi må ha omfattende utdanningsprogrammer for å hjelpe velgere å forstå eksistensen og potensielle innvirkning av AI-generert innhold, og gi dem verktøy for å kritisk vurdere informasjonen de møter.
• Tverrsektor samarbeid. Teknologisektoren, spesielt IT- og datasikkerhetsbedrifter, må samarbeide tett med regjeringsetater, valgmyndigheter og medieorganisasjoner for å skape en forent front mot AI-drevet valginngripen.

Hva nå, og hva neste

Ettersom vi implementerer disse strategiene, er det avgjørende at vi kontinuerlig måler deres effektivitet. Dette vil kreve nye metrikk og overvåkingsverktøy som er spesifikt designet for å spore innvirkningen av AI-generert innhold på valgdiskurs og velgeratferd.

Vi bør også være forberedt på å tilpasse våre strategier raskt. Feltet av AI utvikler seg i en rasende fart, og våre defensive tiltak må utvikle seg like raskt. Dette kan innebære å bruke AI selv til å skape mer robuste og tilpasningsdyktige sikkerhetstiltak.

Utfordringen med AI-drevne deepfakes i valg representerer et nytt kapittel i datasikkerhet og informasjonsintegritet. For å møte denne utfordringen, må vi tenke utenfor tradisjonelle sikkerhetsparadigmer og fremme samarbeid over sektorer og disipliner. Målet: å utnytte kraften av AI til beste for demokratiske prosesser samtidig som vi mildner dens potensiale for skade. Dette er ikke bare en teknisk utfordring, men en samfunnsmessig utfordring som vil kreve kontinuerlig varsomhet, tilpasning og samarbeid.

Integriteten av våre valg – og som en følge, helsen til vår demokrati – avhenger av vår evne til å møte denne utfordringen head-on. Det er et ansvar som faller på oss alle: teknologer, politiske beslutningstakere og borgere.