Hvor langt og mørkt vil deepfakes gå?

Som AI integreres dybere i vores daglige liv, er deepfake-teknologi blevet en voksende bekymring for mange, især for dem, der er glade for at dele personlige øjeblikke på sociale medier. Uanset om det er en aften ud med venner eller en familiepicknik i Bahamas, er billeder, der deles på platforme som Instagram, Facebook og Snapchat, ikke nødvendigvis sikre mod mulig misbrug.

En ung kvinde fra Korea tog nyligt til sociale medier for at udtrykke sin bekymring over en deepfake-video, der var lavet som en akt af hævn. I videoen så det ud, som om hun var afklædt. Hun appellerede stærkt til, at den AI-genererede video blev fjernet, og opfordrede personen til at stoppe distributionen.

I oktober 2023 var kendte personer som CBS Mornings-vært Gayle King, skuespiller Tom Hanks og YouTube-personlighed MrBeast ofre for uautoriserede deepfake-videos, der spredte sig på sociale medier. En anden video med CNN-journalist Clarissa Ward nær den israelsk-gazaiske grænse var manipuleret for at kaste tvivl over hendes rapportering.

Disse videoer, der er lavet med avanceret deepfake-teknologi, har mulighed for at erstatte personer i eksisterende indhold. Deres realistiske natur er foruroligende, og mange tror på deres ægthed. Dette inkluderer AI-genererede sange, der efterligner berømte stjerner, nogle af hvilke er blevet chart-toppere.

Sådanne begivenheder har udløst globale bekymringer om muligheden for offentlig ydmygelse, chikane og afpresning, og understreger yderligere den onde potentiale i deepfakes.

Hvorfor deepfake-teknologi er farligere, end du tror

Stigningen i foruroligende begivenheder indikerer, at der er behov for proaktive foranstaltninger mod deepfakes. Der findes i øjeblikket ikke en universel lov, der omhandler deepfakes eller uautoriseret AI-genereret indhold, selv i USA. Selv om de ikke kan udryddes helt, kan beskyttende skridt tages.

For dem, der ikke kender til det, anvender deepfake-teknologi AI til at lave realistiske, men fabrikerede billeder, videoer eller lydklip. Denne bedrageriske teknologi fik fremtræden omkring 2017, da en anonym Reddit-bruger introducerede en algoritme til at generere livlige falske videoer.

Selv om det oprindeligt var tænkt til underholdning, uddannelse eller aktivisme, præsenterer den hurtige udvikling af AI, kombineret med deepfake-kapaciteter, en række sikkerheds- og etiske bekymringer. Dette inkluderer:

1. Privatlivskrænkelse: En primær bekymring er uautoriseret brug af en persons lignelse. Bemærkelsesværdige sager inkluderer deepfake-videos for voksne med berømtheder, der ødelægger deres image. For eksempel cirkulerede der i 2017 en upassende video, der falsk portrætterede skuespillerinden Gal Gadot.
2. Desinformation og manipulation: Deepfakes kan forvrænge sandheder og påvirke offentlig mening. Et bemærkelsesværdigt eksempel er en deepfake-video med den tidligere præsident Obama, lavet af BuzzFeed og Jordan Peele. Selv om det var tænkt som en PSA mod misinformation, understreger det teknologiens potentiale misbrug.

1. Svindel og afpresning: Denne teknologi kan producere falsk bevis eller bedrage gennem stemme/billedduplikation. Kriminelle kan bruge deepfakes til afpresning eller endda finansielle svindel, som da en britisk energivirksomhed blev tricket til at overføre en betydelig sum, muligvis gennem en stemme-deepfake.
2. Fordomme og diskrimination: Deepfakes kan fastholde eller forstærke samfundsmæssige fordomme og muligvis misrepræsentere bestemte demografiske grupper.

Deepfakes: Trusler mod demokrati, forhold og identitet

Deepfake-teknologien i sig selv er ikke ond, men dens misbrug kan være skadeligt. Den kan forvrænge valgresultater, belaste personlige forhold og krænke personlig identitet, som vist i underholdningsprogrammer som Netflix’ “DeepFake Love” og “Clickbait”.

Afsluttende tanker

Deepfakes transformerer den digitale verden, åbner innovative veje og stiller etiske udfordringer. Mangel på global regulering og effektive detectionsværktøjer gør dette til en kritisk sag. Selv om offentlig bevidsthed og mediekompetence er essentielle, udgør de kun en del af løsningen.

Det er vigtigt at overveje: Ser vi deepfakes som teknologiske undere eller trusler mod individuel og samfundsmæssig trivsel? Samtalen må fortsætte, da fælles bevidsthed og handling er afgørende for at mindske de skadelige virkninger af deepfake-teknologi.