Hvor langt og mørkt vil deepfakes gå?

Som AI integreres mer dypt i våre daglige liv, har deepfake-teknologi blitt en voksende bekymring for mange, spesielt de som liker å dele personlige øyeblikk på sosiale medier. Uansett om det er en kveld ute med venner eller en familiepicknik i Bahamas, bilder delt på plattformer som Instagram, Facebook og Snapchat er ikke nødvendigvis trygge for mulig misbruk.

En ung kvinne fra Korea tok nylig til sosiale medier for å uttrykke sin distress over en deepfake-video som var laget som en hevnakt. I videoen syntes hun å være avkledd. Hun ba lidenskapelig om fjerning av den AI-genererte videoen og oppfordret personen til å stoppe distribusjonen.

I oktober 2023 var kjente personer som CBS Mornings co-host Gayle King, skuespiller Tom Hanks og YouTube-personlighet MrBeast ofre for uautoriserte deepfake-videor som spredte seg over sosiale medier. En annen video med CNN-journalist Clarissa Ward nær Israel-Gaza-grensen var manipulert for å kaste tvil på hennes rapportering.

Disse videoene, laget med banebrytende deepfake-teknologi, har evnen til å erstatte personer i eksisterende innhold. Deres realistiske natur er uhyggelig, og mange tror på deres autentisitet. Dette inkluderer AI-genererte sanger som imiterer berømte stjerner, noen av dem har blitt chart-toppere.

Slike hendelser har utløst globale bekymringer om potensialet for offentlig ydmykelse, trakassering og utpressing, og understreker den sinistre potensialet i deepfakes.

Hvorfor deepfake-teknologi er farligere enn du tror

Økningen i foruroligende hendelser indikerer behovet for proaktive tiltak mot deepfakes. For tiden finnes det ikke en universell lov som omhandler deepfakes eller uautorisert AI-generert innhold, selv i USA. Mens de ikke kan utryddes fullstendig, kan beskyttende tiltak tas.

For de som er ukyndige, bruker deepfake-teknologi AI til å lage realistiske, men fabrikkerte bilder, videoer eller lydklipp. Denne bedragerske teknologien fikk prominens rundt 2017 da en anonym Reddit-bruker introduserte en algoritme for å generere livlige falske videoer.

Til tross for at den opprinnelig var ment for underholdning, utdanning eller aktivisme, presenterer den raske fremgangen i AI, kombinert med deepfake-egenskaper, en mengde sikkerhets- og etiske bekymringer. Dette inkluderer:

1. Personvernsbrudd: En primær bekymring er uautorisert bruk av en persons likhet. Notable eksempler inkluderer deepfake-videor for voksne med kjendiser, som ødelegger deres image. For eksempel, i 2017, ble en upassende video som falskt portretterte skuespillerinnen Gal Gadot, vidt distribuert.
2. Desinformasjon og manipulering: Deepfakes kan forvrengle sannheter, og påvirke offentlig mening. Et notabelt eksempel er en deepfake-video med tidligere president Obama, laget av BuzzFeed og Jordan Peele. Selv om det var ment som en PSA mot desinformasjon, understreker det teknologiens potensielle misbruk.

1. Bedrageri og utpressing: Denne teknologien kan produsere falsk bevis eller bedra gjennom stemme/bilde-duplikasjon. Kriminelle kan bruke deepfakes for utpressing eller sogar finansiell bedrageri, som da et britisk energiselskap ble lurt til å overføre en betydelig sum, potensielt gjennom stemme-deepfake.
2. Fordommer og diskriminering: Deepfakes kan videreforplante eller forsterke samfunnets fordommer, og potensielt misrepresentere bestemte demografiske grupper.

Deepfakes: Trusler mot demokrati, relasjoner og identitet

mens deepfake-teknologien i seg selv ikke er ondsinnet, kan misbruket av den være skadelig. Den kan forvrengle valgresultater, belaste personlige relasjoner og krenke personlig identitet, som vist i underholdningsprogrammer som Netflix’ “DeepFake Love” og “Clickbait”.

Avsluttende tanker

Deepfakes transformerer det digitale området, åpner innovative veier samtidig som de stiller etiske utfordringer. Fraværet av global regulering og effektive oppdagelsesverktøy gjør dette til en kritisk sak. Mens offentlig bevissthet og mediekompetanse er essensielle, utgjør de bare en del av løsningen.

Det er viktig å overveie: Ser vi på deepfakes som teknologiske underverk eller trusler mot individuell og samfunnsmessig velferd? Samtalen må fortsette, ettersom kollektiv bevissthet og handling er avgjørende for å mildne de skadelige effektene av deepfake-teknologi.