I 2024 kommer deepfakes til å bli mainstream. Her er hvordan bedrifter kan beskytte seg

Siden minst valget i 2016, da bekymringer om desinformasjon eksploderte i det offentlige bevissthet, har eksperter advart om deepfakes. Konsekvensene av denne teknologien var – og er fremdeles – skremmende. Den ubegrensede spredningen av hyperrealistiske syntetiske medier utgjør en trussel mot alle – fra politikere til vanlige mennesker. I en eksplosiv omgivelse som allerede kjennetegnes av vidt utbredt mistillit, lovet deepfakes å bare å øke flammene ytterligere.

Det viser seg imidlertid at våre frykter var forhastede. Den tekniske ekspertisen som trengs for å faktisk lage deepfakes, kombinert med deres ofte dårlige kvalitet, betydde at i minst de to siste presidentvalgkretsene, var de en minimal bekymring.

Men all dette er nå i ferd med å endre seg – er allerede i ferd med å endre seg. Over de siste to årene har generativ AI-teknologi kommet inn i mainstream, radikalt forenklet prosessen med å lage deepfakes for den gjennomsnittlige forbrukeren. Disse samme innovasjonene har betydelig økt kvaliteten på deepfakes, slik at i en blindtest, ville de fleste menneskene ikke være i stand til å skille en manipulert video fra den ekte varen.

Dette året, spesielt, har vi begynt å se tegn på hvordan denne teknologien kan påvirke samfunnet hvis ikke innsatsen tas for å bekjempe den. For eksempel, forrige år gikk et AI-generert bilde av pave Frans som bar en usedvanlig stilfull frakk viral, og ble tatt av mange til å være ekte. Mens dette kan se ut som, på et nivå, som en harmløs bit av moro, avslører det den farlige potensen av disse deepfakes og hvor hardt det kan være å stoppe desinformasjon når den først har begynt å spre.

For denne grunn er det avgjørende at organisasjoner av alle slag – fra media til finans til regjeringer til sosiale medier-plattformer – tar en proaktiv holdning til deepfake-oppdaging og innholdets autentisitet. En kultur av tillit via sikkerhetstiltak må etableres nå, før en flodbølge av deepfakes kan skyve vår felles forståelse av virkeligheten vekk.

Å forstå deepfake-trusselen

Før vi dykker ned i hva organisasjoner kan gjøre for å bekjempe denne økningen i deepfakes, er det verdt å utdype på hvorfor sikkerhetstiltak er nødvendige. Vanligvis er det de som er bekymret for deepfakes som nevner deres potensielle effekt på politikk og samfunnets tillit. Disse potensielle konsekvensene er ekstremt viktige og bør ikke overse i noen samtale om deepfakes. Men som det skjer, har denne teknologiens oppblomstring potensielt katastrofale virkninger på flere sektorer i USAs økonomi.

Ta for eksempel forsikring. For tiden utgjør årlig forsikringssvindel i USA 308,6 milliarder dollar – et tall som er omtrent en fjerdedel så stort som hele industrien. Samtidig er bakende operasjoner i de fleste forsikringsselskaper i økende grad automatisert, med 70 % av standard krav projektert å være berøringsskjerm av 2025. Dette betyr at avgjørelser i økende grad tas med minimalt menneskelig inngrep: selvbetjening på forside og AI-fasilitert automatisering på baksiden.

Ironisk nok har den samme teknologien som har muliggjort denne økningen i automatisering – det vil si maskinlæring og kunstig intelligens – garantert dens misbruk av personer som søker å manipulere organisasjoner, enten for personlig vinning eller for å så samfunnskaos.

Det samme gjelder for offisielle dokumenter, som nå kan lett manipuleres – med fakturaer, underwriting-vurderinger og selv signaturer justert eller oppfunnet i sin helhet. Dette er et problem ikke bare for forsikringsselskaper, men over hele økonomien. Det er et problem for finansielle institusjoner, som må verifisere autentisiteten til en rekke dokumenter. Det er et problem for detaljhandlere, som kan motta en klage om at en vare ankom feil, sammen med et manipulert bilde.

Bedrifter kan ikke operere med denne graden av usikkerhet. En viss grad av svindel er sannsynligvis alltid uunngåelig, men med deepfakes snakker vi ikke om svindel på marginene – vi snakker om en potensiell epistemologisk katastrofe hvor bedrifter ikke har noen tydelig måte å bestemme sannhet fra fiksjon på, og ender opp med å tape milliarder av dollar på grunn av denne forvirringen.

Å bekjempe ild med ild: hvordan AI kan hjelpe

Hva kan da gjøres for å bekjempe dette? Kanskje ikke overraskende, ligger svaret i den samme teknologien som muliggjør deepfakes. Hvis vi ønsker å stoppe denne pesten før den får mer momentum, må vi bekjempe ild med ild. AI kan hjelpe med å generere deepfakes – men det kan også, heldigvis, hjelpe med å identifisere dem automatisk og i stor skala.

Med de riktige AI-verktøyene kan bedrifter automatisk bestemme om et gitt fotografi, video eller dokument har blitt manipulert. Ved å bruke dusinvis av ulike modeller til oppgaven med å identifisere falskhet, kan AI automatisk fortelle bedrifter nøyaktig om et gitt fotografi eller video er mistenkelig. Liksom verktøyene bedrifter allerede deployer for å automatisere daglige operasjoner, kan disse verktøyene kjøre i bakgrunnen uten å belaste overstretched stab eller ta tid vekk fra viktige prosjekter.

Hvis og når et fotografi blir identifisert som potensielt endret, kan menneskelig stab da bli varslet, og kan evaluere problemet direkte, assistert av informasjonen som er gitt av AI. Ved å bruke dybdeskanningsanalyse, kan det fortelle bedrifter hvorfor det tror at et fotografi sannsynligvis har blitt manipulert – peker for eksempel på manuelt endret metadata, eksistensen av identiske bilder på nettet, forskjellige fotografiske uregelmessigheter osv.

Ingenting av dette er ment å nedvurdere de fantastiske fremgangene vi har sett i generativ AI-teknologi over de siste årene, som faktisk har nyttige og produktive anvendelser over hele industrien. Men den potensen – ikke til å nevne enkelheten – i denne nye teknologien nær garanterer dens misbruk av personer som søker å manipulere organisasjoner, enten for personlig vinning eller for å så samfunnskaos.

Organisasjoner kan ha det beste av begge verdener: produktivitetsfordelene til AI uten ulemper av ubegrensede deepfakes. Men dette krever en ny grad av vigilans, spesielt med tanke på at generativ AI’s utdata bare blir mer overbevisende, detaljert og livlig fra dag til dag. Jo før organisasjoner retter oppmerksomheten mot dette problemet, jo før de kan høste de fulle fordelene av en automatisert verden.