AI-nettverktøy skal gjenkjenne deepfakes og annen feil informasjon

Technologiselskapenes innsats for å bekjempe feilinformasjon og falsk innhold har økt betraktelig i løpet av de siste tidene, ettersom avanserte teknologier for å generere feil informasjon, som DeepFakes, blir enklere å bruke og mer avanserte. En kommende forsøk på å hjelpe mennesker å gjenkjenne og bekjempe deepfakes er RealityDefender, utviklet av AI Foundation, som har viet seg til å utvikle etiske AI-agenter og -assistenter som brukerne kan trene til å utføre ulike oppgaver.

AI Foundations mest bemerkelsesverdige prosjekt er en plattform som lar mennesker skape sine egne digitale personligheter som ligner dem og representerer dem i virtuelle møtesteder. AI Foundation overvåkes av Global AI Council, og som en del av deres mandat, må de forutse mulige negative konsekvenser av AI-plattformer og prøve å komme først med disse problemene. Ifølge VentureBeat, er ett av verktøyene som AI Foundation har utviklet for å hjelpe med å gjenkjenne deepfakes, kalt Reality Defender. Reality Defender er et verktøy som en person kan bruke i nettleseren sin (sjekk på det), som vil analysere videoer, bilder og andre typer medier for å gjenkjenne tegn på at mediene er blitt forfalsket eller endret på noen måte. Det håpes at verktøyet vil hjelpe til å motvirke den økende strømmen av deepfakes på internettet, som ifølge noen estimater har omtrent doblet seg over de siste seks månedene.

Reality Defender fungerer ved å bruke en rekke AI-baserte algoritmer som kan gjenkjenne tegn på at et bilde eller en video kan være forfalsket. AI-modellene gjenkjenner subtile tegn på triks og manipulasjon, og de falske positivene modellen gjenkjenner, blir merket som feil av brukerne av verktøyet. Dataene blir deretter brukt til å omtrene modellen. AI-selskaper som skaper ikke-deceptive deepfakes, får innholdet sitt merket med en “ærlig AI”-tag eller vannmerke som lar mennesker lett gjenkjenne de AI-genererte forfalskningene.

Reality Defender er bare ett av en rekke verktøy og en hel plattform for AI-ansvar som AI Foundation prøver å skape. AI Foundation arbeider med å skape Guardian AI, en plattform for ansvar bygget på prinsippet om at enkeltpersoner bør ha tilgang til personlige AI-agenter som arbeider for dem og som kan hjelpe til å beskytte dem mot utnyttelse av dårlige aktører. I realiteten prøver AI Foundation å både utvide AI-selskapets rekkevidde i samfunnet, bringe det til flere mennesker, og samtidig beskytte mot risikoen for AI.

Reality Defender er ikke det eneste nye AI-drevne produktet som skal redusere feilinformasjon i USA. Et lignende produkt er kalt SurfSafe, som ble skapt av to studenter fra UC Berkeley, Rohan Phadte og Ash Bhat. Ifølge The Verge, fungerer SurfSafe ved å la brukerne klikke på et stykke medie som de er nysgjerrige på, og programmet vil utføre en omvendt bilde-søk og prøve å finne lignende innhold fra forskjellige pålitelige kilder på internettet, og merke bilder som er kjent for å være forfalsket.

Det er uklart hvor effektive disse løsningene vil være på lang sikt. Dartmouth College-professor og ekspert på digital kriminalteknikk Hany Farid ble sitert av The Verge som sier at han er “ekstremt skeptisk” til at planer som Reality Defender vil fungere på en meningsfull måte. Farid forklarte at en av de viktigste utfordringene med å gjenkjenne feil informasjon er at mediene ikke bare er feil eller ekte. Farid forklarte:

“Det finnes en kontinuum; en usedvanlig kompleks rekke av problemer å håndtere. Noen endringer er meningsløse, og noen endrer fundamentalt naturen til et bilde. Å påstå at vi kan trene en AI til å se forskjellen er usedvanlig naivt. Og å påstå at vi kan crowdsourcet det er enda mer så.”

I tillegg er det vanskelig å inkludere crowdsourcing-elementer, som merking av feil positiver, fordi mennesker vanligvis er ganske dårlige til å identifisere feil bilder. Mennesker gjør ofte feil og glemmer subtile detaljer som markerer et bilde som feil. Det er også uklart hvordan man skal håndtere dårlige aktører som troller når de merker innhold.

Det ser ut til at, for å være maksimalt effektive, må fake-gjenkjenning-verktøyene kombineres med digitale litteracitetsinnsats som lærer mennesker hvordan de skal tenke om innholdet de interagerer med på nettet.