AI-browser-værktøjer sigter mod at genkende Deepfakes og anden falsk medie

Bestræbelserne fra tech-virksomheder for at tackle misinformations- og falsk indhold er gået i højeste gear i nyere tid, da avanceret falsk indholdsgenereringsteknologi som DeepFakes bliver lettere at bruge og mere raffineret. En kommende forsøg på at hjælpe mennesker med at opdage og bekæmpe deepfakes er RealityDefender, produceret af AI Foundation, som har forpligtet sig til at udvikle etiske AI-agenter og -assistenter, som brugere kan træne til at udføre forskellige opgaver.

AI Foundations mest bemærkelsesværdige projekt er en platform, der tillader mennesker at oprette deres egne digitale personer, der ligner dem og repræsenterer dem i virtuelle mødelokaler. AI Foundation overvåges af Global AI Council, og som en del af deres mandat må de forudse de mulige negative konsekvenser af AI-platforme og derefter forsøge at komme før disse problemer. Som rapporteret af VentureBeat, er en af de værktøjer, som AI Foundation har skabt til at hjælpe med opdagen af deepfakes, kaldet Reality Defender. Reality Defender er et værktøj, som en person kan bruge i deres webbrowser, der vil analysere video, billeder og andre typer medier for at opdage tegn på, at mediet er blevet fabrikeret eller ændret på en eller anden måde. Det håbes, at værktøjet vil hjælpe med at modvirke den øgede mængde deepfakes på internettet, som ifølge visse estimeringer er næsten fordoblet over de seneste seks måneder.

Reality Defender fungerer ved at anvende en række AI-baserede algoritmer, der kan opdage hints om, at et billede eller en video måske er blevet fabrikeret. AI-modellerne opdager subtile tegn på trickery og manipulation, og de falske positive, som modellen opdager, bliver markeret som forkerte af brugerne af værktøjet. Dataene bliver derefter brugt til at genoptræne modellen. AI-virksomheder, der skaber ikke-bedrageriske deepfakes, får deres indhold mærket med en “ærlig AI”-mærke eller vandmærke, der låser mennesker hurtigt kan identificere de AI-genererede falske.

Reality Defender er kun ét af en række værktøjer og en hel AI-ansvarlighedsplatform, som AI Foundation forsøger at skabe. AI Foundation forsøger at skabe Guardian AI, en ansvarlighedsplatform bygget på præmis, at individer skal have adgang til personlige AI-agenter, der arbejder for dem og kan hjælpe med at beskytte dem mod udnyttelse af dårlige aktører. I virkeligheden forsøger AI Foundation både at udvide AI’s rækkevidde i samfundet, bringe det til flere mennesker og samtidig beskytte mod AI’s risici.

Reality Defender er ikke det eneste nye AI-drevne produkt, der sigter mod at reducere misinformations på internettet i USA. Et lignende produkt er kaldt SurfSafe, som er skabt af to studerende fra UC Berkeley, Rohan Phadte og Ash Bhat. Ifølge The Verge, fungerer SurfSafe ved at låse brugere klikke på et stykke medie, de er nysgerrige om, og programmet vil udføre en omvendt billedsøgning og prøve at finde lignende indhold fra forskellige troværdige kilder på internettet, og markere billeder, der er kendt for at være manipuleret.

Det er uklart, hvor effektive disse løsninger vil være på længere sigt. Dartmouth College-professor og forensisk ekspert Hany Farid blev citeret af The Verge som siger, at han er “ekstremt skeptisk” over for, at planer som Reality Defender vil fungere på en meningsfuld måde. Farid forklarede, at en af de største udfordringer ved at opdage falsk indhold er, at mediet ikke er rent falsk eller ærligt. Farid forklarede:

“Der er en kontinuum; en utrolig kompleks række af problemer at tackle. Nogle ændringer er meningsløse, og nogle ændrer fundamentalt på indholdets natur. At prætende, at vi kan træne en AI til at spotte forskellen, er utrolig naivt. Og at prætende, at vi kan crowdsourcet er endnu mere sådan.”

Derudover er det svært at inkludere crowdsourcing-elementer, såsom markering af falske positive, fordi mennesker typisk er ret dårlige til at identificere falske billeder. Mennesker begår ofte fejl og mangler subtile detaljer, der markerer et billede som falsk. Det er også uklart, hvordan man skal håndtere dårlige aktører, der troler, når de markerer indhold.

Det ser ud til, at for at være maksimalt effektive, skal fake-detector-værktøjer kombineres med digitale litteracitetsindsatser, der lærer mennesker, hvordan de skal forholde sig til det indhold, de interagerer med på internettet.