AI-verktyg för webbläsare syftar till att känna igen Deepfakes och annan falsk media

Ansträngningarna från techföretag för att bekämpa desinformation och falskt innehåll har gått in i hög växel på senare tid, eftersom avancerad teknik för generering av falskt innehåll, som DeepFakes, blir lättare att använda och mer raffinerad. En kommande försök att hjälpa människor att upptäcka och bekämpa deepfakes är RealityDefender, som produceras av AI-stiftelsen, som har åtagit sig att utveckla etiska AI-agenter och assistenter som användare kan utbilda för att utföra olika uppgifter.

AI-stiftelsens mest anmärkningsvärda projekt är en plattform som tillåter människor att skapa sina egna digitala personligheter som ser ut som dem och representerar dem i virtuella umgängesutrymmen. AI-stiftelsen övervakas av den globala AI-rådet och som en del av deras mandat måste de förutse de möjliga negativa effekterna av AI-plattformar, och sedan försöka komma före dessa problem. Enligt VentureBeat är en av de verktyg som AI-stiftelsen har skapat för att hjälpa till att upptäcka deepfakes kallad Reality Defender. Reality Defender är ett verktyg som en person kan använda i sin webbläsare (kontrollera det), som kommer att analysera video, bilder och andra typer av media för att upptäcka tecken på att mediet har blivit fejkad eller ändrat på något sätt. Det hoppas att verktyget kommer att hjälpa till att motverka den ökande mängden deepfakes på internet, som enligt vissa uppskattningar har mer än dubblats under de senaste sex månaderna.

Reality Defender fungerar genom att använda en mängd AI-baserade algoritmer som kan upptäcka ledtrådar som tyder på att en bild eller video kan ha blivit fejkad. AI-modellerna upptäcker subtila tecken på bedrägeri och manipulation, och de falska positiva som modellen upptäcker markeras som felaktiga av verktygets användare. Data används sedan för att omträna modellen. AI-företag som skapar icke-bedrägliga deepfakes märker sin innehåll med en “ärlig AI”-tagg eller vattenstämpel som låter människor lätt identifiera AI-genererade fejk.

Reality Defender är bara ett av ett antal verktyg och en hel AI-ansvarsplattform som AI-stiftelsen försöker skapa. AI-stiftelsen strävar efter att skapa Guardian AI, en ansvarsplattform byggd på principen att individer bör ha tillgång till personliga AI-agenter som arbetar för dem och som kan hjälpa till att skydda dem mot utnyttjande av illvilliga aktörer. I princip syftar AI-stiftelsen till att både utöka AI:s räckvidd i samhället, ta det till fler människor, och samtidigt skydda mot AI-risker.

Reality Defender är inte det enda nya AI-drivna produkten som syftar till att minska desinformation i USA. En liknande produkt heter SurfSafe, som skapades av två studenter från UC Berkeley, Rohan Phadte och Ash Bhat. Enligt The Verge fungerar SurfSafe genom att låta användarna klicka på en media som de är nyfikna på och programmet kommer att utföra en omvänd bildsökning och försöka hitta liknande innehåll från olika betrodda källor på internet, och markera bilder som är kända för att vara förfalskade.

Det är oklart hur effektiva dessa lösningar kommer att vara på lång sikt. Dartmouth College-professorn och forensisk expert Hany Farid citerades av The Verge som sagt att han är “extremt skeptisk” till att system som Reality Defender kommer att fungera på ett meningsfullt sätt. Farid förklarade att en av de viktigaste utmaningarna med att upptäcka falskt innehåll är att media inte är rent falskt eller äkta. Farid förklarade:

“Det finns en kontinuum; en otroligt komplex uppsättning problem att hantera. Vissa förändringar är meningslösa, och vissa förändrar fundamentalt karaktären på en bild. Att påstå att vi kan utbilda en AI för att upptäcka skillnaden är otroligt naivt. Och att påstå att vi kan crowdsourca det är ännu mer så.”

Dessutom är det svårt att inkludera crowdsourcing-element, såsom markering av falska positiva, eftersom människor vanligtvis är ganska dåliga på att identifiera fejkade bilder. Människor gör ofta misstag och missar subtila detaljer som markerar en bild som fejk. Det är också oklart hur man ska hantera illvilliga aktörer som trakasserar när de flaggar innehåll.

Det verkar troligt att, för att vara maximalt effektiv, fejkdetekteringsverktyg kommer att behöva kombineras med digitala litteracitetsinsatser som lär människor hur man resonerar om innehållet de interagerar med online.