Alex Fink, Tech-chef, Grundare och VD för Otherweb – Intervju-serie

Alex Fink är en tech-chef och grundare och VD för Otherweb, ett företag som använder AI för att hjälpa människor att läsa nyheter och kommentarer, lyssna på podcaster och söka på webben utan betalväggar, klickbait, annonser, automatiska videor, affiliatelänkar eller annat “skräp”-innehåll. Otherweb finns tillgängligt som en app (iOS och Android), en webbplats, en nyhetsbrev eller en fristående webbläsartillägg. Innan Otherweb var Alex grundare och VD för Panopteo och medgrundare och ordförande för Swarmer.

Kan du ge en översikt av Otherweb och dess uppdrag att skapa ett skräpfritt nyhetsutrymme?

Otherweb är ett företag som skapats för att förbättra kvaliteten på den information som människor konsumerar.

Vår huvudprodukt är en nyhetsapp som använder AI för att filtrera bort skräp och tillåter användare obegränsade anpassningar – kontroll över varje kvalitetsgräns och varje sorteringsmekanism appen använder.

Med andra ord, medan resten av världen skapar svarta lådor-algoritmer för att maximera användarengagemang, vill vi ge användarna så mycket värde som möjligt på så liten tid som möjligt, och vi gör allt anpassningsbart. Vi har till och med gjort våra AI-modeller och datamängder källkods-tillgängliga så att människor kan se exakt vad vi gör och hur vi utvärderar innehåll.

Vad inspirerade dig att fokusera på att bekämpa desinformation och falska nyheter med hjälp av AI?

Jag föddes i Sovjetunionen och såg vad som händer med ett samhälle när alla konsumerar propaganda, och ingen har någon aning om vad som händer i världen. Jag har tydliga minnen av mina föräldrar som vaknade klockan 4 på morgonen, låste in sig i garderoben och satte på radion för att lyssna på Voice of America. Det var förbjudet naturligtvis, vilket är varför de gjorde det på natten och såg till att grannarna inte kunde höra – men det gav oss tillgång till riktig information. Som ett resultat lämnade vi 3 månader innan allt bröt samman och krig bröt ut i min hemstad.

Jag minns faktiskt att jag såg foton av stridsvagnar på gatan jag växte upp på och tänkte “så här ser riktig information ut”.

Jag vill att fler människor ska ha tillgång till riktig, högkvalitativ information.

Hur allvarlig är hotet från deepfakes, särskilt i sammanhanget att påverka val?

På kort sikt är det ett mycket allvarligt hot.

Väljare förstår inte att video- och ljudinspelningar inte längre kan lita på. De tror att video är bevis för att något har hänt, och för 2 år sedan var detta fortfarande sant, men nu är det uppenbarligen inte längre fallet.

I år, i Pakistan, fick Imran Khan-väljare samtal från Imran Khan själv, personligen, och bad dem att bojkotta valet. Det var falskt, naturligtvis, men många människor trodde på det.

Väljare i Italien såg en av deras kvinnliga politiker dyka upp i en pornografisk video. Det var falskt, naturligtvis, men innan bedrägeriet avslöjades – var skadan redan skedd.

Även här i Arizona såg vi en nyhetsbrev som annonserade sig själv genom att visa en video med Kari Lake. Hon hade aldrig gett sitt stöd, naturligtvis, men nyhetsbrevet fick ändå tusentals prenumeranter.

Så i november tror jag att det är nästan oundvikligt att vi kommer att se minst en falsk bombshell. Och det är mycket troligt att det kommer att släppas strax före valet och visa sig vara falskt strax efter valet – när skadan redan är skedd.

Hur effektiva är nuvarande AI-verktyg för att identifiera deepfakes, och vilka förbättringar ser du framför dig i framtiden?

Förut var den bästa metoden för att identifiera falska bilder att zooma in och leta efter de karakteristiska misstagen (aka “artefakter”) som bildskapare tenderade att göra. Felaktig belysning, saknad skugga, ojämna kanter på vissa föremål, överkomprimering runt föremålen, etc.

Problemet med GAN-baserad redigering (aka “deepfake”) är att inga av dessa vanliga artefakter finns närvarande. Sättet processen fungerar är att en AI-modell redigerar bilden, och en annan AI-modell letar efter artefakter och pekar ut dem – och cykeln upprepas om och om igen tills det inte finns några artefakter kvar.

Vi måste ändra vår synsätt och börja anta att innehållet bara är riktigt om vi kan spåra dess ägar kedja tillbaka till källan. Tänk på det som fingeravtryck. Att se fingeravtryck på mordvapnet är inte tillräckligt. Du måste veta vem som hittade mordvapnet, vem tog det tillbaka till lagerrummet, etc – du måste kunna spåra varje gång det bytte händer och se till att det inte manipulerades.

Vilka åtgärder kan regeringar och tech-företag vidta för att förhindra spridning av desinformation under kritiska tider som val?

Det bästa motmedlet mot desinformation är tid. Om du ser något som förändrar allt, vänta inte med att publicera – ta en eller två dagar för att verifiera att det faktiskt är sant.

Tyvärr krockar denna strategi med medias affärsmodell, som belönar klick även om materialet visar sig vara falskt.

Hur använder Otherweb AI för att säkerställa autenticiteten och noggrannheten i de nyheter det sammanställer?

Vi har funnit att det finns en stark korrelation mellan riktighet och form. Människor som vill berätta sanningen tenderar att använda ett visst språk som betonar återhållsamhet och ödmjukhet, medan människor som nonchalerar sanningen försöker få så mycket uppmärksamhet som möjligt.

Otherwebs största fokus är inte faktakontroll. Det är formkontroll. Vi väljer artiklar som undviker uppmärksamhetsdrivande språk, tillhandahåller externa referenser för varje påstående, uttalar saker som de är, och inte använder övertalningsknep.

Denna metod är inte perfekt, naturligtvis, och i teorin kunde en dålig aktör skriva en lögn i exakt den stil som våra modeller belönar. Men i praktiken händer det inte. Människor som vill ljuga vill också ha mycket uppmärksamhet – det är det vi har lärt våra modeller att upptäcka och filtrera bort.

Hur kan plattformar som Otherweb hjälpa till att återställa användarnas förtroende för digitalt innehåll, med tanke på den ökande svårigheten att skilja på riktiga och falska bilder?

Det bästa sättet att hjälpa människor att konsumera bättre innehåll är att sampla från alla sidor, välja det bästa av varje, och utöva mycket återhållsamhet. De flesta medier rusar för att publicera overifierad information dessa dagar. Vår förmåga att korsreferera information från hundratals källor och fokusera på de bästa objekten tillåter oss att skydda våra användare från de flesta former av desinformation.

Vilken roll spelar metadata, som C2PA-standarden, i att verifiera äktheten av bilder och videor?

Det är den enda livskraftiga lösningen. C2PA kan eller kan inte vara rätt standard, men det är tydligt att den enda vägen att validera om videon du tittar på återspeglar något som faktiskt hände i verkligheten är att a) säkerställa att kameran som användes för att spela in videon bara spelade in och inte redigerade, och b) säkerställa att ingen redigerade videon efter att den lämnade kameran. Det bästa sättet att göra det är att fokusera på metadata.

Vilka framtida utvecklingar ser du i kampen mot desinformation och deepfakes?

Jag tror att, inom 2-3 år, människor kommer att anpassa sig till den nya verkligheten och ändra sitt synsätt. Före 1900-talet var den bästa formen av bevis vittnesmål från ögonvittnen. Deepfakes kommer sannolikt att göra oss att återgå till dessa beprövade standarder.

Med desinformation i allmänhet tror jag att det är nödvändigt att ta en mer nyanserad syn och skilja på desinformation (dvs. falsk information som skapas för att vilseleda) och skräp (dvs. information som skapas för att monetiseras, oavsett dess sanningshalt).

Medicinen mot skräp är ett filtermekanism som gör det mindre sannolikt att skräp sprids som en löpeld. Det skulle ändra incitamentsstrukturen som gör att skräp sprids som en löpeld. Desinformation kommer fortfarande att existera, precis som det alltid har gjort. Vi har kunnat hantera det under 1900-talet, och vi kommer att kunna hantera det under 2000-talet.

Det är skräpet vi måste oroa oss för, eftersom det är den delen vi är ill-equipped to handle right now. That’s the main problem humanity needs to address. Once we change the incentives, the signal-to-noise ratio of the internet will improve for everyone. Thank you for the great interview, readers who wish to learn more should visit the Otherweb website, or follow them on X or LinkedIn.