Alex Fink, Tech Executive, Grundlægger & CEO af Otherweb – Interview Serie

Alex Fink er en tech-executive og grundlægger og CEO af Otherweb, en public benefit corporation, der bruger AI til at hjælpe mennesker med at læse nyheder og kommentarer, lytte til podcasts og søge på internettet uden betalingsmure, klikfængende overskrifter, annoncer, automatisk afspillede videoer, affiliate-links eller anden “skrammel”-indhold. Otherweb er tilgængelig som en app (iOS og Android), et website, en nyhedsbrev eller en selvstændig browser-udvidelse. Før Otherweb var Alex grundlægger og CEO af Panopteo og medstifter og formand for Swarmer.

Kan du give en oversigt over Otherweb og dens mission om at skabe et junk-frit nyhedsrum?

Otherweb er en public benefit corporation, der er oprettet for at hjælpe med at forbedre kvaliteten af den information, folk forbruger.

Vores primære produkt er en nyhedsapp, der bruger AI til at filtrere skrammel ud og tillade brugerne ubegrænsede tilpasninger – kontrollerende hver kvalitetsgrænse og hver sorteringsmekanisme, appen bruger.

Med andre ord, mens resten af verden skaber sorte boks-algoritmer for at maksimere brugerengagement, vil vi give brugerne så meget værdi som muligt i så lidt tid som muligt, og vi gør alt tilgængeligt. Vi har endda gjort vores AI-modeller og datasets kilde-tilgængelige, så folk kan se nøjagtig, hvad vi gør, og hvordan vi vurderer indhold.

Hvad inspirerede dig til at fokusere på at bekæmpe misinformation og fake news med AI?

Jeg blev født i Sovjetunionen og så, hvad der sker med et samfund, når alle forbruger propaganda, og ingen har nogen idé om, hvad der sker i verden. Jeg har levende minder om mine forældre, der vågnede op klokken 4 om morgenen, låste sig inde på toilettet og tændte for radioen for at lytte til Voice of America. Det var ulovligt, selvfølgelig, hvilket er hvorfor de gjorde det om natten og sikrede, at naboerne ikke kunne høre – men det gav os adgang til rigtig information. Som følge heraf forlod vi 3 måneder før alt brød sammen, og krigen brød ud i min hjemby.

Jeg husker faktisk at have set billeder af tanks på gaden, hvor jeg voksede op, og tænkte “sådan er det med rigtig information”.

Jeg ønsker, at flere mennesker har adgang til rigtig, højkvalitetsinformation.

Hvor stor er truslen fra deepfakes, især i sammenhæng med valg?

På kort sigt er det en meget alvorlig trussel.

Vælgere forstår ikke, at video- og lydoptagelser ikke længere kan betrodes. De tror, at video er bevis for, at noget er sket, og for 2 år siden var dette stadig sandt, men nu er det åbenbart ikke længere tilfældet.

I år i Pakistan fik Imran Khan-vælgere opkald fra Imran Khan selv, personligt, og blev bedt om at boykotte valget. Det var falsk, selvfølgelig, men mange mennesker troede på det.

Vælgere i Italien så en af deres kvindelige politikere optræde i en pornografisk video. Det var falsk, selvfølgelig, men inden det blev afsløret – var skaden allerede sket.

Even her i Arizona så vi en nyhedsbrev annoncere sig selv ved at vise en video med en endorsement fra Kari Lake. Hun havde aldrig støttet det, selvfølgelig, men nyhedsbrevet fik alligevel tusindvis af abonnenter.

Så kommer november, tror jeg, det er næsten uundgåeligt, at vi vil se mindst én falsk bombshell. Og det er meget sandsynligt, at det vil blive frigivet lige før valget og vise sig at være falsk lige efter valget – når skaden allerede er sket.

Hvor effektive er nuværende AI-værktøjer til at identificere deepfakes, og hvilke forbedringer kan vi forvente i fremtiden?

I fortiden var den bedste måde at identificere falske billeder at zoome ind og se efter karakteristiske fejl (aka “artefakter”) billedskabere havde en tendens til at lave. Forkert belysning, manglende skygger, ujævne kanter på visse objekter, over-komprimering omkring objekterne osv.

Problemet med GAN-baseret redigering (aka “deepfake”) er, at ingen af disse almindelige artefakter er til stede. Måden processen virker på er, at en AI-model redigerer billedet, og en anden AI-model søger efter artefakter og peger dem ud – og cyklussen gentages igen og igen, indtil der ikke er nogen artefakter tilbage.

Derfor er der generelt ingen måde at identificere en velgjort deepfake-video ved at se på indholdet selv.

Vi må ændre vores mindset og begynde at antage, at indholdet kun er ægte, hvis vi kan spore dets kæde af ejerskab tilbage til kilden. Tænk på det som fingeraftryk. At se fingeraftryk på mordvåben er ikke nok. Du skal vide, hvem fandt mordvåben, hvem bragte det tilbage til lageret osv – du skal kunne spore hver enkelt gang det skiftede hænder og sikre, at det ikke blev manipuleret.

Hvad kan regeringer og tech-virksomheder gøre for at forhindre spredning af misinformation under kritiske tidspunkter som valg?

Den bedste modgift mod misinformation er tid. Hvis du ser noget, der ændrer tingene, skal du ikke skynde dig at offentliggøre – tag en dag eller to til at verificere, at det faktisk er sandt.

Desværre kolliderer denne tilgang med mediers forretningsmodel, der belønner klik, selv hvis materialet viser sig at være falsk.

Hvordan udnytter Otherweb AI til at sikre ægthed og nøjagtighed af de nyheder, det samler?

Vi har fundet ud af, at der er en stærk korrelation mellem korrekthed og form. Mennesker, der vil fortælle sandheden, tenderer til at bruge visse sprog, der understreger tilbageholdenhed og ydmyghed, hvorimod mennesker, der ikke respekterer sandheden, forsøger at få så meget opmærksomhed som muligt.

Otherwebs største fokus er ikke faktatjek. Det er form-tjek. Vi vælger artikler, der undgår opmærksomhedskrævende sprog, giver eksterne referencer for hver påstand, siger ting, som de er, og ikke bruger overbevisningsteknikker.

Dette metode er ikke perfekt, selvfølgelig, og i teorien kunne en dårlig aktør skrive en falskhed i nøjagtig den stil, vores modeller belønner. Men i praksis sker det bare ikke. Mennesker, der vil lyve, vil også have en masse opmærksomhed – det er det, vi har lært vores modeller at detectere og filtrere ud.

Hvordan kan platforme som Otherweb hjælpe med at genskabe brugernes tillid til digitalt indhold?

Den bedste måde at hjælpe mennesker med at forbruge bedre indhold er at prøve fra alle sider, vælge det bedste af hvert og øve en masse tilbageholdenhed. De fleste medier skynder sig at offentliggøre uverificeret information disse dage. Vores evne til at krydskontrollere information fra hundredvis af kilder og fokusere på de bedste punkter giver os mulighed for at beskytte vores brugere mod de fleste former for misinformation.

Hvad er rollen af metadata, som C2PA-standarder, i at verificere ægthed af billeder og videoer?

Det er den eneste livskraftige løsning. C2PA kan måske eller måske ikke være den rigtige standard, men det er klart, at den eneste måde at validere, om videoen du ser, afspejler noget, der faktisk skete i virkeligheden, er at a) sikre, at kameraet, der blev brugt til at optage videoen, kun optog og ikke redigerede, og b) sikre, at ingen redigerede videoen efter den forlod kameraet. Den bedste måde at gøre det på er at fokusere på metadata.

Hvad er de fremtidige udviklinger, du forventer i kampen mod misinformation og deepfakes?

Jeg tror, at inden for 2-3 år vil mennesker tilpasse sig den nye virkelighed og ændre deres mindset. Før det 19. århundrede var den bedste form for bevis vidneudsagn. Deepfakes er sandsynligvis til at få os til at vende tilbage til disse afprøvede standarder.

Med hensyn til misinformation mere bredt tror jeg, det er nødvendigt at tage en mere nuanceret synsvinkel og adskille desinformation (dvs. falsk information, der er lavet med vilje for at forføre) fra skrammel (dvs. information, der er lavet for at blive monetiseret, uanset dets sandhed).

Modgiften mod skrammel er en filtermekanisme, der gør det mindre sandsynligt, at skrammel spreder sig som en steppebrand. Det ville ændre incitamentsstrukturen, der får skrammel til at sprede sig. Desinformation vil stadig eksistere, ligesom det altid har gjort. Vi har kunnet klare os med det i det 20. århundrede, og vi vil kunne klare os med det i det 21.

Det er skrammelen, vi skal bekymre os om, fordi det er den del, vi er dårligt udstyret til at håndtere lige nu. Det er hovedproblemet, menneskeheden skal løse.

Når vi ændrer incitamentsstrukturen, vil signal-til-støj-forholdet på internettet forbedre sig for alle.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Otherwebs website, eller følge dem på X eller LinkedIn.