Alex Fink, teknisk direktør, grunnlegger og CEO av Otherweb – Intervju-serie

Alex Fink er en teknisk direktør og grunnlegger og CEO av Otherweb, et offentlig godt gjort selskap som bruker AI til å hjelpe mennesker å lese nyheter og kommentarer, lytte til podcaster og søke på nettet uten betalingsmur, klikk-fiske, annonser, automatisk avspillende videoer, affiliate-lenker eller andre former for “skralle” innhold. Otherweb er tilgjengelig som en app (iOS og Android), et nettsted, en nyhetsbrev eller en selvstendig nettleser-utvidelse. Før Otherweb var Alex grunnlegger og CEO av Panopteo og medgrunnlegger og styreleder av Swarmer.

Kan du gi en oversikt over Otherweb og dens misjon om å skape et skralle-fritt nyhetsrom?

Otherweb er et offentlig godt gjort selskap, opprettet for å hjelpe å forbedre kvaliteten på informasjonen mennesker konsumerer.

Vårt hovedprodukt er en nyhetsapp som bruker AI til å filtrere skralle ut, og å tillate brukerne ubegrensede tilpasninger – kontroll over hver kvalitetsgrense og hver sorteringsmekanisme appen bruker.

Med andre ord, mens resten av verden lager svarte boks-algoritmer for å maksimere brukerengasjement, vil vi gi brukerne så mye verdi som mulig i så liten tid som mulig, og vi gjør alt tilgjengelig. Vi har også gjort våre AI-modeller og datasett åpne så folk kan se eksakt hva vi gjør og hvordan vi vurderer innhold.

Hva inspirerte deg til å fokusere på å bekjempe desinformasjon og feilaktig informasjon ved hjelp av AI?

Jeg ble født i Sovjetunionen og så hva som skjer med et samfunn når alle konsumerer propaganda, og ingen har noen ide om hva som skjer i verden. Jeg har tydelige minner om mine foreldre som våknet klokken 4 om morgenen, låste seg inne på soverommet og slo på radioen for å lytte til Voice of America. Det var ulovlig, selvfølgelig, som er grunnen til at de gjorde det om natten og sørget for at naboene ikke kunne høre – men det ga oss tilgang til ekte informasjon. Som resultat forlot vi 3 måneder før alt sammen brøt sammen og krigen brøt ut i min hjemby.

Jeg husker faktisk å se bilder av stridsvogner på gaten jeg vokste opp på og tenkte “så dette er hva ekte informasjon er verdt”.

Jeg ønsker at flere mennesker skal ha tilgang til ekte, høykvalitets informasjon.

Hvor signifikant er trusselen fra deepfakes, særlig i sammenheng med å påvirke valg? Kan du dele spesifikke eksempler på hvordan deepfakes har blitt brukt til å spre desinformasjon og hvilken effekt de hadde?

På kort sikt er det en meget alvorlig trussel.

Velgerne innser ikke at video- og lydopptak ikke lenger kan stole på. De tror at video er bevis på at noe skjedde, og for 2 år siden var dette fortsatt sant, men nå er det åpenbart ikke lenger tilfelle.

I år, i Pakistan, fikk Imran Khan-velgere samtaler fra Imran Khan selv, personlig, og ba dem boikotte valget. Det var feilaktig, selvfølgelig, men mange mennesker trodde det.

Velgere i Italia så en av deres kvinnelige politikere dukke opp i en pornografisk video. Det var feilaktig, selvfølgelig, men før feilaktigheten ble avdekket – var skaden allerede gjort.

Even her i Arizona, så vi en nyhetsbrev annonsere seg selv ved å vise en endorsement-video med Kari Lake. Hun hadde aldri støttet det, selvfølgelig, men nyhetsbrevet fikk likevel tusenvis av abonnenter.

Så kommer november, tror jeg det er nesten uunngåelig at vi vil se minst ett feilaktig bombshell. Og det er svært sannsynlig at det vil dukke opp like før valget og vise seg å være feilaktig like etter valget – når skaden allerede er gjort.

Hvor effektive er nåværende AI-verktøy i å identifisere deepfakes, og hva forbedringer ser du for fremtiden?

I fortiden var den beste måten å identifisere feilaktige bilder å zoome inn og se etter karakteristiske feil (aka “artefakter”) bildeskapere tenderte til å gjøre. Feilaktig lys, manglende skygge, ujevn kant på visse objekter, over-komprimering rundt objektene, osv.

Problemet med GAN-basert redigering (aka “deepfake”) er at ingen av disse vanlige artefaktene er til stede. Måten prosessen fungerer er at en AI-modell redigerer bildet, og en annen AI-modell søker etter artefakter og peker dem ut – og syklusen gjentas gang på gang til det ikke er noen artefakter igjen.

Som resultat er det generelt ingen måte å identifisere en velgjort deepfake-video ved å se på innholdet selv.

Vi må endre vår tankegang, og begynne å anta at innholdet bare er ekte hvis vi kan spore kjeden av eierskap tilbake til kilde. Tenk på det som fingeravtrykk. Å se fingeravtrykk på mordvåpenet er ikke nok. Du må vite hvem fant mordvåpenet, hvem brakte det tilbake til lagerrommet, osv – du må kunne spore hver enkelt gang det skiftet hender og sørge for at det ikke ble manipulert.

Hva kan regjeringer og teknologiselskaper gjøre for å forhindre spredning av desinformasjon under kritiske tider som valg?

Den beste motgiften mot desinformasjon er tid. Hvis du ser noe som endrer ting, ikke rush til å publisere – ta en dag eller to til å verifisere at det faktisk er sant.

Uheldigvis kolliderer denne tilnærmingen med medias forretningsmodell, som belønner klikk selv om materialet viser seg å være feilaktig.

Hvordan utnytter Otherweb AI til å sikre autentisitet og nøyaktighet av nyhetene det samler inn?

Vi har funnet at det er en sterk korrelasjon mellom riktighet og form. Mennesker som ønsker å fortelle sannheten tenderer å bruke visse språk som betoner tilbakeholdenhet og ydmykhet, mens mennesker som ikke bryr seg om sannheten prøver å få så mye oppmerksomhet som mulig.

Otherwebs største fokus er ikke faktasjekking. Det er form-sjekking. Vi velger artikler som unngår oppmerksomhetssøkende språk, gir eksterne referanser for hver påstand, uttaler ting som de er, og ikke bruker overtalelses-teknikker.

Dette metoden er ikke perfekt, selvfølgelig, og i teorien kunne en dårlig aktør skrive en løgn i den eksakte stilen som våre modeller belønner. Men i praksis skjer det bare ikke. Mennesker som ønsker å lyve ønsker også å få mye oppmerksomhet – dette er det vi har lært våre modeller å detektere og filtrere ut.

Med den økende vanskeligheten i å skille ekte fra feilaktige bilder, hvordan kan plattformer som Otherweb hjelpe med å gjenopprette brukertillit til digitalt innhold?

Den beste måten å hjelpe mennesker å konsumere bedre innhold er å prøve fra alle sider, velge det beste av hver, og utøve mye tilbakeholdenhet. De fleste medier rusher til å publisere uverifisert informasjon disse dager. Vår evne til å kryss-referere informasjon fra hundrevis av kilder og fokusere på de beste elementene lar oss beskytte våre brukere mot de fleste former for desinformasjon.

Hva rolle spiller metadata, som C2PA-standarden, i å verifisere autentisitet av bilder og videoer?

Det er den eneste livskraftige løsningen. C2PA kan eller kan ikke være den riktige standarden, men det er klart at den eneste måten å verifisere om videoen du ser reflekterer noe som faktisk skjedde i virkeligheten, er å a) sikre at kameraet som ble brukt til å fange videoen bare fanget, og ikke redigerte, og b) sikre at ingen redigerte videoen etter at den forlot kameraet. Den beste måten å gjøre det er å fokusere på metadata.

Hva fremtidige utviklinger forventer du i kampen mot desinformasjon og deepfakes?

Jeg tror at, innen 2-3 år, mennesker vil tilpasse seg den nye virkeligheten og endre sin tankegang. Før det 19. århundre var den beste formen for bevis vitneutsagn. Deepfakes er sannsynlig å føre til at vi returnerer til disse prøvede og sanne standardene.

Med desinformasjon mer generelt, tror jeg det er nødvendig å ta en mer nyansert syn og skille desinformasjon (dvs. feilaktig informasjon som er laget for å bedra) fra skralle (dvs. informasjon som er laget for å bli monetisert, uansett dens sannhet).

Antidoten mot skralle er et filtermekanisme som gjør det mindre sannsynlig at skralle spreder seg som en brann. Det ville endre incitamentsstrukturen som gjør at skralle spreder seg som en brann. Desinformasjon vil fortsatt eksistere, slik det alltid har gjort. Vi har vært i stand til å håndtere det gjennom hele det 20. århundre, og vi vil være i stand til å håndtere det i det 21. århundre.

Det er skralle-flommen vi må bekymre oss for, fordi det er den delen vi er dårlig utrustet til å håndtere nå. Det er hovedproblemet menneskeheten må løse.

Når vi endrer incitamentene, vil signal-til-støy-forholdet på internett bli bedre for alle.

Takk for det flotte intervjuet, lesere som ønsker å lære mer kan besøke Otherweb-nettstedet, eller følge dem på X eller LinkedIn.