Alex Fink, Teknologiajohtaja, Otherwebin Perustaja ja Toimitusjohtaja – Haastattelu

Alex Fink on teknologiajohtaja ja Otherwebin perustaja ja toimitusjohtaja, joka on julkinen hyödyllisyysyhtiö, joka käyttää tekoälyä auttamaan ihmisiä lukemaan uutisia ja kommentteja, kuuntelemaan podcasteja ja etsimään verkkoa ilman maksamuuria, klikkihuijausta, mainoksia, automaattisesti toistuvia videoita, affiliate-linkkejä tai muita “roska”-sisältöjä. Otherweb on saatavilla sovelluksena (iOS ja Android), verkkosivustona, uutiskirjeenä tai itsenäisenä selainlaajennuksena. Ennen Otherwebiä Alex oli Panopteon perustaja ja toimitusjohtaja sekä Swarmerin co-perustaja ja hallituksen puheenjohtaja.

Voitko antaa yleiskatsauksen Otherwebistä ja sen tehtävästä luoda roska-vapaa uutistila?

Otherweb on julkinen hyödyllisyysyhtiö, joka on luotu parantamaan ihmisten kuluttamien tietojen laatua.

Meidän päätuote on uutissovellus, joka käyttää tekoälyä roskan suodattamiseen ja sallii käyttäjille rajattomat mukautukset – hallitsemalla jokaista laatu-kynnystä ja jokaista lajittelumekanismia, jonka sovellus käyttää.

Toisin sanoen, kun muu maailma luo mustan laatikon algoritmeja käyttäjäkokemuksen maksimoimiseksi, haluamme antaa käyttäjille mahdollisimman paljon arvoa mahdollisimman vähässä ajassa, ja teemme kaiken mukautettavaksi. Olemme jopa tehneet tekoälymallimme ja tietokantamme lähdekoodin saataville, jotta ihmiset voivat nähdä tarkalleen, mitä teemme ja miten arviomme sisältöä.

Mikä innoitti sinua keskittymään väärän tiedon ja fake newsin torjuntaan tekoälyn avulla?

Minä syntyni Neuvostoliitossa ja näin, mitä tapahtuu yhteiskunnalle, kun kaikki kuluttavat propaganda ja kukaan ei tiedä, mitä maailmassa tapahtuu. Minulla on elävät muistot vanhemmistani, jotka heräsivät kello 4 aamulla, lukitsivat itsensä kaappiin ja kuuntelivat Voice of Americaa. Se oli tietysti laitonta, joten he tekivät sen yöllä ja varmistivat, etteivät naapurit kuulleet – mutta se antoi meille pääsyn oikeaan tietoon. Tuloksena me lähdemme 3 kuukautta ennen kuin se kaikki romahti ja sota syttyi kotikaupungissani.

Todella muistan näkeväni valokuvia tankeista kadulla, jolla kasvoin, ja ajattelevani “tämä on, mitä oikea tieto on arvollista”.

Haluan, että enemmän ihmisiä pääsevät käyttämään oikeaa, laadukasta tietoa.

Kuinka merkittävä on deepfake-uhka, erityisesti vaikuttaessa vaaleihin? Voitko jakaa konkreettisia esimerkkejä siitä, miten deepfake on käytetty levittämään väärää tietoa ja mitkä olivat sen vaikutukset?

Lyhyellä aikavälillä se on erittäin vakava uhka.

Äänestäjät eivät tajua, että video- ja äänitallenteet eivät voi enää luottaa. He ajattelevat, että video on todiste siitä, että jotain tapahtui, ja 2 vuotta sitten tämä oli vielä tosiasia, mutta nyt se ei ole enää selvää.

Tänä vuonna Pakistanissa Imran Khanin äänestäjät saivat puhelun Imran Khanilta itseltään, joka pyysi heitä boikotoida vaalit. Se oli tietysti väärä, mutta monet uskoivat siihen.

Italiassa äänestäjät näkivät yhden heidän naispoliitikkojen esiintyvän pornovideossa. Se oli tietysti väärä, mutta kun väärästä todettiin, vahinko oli jo tapahtunut.

Even täällä Arizonassa näimme uutiskirjeen mainostavan itsensä näyttämällä Kari Lakea esittävän tukivideota. Hän ei koskaan antanut siihen suostumusta, mutta uutiskirje sai silti tuhansia tilaajia.

Niinpä marraskuussa luulen, että näemme vähintään yhden väärän pommituksen. Ja on erittäin todennäköistä, että se tulee päästäessä vaalien alla ja osoittautuu vääräksi vaalien jälkeen – kun vahinko on jo tapahtunut.

Kuinka tehokkaita ovat nykyiset tekoälytyökalut deepfakejen tunnistamisessa, ja mitä parannuksia ennustat tulevaisuudessa?

Aikaisemmin paras tapa tunnistaa väärennettyjä kuvia oli zoomata ja etsiä ominaisuuksia (ns. “artefakteja”), joita kuvien luojat usein tekivät. Väärä valaistus, puuttuvat varjot, epätasaiset reunat tiettyjen esineiden ympärillä, ylikompressio tiettyjen esineiden ympärillä jne.

ONGPohjaisen editoinnin (ns. “deepfake”) ongelma on, että näitä yleisiä artefakteja ei ole. Prosessi toimii siten, että yksi tekoälymalli editoi kuvaa, ja toinen tekoälymalli etsii artefakteja ja osoittaa niitä – ja sykli toistetaan toistuvasti, kunnes artefakteja ei ole enää.

Tuloksena on, ettei hyvin tehtyä deepfake-videota voida tunnistaa sisällön perusteella.

Mme on muuttaa mieltämystämme ja aloittaa oletus, että sisältö on todellista vain, jos voimme jäljittää sen hallussapitoketjun alkulähteeseen. Ajattele sitä kuin sormenjälkiä. Sormenjälkien näkeminen murhavaudassa ei riitä. Tarvitset tietää, kuka löysi murhavaudan, kuka toi sen varastoon, jne – sinun on voitava jäljittää jokainen kerta, jolloin se vaihtoi omistajaa, ja varmistaa, ettei sitä ole muutettu.

Mitkä toimenpiteet hallitukset ja teknologiayritykset voivat ottaa väärän tiedon leviämisen estämiseksi kriittisissä tilanteissa, kuten vaaleissa?

Paras vastaisku väärälle tiedolle on aika. Jos näet jotain, joka muuttaa asioita, älä kiiruhda julkaisemaan – ota päivä tai kaksi vahvistamaan, että se on todella totta.

Valitettavasti tämä lähestymistapa törmää median liiketoimintamalliin, joka palkitsee klikkauksia, vaikka materiaali osoittautuu vääräksi.

Miten Otherweb hyödyntää tekoälyä varmistaakseen uutisten aitoutta ja tarkkuutta, joita se kokoaa?

Olemme havainneet, että on vahva korrelaatio oikeellisuuden ja muodon välillä. Ihmiset, jotka haluavat kertoa totuuden, käyttävät usein tietynlaista kieltä, joka korostaa hillittömyyttä ja nöyryyttä, kun taas ihmiset, jotka piittaa totuudesta, yrittävät saada niin paljon huomiota kuin mahdollista.

Otherwebin suurin painopiste ei ole faktantarkistus. Se on muodon tarkistus. Valitsemme artikkeleita, jotka välttävät huomionhakuista kieltä, tarjoavat ulkoiset viittaukset jokaiselle väitteelle, sanovat asiat sellaisenaan ja eivät käytä suostuttelemistekniikoita.

Tämä menetelmä ei ole täydellinen, tietysti, ja teoriassa pahantahtoinen toimija voisi kirjoittaa valheen juuri sellaisessa tyylissä, jota mallimme palkitsevat ja suodattavat pois. Mutta käytännössä se ei vain tapahdu. Ihmiset, jotka haluavat kertoa valheita, haluavat myös paljon huomiota – tämä on se asia, jonka olemme opettaneet malleillemme havaitsemaan ja suodattamaan pois.

Miten alustat kuten Otherweb voivat auttaa palauttamaan käyttäjien luottamuksen digitaaliseen sisältöön, kun on yhä vaikeampaa erottaa oikea kuva väärennöksestä?

Paras tapa auttaa ihmisiä kuluttamaan parempaa sisältöä on näytteiden ottaminen kaikista puolista, valitseminen parasta kustakin ja harjoittaminen paljon hillittömyyttä. Useimmat medialähteet kiirehtivät julkaisemaan vahvistamattomia tietoja näinä päivinä. Meidän kykyämme ristinroisella tarkastaa tietoja satojen lähteiden kesken ja keskittyä parhaimpiin kohteisiin mahdollistaa meidän suojella käyttäjiämme useimmista väärän tiedon muodoista.

Mikä rooli metatiedoilla, kuten C2PA-standardeilla, on todistamassa kuvien ja videoiden aitoutta?

Se on ainoa toimiva ratkaisu. C2PA saattaa olla oikea standardi tai ei, mutta on selvää, että ainoa tapa vahvistaa, onko video, jota katsot, heijastaa jotain, mikä todella tapahtui todellisuudessa, on a) varmistaa, että kamera, jota käytettiin videon tallentamiseen, oli vain tallentamassa eikä editoimassa, ja b) varmistaa, ettei kukaan muokannut videota, kun se poistui kamerasta. Paras tapa tehdä se on keskittyä metatietoihin.

Mitkä tulevaisuuden kehitykset odotat väärän tiedon ja deepfakejen torjunnassa?

Luulen, että 2-3 vuoden kuluessa ihmiset sopeutuvat uuteen todellisuuteen ja muuttavat mieltämystään. Ennen 1900-lukua paras muoto todisteelle oli silminnäkijähavainto. Deepfakejen on todennäköisesti aiheuttama meidän palata näihin koeteltuihin standardeihin.

Väärän tiedon suhteen laajemmin uskon, että on tarpeen ottaa moninainen näkökulma ja erottaa disinformaatio (ts. väärä tieto, jota luodaan tarkoituksella harhauttaa) roskaasta (ts. tieto, jota luodaan rahastettaessa, riippumatta sen totuudesta).

Roskan vastaisena lääkkeenä on suodatusmekanismi, joka tekee roskan vähemmän todennäköiseksi leviäväksi. Se muuttaisi kannustimien rakenteen, joka tekee roskan leviävän kuin tulipalo. Disinformaatio tulee edelleen olemaan olemassa, kuten se on aina ollut. Olemme pystyneet selviytymään siitä 1900-luvulla, ja pystymme selviytymään siitä 2000-luvullakin.

Se, mitä meidän on hätää, on roska, jonka me emme ole valmiit käsittelemään tällä hetkellä. Se on pääongelma, jonka ihmiskunta on ratkaistava.

Kun muutamme kannustimia, internetin signaali-melun suhde paranee kaikille.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Otherweb-sivustolla tai seurata heitä X:ssä tai LinkedInissä.