Alex Fink, Teknologiayrityksen johtaja, Otherwebin perustaja ja toimitusjohtaja – Haastattelusarja

Alex Fink on teknologiayrityksen johtaja ja Otherwebin perustaja ja toimitusjohtaja, joka on julkinen hyödyllisyysyhtiö, joka käyttää tekoälyä auttamaan ihmisiä lukemaan uutisia ja kommentteja, kuuntelemaan podcasteja ja etsimään verkkoa ilman maksamuuria, klikkihuijausta, mainoksia, itsestään toistuvia videoita, affiliate-linkkejä tai muita “roska”-sisältöjä. Otherweb on saatavilla sovelluksena (iOS ja Android), verkkosivustona, uutiskirjeenä tai itsenäisenä selainlaajennuksena. Ennen Otherwebiä Alex oli Panopteon perustaja ja toimitusjohtaja sekä Swarmerin co-perustaja ja hallituksen puheenjohtaja.

Voitko antaa yleiskatsauksen Otherwebistä ja sen tehtävästä luoda roska-vapaa uutistila?

Otherweb on julkinen hyödyllisyysyhtiö, joka on luotu auttamaan parantamaan ihmisten kuluttamien tietojen laatua.

Meidän päätuote on uutissovellus, joka käyttää tekoälyä suodattamaan roska pois ja antaa käyttäjille rajattomat mukautusmahdollisuudet – hallitsemalla jokaista laadun kynnystä ja jokaista sovelluksen käyttämää lajittelumekanismia.

Toisin sanoen, kun muu maailma luo mustan laatikon algoritmeja käyttäjien sitoutumisen maksimoimiseksi, haluamme antaa käyttäjille mahdollisimman arvokkaita asiota mahdollisimman vähässä ajassa, ja teemme kaiken mukautettavaksi. Tekoälymallimme ja tietokantamme ovat lähdemäisesti saatavilla, jotta ihmiset voivat nähdä täsmälleen, mitä teemme ja miten arviomme sisältöä.

Mikä innoitti sinua keskittymään väärän tiedon ja fake newsin torjuntaan tekoälyn avulla?

Olin syntynyt Neuvostoliitossa ja näin, mitä tapahtuu yhteiskunnalle, kun kaikki kuluttavat propaganda ja kukaan ei tiedä, mitä maailmassa tapahtuu. Muistan selvästi vanhempieni heräävän kello 4 aamulla, lukitsevän itsensä vaatehuoneeseen ja kuuntelevan Voice of Americaa. Se oli tietysti laitonta, joten he tekivät sen yöllä ja varmistivat, että naapurit eivät kuulleet – mutta se antoi meille pääsyn oikeaan tietoon. Tämän seurauksena lähdemme 3 kuukautta ennen kuin se kaikki romahti ja sota syttyi kotikaupungissani.

Muistan näkeväni valokuvia tankeista kadulla, jolla kasvoin, ja ajattelivani “tämä on, mitä oikea tieto on arvossa”.

Haluan, että enemmän ihmisiä pääsevät käyttämään oikeaa, laadukasta tietoa.

Kuinka merkittävä on syväväärennösten uhka, erityisesti vaalien vaikuttamisen suhteen? Voitko jakaa tiettyjä esimerkkejä siitä, miten syväväärennökset on käytetty levittämään väärää tietoa ja mitkä olivat niiden vaikutukset?

Lyhyellä aikavälillä se on erittäin vakava uhka.

Äänestäjät eivät tajua, että video- ja äänitallenteet eivät enää ole luotettavia. He ajattelevat, että video on todiste siitä, että jotain tapahtui, ja 2 vuotta sitten tämä oli vielä tosiasia, mutta nyt se ei ole enää tapaus.

Tänä vuonna Pakistanissa Imran Khanin äänestäjät saivat puhelun Imran Khanilta itseltään, joka pyysi heitä boikotoida vaalit. Se oli tietysti väärä, mutta monet uskoivat siihen.

Italiassa äänestäjät näkivät yhden heidän naispoliitikkojen esiintyvän pornovideossa. Se oli tietysti väärä, mutta kun vääräksi paljastuminen paljastui – vahinko oli jo tapahtunut.

Jopa täällä Arizonassa näimme uutiskirjeen mainostavan itsensä näyttämällä Kari Lakea tähdittävän tukivideota. Hän ei koskaan antanut sille tukeaan, mutta uutiskirje sai silti tuhansia tilaajia.

Niinpä marraskuussa luulen, että on melko väistämätöntä, että näemme vähintään yhden väärän pommin. Ja on hyvin todennäköistä, että se tulee julki juuri ennen vaaleja ja osoittautuu vääräksi vasta vaalien jälkeen – kun vahinko on jo tapahtunut.

Kuinka tehokkaita ovat nykyiset tekoälytyökalut syväväärennösten tunnistamisessa, ja mitä parannuksia et näe tulevaisuudessa?

Menneisyydessä paras tapa tunnistaa väärennettyjä kuvia oli lähentää ja etsiä ominaisia virheitä (ns. “artefakteja”), joita kuvien luojat usein tekivät. Virheellinen valaistus, puuttuvat varjot, epätasaiset reunat tiettyjen esineiden ympärillä, ylikompressio tiettyjen esineiden ympärillä jne.

ONGAN-pohjaisen editoinnin (ns. “syväväärennös”) ongelma on, että näitä yleisiä artefakteja ei ole. Prosessi toimii siten, että yksi tekoälymalli editoi kuvaa, ja toinen tekoälymalli etsii artefakteja ja osoittaa niitä – ja sykli toistetaan toistuvasti, kunnes artefakteja ei ole enää jäljellä.

Tämän seurauksena on yleensä ei ole mahdollista tunnistaa hyvin tehty syväväärennösvideo sisällön perusteella.

Meidän on muutettava ajattelutapamme ja aloitettava oletus, että sisältö on aito vain, jos voimme jäljittää sen omistusketjun takaisin lähteeseen. Ajattele sitä sormenjälkinä. Sormenjälkien näkeminen murhavälineessä ei ole riittävää. Tarvitset tietää, kuka löysi murhavälineen, kuka toi sen varastoon, jne – sinun on voitava jäljittää jokainen kerta, kun se vaihtoi omistajaa, ja varmistaa, ettei sitä ole muutettu.

Mitkä toimenpiteet hallitukset ja teknologiayritykset voivat toteuttaa väärän tiedon leviämisen estämiseksi kriittisissä tilanteissa, kuten vaaleissa?

Paras vastamyrkky väärälle tiedolle on aika. Jos näet jotain, joka muuttaa asioita, älä kiiruhda julkaisemaan – ota päivä tai kaksi varmistamaan, että se on todella totta.

Valitettavasti tämä lähestymistapa törmää median liiketoimintamalliin, joka palkitsee napsautuksia, vaikka materiaali osoittautuu vääräksi.

Miten Otherweb hyödyntää tekoälyä varmistaakseen uutisten aitoutta ja tarkkuutta, joita se kerää?

Olemme löytäneet, että on vahva korrelaatio oikeellisuuden ja muodon välillä. Ihmiset, jotka haluavat kertoa totuuden, usein käyttävät tietynlaista kieltä, joka korostaa hillittömyyttä ja nöyryyttä, kun taas ihmiset, jotka ovat välittämättömiä totuudesta, yrittävät saada niin paljon huomiota kuin mahdollista.

Otherwebin suurin painopiste ei ole faktantarkistus. Se on muodon tarkistus. Valitsemme artikkeleita, jotka välttävät huomionhakuista kieltä, tarjoavat ulkoiset viittaukset jokaiselle väitteelle, lausuvat asiat sellaisenaan ja eivät käytä suostuttelemistekniikoita.

Tämä menetelmä ei ole täydellinen, tietysti, ja teoriassa pahantahtoinen toimija voisi kirjoittaa valheen juuri sellaisessa tyylissä, jota mallimme palkitsevat ja suodattavat pois. Mutta käytännössä se ei vain tapahdu. Ihmiset, jotka haluavat kertoa valheita, haluavat myös paljon huomiota – tämä on se asia, jonka olemme opettaneet malleillemme havaitsemaan ja suodattamaan pois.

Miten alustat, kuten Otherweb, voivat auttaa palauttamaan käyttäjien luottamuksen digitaaliseen sisältöön, kun on yhä vaikeampaa erottaa aito ja väärennetty kuvamateriaali?

Paras tapa auttaa ihmisiä kuluttamaan parempaa sisältöä on ottaa näyte kaikista puolista, valita parasta kustakin ja harjoittaa paljon hillittömyyttä. Useimmat medialaitokset kiirehtivät julkaisemaan vahvistamattomia tietoja näinä päivinä. Meidän kykyämme ristinollaista tietoja sadoista lähteistä ja keskittyä parhaimpiin kohteisiin mahdollistaa suojella käyttäjiämme useimmista väärän tiedon muodoista.

Mikä rooli metatiedolla, kuten C2PA-standardeilla, on kuvien ja videoiden aitouden varmistamisessa?

Se on ainoa toimiva ratkaisu. C2PA saattaa olla oikea standardi tai ei, mutta on selvää, että ainoa tapa vahvistaa, onko video, jota katsot, heijastaa jotain, joka todella tapahtui todellisuudessa, on a) varmistaa, että kamera, jota käytettiin videon tallentamiseen, tallensi vain, eikä editoinut, ja b) varmistaa, ettei kukaan muokannut videota sen jälkeen, kun se poistui kamerasta. Paras tapa tehdä se on keskittyä metatietoihin.

Mitkä tulevaisuuden kehitykset odotat taistelussa väärää tietoa ja syväväärennöksiä vastaan?

Luulen, että 2-3 vuoden kuluessa ihmiset sopeutuvat uuteen todellisuuteen ja muuttavat ajattelutapaansa. Ennen 19. vuosisataa paras todiste oli silminnäkijähavainto. Syväväärennökset ovat todennäköisesti aiheuttavat meidän palaavan näihin koeteltuihin standardeihin.

Väärän tiedon suhteen laajemmin uskon, että on tarpeen ottaa monitahoisempi näkökulma ja erottaa desinformaatio (ts. väärä tieto, joka on tarkoituksella luotu harhauttamaan) roskaasta (ts. tieto, jota luodaan rahastettaessa, riippumatta sen totuudesta).

Roskan vastamyrkky on suodatusmekanismi, joka tekee roskan vähemmän todennäköiseksi leviäväksi. Se muuttaisi kannustimien rakennetta, joka tekee roskan leviävän kuin tulipalo. Desinformaatio tulee edelleen olemaan olemassa, kuten se on aina ollut. Olemme pystyneet selviytymään siitä 1900-luvulla, ja pystymme selviytymään siitä 2000-luvullakin.

Se, mitä meidän on hätää, on roska, jonka meillä on vaikeuksia käsitellä tällä hetkellä. Se on pääongelma, jonka ihmiskunta on pakotettu ratkaisemaan.

Kun muutamme kannustimia, internetin signaali-kohina-suhde paranee kaikille.