Alex Fink, Director Executiv, Fondator și CEO al Otherweb – Seria de Interviuri

Alex Fink este un director executiv și fondator și CEO al Otherweb, o corporație de beneficii publice care utilizează inteligența artificială pentru a ajuta oamenii să citească știri și comentarii, să asculte podcasturi și să caute pe web fără plată, clickbait, reclame, videoclipuri care se autoreglează, linkuri afiliate sau orice alt conținut “junk”. Otherweb este disponibil ca aplicație (iOS și Android), site web, buletin informativ sau extensie de browser independentă. Înainte de Otherweb, Alex a fost fondator și CEO al Panopteo și co-fondator și președinte al Swarmer.

Puteți oferi o prezentare generală a Otherweb și a misiunii sale de a crea un spațiu de știri fără “junk”?

Otherweb este o corporație de beneficii publice, creată pentru a îmbunătăți calitatea informațiilor pe care le consumă oamenii.

Produsul nostru principal este o aplicație de știri care utilizează inteligența artificială pentru a filtra conținutul “junk” și pentru a permite utilizatorilor personalizări nelimitate – controlând fiecare prag de calitate și fiecare mecanism de sortare pe care aplicația îl utilizează.

În alte cuvinte, în timp ce restul lumii creează algoritmi “black-box” pentru a maximiza implicarea utilizatorilor, noi vrem să oferim utilizatorilor cât mai multă valoare în timpul cel mai scurt posibil și să facem totul personalizabil. Am făcut chiar și modelele noastre de inteligență artificială și seturile de date disponibile pentru a putea vedea exact ce facem și cum evaluăm conținutul.

Ce v-a inspirat să vă concentrați pe combaterea dezinformării și a știrilor false utilizând inteligența artificială?

M-am născut în Uniunea Sovietică și am văzut ce se întâmplă cu o societate atunci când toată lumea consumă propagandă și nu are nicio idee ce se întâmplă în lume. Am amintiri vii ale părinților mei care se trezeau la 4 dimineața, se încuiau în dulap și porneau radioul pentru a asculta Vocea Americii. Era ilegal, desigur, ceea ce i-a făcut să o facă noaptea și să se asigure că vecinii nu pot auzi – dar ne-a dat acces la informații reale. Ca urmare, am plecat cu 3 luni înainte de a se prăbuși totul și de a izbucni războiul în orașul meu natal.

Chiar îmi amintesc fotografiile cu tancuri pe strada pe care am crescut și gândindu-mă “așa că aceasta este valoarea informațiilor reale”.

Vreau ca mai multe persoane să aibă acces la informații reale și de înaltă calitate.

Cât de gravă este amenințarea reprezentată de “deepfakes”, în special în contextul influențării alegerilor? Puteți oferi exemple specifice de moduri în care “deepfakes” au fost utilizate pentru a răspândi dezinformare și impactul pe care l-au avut?

Pe termen scurt, este o amenințare foarte gravă.

Alegătorii nu realizează că înregistrările video și audio nu mai pot fi considerate de încredere. Ei cred că video-ul este o dovadă că ceva s-a întâmplat, și acum 2 ani acest lucru era încă adevărat, dar acum nu mai este cazul.

Anul acesta, în Pakistan, alegătorii lui Imran Khan au primit apeluri de la Imran Khan însuși, personal, cerându-le să boicoteze alegerile. A fost fals, desigur, dar mulți oameni au crezut.

Alegătorii din Italia au văzut o politiciană care a apărut într-un videoclip pornografic. A fost fals, desigur, dar până când s-a descoperit falsul – daunele erau deja făcute.

Chiar și aici, în Arizona, am văzut un buletin care s-a prezentat prin afișarea unui videoclip de susținere cu Kari Lake. Ea nu a susținut niciodată, desigur, dar buletinul a obținut totuși mii de abonați.

Așa că, până în noiembrie, cred că este aproape inevitabil că vom vedea cel puțin o “bombă” falsă. Și este foarte probabil să apară chiar înainte de alegeri și să se dovedească a fi falsă imediat după alegeri – când daunele erau deja făcute.

Cât de eficiente sunt instrumentele actuale de inteligență artificială în identificarea “deepfakes” și ce îmbunătățiri preconizați pentru viitor?

În trecut, cel mai bun mod de a identifica imagini false era să le măriți și să căutați greșelile caracteristice (adică “artefacte”) pe care creatorii de imagini le făceau de obicei. Iluminarea incorectă, lipsa umbrelor, muchii inegale ale unor obiecte, supra-comprimarea în jurul obiectelor, etc.

Problema cu editarea bazată pe GAN (aka “deepfake”) este că nu există niciunul dintre aceste artefacte obișnuite. Modul în care funcționează procesul este că un model de inteligență artificială editează imaginea, iar alt model de inteligență artificială caută artefacte și le indică – și ciclul se repetă de mai multe ori până când nu mai există artefacte.

Ca urmare, nu există, în general, niciun mod de a identifica un “deepfake” video bine făcut prin examinarea conținutului în sine.

Trebuie să ne schimbăm mentalitatea și să începem să presupunem că conținutul este real doar dacă putem urmări lanțul de custodie înapoi la sursă. Gândiți-vă la acesta ca la amprente. A vedea amprente pe arma crimei nu este suficient. Trebuie să știți cine a găsit arma crimei, cine a adus-o înapoi în camera de depozitare, etc. – trebuie să puteți urmări fiecare dată când a fost transferată și să vă asigurați că nu a fost modificată.

Ce măsuri pot lua guvernele și companiile de tehnologie pentru a preveni răspândirea dezinformării în perioade critice, cum ar fi alegerile?

Antidotul cel mai bun pentru dezinformare este timpul. Dacă vedeți ceva care schimbă lucrurile, nu vă grăbiți să publicați – așteptați o zi sau două pentru a verifica că este realmente adevărat.

Din nefericire, această abordare intră în conflict cu modelul de afaceri al mass-media, care recompensează clicurile chiar dacă materialul se dovedește a fi fals.

Cum utilizează Otherweb inteligența artificială pentru a asigura autenticitatea și acuratețea știrilor pe care le agregă?

Am descoperit că există o corelație puternică între corectitudine și formă. Oamenii care vor să spună adevărul tind să utilizeze un anumit limbaj care subliniază reținerea și modestia, în timp ce oamenii care nu respectă adevărul încearcă să atragă atenția.

Focusul principal al Otherweb nu este verificarea faptelor. Este verificarea formei. Selectăm articole care evită limbajul care atrage atenția, oferă referințe externe pentru fiecare afirmație, spun lucrurile așa cum sunt și nu utilizează tehnici de convingere.

Acest metodă nu este perfectă, desigur, și în teorie un actor rău ar putea scrie o minciună în exact stilul pe care îl recompensăm. Dar în practică, pur și simplu nu se întâmplă. Oamenii care vor să mintă vor și o mulțime de atenție – acesta este lucru pe care l-am învățat modelele noastre să detecteze și să filtreze.

Cum poate ajuta o platformă ca Otherweb să restaureze încrederea utilizatorilor în conținutul digital, având în vedere dificultatea tot mai mare de a distinge între imagini reale și false?

Cel mai bun mod de a ajuta oamenii să consume conținut de calitate este să selectați din toate părțile, să alegeți cel mai bun din fiecare și să exercitați o mulțime de reținere. Majoritatea mass-media se grăbesc să publice informații neverificate în aceste zile. Capacitatea noastră de a corela informații din sute de surse și de a ne concentra pe cele mai bune articole ne permite să protejăm utilizatorii noștri de majoritatea formelor de dezinformare.

Care este rolul metadatelor, cum ar fi standardele C2PA, în verificarea autenticității imaginilor și videoclipurilor?

Este singura soluție viabilă. C2PA poate sau nu să fie standardul corect, dar este clar că singurul mod de a valida dacă videoclipul pe care îl urmăriți reflectă ceva care s-a întâmplat realmente în realitate este să vă asigurați că camera utilizată pentru a captura videoclipul a fost doar pentru captură și nu pentru editare și să vă asigurați că nimeni nu a editat videoclipul după ce a părăsit camera. Cel mai bun mod de a face acest lucru este să vă concentrați pe metadate.

Ce dezvoltări viitoare preconizați în lupta împotriva dezinformării și a “deepfakes”?

Cred că, în următorii 2-3 ani, oamenii se vor adapta la noua realitate și își vor schimba mentalitatea. Înainte de secolul al XIX-lea, cea mai bună formă de probă era mărturia martorilor oculari. “Deepfakes” sunt probabil să ne facă să ne întoarcem la aceste standarde dovedite.

În ceea ce privește dezinformarea în general, cred că este necesar să adoptăm o perspectivă mai nuanțată și să separăm dezinformarea (adică informații false create intenționat pentru a induce în eroare) de “junk” (adică informații create pentru a fi monetizate, indiferent de adevărul lor).

Antidotul pentru “junk” este un mecanism de filtrare care face ca “junk”-ul să fie mai puțin probabil să se răspândească. Ar schimba structura de stimulente care face ca “junk”-ul să se răspândească ca un incendiu. Dezinformarea va exista încă, așa cum a existat întotdeauna. Am fost capabili să o gestionăm pe tot parcursul secolului al XX-lea și vom fi capabili să o gestionăm și în secolul al XXI-lea.

Este inundația de “junk” pe care trebuie să ne-o facem griji, pentru că aceasta este partea cu care suntem slab echipați să ne luptăm în acest moment. Aceasta este principala problemă pe care omenirea trebuie să o abordeze.

Încă o dată, odată ce schimbăm stimulentele, raportul semnal-zgomot al internetului se va îmbunătăți pentru toată lumea.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe despre Otherweb, vă invităm să vizitați site-ul web al Otherweb, sau să ne urmăriți pe X sau LinkedIn.