Alex Fink, Dyrektor Techniczny, Założyciel i Prezes Otherweb – Seria Wywiadów

Alex Fink jest dyrektorem technicznym i założycielem oraz prezesem Otherweb, korporacją publicznej użyteczności, która wykorzystuje sztuczną inteligencję, aby pomóc ludziom czytać wiadomości i komentarze, słuchać podcastów i wyszukiwać internetu bez płatnych murów, clickbaitu, reklam, automatycznie odtwarzanych filmów, linków afiliacyjnych lub innych “śmieciowych” treści. Otherweb jest dostępny jako aplikacja (iOS i Android), strona internetowa, biuletyn informacyjny lub samodzielna wtyczka przeglądarki. Przed Otherweb Alex był założycielem i prezesem Panopteo oraz współzałożycielem i przewodniczącym Swarmer.

Czy możesz przedstawić przegląd Otherweb i jego misję tworzenia przestrzeni informacyjnej wolnej od śmieci?

Otherweb jest korporacją publicznej użyteczności, utworzoną w celu poprawy jakości informacji konsumowanych przez ludzi.

Naszym głównym produktem jest aplikacja informacyjna, która wykorzystuje sztuczną inteligencję do filtrowania śmieci i umożliwia użytkownikom nieograniczone dostosowywanie – kontrolę każdego progu jakości i każdego mechanizmu sortowania, który używa aplikacja.

Innymi słowy, podczas gdy reszta świata tworzy algorytmy czarne, aby maksymalizować zaangażowanie użytkowników, chcemy dać użytkownikom jak najwięcej wartości w jak najkrótszym czasie i robimy wszystko, aby to było możliwe. Umożliwiamy nawet dostęp do naszych modeli sztucznej inteligencji i zbiorów danych, aby ludzie mogli zobaczyć dokładnie, co robimy i jak oceniamy treści.

Co skłoniło Cię do skupienia się na zwalczaniu dezinformacji i fałszywych wiadomości przy użyciu sztucznej inteligencji?

Urodziłem się w Związku Radzieckim i widziałem, co się dzieje z społeczeństwem, gdy wszyscy konsumują propagandę, a nikt nie ma pojęcia, co się dzieje na świecie. Mam żywe wspomnienia moich rodziców, którzy budzili się o 4 rano, zamykali się w szafie i słuchali radia Voice of America. Było to nielegalne, oczywiście, dlatego robili to w nocy i upewniali się, że sąsiedzi nie mogli ich usłyszeć – ale dawało nam dostęp do prawdziwych informacji. W efekcie opuściliśmy Związek Radziecki 3 miesiące przed tym, jak wszystko się zawaliło i wybuchła wojna w moim rodzinnym mieście.

Rzeczywiście pamiętam, jak widziałem zdjęcia czołgów na ulicy, na której dorastałem, i myślałem “więc to jest to, co prawdziwe informacje są warte”.

Chcę, aby więcej ludzi miało dostęp do prawdziwych, wysokiej jakości informacji.

Jak istotne jest zagrożenie głębokimi fałszerstwami, szczególnie w kontekście wpływu na wybory? Czy możesz podać konkretnych przykładów, jak głębokie fałszerstwa były używane do rozpowszechniania dezinformacji i jaki wpływ miały?

W krótkim terminie jest to bardzo poważne zagrożenie.

Wyborcy nie zdają sobie sprawy, że nagrania wideo i audio nie mogą być już ufać. Myślą, że wideo jest dowodem, że coś się wydarzyło, i 2 lata temu to było jeszcze prawdą, ale teraz już nie.

Ten rok w Pakistanie wyborcy Imrana Chana otrzymali połączenia od samego Imrana Chana, osobiście, prosząc ich o bojkot wyborów. Było to fałszywe, oczywiście, ale wiele osób w to uwierzyło.

Wyborcy we Włoszech zobaczyli jedną ze swoich polityczek w filmie pornograficznym. Było to fałszywe, oczywiście, ale do czasu, gdy fałszerstwo zostało ujawnione – szkoda już została wyrządzona.

Nawet tutaj w Arizonie zobaczyliśmy biuletyn, który reklamował się, pokazując film z udziałem Kari Lake. Nigdy nie poparła go, oczywiście, ale biuletyn i tak uzyskał tysiące subskrybentów.

Więc w listopadzie uważam, że jest prawie nieuniknione, że zobaczymy co najmniej jedną fałszywą bombę. I jest bardzo prawdopodobne, że spadnie tuż przed wyborami i okaże się fałszywa zaraz po wyborach – kiedy szkoda już zostanie wyrządzona.

Jak skuteczne są obecne narzędzia sztucznej inteligencji w identyfikowaniu głębokich fałszerstw, i jakie ulepszenia przewidujesz w przyszłości?

W przeszłości najlepszym sposobem identyfikacji fałszywych obrazów było powiększanie i szukanie charakterystycznych błędów (tzw. “artefaktów”), które twórcy obrazów tendencję do popełniania. Nieprawidłowe oświetlenie, brak cieni, nierówne krawędzie niektórych obiektów, nadmierne kompresowanie wokół obiektów itp.

Problem z edycją opartą na GAN (tzw. “głębokim fałszerstwem”) polega na tym, że żaden z tych typowych artefaktów nie jest obecny. Proces działa w ten sposób, że jeden model sztucznej inteligencji edytuje obraz, a inny model sztucznej inteligencji szuka artefaktów i wskazuje je – i cykl jest powtarzany wielokrotnie, aż do momentu, gdy nie ma już artefaktów.

W efekcie nie ma ogólnie żadnego sposobu, aby zidentyfikować dobrze wykonane głębokie fałszerstwo wideo, patrząc na samą treść.

Musimy zmienić nasze myślenie i zacząć zakładać, że treść jest prawdziwa tylko wtedy, gdy możemy śledzić łańcuch posiadania do źródła. Podobnie jak odciski palców. Widzenie odcisków palców na broni nie jest wystarczające. Trzeba wiedzieć, kto znalazł broń, kto ją przyniósł do pokoju magazynowego itd. – trzeba być w stanie śledzić każdy moment, kiedy broń zmieniała ręce i upewnić się, że nie została sfałszowana.

Jakie środki mogą podjąć rządy i firmy technologiczne, aby zapobiec rozpowszechnianiu dezinformacji w czasie wyborów?

Najlepszym antidotum na dezinformację jest czas. Jeśli zobaczysz coś, co zmienia wszystko, nie spiesząc się z publikacją – poczekaj dzień lub dwa, aby potwierdzić, że jest to prawdziwe.

Niestety, ten podejście koliduje z modelem biznesowym mediów, który nagradza kliknięcia, nawet jeśli materiał okazuje się fałszywy.

Jak Otherweb wykorzystuje sztuczną inteligencję, aby zapewnić autentyczność i dokładność informacji, które agreguje?

Stwierdziliśmy, że istnieje silna korelacja między poprawnością a formą. Ludzie, którzy chcą powiedzieć prawdę, tendencję do używania pewnego języka, który podkreśla powściągliwość i skromność, podczas gdy ludzie, którzy ignorują prawdę, starają się zwrócić na siebie jak najwięcej uwagi.

Największy nacisk Otherwebu nie jest na weryfikację faktów. To sprawdzanie formy. Wybieramy artykuły, które unikają języka przyciągającego uwagę, zapewniają zewnętrzne odniesienia do każdego twierdzenia, stwierdzają rzeczy takimi, jakimi są, i nie używają technik perswazji.

Metoda ta nie jest doskonała, oczywiście, i teoretycznie złe postacie mogą napisać fałszywość w stylu, który nasze modele nagradzają. Ale w praktyce po prostu nie dzieje się to. Ludzie, którzy chcą kłamać, również chcą dużej uwagi – to jest rzecz, którą nasze modele nauczyły się wykrywać i filtrować.

Jak platformy takie jak Otherweb mogą pomóc w przywróceniu zaufania użytkowników do cyfrowych treści, biorąc pod uwagę coraz trudniejsze rozróżnienie prawdziwych i fałszywych obrazów?

Najlepszym sposobem, aby pomóc ludziom konsumować lepsze treści, jest pobieranie próbek ze wszystkich stron, wybieranie najlepszych z każdej i ćwiczenie dużej powściągliwości. Większość mediów spieszy się z publikowaniem niezweryfikowanych informacji w ostatnich czasach. Nasza zdolność do skrzyżowania informacji z setek źródeł i skupienia się na najlepszych pozycjach pozwala nam chronić naszych użytkowników przed większością form dezinformacji.

Jaką rolę odgrywa metadane, takie jak standardy C2PA, w weryfikowaniu autentyczności obrazów i filmów?

To jedyne wykonalne rozwiązanie. C2PA może lub nie być właściwym standardem, ale jest jasne, że jedynym sposobem, aby zweryfikować, czy film, który oglądasz, odzwierciedla coś, co naprawdę się wydarzyło w rzeczywistości, jest a) upewnienie się, że kamera użyta do nagrania filmu była tylko nagrywana, a nie edytowana, i b) upewnienie się, że nikt nie edytował filmu po jego opuszczeniu kamery. Najlepszym sposobem, aby to zrobić, jest skupienie się na metadanych.

Jakie przyszłe rozwoje przewidujesz w walce z dezinformacją i głębokimi fałszerstwami?

Uważam, że w ciągu 2-3 lat ludzie przyzwyczają się do nowej rzeczywistości i zmienią swoje myślenie. Przed XIX wiekiem najlepszym dowodem był świadek. Głębokie fałszerstwa prawdopodobnie spowodują, że wrócimy do tych sprawdzonych standardów.

Co się tyczy dezinformacji w ogóle, uważam, że konieczne jest przyjęcie bardziej nuansowanego podejścia i rozróżnienie dezinformacji (tj. fałszywych informacji, które są celowo tworzone, aby wprowadzić w błąd) od śmieci (tj. informacji, które są tworzone, aby być monetyzowane, niezależnie od ich prawdziwości).

Antidotum na śmieci jest mechanizm filtrowania, który sprawia, że śmieci są mniej prawdopodobne do rozprzestrzeniania się. To zmieniłoby strukturę zachęt, która sprawia, że śmieci rozprzestrzeniają się jak pożar. Dezinformacja będzie nadal istniała, tak jak zawsze istniała. Byliśmy w stanie z nią radzić sobie w XX wieku, i będziemy w stanie z nią radzić sobie w XXI wieku.

To lawina śmieci, o której musimy się martwić, ponieważ to jest część, z którą nie jesteśmy obecnie wyposażeni, aby ją obsłużyć. To jest główny problem, który ludzkość musi rozwiązać.

Gdy zmienimy zachęty, stosunek sygnału do szumu w internecie poprawi się dla wszystkich.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić stronę internetową Otherweb, lub obserwować ich na X lub LinkedIn.