Alex Fink, Tech Executive, Zakladatel a CEO Otherwebu – Rozhovorová série

Alex Fink je technický výkonný ředitel a zakladatel a CEO Otherwebu, veřejné prospěšné společnosti, která využívá umělou inteligenci k pomoci lidem číst zprávy a komentáře, poslouchat podcasty a procházet web bez placených článků, klikacích titulků, reklam, automaticky přehrávaných videí, afiliálních odkazů nebo jiného “odpadního” obsahu. Otherweb je k dispozici jako aplikace (iOS a Android), webová stránka, zpravodaj nebo samostatný prohlížečový doplněk. Před Otherwebem byl Alex zakladatelem a CEO Panoptea a spoluzakladatelem a předsedou Swarmeru.

Můžete poskytnout přehled Otherwebu a jeho mise vytvořit prostor pro zprávy bez odpadního obsahu?

Otherweb je veřejná prospěšná společnost, vytvořená za účelem zlepšení kvality informací, které lidé konzumují.

Náš hlavní produkt je zpravodajská aplikace, která využívá umělou inteligenci k filtrování odpadního obsahu a umožňuje uživatelům neomezené přizpůsobení – řízení každé kvalitativní prahové hodnoty a každé řadicí mechanismus, který aplikace používá.

Jinými slovy, zatímco zbytek světa vytváří černé skříňky algoritmů pro maximalizaci uživatelské interakce, chceme poskytovat uživatelům co největší hodnotu v co nejkratším čase a děláme vše přizpůsobitelné. Dokonce jsme udělali naše modely AI a datové sady dostupné, aby lidé mohli vidět přesně, co děláme a jak hodnotíme obsah.

Co vás inspirovalo soustředit se na boj proti dezinformacím a falešným zprávám pomocí AI?

Narodil jsem se v Sovětském svazu a viděl, co se stane se společností, když všichni konzumují propagandu a nikdo nemá žádné informace o tom, co se děje ve světě. Mám živé vzpomínky na to, jak moji rodiče vstávali v 4 hodiny ráno, zavírali se do skříně a zapínali rádio, aby poslouchali Hlas Ameriky. Bylo to samozřejmě ilegální, a proto to dělali v noci a zajistili, aby je sousedé neslyšeli – ale měli jsme přístup k skutečným informacím. Jako výsledek, opustili jsme 3 měsíce předtím, než se všechno zhroutilo a vypukla válka v mém rodném městě.

Vzpomínám si, že jsem viděl fotografie tanků na ulici, kde jsem vyrostl, a myslel si “toto je, co skutečné informace stojí za to”.

Chci, aby více lidí mělo přístup k skutečným, kvalitním informacím.

Jak významný je hrozba deepfake, zejména v kontextu ovlivňování voleb? Můžete sdílet konkrétní příklady, jak byly deepfaky použity k šíření dezinformací a jaký dopad měly?

V krátkodobém horizontu je to velmi vážná hrozba.

Voliči si neuvědomují, že video a audio nahrávky již nelze důvěřovat. Domnívají se, že video je důkazem toho, že něco se stalo, a před 2 lety to ještě byla pravda, ale nyní již není.

Tento rok v Pákistánu voliči Imrana Chána dostali hovory od Imrana Chána samotného, osobně, žádající je, aby bojkotovali volby. Bylo to samozřejmě falešné, ale mnoho lidí tomu věřilo.

Voliči v Itálii viděli jednu ze svých ženských politik ve falešném pornografickém videu. Bylo to samozřejmě falešné, ale do té doby, než se podvod odhalil – škoda byla již napáchána.

Even zde v Arizoně jsme viděli zpravodaj, který si získal tisíce předplatitelů, protože ukázal falešné video s podporou Kari Lake. Ona nikdy nepodpořila, ale zpravodaj si získal tisíce předplatitelů.

Takže si myslím, že je téměř nevyhnutelné, že uvidíme alespoň jeden falešný bombastický článek. A je velmi pravděpodobné, že to bude zveřejněno těsně před volbami a ukáže se jako falešné až po volbách – když už bude poškození způsobeno.

Jak efektivní jsou současné nástroje AI při identifikaci deepfake a jaké zlepšení předvídáte v budoucnosti?

V minulosti byl nejlepší způsob, jak identifikovat falešné obrázky, přiblížit se a hledat charakteristické chyby (tzv. “artefakty”), které tvůrci obrázků obvykle dělali. Nesprávné osvětlení, chybějící stíny, nerovné hrany na určitých objektech, překomprimování kolem objektů atd.

Problém s GAN-based editací (tzv. “deepfake”) je, že žádné z těchto běžných artefaktů nejsou přítomny. Způsob, jakým proces funguje, je, že jeden model AI edituje obrázek, a další model AI hledá artefakty a upozorňuje na ně – a cyklus se opakuje, dokud nejsou všechny artefakty odstraněny.

Je proto obecně žádný způsob, jak identifikovat dobře vytvořený deepfake video pouze pohledem na obsah.

Musíme změnit svůj způsob myšlení a začít předpokládat, že obsah je skutečný pouze tehdy, pokud můžeme sledovat jeho řetězec vlastnictví zpět k zdroji. Myslete na to jako na otisky prstů. Vidět otisky prstů na vražedné zbrani nestačí. Musíte vědět, kdo našel vražednou zbraň, kdo ji přinesl do skladu, atd. – musíte být schopni sledovat každý jednotlivý případ, kdy se změnil majitel, a zajistit, aby nebyla poškozena.

Jaká opatření mohou vlády a technologické společnosti učinit, aby zabránily šíření dezinformací během kritických časů, jako jsou volby?

Nejlepším antidotem proti dezinformacím je čas. Pokud uvidíte něco, co změní situaci, neštěte se zveřejnit – dejte si den nebo dva na ověření, zda je skutečně pravdivé.

Bohužel, tento přístup koliduje s obchodním modelem médií, který odměňuje kliknutí, i když se materiál ukáže jako falešný.

Jak Otherweb využívá AI k zajištění autenticity a přesnosti zpráv, které shromažďuje?

Byli jsme zjistili, že existuje silná korelace mezi správností a formou. Lidé, kteří chtějí říkat pravdu, tendenci používat určitý jazyk, který zdůrazňuje zdrženlivost a skromnost, zatímco lidé, kteří se nezajímají o pravdu, se snaží získat co nejvíce pozornosti.

Hlavní zaměření Otherwebu není faktické ověřování. Je to ověřování formy. Vybíráme články, které se vyhýbají jazyku, který láká pozornost, poskytují externí odkazy pro každé tvrzení, uvádějí věci tak, jak jsou, a nevyužívají techniky přesvědčování.

Tato metoda není dokonalá, samozřejmě, a teoreticky by špatný aktér mohl napsat lež v přesně tom stylu, který naše modely odměňují. Ale v praxi se to prostě nestává. Lidé, kteří chtějí lhát, také chtějí získat hodně pozornosti – a to je věc, kterou jsme naučili naše modely detekovat a filtrovat.

Jak může platforma jako Otherweb pomoci obnovit důvěru uživatelů v digitální obsah?

Nejlepším způsobem, jak pomoci lidem konzumovat lepší obsah, je vzorkovat ze všech stran, vybrat nejlepší z každého a uplatnit mnoho zdrženlivosti. Většina médií spěchá zveřejnit neověřené informace v těchto dnech. Naše schopnost křížově ověřovat informace z stovek zdrojů a soustředit se na nejlepší položky umožňuje nám chránit naše uživatele před většinou forem dezinformací.

Jakou roli hraje metadata, jako jsou standardy C2PA, při ověřování autenticity obrazů a videí?

Je to jediné životaschopné řešení. C2PA může nebo nemusí být správným standardem, ale je jasné, že jediným způsobem, jak ověřit, zda video, které sledujete, odráží něco, co skutečně nastalo v realitě, je a) zajistit, aby kamera, která zachytila video, pouze zachycovala a needitovala, a b) zajistit, aby nikdo needitoval video po jeho opuštění kamery. Nejlepším způsobem, jak to udělat, je zaměřit se na metadata.

Jaké budoucí vývojové trendy předvídáte v boji proti dezinformacím a deepfake?

Myslím, že do 2-3 let lidé přizpůsobí se nové realitě a změní svůj způsob myšlení. Před 19. stoletím byla nejlepší forma důkazu svědectví očitých svědků. Deepfaky pravděpodobně způsobí, že se vrátíme k těmto osvědčeným standardům.

S dezinformacemi obecněji se domnívám, že je nutné mít více nuancované pohledy a oddělit dezinformace (tj. falešné informace, které jsou úmyslně vytvořeny k oklamání) od odpadního obsahu (tj. informací, které jsou vytvořeny k monetizaci, bez ohledu na jejich pravdivost).

Antidotem proti odpadnímu obsahu je filtr, který činí odpadný obsah méně pravděpodobným, aby se šířil. To by změnilo strukturu incentiv, která činí odpadný obsah se šíří jako divoký oheň. Dezinformace budou stále existovat, stejně jako vždy existovaly. Byli jsme schopni s nimi vyrovnat se v 20. století a budeme schopni s nimi vyrovnat se i v 21. století.

Je to odpadný obsah, o kterém se musíme obávat, protože to je část, se kterou jsme nyní špatně vybaveni. To je hlavní problém, který musí lidstvo vyřešit.

Jakmile změníme incentivy, poměr signálu a šumu na internetu se zlepší pro každého.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit webovou stránku Otherwebu, nebo je sledovat na X nebo LinkedInu.