Nástroje prohlížeče AI mají za cíl rozpoznat Deepfakes a další falešné médium

Úsilí technologických společností o boj proti dezinformacím a falešnému obsahu dosahuje v posledních dobách vysoké úrovně, protože se technologie generování falešného obsahu, jako jsou DeepFakes, stávají snadněji použitelnými a rafinovanějšími. Jednou z nadcházejících snah o pomoc lidem při rozpoznávání a boji proti deepfake je RealityDefender, vyvinutý AI Foundation, který se zavázal k vývoji etických AI agentů a asistentů, které uživatelé mohou školení k provádění různých úkolů.

Nejvýznamnějším projektem AI Foundation je platforma, která umožňuje lidem vytvářet své vlastní digitální osobnosti, které vypadají jako oni a reprezentují je ve virtuálních prostorách. AI Foundation je pod dohledem Globálního AI Rady a jako součást jejich mandátu musí předvídat možné negativní dopady AI platforem a poté se pokusit tyto problémy řešit. Podle VentureBeat, jedním z nástrojů, které AI Foundation vytvořila pro pomoc při rozpoznávání deepfake, je Reality Defender. Reality Defender je nástroj, který člověk může použít ve svém prohlížeči, který analyzuje videa, obrázky a další typy médií, aby rozpoznal známky, že médium bylo zfalšováno nebo upraveno nějakým způsobem. Doufá se, že tento nástroj pomůže proti rostoucímu toku deepfake na internetu, který se podle některých odhadů téměř zdvojnásobil za posledních šest měsíců.

Reality Defender funguje pomocí různých AI-algoritmů, které mohou rozpoznat náznaky, že obrázek nebo video mohlo být zfalšováno. AI modely rozpoznávají jemné známky podvodu a manipulace a falešně pozitivní výsledky, které model rozpozná, jsou označeny jako nesprávné uživateli nástroje. Data jsou pak použita k přeškolení modelu. AI společnosti, které vytvářejí neklamné deepfakes, mají své obsahy označeny „čestným AI“ štítkem nebo vodotiskem, který umožňuje lidem snadno identifikovat AI-generované falešné.

Reality Defender je pouze jedním z nástrojů a celé AI-responsibility platformy, kterou AI Foundation snaží vytvořit. AI Foundation usiluje o vytvoření Guardian AI, responsibility platformy postavené na principu, že jednotlivci by měli mít přístup k osobním AI agentům, kteří pro ně pracují a mohou pomoci chránit je před zneužitím ze strany špatných aktérů. Základní AI Foundation se snaží rozšířit dosah AI ve společnosti, přivést ji více lidem, a zároveň chránit před riziky AI.

Reality Defender není jediným novým AI-poháněným produktem, který má za cíl snížit dezinformace ve Spojených státech. Podobný produkt je nazvaný SurfSafe, který byl vytvořen dvěma studenty z UC Berkeley, Rohanem Phadtem a Ashem Bhatem. Podle The Verge, SurfSafe funguje tak, že uživatelé mohou kliknout na kus médií, o kterém se chtějí dozvědět více, a program provede reverzní vyhledávání obrázků a pokusí se najít podobný obsah z různých důvěryhodných zdrojů na internetu, označí obrázky, které jsou známy jako upravené.

Je nejasné, jak efektivní tyto řešení budou v dlouhodobém horizontu. Profesor z Dartmouth College a odborník na forenzní analýzu Hany Farid byl citován The Verge jako někdo, kdo je „extrémně skeptický“ vůči tomu, že systémy jako Reality Defender budou fungovat smysluplným způsobem. Farid vysvětlil, že jedním z hlavních problémů při rozpoznávání falešného obsahu je, že médium není čistě falešné nebo skutečné. Farid vysvětlil:

„Existuje kontinuum; neuvěřitelně komplexní řada problémů, se kterými je třeba se vypořádat. Některé změny jsou bezvýznamné a některé fundamentálně mění povahu obrázku. Předstírat, že můžeme trénovat AI, aby rozpoznala rozdíl, je neuvěřitelně naivní. A předstírat, že můžeme to crowdfundovat, je ještě více naivní.“

Dále je obtížné zahrnout prvky crowdfundingu, jako je označení falešně pozitivních výsledků, protože lidé jsou obvykle khá špatní v identifikaci falešných obrázků. Lidé často dělají chyby a přehlížejí jemné detaily, které označují obrázek jako falešný. Je také nejasné, jak se vypořádat se špatnými aktéry, kteří trollí, když označí obsah.

Zdá se, že, aby byly detekční nástroje falešného obsahu maximálně efektivní, budou muset být kombinovány s digitální gramotností, která učí lidi, jak rozumně uvažovat o obsahu, se kterým interagují online.