Umělá inteligence dokáže bojovat proti dezinformacím a předsudkům ve zprávách

Dezinformace a zaujatost ve zprávách se staly jednou z největších výzev, kterým společnost v posledních letech čelila. Věci jako informační operace, deepfakes, finanční vliv a zneužívání sociálního napětí jsou nové nástroje používané jednotlivci i státními subjekty po celém světě. 

Dezinformace jsou obecné označení pro nepravdivé informace a hrají hlavní roli v manipulaci s veřejným míněním. Zároveň se používá jako útok proti politickým vůdcům a zhoršuje separace mezi skupinami v různých zemích. Více než kdy jindy se dezinformace dostávají do volebních místností a staly se neuvěřitelně účinnými. 

Dezinformace, které se mírně liší od dezinformací, jsou záměrně zavádějící nebo neobjektivní informace. Může zahrnovat zmanipulované příběhy a fakta. Jinými slovy, je to propaganda. 

Zpráva vědců z Oxfordské univerzity z roku 2019 podrobně popsala organizované dezinformační kampaně v 70 různých zemích, včetně Ruska, Číny, Vietnamu a Guatemaly. 

Digitální ekonomika vedla k nárůstu dezinformací a zaujatosti ve zprávách, přičemž technologie AI a platformy sociálních médií se staly způsoby, jak je šířit mezi masy. 

Viděli jsme toho mnoho. Například předchozí dvoje prezidentské volby v USA byly plné dezinformací a zaujatosti, a to bude jistě pokračovat i v budoucnu. Finanční trhy byly také vystaveny krátkodobé manipulaci prostřednictvím dezinformací a zaujatosti a zahraniční vztahy jsou v důsledku jejich využívání stále napjatější. Sociální napětí je vyvoláváno nepravdivými informacemi proti příznivcům a odpůrcům konkrétních příčin a falešné zprávy jsou nekontrolovatelné téměř v každém národě.

Naše spoléhání se na sociální média a algoritmy nás učinilo neuvěřitelně zranitelnými vůči dezinformacím a zaujatosti a stalo se snadné manipulovat s velkými skupinami lidí. 

Podle eseje s názvem „Předsudky činí lidi zranitelnými vůči dezinformacím šířeným sociálními médii“, kterou zveřejnila síť neziskových médií The Conversation, existují tři typy zkreslení, které činí ekosystém sociálních médií zranitelným vůči úmyslným a náhodným dezinformacím. Je důležité si uvědomit, že většina našich zpráv nyní pochází ze sociálních médií. 

Tři typy zkreslení jsou: 

1. Předpojatost v mozku: "Kognitivní předsudky mají původ ve způsobu, jakým mozek zpracovává informace, se kterými se každý den setkává každý člověk."
   
2. Předpojatost ve společnosti: „Když se lidé spojí přímo se svými vrstevníky, sociální předsudky, které řídí jejich výběr přátel, ovlivní informace, které vidí.
   
3. Předpojatost ve stroji: „Třetí skupina zkreslení vychází přímo z algoritmů používaných k určení toho, co lidé vidí online. Používají je jak platformy sociálních médií, tak vyhledávače.“ 

Tato kombinace předsudků vytvořila dokonalé prostředí pro špatné herce, aby mohli využívat naše aktuální zpravodajské platformy jako způsob šíření dezinformací. Ale je důležité si uvědomit, že zaujatost je přítomna i mimo tuto sféru. Pravidelné zpravodajské zprávy a články riskují, že budou zaujaté kvůli zvláštním sklonům autora nebo publikace. To není nic nového. 

Řešení AI pro dezinformace a zkreslení

Vzestup umělé inteligence nám poskytl mnoho nových a inovativních nástrojů, které lze použít k boji proti dezinformacím a zaujatosti ve zpravodajství.

Pokud je například umělá inteligence správně navržena, dokáže efektivně detekovat a odstranit určité dezinformace a jiný problematický obsah online. Společnosti jako Google, Twitter a Facebook jej již používají k identifikaci falešných robotů. A falešní boti jsou často využíváni k šíření dezinformací a neobjektivních zpráv. 

Pro boj s tímto problémem je třeba prozkoumat nové rámce umělé inteligence a stávající rámce musí být vylepšeny, protože mnohé se ukázaly jako problematické. Tyto problémy začínají být ještě nebezpečnější, když nastanou konflikty. Například vojenské konflikty, jako je současný konflikt mezi Ruskem a Ukrajinou, vedou k šíření dezinformací neuvěřitelně rychlým tempem. 

V potrubí přicházejí různé nástroje poháněné umělou inteligencí. Například, NT PŘIPOJIT, mezinárodní technologický vývojář, nedávno oznámil spuštění své aplikace pro agregátor zpráv, NOOZ.AI. Motor jazykové analýzy poháněný umělou inteligencí má za cíl vnést transparentnost do polarizačního zkreslení, které se vyskytuje v dnešních zpravodajských médiích. Snaží se toho dosáhnout tím, že čtenáře před čtením článku upozorní na vliv zpravodajských médií. 

„Autoři nebo novináři mají tendenci se přiklánět k určitému předsudku – často bez vědomí čtenáře,“ uvádí se v tiskové zprávě společnosti. „Díky znalosti historické zaujatosti autora a zpravodajských zdrojů mohou spotřebitelé zkoumat článek s objektivnější myslí a odolat manipulaci, aby přemýšleli určitým způsobem o jakémkoli konkrétním tématu.“ 

Nástroj NOOZ.AI je postaven na čtyřech klíčových pilířích: 

• Analýza názorů: Pomáhá čtenářům určit přítomnost osobních pocitů, názorů, přesvědčení nebo úsudků v novinářově psaní.

• Analýza sentimentu: Nástroj využívá analýzu sentimentu, která čtenářům pomáhá změřit podporu spisovatele nebo odpor vůči obecnému obsahu zpráv nebo konkrétnímu tématu.

• Analýza propagandy: Dokáže odhalit potenciální dezinformace tím, že identifikuje použití až 18 možných technik přesvědčování.

• Analýza revize: Čtenáři mohou zkoumat vývoj zprávy a její manipulaci s názory a sentimentem v průběhu času. 

Aplikace poskytuje skóre pro každý článek, s hodnocením názorů v rozmezí od 0 do 100 a skóre sentimentu v rozmezí od -100 do 100. Sleduje také všechny úpravy textu pro každou revizi a dává čtenářům možnost porovnávat různé verze. 

Podle Garryho Paxinose, CTO společnosti NT CONNECT: 

„Objektivní zpravodajství je v dnešní společnosti velkým problémem. Dezinformace jsou nejčastěji (ne)používaným buzzwordem. Realita je ale taková, že samotný jazyk může být použit k manipulaci a přesvědčování běžného čtenáře. Podle objektivně analyzování jazyka, kterému se vyhýbáme subjektivní zaujatost nalézt v jiných přístupech. Na rozdíl od subjektivního označování dezinformací je naším přístupem osvětlit, jak lze manipulovat s přehnanými titulky, historií revizí a texty článků.“