Umí AI bojovat proti dezinformacím a zkreslením v novinách

Dezinformace a zkreslení v novinách se staly jednou z největších výzev, kterým společnost v posledních letech čelí. Věci jako informační operace, deepfakes, finanční vliv a využívání sociálních napětí jsou novými nástroji, které používají jednotlivci i státní aktéři po celém světě.

Dezinformace je obecný termín pro falešné informace a hraje významnou roli v manipulaci veřejného mínění. Současně je používána jako útok proti politickým lídrům a zhoršuje rozdíly mezi skupinami v různých zemích. Více než kdykoli dříve dezinformace zasahují do volebních místností a staly se neuvěřitelně účinnými.

Desinformace, která je trochu odlišná od dezinformací, je úmyslně zavádějící nebo zkreslená informace. Může zahrnovat manipulované narativy a fakta. Jinými slovy, je to propaganda.

Zpráva z roku 2019 od výzkumníků z Oxfordské univerzity popsala organizované kampaně desinformací v 70 různých zemích, včetně Ruska, Číny, Vietnamu a Guatemaly.

Digitální ekonomika vedla ke zvýšení dezinformací a zkreslení v novinách, s umělými inteligencemi a sociálními médii se staly způsoby, jak je šířit mezi širokou veřejnost.

Viděli jsme mnoho příkladů toho. Například, dvě předchozí prezidentské volby v USA byly plné dezinformací a zkreslení, a je jisté, že to bude pokračovat i v budoucnu. Finanční trhy byly také vystaveny krátkodobé manipulaci prostřednictvím dezinformací a zkreslení, a zahraniční vztahy se stávají napjatějšími v důsledku jejich použití. Sociální napětí jsou vyvolávána falešnými informacemi proti stoupencům a odpůrcům konkrétních příčin, a falešné zprávy jsou všudypřítomné v téměř každé zemi.

Naše závislost na sociálních médiích a algoritmech nás učinila neuvěřitelně zranitelnými vůči dezinformacím a zkreslením, a stalo se snadné manipulovat velké skupiny lidí.

Podle eseje s názvem „Biasy dělají lidi zranitelnými vůči dezinformacím šířeným sociálními médii“, zveřejněné The Conversation, sítí neziskových médií, existují tři typy biasů, které činí ekosystém sociálních médií zranitelným vůči úmyslným a neúmyslným dezinformacím. Je důležité si uvědomit, že většina našich zpráv nyní pochází ze sociálních médií.

Tři typy biasů jsou:

1. Bias v mozku: „Kognitivní biasy pocházejí z toho, jak mozek zpracovává informace, se kterými se každý člověk setkává každý den.“
2. Bias ve společnosti: „Když lidé komunikují přímo se svými vrstevníky, sociální biasy, které řídí jejich výběr přátel, začínají ovlivňovat informace, které vidí.
3. Bias ve stroji: „Třetí skupina biasů vzniká přímo z algoritmů, které určují, co lidé vidí online. Sociální média i vyhledávače je používají.“

Tato kombinace biasů vytvořila ideální prostředí pro špatné aktéry, aby využívali naše současné novinové platformy jako způsob, jak šířit dezinformace. Ale je důležité si uvědomit, že bias je také přítomen mimo tento rámec. Pravidelné zprávy a články riskují, že budou zkresleny kvůli autorovým nebo publikací vlastním zaujatým názorům. To není nic nového.

Řešení AI pro dezinformace a zkreslení

Růst umělé inteligence nám poskytl mnoho nových a inovativních nástrojů, které lze použít k boji proti dezinformacím a zkreslením v novinách.

Například, když je navržen správně, AI může účinně detekovat a odstranit určité dezinformace a další problematický obsah online. Už je používán k identifikaci falešných botů společnostmi jako Google, Twitter a Facebook. A falešní boti jsou často používáni k šíření dezinformací a zkreslených zpráv.

Nové rámce AI musí být prozkoumány, aby bojovaly proti tomuto problému, a existující musí být vylepšeny, protože mnohé z nich se ukázaly být problematickými. Tyto problémy začínají být ještě nebezpečnější, když vznikají konflikty. Například, vojenské konflikty, jako je současný konflikt mezi Ruskem a Ukrajinou, vedou k šíření dezinformací neuvěřitelnou rychlostí.

Existuje řada nástrojů AI, které jsou na cestě. Například, NT CONNECT, mezinárodní technologický vývojář, nedávno oznámil spuštění své novinové agregátorové aplikace, NOOZ.AI. AI poháněný jazykový analytický stroj se snaží přinést transparentnost do polarizovaného zkreslení, které se nachází v dnešních novinových médiích. Snaží se to dosáhnout tím, že udržuje čtenáře informované o vlivu novinových médií před čtením článku.

„Autoři nebo novináři mají tendenci naklonit se k určitému zkreslení – často bez vědomí čtenáře,“ říká tisková zpráva společnosti. „Známe-li historické zkreslení autora a zdrojů novin, mohou spotřebitelé prozkoumat článek s více objektivním myšlením a odolat manipulaci, aby mysleli určitým způsobem o konkrétním předmětu.“

Nástroj NOOZ.AI je založen na čtyřech hlavních pilířích:

• Analýza názoru: Pomáhá čtenářům určit přítomnost osobních pocitů, názorů, víry nebo soudů v psaní novináře.
• Analýza sentimentu: Nástroj používá sentimentální analýzu, aby čtenářům pomohl odhadnout podporu nebo opozici vůči obecnému obsahu novin nebo konkrétnímu tématu.
• Analýza propagandy: Může detekovat potenciální dezinformace identifikací použití až 18 možných technik přesvědčování.
• Analýza revize: Čtenáři mohou prozkoumat vývoj novinové zprávy a manipulaci s názorem a sentimentem v čase.

Aplikace poskytuje skóre pro každý článek, s názorovými skóre v rozmezí 0 až 100 a sentimentálními skóre v rozmezí -100 až 100. Také sleduje všechny textové úpravy pro každou revizi a poskytuje čtenářům možnost srovnat různé verze.

Podle Garryho Paxinose, CTO v NT CONNECT:

„Zkreslené reportování je velkou obavou v dnešní společnosti. Dezinformace je nejčastěji (zneužíváným) buzzwordem. Ale realita je taková, že jazyk sám o sobě může být použit k manipulaci a přesvědčování běžného čtenáře. Objektivně analyzujeme jazyk, aby se zabránilo subjektivním biasům, které se nacházejí v jiných přístupech. Na rozdíl od subjektivního označování dezinformací je náš přístup osvětlit, jak lze manipulovat s přehnanými titulky, historií revizí a textem článků.”