AI může bojovat proti dezinformacím a zkreslením v novinách

Dezinformace a zkreslení v novinách se staly jednou z největších výzev, kterým společnost v posledních letech čelí. Věci jako informační operace, deepfakes, finanční vliv a využívání sociálních napětí jsou novými nástroji, které používají jednotlivci i státní aktéři po celém světě.

Dezinformace je obecný termín pro falešné informace a hraje významnou roli v manipulaci veřejného mínění. Současně je používána jako útok proti politickým vůdcům a zhoršuje rozdíly mezi skupinami v různých zemích. Více než kdy jindy dezinformace zasahují do volebních místností a staly se neuvěřitelně efektivní.

Disinformace, která je slightly odlišná od dezinformací, je úmyslně zavádějící nebo zkreslená informace. Může zahrnovat manipulované narativy a fakta. Jinými slovy, je to propaganda.

Zpráva z roku 2019 od výzkumníků z Oxfordské univerzity podrobně popsala organizované disinformační kampaně v 70 různých zemích, včetně Ruska, Číny, Vietnamu a Guatemaly.

Digitální ekonomika vedla ke zvýšení dezinformací a zkreslení v novinách, s AI technologiemi a sociálními médii se staly způsoby, jak je šířit mezi širokou veřejnost.

Viděli jsme mnoho příkladů. Například dvě předchozí prezidentské volby v USA byly plné dezinformací a zkreslení, a je jisté, že to bude pokračovat i v budoucnu. Finanční trhy byly také vystaveny krátkodobé manipulaci prostřednictvím dezinformací a zkreslení, a zahraniční vztahy se stávají napjatějšími v důsledku jejich použití. Sociální napětí jsou vyvolána falešnými informacemi proti stoupencům a odpůrcům konkrétních příčin, a falešné zprávy jsou všudypřítomné v téměř každé zemi.

Naše závislost na sociálních médiích a algoritmech nás činí neuvěřitelně zranitelnými vůči dezinformacím a zkreslením, a stalo se snadné manipulovat velké skupiny lidí.

Podle eseje s názvem “Biases Make People Vulnerable to Misinformation Spread by Social Media,” publikované The Conversation, sítí neziskových médií, existují tři typy zkreslení, které činí ekosystém sociálních médií zranitelným vůči úmyslným a neúmyslným dezinformacím. Je důležité si uvědomit, že většina našich zpráv nyní pochází ze sociálních médií.

Tři typy zkreslení jsou:

1. Zkreslení v mozku: “Kognitivní zkreslení vznikají v tom, jak mozek zpracovává informace, se kterými se každý den setkává.”
   
2. Zkreslení ve společnosti: “Když se lidé spojují přímo se svými vrstevníky, sociální zkreslení, která řídí jejich výběr přátel, začínají ovlivňovat informace, které vidí.
   
3. Zkreslení ve stroji: “Třetí skupina zkreslení vzniká přímo z algoritmů, které určují, co lidé vidí online. Sociální média i vyhledávače je používají.”
   

Toto kombinace zkreslení vytvořila dokonalé prostředí pro špatné aktéry, aby používali naše současné zpravodajské platformy jako způsob, jak šířit dezinformace. Ale je důležité si uvědomit, že zkreslení je také přítomno mimo tento rámec. Pravidelné zpravodajské zprávy a články riskují být zkresleny kvůli autorovým nebo publikování vlastním zvláštním sklonům. To není nic nového.

AI řešení pro dezinformace a zkreslení

Vzestup umělé inteligence nám poskytl mnoho nových a inovativních nástrojů, které lze použít k boji proti dezinformacím a zkreslením v novinách.

Například, když je navržen správně, AI může účinně detekovat a odstranit určité dezinformace a další problematický obsah online. Již je používán k identifikaci falešných botů společnostmi jako Google, Twitter a Facebook. A falešní boti jsou často používáni k šíření dezinformací a zkreslených zpráv.

Nové AI rámce musí být prozkoumány, aby bojovaly proti tomuto problému, a existující musí být vylepšeny, protože mnoho z nich se ukázalo být problematickými. Tyto problémy začínají být ještě nebezpečnější, když vznikají konflikty. Například vojenské konflikty, jako je současný ruský-ukrajinský konflikt, vedou k šíření dezinformací neuvěřitelnou rychlostí.

Existují různé AI-poháněné nástroje, které přicházejí. Například NT CONNECT, mezinárodní technologický vývojář, nedávno oznámil spuštění své zpravodajské agregátorové aplikace, NOOZ.AI. AI-poháněný jazykový analytický motor má za cíl přinést transparentnost do polarizovaného zkreslení, které je obsaženo v dnešních zpravodajských médiích. Snaží se o to, aby čtenáři byli vědomi vlivu zpravodajských médií předtím, než přečtou článek.

“Autoři nebo novináři mají tendenci naklonit se k určitým zkreslením – často bez vědomí čtenáře,” říká tisková zpráva společnosti. “Znát historické zkreslení autorů a zpravodajských zdrojů, spotřebitelé mohou prozkoumat článek s objektivnějším pohledem a odolat manipulaci, aby mysleli určitým způsobem o kterémkoli konkrétním předmětu.”

Nástroj NOOZ.AI je založen na čtyřech klíčových pilířích:

• Analýza názoru: Pomáhá čtenářům určit přítomnost osobních pocitů, názorů, víry nebo soudů v psaní novináře.

• Analýza sentimentu: Nástroj používá sentimentální analýzu, aby čtenářům pomohl odhadnout podporu nebo opozici vůči obecnému zpravodajskému obsahu nebo konkrétnímu tématu.

• Analýza propagandy: Může detekovat potenciální dezinformace identifikací použití až 18 možných přesvědčovacích technik.

• Revidovaná analýza: Čtenáři mohou prozkoumat vývoj zpravodajské zprávy a její manipulaci s názorem a sentimentem v čase.

Aplikace poskytuje skóre pro každý článek, s názorovými skóre od 0 do 100 a sentimentovými skóre od -100 do 100. Také sleduje všechny textové úpravy pro každou revidovanou verzi a poskytuje čtenářům možnost porovnat různé verze.

Podle Garryho Paxinose, CTO v NT CONNECT:

“Zkreslené zpravodajství je velkou obavou v dnešní společnosti. Dezinformace je nejčastěji (zneužívaný) buzzword. Ale realita je taková, že jazyk sám o sobě může být použit k manipulaci a přesvědčování náhodného čtenáře. Objektivně analyzujeme jazyk, aby se zabránilo subjektivním zkreslením, která se nacházejí v jiných přístupech. Na rozdíl od subjektivního označování dezinformací, náš přístup je osvětlit, jak lze manipulovat s přehnanými titulky, revidovanou historií a textem článků.”