Etika

AI může bojovat proti nepravdivým informacím a zaujatosti ve zpravodajství

Alex McFarland
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyNástroje umělé inteligence, jako je NOOZ.AI, analyzují jazyk, aby odhalily zaujatost a…
Zobrazit více
  • Nástroje umělé inteligence, jako je NOOZ.AI, analyzují jazyk, aby odhalily zaujatost a manipulaci ve zpravodajství.
  • Tři typy zkreslení – kognitivní, sociální a algoritmické – činí sociální média zranitelnými vůči dezinformacím.
  • Kampaně s dezinformacemi a misinformacemi nyní cílí na volby ve více než 70 zemích.

Dezinformace a zkreslení v novinách se staly jednou z největších výzev, kterým společnost v posledních letech čelí. Věci jako informační operace, deepfakes, finanční vliv a využívání sociálních napětí jsou novými nástroji, které používají jednotlivci i státní aktéři po celém světě.

Misinformace je obecný termín pro nepravdivé informace a hraje významnou roli v manipulaci veřejného mínění. Současně je používána jako útok proti politickým lídrům a zhoršuje rozdíly mezi skupinami v různých zemích. Více než kdykoli dříve dezinformace zasahují do volebních místností a staly se neuvěřitelně účinnými.

Dezinformace, která se trochu liší od misinformací, je úmyslně zavádějící nebo zkreslená informace. Může zahrnovat manipulované narativy a fakta. Jinými slovy, je to propaganda.

Zpráva z roku 2019 od výzkumníků z Oxfordské univerzity popsala organizované dezinformační kampaně v 70 různých zemích, včetně Ruska, Číny, Vietnamu a Guatemaly.

Digitální ekonomika vedla ke zvýšení dezinformací a zkreslení v novinách, přičemž technologie umělé inteligence a sociální média se staly prostředky k jejich šíření mezi širokou veřejnost.

Viděli jsme mnoho příkladů toho. Například, dvě předchozí prezidentské volby v USA byly plné dezinformací a zkreslení, a je jisté, že to bude pokračovat i v budoucnu. Finanční trhy byly také vystaveny krátkodobé manipulaci prostřednictvím dezinformací a zkreslení, a zahraniční vztahy se stávají napjatějšími v důsledku jejich použití. Sociální napětí jsou vyvolávána falešnými informacemi proti stoupencům a odpůrcům konkrétních cílů, a falešné zprávy jsou všudypřítomné v téměř každé zemi.

Naše závislost na sociálních médiích a algoritmech nás učinila neuvěřitelně zranitelnými vůči dezinformacím a zkreslením, a stalo se snadné manipulovat velké skupiny lidí.

Podle eseje s názvem „Biasy dělají lidi zranitelnými vůči dezinformacím šířeným sociálními médii“, zveřejněné The Conversation, sítí neziskových médií, existují tři typy biasů, které činí ekosystém sociálních médií zranitelným vůči úmyslným a neúmyslným dezinformacím. Je důležité si uvědomit, že většina našich zpráv nyní pochází ze sociálních médií.

Tři typy biasů jsou:

  1. Bias v mozku: „Kognitivní biasy pocházejí z toho, jak mozek zpracovává informace, se kterými se každý člověk setkává každý den.“
  2. Bias ve společnosti: „Když lidé komunikují přímo se svými vrstevníky, sociální biasy, které řídí jejich výběr přátel, začínají ovlivňovat informace, které vidí.
  3. Bias ve stroji: „Třetí skupina biasů vzniká přímo z algoritmů, které určují, co lidé vidí online. Sociální média i vyhledávače je používají.“

Tato kombinace biasů vytvořila ideální prostředí pro špatné aktéry, aby využívali naše současné novinové platformy jako způsob, jak šířit dezinformace. Ale je důležité si uvědomit, že bias je také přítomen mimo tento rámec. Pravidelné zprávy a články riskují, že budou zkresleny kvůli vlastním sklonům autora nebo publikace. To není nic nového.

Řešení AI pro dezinformace a zkreslení

Růst umělé inteligence nám poskytl mnoho nových a inovativních nástrojů, které lze použít k boji proti dezinformacím a zkreslením v novinách.

Například, když je navržen správně, AI může účinně detekovat a odstranit určité dezinformace a další problematický obsah online. Už je používán k identifikaci falešných botů společnostmi jako Google (GOOGL ), Twitter a Facebook. A falešní boti jsou často používáni k šíření dezinformací a zkreslených zpráv.

Nové rámce AI musí být prozkoumány, aby bojovaly proti tomuto problému, a existující musí být vylepšeny, protože mnohé z nich se ukázaly být problematickými. Tyto problémy začínají být ještě nebezpečnější, když vznikají konflikty. Například, vojenské konflikty, jako je současný konflikt mezi Ruskem a Ukrajinou, vedou k šíření dezinformací neuvěřitelnou rychlostí.

Existuje řada nástrojů AI, které jsou na cestě. Například, NT CONNECT, mezinárodní technologický vývojář, nedávno oznámil spuštění své novinové agregátorové aplikace, NOOZ.AI. AI poháněný jazykový analytický stroj se snaží přinést transparentnost do polarizovaného zkreslení, které se nachází v dnešních novinových médiích. Snaží se to dosáhnout tím, že udržuje čtenáře informované o vlivu novinových médií před čtením článku.

„Autoři nebo novináři mají tendenci naklonit se k určitému zkreslení – často bez vědomí čtenáře,“ říká tisková zpráva společnosti. „Známe-li historické zkreslení autora a zdrojů novin, mohou spotřebitelé prozkoumat článek s více objektivním myšlením a odolat manipulaci, aby mysleli určitým způsobem o konkrétním předmětu.“

Nástroj NOOZ.AI je založen na čtyřech hlavních pilířích:

  • Analýza názoru: Pomáhá čtenářům určit přítomnost osobních pocitů, názorů, víry nebo soudů v psaní novináře.
  • Analýza sentimentu: Nástroj používá analýzu sentimentu, aby čtenářům pomohl odhadnout podporu nebo opozici vůči obecnému obsahu novin nebo konkrétnímu tématu.
  • Analýza propagandy: Může detekovat potenciální dezinformace identifikací použití až 18 možných technik přesvědčování.
  • Analýza revize: Čtenáři mohou prozkoumat vývoj novinové zprávy a manipulaci s názorem a sentimentem v čase.

Aplikace poskytuje skóre pro každý článek, s názorovými skóre v rozmezí 0 až 100 a skóre sentimentu v rozmezí -100 až 100. Také sleduje všechny textové úpravy pro každou revizi a poskytuje čtenářům možnost srovnat různé verze.

Podle Garryho Paxinose, CTO v NT CONNECT:

„Zaujaté zpravodajství je v dnešní společnosti závažným problémem. Misinformace je nejčastěji používaným i zneužívaným módním výrazem. Ve skutečnosti lze samotný jazyk použít k manipulaci a přesvědčování běžného čtenáře. Tím, že jazyk analyzujeme objektivně se vyhýbáme subjektivnímu zkreslení přítomnému v jiných přístupech. Namísto subjektivního označování misinformací objasňujeme, jak může být člověk manipulován přehnanými titulky, historií úprav a textem článků.“

Alex vede AI‑poháněné zpravodajské operace společnosti Unite.AI, spojuje žurnalistiku, výzkum a automatizaci, aby podpořil včasné a škálovatelné pokrytí umělé inteligence. Jeho práce pomáhá zajistit, aby byly nové události v oblasti AI efektivně prezentovány a zároveň byly zachovány redakční standardy publikace.