Etiikka

Tekoäly voi torjua väärää tietoa ja puolueellisuutta uutisissa

Alex McFarland
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatAI-työkalut, kuten NOOZ.AI, analysoivat kieltä paljastaakseen uutisten vinoumia ja…
Näytä lisää
  • AI-työkalut, kuten NOOZ.AI, analysoivat kieltä paljastaakseen uutisten vinoumia ja manipulointia.
  • Kolme vinoumaa – kognitiivinen, sosiaalinen ja algoritminen – tekevät sosiaalisesta mediasta haavoittuvan väärälle tiedolle.
  • Väärän tiedon ja disinformaation kampanjat kohdistuvat nyt vaaleihin yli 70 maassa.

Väärä tieto ja puolueellisuus uutisissa on muodostunut yhdeksi suurimmista haasteista, joita yhteiskunta on kohdannut viime vuosina. Asioiden, kuten informaatio-operaatioiden, deepfaken, taloudellisen vaikuttamisen ja sosiaalisten jännitteiden hyväksikäytön, kaltaiset asiat ovat uusia työkaluja, joita sekä yksityishenkilöt että valtiot käyttävät ympäri maailmaa.

Väärä tieto on yleinen termi virheelliselle tiedolle, ja se on tärkeässä roolissa julkisen mielipiteen manipuloinnissa. Samalla sitä käytetään hyökkäykseen poliittisia johtajia vastaan ja pahentaa eri maiden ryhmien välistä eroa. Enemmän kuin koskaan, väärä tieto vaikuttaa äänestyskoppiin, ja se on muodostunut erittäin tehokkaaksi.

Disinformaatio, joka eroaa hieman misinformaatiosta, on tarkoituksella harhaanjohtavaa tai puolueellista tietoa. Se voi sisältää manipuloituja kertomuksia ja tosiasioita. Toisin sanoen se on propagandaa.

Oxfordin yliopiston tutkijoiden vuonna 2019 julkaiseman raportin mukaan 70 eri maassa, mukaan lukien Venäjä, Kiina, Vietnam ja Guatemala, on järjestettyjä disinformaatiokampanjoita.

Digitaalinen talous on johtanut väärän tiedon ja puolueellisuuden lisääntymiseen uutisissa, ja AI-teknologiat ja sosiaalisen median alustat ovat muodostuneet tavoiksi levittää tietoa joukkoihin.

Olemme nähneet monia esimerkkejä tästä. Esimerkiksi edelliset kaksi Yhdysvaltain presidentinvaalia olivat täynnä väärää tietoa ja puolueellisuutta, ja tämä jatkuu varmasti tulevaisuudessakin. Rahoitusmarkkinat ovat myös olleet alttiina lyhytaikaiselle manipuloinnille väärän tiedon ja puolueellisuuden kautta, ja ulkosuhteet ovat muodostuneet jännittyneiksi sen seurauksena. Sosiaaliset jännitteet johtuvat virheellisestä tiedosta tiettyjen asioiden kannattajia ja vastustajia vastaan, ja väärä uutisointi on yleistä lähes jokaisessa maassa.

Riippuvuutemme sosiaalisesta mediasta ja algoritmeista on tehnyt meistä erittäin haavoittuvia väärälle tiedolle ja puolueellisuudelle, ja on muodostunut helppoa manipuloida suuria ryhmiä ihmisiä.

Voittoa tavoittelemattomien tiedotusvälineiden verkoston The Conversationin julkaisemassa esseessä ”Vinoumat altistavat ihmiset sosiaalisessa mediassa leviävälle väärälle tiedolle” kuvataan kolme vinoumatyyppiä, jotka altistavat sosiaalisen median ekosysteemin tahalliselle ja tahattomalle väärälle tiedolle. On tärkeää tunnistaa, että suurin osa uutisistamme tulee nykyään sosiaalisesta mediasta.

Kolme puolueellisuuden tyyppiä ovat:

  1. Puolueellisuus aivossa: “Kognitiiviset puolueellisuudet johtuvat siitä, miten aivot käsittelevät tietoa, jota jokainen kohtaa joka päivä.”
  2. Puolueellisuus yhteiskunnassa: “Kun ihmiset ovat suoraan yhteydessä toisiinsa, sosiaaliset puolueellisuudet, jotka ohjaavat heidän ystäviensä valintaa, vaikuttavat siihen, mitä he näkevät.”
  3. Puolueellisuus koneessa: “Kolmas ryhmä puolueellisuuksia johtuu suoraan algoritmeista, joita käytetään määrittämään, mitä ihmiset näkevät verkossa. Sekä sosiaalisen median alustat että hakukoneet käyttävät niitä.”

Tämä puolueellisuuden yhdistelmä on luonut täydellisen ympäristön pahantahtoisille toimijoille levittää väärää tietoa sosiaalisen median kautta. Mutta on tärkeää tunnistaa, että puolueellisuus on läsnä myös muualla. Säännölliset uutisraportit ja artikkelit ovat alttiina puolueellisuudelle johtuen kirjoittajan tai julkaisun omasta suuntautumisesta. Tämä ei ole mitään uutta.

AI-ratkaisut väärää tietoa ja puolueellisuutta vastaan

Tekoälyn kehittyminen on tarjonnut monia uusia ja innovatiivisia työkaluja, joita voidaan käyttää väärän tiedon ja puolueellisuuden torjumiseen uutisissa.

Esimerkiksi, kun suunniteltu oikein, tekoäly voi tehokkaasti havaita ja poistaa tietynlaista väärää tietoa ja muita ongelmallisia sisältöjä verkossa. Se on jo käytössä esimerkiksi Googlella (GOOGL ), Twitterillä ja Facebookilla havaitsemaan väärät botit. Ja väärät botit ovat usein käytetty väärän tiedon ja puolueellisen uutisoinnin levittämiseen.

Uusia tekoälykehyksiä on tutkittava tämän ongelman ratkaisemiseksi, ja olemassa olevia kehyksiä on parannettava, koska monia niistä on osoittautunut ongelmallisiksi. Nämä ongelmat muodostuvat entistä vaarallisemmiksi, kun konflikteja syntyy. Esimerkiksi sotilaalliset konfliktit, kuten nykyinen Venäjä-Ukraina-konflikti, johtavat väärän tiedon levittämiseen erittäin nopeasti.

Eri tekoälytyökaluja on kehitteillä. Esimerkiksi NT CONNECT, kansainvälinen teknologiayritys, on ilmoittanut uuden uutiskoostesovelluksen, NOOZ.AIn, julkaisusta. Tekoälypohjainen kielen analyysi pyrkii tuomaan avoimuutta nykyisen uutismedian polarisoivaan puolueellisuuteen. Se yrittää saavuttaa tämän pitämällä lukijat tietoisina uutismedian vaikutuksesta ennen artikkelin lukemista.

“Kirjoittajat tai journalistit usein kallistuvat tiettyyn puolueellisuuteen – usein lukijan tietämättä”, yhtiön tiedotteessa sanotaan. “Tietäessämme kirjoittajan ja uutislähteen historiallisen puolueellisuuden, kuluttajat voivat tarkastella artikkelia objektiivisemmin ja vastustaa manipulointia ajattelemaan tietyllä tavalla tietyistä aiheista.”

NOOZ.AI-työkalu perustuu neljään tärkeään periaatteeseen:

  • Mielipideanalyysi: Se auttaa lukijoita määrittämään henkilökohtaisten tunteiden, näkemysten, uskomusten tai arvostelujen läsnäolon journalistin kirjoituksessa.

  • Tunteen analyysi: Työkalu käyttää tunteen analyysiä auttaakseen lukijoita arvioimaan kirjoittajan tukea tai vastustusta yleiseen uutissisältöön tai tiettyyn aiheeseen.

  • Propaganda-analyysi: Se voi havaita potentiaalisen disinformaation tunnistamalla jopa 18 eri vaikuttamistekniikkaa.

  • Muutosanalyysi: Lukijat voivat tutkia uutisen kehittymistä ja mielipiteen ja tunteen manipulointia ajan myötä.

Sovellus antaa pisteet kullekin artikkelille, joissa mielipidepisteet ovat 0-100 ja tunteen pisteet -100-100. Se myös seuraa kaikkia tekstiin tehtyjä muutoksia ja antaa lukijoille mahdollisuuden vertailla eri versioita.

NT CONNECTin CTO Garry Paxinos sanoo:

”Puolueellinen uutisointi on merkittävä huolenaihe nyky-yhteiskunnassa. Misinformaatio on yleisimmin käytetty ja väärinkäytetty muotisana. Todellisuudessa jo kielellä itsellään voidaan manipuloida ja suostutella tavallista lukijaa. Analysoimalla kieltä objektiivisesti vältämme muissa lähestymistavoissa esiintyvän subjektiivisen vinouman. Sen sijaan, että luokittelisimme misinformaatiota subjektiivisesti, pyrimme valaisemaan, miten ihmisiä voidaan manipuloida liioittelevilla otsikoilla, muokkaushistorialla ja artikkelien tekstillä.”

Alex johtaa Unite.AI:n tekoälypohjaista uutistoimintaa, yhdistäen journalismia, tutkimusta ja automaatiota tukeakseen ajantasaista ja skaalautuvaa tekoälyä koskevaa uutisointia. Hänen työnsä auttaa varmistamaan, että nousevat tekoälykehitykset saadaan esiin tehokkaasti samalla kun julkaisun toimitukselliset standardit säilyvät.