Miten Facebookin tekoäly leviittää väärää tietoa ja uhkaa demokratiaa

Dan Tunkelang, joka valvoi tekoälytutkimusta LinkedInissä, totesi: “Hetkenä, jolloin suositukset voivat vaikuttaa päätöksiin, ne muuttuvat kohteiksi roskapostittajille, huijarille ja muille vähemmän jalomielisille ihmisille.”

Tämä on dilemma, jonka sosiaalisen median yritykset, kuten Facebook, kokevat. Facebook käyttää implisiittista palautetta seuraamaan napsautuksia, näyttökertoja ja muita mitattavissa olevia käyttäjän käyttäytymisen muotoja. Tätä käytetään suunnittelemaan niiden tunnistamiseen “suosittelumoottoria”, tekoälyjärjestelmää, jolla on lopullinen valta päättää, kuka näkee mitä sisältöä ja milloin.

Facebook on optimoinut suosittelimoottorinsa maksimoimaan käyttäjien sitoutumista, joka mitataan ajan määrällä, joka kuluu Facebook-alustalla. Ajan maksimointi on tärkeämpää kuin mikään muu muuttuja, mukaan lukien suositeltavan sisällön laatu tai tarkkuus.

Järjestelmä on suunniteltu palkitsemaan sensaatiohakuisia otsikoita, jotka sitouttavat käyttäjiä hyödyntämällä kognitiivista vinoumaa, vaikka ne otsikot olisivat kirjoittaneet venäläiset trolit tarkoituksenaan jakaa yhteiskuntaa tai vaikuttaa poliittisiin vaaleihin.

Miten Facebook käyttää tekoälyä

On olemassa tietämättömyys siitä, miten Facebook käyttää tekoälyä päättääkseen, mitä sen käyttäjät näkevät ja vuorovaikuttavat. On ensin ymmärrettävä, mitä vahvistusvinous on. Psychology Today kuvailee tämän seuraavasti:

Vahvistusvinous on taipumus etsiä, tulkita, suosia ja muistaa tietoa tavalla, joka vahvistaa tai tukee omaa aikaisempaa uskomusta tai arvoa.

Facebook ymmärtää, että käyttäjät ovat todennäköisemmin napsauttamaan uutisista, jotka ruokkivat ihmisen taipumusta vahvistusvinoukseen. Tämä asettaa vaarallisen esimerkin sekä salaliittoteorioiden leviämiselle että luomalla kaikkoja, joissa käyttäjille syötetään ainoastaan sitä, mitä he haluavat nähdä, riippumatta siitä, onko se tarkkaa tai mitä yhteiskunnallista vaikutusta sillä on.

MIT:n tutkimus pystyi osoittamaan, että väärä uutinen Twitterissä leviää 6 kertaa nopeammin kuin tosiasialliset tarinat.

Tämä tarkoittaa, että sekä Twitter että Facebook voidaan aseistaa. Vaikka Twitter mahdollistaa kenelle tahansa seurata tiettyjä kanavia tai vinoutuneita näkemyksiä, Facebook menee askelen pidemmälle. Facebook-käyttäjällä ei ole tällä hetkellä mitään keinoa hallita tai mitata, mitä he näkevät, ja se määräytyy kokonaan Facebookin suosittelumoottorin mukaan, miten se mittailee käyttäjien sitoutumista ja miten se optimoi sitä.

Facebook yrittää muotoilla ja ennustaa käyttäjien toiveita. Facebook arvioi, kuinka paljon käyttäjä tykkää tai ei pidä uutisaiheesta, jota käyttäjä ei ole vielä kokenut. Välttääkseen käyttäjien sitoutumisen laskun Facebook valitsee ohittaa uutisaiheet, jotka voivat vähentää sitoutumista, ja valitsee sen sijaan sitouttaa käyttäjän ruokkimalla heitä uutisaiheilla, jotka ruokkivat vahvistusvinousta, varmistamalla enemmän napsautuksia, kommentteja, tykkäyksiä ja jakamisia.

Facebook käyttää myös automaattista yhteistyöhön perustuvaa historiallisten käyttäjätoimien ja mielipiteiden suodatusta automaattiseen osallistujien (ystävien) sopimiseen samanhenkisillä mielipiteillä. Facebook käyttää hyötyfunktiota, joka ennustaa ja laskee matemaattisesti mieltymyksesi asioita, joita haluat nähdä.

Tämä aiheuttaa käyttäjille sen, että he joutuvat kuiluun, he jäävät vangiksi väärään tietoon, ja heille syötetään sisältöä, joka vahvistaa heidän vinouttaansa. Esitetty sisältö on luonnostaan suunniteltu tavoitteena vaikuttaa siihen, mitä napsautat.

Kun käyttäjä yrittää valaista toista käyttäjää harhaanjohtavasta tai väärästä aiheesta, itse kommentoinnin tai vuorovaikutuksen toiminta lisää alkuperäisen käyttäjän sitoutumisaikaa. Tämä takaisinkytkentä aiheuttaa Facebookin vahvistavan kyseisen käyttäjän sitouttamista lisäämällä hänelle väärää tietoa.

Tämä aiheuttaa kaikkoja, suodatinkuplia, joissa käyttäjä koulutetaan uskomaan ainoastaan siihen, mitä he näkevät. Totuus on pelkästään illusio.

Ongelman vakavuus

Yli 10 miljoonaa ihmistä osallistui uutisvirtaan, jossa väitettiin, että paavi Franciscus oli asettunut Trumpin puolelle vuoden 2016 vaaleissa. Tätä ei ollut todisteita, se oli vain Venäjältä peräisin oleva väärä uutinen, mutta se oli jaettuin uutinen Facebookissa kolmen kuukauden ajan ennen vaaleja.

Uutinen oli luotu venäläisestä trollifarmista, joka kutsuu itseään “Internet-tutkimuslaitokseksi”. Sama organisaatio oli vastuussa rotuherkkien artikkeleiden ja väärän tiedon levittämisestä Twitterissä ja Facebookissa, jolla pyrittiin vaikuttamaan Yhdysvaltain vuoden 2016 vaaleihin.

Valtion tiedustelukomitea julkaisi 85-sivuisen raportin venäläisistä aktiivisista toimista ja vaikuttamisesta, josta suurin osa liittyi jakamaan erottavaa väärää tietoa ja propaganda, jonka ainoa tarkoitus oli vaikuttaa vuoden 2016 Yhdysvaltain vaaleihin.

Edetään vuoteen 2020, ja ongelma on vain pahentunut. Syyskuussa 2020, FBI:n vihjeen jälkeen Facebook ja Twitter keskeyttivät sosiaalisen median tilejä uutisorganisaatiolle nimeltä PeaceData, joka on liitetty Venäjän valtion propagandaponnisteluihin.

Valitettavasti tilejen sulkeminen on tilapäinen ja tehokas ratkaisu. Venäläiset tilet usein esiintyvät ystävänpyynnöinä, usein vastenmielisistä naisten profiileista, jotka kohdistuvat miehille, tai kaapattuihin käyttäjätiliin, joilla on historia säännöllisistä julkaisuista. Nämä kaapatut tilet siirtyvät hitaasti enemmän poliittisiin julkaisuihin, kunnes ne hallitsevat propaganda tai salaliittoteorioita.

Tietämätön käyttäjä ei välttämättä tiedä, että ystävän tili on murrettu. Jos kyseinen käyttäjä on altis salaliittoteorioille, hän saattaa osallistua väärään uutisvirtaan, ja venäläinen trololainen, usein botti, antaa lisää sosiaalista näyttöä muodossa tykkäyksiä tai kommentteja.

Haavoittuvat käyttäjät ovat usein niitä, jotka ymmärtävät vähiten, miten teknologia ja tekoäly toimivat. Yli 65-vuotiaat, jotka ovat äänestävän väestön osa, jotka ovat myös alttiimpia leviittämään väärää tietoa, kuten The New York Times raportoi.

Tutkimuksen mukaan Facebookin käyttäjät ikäryhmässä 65 vuotta ja vanhemmat julkaisivat seitsemän kertaa enemmän artikkeleita väärästä uutissivustosta kuin aikuiset 29-vuotiaat ja nuoremmat. Digitaalisen median kirjallisuuden puute saa tämän ikäryhmän valmistautumattomaksi uutisvirrasta, joka perustuu ainoastaan käyttäjien sitoutumiseen eikä tosiasialliseen tarkkuuteen.

Pahantahtoiset toimijat hyödyntävät Facebookin suosittelumoottoria, joka hyödyntää meidän kognitiivisia vinoumia meitä vastaan. Nämä samat organisaatiot ovat optimoineet Facebookin tekoälyn väärän tiedon ja propagandan leviittämiseen. Salaliittoteoriat, jotka voivat vaikuttaa viattomilta aluksi, usein käytetään kanavina valkoisen ylivalistuksen, äärioikeiston nationalismille tai QAnon -salaliittoteoriaan, joka liittyy Trumpin yritykseen pelastaa maailmaa liberaaleilta pedofiileiltä, salaliittoteoria, jolla ei ole mitään todellista perustaa.

Yhteenveto

Facebook on selvästi tietoinen siitä, että ongelma on olemassa, ja he ovat julkisesti ilmoittaneet strategiasta, joka keskittyy poistamaan sisältöä, joka rikkoo Facebookin yhteisöohjeita. Ongelma on, että tilejen poistaminen on tilapäinen ja tehokas ratkaisu, joka ei ole tehokas, kun tilejä luodaan massoittain botteja tai käyttäjätilien massiivisia hakkerointeja. Se ei myöskään ratkaise ongelmaa, että suurin osa jakamisesta on säännöllisistä käyttäjistä, jotka eivät ole tietoisia siitä, että he leviävät väärää tietoa.

Varoitusmerkkien lisääminen vahvistaa vain salaliittoteorioita, että sosiaalisen median jätit ovat vinoutuneita konservatiiveja vastaan, jotka ovat herkimmät väärälle tiedolle.

Ratkaisuun tarvitaan uusi suosittelumoottori, joka mitataa ei ainoastaan käyttäjien sitoutumista, vaan on optimoitu käyttäjien onnellisuuden mukaan toimittamalla totuutta ja edistämällä lisääntynyttä itsetietoisuutta.

Sillä aikaa Facebookin tulisi seurata Twitterin askelia kieltääkseen poliittiset mainokset.

Lopuksi on kysyttävä tärkeä kysymys: kun ihmisillä ei ole enää valinnanvaraa siitä, mitä he näkevät, milloin se lakkaa olemasta suosituksesta ja muuttuu mielenhallinnaksi?

Suositeltava lukeminen:

Venäläiset aktiiviset toimet ja vaikuttaminen – Raportti valtion tiedustelukomitealta Yhdysvaltain senaatissa.

Shokin aiheuttava artikkeli, joka ennustaa demokratian loppumisen – Rick Shenkman, George Washingtonin yliopiston historian uutisten verkoston perustaja.

Vanhemmat ihmiset jakavat väärää tietoa Facebookissa enemmän – The New York Timesin mukaan.