Facebookin AI:n leviäminen ja demokratian uhkaus

Dan Tunkelang, joka johti AI-tutkimusta LinkedInissä, totesi: “Kun suositukset saavat vaikuttaa päätöksiin, ne muuttuvat spammien, huijauksien ja muiden epäilyttävien tarkoituksien kohteiksi.”

Tämä on sosiaalisen median yritysten, kuten Facebookin, kokema dilemmа. Facebook käyttää implisiittista palautetta seuratakseen napsautuksia, näyttökertoja ja muita mitattavissa olevia käyttäjän käyttäytymisen piirteitä. Tätä käytetään suunnittelemaan niin kutsuttua “suosittelumootoria”, joka on AI-järjestelmä, jolla on lopullinen valta päättää, kuka näkee mitä sisältöä ja milloin.

Facebook on optimoinut suosittelumootoriaan maksimoimaan käyttäjien sitoutumista, joka mitataan aikaa, joka kuluu Facebook-alustalla. Ajan maksimointi on tärkeämpää kuin mitkään muut muuttujat, mukaan lukien suositeltavan sisällön laatu tai tarkkuus.

Järjestelmä on suunniteltu palkitsemaan sensaatiohakuisia otsikoita, jotka sitouttavat käyttäjiä hyödyntämällä kognitiivista vinoumaa, vaikka ne otsikot olisivatkin kirjoitettu venäläisillä tulleilla tarkoituksella jakaa yhteiskuntaa tai vaikuttaa poliittisiin vaaleihin.

Facebookin AI:n käyttö

On olemassa tietämättömyys siitä, miten Facebook käyttää AI:ta päättääkseen, mitä sen käyttäjät näkevät ja kanssakäyvät. On ensin ymmärrettävä, mitä vahvistusvinous on. Psychology Today kuvailee tämän seuraavasti:

Vahvistusvinous on taipumus etsiä, tulkita, suosia ja muistaa tietoa tavalla, joka vahvistaa tai tukee omia aikaisempia uskomuksia tai arvoja.

Facebook ymmärtää, että käyttäjät ovat todennäköisemmin napsauttamaan uutisista, jotka ruokkivat ihmisen taipumusta vahvistusvinoukseen. Tämä asettaa vaarallisen esimerkin sekä salaliittoteorioiden leviämiselle että “kaikkojen” luomiselle, joissa käyttäjät syötetään ainoastaan sellaista sisältöä, jota he haluavat nähdä, riippumatta siitä, onko se tarkkaa tai ei.

MIT:n tutkimus osoitti, että Twitterissä leviää väärä tieto kuusi kertaa nopeammin kuin tosi uutiset.

Tämä tarkoittaa, että sekä Twitter että Facebook voidaan aseistaa. Vaikka Twitter mahdollistaa kenelle tahansa seurata tiettyjä kanavia tai tietynlaista sisältöä, Facebook menee askelen pidemmälle. Facebookin käyttäjällä ei ole mahdollisuutta hallita tai mitata, mitä hän näkee, vaan se määräytyy kokonaan Facebookin suosittelumootorin mukaan.

Facebook yrittää muotoilla ja ennustaa käyttäjien toiveita. Facebook arvioi, kuinka paljon käyttäjä tykkää tai ei tykkää uutisesta, jota hän ei ole vielä kokenut. Välttääkseen käyttäjien sitoutumisen laskun Facebook valitsee ohittaa uutiset, jotka voivat vähentää sitoutumista, ja valitsee sen sijaan uutiset, jotka ruokkivat vahvistusvinousta, varmistaen näin ollen enemmän napsautuksia, kommentteja, tykkäyksiä ja jakamisia.

Facebook käyttää myös automaattista yhteisöllistä suodatusta historiallisten käyttäjän toimien ja mielipiteiden perusteella automaattisesti yhdistääkseen osallistujat (ystävät) samanmielisyyden perusteella. Facebook käyttää hyötyfunktiota, joka ennustaa ja arvioi matemaattisesti mieltymyksesi niille kohteille, joita haluat nähdä.

Tämä johtaa siihen, että käyttäjät joutuvat “kaninkoloon”, jossa heidät ruokitaan väärällä tiedolla, joka vahvistaa heidän vinouttaan. Esitetty sisältö on suunniteltu vaikuttamaan siihen, mitä klikkaat.

Facebook käyttää myös “sosiaalista todistetta”. Sosiaalinen todiste on se, että ihmiset seuraavat joukon toimia. Ajatus on, että koska niin moni muu käyttäytyy tietyllä tavalla, se on oikea käyttäytyminen.

Facebook tarjoaa tämän sosiaalisen todisteen muodossa, jossa näytetään tykkäykset, kommentit tai jaot. Koska vain tiettyjen ystävien uutissyöte on näkyvissä (ellei he etsi käyttäjän uutissyötettä), sosiaalinen todiste vahvistaa vain vahvistusvinousta.

Facebook käyttää myös suodatin kuplia rajoittaakseen altistumista ristiriitaisten, vastakkaisen tai haastavien näkökulmien sisällölle.

Facebookin mainokset

Epäiltyjen Facebook-käyttäjien saattaa olla napsauttamassa mainoksia tietämättä, että heidät esitetään mainoksina. Syy tähän on yksinkertainen: jos on mainos, ainoastaan ensimmäinen henkilö, jolle mainos esitetään, näkee mainosilmoituksen. Jos kyseinen käyttäjä jakaa mainoksen, kaikki hänen ystäväluettelonsa näkevät jaon uutissyötteenä, ja Facebook tarkoituksella poistaa mainosilmoituksen. Heti käyttäjät alentavat varautumistaan, eivätkä he pysty erottamaan, mikä on mainos ja mikä on luonnollinen uutissyöte.

Facebookin jaot

Valitettavasti tilanne vain huononee. Jos käyttäjällä on 1000 ystävää, jotka jaavat samaa sisältöä, suosittelumootori priorisoi sisältöä vähemmistöltä, joka jakaa samat näkemykset, vaikka ne koostuvat usein todisteettomista salaliittoteorioista. Käyttäjä on silloin harhassa siitä, että nämä uutissyötteet ovat kaikkien näkyvissä. Käyttäjien kanssakäyminen tällaisen uutissyötteen kanssa optimoi toistensa sosiaalista todistetta.

Jos käyttäjä yrittää valaista toista käyttäjää harhaanjohtavasta tai väärästä kohteesta, itse kommentoiminen tai kanssakäyminen uutissyötteen kanssa lisää vain alkuperäisen käyttäjän sitoutumisaikaa. Tämä palautekierto johtaa siihen, että Facebook vahvistaa käyttäjän sitoutumista lisäämällä hänelle väärää tietoa.

Tämä luo “kaikkoefektin”, jossa käyttäjä koulutetaan uskomaan ainoastaan siihen, mitä hän näkee. Totuus on silloin pelkästään illusio.

Ongelman vakavuus

Yli 10 miljoonaa ihmistä osallistui uutissyötteeseen, jossa väitettiin, että paavi Franciscus oli asettunut Trumpin puolelle vuoden 2016 vaaleissa. Tätä ei ollut todisteita, se oli vain Venäjältä peräisin oleva väärä uutinen, josta tuli jaettuin uutinen Facebookissa kolmen kuukauden ajan ennen vuoden 2016 vaaleja.

Uutinen oli tuotettu venäläisellä trollifarmilla, joka kutsuu itseään “Internet-tutkimuslaitokseksi”. Tämä sama organisaatio oli vastuussa Twitterissä ja Facebookissa julkaistuista rotuherkkien artikkeleista, mustien oikeuksien vastustamisesta ja väärän tiedon leviämisestä, joka levitti valheellisia väitteitä amerikkalaisista poliitikoista.

Intelligence-komitea julkaisi 85-sivuisen raportin, jossa kuvailtiin venäläisiä aktiivisia toimia ja vaikutuksia, joista suurin osa liittyi jakamaan salaliittoteorioita ja propaganda, jonka ainoa tarkoitus oli vaikuttaa vuoden 2016 Yhdysvaltain vaaleihin.

Eteenpäin siirryttäessä vuoden 2020 vaaleihin ongelma on vain pahentunut. Syyskuussa 2020, FBI:n vihjeen jälkeen, Facebook ja Twitter sulkiivat sosiaalisen median tilejä venäläiselle propagandayritykselle, joka tunnetaan nimellä PeaceData.

Valitettavasti tilejen sulkeminen on tilapäinen ja tehokas ratkaisu. Venäläiset tilet usein ottavat muodon ystävänpyynnöistä, usein naisten profiileista, jotka kohdistuvat miehiin, tai kaapattujen käyttäjätilien kanssa, joilla on säännöllinen historia. Nämä kaapatut tilet siirtyvät hitaasti enemmän poliittisiin julkaisuihin, kunnes ne ovat valtaosin propaganda tai salaliittoteorioita.

Epäilty käyttäjä saattaa olla tietämätön siitä, että ystävän tile on murrettu. Jos käyttäjä on altis salaliittoteorioille, hän saattaa osallistua väärään uutissyötteeseen, ja venäläinen trolli, joka usein on botti, tarjoaa lisää sosiaalista todistetta muodossa tykkäykset tai kommentit.

Haavoittuvat käyttäjät ovat usein niitä, jotka eivät ymmärrä, miten teknologia ja AI toimivat. Yli 65-vuotiaat, jotka ovat äänestävän väestön joukossa, ovat myös todennäköisimmin leviävät väärää tietoa, kuten New York Timesin raportoimassa.

Tutkimuksen mukaan Facebookin käyttäjät, jotka ovat 65-vuotiaita tai vanhempi, julkaisivat seitsemän kertaa enemmän artikkeleita väärästä uutissivustosta kuin 29-vuotiaat tai nuoremmat aikuiset. Digitaalisen median kirjallisuuden puute tekee tämän ikäryhmän valmistumattomaksi uutissyötteelle, joka perustuu ainoastaan käyttäjien sitoutumiseen eikä tosiasioihin tai tarkkuuteen.

Pahantahtoiset toimijat hyödyntävät Facebookin suosittelumootoria, joka hyödyntää meidän kognitiivisia vinoumia meitä vastaan. Nämä samat organisaatiot ovat optimoineet Facebookin AI:n väärän tiedon ja salaliittoteorioiden leviämiselle. Salaliittoteoriat, jotka saattavat näyttää viattomilta aluksi, ovat usein käytettyjä pääsykeinoja valkoisen ylivaltaisuuden, äärioikeiston nationalismiin tai QAnonin kaltaisiin salaliittoteorioihin, jotka ovat täysin perusteettomia.

Yhteenveto

Facebook on selvästi tietoinen siitä, että ongelma on olemassa, ja he ovat julkisesti ilmoittaneet strategiasta, joka keskittyy poistamaan sisältöä, joka rikkoaa Facebookin yhteisöohjeita. Ongelma on, että tilien poistaminen on tilapäinen ratkaisu, joka on tehokas, kun tilejä luodaan massoittain botteja tai käyttäjätilien massiivista hakkerointia vastaan. Se ei myöskään ratkaise ongelmaa, että suurin osa jaosta on säännöllisistä käyttäjistä, jotka eivät ole tietoisia siitä, että he leviävät väärää tietoa.

Lisäämällä varoitusmerkit vain vahvistaa salaliittoteorioita, että sosiaalisen median jätit ovat vastaan konservatiiveja, jotka ovat herkimpiä väärälle tiedolle.

Ratkaisu tarvitsee uuden suosittelumootorin, joka mitää ei ainoastaan käyttäjien sitoutumista, vaan on optimoitu käyttäjien onnellisuuden mukaan toimimalla totuuden ja lisäämällä itsetietoisuutta.

Sillä aikaa Facebookin tulisi seurata Twitterin askelia kieltääkseen poliittiset mainokset.

Viimeiseksi on kysyttävä tärkeä kysymys. Jos ihmisillä ei ole valinnanvaraa siitä, mitä he näkevät, milloin se lakkää suosittelusta ja milloin se muuttuu mielenhallinnaksi?

Suositeltava lukemista:

Venäläiset aktiiviset toimenpiteet ja vaikutukset – Raportti Valituista tiedustelukomiteasta Yhdysvaltain senaatissa.

Shokin paperi, joka ennustaa demokratian loppumisen – Kirjoittanut Rick Shenkman, George Washingtonin yliopiston historian uutisten verkon perustaja.

Vanhemmat ihmiset jakavat enemmän väärää tietoa Facebookissa – New York Timesin mukaan.