Laskennallinen propaganda: Piilotetut voimat, jotka muuttavat tapaamme ajatella, äänestää ja elää

Kuvittele tämä: heräät, tarkistat sosiaalisen median ja löydät saman sytyttävän otsikon toistettuna sadoista tileistä – jokainen viesti on suunniteltu laukaisemaan vihaa tai hämmästystä. Ennen kuin olet ehtinyt tehdä aamukahvia, tarina on levinnyt verkossa ja herättänyt kuumia keskusteluja. Tämä ei ole hypoteettinen tulevaisuus – se on laskennallisen propagandan todellisuus.

Laskennallisen propagandan vaikutus ei ole enää rajoitettu muutamiin marginaalisiin Reddit-foorumeihin. Vuoden 2016 Yhdysvaltain presidentinvaaleissa Venäjään liittyvät trollitilat tulvivat Facebookiin ja Twitteriin sisällöllä, joka oli suunniteltu sytyttämään yhteiskunnallisia ristiriitoja, ja se saavutti yli 126 miljoonaa amerikkalaista. Samana vuonna Brexit-äänestys Isossa-Britanniassa varjostui tileistä, jotka – usein automaattisesti – pumpivat polarisoivia kertomuksia vaikuttaakseen julkiseen mielipiteeseen. Vuonna 2017 Ranskan presidentinvaalissa viime hetkellä hakkerointi ja viime hetken dokumenttien lasku, jota seurasi epäilyttävästi koordinoitu sosiaalisen median toiminta. Ja kun COVID-19 levisi maailmanlaajuisesti, verkossa levinnyt väärä tieto hoidoista ja ehkäisystä levisi kuin tulipalo, usein haudaten elämän pelastavan ohjeistuksen.

Mikä ajaa näitä manipuloivia operaatioita? Vaikka vanhanaikaiset roskapostiohjelmat ja trollitilat loivat tien, nykyiset hyökkäykset käyttävät viimeisintä AI-teknologiaa. Transformer-malleista (kuten GPT-järjestelmiä, jotka tuottavat ihmisen kuuloisia viestejä) aina reaaliaikaiseen sopeutumiseen, joka jatkuvasti parantaa taktiikkaa perustuen käyttäjien reaktioihin, propagandan maailma on muuttunut hämmästyttävästi sofistikoituneeksi. Koska enemmän elämästämme siirtyy verkossa, ymmärtäminen näistä piilotetuista voimista – ja miten ne hyödyntävät sosiaalisen median verkostoja – on koskaan ollut kriittisempää.

Alhaalla tarkastelemme laskennallisen propagandan historian juuria ja jatkamme tutkimalla nykyisiä disinformaatiokampanjoita ajavia teknologioita. Tunnistamalla, miten koordinoituja ponnisteluja hyödyntävät teknologiaa muokata ajattelua, voimme ottaa ensimmäiset askeleet vastustamaan manipulaatiota ja palauttamaan aitoa julkista keskustelua.

Laskennallisen propagandan määrittely

Laskennallinen propaganda viittaa automaattisten järjestelmien, data-analytiikan ja AI:n käyttöön julkisen mielipiteen manipulointiin tai vaikuttamiseen verkossa laajassa mittakaavassa. Tämä usein käsittää koordinoituja ponnisteluja – kuten bot-verkostoja, väärää sosiaalisen median tilejä ja algoritmiin perustuvia viestejä – levittääkseen tiettyjä kertomuksia, istuttaakseen harhaanjohtavaa tietoa tai vaikenemaan erimielisiä näkemyksiä. Käyttämällä AI-käyttöön perustuvaa sisällön luomista, hyperkohdistettua mainontaa ja reaaliaikaisia palautusilmoituksia, laskennallisen propagandan takana olevat voimat voivat vahvistaa reunamaisia ideoita, vaikuttaa poliittiseen mielipiteeseen ja heikentää luottamusta aitoon julkiseen keskusteluun.

Historiallinen konteksti: Varhaisista bot-verkostoista nykypolven trollitiloille

1990-luvun lopulla ja 2000-luvun alussa internet koki ensimmäisen aallon automaattisia skriptejä – ”bottien” – jotka käytettiin pääasiassa sähköpostien roskapostittamiseen, näyttöaikojen pumppaamiseen tai automaattiseen vastaamiseen chat-huoneissa. Ajan myötä nämä suhteellisen yksinkertaiset skriptit kehittyivät tarkoituksenmukaisemmiksi poliittisiksi työkaluiksi, kun ryhmät löysivät, että he voivat muokata julkisia keskusteluja foorumeilla, kommentti-osioilla ja varhaisilla sosiaalisen median alustoilla.

1. 2000-luvun puoliväli: Poliittiset botit astuvat näyttämölle
   • Esimerkki: Vuonna 2007 raportti paljasti koordinoituja bottien parvia varhaisilla sosiaalisen median alustoilla kuten Myspacessa ja Facebookissa, joita käytettiin tiettyjen ehdokkaiden mainostamiseen tai vastustajien halventamiseen.
   • Kiinan ”50 sentin armeija” on toinen varhainen esimerkki: noin 2004-2005, hallituksen liitännäisillä kommentoijilla kerrottiin maksetun 50 senttiä jokaisesta postauksesta, jotta he voisivat ohjata verkossa keskustelua valtion suosimissa suunnissa.
2. 2000-luvun loppupuoli – 2010-luvun alku: Trollitilojen synty
   • Vuosi 2009-2010: Hallituksiin liittyvät ryhmät maailmanlaajuisesti alkoivat muodostaa trollitiloja, jotka työllistivät ihmisiä luomaan ja hallinnoimaan lukuisia väärää sosiaalisen median tilejä. Heidän tehtävänään oli tulvittaa verkkoja polarisoivilla tai harhaanjohtavilla viesteillä.
   • Venäjän trollitilat: Vuoteen 2013-2014 mennessä Internet-tutkimuslaitos (IRA) Pietarissa oli saavuttanut mainetta disinformaatiokampanjoiden luomisesta sekä koti- että ulkomaisille yleisöille.
3. Vuosi 2016: Käänteentekevä vaalivaikuttaminen
   • Vuoden 2016 Yhdysvaltain presidentinvaaleissa trollitilat ja bot-verkostot olivat keskiössä. Myöhemmät tutkimukset paljastivat, että satoja väärää Facebook-sivua ja Twitter-tiliä (META ), useimmat johtivat IRA:han, levittivät hyperpartisaanisia kertomuksia.
   • Nämä taktiikat näkyivät myös Brexitissä vuonna 2016, jossa automaattiset tilet vahvistivat polarisoivia sisältöjä ”jää”- ja ”poistu”-kampanjoissa.
4. Vuodet 2017-2018: Huomionarvoiset paljastukset ja syytteet
   • Vuonna 2017 Ranskan presidentinvaalissa bot-verkostot levittivät harhaanjohtavia asiakirjoja ja herjauksia ehdokkaita vastaan.
   • Vuonna 2018 Yhdysvaltain oikeusministeriö syytti 13 Venäjään liittyvää henkilöä epäiltyyn vaalivaikuttamiseen liittyen vuoden 2016 vaaleissa, mikä merkitsi yhtä näkyvintä oikeudellista toimia trollitiloja vastaan.
5. Vuosi 2019 ja sen jälkeen: Maailmanlaajuiset vastatoimet ja jatkuva kasvu
   • Twitter ja Facebook alkoivat poistaa tuhansia väärää tilejä, jotka liittyivät koordinoituun vaikuttamiseen useista maista, kuten Iranista, Venäjältä ja Venezuelasta.
   • Vaikka tarkastelu kasvoi, sofistikoituneet toimijat jatkoivat kehittymistä – usein edistyneen AI:n avulla, joka pystyy luomaan vakuuttavampaa sisältöä.

Nämä merkkipaaluviivat asettavat näyttämön nykyiselle maisemalle, jossa koneoppiminen voi automatisoida koko disinformaation elinkaaren. Yksinkertaiset roskapostiohjelmat kehittyivät laajoiksi verkostoiksi, jotka yhdistävät poliittisen strategian viimeisimmän AI-teknologian kanssa, mahdollistaen pahantahtoisten toimijoiden vaikuttamisen julkiseen mielipiteeseen globaalilla tasolla ennennäkemättömällä nopeudella ja hienovaraisuudella.

Nykyiset AI-työkalut, jotka voimistavat laskennallista propaganda

Koneoppimisen ja luonnollisen kielen prosessoinnin edetessä disinformaatiokampanjat ovat kehittyneet paljon yksinkertaisista roskaboteista. Generatiiviset AI-mallit, jotka voivat tuottaa ihmisen kuuloista tekstiä, ovat antaneet mahdollisuuden koordinoijille vahvistaa harhaanjohtavia kertomuksia laajassa mittakaavassa. Alla tarkastelemme kolmea avain AI-käyttöön perustuvaa lähestymistapaa, jotka muokkaavat nykyistä laskennallista propaganda, sekä perusominaisuuksia, jotka tekevät näistä taktiikoista niin voimakkaita. Nämä taktiikat vahvistuvat myös suosittelualgoritmien kautta, jotka ovat harhaisia totuutta kohtaan.

1. Luonnollisen kielen generointi (NLG)

Nykyiset kielimallit, kuten GPT, ovat vallankumoussaan automaattisen sisällön luomisessa. Koulutettuina massiivisilla tekstiaineistoilla ne voivat:

• Tuottaa suuria määriä tekstiä: Pituudesta riippumatta, nämä mallit voivat tuottaa sisältöä ympäri vuorokauden minimoiden ihmisen valvontaa.
• Jäljitellä ihmisen kirjoitustyylia: Sovittamalla malleja tietyn alan (esim. poliittisten puheiden, erityisryhmien slangi) dataan, AI voi tuottaa tekstiä, joka vastaa kohdeyleisön kulttuurista tai poliittista kontekstia.
• Nopeasti iteroida viestejä: Harhaanjohtavan tiedon levittäjät voivat pyytää AI:ta generoimaan kymmeniä, ellei satoja, variaatioita samasta aiheesta, testaen, mikä versio leviää nopeimmin.

Yksi vaarallisimmista generatiivisen AI:n etuoista on sen kyky sopeuttaa sävyä ja kieltä tiettyihin yleisöihin, mukaan lukien tietyn henkilöhahmon jäljittely, ja tulokset voivat sisältää:

• Poliittinen spin: AI voi vaivattomasti lisätä puolueen iskulauseita tai sloganeja, tehdessä disinformaatiosta näyttävän kuin se olisi hyväksytty grassroots-liikkeenä.
• Arkiset tai puhekieliset äänet: Samalla työkalulla voidaan vaihtaa ”ystävällisen naapurin” hahmo, joka hiljaisesti esittää huhuja tai salaliittoteorioita yhteisöfoorumeilla.
• Asiantuntija-auktoriteetti: Käyttämällä muodollista, akateemista sävyä, AI-käyttöön perustuvat tilet voivat esittää asiantuntijoita – lääkäreitä, tutkijoita, analyytikkoja – antaen väärän uskottavuuden harhaanjohtaville väitteille.

Yhdessä Transformer-mallit ja tyylin jäljittely mahdollistavat koordinoijille massatuottaa sisältöä, joka näyttää monipuoliselta ja aidoilta, hämärten rajan välillä aitojen äänien ja valmistetun propagandan välillä.

2. Automaattinen julkaisu ja aikataulutus

Vaikka perusbotit voivat julkaista saman viestin toistuvasti, vahvistusoppiminen lisää älykkyyttä:

• Algoritmien sopeutuminen: Botit jatkuvasti testaavat eri julkaisuaikoja, hashtaggejä ja sisällön pituuksia, tarkastaen, mitkä strategiat tuottavat suurimman osallistumisen.
• Salainen taktiikka: Seuraamalla alustojen ohjeita ja käyttäjien reaktioita, nämä botit oppivat välttämään ilmeisiä punaisia lippuja – kuten toistuvaa sisältöä tai roskapostimaisia linkkejä – auttaen niitä pysymään moderoinnin alla.
• Kohdennettu vahvistus: Kun kertomus saa jalansijaa jonkin alaryhmän keskuudessa, botit toistavat sen useissa yhteisöissä, mahdollisesti puhkaisemalla reunamaiset ideat trendaaviksi aiheiksi.

Vahvistusoppimisen rinnalla koordinoijat aikatauluttavat julkaisuja, jotta ne voidaan pitää jatkuvasti näkyvissä:

• 24/7 Sisällön kierto: Automaattiset skriptit varmistavat, että harhaanjohtava tieto pysyy näkyvissä huippukausina eri aikavyöhykkeillä.
• Ennakoiva viestintä: Botit voivat tulvittaa alustan tietyn näkökulmalla ennen uutisten ilmestymistä, muokkaillen julkista reaktiota ennen kuin vahvistetut faktat tulevat julki.

Automaattisen julkaisun ja aikataulutuksen kautta pahantahtoiset toimijat maksimoivat sisällön saavutettavuuden, ajoituksen ja sopeutumisen – avainvipuja kääntääkseen reunamaiset tai väärät kertomukset suosittuksi puheenaiheeksi.

3. Reaaliaikainen sopeutuminen

Generatiivinen AI ja automaattiset bottijärjestelmät riippuvat jatkuvasta datasta taktiikoidensa parantamiseksi:

• Instant Reaction Analysis: Tykkäykset, jaot, kommentit ja mielipidetiedot syötetään takaisin AI-malleihin, jotta ne voivat ohjata, mitkä kulmat ovat kaikkein tehokkaimpia.
• Lenkitön revision: Sisältö, joka ei suorita hyvin, muutetaan nopeasti – viestintä, sävy tai kuva-aineisto sovitetaan, kunnes se saavuttaa toivottuun tulokseen.
• Sopeutuva kerronta: Jos tarina alkaa menettää merkitystään tai kohtaa voimakasta vastustusta, AI vaihtaa uusiin puhetapahtumiin, ylläpitäen huomion kuitenkaan ilman havaitsemista.

Tämä palautekierto automaattisen sisällön luomisen ja reaaliaikaisen osallistumisen välillä luo voimakkaan, itseparantavan ja itseään ylläpitävän propagandajärjestelmän:

1. AI Luo Sisältöä: Luonnostelee ensimmäisen aallon harhaanjohtavia viestejä käytettyjen mallien perusteella.
2. Alustat ja Käyttäjät Vastaa: Osallistumistiedot (tykkäykset, jaot, kommentit) virtaavat takaisin koordinoijille.
3. AI Parantaa Strategiaa: Menestyksekkäimmät viestit toistetaan tai laajennetaan, kun taas heikommat yritykset poistetaan tai uudelleenmuokataan.

Ajan myötä järjestelmästä tulee erittäin tehokas kiinnittämään tiettyjä yleisösegmenttejä, työntäen valmistettuja tarinoita useammalle ihmiselle, nopeammin.

Perusominaisuudet, jotka ajavat tämän piilotetun vaikutuksen

Vaikka sofistikoitunut AI on mukana, tietyt perusominaisuudet ovat edelleen keskeisiä laskennallisen propagandan menestykselle:

1. Ympäri vuorokauden toiminta
   AI-käyttöön perustuvat tilet toimivat uutterasti, varmisteten, että tiettyjä kertomuksia näytetään jatkuvasti käyttäjille. Jatkuvan julkaisujen tahti pitää harhaanjohtavaa tietoa aina käyttäjien edessä.
2. Valtava saavutettavuus
   Generatiivinen AI voi tuottaa loputtoman määrän sisältöä kymmenien – tai jopa satojen – tilejen yli. Tämä saavutettavuus voi luoda väärän konsensuksen, pakottaen aitoja käyttäjiä sopeutumaan tai hyväksymään harhaanjohtavia näkemyksiä.
3. Emotionaalinen laukaisin ja taitava kehys
   Transformer-mallit voivat analyysin avulla selvittää yhteisön kuumat aiheet ja luoda emotionaalisesti latautuneita koukkuja – raivo, pelko tai järkytyksen aiheuttajia. Nämä laukaisimet johtavat nopeaan jaossa, sallien harhaanjohtavien kertomuksien ylittää faktat ja tarkat tiedot.

Miksi se on tärkeää

Käyttämällä edistynyttä luonnollisen kielen generointia, vahvistusoppimista ja reaaliaikaisia analyysejä, nykyiset koordinoijat voivat käynnistää laajamittaisia disinformaatiokampanjoita, jotka olivat ajateltavissa vain muutama vuosi sitten. Ymmärtäminen erityistä roolia, jonka generatiivinen AI näyttelee harhaanjohtavan tiedon vahvistamisessa, on kriittinen askel tunnistamiseen ja puolustautumiseen näitä piilotettuja operaatioita vastaan.

Verkon ulkopuolella

Näiden koordinoitujen ponnistelujen vaikutukset eivät rajoitu verkkoon. Ajan myötä nämä manipulaatiot vaikuttavat ydin-arvoihimme ja päätöksiimme. Esimerkiksi kriittisissä terveydenhuollon tilanteissa, huhut ja puolipuheita voivat peittää varmistetut ohjeistukset, rohkaisten riskialttiita käyttäytymisiä. Poliittisissa konteksteissa, vääristyneet tarinat ehdokkaiden tai politiikkojen suhteen valtaavat tasapuoliset keskustelut, työntäen koko väestöä piilossa olevien etujen mukaisiin lopputuloksiin eikä yleisen hyvän mukaisiin.

Naapureiden ryhmät, jotka uskovat jakavansa yhteisiä tavoitteita, saattavat huomata, että heidän ymmärryksensä paikallisista asioista on vaikuttunut tarkkaan istutetuista myyteistä. Koska osallistujat pitävät näitä tiloja ystävällisinä ja tuttavina, he epäilevät harvoin soluttautumista. Kun joku kyseenalaistaa epätavallisia malleja, uskomukset saattavat jo vakiintua harhaanjohtavien vaikutusten ympärille.

Selvin onnistunut tapaus tästä on vaikuttaminen poliittisiin vaaleihin.

Varoitusmerkit koordinoitusta manipulaatiosta

1. Äkilliset nousut yhdenmukaisessa viestinnässä
   • Samat tai lähes samat viestit: Viestien tulva, joka toistaa samoja lauseita tai hashtaggejä, viittaa automaattisiin skripteihin tai koordinoituihin ryhmiin, jotka ajavat yhtä kertomusta.
   • Purkaus toimintaa: Epäilyttävät aikataulut – usein huippuajan ulkopuolella – voivat osoittaa botteja, jotka hallinnoivat useita tilejä samanaikaisesti.
2. Toistuvat väitteet ilman luotettavia lähteitä
   • Ei viittauksia tai linkkejä: Kun useat käyttäjät jakavat väitteen ilman minkäänluotettavan lähteen mainintaa, se voi olla taktiikka levittää tietoa tarkastamattomasti.
   • Epäilyttävät lähteet: Kun viittaukset uutisiin tai artikkeleihin osoittavat epäilyttäviin lähteisiin, jotka usein muistuttavat nimeltään legitiimejä uutisbrändejä, mutta eivät ole niiden kanssa liitoksissa, kuten sivusto ”abcnews.com.co”, joka esitti olevansa ABC News, käyttäen samanlaista logoa ja ulkoasua, mutta ei ollut millään tavoin liitossa aidoon lähetykseen.
   • Keppiinviittaaminen: Jotkut viestit linkittävät ainoastaan muihin epäilyttäviin sivustoihin samassa verkostossa, luoden itseään vahvistavan ”kaikko-kammion” valheita.
3. Voimakkaat emotionaaliset koukut ja hälyttävät kielet
   • Shokkivaikutuksen sisältö: Raivo, vakavat varoitukset tai sensaatioita käytetään ohittamaan kriittisen ajattelun ja laukaisemaan välittömiä reaktioita.
   • Me vastaan he -kertomukset: Viestit, jotka kehuvat tiettyjä ryhmiä vihollisiksi tai uhkiksi, usein tavoittelevat yhteisöjen polarisoimista ja radikalisointia tarkoituksella estääkseen tarkoituksenmukaisen keskustelun.

Tunnistamalla nämä merkit – yhdenmukaisen viestinnän nousut, toistuvasti esitetyt tukematonta väitteitä ja emotionaalisesti latautunut sisältö, joka on tarkoitettu sytyttämään – yksilöt voivat paremmin erottaa aitoja keskusteluja koordinoitusta propagandasta.

Miksi valheita leviää niin helposti

Ihmisluonto vetäytyy mielenkiintoisiin tarinoihin. Kun tarjotaan tarkoituksenmukainen, tasapuolinen selitys tai sensaatio, monet valitsevat jälkimmäisen. Tämä vaisto, vaikka ymmärrettävä, luo aukon manipuloinnille. Toimittamalla dramaattista sisältöä, koordinoijat varmistavat nopean leviämisen ja toistuvan altistumisen. Lopulta, tuttuus korvaa varmennuksen, ja jopa keveimmät tarinat tuntuvat tosilta.

Kun nämä tarinat hallitsevat syötteitä, luottamus luotettaviin lähteisiin heikkenee. Sen sijaan, että keskustelut johtaisivat todisteisiin ja logiikkaan perustuvista keskusteluista, ne romahtavat polarisoituneiksi huuteluiksi. Tällainen hajoaminen heikentää yhteisön kykyä ajatella kollektiivisesti, löytää yhteistä maaperää tai ratkaista jaettuja ongelmia.

Korkeat panokset: Laskennallisen propagandan suurimmat vaarat

Laskennallinen propaganda ei ole vain toinen verkkoumpi – se on järjestelmällinen uhka, joka pystyy muokkaamaan koko yhteiskuntia ja päätöksentekoprosesseja. Tässä ovat kriittisimmät riskit, jotka nämä piilotetut manipulaatiot asettavat:

1. Vaikuttaminen vaaleihin ja demokratiatutkimuksiin
   Kun botit ja AI-käyttöön perustuvat hahmot tulvittavat sosiaalisen median, ne vääristävät julkista mielipidettä ja poliittista jakoheittoa. Vahvistamalla wedge-aiheita ja haudaten aitoa keskustelua, he voivat kallistaa vaalituloksia tai estää äänestämisen kokonaan. Äärimmäisissä tapauksissa kansalaiset alkavat epäillä vaalituloksien laillisuutta, heikentäen demokraattisten instituutioiden perustaa.
2. Sosiaalisen yhtenäisyyden horjuttaminen
   Polarisoivat sisällöt, jotka edistyneet AI-mallit luovat, hyödyntävät emotionaalisia ja kulttuurisia rakoja. Kun naapurit ja ystävät näkevät ainoastaan heille suunnatut viestit, yhteisöt hajoavat valmistelluilla erottelujen mukaan. Tämä ”jakaa ja hallitse” -taktiikka siirtää energian merkityksellisistä keskusteluista, tehdessä vaikeaksi löytää yhteistä maaperää jaettuihin ongelmiin.
3. Luottamuksen heikentäminen luotettavissa lähteissä
   Kun syntetiset äänet maskeeraavat oikeina ihmisinä, raja uskottavassa raportoinnissa ja propagandassa tulee epäselväksi. Ihmiset kasvattavat epäilyä kaikkea tietoa kohtaan, heikentäen legitiimien asiantuntijoiden, faktantarkistajien ja julkisten instituutioiden vaikutusta, jotka riippuvat luottamuksesta toimintansa kannalta.
4. Politiikkaan ja julkiseen mielipiteeseen vaikuttaminen
   Vaalejen ulkopuolella laskennallinen propaganda voi työntää tai haudata tiettyjä politiikkoja, muokata taloudellista mielipidettä ja jopa lietsoa julkista pelkoa terveydenhuollon toimenpiteitä kohtaan. Poliittiset agendat muuttuvat sekaviksi disinformaation sekaan, ja aito poliittinen keskustelu antaa tilaa piilossa olevien vaikuttajien vetämälle naralle.
5. Globaalien kriisien pahentaminen
   Kriisien aikana – olipa kyse pandemiasta, geopolitiikasta tai taloudellisesta laskukaudesta – nopeasti käyttöön otetut AI-käyttöön perustuvat kampanjat voivat hyödyntää pelkoa. Levittämällä salaliittoteorioita tai väärää ratkaisua, he häikäisevät koordinoituja vastatoimia ja lisäävät inhimillisiä ja taloudellisia kustannuksia kriisien aikana. Usein ne johtavat poliittisiin ehdokkaisiin, jotka valitaan hyödyntämällä väärää tietoa.

Kutsu toimiin

Laskennallisen propagandan vaarat vaativat uudelleen sitoutumista median lukutaitoon, kriittiseen ajatteluun ja selkeämpään ymmärrykseen siitä, miten AI vaikuttaa julkiseen mielipiteeseen. Varmistamalla, että julkinen on hyvin perillä ja ankkurissa tosiasioissa, voimme varmistaa, että meidän tärkeimmät päätökset – kuten johtajiemme valinta – ovat todella omiamme.