Osakkeiden arvon alentaminen vihamielisesti muokatuilla retviiteillä

Yhdysvaltalaisen yliopiston ja IBM:n yhteistyöhön perustuva tutkimus on kehittänyt teoreettisen konseptin vihamielisestä hyökkäyksestä, joka voi aiheuttaa osakkeiden arvon laskua muokkaamalla yhden sanan Twitter-viestin retviitissä.

Yhdessä kokeessa tutkijat pystyivät estämään Stocknet-ennustemallin kahdella menetelmällä: manipulaatiohyökkäyksellä ja yhdistämishyökkäyksellä. Lähde: https://arxiv.org/pdf/2205.01094.pdf

Hyökkäyksen kohdealue automaattisille ja koneoppimiseen perustuville osake-ennustemalleille on se, että niitä käytetään yhä enemmän orgaanista sosiaalista mediaa ennustemallina; ja että tämän “luonnonvalaisen” datan manipulointi on prosessi, joka voidaan mahdollisesti muodostaa luotettavasti.

Lisäksi Twitteriin, järjestelmiä, jotka ovat tämänkaltaisia, sisällytetään dataa Redditistä, StockTwitsistä ja Yahoo Newsista. Twitterin ja muiden lähteiden välillä on se, että retviitit ovat muokattavissa, vaikka alkuperäiset viestit eivät ole. Toisaalta Redditissä on mahdollista tehdä lisäksi (esim. kommentteja tai liittyviä viestejä) tai kommentoida ja arvioida – toimintoja, jotka ovat oikeutetusti kohdeltavissa puolueellisina ja itsepalveluina ML-pohjaisissa osake-ennustemalleissa.

Yhdessä kokeessa Stocknet-ennustemallissa tutkijat pystyivät aiheuttamaan merkittäviä laskuja osakkeiden arvon ennustemallissa kahdella menetelmällä, joista tehokkain, manipulaatiohyökkäys (ts. muokatut retviitit), pystyi aiheuttamaan vakavimmat laskut.

Tämä saavutettiin, kuten tutkijat mainitsivat, simuloimalla yhden korvaamisen “arvostetun” taloudellisen Twitter-lähteen retviitissä:

Sana on tärkeä. Tässä ero ‘täytetty’ ja ‘harjoitettu’ (joka ei ole ilmiselvästi vaarallinen tai harhaanjohtava sana, mutta melkein luokiteltavissa synonyyminä) on teoriassa maksanut sijoittajalle tuhansia osakkeiden arvon laskussa.

Raportti toteaa:

‘Tuloksemme osoittavat, että ehdotettu hyökkäysmenetelmä voi saavuttaa johdonmukaisen onnistumisprosentin ja aiheuttaa merkittävän taloudellisen menetyksen kaupankäyntisimulaatiossa yksinkertaisesti yhdistämällä häiriintyneen, mutta semanttisesti samanlaisen twiitin.’

Tutkijat toteavat:

‘Tämä työ osoittaa, että meidän vihamielinen hyökkäysmenetelmä voi johdonmukaisesti hämätä erilaisia taloudellisia ennustemalleja, vaikka alkuperäinen twiitti ei voida muuttaa. Lisäämällä retviitin, jossa on vain yksi sana korvattu, hyökkäys voi aiheuttaa 32 %:n lisämenetyksen simuloituun sijoitusportfolioomme.

‘Tutkimalla taloudellisen mallin haavoittuvuutta, tavoitteemme on lisätä taloudellisen yhteisön tietoisuutta AI-mallien riskeistä, jotta voidaan kehittää luotettavampia ihmisten ohjaamia AI-arkkitehtuureja tulevaisuudessa.’

Raportti on nimeltään Sana on arvokas: Vihamielinen hyökkäys twiiteissä hämää osake-ennustetta, ja se on kuuden tutkijan työ, jotka ovat eri yliopistoista, mukaan lukien Illinoisin yliopisto, Buffalon yliopisto ja Michiganin osavaltion yliopisto, ja kolme tutkijoista on IBM:llä.

Epäonniset sanat

Raportti tutkii, voidaanko tekstipohjaisiin syvän oppimisen malleihin kohdistuvia vihamielisiä hyökkäyksiä soveltaa osake-ennustemalleihin, joiden ennustuskyky perustuu joihinkin “ihmisenkaltaisiin” tekijöihin, joita voidaan vain karkeasti arvioida sosiaalisesta mediasta.

Sosiaalisen median manipuloinnin potentiaali vaikuttaa osakkeiden hintoihin on osoitettu aiemmin, vaikka ei vielä ehdotetulla tavalla; vuonna 2013 Syyrian hakkerit väittivät AP:n Twitter-tilin hakkerointia, joka aiheutti 136 miljardin dollarin arvon laskun noin kolmessa minuutissa.

Tutkijat toteavat, että heidän ehdottamansa menetelmä toteuttaa yhdistämishyökkäyksen, joka jättää alkuperäisen twiitin koskemattomaksi, mutta sitä siteeraa väärin:

Raportin liitteestä, esimerkkejä retviiteistä, joissa on korvattu synonyymejä, jotka muuttavat alkuperäisen viestin tarkoitus ja merkitys ilman, että ihmiset tai yksinkertaiset suodattimet huomaavat sitä – mutta jotka voivat hyödyntää osake-ennustemallien algoritmeja.

Tutkijat ovat lähestyneet vihamielisten retviittien luomista yhdistelmäoptimoimisongelmana – luomalla vihamielisiä esimerkkejä, jotka voivat hämätä uhri-mallia, vaikka sanastoa on rajoitettu.

Sanaa korvaava semantiikka – “ihmiskielen vähin semanttinen yksikkö”. Lähde: https://aclanthology.org/2020.acl-main.540.pdf

Raportti toteaa:

‘Twitterissä viholliset voivat lähettää vaarallisia twiittejä, jotka on suunniteltu manipuloimaan aliraportteja, jotka ottavat ne syötteenä.

‘Ehdotamme hyökkäystä lähettämällä semanttisesti samanlaisia vihamielisiä twiittejä retviiteinä Twitterissä, jotta ne voidaan tunnistaa merkityksellisinä tietoina ja kerätä mallin syötteenä.’

Jokaiselle twiitille erityisesti valitussa joukossa tutkijat ratkaisivat sanan valintaa ongelmassa, jossa on sana- ja twiittibudjetit, jotka asettavat ankarat rajoitukset semanttisen poikkeaman suhteen alkuperäisestä sanasta, ja “vaarallisen/harmittoman” sanan korvaamisesta.

Vihamieliset twiitit muodostetaan merkityksellisistä twiiteistä, jotka ovat todennäköisesti sallittuja aliraporttien osake-ennustemalleissa. Twiitin on myös ohitettava Twitterin sisällön valvontajärjestelmä ja se ei saa näyttää vastakohtaiselta tavallisen ihmisen silmissä.

Seuraamalla aiempaa tutkimusta (Michiganin osavaltion yliopistosta, yhdessä CSAIL:n, MIT:n ja MIT-IBM Watson AI Lab:n kanssa), valitut sanat kohdetwiitissä korvataan synonyymeillä rajoitetusta synonyymien joukosta, jotka on semanttisesti hyvin lähellä alkuperäistä sanaa, säilyttäen “korruptoivan vaikutuksensa”, joka perustuu osake-ennustemallien käyttäytymiseen.

Algoritmit, joita käytettiin myöhemmissä kokeissa, olivat Joint Optimization (JO) -ratkaisija ja Alternating Greedy Optimization (AGO) -ratkaisija.

Tietojoukko ja kokeet

Tätä lähestymistapaa kokeiltiin osake-ennusteen tietojoukossa, joka koostui 10 824 esimerkistä merkityksellisistä twiiteistä ja markkinan suorituskyvystä 88 osakkeella vuosina 2014-2016.

Kolme “uhri”-mallia valittiin: Stocknet; FinGRU (GRU:n johdannainen); ja FinLSTM (LSTM:n johdannainen).

Arviointimittareina käytettiin Hyökkäyksen onnistumisprosenttia (ASR) ja uhri-mallin F1-lukuarvon laskua hyökkäyksen jälkeen. Tutkijat simuloivat Long-Only Buy-Hold-Sell -strategiaa kokeissa. Voitto ja tappio (PnL) laskettiin myös simulaatioissa.

Kokeiden tulokset. Katso myös ensimmäinen kaavio tämän artikkelin alussa.

JO:n ja AGO:n alaisuudessa ASR:n arvo nousee 10 prosentilla, ja mallin F1-lukuarvo laskee keskimäärin 0,1 yhdessä satunnaisen hyökkäyksen kanssa. Tutkijat toteavat:

‘Tällainen suorituskyvyn lasku on merkittävä osake-ennusteen kontekstissa, koska nykyisten päivittäisten palautumisen ennustusmallien tarkkuus on vain noin 60 prosenttia.

Voiton ja tappion osuudessa (virtuaalisessa) hyökkäyksessä Stocknetiä vastaan vihamielisten retviittien tulokset olivat myös merkittäviä:

‘Jokaisessa simulaatiossa sijoittajalla on 10 000 dollaria (100 prosenttia) sijoitettavaksi; tulokset osoittavat, että ehdotetun hyökkäysmenetelmän avulla voidaan aiheuttaa sijoittajalle lisäksi 3 200 dollarin (75-43 prosentin) tappio portfolioonsa noin kahden vuoden kuluttua.’

Julkaistu ensimmäisen kerran 4. toukokuuta 2022.