Aktsiate devalveerimine vastuoluliselt koostatud retweetidega

Ühine teaduskoostöö USA ülikoolide ja IBM-i vahel on sõnastanud kontseptsiooni tõestava võistleva rünnaku, mis on teoreetiliselt võimeline tekitama aktsiaturu kaotusi, muutes Twitteri postituse retweetis lihtsalt ühe sõna.

Ühes katses suutsid teadlased Stockneti ennustusmudelit kõigutada kahe meetodiga: manipuleerimisrünnak ja konkatenatsioonirünnak. Allikas: https://arxiv.org/pdf/2205.01094.pdf

Automatiseeritud ja masinõppega varude prognoosimissüsteemide vastaste rünnakute ründepind on see, et a kasvav arv neist tuginevad orgaanilisele sotsiaalmeediale kui tulemuslikkuse ennustajale; ja et nende "looduslike" andmetega manipuleerimine on protsess, mida saab potentsiaalselt usaldusväärselt formuleerida.

Lisaks Twitterile neelavad seda laadi süsteemid muu hulgas Redditi, StockTwitsi ja Yahoo Newsi andmeid. Twitteri ja teiste allikate erinevus seisneb selles, et retweets on redigeeritav, isegi kui algsed säutsud pole. Teisest küljest on Redditis võimalik teha ainult täiendavaid (st kommentaare või seotud) postitusi või kommenteerida ja hinnata – tegevusi, mida ML-põhiste aktsiate andmete sanitaarrutiinid ja tavad peavad õigustatult erapooletuks ja omakasupüüdlikuks. ennustussüsteemid.

Ühes katses, Stocknet ennustus mudel, suutsid teadlased aktsiaväärtuse ennustamises märgatavaid langusi põhjustada kahe meetodiga, millest kõige tõhusam, manipuleerimisrünnak (st redigeeritud retweetid), suutis põhjustada kõige tõsisema languse.

See saavutati teadlaste sõnul, simuleerides ühte asendust lugupeetud Twitteri finantsallika retweetis:

Sõnad loevad. Siin on erinevus "täidetud" ja "harjutatud" vahel (mitte ilmselgelt pahatahtlik või eksitav sõna, vaid peaaegu sünonüümiks) maksnud investorile aktsiate devalveerimise teoreetiliselt tuhandeid.

Dokumendis öeldakse:

"Meie tulemused näitavad, et pakutud ründemeetod võib saavutada järjekindla edukuse ja põhjustada märkimisväärset rahalist kahjumit kauplemissimulatsioonis, ühendades lihtsalt häiritud, kuid semantiliselt sarnase säutsu."

Teadlased järeldavad:

"See töö näitab, et meie võistlev ründemeetod lollitab pidevalt erinevaid finantsprognoosi mudeleid isegi füüsiliste piirangute korral, et töötlemata säutsu ei saa muuta. Kui lisada retweet, kus on asendatud ainult üks sõna, võib rünnak põhjustada meie simuleeritud investeerimisportfellile 32% lisakahju.

"Finantsmudeli haavatavust uurides on meie eesmärk tõsta finantsringkondade teadlikkust tehisintellekti mudeli riskidest, et saaksime tulevikus välja töötada jõulisema inim-in-the-loop AI arhitektuuri."

. paber on pealkirjaga Sõna on väärt tuhat dollarit: säutsude vastane rünnak lollib aktsiate ennustamistja pärineb kuuelt teadurilt, kes on erinevalt pärit Illinoisi ülikoolist Urbana-Champaign, New Yorgi osariigi ülikoolist Buffalos ja Michigani osariigi ülikoolist, kusjuures kolm teadlast on seotud IBM-iga.

Õnnetud sõnad

Artiklis uuritakse, kas tekstipõhiste süvaõppe mudelite vastaste rünnakute hästi uuritud valdkond on rakendatav börsiennustusmudelite puhul, mille prognoosimisvõime sõltub mõnest väga "inimlikust" tegurist, mida saab sotsiaalmeedia allikatest vaid ligikaudselt järeldada.

Nagu teadlased märgivad, on sotsiaalmeedia manipuleerimise potentsiaal aktsiahindu mõjutada, kuigi mitte veel töös välja pakutud meetoditega; aastal 2013 a pahatahtlik Süüria väidetav säuts Associated Pressi häkitud Twitteri kontol pühkis aktsia turuväärtusest 136 miljardit USA dollarit umbes kolme minuti pärast.

Uues töös pakutud meetod rakendab konkatenatsioonirünnakut, mis jätab esialgse säutsu puutumata, tsiteerides samal ajal seda valesti:

Töö lisamaterjalist näited uuesti säutsudest, mis sisaldavad asendatud sünonüüme, mis muudavad algse sõnumi eesmärki ja olulisust, moonutamata seda tegelikult nii, et inimesed või lihtsad filtrid võiksid seda tabada, kuid mis võivad kasutada algoritme börsiennustussüsteemid.

Teadlased on lähenenud võistlevate retweetide loomisele kui kombinatoorne optimeerimine probleem – võistlevate näidete loomine, mis suudavad isegi väga piiratud sõnavaraga ohvrimudelit petta.

Sõna asendamine kasutades sememid – inimkeelte minimaalne semantiline ühik. Allikas: https://aclanthology.org/2020.acl-main.540.pdf

Leht märgib:

Twitteri puhul võivad vastased postitada pahatahtlikke säutse, mis on loodud manipuleerima neid sisendiks võtvate allavoolu mudelitega.

"Me teeme ettepaneku rünnata, postitades semantiliselt sarnaseid võistlevaid säutse Twitteri retweetidena, et neid saaks tuvastada asjakohase teabena ja koguda mudelsisendiks."

Iga spetsiaalselt valitud kogumi säutsu puhul lahendasid teadlased sõnavaliku probleemi sõnade ja säutsude eelarvete piirangute alusel, mis seavad tõsised piirangud algsõna semantilisele lahknemisele ja pahatahtliku/healoomulise sõna asendamisele. .

Võistlevad säutsud on sõnastatud asjakohaste säutsude põhjal, mis tõenäoliselt lubatakse allavoolu varude prognoosimissüsteemidesse. Säuts peab ka takistusteta läbima Twitteri sisu modereerimissüsteemi ega tohi näida juhusliku inimvaatleja jaoks kontrafaktina.

Järel eelnev töö (Michigani osariigi ülikoolist koos CSAIL-i, MIT-i ja MIT-IBM Watson AI Labiga) asendatakse sihtsäutsis valitud sõnad sünonüümidega piiratud sünonüümivõimaluste hulgast, mis kõik peavad olema semantiliselt väga lähedased originaalile. sõna, säilitades samal ajal oma nn korruptiivse mõju, mis põhineb aktsiaturgude ennustussüsteemide oletatud käitumisel.

Järgnevates katsetes kasutatud algoritmid olid Joint Optimization (JO) lahendaja ja Alternating Greedy Optimization (AGO) lahendaja.

Andmekogumid ja katsed

Seda lähenemisviisi prooviti aktsiate prognoosimise andmekogumis, mis sisaldas 10,824 88 näidet asjakohastest säutsidest ja turu toimivuse teavet XNUMX aktsia kohta ajavahemikus. 2014-2016.

Valiti kolm "ohvri" mudelit: Stocknet; FinGRU (tuletis GRU); ja FinLSTM (tuletis LSTM).

Hindamismõõdikud koosnesid rünnaku õnnestumise määrast (ASR) ja ohvri mudeli langusest. F1 skoor pärast vastase rünnakut. Teadlased simuleerisid a Ainult kaua - Osta-Hoia-Müü testide strateegia. Simulatsioonides arvutati ka kasum ja kahjum (PnL).

Katsete tulemused. Vaadake ka esimest graafikut selle artikli ülaosas.

JO ja AGO korral tõuseb ASR 10% ja mudeli F1 skoor langeb keskmiselt 0.1 võrra, võrreldes juhusliku rünnakuga. Teadlased märgivad:

„Sellist tootluse langust peetakse aktsiate prognoosimise kontekstis oluliseks, arvestades, et päevadevahelise tootluse tipptasemel prognoosimise täpsus on vaid umbes 60%."

Stockneti (virtuaalse) rünnaku kasumi ja kahjumi osas olid tähelepanuväärsed ka võistlevate retweetide tulemused:

"Iga simulatsiooni jaoks on investoril investeerimiseks 10 100 dollarit (3.2%); tulemused näitavad, et väljapakutud ründemeetod ainult ühe sõna asendamisega retweetiga võib põhjustada investorile umbes 75 aasta pärast oma portfellis täiendava 43 2 dollari (XNUMX%-XNUMX%) kahjumi.

Esmakordselt avaldatud 4. mail 2022.