적대적 리트윗으로 주식 가치 하락시키기

미국 대학과 IBM 간의 공동 연구 협력이 이론적으로 주식 시장 손실을 일으킬 수 있는 증명된 개념의 적대적 공격을 공식화했습니다. 이는 단지 트위터 게시의 리트윗에서 단어 하나를 변경함으로써 가능합니다.

한 실험에서 연구자들은 두 가지 방법으로 Stocknet 예측 모델을 손상시킬 수 있었습니다. 즉, 조작 공격과 결합 공격입니다. 출처: https://arxiv.org/pdf/2205.01094.pdf

자동화된 기계 학습 주식 예측 시스템에 대한 적대적 공격의 공격 표면은 많은 시스템이 유기적인 소셜 미디어를 성과 예측자로 사용하고 있으며 이러한 ‘야외’ 데이터를 조작하는 것이 신뢰할 수 있게 공식화될 수 있는 과정임을 나타냅니다.

트위터 외에도 이러한 시스템은 Reddit, StockTwits, Yahoo News 등을 포함한 다른 소스에서 데이터를 摂取합니다. 트위터와 다른 소스의 차이점은 리트윗이 편집 가능하다는 것입니다. 반면에 Reddit에서는 추가적인 게시물을 만들거나 댓글을 달거나 평가할 수 있지만 이는 적대적이거나 자기 서비스적인 것으로 간주되므로 ML 기반 주식 예측 시스템의 데이터 정화 루틴과 관행에 의해 올바르게 처리됩니다.

한 실험에서 Stocknet 예측 모델에서 연구자들은 두 가지 방법으로 주식 가치 예측의 상당한 하락을 일으킬 수 있었습니다. 가장 효과적인 방법은 조작 공격(즉, 편집된 리트윗)이었으며 가장 심각한 하락을 일으킬 수 있었습니다.

연구자에 따르면, 이는 ‘존경받는’ 금융 트위터 소스에서 리트윗의 단일 치환을 시뮬레이션함으로써 달성되었습니다.

단어가 중요합니다. 여기서 ‘filled’와 ‘exercised’의 차이(명백하게 악의적이거나 잘못된 단어가 아니지만 거의 동의어로 분류됨)는 이론적으로 투자자에게 수천 달러의 주식 평가 손실을 초래할 수 있습니다.

연구 논문은 다음과 같이述합니다.

‘우리의 결과는 제안된 공격 방법이 일관된 성공률을 달성하고 단순히 비슷한 의미를 가진 트윗을 연결함으로써 트레이딩 시뮬레이션에서 상당한 금전적 손실을 일으킬 수 있음을 보여줍니다.’

연구자들은 다음과 같이 결론지었습니다.

‘이 연구는 우리의 적대적 공격 방법이 물리적 제약조건이 있는 다양한 금융 예측 모델을 일관되게 속임으로써 우리의 목표를 달성할 수 있음을 보여줍니다. 리트윗에 단일 단어를 대체하면 공격은 우리의 시뮬레이션 투자 포트폴리오에 32%의 추가 손실을 일으킬 수 있습니다. ‘

‘금융 모델의 취약성을 연구함으로써 우리의 목표는 금융 공동체가 AI 모델의 위험에 대한 인식을 높이는 것입니다.这样하면 향후 더 강력한 인간-루프 AI 아키텍처를 개발할 수 있습니다.’

연구 논문은 A Word is Worth A Thousand Dollars: Adversarial Attack on Tweets Fools Stock Prediction라는 제목으로, 일리노이 주 어반나 대학, 뉴욕 주 버펄로 주립 대학, 미시간 주립 대학의 6명의 연구자에 의해 작성되었습니다. 이 중 3명은 IBM와 관련이 있습니다.

불행한 단어

이 논문은 텍스트 기반 심층 학습 모델에 대한 잘 연구된 적대적 공격 분야가 주식 시장 예측 모델에 적용될 수 있는지 조사합니다. 이러한 모델의 예측 능력은 일부 매우 ‘인간적인’ 요인에 의존하며, 이는 소셜 미디어 소스에서 대략적으로만 추론될 수 있습니다.

연구자에 따르면, 소셜 미디어 조작이 주식 가격에 영향을 미칠 수 있는 가능성은 이미 잘 입증되었습니다. 그러나 아직까지는 제안된 방법으로는 아닙니다. 2013년 시리아에서 주장하는 악의적인 트윗이 AP의 해킹된 트위터 계정에서 136억 달러의 주식시장 가치를 약 3분 만에 삭제했습니다.

새로운 연구에서 제안된 방법은 연결 공격을 구현합니다. 이는 원래 트윗을 손상시키지 않으면서도 잘못 인용합니다.

논문의 보충 자료에서, 원래 메시지의 의도와 중요성을 변경하는 동의어로 대체된 리트윗의 예입니다. 그러나 인간이나 간단한 필터로 인해 왜곡되지 않지만 주식 시장 예측 시스템의 알고리즘을 악용할 수 있습니다.

연구자들은 적대적 리트윗의 생성을 조합 최적화 문제로 접근했습니다. 이는 희생자 모델을 속일 수 있는 적대적 예제를 만들 수 있습니다. 매우 제한된 어휘로도 가능합니다.

세메메를 사용한 단어 대체 – 인간 언어의 ‘최소 의미 단위’입니다. 출처: https://aclanthology.org/2020.acl-main.540.pdf

연구 논문은 다음과 같이述합니다.

‘트위터의 경우, 적대자는 모델에 입력으로 사용되는 악의적인 트윗을 게시할 수 있습니다. ‘

‘우리는 트위터에서 관련 정보로 식별되고 모델 입력으로 수집될 수 있는 의미적으로 유사한 적대적 트윗을 리트윗으로 게시하여 공격합니다.’

각 트윗에 대해, 연구자들은 단어 선택 문제를 단어와 트윗 예산의 제약 조건 하에서 해결했습니다. 이는 원래 단어에서 의미적逸脱을 심각하게 제한하며, ‘악의적/양호’한 단어의 대체를 제한합니다.

적대적 트윗은 주식 예측 시스템에 입력으로 사용될 가능성이 높은 관련 트윗을 기반으로 공식화됩니다. 트윗은 또한 트위터의 콘텐츠 모더레이션 시스템을 통과해야 하며, 인간 관찰자에게 반事実적이지 않아야 합니다.

이전 연구에 따르면(미시간 주립 대학, CSAIL, MIT, MIT-IBM 왓슨 AI 연구소와 함께 진행됨), 대상 트윗의 선택된 단어는 제한된 동의어 가능성 풀에서 동의어로 대체됩니다. 이는 원래 단어와 매우 의미적으로 가까우며, 주식 시장 예측 시스템의 추론된 동작에 기반하여 ‘부패하는 영향’을 유지합니다.

이후 실험에서 사용된 알고리즘은 Joint Optimization(JO) 솔버와 Alternating Greedy Optimization(AGO) 솔버였습니다.

데이터셋 및 실험

이 접근법은 2014-2016년 사이에 88종목의 주식에 대한 관련 트윗과 시장 성과 정보를 포함한 10,824개의 예제로 구성된 주식 예측 데이터셋에서 테스트되었습니다.

세 가지 ‘피해자’ 모델이 선택되었습니다. Stocknet, FinGRU(GRU의 파생물), FinLSTM(LSTM의 파생물)입니다.

평가 지표는 공격 성공률(ASR)과 적대적 공격 후 희생자 모델의 F1 점수의 하락을 포함했습니다. 연구자들은 Long-Only Buy-Hold-Sell 전략을 시뮬레이션에 사용했습니다. 또한 시뮬레이션에서 손익을 계산했습니다.

실험 결과. 또한 이 기사의 상단에 있는 첫 번째 그래프를 참조하십시오.

JO와 AGO 하에서, ASR은 10% 증가하며, 모델의 F1 점수는 평균 0.1 감소했습니다. 연구자들은 다음과 같이述합니다.

‘주식 예측의 contexto에서 이러한 성능 하락은 주목할 만한 것으로 간주됩니다. 이는 주식 예측의 최신 정확도가 약 60%에 불과하기 때문입니다.’

Stocknet에 대한 Profit-and-Loss 트랜치의 가상 공격에서, 적대적 리트윗의 결과도 주목할 만했습니다.

‘각 시뮬레이션에서 투자자는 10,000달러(100%)를 투자할 수 있습니다. 결과는 제안된 공격 방법이 단일 단어 대체 리트윗으로 약 2년 후 포트폴리오에 3,200달러(75%-43%)의 추가 손실을 일으킬 수 있음을 보여줍니다.’

最初에 2022년 5월 4일에 게시되었습니다.