Giảm Giá Cổ Phiếu Bằng Cách Tạo Ra Các Retweet Được Thiết Kế Đối Phóng

Một nghiên cứu hợp tác giữa các trường đại học Mỹ và IBM đã tạo ra một cuộc tấn công đối phó có thể gây ra tổn thất trên thị trường chứng khoán, chỉ bằng cách thay đổi một từ trong một retweet của một bài đăng trên Twitter.

Trong một thí nghiệm, các nhà nghiên cứu đã có thể làm hỏng mô hình dự đoán Stocknet với hai phương pháp: tấn công thao túng và tấn công kết hợp. Nguồn: https://arxiv.org/pdf/2205.01094.pdf

Bề mặt tấn công của một cuộc tấn công đối phó trên các hệ thống dự đoán chứng khoán tự động và học máy là rằng một số lượng ngày càng tăng trong số chúng đang dựa vào các phương tiện truyền thông xã hội hữu cơ như dự đoán hiệu suất; và việc thao túng dữ liệu “trong tự nhiên” này là một quá trình có thể được hình thành một cách đáng tin cậy.

Bên cạnh Twitter, các hệ thống như vậy cũng thu thập dữ liệu từ Reddit, StockTwits và Yahoo News, cùng với các nguồn khác. Sự khác biệt giữa Twitter và các nguồn khác là retweet có thể được chỉnh sửa, ngay cả khi các tweet gốc không thể được chỉnh sửa. Mặt khác, chỉ có thể tạo ra các bài đăng bổ sung (tức là bình luận hoặc liên quan) trên Reddit, hoặc để bình luận và đánh giá – các hành động này được coi là có thiên vị và phục vụ lợi ích riêng bởi các quy trình và thực hành làm sạch dữ liệu của các hệ thống dự đoán chứng khoán dựa trên học máy.

Trong một thí nghiệm trên mô hình dự đoán Stocknet, các nhà nghiên cứu đã có thể gây ra sự sụt giảm đáng kể trong giá trị dự đoán chứng khoán bằng hai phương pháp, trong đó phương pháp hiệu quả nhất, tấn công thao túng (tức là retweet đã được chỉnh sửa), đã gây ra sự sụt giảm nghiêm trọng nhất.

Điều này được thực hiện, theo các nhà nghiên cứu, bằng cách mô phỏng một sự thay thế đơn lẻ trong một retweet từ một nguồn Twitter tài chính “được kính trọng”:

Các từ ngữ quan trọng. Ở đây, sự khác biệt giữa ‘đã được lấp đầy’ và ‘đã được thực hiện’ (không phải là một từ ngữ độc ác hoặc lừa đảo, nhưng chỉ là một từ đồng nghĩa) đã gây ra sự mất mát hàng nghìn đô la trong việc giảm giá chứng khoán.

Bản báo cáo cho biết:

‘Kết quả của chúng tôi cho thấy phương pháp tấn công đề xuất có thể đạt được tỷ lệ thành công nhất quán và gây ra tổn thất tài chính đáng kể trong mô phỏng giao dịch bằng cách chỉ kết hợp một tweet bị xáo trộn nhưng có ý nghĩa tương tự.’

Các nhà nghiên cứu kết luận:

‘Công việc này chứng minh rằng phương pháp tấn công đối phó của chúng tôi liên tục đánh lừa các mô hình dự đoán tài chính khác nhau, ngay cả khi có các hạn chế vật lý mà tweet gốc không thể được chỉnh sửa. Thêm một retweet với chỉ một từ được thay thế, cuộc tấn công có thể gây ra tổn thất thêm 32% cho danh mục đầu tư mô phỏng của chúng tôi.

‘Thông qua việc nghiên cứu sự dễ bị tổn thương của mô hình tài chính, mục tiêu của chúng tôi là nâng cao nhận thức của cộng đồng tài chính về rủi ro của mô hình AI, để trong tương lai chúng ta có thể phát triển các kiến trúc AI mạnh mẽ hơn.’

Bản báo cáo này có tiêu đề Một Từ Đáng Giá Ngàn Đô La: Tấn Công Đối Phóng Trên Các Tweet Gây Ra Sự Lầm Lẫn Trong Dự Đoán Chứng Khoán, và đến từ sáu nhà nghiên cứu, đến từ các trường đại học Illinois Urbana-Champaign, State University of New York tại Buffalo, và Michigan State University, với ba nhà nghiên cứu thuộc IBM.

Các Từ Không May Mắn

Bản báo cáo này xem xét liệu lĩnh vực tấn công đối phó trên các mô hình học sâu dựa trên văn bản có thể áp dụng cho các mô hình dự đoán chứng khoán, mà khả năng dự đoán của chúng phụ thuộc vào các yếu tố “con người” có thể chỉ được suy đoán một cách thô từ các nguồn phương tiện truyền thông xã hội.

Como các nhà nghiên cứu lưu ý, tiềm năng của việc thao túng phương tiện truyền thông xã hội để ảnh hưởng đến giá chứng khoán đã được chứng minh, mặc dù chưa bằng các phương pháp được đề xuất trong công việc này; vào năm 2013, một tweet độc ác trên tài khoản Twitter bị hack của Associated Press đã xóa 136 tỷ đô la giá trị thị trường trong khoảng ba phút.

Phương pháp được đề xuất trong công việc mới này thực hiện một cuộc tấn công kết hợp, mà để nguyên tweet gốc, trong khi trích dẫn nó:

Từ tài liệu bổ sung cho bản báo cáo, các ví dụ về retweet chứa các từ đồng nghĩa thay thế mà thay đổi ý định và ý nghĩa của thông điệp gốc, mà không làm biến dạng nó theo cách mà con người hoặc các bộ lọc đơn giản có thể phát hiện – nhưng có thể khai thác các thuật toán trong các hệ thống dự đoán chứng khoán.

Các nhà nghiên cứu đã tiếp cận việc tạo ra các retweet đối phó như một vấn đề tối ưu hóa kết hợp – việc tạo ra các ví dụ đối phó có thể đánh lừa mô hình nạn nhân, ngay cả khi có một từ vựng rất hạn chế.

Thay thế từ bằng sememe – ‘đơn vị ngữ nghĩa tối thiểu của ngôn ngữ con người’. Nguồn: https://aclanthology.org/2020.acl-main.540.pdf

Bản báo cáo cho biết:

‘Trong trường hợp của Twitter, các đối thủ có thể đăng các tweet độc ác được tạo ra để thao túng các mô hình hạ nguồn lấy chúng làm đầu vào.

‘Chúng tôi đề xuất tấn công bằng cách đăng các tweet đối phó có ý nghĩa tương tự trên Twitter, để chúng có thể được xác định là thông tin liên quan và thu thập làm đầu vào mô hình.’

Đối với mỗi tweet trong một nhóm được chọn đặc biệt, các nhà nghiên cứu đã giải quyết vấn đề lựa chọn từ dưới các hạn chế của ngân sách từ và ngân sách tweet, mà đặt ra các hạn chế nghiêm ngặt về sự khác biệt ngữ nghĩa từ từ gốc, và sự thay thế của một từ “độc ác / vô hại”.

Các tweet đối phó được tạo ra dựa trên các tweet phù hợp có khả năng được phép vào các hệ thống dự đoán chứng khoán hạ nguồn. Tweet cũng phải vượt qua hệ thống kiểm duyệt nội dung của Twitter, và không được xuất hiện như là phản thực tế đối với người quan sát con người thông thường.

Theo công việc trước (từ Đại học Michigan, cùng với CSAIL, MIT và MIT-IBM Watson AI Lab), các từ được chọn trong tweet mục tiêu được thay thế bằng các từ đồng nghĩa từ một nhóm hạn chế các khả năng đồng nghĩa, tất cả đều phải có ý nghĩa rất gần với từ gốc, trong khi vẫn duy trì ‘sự ảnh hưởng độc ác’, dựa trên hành vi suy đoán của các hệ thống dự đoán chứng khoán.

Các thuật toán được sử dụng trong các thí nghiệm tiếp theo là Joint Optimization (JO) solver và Alternating Greedy Optimization (AGO) solver.

Các Bộ Dữ Liệu và Thí Nghiệm

Cách tiếp cận này đã được thử nghiệm trên một bộ dữ liệu dự đoán chứng khoán bao gồm 10.824 ví dụ về các tweet và thông tin hiệu suất thị trường trên 88 cổ phiếu giữa 2014-2016.

Ba mô hình “nạn nhân” đã được chọn: Stocknet; FinGRU (một phái sinh của GRU); và FinLSTM (một phái sinh của LSTM).

Các chỉ số đánh giá bao gồm Tỷ Lệ Thành Công Cuộc Tấn Công (ASR), và sự sụt giảm điểm F1 của mô hình nạn nhân sau cuộc tấn công đối phó. Các nhà nghiên cứu đã mô phỏng một chiến lược mua-bán-giữ Long-Only Buy-Hold-Sell cho các thử nghiệm. Lợi Nhuận và Lỗ (PnL) cũng được tính toán trong các mô phỏng.

Kết quả của các thí nghiệm. Xem thêm đồ thị đầu tiên ở đầu bài viết này.

Dưới JO và AGO, ASR tăng 10%, và điểm F1 của mô hình giảm 0,1 trung bình, so với một cuộc tấn công ngẫu nhiên. Các nhà nghiên cứu lưu ý:

‘Hiệu suất giảm như vậy được coi là đáng kể trong bối cảnh dự đoán chứng khoán, vì độ chính xác dự đoán trả lại trong ngày của các mô hình hiện tại chỉ khoảng 60%.’

Trong phần Lợi Nhuận và Lỗ của cuộc tấn công ảo vào Stocknet, kết quả của các retweet đối phó cũng đáng chú ý:

‘Đối với mỗi mô phỏng, nhà đầu tư có 10.000 đô la (100%) để đầu tư; kết quả cho thấy phương pháp tấn công đề xuất với một retweet có chỉ một từ được thay thế có thể gây ra tổn thất thêm 3.200 đô la (75%-43%) cho danh mục đầu tư của nhà đầu tư sau khoảng 2 năm.’

Được xuất bản lần đầu vào ngày 4 tháng 5 năm 2022.