Trí tuệ nhân tạo mở ra những cách mới để chống lại việc bán opioid bất hợp pháp và các loại tội phạm mạng khác

Bộ Y tế và Dịch vụ Nhân sinh Hoa Kỳ (HHS) và Viện Quốc gia về Lạm dụng Ma túy (NIDA) đang đầu tư vào việc sử dụng trí tuệ nhân tạo (AI) để ngăn chặn việc bán opioid bất hợp pháp và hy vọng giảm lạm dụng ma túy. Theo Vox báo cáo, công cụ AI của NIDA sẽ cố gắng theo dõi các thị trường dược phẩm bất hợp pháp trên internet, nhưng các phương pháp được sử dụng bởi AI có thể dễ dàng được áp dụng cho các hình thức tội phạm mạng khác.

Một trong những nhà nghiên cứu chịu trách nhiệm phát triển công cụ này, Timothy Mackey, đã nói chuyện với Vox gần đây, nơi ông giải thích rằng các thuật toán AI được sử dụng để theo dõi việc bán opioid bất hợp pháp cũng có thể được sử dụng để phát hiện các hình thức bán hàng bất hợp pháp khác, chẳng hạn như sản phẩm giả mạo và buôn bán động vật hoang dã bất hợp pháp.

Công cụ AI của NIDA phải có khả năng phân biệt giữa thảo luận chung về opioid và nỗ lực đàm phán bán opioid. Theo Mackey, chỉ một tỷ lệ nhỏ các tweet đề cập đến opioid thực sự liên quan đến việc bán opioid bất hợp pháp. Mackey giải thích rằng trong khoảng 600.000 tweet đề cập đến một trong几个 loại opioid khác nhau, chỉ khoảng 2.000 tweet thực sự quảng cáo các loại thuốc này. Công cụ AI cũng phải đủ mạnh để theo dõi các thay đổi trong ngôn ngữ được sử dụng để bán opioid bất hợp pháp. Những người bán thuốc bất hợp pháp thường sử dụng ngôn ngữ mã hóa và từ khóa không rõ ràng để bán thuốc, và họ nhanh chóng thay đổi chiến lược. Mackey giải thích rằng các biệt danh bị lỗi chính tả cho tên của thuốc thường được sử dụng và hình ảnh của các vật khác ngoài thuốc đang được hỏi thường được sử dụng để tạo danh sách trên các trang web như Instagram.

Mặc dù Instagram và Facebook (META ) cấm quảng cáo thuốc và khuyến khích người dùng báo cáo các trường hợp lạm dụng, nhưng nội dung bất hợp pháp có thể rất khó để bắt, chính xác vì những người bán thuốc thường thay đổi chiến lược và từ mã hóa nhanh chóng. Mackey giải thích rằng các bài đăng và hashtag được mã hóa trên Instagram thường chứa thông tin về cách liên hệ với người bán và mua thuốc bất hợp pháp từ họ. Mackey cũng giải thích rằng một số người bán bất hợp pháp đại diện cho mình là các công ty dược phẩm hợp pháp và liên kết đến các nền tảng thương mại điện tử. Mặc dù FDA đã cố gắng trấn áp các trang web này, nhưng chúng vẫn còn là một vấn đề.

Trong việc thiết kế công cụ AI để phát hiện tiếp thị thuốc bất hợp pháp, Mackey và nhóm nghiên cứu đã sử dụng sự kết hợp của học sâu và mô hình chủ đề. Nhóm nghiên cứu đã thiết kế một mô hình học sâu sử dụng mạng Long Short-Term Memory được đào tạo trên văn bản của các bài đăng Instagram, với mục tiêu tạo ra một bộ phân loại văn bản có thể tự động đánh dấu các bài đăng có thể liên quan đến việc bán thuốc bất hợp pháp. Nhóm nghiên cứu cũng sử dụng mô hình chủ đề, cho phép mô hình AI của họ phân biệt các từ khóa liên quan đến opioid như Fentanyl và Percocet. Điều này có thể làm cho mô hình trở nên mạnh mẽ và tinh vi hơn, và nó có thể phù hợp với các chủ đề và cuộc trò chuyện, không chỉ là các từ riêng lẻ. Mô hình chủ đề đã giúp nhóm nghiên cứu giảm một tập dữ liệu khoảng 30.000 tweet về fentanyl xuống chỉ một vài tweet dường như đang quảng cáo nó.

Markey và nhóm nghiên cứu của ông có thể đã phát triển ứng dụng AI của mình để sử dụng bởi NIDA, nhưng các công ty truyền thông xã hội như Facebook, Twitter, Reddit và YouTube cũng đang đầu tư mạnh mẽ vào việc sử dụng AI để đánh dấu nội dung vi phạm chính sách của họ. Theo Markey, ông đã nói chuyện với Twitter và Facebook về ứng dụng như vậy trước đây, nhưng hiện tại重点 là tạo ra một ứng dụng thương mại có sẵn dựa trên nghiên cứu của mình cho NIDA, và ông hy vọng công cụ này có thể được sử dụng bởi các nền tảng truyền thông xã hội, các cơ quan quản lý và nhiều hơn nữa.

Markey giải thích rằng phương pháp được phát triển cho nghiên cứu NIDA có thể được tổng quát hóa để chống lại các hình thức tội phạm mạng khác, chẳng hạn như buôn bán động vật hoặc bán vũ khí bất hợp pháp. Instagram đã có vấn đề với buôn bán động vật hoang dã bất hợp pháp trước đây, cấm quảng cáo tất cả các giao dịch động vật vào năm 2017 như một phản ứng. Công ty cũng cố gắng loại bỏ bất kỳ bài đăng nào liên quan đến buôn bán động vật hoang dã ngay khi chúng xuất hiện, nhưng mặc dù vậy, vẫn có một thị trường chợ đen cho các vật nuôi ngoại lai và quảng cáo cho chúng vẫn xuất hiện trong các tìm kiếm trên Instagram.

Có một số vấn đề đạo đức sẽ phải được đàm phán nếu công cụ NIDA được triển khai. Các chuyên gia chính sách ma túy cảnh báo rằng nó có thể cho phép việc truy tố quá mức đối với các nhà bán lẻ ma túy cấp thấp và nó cũng có thể tạo ra ấn tượng sai lầm rằng vấn đề đang được giải quyết mặc dù các công cụ AI như vậy có thể không giảm nhu cầu tổng thể về chất. Tuy nhiên, nếu được sử dụng đúng cách, các công cụ AI có thể giúp các cơ quan thực thi pháp luật thiết lập liên kết giữa các nhà bán hàng trực tuyến và các chuỗi cung ứng ngoại tuyến, giúp họ lượng hóa phạm vi của vấn đề. Ngoài ra, các kỹ thuật tương tự như những kỹ thuật được sử dụng bởi NIDA có thể được sử dụng để giúp chống lại nghiện opioid, chỉ đạo người dùng tìm kiếm các nguồn phục hồi khi tìm kiếm được thực hiện. Như với bất kỳ đổi mới nào, có cả rủi ro và cơ hội.