AIモデルとプラットフォーム
AIが違法なオピオイド販売やサイバー犯罪に対抗する新たな手段を開拓する
Unite.AI を Google の優先ソースに追加
米国保健福祉省（HHS）と国立薬物乱用研究所（NIDA）は、オピオイドの違法販売を抑制し、薬物乱用を減らすためにAIの利用に投資しています。 Voxの報道によると、NIDAのAIツールは、違法なインターネット薬局市場を追跡することを目指しており、AIが使用するアプローチは、他の形式のサイバー犯罪にも容易に適用できます。
ツールの開発に携わった研究者の一人、ティモシー・マッケイは、最近Voxに話したところによると、オピオイドの違法販売を追跡するために使用されるAIアルゴリズムは、偽物製品や違法な野生動物取引などの他の違法な販売も検出するために使用できます。
NIDAのAIツールは、オピオイドに関する一般的な議論とオピオイドの販売を交渉しようとする試みを区別する必要があります。マッケイによると、オピオイドを参照するツイートのうち、実際にオピオイドの販売を宣伝するツイートは比較的少数です。マッケイは、約60万件のオピオイドに関するツイートのうち、約2,000件しか実際に薬物を宣伝していないと説明しています。AIツールはまた、違法にオピオイドを販売するために使用される言語の変化に追随できるほどロバストでなければなりません。違法な薬物を販売する人々は、頻繁にコード化された言語と非明示的なキーワードを使用して薬物を販売し、すぐに戦略を変更します。マッケイは、薬物の名前の間違った別名が頻繁に使用され、Instagramなどのウェブサイトのリスト作成に薬物以外の画像が使用されることも多いと説明しています。
InstagramとFacebookは、薬物の販売を禁止し、ユーザーに違法なコンテンツを報告するよう奨励していますが、違法なコンテンツは、薬物販売者が戦略とコードワードを頻繁に変更するため、検出するのが非常に難しい場合があります。マッケイは、これらのコード化された投稿とInstagramのハッシュタグには、販売者に連絡して違法な薬物を購入する方法に関する情報が含まれていると説明しています。マッケイは、違法な販売者の一部は、正当な薬剤会社として自分自身を表現し、電子商取引プラットフォームへのリンクを提供することも説明しています。FDAはこれらのサイトに対してたびたび取り組んできましたが、それらは依然として問題となっています。
違法な薬物マーケティングを検出するAIツールを設計する際、マッケイと研究チームは、ディープラーニングとトピックモデルの組み合わせを使用しました。研究チームは、Instagramの投稿のテキストで訓練されたLong Short-Term Memoryネットワークを使用するディープラーニングモデルを設計し、自動的に違法な薬物販売に関連する投稿をフラグ付けできるテキスト分類器を作成することを目指しました。研究チームはまた、トピックモデリングを使用して、フェンタニルやペルコセットなどのオピオイドに関連するキーワードをAIモデルが判断できるようにしました。これにより、モデルはよりロバストで洗練されたものとなり、トピックと会話を一致させることができます。トピックモデリングにより、研究チームはフェンタニルに関する約3万件のツイートのデータセットを、販売を宣伝しているように見える数件のツイートに絞り込むことができました。
マーケイと研究チームは、NIDAのためにAIアプリケーションを開発しましたが、Facebook (META ) 、Twitter、Reddit、YouTubeなどのソーシャルメディア企業も、AIを使用してポリシーに違反するコンテンツをフラグ付けするために多大な投資をしています。マーケイによると、彼は以前、TwitterとFacebookと話し合いを行ったことがありますが、現在の焦点は、NIDAの研究に基づいて商用で利用可能なアプリケーションを作成することであり、ツールはソーシャルメディアプラットフォーム、規制機関、その他で使用できることを希望しています。
マーケイは、NIDAの研究に使用されたアプローチは、動物の密売や違法な銃器の販売などの他の形式のサイバー犯罪に対抗するために一般化できることを説明しています。Instagramは以前、違法な動物取引の問題を抱えてきましたが、2017年に動物の販売の広告を禁止することで対応しました。同社は、動物取引に関連する投稿をできるだけ早く削除しようとしていますが、依然として、Instagramの検索では、珍しいペットやその広告が表示され続けています。
もしNIDAツールが実装される場合、いくつかの倫理的な問題が交渉される必要があります。薬物政策の専門家は、低レベルの薬物販売者を過度に刑事化する可能性があること、および問題が解決されているという誤った印象を与える可能性があることを警告しています。ただし、適切に使用される場合、AIツールは、法執行機関がオンライン販売者とオフラインの供給チェーンの間のつながりを確立し、問題の範囲を把握するのに役立つ可能性があります。さらに、NIDAが使用するテクニックと同様のテクニックは、オピオイド中毒に対抗するために使用でき、検索が行われるときに、更生のための情報源を人々に案内することができます。どのイノベーションにも、リスクと機会の両方があります。
