フェイスブックが悪意のあるユーザーの行動を検知するためにボットとシミュレーションを使用しようとしている

フェイスブックは、有害な、損害を与える、そして違法な行動をよりよく検知するための新しいAIを設計しました。 The Vergeの報告によると、フェイスブックのロンドンAI部門の研究者は、フェイスブックのシミュレーターを駆動する「WW」と呼ばれるAIを開発しました。これは、スパマー、違法な商品の販売者、スパムメールの送信者、その他の悪意のあるユーザーをシミュレートするために使用されます。

「WW」と呼ばれるフェイスブックシミュレーターは、今年4月にフェイスブックによって発表された 論文で明らかになりました。WWは、フェイスブックのツールやアルゴリズムをテストするために使用される、フェイスブックのクローン版です。

フェイスブックは最近、WWの使用方法に関する詳細を明らかにしました。ひとつは、AIを使用して悪意のあるユーザーの行動をシミュレートすることです。 ボットを使用して スパムメールの送信、ハラスメントなどの行動をシミュレートすることで、研究者は有害な行動を検知して対策することができることを期待しています。

フェイスブックのエンジニア、マーク・ハーマンによると、WWは、フェイスブック上での有害な行動を抑制するための有用なツールになることが予想されています。例えば、ハーマンは、シミュレーションを使用してスパマーを検知するための方法を開発することができるという考えです。

フェイスブックのエンジニアは、2つのボットのグループを作成しました。ひとつはターゲット、もうひとつはスパマーです。スパマーは、ユーザーの友達のネットワークを探索して、潜在的なターゲットを見つけることがよくあります。この行動をシミュレートするために、エンジニアは、無害なボットがスパムメールの送信を防ぐためのさまざまな方法を実験しました。実験された戦略には、ボットが1分間に送信できるプライベートメッセージの数を制限するなどの制約が含まれていました。

シミュレーションされたフェイスブックと実際のフェイスブックには、いくつかの違いがあります。ひとつは、シミュレーションには視覚的な要素が含まれないため、シミュレーションから得られるデータはすべて数値データとボット間のやり取りの統計です。もうひとつは、シミュレーションにはすべてボットが含まれており、実際のユーザーとやり取りすることはできないことです。WWシミュレーションでは、ユーザーの意図や会話の内容などのことを考慮することはできません。シミュレーションでは、メッセージの送信やコメントの投稿などの行動のみがシミュレートされます。

ハーマンによると、制約を実験するこのプロセスは、都市計画家が道路の速度を減らすために「スピードバンプ」を設置するのと似ています。都市計画家がスピードバンプを作成し、その有効性をデータで分析するのと同様に、エンジニアはシミュレーターでボット間のやり取りを分析しました。ハーマンは、有害な行動を抑制するためにフェイスブックのプラットフォームに変更を加えることができるかどうかを調べていると説明しています。目標は、有害な行動を抑制するために、通常の行動や情報の流れを制限することなく、変更を加える方法を見つけることです。

ハーマンは、WWを使用することの利点は、研究者が実際のフェイスブックインフラストラクチャ上で行動を研究できることであると説明しています。研究者は、提案された変更が実際のフェイスブックユーザーに与える影響をよりよく理解できるようになります。ただし、これらの発見の適用はまだ先になりそうです。現在、WWとそのシミュレーションはまだ研究段階にあり、ハーマンと他のフェイスブックの研究者はまだフェイスブックのライブバージョンにこれらの発見を適用することはできません。研究グループは、シミュレーションが実際の人間の行動と十分に一致することを確認する必要があります。

ハーマンによると、WWの主な利点は、フェイスブックの研究者が、シミュレーションを使用して、数千の小さな変更の潜在的な結果をテストできることです。

将来的には、研究者はボットを実験のために自由にさせ、どのような相互作用が生まれるかを見てみることができるかもしれません。これは、研究者が予想していないことが多いです。

「現在、主な焦点は、プラットフォームで起こることを知っていることをボットに模倣させることです。ただし、理論的には、実践的には、ボットは私たちが見たことがないことをすることができます」と ハーマンは述べた。 「それは私たちが欲しいことです。私たちは、悪意のある行動に追いつくよりも先んじて対策することを最終的に目指しているからです。」

すべてがうまくいけば、フェイスブックは2020年末までにWWのシミュレーションに基づいて変更を加えることができるようになるかもしれません。