社交メディアの誤情報を検出するための統計モデル

アメリカ大学の数学教授とその共同研究者は、社会的なメディアの投稿から誤情報を検出できる統計モデルを開発しました。

機械学習は、誤情報の拡散を止めるためにますます使用されています。しかし、まだ大きな障害があります。それは、ブラックボックスの問題です。つまり、研究者が機械が人間のトレーナーと同じ決定に至った理由を理解できないことです。

統計モデルを使用した誤情報の検出

アメリカ大学の数学・統計学部の助教授であるZois Boukouvalasは、COVID-19に関する誤情報を含むTwitterのデータセットを使用して、統計モデルが社会的なメディアで誤情報を検出できることを実証しました。

Boukouvalasと彼の同僚であるCaitlin MoroneyとNathalie Japkowiczは、モデルが人間と同じ決定を下すことを実証しました。これは、新しく発表された研究で見ることができます。

「私たちは、機械が決定を下すときに何を考えているのか、そしてどうして人間のトレーナーと同じ決定を下すのかを知りたい」とBoukouvalasは述べました。「私たちは、モデルが偏った決定を下したために誰かの社会的なメディアのアカウントをブロックしたくありません」

チームが使用した方法は、統計に基づく機械学習の一種です。統計モデルは有効で、誤情報と戦うための別の方法を提供します。

モデルは、高い予測性能を達成し、112個の実際のツイートと誤情報ツイートを約90%の精度で分類しました。

「この発見の重要な点は、私たちのモデルが高い精度で誤情報ツイートを検出できたことです」とBoukouvalasは述べました。「深層学習法では、このような精度と透明性を達成することはできません」

モデルのトレーニングと準備

研究者は、モデルをテストする前にトレーニングするために準備しました。人間が提供する情報には偏見やブラックボックスが含まれる可能性があるためです。

ツイートは、誤情報に関する言語のルールに基づいて、研究者によって実際のものまたは誤情報としてラベル付けされました。チームはまた、人間の言語のニュアンスや、誤情報に関連する言語的特徴も考慮しました。

モデルをトレーニングする前に、メリーランド大学バルティモーカンパスの社会言語学教授であるChristine Mallinsonは、誤情報、偏見、信頼性の低い情報源に関連する書き言葉のスタイルをツイートから特定しました。

「これらの入力をモデルに追加すると、良い情報と悪い情報を区別する根本的な要因を理解しようとします」とJapkowiczは述べました。「モデルはコンテキストと単語の相互作用を学習します」

研究者は、今後、モデルのユーザーインターフェースと、画像やその他のマルチメディアを含む社会的なメディアの投稿からの誤情報を検出する能力を向上させることを目指しています。統計モデルは、さまざまな要素がどのように相互作用して誤情報を作成するかを学習する必要があります。

BoukouvalasとJapkowiczは、人間の知性とニュースリテラシーが誤情報の拡散を止めるために重要であると述べました。

「私たちは、機械学習に基づくツールを設計して、公衆を警告し、教育して誤情報を排除するために働いています。しかし、人間が最初から誤情報を広めないように積極的に役割を果たす必要があると強く信じています」とBoukouvalasは述べました。