AIエンジニアが、誤情報を拡散する者の意図を検出できる方法を開発

デジタル時代における誤情報への対処は、複雑な問題である。誤情報を特定し、タグ付けし、訂正するだけでなく、主張の責任者が意図したことを区別する必要もある。ある人は、無意識に誤情報を拡散したり、事実として報告される前に問題について意見を述べているかもしれない。最近、ダートマス大学のAI研究者とエンジニアのチームは、「フェイクニュース」レポートから意見を導き出すことができるフレームワークを作成した。

ScienceDailyによると、ダートマス大学チームの研究は、最近、Journal of Experimental & Theoretical Artificial Intelligenceに掲載された。以前の研究では、フェイクニュースを特定し、欺瞞を戦うことを試みたが、これは、ニュース記事の話者の意図を特定しようとした最初の研究である可能性がある。真実の話は、さまざまな欺瞞的な形式に歪曲される可能性があるが、欺瞞が意図されたかどうかを区別することが重要である。研究チームは、誤情報を考慮する際に意図が重要であると主張している。欺瞞は、欺瞞する意図があればのみ可能である。個人が誤情報を拡散していることに気付いていない場合、または単に意見を述べている場合、欺瞞は存在しない。

ダートマス大学のサントス・ジュニア教授は、ScienceDailyに説明したように、彼らのモデルはなぜ欺瞞的な意図を区別しようとするのか。

「故意にリスナーを欺くための欺瞞的な意図は、故意でない間違いよりも大きな脅威をもたらします。私たちの知る限り、私たちのアルゴリズムは、欺瞞を検出すると同時に、悪意のある行為と善意の行為を区別する唯一の方法です。」

モデルを構築するために、研究チームは欺瞞的な推論の特徴を分析した。結果として得られたアルゴリズムは、過去の議論と現在の声明の相違に焦点を当てることで、欺瞞的な意図を他の形式のコミュニケーションから区別することができた。研究チームによって構築されたモデルは、過去の議論からどれだけ人が逸脱しているかを測定するために使用できる大量のデータが必要である。チームがモデルをトレーニングするために使用したトレーニングデータは、論争的なトピックに関する意見の調査から得られたデータで構成されていた。100人以上がこれらの論争的な問題について意見を述べた。20の異なるホテルのレビューも、400のフィクションのレビューと800のリアルレビューで構成されていた。

サントスによると、研究者によって開発されたフレームワークは、ニュース組織や読者によって改良され、適用できる可能性がある。読者は「フェイクニュース」記事の内容を分析し、論理的な議論が使用されているかどうかを判断することができる。サントスは、チームが誤情報の影響とそれがもたらす波及効果を調査したいと考えているとも述べた。

一般的な文化では、顔の表情などの非言語的な行動が、誰かが嘘を吐いていることを示す指標であると描写されることが多いが、研究の著者は、これらの行動的なヒントが嘘を示す信頼できる指標ではないと述べている。共同著者のDeqing Liは、彼らの研究では、推論意図に基づくモデルは、行動的な差異よりも嘘を検出するためのより良い指標であると述べた。Liは、推論意図モデルは「故意の嘘と他のタイプの情報歪曲を区別するのに優れている」と説明した。

ダートマス大学の研究者の仕事は、AIを使用して誤情報と戦う最近の進歩の唯一のものではない。クリックベイトのタイトルを持つニュース記事は、誤情報を隠すことが多い。たとえば、別のイベントが実際に発生したにもかかわらず、あることが起こったことを示唆することがある。

AINewsによると、アリゾナ州立大学とペンシルベニア州立大学の研究者チームは、クリックベイトを検出できるAIを作成するために共同で作業した。研究者は、人々にクリックベイトのタイトルを書いてもらうように依頼し、クリックベイトのタイトルを生成するプログラムも書いた。両方のタイプのタイトルは、クリックベイトのタイトルを効果的に検出できるモデルをトレーニングするために使用された。

研究者によると、彼らのアルゴリズムは、クリックベイトのタイトルを検出する際に、過去のAIよりも約14.5%正確性が高かった。プロジェクトのリード研究者であり、ペンシルベニア州立大学の情報科学技術大学院の准教授であるDongwon Leeは、彼らの実験が、AIを使用してデータを生成し、それをトレーニングパイプラインに戻してフィードすることの有用性を示したと説明した。

「この結果は非常に興味深いものであり、私たちは、機械生成されたクリックベイトのトレーニングデータをトレーニングパイプラインに戻してフィードすることで、さまざまな機械学習モデルのパフォーマンスを向上させることができることを実証した」とリーは説明した。