AIエンジニアが開発した手法で、誤情報を広める者の意図を検出できる

デジタル時代の誤情報に対処するのは複雑な問題です。誤情報を特定し、タグ付けし、修正するだけでなく、主張をしている者の意図も区別する必要があります。ある人は、後で事実として報告される問題について意見を述べているだけかもしれませんし、誤情報を広めてしまうこともあります。最近、ダートマス大学のAI研究者とエンジニアのチームは、「フェイクニュース」報告から意見を導き出すことができるフレームワークを作成しました。

ScienceDailyによると、ダートマス大学チームの研究は、最近、Journal of Experimental & Theoretical Artificial Intelligenceに掲載されました。以前の研究では、フェイクニュースを特定し、欺瞞に対抗しようとしたものの、この研究は、ニュース記事の話者の意図を特定しようとした最初の研究である可能性があります。真実の話が様々な欺瞞的な形に歪められる可能性がありますが、欺瞞が意図されたかどうかを区別することは重要です。研究チームは、誤情報を考慮する際には意図が重要であると主張しています。欺瞞は、欺瞞する意図があればのみ可能です。如果個人が誤情報を広めていることに気付いていない場合、または単に意見を述べている場合は、欺瞞は不可能です。

ダートマス大学のタイヤー工学学校の工学教授、ユージーン・サントス・ジュニアは、ScienceDailyに、彼らのモデルがなぜ欺瞞的な意図を区別しようとするのかを説明しました。

「欺瞞的な意図を持って意図的にリスナーを欺くことは、無意識の間違いよりもはるかに大きな脅威をもたらします。私たちの知る限り、私たちのアルゴリズムは欺瞞を検出すると同時に、悪意のある行為と善意の行為を区別する唯一の方法です。」

モデルを構築するために、研究チームは欺瞞的な推論の特徴を分析しました。結果として得られたアルゴリズムは、過去の議論と現在の発言の不一致に焦点を当てることで、欺瞞的な意図を他の形態のコミュニケーションから区別することができました。研究チームによって構築されたモデルは、過去の議論からどれだけ逸脱しているかを測定するために使用できる大量のデータが必要です。チームがモデルを訓練するために使用した訓練データは、論争的なトピックに関する意見の調査から得られたデータで構成されています。100人以上の人がこれらの論争的な問題について意見を述べました。さらに、20のホテルのレビューから、400の架空のレビューと800の実際のレビューが抽出されました。

サントスによると、研究者们が開発したフレームワークは、ニュース組織や読者によって改良され、適用される可能性があります。読者は記事の内容を分析し、論理的な議論が使用されているかどうかを判断することができます。サントスは、チームが誤情報の影響とそれがもたらす波及効果を調査したいと考えているとも述べました。

一般的な文化では、顔の表情などの非言語的な行動が嘘を示す指標であると描写されることがありますが、研究の著者は、これらの行動的なヒントは嘘の信頼できる指標ではないと述べています。研究の共同著者であるデクイン・リーは、推論的な意図に基づくモデルは、嘘を検出するための行動的な違いよりも優れています。リーは、推論的な意図モデルは「故意の嘘と他のタイプの情報の歪曲を区別するのに優れています」と述べています。

ダートマス大学の研究者たちの仕事は、AIを使用して誤情報に対抗する最近の進歩の中で唯一のものではありません。クリックベイトのタイトルを持つニュース記事は、誤情報を隠すことがあります。たとえば、ある出来事が起こったことを示唆していますが、実際には別の出来事が起こった可能性があります。

AINewsによると、アリゾナ州立大学とペンシルベニア州立大学の研究者たちのチームは、クリックベイトを検出できるAIを作成するために共同で作業しました。研究者たちは、人々にクリックベイトの見出しを書いてもらうよう依頼し、プログラムを使用してクリックベイトの見出しを生成しました。両方の見出しは、クリックベイトの見出しを効果的に検出できるモデルを訓練するために使用されました。ペンシルベニア州立大学の情報科学技術学部の准教授であるドンウォン・リーは、リード研究者であり、実験がAIを使用してデータを生成し、それを訓練パイプラインに戻して機械学習モデルのパフォーマンスを向上させることの有用性を示したと説明しました。

「この結果は非常に興味深いものです。私たちは、クリックベイトの訓練データを生成するためにAIを使用し、それを訓練パイプラインに戻して、幅広い機械学習モデルのパフォーマンスを向上させることができることを実証しました」とリーは説明しました。