倫理

AIはニュースの誤情報と偏見に対抗できる

Alex McFarland
Unite.AI を Google の優先ソースに追加
要点NOOZ.AIのようなAIツールは言語を分析し、ニュースの偏向や操作を明らかにする。
もっと見る
  • NOOZ.AIのようなAIツールは言語を分析し、ニュースの偏向や操作を明らかにする。
  • 認知バイアス、社会的バイアス、アルゴリズムバイアスの3つのバイアスが、ソーシャルメディアを誤情報に対して脆弱にしている。
  • 誤情報および偽情報キャンペーンは現在、70以上の国々の選挙を標的にしている。

近年、偽情報と偏見は社会に大きな課題をもたらしている。情報操作、ディープフェイク、金融的影響、社会的緊張の悪用などが、個人や国家行為者によって使用される新しいツールとなっている。

誤情報とは、一般的に誤った情報を指す。公衆の意見を操作する上で重要な役割を果たしている。また、政治指導者に対する攻撃手段としても使用されており、各国におけるグループ間の分裂を悪化させている。偽情報は、投票所にまで影響を及ぼしており、非常に効果的な手段となっている。

偽情報は誤情報とは少し異なり、故意に誤解を招く、または偏った情報を指す。操作された物語や事実を含む。つまり、プロパガンダである。

2019年のオックスフォード大学の研究者による報告書では、ロシア、中国、ベトナム、グアテマラを含む70カ国で組織的な偽情報キャンペーンが行われていることが明らかになった。

デジタル経済の進展により、ニュースにおける偽情報と偏見が増加し、AI技術やソーシャルメディアプラットフォームがこれを広める手段となっている。

これらの例は多数ある。例えば、過去2回の米国大統領選挙では偽情報と偏見が満ち溢れていたし、これは将来も続くことだろう。金融市場も偽情報と偏見によって短期的な操作を受けており、外交問題もこれらの使用により緊張が高まっている。特定の主張の支持者や反対者に対する誤った情報によって社会的緊張が高まり、ほぼすべての国で偽ニュースが蔓延している。

ソーシャルメディアやアルゴリズムへの依存度が高まっているため、偽情報と偏見に対して非常に脆弱な状況にある。大量の人が操作されることが容易となっている。

The Conversationという非営利メディアのネットワークが出版した「偏見は人々をソーシャルメディアで広まる誤情報に弱くする」というエッセイによれば、ソーシャルメディアのエコシステムが故意または偶発的な誤情報に対して脆弱な状況にある3つの偏見がある。ほとんどのニュースが現在ソーシャルメディアから来ていることを認識することが重要である。

3つの偏見は以下の通りである:

  1. 脳の偏見:「認知的偏見は、各人が毎日接する情報を脳が処理する方法から生じる」
  2. 社会の偏見:「人々が仲間と直接つながるとき、友人の選択を導く社会的偏見が、その人が目にする情報に影響を及ぼす」
  3. 機械の偏見:「第三の偏見群は、オンラインで何を見せるかを決定するアルゴリズムから直接生じる。ソーシャルメディアプラットフォームや検索エンジンがこれらを使用している」

これらの偏見の組み合わせが、悪意のある行為者が現在のニュースプラットフォームを偽情報の拡散手段として使用するための完璧な環境を作り出している。しかし、偏見がこの領域以外にも存在することを認識することが重要である。通常のニュース報道や記事も、著者または出版物の特定の傾向によって偏ったものとなる可能性がある。これは新しいことではない。

AIによる偽情報と偏見の解決策

人工知能の進展により、偽情報と偏見に対する新しい革新的なツールが提供されるようになった。

例えば、適切に設計されたAIは、オンライン上の特定の偽情報や問題的なコンテンツを効果的に検出して除去することができる。Google (GOOGL ) 、Twitter、Facebookなどの企業が、偽のボットを識別するためにAIを使用している。偽のボットは、偽情報や偏ったニュースを広めるために頻繁に使用される。

この問題に対処するための新しいAIフレームワークの開発と、既存のものは多くが問題を抱えていることが判明しており、改善が必要である。問題は、紛争が発生するとさらに深刻化する。例えば、現在のロシア・ウクライナ紛争のように、偽情報が非常に速いペースで広まることになる。

AI駆動の新しいツールが開発中である。例えば、NT CONNECTという国際的なテクノロジー開発企業は、最近、ニュースアグリゲーター・アプリケーション「NOOZ.AI」の立ち上げを発表した。AI駆動の言語分析エンジンは、今日のニュースメディアにおける二極化された偏見を明らかにすることを目的としている。読者が記事を読む前に、ニュースメディアの影響について読者に知らせることでこれを達成しようとしている。

同社のプレスリリースによれば、「著者またはジャーナリストは、読者に知らせることなく、特定の偏見に向かっていることが多い。著者やニュースソースの歴史的な偏見を知ることで、消費者は記事をより客観的に読み、特定の主題について特定の考え方に操作されるのを避けることができる」

NOOZ.AIツールは、以下の4つの柱に基づいている:

  • 意見分析:ジャーナリストの文章に個人的な感情、見解、信念、または判断が含まれているかどうかを読者が判断できるようにする。
  • 感情分析:ツールは、感情分析を使用して、読者が作家の一般的なニュースコンテンツまたは特定のトピックに対する支持または反対を判断できるようにする。
  • プロパガンダ分析:潜在的な誤情報を検出するために、18種類の説得テクニックの使用を識別できる。
  • 改訂分析:読者は、ニュース記事の進化と、時間の経過に伴う意見や感情の操作を調査できる。

アプリは、各記事にスコアを割り当て、意見スコアは0から100、感情スコアは-100から100の範囲である。また、各改訂のテキスト編集を追跡し、読者が異なるバージョンを比較できるようにする。

NT CONNECTのCTOであるGarry Paxinosによれば、

「偏った報道は、今日の社会における大きな懸念事項である。偽情報は、最もよく使われる(誤用される)流行語である。しかし、現実は、言語自体が、読者を操作し、説得するために使用されることがある。言語を客観的に分析することで、他のアプローチで見られる主観的な偏見を避けることができる。誤情報を主観的にラベル付けするのではなく、私たちのアプローチは、誇張された見出し、改訂履歴、記事のテキストによってどのように操作されるかを明らかにすることである」

Alex は Unite.AI の AI 主導のニュース運営を率いており、ジャーナリズム、リサーチ、そして自動化を組み合わせて、人工知能に関するタイムリーでスケーラブルな取材を支援しています。彼の仕事は、新興の AI 開発が効率的に取り上げられ、出版物の編集基準が維持されるよう支えています。