倫理
偽情報と偏見に対するAIの解決策
Unite.AI を Google の優先ソースに追加
近年、偽情報と偏見は社会に大きな課題をもたらしている。情報操作、ディープフェイク、金融的影響、社会的緊張の悪用などが、個人や国家行為者によって使用される新しいツールとなっている。
偽情報とは、一般的に誤った情報を指す。公衆の意見を操作する上で重要な役割を果たしている。また、政治指導者に対する攻撃手段としても使用されており、各国におけるグループ間の分裂を悪化させている。偽情報は、投票所にまで影響を及ぼしており、非常に効果的な手段となっている。
偏見情報とは、故意に誤解を招くまたは偏った情報を指す。操作された物語や事実を含む。つまり、プロパガンダである。
2019年のオックスフォード大学の研究者による報告書では、ロシア、中国、ベトナム、グアテマラを含む70カ国で組織的な偏見情報キャンペーンが行われていることが明らかになった。
デジタル経済の進展により、ニュースにおける偽情報と偏見が増加し、AI技術やソーシャルメディアプラットフォームがこれを広める手段となっている。
これらの例は多数ある。例えば、前回の米国大統領選挙では偽情報と偏見が満ち溢れていたし、これは将来も続くことだろう。金融市場も偽情報と偏見によって短期的な操作を受けており、外交問題もこれらの使用により緊張が高まっている。偽情報によって社会的緊張が高まり、各国で偽ニュースが蔓延している。
ソーシャルメディアやアルゴリズムへの依存度が高まっているため、偽情報と偏見に対して非常に脆弱な状況にある。大量の人が操作されることが容易となっている。
The Conversationという非営利メディアのネットワークが出版した「ソーシャルメディアが広める誤情報に人々が弱い理由」というエッセイによれば、ソーシャルメディアのエコシステムが故意または偶発的な誤情報に対して脆弱な状況にある3つの偏見がある。ほとんどのニュースが現在ソーシャルメディアから来ていることを認識することが重要である。
3つの偏見は以下の通りである：
- 脳の偏見：「認知的偏見は、毎日人々が直面する情報の処理方法から生じる」
- 社会の偏見：「人々が直接友人とつながるとき、社会的偏見が情報の選択に影響を及ぼす」
- 機械の偏見：「第三の偏見群は、オンラインで何を見せるかを決定するアルゴリズムから直接生じる。ソーシャルメディアプラットフォームや検索エンジンがこれらを使用している」
これらの偏見の組み合わせが、悪意のある行為者が現在のニュースプラットフォームを偽情報の拡散手段として使用するための完璧な環境を作り出している。しかし、偏見がこの領域以外にも存在することを認識することが重要である。通常のニュース報道や記事も、著者または出版物の特定の傾向によって偏ったものとなる可能性がある。これは新しいことではない。
AIによる偽情報と偏見の解決策
人工知能の進展により、偽情報と偏見に対する新しい革新的なツールが提供されるようになった。
例えば、適切に設計されたAIは、オンライン上の特定の偽情報や問題的なコンテンツを効果的に検出して除去することができる。Google (GOOGL ) 、Twitter、Facebookなどの企業が、偽のボットを識別するためにAIを使用している。偽のボットは、偽情報や偏ったニュースを広めるために頻繁に使用される。
この問題に対処するための新しいAIフレームワークの開発と、既存のものの改善が必要である。問題は、紛争が発生するとさらに深刻化する。例えば、現在のロシア・ウクライナ紛争のように、偽情報が非常に速いペースで広まることになる。
AI駆動の新しいツールが開発中である。例えば、NT CONNECTという国際的なテクノロジー開発企業は、最近、ニュースアグリゲーター・アプリケーション「NOOZ.AI」の立ち上げを発表した。AI駆動の言語分析エンジンは、今日のニュースメディアにおける二極化された偏見を明らかにすることを目的としている。読者が記事を読む前に、ニュースメディアの影響について読者に知らせることでこれを達成しようとしている。
同社のプレスリリースによれば、「著者またはジャーナリストは、読者に知らせることなく、特定の偏見に向かっていることが多い。著者やニュースソースの歴史的な偏見を知ることで、消費者は記事をより客観的に読み、特定の主題について特定の考え方に操作されるのを避けることができる」
NOOZ.AIツールは、以下の4つの柱に基づいている：
- 意見分析：ジャーナリストの文章に個人的な感情、見解、信念、または判断が含まれているかどうかを読者が判断できるようにする。
- 感情分析：ツールは、感情分析を使用して、読者が作家の一般的なニュースコンテンツまたは特定のトピックに対する支持または反対を判断できるようにする。
- プロパガンダ分析：潜在的な誤情報を検出するために、18種類の説得テクニックの使用を識別できる。
- 改訂分析：読者は、ニュース記事の進化と、時間の経過に伴う意見や感情の操作を調査できる。
アプリは、各記事にスコアを割り当て、意見スコアは0から100、感情スコアは-100から100の範囲である。また、各改訂のテキスト編集を追跡し、読者が異なるバージョンを比較できるようにする。
NT CONNECTのCTOであるGarry Paxinosによれば、
「偏った報道は、今日の社会における大きな懸念事項である。偽情報は、最もよく使われる（誤用される）流行語である。しかし、現実は、言語自体が、読者を操作し、説得するために使用されることがある。言語を客観的に分析することで、他のアプローチで見られる主観的な偏見を避けることができる。誤情報を主観的にラベル付けするのではなく、私たちのアプローチは、誇張された見出し、改訂履歴、記事のテキストによってどのように操作されるかを明らかにすることである」
