Artificial Intelligence

AI によるヘイトスピーチ検出による固定観念と偽情報の防止

公開済み

9ヶ月前

2023 年 8 月 13 日

今日、インターネットはグローバルなコミュニケーションとつながりの生命線です。しかし、この前例のないオンライン接続により、私たちは人間の行動の暗い側面、つまりヘイトスピーチ、固定観念、有害なコンテンツも目撃します。これらの問題はソーシャルメディア、オンラインフォーラム、その他の仮想空間に浸透し、個人と社会に永続的な損害を与えています。したがって、ヘイトスピーチの検出が必要になります。

によるピュー·リサーチセンター, アメリカの成人の 41% がインターネットでの虐待に個人的に遭遇したことがあり、25% が深刻な嫌がらせの被害者であると回答しています。

よりポジティブで敬意を持ったオンライン環境を促進するには、積極的な対策を採用し、テクノロジーの力を活用することが不可欠です。この点で、人工知能 (AI) は、ヘイトスピーチや固定概念を検出して対処するための革新的なソリューションを提供します。

現在の緩和手法の限界と事前対策の必要性

ヘイトスピーチを軽減するための現在の対策は限られています。オンラインでの有害なコンテンツの拡散を効果的に抑制することはできません。これらの制限には次のものが含まれます。

主に人間によるモデレーションと静的アルゴリズムに依存する事後対応型のアプローチは、ヘイトスピーチの急速な拡散に追いつくのに苦労しています。
膨大な量のオンラインコンテンツが人間のモデレーターを圧倒し、その結果、応答が遅れたり、有害なレトリックの事例が見逃されたりすることになります。
また、文脈の理解と言語のニュアンスの進化により、自動化システムがヘイトスピーチの実例を正確に特定して解釈することが課題となります。

これらの制限に対処し、より安全なオンライン環境を促進するには、予防的な対策への移行が不可欠です。 AI を活用した対策を採用することで、デジタルコミュニティを強化し、包括性と一体性のあるオンライン世界を促進できます。

AI を使用したヘイトスピーチの特定と報告

ヘイトスピーチとの戦いでは、機械学習 (ML) アルゴリズムを備えた AI が強力な味方として台頭し、有害なコンテンツを迅速かつ正確に特定してフラグを立てます。膨大な量のデータを分析することで、AI モデルはヘイトスピーチに関連するパターンと言語のニュアンスを認識することを学習し、攻撃的なコンテンツを効果的に分類して対応できるようにします。

に AI モデルをトレーニングする正確にヘイト·スピーチ検出、教師あり学習および教師なし学習手法が使用されます。教師あり学習では、ヘイトスピーチと有害でないコンテンツのラベル付きの例を提供して、モデルに 2 つのカテゴリを区別するよう教えます。対照的に、教師なしおよび半教師あり学習方法では、ラベルのないデータを活用して、ヘイトスピーチに対するモデルの理解を深めます。

AI カウンタースピーチ技術を活用してヘイトスピーチと闘う

対抗言論が強力な戦略として浮上ヘイト·スピーチ有害な物語に直接異議を唱え、対処することによって。これには、共感、理解、寛容を促進するために、説得力のある有益なコンテンツを作成することが含まれます。これにより、個人やコミュニティがポジティブなデジタル環境の構築に積極的に参加できるようになります。

個々の反論モデルの具体的な詳細は AI テクノロジと開発アプローチに応じて異なる場合がありますが、いくつかの共通の機能と手法は次のとおりです。

自然言語生成 (NLG): カウンタースピーチモデルは、NLG を使用して、書面または音声形式で人間のような応答を生成します。反応は一貫性があり、対抗しているヘイトスピーチの特定の事例に文脈的に関連しています。
感情分析： AI の反論モデルは、感情分析を利用してヘイトスピーチの感情的な調子を評価し、それに応じて対応を調整します。これにより、カウンタースピーチがインパクトと共感をもたらすものになります。
文脈理解： ヘイトスピーチを取り巻く状況を分析することで、反論モデルは特定の問題や誤解に対処する応答を生成し、より効果的で焦点を絞った反論に貢献します。
データの多様性： 偏見を回避し、公平性を確保するために、反論モデルは、さまざまな視点や文化的ニュアンスを表す多様なデータセットでトレーニングされます。これは、包括的で文化的に配慮した反応を生み出すのに役立ちます。
ユーザーのフィードバックから学ぶ: 反論モデルは、ユーザーのフィードバックから学習することで継続的に改善できます。このフィードバックループにより、モデルは現実世界のインタラクションに基づいて応答を改良することができ、時間の経過とともにその有効性が向上します。

AIを活用したヘイトスピーチ対策の例

AI の反論技術の実例としては、「リダイレクト方法" によって開発されました Googleのジグソーおよびムーンショット CVE。リダイレクト手法では、ターゲットを絞った広告を使用して、過激派イデオロギーやヘイトスピーチの影響を受けやすい個人にリーチします。この AI を活用したアプローチは、個人が有害なコンテンツに関与することを思いとどまらせ、共感、理解を促進し、過激派の信念からの転換を促進することを目的としています。

研究者はまた、と呼ばれる新しい AI モデルを開発しました。 BiCaps嫌いで報告されているように、オンラインのヘイトスピーチに対する強力なツールとして機能します。計算社会システムに関する IEEE トランザクション。言語の双方向分析をサポートし、文脈の理解を強化して嫌がらせ的なコンテンツを正確に判断します。この進歩は、ソーシャルメディア上のヘイトスピーチの悪影響を軽減することを目指しており、より安全なオンライン交流の可能性を提供します。

同様に、ミシガン大学と呼ばれるアプローチを使用して、AI を活用してオンラインのヘイトスピーチと闘いました。例によるルール (RBE)。このアプローチでは、ディープラーニングを使用して、ヘイトコンテンツの例からヘイトスピーチを分類するルールを学習します。これらのルールは入力テキストに適用され、オンラインのヘイトスピーチを正確に識別して予測します。

ヘイトスピーチ検出モデルの倫理的考慮事項

AI を活用した反論モデルの効果を最大化するには、倫理的配慮が最も重要です。ただし、検閲を避けるためには、言論の自由と有害なコンテンツの配布の禁止のバランスをとることが重要です。

AI 反論モデルの開発と展開における透明性は、ユーザーと関係者間の信頼と説明責任を促進するために不可欠です。また、公平性を確保することも同様に重要です。 AI モデルのバイアス差別と排除を永続させる可能性があります。

たとえば、ヘイトスピーチを特定するように設計された AI は、意図せずにヘイトスピーチを増幅してしまう可能性があります。人種差別。研究によると、主要なヘイトスピーチ AI モデルは、アフリカ系アメリカ人のツイートに攻撃的なフラグを立てる可能性が 1.5 倍高いことがわかりました。で書かれたツイートにヘイトスピーチとしてフラグを立てる可能性が 2.2 倍高くなります。アフリカ系アメリカ人英語。同様の証拠が155,800件のヘイトスピーチ関連のTwitter投稿の調査からも明らかになり、AIコンテンツモデレーションにおける人種的偏見に対処するという課題が浮き彫りになった。

他に研究、研究者らはヘイトスピーチ検出のために 18 つの AI システムをテストしましたが、いずれも有害な文章を正確に識別するのに苦労していることがわかりました。これらのヘイトスピーチ検出モデルの問題を正確に診断するために、彼らは中傷や脅迫的な言葉を含む 11 種類のヘイトスピーチの分類を作成しました。彼らはまた、ヘイトではない発言での冒涜的な言葉の使用など、AI をつまずかせる XNUMX のシナリオも強調しました。その結果、研究によって生み出されたのは、ヘイトチェック、約 4,000 の例からなるオープンソースのデータセットで、AI モデルのヘイトスピーチのニュアンスの理解を強化することを目的としています。

意識とデジタルリテラシー

ヘイトスピーチやステレオタイプと闘うには、積極的かつ多面的なアプローチが必要です。したがって、意識を高め、デジタルリテラシーを促進することは、ヘイトスピーチや固定観念と闘うために不可欠です。

有害なコンテンツの影響について個人を教育することで、共感と責任あるオンライン行動の文化が促進されます。批判的思考を促す戦略により、ユーザーは正当な言説とヘイトスピーチを区別できるようになり、有害な言説の拡散が減少します。また、ヘイトスピーチを特定し、効果的に対応するためのスキルをユーザーに提供することも重要です。これにより、有害なレトリックに異議を唱え、これに対抗できるようになり、より安全で敬意のあるデジタル環境に貢献できるようになります。

AI テクノロジーが進化するにつれて、ヘイトスピーチや固定観念に、より高い精度と影響力で対処できる可能性が飛躍的に高まります。したがって、オンラインで共感と積極的な関与を促進する強力なツールとして、AI を活用した反論を確立することが重要です。

AI のトレンドとテクノロジーの詳細については、次のサイトをご覧ください。ユナイトアイ.