AI生成のディスインフォメーションから私たちを守るのは誰か

ジェネレーティブAIは、1年未満でゼロから百まで成長しました。初期段階ではありますが、ビジネスを変革する潜在力を示しています。これについては私たちが同意できるでしょう。ただし、ジェネレーティブAIがもたらす危険をどのようにして抑制するかについては、私たちが意見が分かれるでしょう。

明確に述べると、私はイノベーションを支持し、恐怖心を抱く人ではありません。しかし、最近の誤情報の増加—現在の議論を呼んでいる問題についての二極化を目的としたもの—は、ジェネレーティブAIがもしも制御されなければ、社会に大きな被害をもたらす可能性があることを明らかにしました。

私たちはこれまでにソーシャルメディアで同じような経験をしましたが、それは数年間で多くの教訓を得た結果でした。私たちは（おそらく）何らかの教訓を得ました。今日の質問は、誰がジェネレーティブAIによる現実の歪曲の潮流を食い止めるのを助けてくれるのか、そしてどのようにしてくれるのか、ということです。

予想通り、政府は行動を開始しています。ヨーロッパはテクノロジーの規制において先頭に立っています。アメリカはすぐに続き、バイデン大統領は先月、大統領令を発令しました。

しかし、ジェネレーティブAIを「正直」に保つには、世界中の協力が必要です。政府が助ける前に、利用可能なアプローチの限界を理解する必要があります。

アイデンティティの問題はさらに悪化しています

この新しい世界では、真実は意見や事実を装った意見の山の中に埋もれています。コンテンツがどこから来ているかを知ることは、以前よりも重要です。

しかし、すべてのソーシャルメディアアカウントがアイデンティティを検証する必要があると言うことは簡単ではありません。強い反対意見があり、場合によっては匿名性がアカウント所有者を保護するために必要です。また、最悪のコンテンツを消費する多くの人々は、それが信頼できるものかどうか、どこから来ているかどうかを気にしません。

それらの注意書きにもかかわらず、ジェネレーティブAIに対処する上でのアイデンティティの役割は軽視されています。懐疑的な人々、聞いてください。

プラットフォームが規制や社会的良心によってすべてのアカウント所有者に以下の選択肢を与えることを想像してみましょう：

1. アイデンティティを検証するかどうか、
2. 検証されたアイデンティティを公開するか、または「ID検証済み」と表示されるだけです。

すると、ソーシャルメディアのオーディエンスは誰が信頼できるかをよりよく判断できます。同様に重要なのは、アイデンティティが責任を負わせることを支援することです。プラットフォームは、連続して「ディスインフォーマー」やAI生成コンテンツの悪用者に対して行動を起こすことができます。たとえ異なるアカウント名で現れたとしてもです。

ジェネレーティブAIが賭けを上げている今、アイデンティティー—誰が何を投稿したか—が重要であると考えています。反対意見もありますが、アイデンティティーは包括的な答えではありません。実際、どの解決策もすべての利害関係者を満足させることはできません。しかし、規制がすべてのアカウントにアイデンティティ検証を提供することをプラットフォームに強制する場合、その影響は非常に大きいと考えています。

モデレーションのジレンマ

コンテンツモデレーション—自動化されたものと人間によるもの—は、望ましくないコンテンツに対する最後の防衛線です。人間によるモデレーションは、最悪の人間の行為にさらされるリスクがあるため、心理的な危害を受ける可能性のある厳しい仕事です。また、人間によるモデレーションは高価であり、プラットフォームが削減しようとしている偏った検閲の対象となることがよくあります。

自動化されたモデレーションは人間の能力を超えて大量の新しいコンテンツに対処できますが、コンテキスト（メームがよく見られる例です）や文化的なニュアンスを理解できないため、人間によるモデレーションは重要ですが、必要な答えのすべてではありません。

ジェネレーティブAIを制御するための一般的な処方箋は「テクノロジー企業、政府、市民社会の協力が必要です。」確かにそうですが、具体的には何ですか?

政府は、ソーシャルメディアやメディアプラットフォームにアイデンティティ検証を提供し、すべての投稿にそれを表示するよう促すことができます。規制当局は、信頼できる情報源かどうかを判断するのに役立つ信頼性の指標を開発する道を開くことができます。協力は、民間部門が方向性やガイダンスを求めずに進むことができるように、普遍的な規格を開発するために必要です。

最後に、悪意のあるAI出力を作成することは法律で禁止されるべきでしょうか。違法行為を目的としたコンテンツを禁止する法律は、有害なコンテンツの量を減らし、モデレーターの負担を軽減することができます。私は規制や法律がディスインフォメーションを完全に打倒できるものとは考えていませんが、脅威に立ち向かう上で不可欠であると考えています。

陽気な側面：イノベーション

イノベーションの約束は私を楽観主義者にさせます。政治家やプラットフォーム所有者がAI生成の欺瞞から私たちを完全に守ることは期待できません。彼らは大きなギャップを残していますが、これが新しいテクノロジーの開発を刺激することになります。コンテンツの認証と偽造の検出が可能になるからです。

私たちはソーシャルメディアの悪い面を既に知っているので、ジェネレーティブAIが人間にとって大きなマイナスになる可能性があることを認識しています。人間を二極化させ、欺く能力があるからです。

楽観的に見ると、制御方法が複数の方法で協力して機能することを見ています。まず、違法使用を目的としたコンテンツの作成を制限します。次に、匿名性を拒否する人のアイデンティティを検証します。次に、信頼性の評価と投稿者のアイデンティティまたは匿名性を示す明確なラベルを表示します。最後に、自動化されたモデレーションと人間によるモデレーションが最悪のものをフィルタリングできます。近いうちに新しい認証テクノロジーが登場することを予想しています。

すべてをまとめると、より良い、しかし完全な解決策は得られないでしょう。ただし、現実の何が本当のことか、誰が真実を語っているか、誰が私たちを欺こうとしているかを判断するためのスキルを身につけるべきです。