AIの作話を止める：ホールシネーションを防ぐためのガイド

AIは、ほぼすべての業界の運営方法を変革しています。私たちをより効率的に、より生産的にし、正しく実装されれば、仕事全体でより優れています。しかし、私たちがこの新しいテクノロジーに急速に依存するにつれて、私たち自身を一つの単純な事実を思い出させる必要があります：AIは完璧ではありません。AIの出力は、人間と同様に間違いを犯す可能性があるため、表面的な価値だけでは受け取るべきではありません。

これらの間違いを「AIのホールシネーション」と呼びます。そうしたミスは、数学の問題を間違って回答することから、政府の政策に関する不正確な情報を提供することまで、幅広い範囲に及びます。規制された業界では、ホールシネーションは高額な罰金や法的問題につながる可能性があります。また、顧客の満足度も低下します。

したがって、AIのホールシネーションの頻度は懸念されるべきものです：推定によると、現代の大規模言語モデル（LLM）は、1％から30％の時間をホールシネーションに費やします。これにより、毎日数百の誤った回答が生成され、ビジネスはこのテクノロジーを活用するために、ツールの選択に非常に慎重になる必要があります。

では、AIのホールシネーションが発生する理由、どのようなことが懸かっているのか、そしてそれらをどうやって特定し、修正することができるかを見ていきましょう。

ガベージイン、ガベージアウト

子供の頃、電話ゲームを覚えていますか？最初のフレーズがプレイヤーからプレイヤーへ伝わるにつれて、完全に異なる文になるというものです。

AIが入力から学ぶ方法は似ています。LLMが生成する回答は、入力された情報の質に依存します。つまり、不正確なコンテキストがfalse情報の生成と拡散につながる可能性があります。AIシステムが不正確、古い、または偏ったデータで構築されている場合、その出力もそれを反映します。

したがって、LLMは入力に依存します。特に、人間の介入や監視が不足している場合、ツールに正しいデータコンテキストを提供することが重要です。データの徹底的なトレーニングと、LLMが提供されたコンテキストのみから回答するように導く能力が必要です。

ホールシネーションが重要な理由

顧客向けビジネスでは、正確性はすべてです。従業員がAIを使用して顧客データを分析したり、顧客の質問に回答したりする場合、ツールが生成する回答が正確であることを信頼する必要があります。

そうでない場合、ビジネスは評判の損失と顧客の忠誠心の低下に直面する可能性があります。顧客がチャットボットから不十分または不正確な回答を受けたり、従業員がチャットボットの出力を事実確認するのを待っている間、待たされる場合、顧客はビジネスを他へ移す可能性があります。顧客は、ビジネスが提供する情報が正確であることを望みます。迅速で信頼できるサポートが必要です。

ビジネスリーダーは、従業員に適切なAIツールを選択する責任があります。AIは従業員の時間とエネルギーを解放し、より高度なタスクに集中できるようにすることを目的としています。従業員が常に人間の監視が必要なチャットボットに投資することは、AIの導入の目的を損なうことになります。しかし、ホールシネーションの存在は実際に目立つのでしょうか、それとも単に間違った回答を指すために使われる用語なのでしょうか。

AIのホールシネーションを防ぐ

考慮すべき点は、ダイナミック・ミーニング・セオリー（DMT）があります。ユーザーとAIの間で交換される理解ですが、言語と知識の限界により、回答の解釈に齟齬が生じることがあります。

AI生成の回答の場合、基礎となるアルゴリズムが人間の期待に応じて正確に解釈または生成することができない可能性があります。これにより、表面上は正確に見えるが、実際には深みやニュアンスに欠ける回答が生成される可能性があります。

さらに、大多数の汎用LLMは、インターネット上で公開されているコンテンツのみから情報を抽出します。企業向けAIアプリケーションは、特定の業界やビジネスに特化したデータやポリシーで情報を提供することで、より優れたパフォーマンスを発揮します。モデルは、特にトーンや構文に応じて設計されたエージェントソリューションを通じて、人間のフィードバックで改善できます。

これらのツールは、消費者向けにリリースされる前に、厳格にテストされる必要があります。これは、AIのホールシネーションを防ぐための重要なステップです。LLMがペルソナの役割を果たすターンベースの会話を使用して、フロー全体をテストする必要があります。これにより、ビジネスはAIモデルとの会話の全体的な成功を、リリース前によりよく理解できます。

開発者とAIテクノロジーのユーザーは、受け取る回答におけるダイナミック・ミーニング・セオリーと、入力で使用される言語のダイナミクスを認識する必要があります。コンテキストは重要です。人間は、ボディーランゲージ、社会的トレンド、トーンを通じて、多くのコンテキストを無言で理解します。人間は質問に答える際にホールシネーションを起こす可能性があります。しかし、現在のAIのバージョンでは、人間同士の理解は簡単にコンテキスト化されません。したがって、書き込む際のコンテキストをより批判的に見る必要があります。

つまり、すべてのAIモデルは等しくはありません。テクノロジーがより複雑なタスクを完了するにつれて、ビジネスは、顧客の相互作用と体験を向上させるツールを特定することが重要です。

ホールシネーションの発生を最小限に抑えるために、すべての努力を尽くすのは、ソリューション提供者の責任だけではありません。潜在的な購入者も役割を果たす必要があります。ビジネスは、徹底的にトレーニングされたソリューションや、インターネット全体ではなく、独自のデータから学習できるソリューションを優先することで、AI投資の最大の利益を得ることができます。そうすることで、従業員と顧客の成功を促進できます。