AIのハルシネーションを解決するためのRAGsは本当に解決策でしょうか？

AIは、設計上、「独自の思考」を持ちます。この欠点の1つは、ジェネレーティブAIモデルが「AIのハルシネーション」と呼ばれる現象で情報を捏造することです。この現象の最初の例の1つは、ニューヨークの裁判官が非難した事件で、ChatGPTによって書かれた法的文書が実在しない裁判例を引用していたことです。最近では、AI生成の検索エンジンがユーザーに岩を消費することを健康上の利点として推奨したり、ピザにチーズを貼付けるために無毒の接着剤を使用することを推奨したりする事件が発生しています。

GenAIがますます普及するにつれて、採用者はハルシネーションが現在、GenAIソリューションの避けられない側面であることを認識することが重要です。大量の言語モデル（LLM）に基づいて構築されたこれらのソリューションは、必ずしも正確または最新の情報で構成される多様な情報源によって情報を得ています。捏造された回答は、AIチャットボットがユーザーのプロンプトに応えて生成する回答の3％から10％を占めます。AIの「ブラックボックス」性質により、開発者はこれらのハルシネーションを追跡して理解することが非常に困難です。

避けられないとしても、AIのハルシネーションは、最悪の場合、危険で、非倫理的です。

ヘルスケア、金融、公共の安全を含む複数のセクターで、ハルシネーションの影響には、誤情報の拡散、機密データの漏洩、さらには命に関わるミスまでが含まれます。ハルシネーションがチェックされないまま続けば、ユーザーとAIシステムの信頼性が損なわれます。

したがって、強力なテクノロジーの管理者は、LLM生成の出力の信頼性を確保するために、AIのハルシネーションのリスクを認識し、対処することが不可欠です。

RAGs：ハルシネーションを解決するための出発点

ハルシネーションを軽減するための1つの方法は、リトリーバル増強生成、またはRAGです。このソリューションは、外部の情報源を統合することでLLMの信頼性を高めます。プロンプトの性質に応じて選択された信頼できるデータベースから関連情報を抽出して、特定のクエリに対するより信頼性の高い回答を保証します。

一部の専門家は、RAGのみでハルシネーションを解決できるという意見を述べています。しかし、RAG統合データベースには古いデータが含まれており、誤ったまたは誤解を招く情報を生成する可能性があります。特定の状況では、RAGを介した外部データの統合は、LLMのハルシネーションの可能性を増大させる可能性があります。AIモデルが古いデータベースに過度に依存し、それを完全に最新のものであると認識している場合、ハルシネーションの程度はさらに悪化する可能性があります。

AIガードレール：RAGのギャップを埋める

RAGにはハルシネーションを軽減するための可能性があります。しかし、RAGを使用する業界や企業は、その固有の限界を理解する必要があります。実際、RAGと併用することで、LLMのハルシネーションに対処するための補足的な方法があります。

例えば、企業は、LLMの出力をセキュアにし、ハルシネーションを軽減するために、リアルタイムのAIガードレールを使用できます。ガードレールは、LLMの出力がユーザーに到達する前に、捏造された、不適切な、またはオフトピックのコンテンツをチェックするネットワークとして機能します。このプロアクティブなミドルウェアアプローチにより、RAGシステムのリトリーバルの信頼性と関連性が保証され、ユーザーの信頼が高まり、企業のブランドに沿った安全なインタラクションが保証されます。

代わりに、「プロンプトエンジニアリング」のアプローチがあります。これには、エンジニアがバックエンドのマスタープロンプトを変更する必要があります。受け入れ可能なプロンプトに事前に決定された制約を追加することで、つまり、LLMが情報を取得する方法だけでなく、ユーザーが回答を求める方法も監視することで、エンジニアリングされたプロンプトはLLMをより信頼性の高い結果に向けて導くことができます。このアプローチの主な欠点は、プログラマーにとってこのようなプロンプトエンジニアリングが非常に時間のかかるタスクになる可能性があることです。

「ファインチューニング」のアプローチでは、LLMを特殊なデータセットでトレーニングして、パフォーマンスを向上させ、ハルシネーションのリスクを軽減します。この方法では、タスクに特化したLLMを、特定の信頼できるドメインから情報を抽出するようにトレーニングし、出力の精度と信頼性を向上させます。

LLMの推論パフォーマンスに与える入力長の影響を考慮することも重要です。実際、多くのユーザーは、プロンプトがより広範でパラメーターの多いものであるほど、出力がより正確になるという考えを持っています。しかし、最近の研究では、LLMの出力の精度は、入力長が増加するにつれて実際に減少することが示されています。したがって、特定のプロンプトに割り当てられたガイドラインの数を増やすと、生成されるAIアプリケーションの信頼性が一貫して高まるわけではありません。

この現象、プロンプトの過負荷は、過度に複雑なプロンプト設計の固有のリスクを強調しています。プロンプトがより広範に設計されるほど、不正確な情報やハルシネーションへの扉が開かれ、LLMがすべてのパラメータを満たそうとして混乱する可能性があります。

プロンプトエンジニアリングには、継続的な更新とファインチューニングが必要であり、まだハルシネーションや無意味な回答を効果的に防ぐことができません。ガードレールは、捏造された出力のリスクを増大させることはありません。したがって、AIを保護するための魅力的な選択肢となります。プロンプトエンジニアリングとは異なり、ガードレールは、生成されるAIが事前に定義された境界内でのみ出力されることを保証する、包括的なリアルタイムソリューションを提供します。

ユーザーのフィードバックも、ハルシネーションを軽減するのに役立ちます。アップボートやダウンボートなどのアクションにより、モデルを改善し、出力の精度を高め、ハルシネーションのリスクを低減することができます。

RAGソリューションは独自に使用すると、正確な結果を得るために大量の実験が必要です。しかし、ファインチューニング、プロンプトエンジニアリング、ガードレールと組み合わせて使用すると、ハルシネーションに対処するためのよりターゲットを絞った効率的なソリューションを提供できます。これらの補足的な戦略を探求することで、LLMのハルシネーション軽減がさらに改善され、さまざまなアプリケーションでより信頼性の高いモデルが開発されます。

RAGs：AIのハルシネーションの解決策ではありません

RAGソリューションは、外部の知識でLLMを強化することで、多大な価値を追加します。しかし、ジェネレーティブAIについてまだ多くのことがわかっていないため、ハルシネーションは固有の課題のままです。ハルシネーションに対処する鍵は、それらを完全に排除しようとすることではなく、戦略的なガードレール、検証プロセス、ファインチューニングされたプロンプトの組み合わせでその影響を軽減することです。

私たちがGenAIに伝えることができるほど、より効果的に、効率的にその強力な可能性を活用できるようになります。