ソートリーダー
AIが事実を捏造するとき：企業のリーダーが無視できないリスク
Unite.AI を Google の優先ソースに追加
聞こえはいい。見えはいい。間違っている。那はあなたのAIがホールシネーションを起こしている場合だ。問題は、現在の生成AIモデルがホールシネーションを起こすことだけではない。問題は、十分なガードレールを設けて、ファインチューニングして、RAGして、なんとかして制御できるように思っていることだ。そうすれば、企業規模で採用できるようになるだろう。
| 研究 | ドメイン | ホールシネーション率 | 主要な発見 |
|---|---|---|---|
| スタンフォードHAI＆RegLab（2024年1月） | 法務 | 69%〜88% | LLMは法的な問い合わせに対して高いホールシネーション率を示し、自身のエラーについての自己認識が不足しており、誤った法的仮定を強化していた。 |
| JMIR研究（2024年） | 学術的参考文献 | GPT-3.5：90.6%、GPT-4：86.6%、Bard：100% | LLMによって生成された参考文献は、よく無関係、不正確、または利用可能な文献によってサポートされていなかった。 |
| 英国のAI生成コンテンツに関する研究（2025年2月） | 金融 | 指定なし | AIによって生成されたディズインフォメーションは、銀行のランのリスクを高め、顧客の多くがAIによって生成された偽のコンテンツを見た後に資金を移動することを検討した。 |
| 世界経済フォーラムのグローバルリスクレポート（2025年） | グローバルリスク評価 | 指定なし | AIによって増幅された誤情報やディズインフォメーションは、2年間の見通しにおいて最も重要なグローバルリスクとしてランクインした。 |
| Vectaraホールシネーションランキング（2025年） | AIモデル評価 | GPT-4.5プレビュー：1.2%、Google Gemini-2.0-Pro-Exp：0.8%、Vectara Mockingbird-2-Echo：0.9% | さまざまなLLMのホールシネーション率を評価し、パフォーマンスと精度の違いを明らかにした。 |
| Arxivの事実性ホールシネーションに関する研究（2024年） | AI研究 | 指定なし | HaluEval 2.0を導入して、LLMのホールシネーションを体系的に研究し、検出することに焦点を当てた。 |
ホールシネーション率は0.8%から88%の範囲
はい、モデル、ドメイン、ユースケース、コンテキストによって異なりますが、その範囲は企業の意思決定者にとって心配するべきものです。これらはエッジケースのエラーではありません。体系的なものです。企業でのAIの採用について、正しい判断を下すにはどうすればよいのでしょうか。どこで、どのように、どのくらい深く、どのくらい広く？
そして、これらの現実世界での結果の例は毎日あなたのニュースフィードに現れます。 G20の金融安定委員会は、生成AIをディズインフォメーションのベクターとしてフラグを設定しました。これは市場の危機、政治的不安定性、さらにはフラッシュクラッシュ、偽のニュース、詐欺につながる可能性があります。別の最近報告されたストーリーでは、法律事務所のモルガン＆モルガンは、すべての弁護士に緊急メモを発行しました。AIによって生成された提出物をチェックせずに提出することは、解雇されるべきことです。偽の事例法は「解雇されるべき」犯罪です。
これは、ホールシネーション率がすぐにゼロに近づくことを期待する最良の時期ではないかもしれません。特に、法律、ライフサイエンス、資本市場などの規制された業界では、ミスのコストが高くなる可能性があります。
ホールシネーションは丸め誤差ではない
これは、たまに間違った答えが出ることについてではない。これは、リスクについてである：評判、法的、運用上のリスク。
生成AIは推論エンジンではありません。統計的なフィニッシャー、確率的なオウムです。トレーニングデータに基づいて、最も可能性の高い方法でプロンプトを完了します。さもしい部分も、推測です。最も馬鹿らしい部分を「ホールシネーション」と呼びますが、出力全体がホールシネーションです。うまく装飾されたものですが、まだホールシネーションです。
AIをインフラストラクチャーとして
しかし、AIは、インフラストラクチャーとして扱うときに、企業全体で採用できるようになるでしょう。魔法ではなく、インフラストラクチャーとして扱うときです。必要に応じて、透明性、説明可能性、追跡可能性が必要です。如果それがない場合は、企業全体で採用するための準備ができていません。AIが決定を下している場合は、取締役会のレーダー上に置く必要があります。
EUのAI法は、ここで先導しています。司法、ヘルスケア、インフラストラクチャーなどの高リスクドメインは、ミッションクリティカルシステムのように規制されることになります。文書化、テスト、説明可能性が義務付けられます。
企業安全なAIモデルとは
企業安全なAIモデルを構築する会社は、AIを異なる方法で構築することを意識的に決定しています。その代替のAIアーキテクチャでは、言語モデルはデータでトレーニングされていないため、データに含まれる不適切なもの、たとえば偏り、知的財産権の侵害、または推測やホールシネーションの傾向がないことを保証しています。
これらのモデルは「あなたの考えを完成させる」ことはありません。代わりに、ユーザーのコンテンツ、ナレッジベース、ドキュメント、データから推論します。答えが見つからない場合は、モデルはそう言います。那が、これらのAIモデルを説明可能、追跡可能、決定論的、ホールシネーションが受け入れられない場所での良い選択肢にします。
AIの説明責任のための5ステップのプレイブック
- AIのランドスケープをマッピングする – 企業全体でAIがどこで使用されているか。どのような決定を影響しているか。透明な分析と信頼できるソースマテリアルに基づいて決定を追跡する能力をどれだけ重視しているか。
- 組織を整える – AIの展開の範囲に応じて、役割、委員会、プロセス、監査慣行を金融リスクやサイバーセキュリティリスクと同等の厳格さで設定します。
- AIを取締役会レベルのリスクに組み込む – AIが顧客や規制当局とやり取りする場合は、リスクレポートに含める必要があります。ガバナンスはサイドショーではありません。
- ベンダーを共有リスクとして扱う – ベンダーのAIが事実を捏造する場合は、あなたがフォールアウトを引き受けることになります。ベンダーに説明責任の原則を拡張します。文書化、監査権、説明可能性、ホールシネーション率のSLAを要求します。
- 懐疑心を養う – チームはAIを、有用ではあるが、必ずしも正確ではないジュニアアナリストのように扱うべきです。ホールシネーションを特定したときは祝賀します。信頼は獲得されなければなりません。
企業でのAIの将来は、より大きなモデルではありません。必要なのは、より精度の高いもの、より透明性の高いもの、より信頼性の高いもの、より説明責任のあるものです。
