Joy Dasgupta, CEO of Gyan

AIが事実を捏造するとき：企業のリーダーが無視できないリスク

聞こえはいい。見えはいい。間違っている。那はあなたのAIがホールシネーションを起こしている場合だ。問題は、現在の生成AIモデルがホールシネーションを起こすことだけではない。問題は、十分なガードレールを設けて、ファインチューニングして、RAGして、なんとかして制御できるように思っていることだ。そうすれば、企業規模で採用できるようになるだろう。 研究 ドメイン ホールシネーション率 主要な発見 スタンフォードHAI＆RegLab（2024年1月） 法務 69%〜88% LLMは法的な問い合わせに対して高いホールシネーション率を示し、自身のエラーについての自己認識が不足しており、誤った法的仮定を強化していた。 JMIR研究（2024年） 学術的参考文献 GPT-3.5：90.6%、GPT-4：86.6%、Bard：100% LLMによって生成された参考文献は、よく無関係、不正確、または利用可能な文献によってサポートされていなかった。 英国のAI生成コンテンツに関する研究（2025年2月） 金融 指定なし AIによって生成されたディズインフォメーションは、銀行のランのリスクを高め、顧客の多くがAIによって生成された偽のコンテンツを見た後に資金を移動することを検討した。 世界経済フォーラムのグローバルリスクレポート（2025年） グローバルリスク評価 指定なし AIによって増幅された誤情報やディズインフォメーションは、2年間の見通しにおいて最も重要なグローバルリスクとしてランクインした。 Vectaraホールシネーションランキング（2025年） AIモデル評価 GPT-4.5プレビュー：1.2%、Google Gemini-2.0-Pro-Exp：0.8%、Vectara Mockingbird-2-Echo：0.9%...