Joy Dasgupta 是 Gyan 的 CEO,也是一位具有超过二十年全球领导经验的 AI 驱动解决方案资深领导者,曾在 Hewlett-Packard、American Express 和 Genpact 等公司任职。Gyan 是一种为企业打造的全新 AI 架构,适用于对幻觉、知识产权风险或耗能型模型有低或零容忍度的企业。在信任、精度和责任感至关重要的地方,Gyan 确保每个洞察都是可解释的、可追溯到可靠来源,并具有核心的全数据隐私。
这听起来很正确。它看起来很正确。它是错误的。这就是您的AI在产生幻觉时的表现。问题不仅仅在于今天的生成式AI模型会产生幻觉,还在于我们认为,只要我们建立足够的防护措施,微调它,使用RAG方法,驯服它,那么我们就可以在企业规模上采用它。 研究 领域 幻觉率 主要发现 斯坦福HAI与RegLab (2024年1月) 法律 69%–88% 大型语言模型在响应法律查询时表现出高幻觉率,往往缺乏对其错误的自我意识,并强化了不正确的法律假设。 JMIR研究 (2024) 学术引用 GPT-3.5:90.6%,GPT-4:86.6%,Bard:100% 大型语言模型生成的引用往往不相关、不正确或不受现有文献支持。 英国关于AI生成内容的研究 (2025年2月) 金融 未指定 AI生成的虚假信息增加了银行挤兑的风险,一大部分银行客户在查看AI生成的虚假内容后考虑转移资金。 世界经济论坛全球风险报告 (2025) 全球风险评估 未指定 由AI放大的人们的虚假信息和错误信息,在两年内被列为首要的全球风险。 Vectara幻觉排行榜...