Sarah Hoffman, مديرة القيادة الفكرية في مجال الذكاء الاصطناعي في AlphaSense Sarah Hoffman مديرة القيادة الفكرية في مجال الذكاء الاصطناعي في AlphaSense

2026: عام المجال-الخاص بالذكاء الاصطناعي في الشركات

对于企业竞相整合人工智能，一道障碍不断浮现，无论技术如何快速发展：幻觉。最近的一份 贝恩公司报告 发现，输出质量仍然是采用 GenAI 的主要障碍，尽管过去一年中企业实验和投资大幅增加。复合问题，像 ChatGPT、Copilot 和 Perplexity 这样的 AI 助手根据一份报告 45% 的时间 会扭曲新闻内容，引入缺失的背景，误导性的细节，错误的归属或完全虚构的信息。我们正在离开人工智能的“哇”阶段，进入性能阶段，在那里，衡量的影响比新颖性更重要。这些不准确性不仅会侵蚀信任，还会将企业决策置于风险之中。一个单一的幻觉见解可能会导致声誉损害，误导的战略或 昂贵的运营错误。然而，许多组织继续部署不是为其行业的专业工作流程和监管约束而设计的一般用途人工智能模型，以免落后于其同行。依赖通用人工智能的风险通用模型当然有其优势。它们在广泛的想法产生、草稿和加速常规通信任务方面非常有效。但是，当企业扩大人工智能的使用到更专业或受监管的工作流程时，新的风险类别开始出现。幻觉只是风险格局的一部分。它们被越来越多的高风险漏洞所加入，例如 jailbreaks、prompt 注入和敏感数据泄露。当人工智能触及任务关键工作流程时，这些威胁变得更加严重。今年早些时候，医疗应用程序出现了多例 临床上显著的幻觉，包括增加的误诊概率。这暴露了在高风险环境中使用非专业模型的加剧危险。误解的医疗摘要或不正确的建议可能会引入改变人生的后果，以及中断原本流畅的工作流程。毫无疑问，72% 的 S&P 500 公司 现在报告人工智能相关风险，高于 2023 年的 12%。他们的担忧范围从数据隐私和偏见到知识产权泄露和监管合规，表明了更广泛的转变：公司董事会和投资者越来越严肃地对待人工智能风险，就像网络安全一样。向专业人工智能系统转变2025...