企业人工智能的下一个突破：建立信任

人工智能正在以惊人的速度演变，改变着组织的工作方式、决策方式和价值创造方式。今天的模型可以推理、生成内容和自动执行任务，这些任务直到最近还需要人类的判断。但企业人工智能最大的突破并不是更智能的模型，而是让这些模型变得足够可信，以便在现实世界中使用。

在过去的几年中，人们的讨论集中在人工智能可以做什么。今天，企业领导者正在问不同的问题：我们可以相信输出结果吗？我们可以解释决策是如何做出的吗？我们可以在受监管的环境中部署人工智能而不引入不必要的风险吗？我们可以在保持安全、合规和治理的同时扩大这些系统吗？这些问题反映了一个重要的转变。人工智能不再只是一个正在实验的新兴技术；它已经成为核心业务运营的一部分。随着组织将人工智能运营化，信任越来越多地取决于维持对数据、治理和监管要求的控制，跨越各个管辖区。

根据2025年斯坦福人工智能指数报告，2024年，78%的组织报告使用人工智能，这比前一年增加了55%。随着采用率的加快，报告还强调了增加对负责任的人工智能、治理和监管监督的投资的必要性。从人工智能中获得最多价值的组织将越来越智能的模型与可信的数据、强大的治理和对其数据和人工智能环境的控制相结合。

企业人工智能已经进入了一个新阶段：信任与能力同样重要。

当生成式人工智能首次引起全球关注时，成功通常由技术在演示中的表现来衡量。组织竞相建立聊天机器人、总结文档、生成代码或自动执行创造性任务，仅仅是为了展示他们正在使用人工智能。今天，成功是由人工智能是否能够以安全、可重复和可衡量的方式嵌入核心业务运营来衡量的。

这种转变需要人工智能系统在业务单元、处理敏感信息、遵守不断演变的法规和随时间提供一致的结果方面发挥作用。组织需要的不仅仅是强大的模型；他们需要可信的数据、有效的治理和允许人工智能在数据所在的任何地方工作的基础设施。

麦肯锡最新的人工智能状态调查 反映了这种现实。虽然人工智能的采用已经变得普遍，但许多组织继续努力超越孤立的用例，实现企业范围内的部署，以带来可持续的业务价值。技术本身正在迅速发展，但运营它所需的组织能力仍然难以跟上。企业人工智能的下一个阶段将不再由突破性的模型定义，而是由有纪律的执行定义。

德勤的企业中生成式人工智能的状态研究也强调了这一挑战，发现虽然组织仍然对人工智能的长期潜力持乐观态度，但许多组织继续面临着治理、风险管理、数据准备和与现有业务流程集成方面的持续性障碍。这些发现共同支持了企业人工智能的成功取决于组织成熟度和可信数据基础与模型能力进步一样重要的观点。

信任从模型生成答案之前就开始了。

想象一下，要求世界上最有经验的金融分析师使用不完整的记录、过时的市场数据和相互矛盾的报告来评估一家公司。由于底层信息不可靠，准确的结论不太可能出现。企业人工智能遵循相同的原则。

人工智能系统的质量不在于系统本身，而在于为其提供信息的数据。组织需要对数据来源、数据变化、谁可以访问数据以及数据是否适合特定用例有信心，然后才能自信地依赖人工智能输出，无论模型多么先进。这种信心越来越多地取决于数据主权：知道数据存储在哪里、哪些法律管辖它，并确保人工智能系统在训练、推理和持续运营过程中尊重这些要求。

随着企业从实验转向生产，数据血统、源头、治理和可观察性等能力变得至关重要。它们提供了理解人工智能决策、快速识别风险和自信地在数据所在的任何地方部署人工智能所需的透明度。

NIST人工智能风险管理框架强调了这一观点，认为治理、问责和定期监督是负责任的人工智能的必要组成部分。这些做法不是创新障碍；它们是允许组织自信创新、维持控制并从人工智能中获得持久业务价值的机制。

随着人工智能更加深入地融入企业运营，相同的原则也适用于安全：组织必须保护不仅其数据，还有与数据交互的模型和代理。

开放性创造了韧性

企业人工智能的未来不会依赖于单一的模型或提供商。组织需要灵活性来采用新技术、满足不断演变的数据主权要求，并在数据所在的任何地方部署人工智能，同时保持一致的治理和安全。

开放标准帮助不同系统跨平台协同工作。开放架构使得采用新技术而无需重建现有基础设施变得更加容易。开源加速了创新，使组织能够获得更大的透明度、灵活性和协作能力。

这种对开放性的强调不仅仅是一种技术决策。它也越来越多地反映在全球人工智能治理框架中。 OECD人工智能原则强调了透明度、问责制和负责的创新作为可信赖人工智能的关键构建块。开放性并不锁定组织在单一的方法上；它给组织带来了灵活性，使他们能够采用新技术、应对不断变化的业务需求，并在人工智能格局继续演变的同时保持对其人工智能战略的控制。

欣赏真正重要的事物

人工智能正在取得非凡的进步，但决定其长期成功的不是仅仅是越来越强大的模型的发展。它是可信的数据、负责任的治理和开放的架构，这些使组织能够自信地将人工智能带到其数据所在的任何地方，并在不牺牲对模型使用和部署的控制的情况下扩大创新。这就是将人工智能从令人印象深刻的技术转变为长期的业务价值的关键。

在很多方面，这就是企业人工智能今天的真实故事：我们正在超越一个仅仅由可能性定义的时代，进入一个创新和责任并行的时代。可信的数据、治理和开放性并没有减慢创新；它们使人工智能能够从实验扩展到企业范围的影响。

随着企业人工智能的不断成熟，成功的组织将是那些认识到每次成功部署背后不太显眼的工作：可信的数据、周密的治理、数据主权和开放的生态系统，这些使人工智能能够在数据所在的任何地方工作。这些能力共同使企业能够自信地创新、保持控制并从人工智能中获得持久的业务价值。