为什么 GenAI 没有强大的治理就会停滞不前

随着公司努力将生成式 AI 项目从实验阶段转移到生产阶段，许多企业仍然停留在试验阶段。正如我们最近的研究强调，92% 的组织担心 GenAI 试验在没有解决根本数据问题的情况下加速推进。更令人担忧的是：67% 的组织无法将甚至一半的试验扩展到生产阶段。这一生产差距与技术成熟度无关，而是与基础数据的准备度有关。GenAI 的潜力取决于其基础的强度。而今天，对于大多数组织来说，这个基础是最脆弱的。

为什么 GenAI 停滞在试验阶段

虽然 GenAI 解决方案确实强大，但它们的有效性取决于输入的数据。旧的谚语“垃圾输入，垃圾输出”今天比以往任何时候都更为真实。没有可信、完整、授权和可解释的数据，GenAI 模型经常产生不准确、有偏见或不适合目的的结果。

不幸的是，组织急于部署低成本的用例，例如提供来自不同内部文档的个性化答案的 AI 聊天机器人。虽然这些确实可以改善客户体验，但它们并不需要对公司的数据基础设施进行深入的改变。但是，要战略性地扩展 GenAI，无论是在医疗保健、金融服务还是供应链自动化领域，都需要更高的数据成熟度。

事实上，56% 的首席数据官将数据可靠性列为 AI 部署的关键障碍。其他问题包括不完整的数据（53%）、隐私问题（50%）和更大的 AI 治理差距（36%）。

没有治理，就没有 GenAI

要将 GenAI 推进到试验阶段之外，公司必须将数据治理视为其业务的战略性要求。他们需要确保数据能够支持 AI 模型，并且需要解决以下问题：

• 训练模型的数据是否来自正确的系统？
• 是否已删除个人可识别信息并遵循所有数据和隐私法规？
• 是否可以证明数据的来源，并对数据使用的模型进行透明的说明？
• 是否可以记录数据流程，并证明数据没有偏见？

数据治理还需要嵌入组织的文化中。为此，需要在所有团队中建立 AI 文化。欧盟 AI 法案正式化了这一责任，要求 AI 系统的提供者和使用者尽力确保员工具有足够的 AI 文化，确保他们了解这些系统的工作原理以及如何负责任地使用它们。然而，有效的 AI 采用不仅需要技术知识，还需要对数据技能有坚实的基础，从理解数据治理到制定分析问题。将 AI 文化与数据文化分开考虑将是短视的，因为它们密切相关。

在数据治理方面，还有工作需要完成。在希望增加数据管理投资的企业中，47% 的人认为缺乏数据文化是主要障碍。这突出了建立高层支持和在整个组织中发展正确的技能的必要性。没有这些基础，即使最强大的 LLM 也会难以交付。

开发必须负责的 AI

在当前的监管环境中，AI 不再仅仅需要“正常工作”，还需要承担责任并被解释。欧盟 AI 法案和英国拟议的 AI 行动计划 需要在高风险 AI 使用案例中保持透明度。其他国家也在跟进，1,000 多项相关政策法案在 69 个国家的议程中。

这一全球向责任制的转变是消费者和利益相关者对算法公平性的日益增长的需求的直接结果。例如，组织必须能够说明为什么客户被拒绝贷款或被收取高额保险费。要做到这一点，他们需要知道模型如何做出这一决定，这反过来取决于训练模型的数据是否有清晰的可审计的来源。

如果没有可解释性，企业将冒着失去客户信任的风险，并面临经济和法律后果。因此，数据来源的可追溯性和结果的合理性不再是“可以有”的东西，而是一个合规性要求。

随着 GenAI 的扩展，从简单的工具到完全成熟的可以做出决定和采取行动的代理，强大的数据治理的赌注将会更高。

建立可靠 AI 的步骤

那么，什么是好的标准？要负责地扩展 GenAI，组织应该在三个支柱上采用单一的数据战略：

• 根据业务量身定制 AI：根据关键的业务目标编制数据目录，确保它反映了特定于您的业务的独特背景、挑战和机会。
• 建立对 AI 的信任：为合规和监督道德和负责任的 AI 部署建立政策、标准和流程。
• 构建 AI 数据准备管道：将多样化的数据源结合到一个强大的数据基础设施中，以支持强大的 AI。

当组织做对了这一点时，治理加速了 AI 的价值。在金融服务领域，例如，对冲基金正在使用 Gen AI 在股票价格预测中超越人类分析师，同时显著降低成本。在制造业中，供应链优化由 AI 驱动，使组织能够实时应对地缘政治和环境压力。

这些不仅仅是未来主义的想法，它们现在正在发生，驱动这些的是可靠的数据。

拥有坚实的数据基础，公司可以减少模型漂移，限制重新训练周期，并加快价值实现的速度。这就是为什么治理不是一个障碍，而是一个创新驱动力。

接下来是什么？

在实验之后，组织正在超越聊天机器人，并投资于变革性能力。从个性化客户互动到 加速医疗研究、改善心理健康 和简化监管流程，GenAI 正开始在各个行业展示其潜力。

然而，这些收益完全取决于支撑它们的数据。GenAI 从构建强大的数据基础开始，通过强大的数据治理。虽然 GenAI 和代理 AI 将继续演变，但它们不会在短期内取代人类的监督。相反，我们正在进入一个结构化的价值创造阶段，在这个阶段，AI 成为一个可靠的副驾驶。有了对数据质量、治理和文化的正确投资，企业终于可以将 GenAI 从一个有前途的试验变成真正起飞的东西。