Lokesh 专门从事 AI/ML 和生成式 AI 的战略、开发和创新。他是 LatentView Analytics 的生成式 AI 中心的负责人。
概念验证（PoC）项目是测试新技术的试验场，生成式人工智能（GenAI）也不例外。那么，什么才是GenAI PoC的真正成功之道？简单来说，成功的PoC是指能够无缝地过渡到生产的PoC。问题在于，由于该技术的新颖性及其快速的演变，大多数GenAI PoC主要专注于技术可行性和准确性、召回率等指标。这种狭隘的关注点是PoC失败的主要原因之一。麦肯锡的一项调查发现，虽然四分之一的受访者担心准确性，但许多人同样苦于安全性、可解释性、知识产权（IP）管理和法规遵从性等问题。加上常见的问题，如数据质量差、可扩展性限制和集成困难，很容易理解为什么这么多GenAI PoC无法继续前进。超越炒作：GenAI PoC的现实GenAI的采用明显正在上升，但PoC的真正成功率仍不清楚。报告提供了不同的统计数据： Gartner预测，到2025年底，至少30%的GenAI项目将在PoC阶段之后被放弃，这意味着70%可能会进入生产。 Avanade的一项研究（在RTInsights中被引用）发现，41%的GenAI项目仍然停留在PoC阶段。 德勤2025年1月的企业中GenAI的现状报告估计，只有10-30%的PoC将扩展到生产。 IDC的一项研究（在CIO.com中被引用）发现，平均而言，只有5个PoC（13%）进入生产。 估计值从10%到70%不等，实际的成功率可能更接近较低的值。这凸显了许多组织在设计PoC时缺乏清晰的扩展路径。低的成功率会耗尽资源，削弱热情，并阻碍创新，导致“PoC疲劳”，即团队感到被困在永远无法进入生产的试点中。超越浪费的努力GenAI仍处于其采用周期的早期阶段，就像云计算和传统人工智能之前一样。云计算需要15-18年才能达到广泛的采用，而传统人工智能需要8-10年，仍然在增长。历史上，人工智能的采用遵循了一个繁荣-萧条的周期，即最初的兴奋导致了过高的期望，接着是当挑战出现时的放缓，最后稳定为主流使用。如果历史是任何指南，GenAI的采用也将会有其自己的起伏。为了有效地应对这一周期，组织必须确保每个PoC都以可扩展性为设计，避免导致浪费努力的常见陷阱。认识到这些挑战，领先的技术和咨询公司已经开发了结构化的框架，以帮助组织超越实验并成功扩展其GenAI计划。本文的目标是补充这些框架和战略努力，概述可以显著增加GenAI PoC从测试到现实世界影响的可能性的一些实际、战术步骤。成功的GenAI PoC的关键战术步骤1. 选择具有生产导向的用例首先，选择具有清晰生产路径的用例。这并不意味着进行全面、企业范围的GenAI就绪性评估。相反，根据数据质量、可扩展性和集成要求等因素评估每个用例，并优先考虑那些最有可能达到生产的用例。选择合适的用例时需要考虑的几个关键问题： 我的PoC是否与长期的业务目标一致？ 所需的数据是否可以合法地访问和使用？ 是否存在明确的风险会阻止扩展？ 2. 在启动前定义和对齐成功指标PoC停滞的最大原因之一是缺乏明确定义的成功指标。没有对目标和ROI期望的强烈对齐，即使在技术上合理的PoC也可能难以获得生产的买入。估计ROI并不容易，但以下是一些建议： 制定或采用一个框架，如这个。 使用成本计算器，如 这个OpenAI API定价工具和云提供商计算器来估计费用。 不要设定单一的目标，而是开发一个基于概率的ROI估计范围，以考虑不确定性。 以下是Uber的QueryGPT团队如何估计其文本到SQL的GenAI工具的潜在影响的示例。3. 启用快速实验构建GenAI应用程序需要不断的实验。当选择技术栈、架构、团队和流程时，确保它们支持这种迭代方法。选择应该能够实现无缝的实验，从生成假设和运行测试到收集数据、分析结果、学习和改进。 考虑雇用小型和中型服务供应商来加速实验。...
