Susan Laine 是首席技术官，任职于 Quest Software，一家总部位于德克萨斯州奥斯汀的企业软件公司。Quest 提供专注于数据管理与治理、网络安全、身份访问管理以及平台现代化的专用工具和 SaaS 平台，帮助组织管理基础设施并支持 AI 项目。
2025 年，公司在生成式 AI 上的投资估计在 300 亿至 400 亿美元之间，然而 MIT 的 NANDA 项目发现，在超过 300 项企业部署中，只有 5% 能产生可衡量的财务回报。 它所审查的项目。我在企业数据项目工作超过 25 年。早在生成式 AI 进入讨论之前，我就看到当人们无法依赖其背后的数据时，技术的可信度会迅速下降。生成式 AI 提高了风险，因为它可以将可疑的数据转化为自信的答案。我们过去常说“输入垃圾，输出垃圾”。现在则是“输入垃圾，灾难输出”。当数据看起来可疑时，人员可以凭判断联系数据专家。专家会进行根本原因分析，找出问题并实施修复。如今，代理可以对他们遇到的任何数据采取行动。如果没有有知识的人类监督，结果可能会成为运营的一部分，被用于决策，并在整个组织中扩散。同样的问题也会出现在聊天机器人中。跳过治理会把糟糕或理解不清的数据转化为听起来权威的答案，且立即且大规模地呈现。信任才是真正的采用瓶颈当内部聊天机器人给出自信却错误的答案时，用户可能再也不信任它。在大型组织中，AI 也会发现你不希望它发现的数据。我把它比作床下的脏袜子：这些数据可能不在视线之内，但 AI 会找到这些暗数据并加以利用。上下文必须随数据一起传递，并成为大型语言模型（LLM）所依赖的基础。在...
