企业人工智能的最大局限性是其所依赖的数据

人工智能有一个“slop”问题。对于我们中的某些人来说，这可能出现在您的每日社交媒体滚动中，以人工智能生成的视频的形式出现，或者如果您已经深入到互联网中，以现实电视风格的戏剧，人工智能水果拟人化为人类。虽然这些例子可能被认为是无害的乐趣，但我们如何为人工智能生成的内容在更严肃、风险规避的环境中（如企业中）设定界限？

企业人工智能的“slop”问题表现为经过精心制作、自信满满的洞察力，但却建立在肤浅、无法访问或不准确的数据之上，企业开始感受到这种问题的成本。AlphaSense数据反映了这种转变，人工智能“slop”在新闻和媒体报道中的提及量从2025年第四季度到2026年第一季度增加了20%。

许多用户使用通用人工智能工具时遇到的一个缺点是缺乏对安全、优质来源的访问——并非所有决策都可以或应该基于互联网来源。当涉及到更高风险的决策级别的智能时，明显地出现了两种工具之间的差异：一种工具生成表面层面的答案，另一种工具则提供特定领域的洞察力。

人工智能生成内容的爆发正在推动一个低质量输入和输出的巨大反馈循环。能够打破这个循环并专注于可靠、特定领域输入的组织将定义企业人工智能的下一个阶段，区分真正的洞察力和人工噪音。

企业人工智能的最大局限性是其所依赖的数据

通用人工智能工具是可以理解、学习和推理多个领域的系统。这些工具专注于基本能力，如推理和学习，使它们成为工作流程优化和提高生产力的有用助手。然而，用于训练这些模型的通用数据可能会产生同样通用的输出，导致在大规模使用时出现人工智能“slop”问题。

在整个技术行业中，许多公司现在依赖这些通用人工智能工具和大型语言模型来实现各种工作流程和提高效率。

公司不再只是测试这些模型；它们正在将这些模型嵌入代理工作流程中，在这些工作流程中，人工智能系统自主地与企业数据、API和外部应用程序交互以完成端到端任务。这限制了企业只能使用难以或无法验证的数据，导致输出缺乏价值。

通用人工智能工具的使用会导致几个挑战，这些挑战都导致了企业中的人工智能“slop”问题：

• 人工智能生成的内容经常淹没内部知识库，使它们更难被信任和使用。
• 反馈循环中的错误会使内容充满通用和不相关的信息。
• 人工智能简化了创建过程，但同时也减少了通常在过程中集成的质量控制检查。

相比之下，特定领域的人工智能则专注于深度而非广度，设计能够解决特定领域内狭义定义、高价值问题的系统。这些工具不是依赖广泛的、公开可用的训练数据，而是建立在专有和策划的数据集之上，这使得它们能够产生更高质量和更具上下文相关性的输出。通过将人工智能锚定在特定领域的专业知识上，而不是通用数据，应用人工智能提供了满足企业使用的精度和可靠性要求的洞察力。透明的来源、引用支持的输出和更深入的研究能力确保信息是可追溯的、经过验证的和值得信赖的。

这种精度对于在大规模运作的企业来说并不是可选的，因为人工智能“slop”的风险可能转化为关键错误。

打破反馈循环

不良输入和输出会随着时间的推移影响响应，进一步加剧人工智能“slop”挑战并创建一个负面反馈循环。

例如，在使用通用模型的环境中，人工智能生成的内容已经创造了一个自我强化的质量下降循环。人工智能系统通常从它们可以访问的内部信息中学习，包括过去的输出，并且它们经常吸收和重现现有的错误。如果这些材料包含错误，错误就会被循环利用，通用模式会强化自己。很简单：如果底层训练数据是低质量的，模型的输出就会反映出同样的标准。

当人类参与度降低时，原创思维也会下降。随着过程的继续，循环重复，输出的质量会指数级降低。人工智能工具通常不优先考虑验证准确性，也不仔细考虑填充内容时的词语选择。因此，人工智能“slop”以日益增长的速度使内容充满人工噪音。

这种趋势以一种非常明显的方式出现在主要公司的沟通中。最近的一篇巴伦斯文章，由AlphaSense数据支持，探讨了人工智能的标志性“这不是那，那是那”格式的使用，这已经出现在大量外部公司沟通渠道中。根据文章，使用这种词汇在2024年和2025年几乎翻倍。

超出沟通范围，人工智能“slop”的风险可能会以显著的方式影响企业，特别是随着人工智能成为决策功能中越来越重要的工作流程。如果关键决策受到不准确或甚至冗余信息的影响，团队就不能也不应该对其输出感到自信。

最有效的人工智能系统提供决策级别的智能

随着企业扩大其人工智能的使用并评估ROI，区分有价值的洞察力和人工智能“slop”将成为一个决定性的竞争优势。仅仅依赖通用人工智能工具而不积极执行数据质量和特定领域背景的组织将面临其运营被不可靠输出淹没、浪费时间的风险，以及产生不可靠的输出。

应用人工智能提供了一条更安全、更有见地的前进道路，但组织也必须将这些工具与明确的人类监督、验证标准和持续评估工作流程和输出以检测人工智能“slop”相结合。没有一种适用于所有的方法。

能够做到这一点的公司将会做出更好的、更明智的决策。在一个越来越受到人工智能影响的市场中，这种差异已经成为一种竞争优势。