思想领袖
AI垃圾内容正涌入企业

要点通用人工智能工具可能用来自不可验证数据的低质量输出淹没企业。
查看更多
- 通用人工智能工具可能用来自不可验证数据的低质量输出淹没企业。
- 基于精选数据的领域专用人工智能能够提供通用模型无法比拟的、达到决策级别的洞察。
- 人工智能垃圾内容会形成反馈循环,低质量的输入与输出将不断削弱企业的决策能力。
AI正面临低质内容被批量生成的问题,也就是所谓的“AI垃圾内容”(AI slop)。有些人在每天刷社交媒体时,会以AI生成视频的形式遇到它;如果深入互联网的某些角落,还可能看到 AI生成的水果被拟人化成人物,上演真人秀风格的戏剧。这些例子或许只是无伤大雅的娱乐,但在企业这类更严肃、倾向于规避风险的环境中,我们该如何划定AI生成内容的使用边界?
在企业中,AI垃圾内容表现为措辞精致、语气自信的分析,依据的却是浅薄、无法获取或不准确的数据。企业已经开始感受到代价。AlphaSense的数据反映了这一变化:从2025年第四季度到2026年第一季度,新闻和媒体报道中对AI垃圾内容的提及量环比增长了20%。
许多通用AI工具用户认为,无法获取受保护的优质信息源是一项短板。并非所有决策都能或都应该依据网络信息。对于后果重大的决策,所用信息必须足够可靠,而只能给出表面答案的工具与能够提供领域专业见解的工具之间,正出现清晰的分野。
问题在于,AI生成内容的爆发式增长,正在推动一个由低质量输入和更低质量输出构成的庞大反馈循环。能够打破这一循环、专注于可靠领域信息输入的组织,将定义企业AI的下一阶段,把真正的见解与人工制造的噪声区分开来。
企业AI最大的局限,在于提供给它的数据
通用AI工具是能够在多个领域理解、学习和推理的系统。它们注重推理和学习等基础能力,因此能够帮助简化工作流程、提高生产力。但用于训练这些模型的通用数据,也可能产生同样泛泛的输出,在大规模使用时形成AI垃圾内容。
在科技行业,许多公司已经依赖这些通用AI工具和大语言模型来支持各种工作流程、节省时间。
企业不再只是测试这些模型,而是把它们嵌入基于AI智能体的工作流程。AI系统在其中自主地与企业数据、API和外部应用交互,从头到尾完成任务。这使企业受限于往往难以、甚至无法证实的数据,最终产生没有价值的输出。
使用通用AI工具会带来几类问题,助长企业中的AI垃圾内容:
- AI生成内容经常淹没内部知识库,使知识库更难获得信任、也更难使用。
- 在反馈循环中反复流转的错误,让内容充斥泛泛而谈和无关的信息。
- AI简化了创作过程,却同时减少了通常嵌入这一过程的质量检查。
相比之下,领域专用AI重深度而非广度,所设计的系统用于解决特定领域中范围明确、价值较高的问题。这些工具不依赖广泛公开的训练数据,而是基于专有且经过精心筛选的数据集,因此能够产出质量高得多、也更符合语境的结果。应用型AI以领域专业知识而非通用数据为基础,提供满足企业使用所需精度与问责要求的见解。透明的信息来源、有引用依据的输出以及更深入的研究能力,确保信息可追溯、经过验证并且值得信赖。
对于大规模运营的企业,这种精度不是可有可无的,因为AI垃圾内容的风险可能转化为严重错误。
打破质量下降的反馈循环
低质量的输入和输出可能逐渐影响回答,进一步加剧AI垃圾内容问题,形成有害的反馈循环。
例如,在使用通用模型的环境中,AI生成内容已经造成一个自我强化的质量下降循环。AI系统经常从可以访问的内部信息中学习,其中包括过去的输出,也常常吸收并再现已有错误。如果这些材料包含错误,错误就会重新流转,泛化的模式也会不断自我强化。道理很简单:底层训练数据质量低,模型输出也会体现同样的水平。
随着人的参与减少,原创思考也会减弱。流程持续运行,循环便不断重复,输出质量继续呈指数级下降。AI工具往往不优先核验准确性,在填补内容空白时也不仔细斟酌措辞。因此,AI垃圾内容以越来越快的速度,让内容充斥人工制造的噪声。
这种趋势在大公司的对外沟通中十分明显。最近一篇 《巴伦周刊》文章依据AlphaSense的数据,研究了AI标志性的“不是这个,而是那个”句式。这种表达出现在数量惊人的企业对外沟通渠道中。根据文章,其使用量在2024年和2025年分别都几乎翻了一番。
除了沟通,AI垃圾内容的风险还可能显著影响企业的各项职能,尤其是在AI越来越普遍地进入决策工作流程之际。如果关键决策受到不准确、甚至冗余信息的影响,团队就既不能、也不应信任这些输出。
效率最高的AI系统,提供足以支持决策的信息
随着企业扩大AI使用规模并评估投资回报,区分有价值的见解与AI垃圾内容,将成为决定性的竞争优势。仅依赖通用AI工具,却不主动确保数据质量和领域语境的组织,面临运营被淹没、时间被浪费的风险,原因在于 输出不可靠。
应用型AI提供了一条更安全、能够获得更深入见解的道路。但组织还必须为这些工具配备明确的人工监督、验证标准,以及对工作流程和输出的持续评估,以识别AI垃圾内容。不存在适用于所有情况的统一方法。
能够正确做到这些的企业,将作出更好、信息依据更充分的决策。在越来越受AI影响的市场中,这种差别已经开始转化为竞争优势。












