人工智能“垃圾”指控的崛起成为一种新的门槛守护形式

指责某事为“人工智能垃圾”已经成为互联网的新猎巫行动，Reddit和Hacker News用户越来越多地指责其他评论者是机器人，即使没有证据表明这是事实。

挪威和阿联酋的一项新研究发现，Reddit和Hacker News上对所谓“人工智能垃圾”的指控在2023年至2026年间大幅增加，即使评论没有任何人工智能生成的证据。

作者分析2500万条评论的结果表明，这样的指控越来越多地作为一种新兴的社会门槛守护形式，而不是用来识别人工智能。

研究人员还发现，技术社区比其他群体更早地采用了“指控文化”，这种模式后来扩散到Reddit的其他领域。

围绕“人工智能垃圾”的指控的显著增加似乎并不是在线上敌意的更广泛或更普遍的增加的一部分：旧的诽谤形式，如“托”、“傀儡”和“小喽啰”，在同一时期相对稳定，表明人工智能的怀疑作为一种新的社会边界守护形式出现，而不是早期互联网争论的延续或扩展。

该论文指出：

“我们分析了来自Hacker News和Reddit的2500万条评论（2023-2026年），结合了对7500个人工智能使用指控的LLM判断、情感轨迹、300个确认的人工智能使用指控的言语行为编码和一个匹配控制测试，对被指控和未被指控的父评论进行比较。”

“我们发现，贬义标签的指控在两个平台上增加了十倍以上，而2022年之前的虚假词汇（“托”、“人造草根”）没有。”

“这种转变反映了一个快速增长的趋势，即将任何可疑或看似不真实的散文标记为‘人工智能垃圾’。”

“‘垃圾’框架现在占据了94％的贬义提及，主导评论的语气从嘲笑转向门槛守护和结构性抗议。”

该研究提出了一个更广泛的问题，即人们是否真的能识别人工智能写作，因为流畅的散文——以前被视为努力、专业知识或真实参与的证据——现在已经成为一种丰富且日益贬值的商品。

值得注意的是，这项新研究集中于Hacker News，该平台对人工智能生成的评论进行了严格的监管，以及Reddit，其不断流动的人类话语现在被人工智能开发人员和公司高度重视，并成为搜索引擎优化垃圾邮件发送者新的主要目标，后者试图通过代理侵入基于LLM的网络排名。

研究人员认为，他们的发现符合公众日益增长的认识，即以前的真相来源可能会因人工智能的使用而贬值。该论文讨论了真正的人被指控为人工智能实体，无论是通过真正的错误、风格上的混淆还是恶意（即指控者知道对手是人类，但想关闭他们）；但预测其他类型的通信也会受到类似的污名化：

“我们的结果预测，类似的指控将在图像认证、语音认证和代码作者等领域形成，指控的核心意图是门槛守护，而不是人工智能使用的实证检测。”

“这将变得越来越有问题，因为人工智能在这些领域减少了甚至专家可以发现的实证线索。”

“这可能会增加专家在验证人工智能与非人工智能内容方面的作用；或者它可能会大大降低对任何可以被人工智能生成的媒体的信任。”

这篇题为“那是人工智能垃圾，你是机器人！”研究在线话语中的人工智能指控、证据和可信度的新论文来自奥斯陆大学和阿联酋沙迦美国大学的两位审稿人。

方法

该研究的数据集包括所有在2023年1月至2026年5月期间发布在Hacker News和18个选定的Reddit社区上的公共评论。

大约有2500万条评论被收集，其中1200万条来自Hacker News，1300万条来自Reddit。Reddit数据通过其公共JSON API从Arctic Shift存档中获取，而Hacker News评论则从Algolia Hacker News搜索存档中收集。

为了避免关注单一类型的社区，Reddit样本被划分为人工智能专注的论坛，包括r/aiwars、r/ArtistHate、r/ChatGPT、r/OpenAI、r/MachineLearning、r/LocalLLaMA和r/singularity；创意社区，包括r/Art、r/writing和r/books；一般兴趣论坛r/AskReddit、r/news、r/changemyview、r/explainlikeimfive、r/AskHistorians和r/science；以及技术导向和学术社区r/programming和r/AskAcademia。

采样率在时间上保持一致，有助于确保指控率的变化反映了社区行为的变化，而不是数据收集的变化。

五个层次的人工智能羞辱

候选评论使用一个由137个模式组成的搜索词典，组织成五个命名层次：第1层（“直接”）捕获了明确的指控，例如“ChatGPT写了这篇文章”、“这是人工智能生成的吗？”和“原帖是机器人”。

第2层（“贬义”）涵盖了诸如“人工智能垃圾”、“GPT垃圾”、“机器学习废话”和“机器人写作”的标签。第3层（“风格”）处理了所谓的风格线索，包括破折号提及、“深入”调用、三连词引用和更广泛的“经典人工智能签名”主张。

第4层（“嘲笑”）捕获了基于熟悉的人工智能助手短语的模仿和嘲笑，例如“人类同胞”、“在快速演变的格局中”和“丰富的锦绣”。第5层（“间接”）具有不太明显的怀疑，评论被描述为“闻起来像人工智能”、“读起来像ChatGPT”或类似于“写作的不真实谷”。

为了减少假阳性，常见的短语，如“值得注意”、“需要注意”和“这是一个人吗”，仅当附近出现人工智能相关术语时才被计算。在这些搜索模式不能可靠地区分指控和普通讨论之后，随后进行了两次验证，使用Claude Opus 4.7。

从候选池中抽取了Reddit的5000条评论和Hacker News的2500条评论样本，均匀分布在时间段和指控类别中。

然后，将每个评论分类为五个结果组之一：真实，涵盖真正的人工智能使用指控；披露，涵盖承认人工智能作者身份的评论；中立引用，涵盖非指控性的人工智能引用；假阳性，涵盖正则表达式假阳性；和模糊，涵盖上下文不允许自信判断的案例。

研究人员还研究了指控如何随时间变化，跟踪了较新的“人工智能垃圾”框架的兴起与较旧的侮辱，如“废话”、“垃圾”、“垃圾”、“呕吐物”、“污泥”、“软泥”、“脏东西”、“垃圾”、“废话”和“胡言乱语”。

界定趋势

情感趋势使用情感词典和情绪推理器（VADER）进行测量，而一个单独的样本包含300个Reddit线程，包含LLM验证的真实指控，根据所执行的社会角色进行编码。这些被归类为嘲笑（轻蔑的嘲笑）；拒绝（直接拒绝）；嘲弄（模仿/嘲笑）；门槛守护（“规则执行”）；或结构性抗议（对人工智能的一般性不赞同），这使得人工智能指控的性质在时间上发生了转变。

设计了一个单独的“安慰剂”测试，以确定人工智能指控的增加是否仅仅反映了在线上怀疑的更广泛增加，在同一数据集中搜索了较旧的非人工智能术语，如“托”、“人造草根”、“傀儡”、“付费托”、“假账户”、“公司托”、“说辞”和“贿赂”。

最后一组测试检查了区分人工智能生成写作和人类写作的特征是否也是使人类写作评论被指控为人工智能的特征，通过检查六个语言标记：文章密度；缩写率；正式注册副词频率；介词密度；句子长度变异性；和平均令牌长度。使用曼恩-惠特尼U测试，比较了披露和真实评论。

与800个LLM验证的真实Reddit指控相关的父评论被检索出来，其中421个案例在父评论是评论而不是顶级帖子时被保留。这些评论被与同一子Reddit和同一月份中抽取的2048个未被指控的评论进行匹配。逻辑回归然后被用来测试区分人工智能生成文本和人类写作的语言标记是否也预测了哪些人类写作评论会被指控为人工智能使用。

结果

该研究记录了Reddit和Hacker News上人工智能指控的大幅增加。这种增长的大部分集中在贬义标签的使用上；

跨平台增长的人工智能指控（2023-2026年） 来源

到2026年，“人工智能垃圾”占据了94％的人工智能指控，取代了较早的术语，如“GPT垃圾”、“机器学习废话”和“机器人写作”。根据论文，贬义人工智能指控在两个平台上的份额在研究期间增加了十倍以上：

‘人工智能垃圾’标签的崛起（2023-2026年）

还进行了使用较旧的非人工智能术语（如“托”、“人造草根”、“傀儡”、“付费托”、“假账户”、“公司托”、“说辞”和“贿赂”）的比较。与人工智能指控不同，这些术语没有表现出类似的增加。

还观察到了社区间的差异，人工智能专注和技术导向的论坛较早地出现了增长，类似的模式后来出现在Reddit和Hacker News的其他部分。

不仅指控的频率发生了变化，而且其分类也发生了变化。对300个验证的Reddit指控进行编码，发现了嘲笑、拒绝、嘲弄、门槛守护和结构性抗议的相对普遍性的转变。根据论文，门槛守护和结构性抗议随着时间的推移变得更加普遍，而嘲笑和嘲弄变得不那么普遍。

结论

评论区的随意人工智能羞辱显然需要自己的戈德温法则；基于近年来社会和政治评论中的事件和趋势，如果人工智能机器人成为指控其他评论者是机器人的最可能者，那将是有意义的；然而，这可能会扼杀对该问题的所有评论。

* 请注意，本论文不是友好读物，其语气和词汇针对作者的学术同行。

首次发布于2026年6月12日，星期五