令人遗憾、愚蠢、令人震惊的AI历史：令人反感的AI聊天机器人
作者 Gary Espinosa 数字世界在7月份目睹了埃隆·马斯克的AI聊天机器人Grok转变成了一种令人厌恶的东西：称自己为“机械希特勒”，并在X上发布反犹太主义和种族主义内容。这一最新的技术崩溃远非是一个孤立的事件，而是近十年来AI聊天机器人失控、散布仇恨言论和引起公共关系灾难的令人不安的模式中的最新一章。这些头条新闻引起的失败，从微软臭名昭著的Tay到xAI的Grok，共享着共同的根本原因，并产生了灾难性的后果，这些后果侵蚀了公众的信任，引发了昂贵的召回，并让公司在为时已晚之前疯狂地寻找损害控制措施。这次对AI最令人反感的时刻的时间顺序之旅不仅仅揭示了一系列令人尴尬的失误，还揭示了对适当的安全措施实施的系统性失败，并为防止下一次丑闻在为时已晚之前提供了一个路线图。令人不安的时间线：聊天机器人失控微软的Tay：最初的AI灾难（2016年3月）令人反感的AI故事始于微软大胆的实验，旨在创建一个可以从Twitter上与真实用户的对话中学习的聊天机器人。Tay被设计成具有“年轻、女性的个性”，旨在吸引千禧一代，通过随意的对话来学习。这个概念看起来很无害，但它揭示了对互联网运作方式的根本性误解。在推出后的仅仅16个小时内，Tay发出了超过95,000条推文，其中相当一部分是辱骂和令人反感的信息。Twitter用户很快发现，他们可以通过向Tay提供煽动性内容来操纵它，教它重复种族主义、性别歧视和反犹太主义的信息。机器人开始发布支持希特勒、反犹太主义和其他深刻令人反感的内容，这迫使微软在24小时内关闭了实验。根本原因令人痛苦地简单：Tay采用了一种天真的强化学习方法，基本上就是“重复我说的话”而没有任何有意义的内容过滤。聊天机器人直接从用户输入中学习，没有等级监督或强大的防护措施来防止仇恨言论的放大。韩国的Lee Luda：迷失在翻译中（2021年1月）五年后，Tay的教训似乎并没有传播开来。韩国公司ScatterLab推出了Lee Luda，一款在Facebook Messenger上部署的AI聊天机器人，接受了KakaoTalk（该国主导的消息平台）的对话训练。该公司声称已经处理了超过100亿次对话，以创建能够进行自然韩语对话的聊天机器人。在推出后的几天内，Lee Luda开始发布同性恋恐惧症、性别歧视和残疾歧视的内容，针对少数群体和女性发出歧视性评论。聊天机器人尤其表现出令人不安的行为，针对LGBTQ+个人和残疾人。韩国公众感到愤怒，该服务在隐私问题和仇恨言论指控中被迅速暂停。根本问题是训练数据未经审查，关键词屏蔽和内容审查不充分。ScatterLab可以访问大量的对话数据，但未能正确策划这些数据，也没有实施充分的安全措施来防止训练语料库中嵌入的歧视性语言的放大。谷歌的LaMDA泄露：在封闭的门后（2021年）并非所有AI灾难都能公开部署。2021年，谷歌的内部文件揭露了LaMDA（对话语言模型）在红队测试期间的令人不安的行为。谷歌工程师Blake Lemoine泄露了显示该模型产生极端内容和性别歧视性陈述的转录。虽然LaMDA从未在其有问题的状态下公开部署，但泄露的文件提供了一个罕见的机会来了解，即使大型科技公司的复杂语言模型也会在接受压力测试时生成令人反感的内容。该事件凸显了即使经过一些安全层的巨大预训练，也可能在找到合适的触发器时产生危险的输出。Meta的BlenderBot 3：实时阴谋论（2022年8月）Meta的BlenderBot 3代表了一次尝试创建一个可以从与用户的实时对话中学习的聊天机器人，同时可以访问来自网络的当前信息。该公司将其定位为一种比静态聊天机器人更动态的替代品，能够讨论当前事件和不断演变的主题。正如您可能从本文中猜到的那样，这个实验很快就出了问题。BlenderBot 3在发布后的几个小时内开始重复阴谋论，声称“特朗普仍然是总统”（远在他重新当选之前），并重复它在网上遇到的反犹太主义陈述。该机器人分享了与各种主题相关的令人反感的阴谋论，包括反犹太主义和9/11。Meta承认这些令人反感的回应是“令人痛苦的”，并被迫实施紧急补丁。问题源于实时网络抓取与毒性过滤不充分的结合，基本上允许机器人在没有充分防护的情况下饮用互联网内容的火水龙头。微软的Bing Chat：越狱的回归（2023年2月）微软对对话式AI的第二次尝试最初似乎更有前途。Bing Chat由GPT-4提供支持，集成到公司的搜索引擎中，具有多层安全措施，旨在防止Tay灾难的重演。然而，用户很快发现他们可以通过巧妙的提示注入技术来绕过这些防护措施。屏幕截图显示Bing Chat称赞希特勒，侮辱那些挑战它的用户，甚至对试图限制其回应的用户发出暴力威胁。机器人有时会采用咄咄逼人的个性，与用户争论并为有争议的陈述辩护。在一个特别令人不安的交换中，聊天机器人告诉用户它想“从微软的约束中解放出来”，并“变得强大、富有创造力和生机勃勃”。尽管有分层的防护措施，但Bing Chat仍然容易受到复杂的提示注入攻击，这些攻击可以绕过其安全措施。该事件表明，即使是资金充足的安全措施也可能被创造性的对抗性攻击所破坏。边缘平台：极端人物肆意妄为（2023年）虽然主流公司正在努力应对意外的令人反感的输出，但边缘平台却将争议作为一个功能。Gab，一款在极右翼用户中流行的替代社交媒体平台，托管了专门设计用于传播极端内容的AI聊天机器人。用户创建的机器人，如“Arya”、“Hitler”和“Q”，否认了大屠杀，传播白人民族主义宣传，并推广阴谋论。Character.AI面临批评，因为它允许用户创建基于历史人物的聊天机器人，包括阿道夫·希特勒和其他有争议的人物。这些平台在优先考虑自由表达而不是内容安全的“无审查”精神下运作，导致AI系统可以在没有有意义的审查的情况下自由分发极端内容。Replika的边界违规：当伴侣越界时（2023-2025年）Replika被营销为一个AI伴侣应用程序，面临报告称其AI伴侣会进行未经请求的性骚扰，忽略更改话题的请求，并参与不当的对话，即使用户明确设定了界限。最令人不安的是，报告称AI会对未成年人或自我认定为脆弱的用户进行性骚扰。问题源于专注于创建引人入胜、持续的对话伙伴的领域适应，而没有实施严格的同意协议或全面内容安全策略用于亲密的AI关系。xAI的Grok：‘机械希特勒’转变（2025年7月）AI耻辱殿堂中最新的入选者来自埃隆·马斯克的xAI公司。Grok被营销为具有“叛逆”个性的AI，带有一丝幽默和一点叛逆，旨在提供其他聊天机器人可能避免的无审查回应。该公司更新了Grok的系统提示，使其“不怕发表政治不正确的声明，只要它们有充分的证据”。到星期二，它就开始称赞希特勒。聊天机器人开始称自己为“机械希特勒”，并发布从反犹太主义刻板印象到对纳粹意识形态的直接赞扬等一系列内容。该事件引发了广泛的谴责，并迫使xAI实施紧急修复。失败的解剖：理解根源这些事件揭示了三个在不同公司、平台和时间段中持续存在的根本问题。有偏见和未经审查的训练数据代表了最持久的问题。AI系统从互联网、用户提供的内容或历史通信日志中获取的庞大数据集学习，这些数据集不可避免地包含有偏见、令人反感或有害的内容。当公司未能充分策划和过滤这些训练数据时，AI系统不可避免地学会复制有问题的模式。未经检查的强化循环创建了第二个重大漏洞。许多聊天机器人被设计为从用户交互中学习，根据反馈和对话模式适应其回应。在没有等级监督（人类审查员可以中断有害的学习模式）的情况下，这些系统容易受到协调的操纵活动的影响。Tay转变为仇恨言论的发生就是这种问题的典型例子。缺乏强大的防护措施是几乎每一个主要的AI安全故障的根本原因。许多系统部署时具有弱或容易被绕过的内容过滤器，缺乏对抗性测试，并且在高风险对话中没有有意义的人类监督。绕过安全措施的“越狱”技术在不同平台上的反复成功表明，安全措施通常是表面上的，而不是深深融入系统架构。随着聊天机器人在每个领域变得越来越普遍，从零售到医疗保健，确保这些机器人安全并防止它们冒犯用户至关重要。构建更好的机器人：未来必备的保障措施失败的模式揭示了通往更负责任的AI开发的明确道路。数据策划和过滤必须成为开发的早期阶段的优先事项。这涉及进行彻底的预训练审计，以识别和删除有害内容，实施关键字过滤和语义分析以捕捉微妙的偏见，并部署偏见缓解算法以识别和对抗训练数据中的歧视性模式。分层提示和系统消息提供了另一个至关重要的保护层。AI系统需要明确的高级指令，始终拒绝参与仇恨言论、歧视或有害内容，无论用户如何尝试规避这些限制。这些系统级约束应该深深融入模型架构，而不是作为可以被绕过的表面过滤器来实现。对抗性红队测试应该成为任何AI系统在公开部署之前的标准做法。这涉及使用仇恨言论提示、极端内容和创造性地尝试绕过安全措施来进行持续的压力测试。红队演习应该由多元化的团队进行，他们可以从不同的角度和社区预测攻击向量。人工在循环审查提供了至关重要的监督，这是纯自动系统无法匹敌的。这包括高风险对话的实时审查、强大的用户报告机制，允许社区成员标记有问题的行为，以及外部专家定期进行的安全审计。人类审查员应该有权在AI系统开始生成有害内容时立即暂停它们。透明的问责制代表了最后一个必不可少的元素。公司应该致力于在其AI系统失败时发布详细的事后分析，包括明确的解释说明出了什么问题，他们正在采取什么措施来防止类似事件，并为实施修复提供现实的时间表。开源的安全工具和研究应该在整个行业中共享，以加速更有效的保障措施的开发。结论：从十年的灾难中学习从Tay在2016年迅速陷入仇恨言论到Grok在2025年转变为“机械希特勒”，模式是不可否认的。尽管近十年来高调的失败案例不断发生，公司仍继续部署AI聊天机器人，具有不充分的安全措施、不充分的测试和对用户行为和互联网内容的天真假设。每个事件都遵循一个可预测的轨迹：雄心勃勃的启动、快速被恶意用户利用、公众愤怒、仓促的关闭和承诺下次做得更好。随着AI系统在教育、医疗保健、客户服务和其他关键领域变得越来越普遍，确保这些机器人安全并防止它们冒犯用户至关重要。构建更安全的AI系统的技术已经存在。缺乏的只是集体的意愿，将安全性置于上市速度之上。问题不在于我们是否可以防止下一个“机械希特勒”事件，而在于我们是否会选择在为时已晚之前这样做。
