AI 聊天机器人的危险 – 以及如何对抗它们

曾经被认为只是自动化的说话程序，AI 聊天机器人现在可以学习和进行几乎与人类无法区分的对话。然而，AI 聊天机器人的危险同样多样。

这些危险可以从人们滥用它们到实际的网络安全风险。随着人类越来越依赖 AI 技术，了解使用这些程序的潜在后果是至关重要的。但是，机器人是否危险?

1. 偏见和歧视

AI 聊天机器人最大的危险之一是它们倾向于有害偏见。因为 AI 可以在人类经常忽略的数据点之间建立联系，因此它可以从其训练数据中学习到微妙的、隐含的偏见，并教会自己成为歧视性内容。因此，聊天机器人可以快速学习到种族主义、性别歧视或其他歧视性内容，即使其训练数据中没有如此极端的内容。

一个典型的例子是亚马逊的废弃招聘机器人。在 2018 年，亚马逊 放弃了一个 AI 项目，该项目旨在预先评估申请者的简历，因为它正在惩罚女性申请者的申请。由于大多数机器人训练的简历来自男性，因此它教会自己认为男性申请者更可取，即使训练数据中没有明确说明这一点。

使用互联网内容来教自己如何自然地进行交流的聊天机器人往往表现出更极端的偏见。在 2016 年，微软推出了一个名为 Tay 的聊天机器人，它学会了模仿社交媒体帖子。仅仅几个小时内，它 开始发布高度令人反感的内容，导致微软很快暂停了该账户。

如果公司在构建和部署这些机器人时不小心，他们可能会无意中导致类似的情况。聊天机器人可能会虐待客户或传播它们本应防止的有害偏见内容。

2. 网络安全风险

AI 聊天机器人技术的危险也可以对个人和企业构成更直接的网络安全威胁。最常见的网络攻击形式之一是钓鱼和语音钓鱼骗局。这些涉及 网络攻击者模拟受信任的组织，例如银行或政府机构。

钓鱼骗局通常通过电子邮件和短信运作 —— 点击链接允许恶意软件进入计算机系统。一旦进入，病毒可以做任何事情，从窃取个人信息到勒索系统。

在和 после COVID-19 大流行期间，钓鱼攻击的数量一直在稳步增加。网络安全与基础设施安全局 发现 84% 的个人 回复了钓鱼消息，提供了敏感信息或点击了链接。

钓鱼者正在使用 AI 聊天机器人技术来自动化搜索受害者，说服他们点击链接并提供个人信息。聊天机器人被许多金融机构（如银行）用来简化客户服务体验。

钓鱼者可以模拟银行使用的自动提示来欺骗受害者。他们还可以自动拨打电话号码或直接在交互式聊天平台上联系受害者。

3. 数据中毒

数据中毒是一种新概念的网络攻击，直接针对人工智能。AI 技术从数据集学习，并使用这些信息来完成任务。这适用于所有 AI 程序，无论其目的或功能如何。

对于聊天机器人 AI 来说，这意味着学习多个可能的用户问题的响应。然而，这也是 AI 的危险之一。

这些数据集通常是开放源代码工具和资源，任何人都可以访问。虽然 AI 公司通常将其数据源保密，但网络攻击者可以确定他们使用的数据源并操纵数据。

网络攻击者可以找到方法 篡改用于训练 AI 的数据集，允许他们操纵其决策和响应。AI 将使用篡改数据中的信息并执行攻击者想要的行为。

例如，数据集最常用的来源之一是 Wiki 资源，如维基百科。虽然数据不来自维基百科的实时文章，但它来自特定时间的数据快照。黑客可以找到方法来编辑数据以使其受益。

在聊天机器人 AI 的情况下，黑客可以破坏用于训练为医疗或金融机构工作的聊天机器人的数据集。他们可以操纵聊天机器人程序以向客户提供虚假信息，这可能会导致他们点击包含恶意软件或欺诈网站的链接。一旦 AI 开始从中毒的数据中获取信息，很难检测到并可能导致长时间未被发现的重大网络安全漏洞。

如何应对 AI 聊天机器人的危险

这些风险令人担忧，但它们并不意味着机器人本质上是危险的。相反，您应该谨慎地对待它们，并在构建和使用聊天机器人时考虑这些危险。

防止 AI 偏见的关键是整个训练过程中都要寻找偏见。确保在多样化的数据集上训练它，并专门编程它以避免在决策中考虑诸如种族、性别或性取向等因素。同时，拥有一个多样化的数据科学家团队来审查聊天机器人的内部工作并确保它们不会表现出任何偏见（无论多么微妙）也是最好的选择。

对抗钓鱼的最佳防御是培训。培训所有员工以识别 常见的钓鱼尝试迹象，以便他们不会上当。提高消费者对该问题的认识也会有所帮助。

您可以通过限制聊天机器人训练数据的访问来防止数据中毒。只有那些需要访问此数据才能正确完成工作的人应该具有授权 —— 这被称为最小特权原则。在实施这些限制后，使用强大的验证措施（如多因素身份验证或生物识别）来防止网络攻击者黑客攻击授权帐户的风险。

保持警惕以对抗 AI 依赖的危险

人工智能是一种真正了不起的技术，具有几乎无限的应用。然而，AI 的危险可能并不明显。机器人是否危险？本质上不是，但网络攻击者可以以各种破坏性的方式使用它们。它取决于用户来决定这项新技术的应用是什么。