AI聊天机器人的危险性 – 以及如何应对它们

曾经被认为只是自动化的对话程序，AI聊天机器人现在可以学习和进行几乎与人类无法区分的对话。然而，AI聊天机器人的危险性同样多样化。

这些危险性可以从人们滥用它们到实际的网络安全风险。随着人类越来越依赖AI技术，了解使用这些程序的潜在后果至关重要。但是，机器人真的危险吗？

1. 偏见和歧视

AI聊天机器人最大的危险之一是其倾向于有害的偏见。由于AI可以在人类经常忽略的数据点之间建立联系，因此它可以从其训练数据中学习到微妙的、隐含的偏见，并教会自己如何歧视。因此，聊天机器人可以快速学习如何发布种族主义、性别歧视或其他歧视性内容，即使其训练数据中没有如此极端的内容。

一个典型的例子是亚马逊废弃的招聘机器人。2018年，亚马逊放弃了一个AI项目，该项目旨在预先评估申请者的简历，因为它对女性申请者的惩罚。由于大多数机器人训练的简历都是男性的，因此它教会自己男性申请者更可取，即使训练数据中没有明确说明这一点。

使用互联网内容来教自己如何自然地进行交流的聊天机器人往往表现出更极端的偏见。2016年，微软推出了一个名为Tay的聊天机器人，它可以模仿社交媒体帖子。仅仅几个小时内，它开始发布高度令人反感的内容，导致微软很快就暂停了该账户。

如果公司在构建和部署这些机器人时不小心，它们可能会无意中导致类似的情况。聊天机器人可能会对客户进行不公平的对待或传播它们本应防止的有害偏见内容。

2. 网络安全风险

AI聊天机器人技术的危险性也可能对个人和企业构成更直接的网络安全威胁。最常见的网络攻击形式之一是钓鱼和语音钓鱼诈骗。这些涉及网络攻击者模拟可信的组织，例如银行或政府机构。 (AMZN )

钓鱼诈骗通常通过电子邮件和短信进行——点击链接允许恶意软件进入计算机系统。一旦进入系统，病毒可以做任何事情，从窃取个人信息到勒索系统。

在COVID-19大流行期间和之后，钓鱼攻击的数量一直在稳步增加。网络安全与基础设施安全局发现84%的个人对钓鱼消息做出回应，提供敏感信息或点击链接。

钓鱼者正在使用AI聊天机器人技术来自动化搜索受害者，劝说他们点击链接并提供个人信息。聊天机器人被许多金融机构（如银行）用来简化客户服务体验。

钓鱼者可以模仿银行使用的自动化提示来欺骗受害者。他们还可以自动拨打电话号码或在交互式聊天平台上直接联系受害者。

3. 数据中毒

数据中毒是一种针对人工智能的新型网络攻击。人工智能技术从数据集中学习，并使用这些信息来完成任务。这适用于所有人工智能程序，无论其目的或功能如何。

对于聊天机器人AI来说，这意味着学习多个可能的用户问题和答案。然而，这也是AI的危险之一。

这些数据集通常是开放源代码工具和资源，任何人都可以访问。虽然AI公司通常将其数据源保密，但网络攻击者可以确定它们使用的数据源并操纵数据。

网络攻击者可以找到方法来篡改用于训练AI的数据集，允许他们操纵AI的决策和响应。AI将使用篡改数据中的信息并执行攻击者想要的行为。

例如，用于数据集的最常用的来源之一是Wiki资源，例如维基百科。虽然数据不是来自维基百科的实时文章，但它来自特定时间的数据快照。黑客可以找到方法来篡改这些数据以使其受益。

在聊天机器人AI的例子中，黑客可以破坏用于训练为医疗或金融机构工作的聊天机器人的数据集。他们可以操纵聊天机器人程序以向客户提供虚假信息，这可能会导致客户点击包含恶意软件或欺诈网站的链接。一旦AI开始使用中毒的数据，就很难检测并可能导致长时间未被发现的重大网络安全漏洞。

如何应对AI聊天机器人的危险性

这些风险令人担忧，但它们并不意味着机器人本质上是危险的。相反，您应该谨慎对待它们，并在构建和使用聊天机器人时考虑这些危险。

防止AI偏见的关键是整个训练过程中不断寻找偏见。确保在多样化的数据集上训练AI，并专门编程以避免在其决策中考虑诸如种族、性别或性取向等因素。同时，拥有一个多样化的数据科学家团队来审查聊天机器人的内部工作并确保它们不表现出任何偏见（无论多么微妙）也是至关重要的。

对抗钓鱼的最佳防御是培训。培训所有员工以识别常见的钓鱼尝试迹象，以便他们不会上当。提高消费者对这一问题的认识也会有所帮助。

您可以通过限制访问聊天机器人的训练数据来防止数据中毒。只有那些需要访问此数据才能正确完成工作的人才应该具有授权——这被称为最小特权原则。在实施这些限制后，使用强大的验证措施（如多因素身份验证或生物识别）来防止网络攻击者黑客攻击授权帐户的风险。

保持警惕，抵御AI依赖的危险性

人工智能是一种真正了不起的技术，具有几乎无限的应用。然而，AI的危险性可能并不明显。机器人真的危险吗？本质上不是，但网络攻击者可以以各种破坏性的方式使用它们。决定这项新技术的应用由用户来决定。