人工智能聊天机器人的危险——以及如何应对

曾经被认为只是自动对话程序的人工智能聊天机器人现在可以学习并进行与人类几乎没有区别的对话。 然而，人工智能聊天机器人的危险也同样多种多样。

这些范围从人们滥用它们到实际的网络安全风险。 随着人类越来越依赖人工智能技术，了解使用这些程序的潜在影响至关重要。 但机器人危险吗？

1. 偏见和歧视

人工智能聊天机器人的最大危险之一是它们倾向于产生有害的偏见。 由于人工智能在人类经常错过的数据点之间建立了联系，因此它可以在训练数据中发现微妙的、隐含的偏见，从而教会自己具有歧视性。 因此，聊天机器人可以很快学会喷出种族主义、性别歧视或其他歧视性内容，即使其训练数据中没有那么极端的内容。

一个典型的例子是亚马逊废弃的招聘机器人。 2018年，有消息称亚马逊 放弃了一个人工智能项目 旨在预先评估申请人的简历，因为它对女性的申请不利。 由于机器人接受训练的大部分简历都是男性的，因此它告诉自己，男性申请人更受欢迎，即使训练数据没有明确说明这一点。

使用互联网内容自学如何自然交流的聊天机器人往往会表现出更极端的偏见。 2016 年，微软推出了一款名为 Tay 的聊天机器人，它学会了模仿社交媒体帖子。 几个小时之内，它 开始在推特上发布高度攻击性的内容，导致微软不久后暂停了该账户。

如果公司在构建和部署这些机器人时不小心，可能会意外地导致类似的情况。 聊天机器人可能会虐待客户或传播他们本应阻止的有害偏见内容。

2. 网络安全风险

人工智能聊天机器人技术的危险也可能对个人和企业构成更直接的网络安全威胁。 最常见的网络攻击形式之一是网络钓鱼和网络钓鱼诈骗。 这些涉及 网络攻击者模仿受信任的组织 例如银行或政府机构。

网络钓鱼诈骗通常通过电子邮件和短信进行——点击链接就会允许恶意软件进入计算机系统。 一旦进入，病毒就可以做任何事情，从窃取个人信息到劫持系统勒索赎金。

在 COVID-19 大流行期间和之后，网络钓鱼攻击的发生率一直在稳步上升。 网络安全和基础设施安全局 找到了 84% 的人 回复包含敏感信息的网络钓鱼邮件或点击链接。

网络钓鱼者正在使用人工智能聊天机器人技术自动搜索受害者，说服他们点击链接并放弃个人信息。 许多金融机构（例如银行）都使用聊天机器人来简化客户服务体验。

聊天机器人网络钓鱼者可以模仿银行用来欺骗受害者的相同自动提示。 他们还可以自动拨打电话号码或直接在互动聊天平台上联系受害者。

3.数据中毒

数据中毒是一种新构思的直接针对人工智能的网络攻击。 人工智能技术从数据集中学习并使用该信息来完成任务。 所有人工智能程序都是如此，无论其目的或功能如何。

对于聊天机器人人工智能来说，这意味着学习对用户可能向他们提出的问题的多种回答。 然而，这也是人工智能的危险之一。

这些数据集通常是任何人都可以使用的开源工具和资源。 尽管人工智能公司通常对其数据源严格保密，但网络攻击者可以确定他们使用哪些数据源并操纵数据。

网络攻击者可以找到方法 篡改数据集 用于训练人工智能，让它们能够操纵自己的决定和反应。 人工智能将使用来自更改数据的信息并执行攻击者想要的行为。

例如，最常用的数据集来源之一是 Wiki 资源，例如维基百科。 虽然数据并非来自实时维基百科文章，但它来自特定时间拍摄的数据快照。 黑客可以找到一种方法来编辑数据以使他们受益。

就聊天机器人人工智能而言，黑客可能会破坏用于训练医疗或金融机构聊天机器人的数据集。 他们可以操纵聊天机器人程序向客户提供虚假信息，从而导致他们点击包含恶意软件或欺诈网站的链接。 一旦人工智能开始提取有毒数据，就很难检测到，并且可能会导致网络安全方面的重大漏洞，而这种漏洞在很长一段时间内都不会被注意到。

如何解决人工智能聊天机器人的危险

这些风险令人担忧，但并不意味着机器人本质上是危险的。 相反，您应该谨慎对待它们，并在构建和使用聊天机器人时考虑这些危险。

防止人工智能偏见的关键是在整个训练过程中寻找它。 确保在不同的数据集上对其进行训练，并对其进行专门编程，以避免在决策中考虑种族、性别或性取向等因素。 最好还有一个多元化的数据科学家团队来审查聊天机器人的内部运作，并确保它们不会表现出任何偏见，无论多么微妙。

抵御网络钓鱼的最佳防御方法是培训。 培训所有员工发现 网络钓鱼尝试的常见迹象 所以他们不会落入这些攻击的陷阱。 提高消费者对这个问题的认识也将有所帮助。

您可以通过限制对聊天机器人训练数据的访问来防止数据中毒。 只有需要访问这些数据才能正确完成工作的人才应该获得授权——这一概念称为最小特权原则。 实施这些限制后，使用多因素身份验证或生物识别等强大的验证措施来防止网络犯罪分子侵入授权帐户的风险。

对依赖人工智能的危险保持警惕

人工智能是一项真正奇妙的技术，有着几乎无穷无尽的应用。 然而，人工智能的危险可能并不明显。 机器人危险吗？ 本质上并非如此，但网络犯罪分子可以以各种破坏性方式使用它们。 这项新技术的应用范围由用户决定。