黑客如何使用人工智能

人工智能已经证明自己是全球经济中的一项价值增加技术。

随着企业在过去几年中努力适应当前事件，一些企业找到了在较短的时间内实现数年数字转型的方法 – 例如Frito-Lay – 数字转型的时间被压缩了。哈里斯民意调查和Appen发现，人工智能预算在全球大流行期间增加了55%。

像任何工具一样，人工智能本身没有固有的道德价值。人工智能的有用性或潜在危害取决于系统“学习”的方式以及人类最终如何使用它。

一些利用人工智能的尝试 – 例如“预测”犯罪之前会发生什么 – 表明，在有偏见的数据上训练的模型往往会复制人类的缺陷。到目前为止，使用美国司法系统的数据训练人工智能已经导致了悲剧性的 有偏见的人工智能推理。

在其他例子中，人类选择更有意图地利用人工智能的破坏潜力。黑客正在展示他们的创新倾向，使用人工智能来提高他们的攻击范围、有效性和盈利能力。随着 网络战在全球范围内变得越来越普遍，我们肯定会看到人工智能在黑客攻击中的应用进一步发展。

人工智能既是机会也是风险

人工智能为希望改进预测、业务优化和客户留存策略的企业提供了一个充满可能性的世界。对于那些试图损害他人数字主权的人来说，它也是一个福音。

以下是人工智能可能容易受到隐蔽篡改和更明显的努力以将其转向攻击性行动的几种方式。

1. 破坏机器逻辑

人工智能对消费者和商业企业的主要优势在于，它可以在没有人类干预的情况下执行可预测和可重复的逻辑行为。这也是它最大的弱点。

像任何其他数字构造一样，人工智能可能容易受到外部力量的渗透。黑客可以访问和破坏人工智能背后的机器逻辑，导致人工智能执行不可预测或有害的行为。例如，负责工业条件监测的人工智能可能会提供错误的读数或让维护提示未被送达。

由于人工智能投资的全部目的就是消除人类干预和质疑结果，因此这种类型的攻击可能不会被注意到，直到发生灾难性故障。

2. 利用逆向工程算法

另一个潜在的危害途径 – 特别是在知识产权（IP）和消费者或商业数据方面 – 是逆向工程的概念。黑客甚至可以窃取人工智能代码本身。有足够的时间来研究它的工作原理，他们最终可以 揭示用于训练人工智能的数据集。

这可能会导致几个结果，首先是人工智能中毒。其他例子可能涉及黑客利用人工智能训练数据本身来获取有关市场、竞争对手、政府、供应商或一般消费者的损害信息。

3. 了解预期目标

监视目标可能是人工智能落入黑客手中最令人不安的含义之一。人工智能可以根据一些最不可能的数据点对个人、团队和团体的能力、知识领域、性格和容易受到针对、欺诈或虐待的可能性得出结论，这让一些网络安全专家感到特别担忧。

人工智能可以消化和 根据一些最不可能的数据点对人们、团队和团体做出惊人的详细结论。一个“参与”或“分心”的个人可能会快速输入、摆弄鼠标或快速在浏览器选项卡之间切换。一个“困惑”或“犹豫”的用户可能会在点击页面元素之前暂停或多次访问多个网站。

在合适的手中，这些线索可以帮助人力资源部门提高员工参与度或帮助营销团队完善他们的网站和销售漏斗。

对于黑客来说，这些信号可能会导致对预期目标的惊人细致的心理画像。网络犯罪者可能能够根据对人类来说不可见的提示判断哪些人可能容易受到钓鱼、短信诈骗、勒索软件、金融欺诈和其他类型的危害。它还可能帮助恶意行为者学习如何最好地说服他们的目标相信他们的欺诈尝试来自合法来源。

4. 探测网络漏洞

网络安全专业人员在2021年发布了20,175个已知的安全漏洞数据。这比2020年有17,049个此类漏洞有所增加。

世界变得越来越数字化相互连接 – 有些人会说是相互依赖 – 每小时都在增加。世界现在拥有大量的小型和工业网络，数十亿的设备在线，更多的设备即将上线。从条件监测传感器到企业规划软件，所有东西都在线了。

人工智能在帮助网络安全团队快速探测网络、软件和硬件漏洞方面显示出希望，比人类单独更快。但数字基础设施的增长速度和规模意味着几乎不可能在数万行代码中搜索安全漏洞来修复所有这些都必须在系统在线时完成，因为停机时间的成本太高。

如果人工智能在这里是一种网络安全工具，那么它也是双刃剑。黑客可以像“白帽”IT人员一样使用相同的机制来更高效地探测网络、软件和固件中的漏洞，而不是人类IT专家。

数字军备竞赛

网络犯罪中的人工智能应用太多，无法一一列举，但以下是几个例子：

• 黑客可以在一个本质上是良性的应用程序中隐藏人工智能代码，当检测到预定触发器或阈值时，执行恶意行为。
• 恶意人工智能模型可用于确定凭据或IT管理功能通过监视生物识别输入，例如指纹和语音识别。
• 即使最终未能成功的网络攻击，配备人工智能的黑客也可能能够使用机器学习来确定什么出了错以及下次可以做什么不同的事情。

似乎只需要一个关于黑客入侵一辆行驶中的吉普车的故事就可以减慢自动驾驶汽车的发展速度。一个高调的黑客事件，人工智能是关键，可能会导致公众对人工智能的看法产生类似的侵蚀。一些民意调查显示，普通美国人已经对人工智能的好处持怀疑态度。

无处不在的计算带来了网络安全风险 – 而白帽和黑帽黑客都知道这一点。人工智能可以帮助保持我们的在线生活安全，但它也是新的数字军备竞赛的中心。