黑客如何利用人工智能

发布时间 2022 年 5 月 23 日

扎克·阿莫斯

人工智能已证明自己是全球经济中的一项增值技术。

随着过去几年企业发现自己在努力适应时事，其中一些企业找到了方法来填补五年的价值—— 以菲多利为例 – 数字化转型的时间要短得多。哈里斯民意调查和澳鹏发现 AI 预算增加 55% 在全球大流行期间.

与任何工具一样，人工智能没有天生的道德价值。人工智能的有用性或潜在危害取决于系统如何“学习”以及人类最终用它做什么。

一些利用人工智能的尝试——例如在犯罪发生之前“预测”犯罪——表明根据有偏见的数据训练的模型往往会复制人类的缺点。到目前为止，使用美国司法系统的数据训练人工智能已经导致了悲惨的结果带有偏见的人工智能推理.

在其他例子中，人类选择更审慎的方式来利用人工智能的破坏潜力。黑客利用人工智能来提高攻击范围、有效性和盈利能力，再次展现出他们的创新倾向。并作为网络战变得越来越普遍在全球范围内，我们肯定会看到人工智能在黑客领域的应用进一步发展。

人工智能是机遇也是风险

人工智能为希望改进预测、业务优化和客户保留策略的企业提供了无限可能。对于那些意图损害他人数字主权的人来说，这也是一笔意外之财。

以下是人工智能可能容易受到谨慎篡改和更公开的努力使其转向攻击性行为的几种方式。

对于消费者和商业企业来说，人工智能的主要优势在于它可以在没有人为干扰的情况下执行可预测和可重复的逻辑行为。这也是它最大的弱点。

与任何其他数字结构一样，人工智能可能容易受到外部力量的渗透。访问并破坏人工智能的机器逻辑的黑客可能会导致其执行不可预测或有害的操作。例如，负责工业状态监测的人工智能可能会提供错误的读数或让维护 ping 无法发送。

由于人工智能投资的全部目的是消除人为干预和事后猜测结果，因此这种性质的攻击对基础设施或产品质量造成的损害可能直到发生灾难性故障时才会被注意到。

另一个潜在的危害途径——尤其是在涉及知识产权 (IP) 和消费者或商业数据时——是逆向工程的概念。黑客甚至可能窃取人工智能代码本身。如果有足够的时间来研究它是如何工作的，他们最终可以揭示所使用的数据集首先训练人工智能。

这可能会引发几个结果，其中第一个就是人工智能中毒。其他例子可能涉及黑客利用人工智能训练数据本身来收集有关市场、竞争对手、政府、供应商或普通消费者的有害信息。

监视目标可能是人工智能落入黑客手中最令人不安的影响之一。事实证明，人工智能能够对一个人的能力、知识领域、性格以及成为目标、欺诈或滥用行为受害者的可能性做出结论，这让一些网络安全专家特别担心。

人工智能可以摄取并得出令人惊讶的详细结论基于一些最不可能的数据点来了解人员、团队和团体。 “全神贯注”或“心烦意乱”的人可能会快速打字、摆弄鼠标或在浏览器选项卡之间快速移动。 “困惑”或“犹豫”的用户可能会在单击页面元素或重新访问多个站点之前暂停。

在正确的人手中，诸如此类的提示可以帮助人力资源部门提高员工敬业度或帮助营销团队完善他们的网站和销售渠道。

对于黑客来说，此类信号可能会导致对预期目标产生令人惊讶的细致入微的心理特征。网络犯罪分子或许能够根据人类看不见的提示来判断哪些人可能容易受到网络钓鱼、诈骗、勒索软件、金融欺诈和其他类型的伤害。它还可能帮助不良行为者学习如何最好地说服他们的目标，他们的欺诈企图来自合法来源。

网络安全专业人士发布的数据 20,175 年已知安全漏洞 2021 个。这比 2020 年有所增加，当时此类漏洞数量为 17,049 个。

世界的数字化互联程度越来越高——有些人会说是相互依存的——每时每刻。现在，世界上拥有数量惊人的小型工业网络，有数十亿台在线联网设备，而且还有更多设备正在涌现。从状态监测传感器到企业规划软件，一切都在线。

人工智能在以下领域展现出前景快速帮助网络安全团队比人类单独探测网络、软件和硬件漏洞的速度更快。地球数字基础设施增长的速度和规模意味着几乎不可能搜索数万亿行代码来寻找要修补的安全漏洞。由于停机成本，这一切都必须在这些系统在线时进行。

如果人工智能在这里是一种网络安全工具，那么它也是一把双刃剑。黑客可以使用与“白帽”IT 人群相同的机制来执行相同的工作：比人类 IT 专家更有效地探测网络、软件和固件的漏洞。

网络犯罪中的人工智能应用太多，无法一一列举，但以下是更多：

似乎只需要一个恰到好处的故事在吉普车行驶时对其进行黑客攻击减缓自动驾驶汽车的开发速度。一次以人工智能为关键的引人注目的黑客攻击可能会导致公众舆论受到类似的侵蚀。一些民意调查显示，美国人的平均水平是对人工智能的好处非常怀疑已。

无所不在的计算伴随着网络安全风险——白帽和黑帽黑客都知道这一点。人工智能可以帮助确保我们的在线生活安全，但它也是新的数字军备竞赛的中心。