企业是否准备好面对下一波人工智能驱动的网络攻击？

分析当前趋势可以让专家预测网络犯罪者将如何在未来利用人工智能。有了这些信息，他们可以确定最大的新兴威胁，并确定企业是否做好准备。他们甚至可能能够找到解决方案。

近年来人工智能威胁的现状

虽然人工智能技术相对较新，但它已经成为黑客的重要工具。这些趋势表明，人工智能网络攻击正在增加。

1. 模型篡改

通过直接针对大型语言模型（LLM），威胁者可以操纵模型行为，降低输出准确性或暴露个人可识别的训练数据。数据中毒和提示工程是常见的攻击技术。
一些攻击由寻求制造混乱或窃取敏感信息的威胁者发起。其他攻击由想要保护其艺术作品免受人工智能抓取的不满艺术家管理。无论如何，公司及其最终用户都受到不利影响。

2. 冒充攻击

2024年，法拉利高管收到几条来自CEO贝内德托·维尼亚（Benedetto Vigna）的WhatsApp消息。维尼亚谈到了一项即将发生的收购，并敦促他的员工签署一份保密协议。他甚至打电话讨论资金。问题是——那不是他。
深度伪造几乎完美，异常出色地模仿了维尼亚的南意大利口音。然而，声音中的微小不一致性使高管怀疑这是一个骗局。员工询问维尼亚几天前推荐的一本书的标题，这是一个只有真正的CEO才知道答案的问题。骗子立即挂断了电话。
人工智能可以克隆一个人的声音、浏览行为、写作风格和相似之处。随着该技术的进步，识别深度伪造变得越来越困难。骗子经常将目标置于紧急情况下，以防止他们质疑小的不一致性。

3. 人工智能钓鱼

过去，一个人可以通过寻找糟糕的语法、可疑的链接、通用问候和不恰当的请求来识别钓鱼邮件。现在，具有自然语言处理技术的黑客可以制作出有完美语法的可信消息。
研究人员发现，完全自动化的人工智能启用的鱼叉式钓鱼邮件有54%的点击率，这与人类撰写的钓鱼邮件相当。由于这些骗局更具说服力，因此它们变得越来越普遍。研究发现，超过80%的钓鱼邮件显示出人工智能的参与。

4. 社会工程

社会工程涉及操纵某人采取行动或泄露信息。人工智能使黑客能够更快地响应并制作更具说服力的消息。任何自然语言处理模型都可以进行语义分析以识别收件人的情绪状态，使他们更有可能屈服。
除了增强社会工程技术外，机器学习技术还降低了传统的进入壁垒，使新手能够开展复杂的活动。如果任何人都可以成为网络犯罪者，那么任何人都可以成为目标。

数据驱动的AI攻击的下一波

2026年初，预计人工智能攻击将保持在低成熟度水平。然而，随着年份的推进，它们将指数级地发展，从而使网络犯罪者能够进入优化、部署和扩展阶段。他们很快将能够启动完全自动化的活动。确认的人工智能网络攻击的例子不会很快变得罕见。
多态恶意软件是一种人工智能启用的病毒，每次复制时都可以更改其代码以避免检测。攻击者可以通过人工智能生态系统传递有效载荷，调用大型语言模型以生成命令，或者直接将病毒嵌入大型语言模型中。谷歌威胁情报小组于2025年首次发现对手部署了这种恶意软件。
恶意软件家族是PROMPTFLUX和PROMPTSTEAL。在执行期间，它们使用大型语言模型请求VBScript混淆和规避技术。它们通过对自己的代码进行混淆来规避基于签名的检测。
证据表明，这些威胁仍处于测试阶段——一些不完整的功能被注释掉，应用程序接口调用受到限制。这些初生的人工智能恶意软件家族可能仍处于开发中，但它们的存在代表着朝着自主、自适应攻击技术方向迈出的一大步。
纽约大学坦登研究表明，大型语言模型已经可以自主执行勒索软件攻击，被称为勒索软件3.0。它们可以进行侦察、生成有效载荷和个性化勒索，而无需人类干预。它只需要在二进制文件中嵌入自然语言提示。该模型产生了多态变体，这些变体可以通过在运行时动态生成恶意代码来适应执行环境。

企业是否准备好应对AI攻击？

尽管在网络安全方面投入了数十亿美元，私营企业仍然难以跟上不断演变的威胁格局。机器学习技术可能会使现有的检测和响应软件过时，从而使防御更加复杂。并且，许多企业无法达到基本的安全标准，这并没有帮助。
2024年DIB网络安全成熟度报告调查了美国国防工业基地（DIB）的400名信息技术专业人员。超过一半的受访者报告称，他们距离网络安全成熟度模型认证（CMMC）2.0合规还有几年，尽管等效的NIST 800-171合规性自2016年以来已在国防部（DoD）合同中概述。许多人认为他们的安全态势比实际情况更好。
新的CMMC要求于2025年11月10日生效。在未来，所有DoD合同都将要求某种程度的CMMC合规作为合同奖励的条件。这些新规则旨在加强DIB网络安全，但它们在人工智能时代是否会有效？

防御性AI是否是答案？

也许唯一能对抗不可避免的AI攻击浪潮的方法是以其人之道还治其人。有了防御性AI，组织可以实时动态响应威胁。然而，这种方法也带来了自身的安全漏洞——保护模型免受篡改需要持续的监督和审计。
根据哈佛商业评论，传统解决方案使企业容易受到AI网络攻击。要实现网络安全韧性，它们必须使用机器学习技术来预测和自动响应威胁。
没有简单的答案来说明防御性AI是否是解决这个问题的解决方案。公司是否应该将资源投入到部署未经验证的机器学习工具或扩大其信息技术团队？不可能预测哪项投资将在长期内带来回报。
大型企业可能会在自动化网络安全方面看到显著的回报，而小型企业可能难以证明成本的合理性。传统的自动化技术可能会以更低的价格填补这一空白，但它无法应对动态威胁。
信息安全论坛CEO史蒂夫·杜宾（Steve Durbin）表示，人工智能的采用具有显著的好处，但也存在重大缺点。例如，企业经常会出现大量的假阳性警报，这会浪费安全团队的时间。此外，过度依赖人工智能可能会导致团队过度自信，从而导致安全漏洞。

在AI威胁格局中导航

不可能确定人工智能在威胁格局中的确切范围，因为攻击者可以利用它来创建恶意代码或撰写钓鱼邮件，而不是在运行时使用它。单独的网络犯罪者和国家支持的威胁团体都可能在大规模使用它。
根据现有的信息，模型篡改、人工智能钓鱼和多态恶意软件将是2026年最大的网络威胁。网络犯罪者可能会继续使用大型语言模型来生成、传递和适应恶意有效载荷，针对高价值行业，如金融，以及普通人。