企业是否准备好应对下一波人工智能驱动的网络攻击？

分析当前趋势可以让专家预测网络犯罪者将如何在未来利用人工智能。有了这些信息，他们可以确定最大的新兴威胁，并确定企业是否已做好准备。他们甚至可能能够找出解决方案。

近年来人工智能威胁的现状

虽然人工智能技术相对较新，但它已经成为黑客的重要工具。这些趋势表明，人工智能网络攻击正在增加。

1. 模型篡改

通过直接针对大型语言模型（LLM），威胁者可以操纵模型行为，降低输出准确性或暴露个人可识别的训练数据。数据中毒和提示工程是常见的攻击技术。

有些攻击是由寻求制造混乱或窃取敏感信息的威胁者发起的。其他攻击是由不满的艺术家发起的，他们希望保护自己的艺术作品免受人工智能的爬取。无论如何，公司和其最终用户都受到不利影响。

2. 冒充攻击

2024年，法拉利的一位高管收到了几条来自CEO本笃托·维尼亚（Benedetto Vigna）的WhatsApp消息。维尼亚谈到了即将发生的收购，并敦促他的员工签署一份保密协议。他甚至打电话讨论资金问题。但是，有一个问题——那不是他。

深度伪造几乎完美，非常好地模仿了维尼亚的南意大利口音。然而，声音中的微小不一致性使得高管怀疑这是一个骗局。员工问了维尼亚几天前推荐的一本书的标题，这是一个只有真正的CEO才知道答案的问题。骗子立即挂断了电话。

人工智能可以克隆一个人的声音、浏览行为、写作风格和相似之处。随着该技术的进步，识别深度伪造变得越来越困难。骗子经常将目标置于紧急情况下，以防止他们质疑微小的差异。

3. 人工智能钓鱼

过去，一个人可以通过寻找语法错误、可疑链接、通用问候和不当请求来识别钓鱼邮件。现在，通过自然语言处理技术，黑客可以制作出具有无可挑剔的语法的可信消息。

研究人员发现，完全自动化的人工智能启用的鱼叉式钓鱼邮件的点击率为54%，这与由人类撰写的钓鱼邮件相当。由于这些骗局更具说服力，因此它们变得越来越普遍。研究表明，超过80%的钓鱼邮件显示出人工智能的参与。

4. 社会工程

社会工程涉及操纵某人采取行动或泄露信息。人工智能使黑客能够更快地响应和制作更令人信服的消息。任何自然语言处理模型都可以进行语义分析，以确定收件人的情绪状态，使他们更有可能屈服。

除了增强社会工程技术外，机器学习技术还降低了传统的进入壁垒，使初学者能够开展复杂的活动。如果任何人都可以成为网络犯罪者，那么任何人都可以成为目标。

数据驱动的AI攻击的下一波

2026年初，预计AI攻击将保持在较低的成熟度水平。然而，随着年份的推进，它们将指数级地发展，允许网络犯罪者进入优化、部署和扩展阶段。他们很快将能够启动完全自动化的活动。确认的AI网络攻击例子不会很快变得罕见。

多态恶意软件是一种人工智能启用的病毒，每次复制时都可以改变其代码以避免检测。攻击者可以通过人工智能生态系统交付有效负载，调用LLM在运行时生成命令，或者直接将病毒嵌入LLM中。谷歌威胁情报小组于2025年首次发现了对手部署此类恶意软件。

恶意软件家族是PROMPTFLUX和PROMPTSTEAL。在执行期间，它们使用LLM请求VBScript混淆和逃避技术。它们通过混淆自己的代码来逃避基于签名的检测。

证据表明，这些威胁仍处于测试阶段——一些不完整的功能被注释掉，应用程序调用有限。这些人工智能恶意软件家族可能仍处于开发阶段，但它们的存在代表着朝着自主、自适应攻击技术方向迈出的一大步。

纽约大学坦登研究表明，LLM已经可以自主执行勒索软件攻击，被称为勒索软件3.0。它们可以进行侦察、生成有效负载和个性化勒索，而无需人工干预。它只需要嵌入二进制文件中的自然语言提示。该模型产生多态变体，可以通过在运行时动态生成恶意代码来适应执行环境。

企业是否为AI攻击做好了准备

尽管在网络安全方面投入了数十亿美元，但私营企业继续难以跟上不断演变的威胁格局。机器学习技术可能会使现有的检测和响应软件过时，从而进一步复杂化防御。许多企业无法满足基本的安全标准，这也没有帮助。

2024年DIB网络安全成熟度报告调查了美国国防工业基地（DIB）中的400名信息技术专业人员。超过一半的受访者报告称，他们的网络安全成熟度模型认证（CMMC）2.0合规性还需要几年时间，尽管等效的NIST 800-171合规性自2016年以来一直在国防部（DoD）合同中概述。许多人将自己的安全态势评为远远高于实际水平。

新的CMMC要求于2025年11月10日生效。在此之后，所有DoD合同都将要求某种程度的CMMC合规性作为合同奖励的条件。这些新规则旨在加强DIB网络安全，但它们在人工智能时代是否会有效?

防御性人工智能是否是答案

也许唯一能对抗即将到来的人工智能攻击浪潮的方法是以其人之道还治其人。通过防御性人工智能，组织可以实时动态响应威胁。然而，这种方法也带来了自己的安全漏洞——确保模型免受篡改需要持续的监督和审计。

根据哈佛商业评论，传统解决方案使企业容易受到人工智能网络攻击的影响。要实现网络安全韧性，企业必须使用机器学习技术来预测和自动响应威胁。

防御性人工智能是否是解决这个问题的答案，并没有简单的答案。企业应该将资源投入到部署未经验证的机器学习工具中，还是扩大其信息技术团队？很难预测哪项投资将在长期内带来回报。

大型企业可能会在自动化网络安全方面看到显著的回报，而小型企业可能难以证明成本的合理性。传统的自动化技术可能能够以更低的价格填补这一空白，但它无法对动态威胁做出响应。

信息安全论坛的CEO史蒂夫·杜宾（Steve Durbin）表示，人工智能的采用具有显著的好处，但也具有重大缺点。例如，企业经常经历假阳性警报的激增，这浪费了安全团队的时间。此外，对人工智能的过度依赖可能会导致团队过度自信，从而导致安全漏洞。

导航人工智能威胁格局

很难确定人工智能在威胁格局中的确切程度，因为攻击者可以利用它来创建恶意代码或撰写钓鱼邮件，而不是在运行时使用它。单独的网络犯罪者和国家赞助的威胁团体都可能在大规模使用它。

根据现有的信息，模型篡改、人工智能钓鱼和多态恶意软件将是2026年最大的网络威胁。网络犯罪者可能会继续使用LLM来生成、交付和适应恶意有效负载，针对高价值行业，如金融业，以及普通人。