AI作为开发世界的顶级掠食者

进化压力：快速入门

在我们深入讨论这个话题之前，有两个概念需要建立。第一个是进化压力。

进化不是一个选择。动物不会选择以某种方式进化或存在——它们的环境迫使它们这样做，或者它们的环境会消灭它们。所以，当我们谈论动物的进化方式或为什么它们以现在的形式存在时，我们不是在谈论一系列的有意识的决定。我们是在谈论随机的突变和环境压力，这些压力将一个物种推向某个方向。

目前，软件公司正在进入一个类似的进化时刻。能够自主识别漏洞、生成攻击代码和加速网络攻击的AI系统正在改变开发人员和安全团队所面临的压力。

AI现在为软件公司创造了同样的环境压力。能够进行自主漏洞发现、攻击代码生成和大规模攻击自动化的模型正在以大多数组织难以应对的速度改变安全格局。

我想讨论的具体进化压力是地球上当前的顶级掠食者：人类。还有三种非常不同的动物对这种压力的反应方式。

谁做得更差：巨型袋鼠还是鸡？

巨型袋鼠

巨型袋鼠——我忘记了它的确切名称，但它生活在澳大利亚——体重约6,000磅。在人类到来之前，澳大利亚是一个郁郁葱葱、翠绿的几乎天堂。我们不应该触碰它。这些巨大的袋鼠基本上不受干扰。有些掠食者偶尔会杀死一只，但由于它们的庞大体型、食物的丰富和它们的繁殖能力，它们在整个大陆上都能自我保护。

然后人类出现了。

发生了两件事。首先，人类看到了一个巨大的蛋白质来源，可以养活一群人数周——如果他们可以保存肉的话。其次，他们开始清除袋鼠依赖的森林，要么是砍伐树木用于取火，要么是烧毁整个土地来驱赶动物进入空旷的地方，可以被杀死。人类在这种协调、高效的破坏方面非常擅长。

在地质学上非常短的时间内——几乎是一夜之间——人类毁林了整个大陆，并将最后一只巨型袋鼠赶尽杀绝。

值得注意的是，并不是所有的澳大利亚动物都灭绝了。袋鼠、考拉等都幸存了下来——因为它们足够小、足够快或足够适应性，以避免被人类伤害。到欧洲人到来时，大陆已经变成了一个严酷和无情的环境。一个较小的人口，适应了极端条件的动物。所有东西在澳大利亚都试图杀死你。

这是版本一。

鸡

现在，鸡可以说是地球上最成功的陆生动物。地球上大约70%的家禽生物量是家鸡。甚至有一些地区的鸡已经野化——在没有天然捕食者的岛屿上，比如开曼群岛——它们已经繁衍壮大。

鸡进化成了人类非常有用的东西：它们快速繁殖，快速生长，并产蛋。人类喂养它们，保护它们，并积极鼓励它们繁殖。从任何生物学成功的指标来看——种群规模、地理分布、资源获取——鸡正在赢。

除了我们吃它们的部分。

所以，鸡成功了，因为它们成为了完美的食物。这不是什么值得骄傲的。但是，有一个天花板限制了这种成功。

猫：正确的答案

有一种动物，我认为，它做得几乎完全正确。

猫。

猫不是顶级掠食者。它们不会支配人类或捕食人类。但是，相反，猫没有被人类扩张所压倒或被迫适应人类的食欲；它们做了些不同的事情：它们与人类共同进化。它们通过捕猎老鼠和被人类定居吸引来的小鸟而使自己变得有用，并且在某个时候，它们使自己变得被需要。它们成为了伴侣。

结果是什么？猫繁殖迅速。它们有丰富的食物来源，要么是作为宠物，要么是人类居住区的机会主义猎手。它们面临很少的严重捕食者。它们无处不在人类存在的地方。

这不是它们做出的选择。这不是一种策略。这只是进化压力如何发挥作用。但是结果是显著的：与其与顶级掠食者战斗，或者喂养顶级掠食者，猫与顶级掠食者交朋友。

这与AI有什么关系

那么，这一切为什么重要？

像Anthropic的Mythos和Project Glass Wing这样的模型的出现，我认为，相当于人类抵达澳大利亚的那一天。除了时间线被大大压缩。几代人才能发生的事情，将在几年内发生——也许更短。

目前，有很多关于安全团队如何应对AI启用的黑客攻击的文章。我认为这种框架是错误的。这主要不是一个安全问题。这是一个工程问题。

发生了什么变化：在这种新型AI出现之前，防御者和攻击者都在一个相对有限的利害关系的世界中运作。攻击发生了。漏洞发生了。但是攻击的速度和复杂性是由人类能力所限制的。这已经从根本上改变了。现在，有AI模型专门设计用于自主发现和利用漏洞，规模化，毫不疲劳。

大多数开发团队都是巨型袋鼠。他们生活在一个环境中，虽然有威胁，但没有什么是如此的。他们建立了在他们面临的压力下合理安全的系统。他们从未遇到过即将到来的威胁。

这就要改变了。

三个选项——以及为什么只有一个有效

当这种新威胁到来时，组织将有效地有三个选择：

1. 做袋鼠。不要适应。被消灭。这将发生在很多公司身上。有些公司永远不会恢复过来。
2. 做鸡。变得被动，应对每个新出现的漏洞。这种方法是“拔出长矛并治疗伤口”。这比什么都没有好，但当有45支长矛从各个方向飞来时，这种技能是无法拯救你的。你仍然是食物；你只是更慢地到达餐桌。
3. 做猫。从根本上改变你与威胁的关系。使用AI来防御AI。从一开始就将安全性嵌入工程中。设计系统以假设漏洞——而不是希望防止它。

目标不是雇用更多的安全分析师来巡逻周边。这就像试图保护草原上的大象一样。这无法扩展到这种威胁。目标是重新设计草原。

成为猫是什么意思

这不是表面上的工作。这不是每个季度运行一次AI安全扫描器。这需要对开发的方式进行重新思考。

实际上，这意味着：

• 更简单的代码库，易于推理和审计
• 从已知的、经过安全审查的库中获取
• 在假设漏洞的基础上构建基础设施——不是如果，而是何时——并使得一旦坏人进入系统，横向移动变得尽可能困难
• 通过利用它，就像攻击者一样，与掠食者交朋友。AI模型可以放大工程团队和安全团队的能力，以进化他们的防御并领先于曲线之上。

明天成立的公司有一个干净的开始。他们可以从第一天开始这样构建。已经存在的公司，拥有客户、敏感数据和活跃系统，则没有这种奢侈。他们必须现在开始过渡。

行动号召

Anthropic自己也说过：将会有一个清算。将会有经济和社会混乱，由AI启用的攻击引起。有些公司将无法生存。它们将被使用这些工具的人所破坏，并且永远无法完全恢复。这将会发生。

那么，这里有一个信息：现在开始吧。

工程和安全需要坐在同一间房间里。一起浏览威胁格局。建立一个共同的路线图。其中，主要工作由工程和设计团队完成，由安全团队验证——而不是相反。安全团队无法领导这一过程。安全团队可以检查工作。但是，根本性的改变必须来自构建系统的人们。

今天开始这个过程的公司并非都会成功。但是，他们将为生存创造条件。在即将到来的环境中，这是我们所能做到的最好的事情。

做猫。