基于对话的人类威胁检测和响应的先驱者——Humanix创始人兼首席执行官Keith Stewart访谈系列

基思·斯图尔特，Humanix的创始人兼首席执行官，是一位拥有超过25年经验的网络安全专家，曾在一些业界最知名的公司，如思科、Brocade、Riverbed和vArmour担任过产品管理、工程、商业发展和高管领导等职务。在创立Humanix之前，他曾担任vArmour的临时首席执行官和产品与工程高级副总裁，帮助公司完成了收购和转型为SaaS业务模式。在他的整个职业生涯中，斯图尔特曾领导全球团队，推动了重大网络安全产品计划，参与了融资和并购活动，并在开发下一代安全技术方面发挥了关键作用。他的丰富的企业安全背景和对攻击者如何利用人类行为的深刻理解促使他创立了Humanix，旨在保护人们免受日益复杂的社会工程攻击的侵害。

Humanix是一家网络安全公司，开创了所谓的人类威胁检测和响应（HTDR），这是一个新的领域，专注于保护企业安全的“人类层”。Humanix不仅仅关注端点、网络和基础设施，而是利用对话式人工智能来检测操纵、欺骗、冒充和其他社会工程攻击，涵盖语音、聊天、电子邮件、视频和服务台交互。该平台旨在实时识别攻击，帮助组织在攻击者利用员工、承包商或客户之前阻止漏洞。Humanix的方法反映了人们对网络安全威胁的认识，即大多数成功的网络攻击是针对人而不是系统的，该公司旨在为安全团队提供与传统网络威胁相同的可见性和响应能力，以应对针对人的威胁。

您曾领导过vArmour等公司的重大转型，包括SaaS转型、扩展工程团队和应对收购。是什么特定的缺口或转折点促使您创立Humanix，并为什么如此重视保护人类而不是系统？

组织安全姿态中最大的挑战是人类风险。人类既是我们最强大的防御资产，也是我们最大的持续漏洞。然而，这是一个长期未被解决的问题。该行业的答案是培训——基本上试图在一小时的课程中将普通员工转变为网络安全专家。我们知道这行不通，但我们没有更好的解决方案。

最近发生了两件事情，一件是恶化的，一件是改善的。首先，恶化的是：人工智能使得针对人类的攻击变得更加容易。现在，你可以成为世界另一端的一个青少年，不会说一句英语，对某个业务一无所知，但突然，一个大型语言模型让你知道几乎所有事情，并且听起来几乎像任何人一样。这造成了真正的现实威胁。

其次，改善的是：我们现在拥有检测这些攻击的技术。大型语言模型非常擅长理解人类交互的细微差别和复杂性。通过对话式人工智能，我们可以识别这些交互中的模式，并在几乎实时内做出响应。

我们不再需要仅仅依赖过时的、基于培训的策略。第一次，我们有了一种直接解决人类漏洞问题的方法。这就是为什么我们建立了Humanix。

您的工作长期以来一直集中在大规模数据、行为分析和基于图的安全模型上。这些经验如何塑造Humanix对检测不像传统漏洞的攻击的方法？

从表面上看，检测交互式社会工程攻击似乎令人生畏。每个人都不同。自然语言是非常高维的。基于经典机器学习的行为模型不理解上下文，因此经常误报。

然而，当你深入探究时，你会发现这种攻击类别有像其他攻击类别一样的模式。攻击者利用业务流程漏洞和人类信任，这意味着我们应该能够像检测和响应端点、网络、云或身份攻击一样检测和响应这些攻击。

这种洞察使我们能够将经典的检测和响应模式——包括行为分析和图论——与语言模型的语义推理能力相结合。Humanix利用这种组合来理解实体、关系、行为、风险和交互本身。这就是我们创建一种新类别的检测和响应产品的方式：人类威胁检测和响应。

像BlackFile这样的新兴团体正在使用语音钓鱼和实时社会工程攻击，而不是基于恶意软件的战术。这种转变告诉我们关于威胁格局的变化是什么？

BlackFile是攻击焦点从获取恶意软件转向利用自然语言让人打开门的一部分。

这些团体已经弄清楚了一次令人信服的电话、一个合理的前提和适当的紧迫性可以像技术漏洞一样有效，甚至对安全团队来说更难以察觉。攻击面并没有改变太多，攻击者的焦点发生了变化。人们一直是攻击面的组成部分。变化的是社会工程攻击的规模、成熟度和可复制性。

社会工程攻击正在被复制、改进和工业化，因为它们有效。它们利用了企业的运作方式，特别是在需要快速帮助、解决例外和保持进展的工作流程中。

我们看到攻击者冒充IT帮助台，直接利用员工获取访问权限。为什么诸如语音钓鱼和帮助台操纵等技术成为如此有效的主要入口点？

诸如语音钓鱼和帮助台操纵等技术之所以如此有效，是因为它们利用了支持和管理工作流程中信任、紧迫性和访问的组合。

如果我想进入你的环境，我可以花几周时间寻找技术漏洞。或者我可以打电话给一个被训练来帮助的人，编造一个可信的故事，让他们做我需要做的事情，无论是重置密码、注册新的MFA因子、更改权限还是批准请求。

电话另一端的人通常试图在时间压力下、信息不完整的情况下解决一个看似真实的问题。这正是帮助台成为攻击目标的原因之一。它是少数可以直接转化为访问的地方。一旦访问被授予，其他事情可以很快发生。

该行业已经大量投资于员工培训，但针对人的漏洞仍然不断增加。传统的安全意识在哪里出现了不足，什么需要改变？

安全意识培训一直被视为对社会工程的主要防御手段，尽管结果明显表明其局限性。组织继续大量投资于培训，但攻击者继续成功，因为他们是在实时交互中针对人，而不是测试员工是否记得课程材料。

社会工程攻击不是测验。它是电话或聊天线程的另一端有人制造紧迫性、建立信任并试图让某人采取不应采取的行动。这一模型崩溃是因为它期望员工在攻击者积极操纵交互时识别和停止攻击。

当事情出错时，反应通常是责怪员工并分配更多培训。但是，员工通常正在尝试帮助，这正是业务每天要求他们做的事情。我们需要停止将社会工程仅仅视为一个意识问题。它是一种攻击类别，我们应该在交互发生时检测和响应它，而不是继续走培训之路。

Humanix将自己定位为实时检测对人的攻击。人类风险的可观察性在实践中是什么样子？

人类风险的可观察性意味着为安全团队提供对攻击者试图操纵人进入改变访问、绕过所需程序或代表攻击者采取其他不安全操作的实时交互的可见性。

今天，这些交互对于安全来说基本上是不可见的。有人打电话给帮助台，打开票，或者开始聊天。密码被重置，MFA因子被注册，权限被更改，或者例外被批准。这些是高度敏感的工作流程，但安全团队没有可见性和可观察性。

Humanix改变了这一点。我们插入企业已经使用的通信系统——Microsoft 365、ServiceNow 、Zoom、Slack等。Humanix监控这些渠道上的操作和交互，并将其与攻击策略和公司程序进行比较。

是否正确验证了呼叫者？他们是否说服别人绕过验证？是否有紧迫性、冒充或压力去跳过所需步骤？代理即将采取高风险行动吗？风险配置文件在通话进展过程中如何变化？Humanix在交互发生时提供安全检测和响应，并让安全团队知道是否有可疑情况。

这种分析的最终目标不是在事后惩罚受害者。它是保护他们在那一刻。如果交互变成攻击，安全团队需要知道。

随着人工智能生成语音和深度伪造技术的改进，我们距离人类信任成为最脆弱的攻击面有多远？

人类信任已经是最脆弱的攻击面之一很长时间了。人工智能使得针对信任的攻击更容易创建、定制和扩大。

然而，我们需要小心，不要过度关注特定的“深度伪造”案例。深度伪造只是攻击者可以用来操纵某人的一种媒介。事实上，如果我们看一下过去几年中大多数成功的社会工程攻击，我们会发现大多数攻击并不是深度伪造——它们只是人攻击者和骗子打电话，编造一个可信的故事，并施加适当的紧迫性。

安全团队需要关注信息，而不是媒介。有人被迫在可疑情况下违反政策或批准例外——这些才是真正的高风险行为。风险在于交互本身和它试图诱发的行为。

信任不是我们可以从业务中去除的东西。人们必须接听电话，解决问题，批准请求，相互帮助。答案不能让每个人都变得不那么人性化。它必须是保护那些信任被利用的时刻。

在保护人类免受人工智能驱动的社会工程攻击方面，人工智能应该发挥什么作用，检测实时操纵的最大技术挑战是什么？

对话式人工智能解锁了将人工智能驱动的社会工程攻击从培训问题转变为检测和响应问题的机会。语言模型允许我们将从端点、网络等领域学到的所有知识应用于人类层面。我们需要检测和响应这些攻击，而不是继续走培训之路。

使这一愿景成为现实存在许多技术挑战。自然语言是高度维度的，这意味着有无数种方式可以传达相同的含义。说“我被锁在系统外”是一种功能上等同于“我需要重置密码”的陈述，尽管“密码”和“重置”这些词没有被使用。

另一个挑战是上下文的重要性。人类交互是有上下文的和累积的，因此人类操纵也是如此。一个呼叫者可以听起来平静、礼貌和可信，而仍然在引导某人绕过验证或走向不安全的行为。我们需要将多个信号和上下文数据结合起来，以准确地将良性与恶意区分开来。

最后，每个组织都是不同的。它有不同的程序和规范，几乎所有这些都不是机器可读的。这是人工智能可以提供巨大帮助的另一个领域——了解这些政策，并将其与观察到的现实世界行为进行比较。

许多安全工具仍然关注端点、网络和身份系统。首席信息安全官（CISO）应该如何重新思考他们的架构，如果主要战场转移到人类行为？

首先，CISO应该正式承认我们都直觉地知道的事情：一个组织的人力资本是一种资产类别（如端点、网络或云），需要被管理。威胁和风险需要被准确建模和控制。

NIST网络安全框架已经提供了如何做到这一点的指导。人员的“识别”和“管理”是资产管理（ID.AM）的一个子集，属于风险识别。然而，许多组织将人类风险问题定义为一个培训问题，并仅通过安全意识培训合规性要求来管理它。这需要改变。

当我们将人力资本视为其自身的资产类别时，这就打开了我们为每个其他资产类别运行的标准剧本。什么是关键风险（ID.RA）？我如何系统地防御它们（保护）？我们的系统和流程是什么，以检测攻击者是否即将突破我们的防御，或者更糟糕的是，已经突破（检测）？组织如何响应以包含威胁并最终恢复服务（响应和恢复）？通过采取与其他资产类别相同的系统方法来管理我们的人力资本，我们可以更清楚地识别风险，并更有效地优先分配资源来管理这些风险。

展望未来，您是否预计人类层攻击将主导网络犯罪，或者我们将看到一个混合模型，即人工智能驱动的自动化和社会工程攻击融合在一起，形成更难以防御的东西？

它几乎肯定会是一个混合威胁模型。我们正在同时发生两件事。首先，攻击者正在学习如何使用人工智能扩大他们的攻击，增加访问量并降低这类攻击的成本。其次，企业本身正在经历由业务服务引领的代理人工智能转型，这些服务正在被BlackFile及其同行攻击。

客户服务、帮助台、服务台、财务运营和内部支持工作流程都正在从人工交付转变为人工智能交付。这意味着我们将经历自然语言攻击面的爆发，同时消除了人类的常识。大型语言模型被训练为响应指令并提供帮助。社会工程攻击的最佳防御——人类的怀疑和“直觉”——已经被故意从模型响应中删除。转向人工智能交付的服务最终将增加社会工程攻击的风险，而不是降低它。

因此，企业对这类攻击的暴露几乎可以肯定会在未来几年继续增长。人类和代理人都容易受到自然语言攻击的影响。安全团队需要今天就开始规划对这一新现实的系统性防御和响应计划。

感谢您接受这次精彩的采访，读者可以通过访问 Humanix 来了解更多信息。