Aarti Samani，Shreem Growth Partners 的创始人和首席执行官 – 采访系列

Aarti Samani，Shreem Growth Partners 的创始人和首席执行官，是一位拥有二十多年经验的技术领袖和人工智能战略家，曾在人工智能、数字身份和生物识别安全领域推动增长。她曾在 iProov 和 Digital Surgery（被 Medtronic 收购）担任高级职位，领导全球产品和营销战略，并获得了大量资金。她是 BBC 的常客评论员和全球活动的关键演讲者，包括 Money 20/20 和 CogX Festival，她为董事会和高管提供人工智能伦理、治理和风险方面的建议，帮助组织在人工智能时代建立信任和韧性。

Shreem Growth Partners 通过关注防御的 人员 层面，帮助组织保护自己免受深度伪造欺诈和人工智能驱动的模仿。通过定制的培训、行政简报、漏洞评估和战略咨询，该公司使团队和领导者能够识别、应对和防止操纵企图。通过培养意识、准备和文化韧性，Shreem 授权组织保护其身份、声誉和劳动力免受不断演变的人工智能威胁。

您在 iProov、Medtronic Digital Surgery 和其他人工智能驱动的公司担任高级职位后，创立了 Shreem Growth Partners。是什么启发您创立一家专门从事深度伪造欺诈韧性的公司？

2022 年底 ChatGPT 发布后，我们见证了人工智能媒体工具的爆发，这些工具可以在几分钟内克隆声音和面孔。大多数组织将它们视为设计和营销的创意加速器。但是，犯罪者看到了新的社会工程机会。

深度伪造很快成为诈骗者操纵人们的工具。安全团队通过投资检测技术做出回应，但检测 alone 不能解决根植于人类信任的问题。心理学是该行业的盲点。

这种洞察让我创立了 Shreem Growth Partners，一家致力于通过意识、模拟和认知韧性建立深度伪造欺诈韧性的公司。增强人们批判性思维和抵抗操纵的能力是减轻这种欺诈的关键。

在 iProov，您在面部生物识别和身份验证的前沿工作。您如何看待深度伪造对身份验证系统的日益增长的威胁？

作为 iProov 的首席产品和营销官，我帮助将生物识别面部验证带到了公共和私营部门的安全敏感组织。这些机构是有组织的网络犯罪的常见目标。他们的对手是智能的、资金充足的，并且拥有尖端技术。

我们开始看到使用从窃取的身份中构建的深度伪造来绕过生物识别系统的尝试。由于 iProov 作为基于云的托管服务运行，我们可以实时观察这些攻击并分析每次迭代的演变。很明显，犯罪者比市场适应得更快。

这种经历让我对深度伪造启用的欺诈有了内部的了解，并对网络犯罪的心理驱动力有了深刻的理解。这种对犯罪者心态的理解现在指导了我在深度伪造欺诈韧性方面的工作。

深度伪造越来越多地用于高管模仿、语音克隆和社会工程攻击。您今天在现场看到最常见的哪些场景？

通过社会工程比破坏安全系统更容易获得访问权限。随着人们对传统骗局变得更加警惕，犯罪者正在转向新的操纵信任的方法。

深度伪造技术已成为我们见过的最强大的社会工程工具。它使得肇事者能够生成高保真度的信任信号：真实的面孔、声音和叙述，可以绕过人类的判断。

犯罪者的优势不仅限于高管模仿或支付。目标越来越多地包括知识产权、敏感数据和访问凭证。通过训练人工智能代理并给予他们克隆的声音，欺诈现在可以以规模、速度和精度执行，这是任何人类攻击者都无法匹敌的。

深度伪造欺诈韧性计划与传统的网络安全或反钓鱼培训有什么区别？

我们所知道的网络安全培训是在 2000 年初创建的，当时互联网和商业计算仍在成形。从那时起，内容已经演变以满足合规需求，重点是 LMS 平台和参与度的游戏化。但是，威胁格局已经发展了。

今天的欺诈是智能的、创造性的和心理工程化的。犯罪者使用与学术界或企业相同的复杂性的人工智能。培训必须超越合规并进入认知领域。

深度伪造欺诈韧性培训不能仅仅归结为是否点击链接。它必须教人们批判性地思考，质疑他们互动的面孔和声音的真实性，并认识到感知可以被轻松操纵的程度。

同样重要的是要强调认知韧性。增强的情绪、分心的思维和不断的多任务处理都会削弱批判性思维。建立认知韧性可以训练员工保持情绪平衡、分析性和警觉性。这正是抵抗操纵所需的思维方式。

您的公司提供深度伪造漏洞评估和桌面演练。可以带我们了解一下这些模拟的内容以及客户通常会获得什么样的见解吗？

在我们的漏洞评估和桌面演练中，我们复制了最新的深度伪造启用的攻击向量，这些向量来自真实事件。常见场景包括使用克隆身份的假职位申请者、被泄密的 IT 帮助台用于重置多因素身份验证凭证，以及具有人工智能生成的角色的人员视频通话，人员会被说服下载恶意软件。

这些模拟揭示了人们在压力下如何应对，并暴露了通信、流程和事件响应中的盲点。高管经常发现缺乏专业知识和不明确的决策所有权。结果通常导致持续的韧性计划。该计划加强了欺诈识读能力、流程和文化变革以及整个组织的危机准备。

您经常谈论以人为中心的风险管理。公司如何授权员工检测和抵抗深度伪造操纵，而不是仅仅依赖技术工具？

深度伪造利用了与我们评估信任和情感相同的神经回路。我们的脑部优先考虑视觉和听觉提示，因为这些是我们首先发展的感觉。但是，我们还没有进化到本能地质疑这些提示，所以我们必须学习并不断强化这种技能。

公司可以通过训练员工以谨慎和好奇的态度对待数字互动来授权他们。当我们进行语音或视频通话时，我们正在与一个物体交互。该物体可能是投射到屏幕上的真实人物，或者可能是人工的。我们无法通过视觉确定这一点。

唯一的防御是主动验证：提出正确的问题、交叉检查细节并注意叙述中的不一致性。新的座右铭必须很简单——零信任，始终验证。

深度伪造模糊了虚假信息和欺诈之间的界限。高管如何为由合成媒体事件引发的声誉和运营危机做好准备？

领导团队现在必须将深度伪造事件视为核心业务风险，而不是假设性的风险。每个高管都应知道在危机发生时自己的角色。

就像董事会审查风险登记册一样，他们还应审查事件响应计划，这些计划不能是静态的。威胁格局演变得太快。计划需要经过压力测试和至少每半年更新一次，理想情况下是在模拟真实事件的桌面演练之后。

深度伪造危机很少仅仅在一个职能范围内。它们需要通信、法律、安全和人力资源之间的协调。那些在事件发生之前已经排练过协调的组织是最能有效应对的组织。

当员工或高管成为令人信服的深度伪造的目标时，也会产生心理成本。组织应制定什么样的支持或协议来解决这种人为影响？

“诈骗耻辱”必须避免一切代价。组织应该在事件发生之前建立心理安全的文化。当员工或高管成为深度伪造的目标时，体验可能会让人感到失去对自己外貌、声音和数字身份的控制。

回应必须是程序化和人性化的。明确的报告协议应与心理健康支持、保密的简报和数字法医分析相结合，以便个人了解发生了什么。

领导者设定了基调。当高管公开谈论操纵企图和恢复时，它消除了耻辱感并鼓励透明度。这种开放性正是将个人脆弱性转化为集体韧性的关键。

作为该领域咨询公司的创始人，您对人工智能发展的速度有何担忧？您认为下一波深度伪造能力将从哪里出现？

人工智能以惊人的速度发展。这种发展本身并不是问题所在。真正的风险在于其在日常业务运营中的快速采用和粘性。威胁管理和意识的步伐根本跟不上。这种威胁和韧性的差距正是诈骗者以深度伪造为最有效的工具而蓬勃发展的地方。

每个新创新都成为另一个被利用的表面。目前，人工智能代理带来了日益增长的风险。当与深度伪造技术相结合时，它们可以以人类攻击者无法匹敌的规模、速度和精度执行欺诈。

相反，什么技术或协作努力让您对我们能够领先于深度伪造驱动的欺诈和虚假信息充满信心？

这次对话正在一份受尊敬的出版物中进行，这本身就是进步的迹象。它表明创新者、监管者、媒体和企业都受到虚假信息的严重影响。

给我带来乐观的，是日益增长的合作意愿。深度伪造韧性不会来自一种工具或一个组织，而是来自共享的智能。学习如何高效地与社区共享信息和教育，就像诈骗者所做的那样。

我们仍然需要完善这种合作的发生方式，但意图是存在的。这种集体意图最终将恢复信任。

感谢您接受这次精彩的采访，希望读者能够通过访问 Aarti Samani 的网站来了解更多信息。