访谈

维特里克(Vetric)联合创始人兼首席执行官奥默·巴赫尔(Omer Bachar)- 采访系列

Antoine Tardif
将 Unite.AI 添加到您在 Google 上的首选来源
要点自力更生迫使Vetric将基础设施可靠性置于不计代价的增长扩张之上。
查看更多
  • 自力更生迫使Vetric将基础设施可靠性置于不计代价的增长扩张之上。
  • 没有可扩展的公共数据基础设施来实时提供威胁信息,检测模型将毫无用处。
  • 深度伪造即服务(Deepfake-as-a-Service)已通过开源工具在免费层级实现商品化。

奥默·巴赫尔(Omer Bachar),维特里克(Vetric)的联合创始人兼首席执行官,是一位专注于开源情报(OSINT)技术的以色列企业家。他在2022年创立维特里克之前,曾作为一名青少年开发和盈利多个网络业务,获得了网络开发、SEO、流量盈利和可扩展数字运营的经验。他后来在以色列国防军服役,帮助通过自动化、人工智能、数据挖掘和敏捷方法论来现代化军事警察行动,同时领导团队和产品计划。早期创业失败和在泰国与联合创始人进行的研究之后,巴赫尔推出了维特里克,专注于基础设施而不是风险投资,通过为依赖大规模公共网络数据的组织提供服务来实现自筹资金的增长。他的工作重点是网络情报(WEBINT)、开源情报(OSINT)、数据收集和数字威胁情报,特别是在涉及冒充、欺诈和深度伪造相关风险的领域。

维特里克(Vetric)是一家数据基础设施公司,帮助组织收集、处理和操作大规模公共网络数据。该公司将自己定位为信任、安全、网络安全和情报团队的可靠基础设施层,这些团队需要可靠的实时公共网络信息。维特里克专注于管理API和灵活的数据管道,旨在简化大规模公共数据收集,而不是建立面向消费者的平台。该公司强调了“数据为善”的方法,支持识别冒充、深度伪造、骗局和其他数字威胁的组织。根据该公司的说法,它已经从小型创始团队发展成为快速扩张的运营,全球服务超过100个组织,同时保持对可扩展基础设施和运营可靠性的关注。

您从青少年时期开始建立互联网业务,后来在以色列军事警察中使用人工智能和开源情报工具进行现代化,最后在泰国研究问题后联合创立了维特里克。这些经历如何塑造了您对数据基础设施在反对深度伪造和数字冒充的斗争中的重要性的信念?

这些章节中的共同线索是:每个我认为是检测问题的难题,最终都变成了一个数据问题。

作为一名青少年,发现漏洞,难点从来不是漏洞本身——而是建立基础设施来大规模找到合适的目标。 在军事警察中,开源情报是没有人工作的空白。犯罪者在整个公开网络上留下了证据,我们几乎没有系统的方法来获取它。 然后在泰国,我们花了几个月与国防机构、威胁情报团队、品牌保护供应商、欺诈团队交谈。 每个地方都有相同的模式。 每个人都想要洞察力。

那时我就明白了。检测模型的好坏取决于您输入的数据。如果您无法在公开网络上实时看到深度伪造,您的检测器就无关紧要。 战场不是您的模型是否可以在基准测试中识别合成面孔——而是您是否有可见度来生存于攻击实际发生的表面。 公共数据基础设施是没有人愿意建立的部分,因为它很难且不光彩,但没有它,整个堆栈都是表演。

您认为过去18个月中,深度伪造问题已经发生了根本性的变化。哪些具体的技术转变使得今天的人工智能生成的欺诈比早期的骗局和冒充攻击更危险?

同时发生了三件事情,它们的组合才使得这种情况变得不同。

首先,多模态模型变得足够好,可以从同一个提示中生成令人信服的视频、语音和文本。过去需要一个小团队和几周时间,现在只需要一个人和一杯咖啡。

第二,成本大幅降低。以前,生成一个高质量的公共人物语音克隆需要大量的GPU预算。现在,它可以在消费级硬件上运行,或者每月20美元的SaaS订阅。成本不再是一个障碍。

第三——也是被低估的部分——分发层跟上了。伪造品不再坐在某个晦涩的论坛上等待被发现。它们生活在公开的网络上,在同一个公共来源中,您的客户和员工每天都消耗数十次,通常还会在上面付费放大。一个伪造的视频旅行速度与任何其他东西在公共互联网上一样快。

在早期浪潮中,攻击者必须在质量、速度、规模和范围之间做出选择。现在他们可以在100美元以下拥有全部四项。攻击者制造令人信服的冒充和企业检测、归因和响应之间的不对称性比以往任何时候都更大。这就是转变。

大多数关于深度伪造的公开讨论仍然集中在检测软件上。为什么您认为可靠的大规模公共数据基础设施现在与人工智能模型本身一样重要?

因为一个看不到威胁的检测器只是一个研究项目,而不是防御。

大多数关于深度伪造的对话都集中在模型是否可以在受控基准测试中将合成面孔与真实面孔区分开来。这些都是基本要求。更难的运营问题是:一个品牌冒充视频在凌晨3点上传,吸引了20万次观看,然后您的检测管道必须实际接收到该内容并实时处理它,归因于它,并触发响应。如果您没有稳定、可扩展的方式来从公开网络中摄取公共数据——冒充和欺诈实际发生的地方——您就没有东西可以运行您的检测器。

还有一个相关点,我们最近在一篇关于Anodot供应链泄露的文章中提到。企业开始意识到,他们的数据供应商的安全状况就是他们自己的安全状况。同样的认识也适用于人工智能:您的检测堆栈的可靠性就是您的数据管道的可靠性。模型获得了关注,但基础设施才是真正做工作的。将这两个视为独立的预算项是一个错误,市场即将停止犯这个错误。

维特里克在没有外部资金的情况下发展到显著规模,同时为企业和情报相关组织提供服务。自筹资金如何影响您建立公司和优先考虑基础设施可靠性而不是快速扩张的方式?

自筹资金迫使我们产生了一种客户痴迷,这是那些有资金的公司可以避免很长时间的东西。我们一直相信在快速增长之前提供价值——而且这不仅仅是一句口号,对我们来说这是一个财务现实。

我们银行账户中的每一美元都是客户选择给我们的,因为我们提供了有价值的东西。我们没有5000万美元的缓冲来弥合产品几乎可用的差距和完全可用的差距。

这改变了公司做出的每个决定。这塑造了我们的架构,就像它塑造了我们的路线图一样。我们的客户——情报机构、数字风险保护团队、公共安全团队、威胁情报平台——不仅仅想要一个可用的产品。

这也是我们画出信任边界的原因。我们将数据推送给客户;我们从不从客户那里拉取数据。我们不持有客户云中的长期凭证。当客户希望将数据交付到他们自己的AWS中时,我们使用具有外部ID的范围内的仅写IAM角色——这是AWS推荐的模式,旨在防止刚刚发生在Anodot客户身上的那种供应商作为攻击向量的漏洞。SOC 2不会让您免受这种攻击。

深度伪造即服务平台正在降低攻击者的进入门槛。我们是否即将进入一个阶段,即高级欺诈能力将完全商品化并且几乎可以供任何人使用?

我们已经实现了基本能力——不仅仅是在付费层,而且在免费层。我们距离更复杂的能力还有12到18个月。看看现在公开可用的东西。像Sora这样的模型可以从文本提示生成令人信服的视频。GitHub上的开源面部交换项目可以将任何参考图像的面部放入视频中,结果看起来真的很好——无需专家技能,无需付款,无需地下市场。

生成高质量伪造品的障碍只是一个免费下载和一个下午的实验。还有付费服务,它们为不想安装任何东西的人提供了一个即用型工作流程,围绕着同样的模型。开源层是真正的故事,因为它是你无法用价格排除在外的层。操作它的人不需要比运行钓鱼工具包的人更了解底层技术。

接下来的是模板化的、即装即用的层——预先构建的冒充套件,针对特定的品牌、特定的高管、特定的选举周期,包含合成媒体、假账户、分发计划和目标所有内容。 一旦这种东西大规模存在,运行冒充攻击的边际成本就会降低到大约与运行付费广告相同的成本。 对于防御者来说,这意味着不舒服的影响。 您不再可以假设攻击者是高级的或拥有大量资源。 攻击者可以是任何拥有笔记本电脑和怨恨的人。 这改变了威胁的数量和种类,数量级达到了一个数量级,并重新定义了“可信威胁”的含义,适用于任何具有互联网存在的品牌、高管或公共人物。

许多企业仍然依赖于碎片化的监控系统和延迟的威胁情报。您在组织当前收集和处理与冒充和欺诈相关的公共网络数据方面看到的最大弱点是什么?

几个弱点在客户对话中不断出现。第一个是碎片化。大多数企业运行一个工具用于品牌监控,另一个用于高管保护,另一个用于欺诈,另一个用于安全运营。每个工具都从不同的来源提取数据,具有不同的覆盖范围、延迟和盲点。

当冒充活动同时跨公开网络的几个角落展开时,攻击者正是隐藏在这些工具之间的缝隙中。并且在碎片化之下存在一个更深层次的问题:大多数这些工具优化了拆除。删除假资料是必要的,但这只是打地鼠游戏——第二天又会出现另一个。真正获得了优势的团队是那些加倍努力进行调查的团队:连接账户、基础设施和活动之间的点,以便他们能够拆除冒充背后的网络,而不是一次性处理一个URL。

第二个是对需要深入入站访问客户系统的中间件的依赖。这是我们在Anodot泄露的背景下写到的结构性问题——需要OAuth或API密钥进入客户云的供应商成为所有下游供应商的单点故障。SOC 2不会让您免受这种攻击。架构要么有爆炸半径,要么没有。

第三是延迟。所谓“实时威胁情报”的大部分内容实际上是四到二十四小时的延迟,因为底层的收集是批处理的。对于冒充和欺诈来说,这是一个永恒。通过警报触发时,活动已经完成了它的运行。

第四是检测覆盖和分析能力之间的错误分配。公司投资于可以标记合成或可疑内容的工具,但他们在实际看到自己在公开网络上发布的内容方面以及分析他们看到的内容方面投入不足——谁是幕后黑手,账户如何连接,什么基础设施共享。标记只是第一步;覆盖和分析是将标记转化为行动的步骤。这就像购买一个很好的烟雾报警器却忘记插上电源。

您提到维特里克每月处理数十亿条公共数据。构建能够识别人工智能驱动威胁的实时基础设施的技术挑战是什么?

难题并不是大多数人预期的那样。首先要说的是,构建这种基础设施并不是难点——维护它才是难点。你不能构建一个像这样的管道然后就走开了。你需要一个整个团队,他们的工作就是让它保持活力,这也是我们建立的团队。我们收集的公共来源不断变化,任何一个都可能在没有任何通知的情况下悄悄地破坏一个收集器。大多数工程工作都花在维护上,而不是新开发上。

第二,扩展是一个永无止境的过程。你改进管道,你将其推向极限,某个时候规模变得太大,需要重建。然后你为下一个层级重建——有时是从头开始。这种循环永远不会真正结束。每一个数量级的体积基本上是一个不同的系统,即使从外部看起来像同一个产品。

第三是正常运行时间,这听起来很无聊,直到你记得我们的客户是谁。有些客户使用我们的数据来帮助防止恐怖袭击。实时意味着你没有宽限期。事情会坏掉——它们总会坏掉——重要的是它们大部分时间都是正常运行的,当它们不正常运行时,会尽快修复。我们已经为这种现实设计了值班姿态、警报和冗余,而不是通用的SaaS正常运行时间数字。

随着合成媒体变得更加令人信服,您认为社会是否正在走向更广泛的“信任危机”,在那里人们开始默认怀疑合法的音频、视频和通信?

比人们愿意承认的更近。但我不认为这会以崩溃告终——我认为这会以不同的平衡告终。

天真的信任危机说法是:没有人会相信任何音频或视频,公共领域就会崩溃。我不认为这就是结局。人类在适应认识论环境方面非常出色。我们学会了带着怀疑阅读报纸,然后是电视,然后是网络。我们也会学会带着怀疑阅读人工智能生成的媒体,这并不是完全的坏结果——一个更健康的“先验证然后相信”的基准是过期的。

我认为我们会看到的是证据的转变。原始视频和音频将成为较弱的证据形式;来源、加密签名、保管链和身份验证将成为更强的证据形式。能够可信地验证自己通信的机构——银行、政府、新闻机构——将会领先。那些做不到的机构将会被冒充到无关紧要。

危险的间隔是中间的间隔,未来两到三年,伪造品变得比验证层更快地令人信服。这是造成损害的窗口,也是我们试图让客户生存的窗口。

感谢这次精彩的采访,希望了解更多的读者可以访问维特里克(Vetric)。

安托万是一位富有远见的领导者,也是 Unite.AI 的创始合伙人。他怀着坚定的热情,致力于塑造和推动人工智能与机器人技术的未来。作为一名多次创业的企业家,他相信人工智能将像电力一样深刻地改变社会,并经常热情地谈论颠覆性技术和通用人工智能(AGI)的潜力。

作为一名未来学家,他致力于探索这些创新将如何塑造我们的世界。此外,他还是 Securities.io 的创始人。该平台专注于投资正在重新定义未来、重塑整个行业的前沿技术。