访谈
Oran Moyal,Ocean Security 联合创始人兼首席技术官——访谈系列

要点AI原生状态是组织层面的而非技术层面的,因为它改变了每个团队处理工作的方式。
查看更多
- AI原生状态是组织层面的而非技术层面的,因为它改变了每个团队处理工作的方式。
- 当交接和审批仍然是各步骤之间真正的瓶颈时,加快单个任务的速度就会失败。
- 智能体需要强制执行的权限和独立验证,因为仅靠指令并不是安全控制措施。
Oran Moyal 是 Ocean Security 的联合创始人兼首席技术官,负责开发智能体式人工智能,用于调查复杂的电子邮件威胁。他的职业经历涵盖网络安全研究与开发、进攻性社会工程以及企业安全。2024 年,他与 Shay Shwartz 共同创立 Ocean;他们凭借分析攻击者如何利用可信通信,以及安全系统如何应对日益具有针对性的威胁的经验,创立了这家公司。
Ocean Security 打造了一款智能体式电子邮件安全平台,旨在调查定向网络钓鱼、商务电子邮件入侵和金融欺诈。平台中的专业人工智能智能体会分析通信上下文和发件人的意图,帮助安全团队识别看似合法的业务往来中潜藏的威胁。在本次访谈中,Moyal 谈到什么样的组织才称得上 AI 原生、如何围绕智能体重新设计工作流程,以及为什么明确的要求、独立验证、严格执行的权限和人的判断仍然是实现有效自动化的关键。
在 2024 年共同创立 Ocean 之前,您曾多年从事网络安全研究与开发工作,期间曾在以色列国防军以及 VisibleRisk / Microsoft Security 任职。哪些经历促使您创立 Ocean?人工智能的兴起从一开始就如何影响您对这家公司的构想?
过去,发动一场定向鱼叉式网络钓鱼攻击,需要一支专门团队花上数周时间进行人工调查和准备。生成式人工智能出现后,我们意识到,如今每家企业的每位员工都面临毁灭性的国家级网络钓鱼攻击。转眼之间,只需订阅一项价值 20 美元的服务,每个攻击者就能获得国家级攻击能力。
Shay 和我在进攻性社会工程方面经验丰富,而且我们都创办并发展过企业安全公司,因此我们知道,传统工具已经跟不上形势。它们会寻找违规行为和异常情况,但这些攻击藏身于正常的业务通信之中:真实的邮件往来、可信的账户和合法的服务。一切看起来都很正常。因此,我们在 2024 年创立了 Ocean,帮助企业借助人工智能驱动的电子邮件安全技术应对这一新威胁。该技术会实时分析上下文和发件人的意图,方式很像人工调查员,并在安全失陷发生之前采取行动。
许多组织仅仅因为采用了人工智能工具或实现了某些流程自动化,就称自己是“AI 原生”组织。在您看来,真正的 AI 原生组织与仅仅将人工智能融入现有运营的组织,根本区别是什么?
许多公司因为购买了人工智能工具,就称自己是 AI 原生组织。但这只是采用了新技术。成为 AI 原生组织,意味着改变公司处理日常工作的方式,以及解决瓶颈的方式。
这要从领导者如何应对瓶颈说起。传统的第一反应是:“这件事太耗时了,找个人来负责吧。”而 AI 原生组织首先会问:“人工智能如何加快整个职能的运转?”如果每个团队都反复问这个问题,整个公司就会开始以不同的方式运作。
真正的 AI 原生转型是组织层面的变革,而非技术层面的变革。如果只让一个部门提速,瓶颈就会转移到下一个部门,最终公司的运转速度仍受最慢职能的限制。AI 原生组织会协同转型,让信息流转更快、反馈周期更短,各团队也能像一个彼此联通的系统那样协同工作。
在这种模式下,人的价值会发生变化。随着人工智能承担更多工作,稀缺的技能变成明确指引方向、界定意图和运用判断力。人与智能体并肩工作:人工智能承担更多执行工作,而人来决定哪些事情值得去做,以及为什么要做。
目标是让每个团队在不牺牲质量的前提下,用同样的资源完成更多工作、加快进度,并提升协作成效。
您曾指出,如果底层工作流程效率低下,人工智能带来的生产力提升很快就会消失。阻碍公司充分实现人工智能效益的常见运营瓶颈有哪些?领导者应如何着手重新设计这些工作流程?
加快单项任务的速度,并不意味着整个组织也会随之提速。如果流程、依赖关系和团队间的沟通方式维持不变,人工智能创造的大部分生产力提升都会在过程中流失。
最常见的瓶颈并非技术问题,而是要求不明确,导致工作一再返工;团队间交接缓慢;以及工作因等待审批而搁置。人工智能虽然能加快每个步骤,但时间却耗在步骤之间。
领导者首先应衡量时间实际花在了哪里,因为真正的瓶颈往往并非大家想当然认为的那个。接着,应从头到尾重新设计工作流程,解决交接、定义和反馈周期方面的问题,而不只是优化单项任务。最后,要让每项人工智能工作都与团队已经负责的关键绩效指标挂钩。
最重要的是,领导者需要转变思维方式。自动化和提速应成为默认选择。团队不应照单全收现有流程,而应持续质疑工作方式,从而在不牺牲质量的前提下加快进度、提升影响力。
您强调的原则之一,是在将 AI 智能体引入工作流程之前,明确界定需求至关重要。当 AI 智能体负责执行相当一部分工作时,组织应如何重新思考任务的定义方式、期望的沟通方式以及成功标准的设定方式?
当 AI 智能体承担了大量工作时,组织需要重新思考如何沟通和定义任务。含糊的请求不会让智能体停下来;它会自行猜测,而每一次猜错都会带来更多返工。
我会从三个层面来考虑:
明确任务、目标和背景。智能体需要明白要做什么、为什么重要,以及相关背景是什么。工作开始前,它应该能够就任何不清楚的地方提问,这样就能提前补上信息缺口,而不是等到工作进行到一半才发现问题。
自行验证。应预先设定成功标准,并确保智能体能够自行检查是否达标。例如,在软件开发中,智能体应该能够运行代码、测试其是否按预期工作,并在任何人审查之前确认代码通过测试。
由人类把关。人们收到的结果应当是智能体已经按照约定的标准反复完善过的。人的职责是运用判断力,而不是修正基本错误。
定义越清晰,每项结果所需的人力时间就越少。
您主张让 AI 智能体在提交给人工审查者之前先验证自己的工作。在实践中,有效的 AI 驱动验证流程是什么样的?组织又该如何确保自动化质量检查不会只是重复执行过程中出现的同类错误?
有效的验证流程会按照工作成果实际投入使用的方式进行测试。智能体应该从头到尾运行真实系统,确认结果符合成功标准,并在任何内容交由人工处理之前修复未通过的部分。
要避免验证过程重蹈智能体自身的错误,有几个原则很重要:
将标准与执行分开。人们应该在工作开始前定义成功的样子。如果由智能体决定什么才算“完成”,那就等于让它自己给自己的作业打分。
设定严格的护栏。并非每项检查都应取决于智能体的判断。有些检查必须是固定、确定性的测试,用于核验具体参数、标准和政策。这些测试为智能体划定明确界限,使其无法靠推理绕过。
安排独立审查者。第二个智能体拥有全新的背景信息,也不偏袒原有方案,因此能够发现第一个智能体遗漏的错误。
展示证据,而不只是给出结论。测试结果、屏幕截图和录屏能让人们看到实际发生了什么,而不是只能相信一个“通过”的判定。
这样一来,人们就能把注意力放在风险最高的地方。目标不是让人退出流程,而是确保他们把时间用在判断上,而不是机械检查上。
传统组织通常依赖多层管理、审批以及团队之间的交接。原生 AI 运营模式会如何改变工程、产品、安全和业务团队的协作方式?随着智能体承担越来越多的执行工作,传统岗位和职责又会发生什么变化?
AI 让每个人、每个团队都能产出更多。但如果交接、审批和协调方式维持不变,新增的产出只会堆积起来,等待进入下一步。组织的推进速度并不会因此加快,反而会出现新的瓶颈。原生 AI 运营模式必须重新设计团队之间的协作方式,而不只是重新设计每个团队内部的工作方式。
这要从信息流动方式着手。更多信息应该通过自动化流程传递,这样会议就能用于决策,而不是汇报进展。当一线洞察能够直接传达到产品团队时,决策会更快、更准确,进而带来更清晰的定义和更好的执行。
审批也需要以同样的方式重新思考,而这是最难的一部分,因为这意味着要改变组织认定为常态的做法。审批仍然重要,但不应对所有变更一视同仁。例如,在特定审批流程中加入风险评估,可以减少低风险工作的人工审批,同时在关键环节保留人工审查。这只是加快流程而不放弃控制的一种方式。
岗位职责也在重新界定。随着智能体承担越来越多的执行工作,人们的职责将从负责具体任务转向对最终成果负责。他们需要理解完整背景、质疑既有假设,并突破传统职责边界。能够胜出的组织,将是那些重新设计人员协作方式的组织,而不只是那些引入最多 AI 的组织。
Ocean 自身会使用专门的 AI 智能体调查复杂的电子邮件威胁。您开发用于网络安全的智能体式 AI 的经验,如何影响了您在内部部署 AI 的方式?构建自主安全系统的过程中,有哪些经验也适用于管理原生 AI 组织?
为电子邮件安全构建自主智能体,从两个方面影响了我们在内部使用 AI 的方式。
第一点是,智能体的表现取决于它对上下文的理解程度。安全智能体只有了解自己所保护的组织,才能做出更好的决策。对组织内部的智能体来说也是如此。要让智能体发挥良好作用,我们需要让它们真正了解组织如何运作、每项任务的目的,以及任务与整体情况之间的联系。
第二点是,智能体需要接受持续评估。在生产环境中,我们会不断评估智能体的表现、它们在哪些方面失效,以及它们缺少哪些工具或数据。在组织内部,我们也采用同样的方法。我们需要一个专门的场所来测试和训练智能体,并收集反馈。否则,就很难判断智能体是否有所进步,或下一步还需要什么。
运营一家 AI 原生组织,与构建自主安全系统颇为相似:为智能体提供深入的上下文信息,持续评估它们的表现,并在需要判断力的环节让人参与其中。
随着组织赋予 AI 智能体更大的自主权,问责、安全以及意外后果等方面的担忧也随之出现。结合您的网络安全背景,企业应如何建立防护机制,让智能体能够独立运作,同时不损害安全,也不失去有实质意义的人类监督?
智能体的发展方向是自主化,组织应循序渐进地迈向这一目标。先从影响明确、易于理解的领域入手,验证其价值,再逐步扩大应用范围。
真正的防护机制不是几条指令。告诉智能体“不要这样做”并不构成安全控制。防护机制必须得到强制执行:严格限制智能体可以访问的内容,确认它无法触及权限范围之外的任何内容,并持续监控,以阻止任何未经计划的操作。与系统的其他部分一样,防护机制也应定期测试和验证。
问责始于操作人员。运行智能体的人负责界定其边界:它可以自主完成哪些事情、哪些事情需要批准,以及哪些地方不能触及。以负责应对电子邮件威胁的智能体为例。它可以快速、可靠地自主隔离可疑邮件。对于影响范围更大的操作,例如在整个组织范围内屏蔽某个发件人,操作人员可以先设置审核环节。随着智能体不断积累良好的运行记录,就可以有把握地逐步扩大其权限边界。明确的防护机制,正是实现更大自主权的关键。
这一点尤为重要,因为攻击者正日益将 AI 智能体作为目标。业务部门希望加快推进,但安全团队仍缺少一套明确的智能体防护方案。因此,基础必须是强制执行权限控制并持续监控。
许多公司通过节省的时间、自动化的任务或员工生产力来衡量 AI 的采用情况。您认为,哪些指标才能真正表明 AI 原生运营模式带来了可持续的业务价值?在衡量时,又该如何考虑返工、质量和协调成本?
节省的时间是一项重要指标,而且往往是 AI 创造价值的第一个明确信号。但只有结合其他指标,了解组织如何利用节省下来的时间,以及这些收益能否长期维持,才能全面体现其影响。
质量。只有在质量保持稳定或有所提升时,速度更快才更有价值。应跟踪返工、缺陷,以及交付后需要修正结果的频率。速度和质量同步提升,才说明收益真实而持久。
业务拓展。AI 原生组织的真正价值,在于节省的时间能够带来哪些新的可能。我们会衡量,在不增加员工人数的情况下,能够承担多少新能力建设和新计划。
端到端速度。智能体开发一项功能所需的时间,只是整体情况的一部分。真正的衡量标准是整个流程所需的时间,包括每一次交接,从决定优先推进某件事的那一刻,到它在产品中上线的那一刻。这才能反映我们实际的运转速度,也能揭示任务级指标所忽略的协调成本。在安全领域,端到端速度至关重要。攻击者已经在使用 AI 智能体,因此发现并应对威胁所需的时间必须不断缩短。
节省时间表明 AI 正在发挥作用;这些指标则表明,它正在为企业创造持久价值。
您曾提出,规模较小、行动更灵活的科技公司可以通过围绕 AI 重新设计运营方式,获得显著的竞争优势。与成熟的行业巨头相比,AI 原生初创公司有哪些优势?您认为,未来三到五年,成功的科技公司的组织形态将如何演变?
AI 原生初创公司拥有结构性优势。它们从一开始就可以围绕 AI 智能体来构建工作流程、技术和团队,而成熟企业则必须应对数十年积累的传统基础设施和组织复杂性。更大的差距并非技术层面。所有人都能使用相同的 AI 工具。真正占据优势的,是那些能够重新设计工作方式的公司,因为它们不必先拆解层层审批、反复交接和固化的岗位分工。
未来三到五年,我认为,成功的科技公司将超越基础的 AI 自动化,转向智能体化运营模式,由专业 AI 智能体执行完整的工作流程。人类团队不会消失,但人们将减少手动执行任务的时间,更多地用于提供背景信息、设定防护边界和引导结果。最终,组织规模将更加精简,能够更快地扩张、更高效地运营,并与规模大出许多倍的公司竞争。
感谢这次精彩的访谈。想进一步了解智能体邮件安全的读者,请访问 Ocean Security。












