娜塔莎·莫汉蒂，Doppel 工程副总裁 – 采访系列

娜塔莎·莫汉蒂，Doppel 工程副总裁，是一位经验丰富的技术领导者，拥有深厚的 AI、支付、媒体和消费者平台经验。在加入 Doppel 之前，她曾领导 Stripe 的 Optimized Checkout Suite 和 Link 的工程团队，从 30 名工程师扩展到 200 名工程师，同时帮助推动 Stripe 的 checkout 产品和消费者钱包的广泛采用。此前，她曾在尼尔森公司担任工程副总裁，负责 Prizma.ai 的 AI 驱动的视频参与和媒体分析业务，该业务是她联合创立并担任 CTO 的公司。早期，她曾在谷歌工作超过 7 年，跨越搜索质量、谷歌新闻和谷歌+个性化等领域。 (GOOGL )

Doppel 是一家 AI 原生社交工程防御公司，专注于保护组织、高管、品牌和客户免受 AI 驱动的模拟、钓鱼、欺诈和更广泛的数字风险的影响。其平台结合数字风险保护、执行和品牌保护、电子邮件安全、人力风险管理、模拟和安全意识培训，使用 AI 和实时威胁情报来检测、关联和破坏攻击者基础设施，跨越域名、社交媒体、消息应用、广告和暗网等渠道。该公司已将自己定位在日益增长的 AI 驱动的社交工程威胁周围，帮助安全团队应对日益复杂的攻击，跨越现代数字威胁格局。

您曾在 Stripe、谷歌、尼尔森和现在 Doppel 领导工程组织。在这段旅程中，您对软件工程师角色的看法如何从编写系统直接转变为编排日益自治的 AI 驱动工作流程?

软件工程师的工作流程已经发生了巨大的变化，但工程师所需的责任感并没有改变。当我在谷歌开始我的职业生涯时，工程师们大部分时间都在编写和审查代码。今天，AI 可以处理大部分代码生成，但工程师们仍然负责定义目标、验证输出、建立防护措施、审查代码和确保系统在长期内保持可靠。在很多方面，AI 扩大了工程责任的范围，而不是减少了它。

发生变化的是工程师们创造价值的方式。随着 AI 接管更多的编码工作，角色变得越来越集中在品味和判断力、理解问题、做出架构决策、评估权衡和确保结果符合用户和业务需求。最好的工程师不仅仅编写软件，他们将编排人类和 AI 的协同系统，应用上下文和责任感，这些是机器所缺乏的。与从个人贡献者到经理的转变类似。

您认为高管们仍然对 AI 编码代理可以在没有人工监督的情况下处理的内容有哪些最大误解?

最大误解是 AI 将消除对强大工程师的需求。事实是 AI 提高了小型、熟练团队可以构建的天花板，这使得工程判断更加有价值，而不是减少价值。

发生变化的是工程师们负责的表面积。他们不再只是编写代码，他们正在定义要构建的内容、验证代理是否按照预期工作以及在代理不工作时拥有所有权。

如果有什么不同的话，问题空间变得更加有趣。攻击者可以访问与我们相同的 AI 工具，这意味着在攻击者面前保持领先地位的挑战比以往任何时候都更具挑战性和趣味性。没有解决的难题，Doppel 正在招聘工程师，寻找对此类工作感到兴奋的人才。

当工程团队开始在编码、测试、调试和文档中协调多个 AI 代理时，有效的“代理管理”工作流程实际上是什么样子?

工程师们越来越多地担任自治系统的管理者，而不仅仅是贡献者。最好的工程师可以在多个并行工作流程中保持大量上下文，同时知道要与每个代理共享哪些上下文。这意味着编写明确的接受标准、为隐私和安全设置明确的防护措施以及要求代理解释其推理和假设作为验证步骤。如果代理无法解释其行为和原因，则无法完全信任输出。

在 Doppel，我们正在构建代理系统来调查威胁、持续适应检测策略并用清晰的语言解释其决策。有效的代理管理还需要系统级基础设施，包括暂存环境、自动测试管道、安全工具具有明确的权限和监督，以及评估框架持续评估代理和更广泛的系统是否按预期运行。

当 AI 代理被授予访问内部工具、生产系统或敏感工作流程的权限而没有强大的防护措施时，会出现哪些最大的运营或安全风险?

风险不仅仅是 AI 代理犯错，还在于它们可以以难以及时发现的规模犯错。更具体的危险是代理超出预期范围，访问不应访问的系统或处理不应保留的数据。

在我们的 电子邮件安全产品 中，例如，代理处理本质上敏感的数据。我们已经采取了大量措施来确保这些代理具有严格限制的访问权限，不能意外地向下游暴露敏感个人信息，并且在需要时不会保留机密信息，同时仍然具有做出正确决策所需的上下文。

在什么时候，严重依赖 AI 生成代码开始引入长期的技术债务，以及工程领导者如何平衡速度与可维护性?

风险是优先考虑短期速度而忽视允许系统扩展和演进的基础。从我在 Stripe 的时间中吸取的最重要的教训之一是，并非所有决定都是平等的。有些决定是陷阱：很难逆转，并且可能具有长期后果，而其他决定可以更轻松地改变。

使用 AI 时，需要的纪律是知道哪些决定仍然具有长期后果，在这些决定周围建立更强的防护措施，并在其他方面快速移动。在 Doppel，这意味着使用评估系统和当前文档来确保代理继续按照预期运行，因为系统会随着时间的推移而演进。目标不是减慢速度，而是确保速度不会悄悄地侵蚀我们正在构建的基础。

在 Stripe 扩展工程组织的过程中，您学到了哪些关于可靠性、信任和系统设计的教训，现在这些教训在自主 AI 代理的时代中显得尤为重要?

在 Stripe，可靠性是一切，因为金融行业受到监管，如果支付门户宕机，对业务来说可能是灾难性的。如果系统不按预期运行，就会直接影响客户，这在公司内部创造了强烈的所有权和责任感文化。

吸引我来到 Doppel 的事情之一是类似的客户痴迷程度。这里的团队深深地专注于了解客户面临的挑战并拥有解决这些挑战的所有权。

现在我在 Doppel，这些教训感觉尤为重要。我们正在构建 AI 原生的系统来帮助组织防御日益复杂的社交工程攻击。与 Stripe 类似，在那里无法承担支付处理系统宕机的风险，在这里，对于业务来说，没有强大的网络安全态势就是灾难性的。

在未来几年内，随着公司越来越优先考虑 AI 流利度、系统思维和适应性而非狭隘的技术专业化，工程招聘将如何改变?

我认为我们将看到对能够独立工作、拥有强烈的判断力和快速学习能力的工程师的重视程度日益增加。这些都是我一直招聘的特质，但现在它们更为重要。在我的整个职业生涯中，产生最大影响的工程师并不是那些拥有最窄专业知识的人，而是那些能够适应、应对模糊性并在技术演进时不断学习的人。

但是标准已经提高了。在 Doppel，我们正在解决的问题并没有明确定义。我们不断努力保持领先于也在利用 AI 的攻击者，这意味着构建能够主动探索网络以发现威胁的威胁情报代理。没有既定的解决方案，所以这需要毅力和突破可能性的界限的意愿。

AI 将继续改变工作的方式，但公司仍将需要能够跨系统工作并对其构建的内容的整个生命周期负责的员工。那些在 AI 环境不断演变时不断重塑自己能力的工程师将会茁壮成长。

您在整个职业生涯中曾广泛参与个性化、推荐系统和机器学习驱动的平台。这种经验如何影响您对工程组织中的人机协作的看法?

我从个性化和机器学习系统中学习到的一件事是，输出的质量只与输入的质量一样好，包括训练数据、评估框架和对“好”的明确定义。模型在处理信息方面非常出色，但人类带来了判断力、上下文和对最重要的事情的理解。

我认为同样的原则也适用于今天的工程组织。AI 可以帮助团队加快速度，但最好的团队将在给予 AI 的上下文和基础真相方面非常谨慎，以及 AI 驱动的系统如何融入更广泛的工程生态系统。工程师仍然需要做出决定、评估权衡并最终拥有结果。

许多公司都在争相使用 AI 工具来最大化开发者生产力。您认为竞争优势最终会来自更快的编码，还是来自构建能够有效管理和协调 AI 系统的组织?

速度很重要，尤其是在网络安全领域，落后于攻击者不是一个选择。但是，没有防护措施的速度只会更快地制造可利用的漏洞。AI 系统的治理应该是每个构建 AI 的公司的基准，而不是事后补救。确保软件工程工作流程中的质量、可靠性和责任感至关重要。在网络安全行业尤其如此，攻击者会找到并利用任何留下的漏洞。这就是为什么我们在 Doppel 从一开始就带着隐私防护措施和明确的审计跟踪来构建我们的代理平台的原因。

展望未来五年，现代软件工程团队将如何变化，当 AI 代理深入融入日常开发工作流程时?

五年是一个很难预测的时间范围，因为世界正在快速变化。可以肯定地说，在接下来的 18 个月到 3 年内，AI 代理可能会处理大部分代码生成、测试和初步调试。

工程师将拥有产品判断力：规范、品味、架构和当事情失败时的责任。团队可能会变小，但角色会变得更加困难。茁壮成长的工程师不一定是那些产生最多代码的人，而是那些能够有效地指导、评估和纠正自治系统的人。

通过之前的技术转变，我学到了创新很少遵循直线。成功的团队将是那些保持好奇、快速适应并在技术变化时演进其工作流程的团队。感谢这次精彩的采访，希望读者能够通过访问 Doppel 来了解更多信息。

感谢这次精彩的采访，读者可以通过访问 Doppel 来了解更多信息。