Pablo Ormachea，Motus 数据副总裁 – 专访系列

Pablo Ormachea 是 Motus 的数据副总裁，他构建的企业级人工智能和分析系统旨在快速推进，同时经得起监管和财务审查。他领导完全远程、跨职能的团队，专注于基于证据的决策系统，以提高留存率、扩大利润率并提供可衡量的投资回报。在 Motus，他为超过 350,000 名驾驶员重新设计了分析系统，实现了报告速度提升 60 倍且零超时，并推出了包括异常检测和流失预测在内的人工智能/机器学习系统，为客户节省了数百万美元。他还共同制定了 Motus 的人工智能治理框架，通过清晰的默认设置、强大的可审计性以及跨数据堆栈的一致业务逻辑，实现了安全的大语言模型实验。

Motus 是一家劳动力管理和移动软件公司，帮助组织管理车辆报销、里程跟踪和移动劳动力运营。其云平台自动化了具有税收优势的报销计划，提供实时报告和洞察，并帮助企业降低成本、提高生产力，并为因工作而驾驶的员工管理合规性。

您在人工智能工程、数据战略和监管的交汇处建立了独特的职业生涯——从哈佛法学院到领导 Motus 的数据和人工智能。哪些关键经历塑造了您构建既技术先进又符合严格监管框架的人工智能系统的方法？

我很早就学会将合规性视为一种工程约束，而不是事后的法律考量。如果你修建了高速公路，你就可以以高速公路的速度行驶。如果你假装它是土路却仍然猛踩油门，你不会走得更快。你只会更早撞车。

哈佛法学院以一种令人惊讶的方式提供了帮助，因为普通法体系本质上是基于残差驱动的学习。规则遇到现实。边缘案例暴露其失败之处。学说随之完善。

这就是我在生产环境中使用人工智能时采用的相同思维模型。每一个残差都是一份礼物。它告诉你你的假设在哪里与现实世界脱节，并为你提供了一条收紧系统的具体路径。

因此，我同时优化两件事：交付速度和举证责任。目标不是“创新与合规之争”。目标是构建能够快速推进，同时仍能清晰、可重复地回答“你怎么知道？”的系统。

您共同制定了 Motus 的人工智能治理政策，该政策在保持严格管控的同时简化了审批流程。设计该政策时遵循了哪些原则？您如何平衡创新速度与审计准备就绪度？

我们并非旨在制定规则。我们绘制了一张地图。当人工智能应用开始时，兴趣来自四面八方，速度可能变成噪音，或者更糟，变成责任。因此，首要任务是清晰：大语言模型可以在哪里运行，不能在哪里运行；哪些数据必须严格保留在内部；以及哪些类型的实验被允许在安全车道内进行。

平衡来自于使安全路径成为便捷路径。当治理变成一个委员会时，它就失败了。当它成为默认设置时，它就成功了：批准的工具、清晰的数据边界、标准化的日志记录，以及针对边缘情况的快速审批通道。目标是让构建者无需在每次交付时都重新协商安全性。

然后，审计准备就绪度就成为了副产品。你不会在事后手忙脚乱地拼凑证据，因为系统在运行时就会生成证据。

您曾说过人工智能实践应经受“甚至 IRS 级别的审查”。能否分享一个在 Motus，监管考量直接影响人工智能或机器学习技术决策的例子？

在受监管的工作流程中，问题不仅仅是“模型准确吗？”，而是“你以后能展示你的工作过程吗？”这一现实塑造了 Motus 眼中“好”的标准。

它改变了设计选择。对于某些用例，我们倾向于采用可解释、可重放且易于审计的方法。有时这意味着更简单的模型族类。通常这意味着确定性的防护栏、版本化的特征，以及以支持真正重放的方式记录输入和输出。

一个具体例子：当我们更新部分报销逻辑和报告时，我们在关键决策点上大力推行可追溯性。我们希望系统能够按需回答：触发了什么规则、使用了什么数据、运行的是什么版本，以及什么会改变结果。这使得人工智能组件更加可用，也使整个工作流程更容易辩护。

回报是复合的。当你能够重放行为并分析错误时，残差就不再神秘。它们变成了一个优先级待办事项：什么失败了，在哪里，为什么，以及什么改变可以弥补差距。

Motus 运营的车辆报销和风险缓解解决方案必须满足 IRS 和其他监管要求。在这些企业用例中，人工智能如何提高合规性和准确性？

人工智能在两个方面提供帮助：减少人工摩擦，并增强可辩护性。

在报销方面，价值不仅仅是自动化，更在于一致性。人工智能可以帮助分类行程、检测异常，并更早地发现缺失信息，从而减少下游的对账工作。没有人希望报销变成每月一次的考古项目。合规性收益来自于更好的测量和更好的文档记录。你用清晰的记录来支持结果，而不是依赖事后重建。

在风险方面，人工智能很有用，因为单点检查是不够的。企业希望持续了解发生了什么变化、什么看起来不对劲以及需要注意什么。在这方面，最好的人工智能系统并不引人注目。它们是安静、一致且可衡量的。

领导与法律、安全、财务和产品部门协作的远程跨职能团队绝非易事。在围绕数据和人工智能计划协调这些团队时，您面临的最大挑战是什么？

最困难的部分在于，每个团队都是理性的，但他们针对不同的风险进行优化。

安全部门担心暴露风险。法律部门担心可辩护性。财务部门担心成本和可预测性。产品部门担心速度和客户价值。数据和工程部门担心可行性和可靠性。如果你把这些视为相互竞争的议程，你就会陷入停滞。

解决方法是共享语言和清晰的职责划分。我们就待决决策达成一致，界定边界，并就“好”需要什么证据达成共识。然后我们建立默认设置，以便大多数工作无需繁文缛节即可推进。

我发现清晰度胜过说服力。当人们能看到地图时，协调就变得容易得多。

您推动了重大的性能改进——例如为超过 350,000 名驾驶员实现报告速度提升 60 倍，并为客户节省数百万美元。您如何决定优先考虑哪些人工智能/机器学习项目，以实现战术影响和战略价值？

我优先考虑通过三项测试的项目。

首先，它们必须改变真实的决策或工作流程，而不仅仅是产生一个聪明的分数。如果输出不能可靠地改变行为，那它只是一个演示，而不是产品。

其次，它们必须是可衡量的。我的祖父母常说“量度得当，事成一半”。在受监管的环境中，这不止一半。如果我们不能预先定义成功、错误模式和监控，那就意味着我们还不理解这项工作。

第三，它们必须在审查下具有可辩护性。这包括数据来源、访问边界，以及解释和重放结果的能力。

当一个项目通过这些测试时，它往往既能创造战术胜利，也能产生战略上的复合效应。在 Motus，我们就是这样实现了阶梯式的改进，包括大规模显著加快报告速度、减少例外情况，以及转化为真正节省客户时间的自动化。

信任和可解释性对于企业采用人工智能至关重要。您的团队如何确保模型对于跨业务部门的利益相关者是可解释和值得信赖的？

信任来自于清晰度、一致性，以及一个在压力下能够自我解释的系统。

我们设计的系统带有重放按钮。相同的输入、相同的版本、相同的输出，再加上随时间变化的证据轨迹。我们还让残差可见。每一次失误都是信息。如果你正确地检测错误，你就可以用通俗的语言解释行为，并以有纪律的方式改进它。

当一项决策面临审计风险时，我们倾向于选择更简单的模型加上强大的测量，而不是不透明的复杂性。实际上，这意味着清晰的数据定义、按有意义的细分维度评估性能、监控漂移，以及有记录的变更流程。利益相关者不需要每一个技术细节。他们需要的是对系统可测量、有边界且在不断改进的信心。

在企业环境中，可解释性不是一种哲学偏好。它是采用的要求，并且在客户需要经受未来审计时至关重要。

从符合 HIPAA 标准的数据管道到符合 IRS 要求的报告，Motus 强调安全、可扩展的人工智能。对于其他在受监管行业工作的人工智能领导者，您会推荐哪些最佳实践？

一些具有普适性的原则：

• 将合规性视为高速公路。修建铺好的道路，以便团队能够安全快速地移动。
• 尽早界定边界。明确哪些数据不能离开、哪些工具被批准使用，以及模型可以在哪里运行。
• 自动化证据收集。使日志记录、数据沿袭和版本控制成为默认设置，而不是审计期间的仓促应对。
• 在扩展之前先测量。量度得当，事成一半。你无法改进你看不到的东西。
• 将残差操作化。将失误转化为错误分类法和优先级改进待办事项。
• 为采用而设计。优秀的模型部分是统计学，部分是合作伙伴关系，很大程度上是变革管理。

如果你的治理只存在于 PDF 文件中，它将无法扩展。如果它存在于系统中，它就能扩展。

随着 Motus 处于车辆报销和风险解决方案的前沿，您如何看待未来 3-5 年人工智能在这一领域的发展？

我预计会有两大转变，并且它们相互促进。

首先，风险将从定期检查转向持续、可用于决策的信号。如今，大多数组织仍然在事故发生后或某个时间点的审查后才了解到驾驶员风险。下一波浪潮是能够更早、更精确地发现风险的系统，利用运营中已经存在的模式：资格变化、覆盖缺口、异常的里程模式，以及预期行为与实际行为之间的不一致。目标不是取代判断。而是为安全、人力资源、财务和运营部门提供一个更清晰的早期预警面板，减少误报，并为标记某事物的原因提供更好的文档记录。

其次，报销将从文书工作转向工作流程。企业仍然在提交、更正、审批和事后清理上浪费大量时间。在未来几年，我预计报销生命周期中将出现更多自动化：预先填写可以预先填写的内容，及早发现缺失或不一致的输入，将例外情况连同上下文路由给正确的审批人，并减少人工来回沟通。如果做得好，这会使报销更快、更具可辩护性，因为证据轨迹是在流程中生成的，而不是事后重建的。

令人兴奋的是，当基础正确时，这两者是如何融合的。当边界清晰、残差可见时，你会得到一个复合循环：更少的例外情况、更清晰的提交、更快的审批、更好的风险信号，以及更清晰的决策记录。

未来不是“人工智能无处不在”。而是人工智能嵌入在正确的时刻，并配有强大的测量和反馈循环以持续改进。

基于您在法律、神经科学、统计学和应用人工智能领域的经历，对于渴望在复杂商业环境中领导数据和人工智能的年轻专业人士，您会给予什么指导？

学会构建系统，而不仅仅是模型。或者换句话说，修建高速公路，检测失误，并保持地图更新。

接近那些亲历结果的人。一线操作员通常在你的数据之前看到信号。他们的反馈不是“轶事”。它通常是缺失的功能集。

培养对测量的适应能力，以及对错误的谦逊态度。如果你愿意倾听，残差就是礼物。在受监管的环境中，增加举证责任的纪律：能够解释你构建了什么、它为何如此行为，以及当它发生变化时你会怎么做。

最后，记住采用是工作的一部分。变革管理不是一个软性的附加项。如果你希望你的人工智能被使用，它是一个核心要求。这意味着仅仅在数据、模型和算法方面强大是不够的。你必须跨业务部门良好协作，赢得信任，并引导将好模型转化为真正能力的人际路径。如果你能做到这一点，你将不仅仅是构建模型，你还会建立信任。

感谢这次精彩的采访，希望了解更多信息的读者请访问 Motus。