摩特斯（Motus）数据副总裁巴勃罗·奥马切亚（Pablo Ormachea）- 采访系列

巴勃罗·奥马切亚，摩特斯（Motus）数据副总裁，负责建设企业人工智能和分析系统，以满足监管和财务审查的要求。他领导全远程、跨职能团队，专注于证据驱动的决策系统，以提高留存率、扩大利润率和提供可衡量的投资回报率。在摩特斯，他重新设计了超过35万名驾驶员的分析系统，实现了60倍更快的报告速度，且无超时，并推出了包括异常检测和客户流失预测在内的AI/ML系统，这些系统为客户节省了数百万美元。他还联合撰写了摩特斯的AI治理框架，实现了安全的LLM实验，具有明确的默认值、强大的审计能力和数据栈中的业务逻辑一致性。

摩特斯是一家劳动力管理和移动软件公司，帮助组织管理车辆报销、里程跟踪和移动劳动力运营。其云平台自动执行税收优惠的报销计划，提供实时报告和洞察力，帮助企业降低成本、提高生产力和管理遵守规定的员工的合规性，他们的工作需要驾驶。

您在人工智能工程、数据战略和监管的交叉点上建立了独特的职业生涯，从哈佛法学院到摩特斯的数据和人工智能领导。哪些关键经验塑造了您对建设同时具备技术先进性和监管合规性的人工智能系统的方法?

我很早就学会了将合规性视为工程约束，而不是法律事后补救。如果你建造了一条高速公路，你可以以高速公路的速度行驶。如果你假装它是一条土路并加速行驶，你不会更快地移动，你只会更快地崩溃。

哈佛法学院以意想不到的方式帮助我，因为普通法体系基本上是残余驱动的学习。一个规则遇到了现实。边缘情况暴露了它的失败之处。学说完善了它。

那是我为生产环境中的人工智能使用的相同的心理模型。每个残余都是一个礼物。它告诉你你的假设与现实世界在哪里发散，并且它为你提供了一个具体的路径来完善系统。

因此，我同时优化两个目标：交付速度和证明负担。目标不是“创新与合规性”。目标是建设能够快速移动并仍然能够清晰、可重复地回答“您如何知道？”的系统。

您联合撰写了摩特斯的AI治理政策，该政策简化了审批流程，同时保持了强大的控制。设计该政策时，您遵循了哪些原则，您如何平衡创新速度与审计准备?

我们没有着手编写规则。我们画了一张地图。当人工智能采用开始时，来自各个方向的兴趣会转化为速度，或者更糟糕的是，责任。因此，第一项工作是清晰度：LLM可以运行和不能运行的地方，什么数据必须严格保持在内部，什么样的实验是在安全车道中允许的。

平衡来自于使安全路径成为容易的路径。治理失败时，它变成一个委员会。它起作用时，它变成默认值：批准的工具、明确的数据边界、标准日志记录和快速审批通道用于边缘情况。目标是建设者在每次交付时不需要重新谈判安全性。

然后，审计准备成为一种副产品。你不必在事后匆忙收集证据，因为系统在运行时会生成证据。

您曾说过，人工智能实践应该达到“甚至IRS级别的审查”。您能分享一个例子，监管考虑直接影响了摩特斯的技术人工智能或机器学习决策吗?

在监管工作流程中，问题不仅仅是“模型是否准确？”而是“您能以后展示您的工作吗？”这种现实塑造了摩特斯的“良好”标准。

它改变了设计选择。对于某些用例，我们偏向于可解释、可重放和易于审计的方法。有时这意味着更简单的模型家族。通常这意味着确定性防护栏、版本化功能和以支持真正重放的方式记录输入和输出。

一个具体的例子是：当我们更新了报销逻辑和报告的某些部分时，我们在关键决策点上推动了可追溯性。我们希望系统能够按需回答哪个规则触发了，使用了什么数据，运行了哪个版本，以及什么会改变结果。它使人工智能组件更易于使用，并使整个工作流程更容易防御。

回报是复合的。当您可以重放行为并分割错误时，残余不再神秘。它们变成了一个优先的待办事项清单：什么失败了，在哪里，为什么，以及什么变化可以弥补差距。

摩特斯运营着车辆报销和风险缓解解决方案，必须满足IRS和其他监管要求。人工智能如何提高这些企业用例中的合规性和准确性?

人工智能通过两种方式帮助：它减少了手动摩擦，并增强了可辩护性。

在报销方面，价值不仅在于自动化，还在于一致性。人工智能可以帮助分类行程，检测异常，并更早地发现缺失的信息，从而减少下游的调解。没有人希望报销成为一个月度的考古挖掘项目。合规性收益来自更好的测量和更好的文档记录。您通过清晰的记录支持结果，而不是依赖事后重建。

在风险方面，人工智能很有用，因为点对点检查是不够的。企业希望对变化、偏离和需要关注的内容有持续的认识。这里最好的人工智能系统并不戏剧化。它们安静、可靠、可衡量。

领导远程、跨职能团队与法律、安全、财务和产品部门合作，这并不是一件简单的事。您在围绕数据和人工智能计划对齐这些团队时面临了哪些最大的挑战?

最难的部分是每个团队都是理性的，并且他们优化不同的风险。

安全团队担心暴露。法律团队担心可辩护性。财务团队担心成本和可预测性。产品团队担心速度和客户价值。数据和工程团队担心可行性和可靠性。如果您将这些视为相互竞争的议程，您将停滞不前。

解决方案是共享语言和明确的车道。我们对决策达成一致，定义边界，并同意“良好”需要什么证据。然后我们建立默认值，因此大多数工作可以在没有仪式的情况下进行。

我发现清晰度胜过说服力。当人们可以看到地图时，协调变得更加容易。

您推动了重大性能改进，例如为35万多名驾驶员提供60倍更快的报告，并为客户节省了数百万美元。您如何决定哪些人工智能/机器学习项目优先考虑，以实现战术影响和战略价值?

我优先考虑通过三个测试的项目。

首先，它们必须改变一个真正的决策或工作流程，而不仅仅是产生一个聪明的评分。如果输出不能可靠地改变行为，那么它就是一个演示，而不是一个产品。

第二，它们必须是可衡量的。我的祖父母曾经说“好测量是半成品”。在监管环境中，它的价值更大。如果我们不能提前定义成功、错误模式和监控，那么它意味着我们还不理解这项工作。

第三，它们必须在审查下具有辩护性。这包括数据来源、访问边界和解释和重放结果的能力。

当一个项目通过这些测试时，它往往会产生战术胜利和战略复合。就在摩特斯，我们通过这种方式实现了显著的改进，包括在规模上实现了大幅加快的报告速度、减少了例外情况和将自动化转化为真正的客户时间节省。

信任和可解释性对于企业人工智能采用至关重要。您的团队如何确保模型对于利益相关者来说是可解释和可信的?

信任来自于清晰度、一致性和能够自我解释的系统。

我们设计系统具有重放按钮。相同的输入、相同的版本、相同的输出，以及随时间变化的证据痕迹。我们还使残余可见。每个错误都是信息。如果你正确地记录错误，你可以用清晰的语言解释行为，并以有纪律的方式改进它。

当一个决策有审计风险时，我们偏向于更简单的模型加上强大的测量，而不是不透明的复杂性。实际上，这意味着清晰的数据定义、根据有意义的段划分性能的评估、监测漂移和记录的变更过程。利益相关者不需要每个技术细节。他们需要对系统的信心，即系统是可衡量的、有界限的和正在改进的。

在企业环境中，解释性不是一种哲学偏好。它是一种采用的要求，并且它在客户需要承受未来的审计时很重要。

从法律、神经科学、统计学和应用人工智能的旅程中，您会给希望在复杂商业环境中领导数据和人工智能的年轻专业人士什么建议?

学习建设系统，而不仅仅是模型。或者换句话说，建设高速公路，记录错误，并保持地图更新。

接近结果的负责人。前线操作员通常在数据之前看到信号。他们的反馈不是“传闻”。它通常是缺失的功能集。

对测量和错误保持舒适和谦逊的态度。残余是礼物，如果你愿意倾听。在监管环境中，添加证明负担的纪律：能够解释你构建了什么，为什么它表现得那样，以及当它改变时你会做什么。

最后，记住采用是工作的一部分。变革管理不是一个软添加。它是核心要求，如果你希望你的人工智能被使用。因此，不仅要在数据、模型和算法方面做得很好，还要跨业务单元工作，赢得信任，并驾驭将一个好模型转化为真正能力的人类路径。如果你能做到这一点，你不会只建立模型，你会建立信任。

感谢这次精彩的采访，希望了解更多的读者可以访问摩特斯。