モトゥス（Motus）のデータ担当VP、パブロ・オルマチェア – インタビュー・シリーズ

パブロ・オルマチェア、モトゥスのデータ担当VPは、規制および財務の審査に耐えられるように設計された、企業向けのAIおよび分析システムを構築しています。彼は、完全にリモートで、クロスファンクショナルなチームを率いており、エビデンスに基づいた意思決定システムに焦点を当て、リテンションの向上、利益率の拡大、測定可能なROIの提供に取り組んでいます。モトゥスでは、35万人以上のドライバー向けの分析を再構築し、60倍速いレポートを実現し、ゼロのタイムアウトを達成しました。また、AI/MLシステムを導入し、不正検出や顧客流失予測を実現し、クライアントに数百万ドルを節約させました。また、モトゥスのAIガバナンスフレームワークの共同著者であり、安全なLLM実験を可能にする、明確なデフォルト、強力な監査可能性、データスタック全体にわたる一貫したビジネスロジックを実現しています。

モトゥスは、ワークフォースマネジメントおよびモビリティソフトウェア企業であり、組織が車両の補償、走行距離の追跡、モバイルワークフォースの運用を管理するのに役立ちます。そのクラウドプラットフォームは、税制上の優遇措置を受けることができる補償プログラムを自動化し、リアルタイムのレポートと洞察を提供し、企業がコストを削減し、生産性を向上させ、従業員のコンプライアンスを管理するのに役立ちます。

あなたは、AIエンジニアリング、データ戦略、規制の交差点でユニークなキャリアを築いてきました。モトゥスでの経験を通じて、技術的に高度で規制上の厳格な枠組みに準拠したAIシステムを構築するためのアプローチを形作った、主な経験とは何ですか?

私は早くから、コンプライアンスをエンジニアリングの制約として扱うことを学びました。高速道路を建設すれば、高速道路の速度で走行できます。ただし、土道と見なしてアクセルを踏み込んでも、速度は上がりません。クラッシュするだけです。

ハーバードロースクールでの経験は、予想外の形で役立ちました。コモンローのシステムは基本的に、残基駆動の学習です。規則が現実と出会い、エッジケースが失敗点を暴露し、ドクトリンが精製されます。

これは、私がAIを本稼働環境で使用する際に使用するメンタルモデルです。すべての残基は贈り物です。それは、私の仮定が現実世界からどのように乖離しているかを示し、システムを強化するための具体的なパスを提供します。

したがって、私は、2つのことを同時に最適化します。出荷の速度と証拠責任。目標は「イノベーション対コンプライアンス」ではありません。目標は、迅速に動き回りながらも、「どうやって知っているのか?」と明確に、繰り返し回答できるシステムを構築することです。

あなたは、モトゥスのAIガバナンスポリシーを共同で執筆し、承認を簡素化しながら、厳格な管理を維持しました。ポリシーの設計を導いた原則とは何ですか? イノベーションのスピードと監査の準備性のバランスをどのようにとりますか?

私たちは、規則を書くことを目的としませんでした。地図を描きました。AIの採用が始まると、関心はあらゆる方向から来ますが、速度はノイズ、またはそれ以下の責任に変わる可能性があります。したがって、最初の仕事は明確さです。LLMが実行できる場所と実行できない場所、どのデータが厳密に内部に留まる必要があるか、どのような実験が安全なレーンで許可されるかを定義する必要があります。

バランスは、安全なパスを容易にすることから来ます。ガバナンスは委員会では失敗します。デフォルトとして機能します。承認されたツール、明確なデータ境界、標準的なログ、エッジケースのための迅速な承認レーンです。目標は、ビルダーが毎回出荷するたびに安全性を再交渉する必要がないことです。

すると、監査の準備は副産物になります。システムが実行されるときに証拠が生成されるため、事後的に証拠をまとめる必要はありません。

あなたは、AIの実践は「IRSレベルの厳格さ」を満たすべきだと述べています。モトゥスでのAIまたはMLの技術的な決定に、規制上の考慮が直接影響した例を示してください。

規制されたワークフローでは、質問は「モデルが正確か?」だけではありません。「あなたの仕事を後で示すことができるか?」が重要です。那実現性は、モトゥスでの「よい」ものの基準を形作ります。

それは設計上の選択に影響を与えます。特定のユースケースでは、説明可能なアプローチ、再生可能なアプローチ、監査が容易なアプローチを偏重します。時には、それはよりシンプルなモデルファミリーを意味します。 souvent それは、決定可能なガードレール、バージョニングされた機能、入力と出力をログに記録することを意味します。これは、真の再生をサポートするためです。

具体的な例があります。私たちが報酬ロジックとレポートの一部を更新したとき、重要な意思決定ポイントでの追跡可能性に重点を置きました。システムが、どの規則が発動したか、どのデータを使用したか、どのバージョンが実行中か、どのような変更が結果を変更するかを、要求に応じて回答できるようにしたかったのです。AIコンポーネントをより使いやすくし、全体のワークフローをより容易に防衛できるようにしました。

その利益は複合的に積み上がります。行動を再生し、エラーをスライスできるようになると、残基は神秘的なものではなくなります。優先順位の付いたバックログになるのです。何が失敗したのか、どこで、どこで、どのような変更がギャップを埋めるかがわかります。

モトゥスは、車両の補償とリスク軽減のためのソリューションを提供し、IRSおよびその他の規制要件を満たす必要があります。企業のユースケースで、AIはコンプライアンスと精度をどのように向上させますか?

AIは2つの方法で役立ちます。手動の摩擦を減らし、防御力を強化します。

補償については、価値は自動化だけではありません。一貫性があります。AIは、旅行を分類し、異常を検出し、不足している情報を早期に表面化するのに役立ちます。これにより、ダウンストリームの調整が減ります。誰も補償が毎月の考古学プロジェクトになることを望みません。コンプライアンスの利点は、より良い測定とより良いドキュメンテーションから来ます。結果を裏付ける明確なレコードを提供します。事後的な再構築に頼るのではなく、レコードを提供します。

リスクについては、AIは役立ちます。ポイントインタイムチェックだけでは不十分です。企業は、変更されたもの、異常なもの、注意が必要なものについて、継続的な認識を望みます。ここでの最も優れたAIシステムは、ドラマティックなものではありません。静かで、一貫性があり、測定可能です。

法務、セキュリティ、財務、製品と協力するリモート、クロスファンクショナルなチームを率いることは、容易なことではありません。データとAIのイニシアチブをこれらのグループに合わせるのに、直面した最大の課題とは何ですか?

最も難しい部分は、各グループが合理的であり、異なるリスクを最適化しているということです。

セキュリティは、露出について心配しています。法務は、防御可能性について心配しています。財務は、コストと予測可能性について心配しています。製品は、速度と顧客価値について心配しています。データとエンジニアリングは、実現可能性と信頼性について心配しています。もし、これらを競合する議題として扱うと、停滞します。

解決策は、共通の言語と明確なレーンです。私たちは、決定の内容、境界、証拠の「よい」ものが何を必要とするかについて合意します。次に、デフォルトを構築して、ほとんどの作業が式無く進むようにします。

私は、明確さが説得力を上回ることを発見しました。人々が地図を見られるようになると、調整ははるかに容易になります。

あなたは、35万人以上のドライバー向けの60倍速いレポートや数百万ドルのクライアント節約などの大幅なパフォーマンスの向上を推進しました。どのようにして、戦術的な影響と戦略的な価値の両方で優先順位を付けたAI/MLプロジェクトを決定しますか?

私は、3つのテストに合格するプロジェクトを優先します。

まず、実際の意思決定またはワークフローを変更する必要があります。ただの巧みなスコアを生成するのではなく、行動を変更する必要があります。出力が信頼性の高い行動の変更をもたらさない場合、それはデモではありますが、製品ではありません。

2番目に、測定可能である必要があります。私の祖父は「よく測定されれば、半分は完了です」と言っていました。規制された環境では、それ以上のことです。成功、エラーモード、監視を事前に定義できない場合、仕事をまだ理解していないことを意味します。

3番目に、検証の下で防御可能である必要があります。データの出所、境界、アクセス、説明、再生が含まれます。

プロジェクトがこれらのテストに合格すると、戦術的な勝利と戦略的な複合の両方を生み出す傾向があります。モトゥスでは、これが大幅な改善をもたらす方法です。スケールでのレポートの速度の向上、例外の減少、クライアントの実際の時間節約に相当する自動化です。

信頼と説明可能性は、企業のAI採用のために重要です。モトゥスでは、ステークホルダー全員にとってモデルが解釈可能で信頼できるように、どのようにして保証していますか?

信頼は、明確さ、一貫性、システムがプレッシャー下で自分自身を説明できることから来ます。

私たちは、システムをリプレイ可能なように設計します。同じ入力、同じバージョン、同じ出力、証拠のトレイルが含まれます。残基も可視化します。すべてのミスは情報です。エラーを適切に計測すれば、行動を明確に説明し、規律を持って改善することができます。

監査の可能性がある決定の場合、シンプルなモデルと強力な測定を、不透明な複雑さよりも偏重します。実際的には、明確なデータ定義、パフォーマンスのスライス、ドリフトの監視、文書化された変更プロセスが含まれます。ステークホルダーは、すべての技術的な詳細を必要としません。システムが測定され、境界付けられ、改善されているという自信が必要です。

企業環境では、説明可能性は哲学的な好みではありません。採用の要件であり、将来の監査に耐えられる必要があります。

規制された業界でAIをリードする他の指導者に、どのようなベストプラクティスを勧めますか?

いくつかの原則があります。

• コンプライアンスを高速道路と見なします。チームが安全に速く進める高速道路を建設します。
• 境界を早期に定義します。どのデータが外に出てはならないか、どのツールが承認されているか、どのモデルが実行できるかを明確にします。
• 証拠を自動化します。ログ、プロバンス、バージョニングをデフォルトとします。監査中に証拠をまとめるために慌てる必要はありません。
• 拡大する前に測定します。よく測定されれば、半分は完了です。見えないものは改善できないからです。
• 残基を運用します。ミスをエラータクソノミーと優先順位の付いた改善のバックログに変えます。
• 採用を設計します。優れたモデルは、統計の一部、パートナーシップの一部、そして大部分が変更管理です。

あなたのガバナンスがPDFに住んでいるとき、それはスケールしません。システムに住んでいるとき、それはスケールします。

モトゥスが車両の補償とリスクソリューションの最前線に立っています。次の3〜5年で、この分野におけるAIの進化をどのように見ていますか?

2つの大きな変化が予想されます。それらは相互に強化します。

まず、リスクは、定期的なチェックから、意思決定レベルの連続的なシグナルに移行します。今日、ほとんどの組織は、インシデントの後、またはポイントインタイムのレビューの後、ドライバーのリスクについて学びます。次の波は、すでに運用に存在するパターンを使用して、リスクをより早く、より正確に表面化するシステムです。適格性の変更、カバレッジギャップ、異常なマイルのパターン、期待される行動と観測された行動の不一致などです。目標は、判断を置き換えることではありません。セーフティ、HR、財務、オペレーションズに、より明確な早期警戒パネルを提供することです。誤ったアラームが少なく、フラグが付けられた理由のドキュメンテーションがより良いです。

2番目に、補償は、書類仕事からワークフローへと移行します。企業はまだ、提出、修正、承認、事後のクリーンアップに多くの時間を費やしています。次の数年で、補償ライフサイクル全体にわたる自動化の増加を予想しています。事前に埋めることができるものを埋め、不足している、または一貫性のない入力を早期に検出して、例外を適切な承認者にコンテキストとともにルーティングし、手動のやり取りを減らすことです。うまく行えば、補償がより迅速で、より防御可能になるということです。証拠のトレイルは、プロセスの一部として生成されるからです。後から再構築するのではなく、プロセスの一部として生成されるからです。

これが興奮するのは、基盤が正しければ、どのように収束するかです。境界が明確で、残基が可視化されている場合、ループが複合します。例外が少なく、クリーンな提出が増え、承認が速くなり、リスクシグナルがより明確で、意思決定の記録がより明確になります。

将来は「AIのすべて」ではありません。正しい時点で埋め込まれたAI、強力な測定とフィードバックループが、継続的に改善するものです。

法学、神経科学、統計学、応用AIを経て、複雑なビジネス環境でデータとAIをリードすることを目指す若い専門家に、どのようなアドバイスをしますか?

システムを構築することを学びます。モデルだけではありません。高速道路を建設し、ミスを計測し、地図を最新の状態に保ちます。

結果に身を置く人々に近づきます。最前線のオペレーターは、データよりも先にシグナルを察知することがあります。彼らのフィードバックは「逸話的」ではありません。欠けている機能セットです。

測定に対する安心感と、エラーに対する謙虚さを身に付けます。残基は贈り物です。規制された環境では、証拠責任の規律を追加します。構築したものを説明し、どのように動作したか、変更されたときに何をするかを説明できる必要があります。

最後に、採用は仕事の一部であることを覚えておいてください。変更管理は、柔らかい付加価値ではありません。コア要件です。AIを使用したい場合は、データ、モデル、アルゴリズムが強いだけでは不十分です。ビジネスユニット全体で協力し、信頼を築き、良いモデルを実際の機能に変える人間のパスをナビゲートする必要があります。そうすれば、モデルだけを構築するのではなく、信頼を構築することになります。

素晴らしいインタビュー、ありがとうございます。さらに詳しく知りたい読者は、モトゥスを訪問してください。