Пабло Ормачеа, Вице-президент по данным в Motus – Интервью-серия

Пабло Ормачеа, Вице-президент по данным в Motus, создает корпоративные системы ИИ и аналитики, предназначенные для быстрого действия при одновременном выдерживании регулирующего и финансового контроля. Он руководит полностью удаленными, межфункциональными командами и фокусируется на принятии решений на основе доказательств, которые улучшают удержание, расширяют маржу и обеспечивают измеримую отдачу от инвестиций. В Motus он переработал аналитику для более чем 350 000 водителей, достигнув 60-кратного ускорения отчетности без тайм-аутов, и разработал системы ИИ/МО, включая обнаружение аномалий и прогнозирование отказов, которые принесли клиентам миллионы экономии. Он также стал соавтором рамок управления ИИ в Motus, обеспечивающих безопасный эксперимент с крупными языковыми моделями с четкими настройками по умолчанию, сильной аудиторской проверкой и последовательной бизнес-логикой на протяжении всего стека данных.

Motus – это компания по управлению рабочей силой и мобильности, которая помогает организациям управлять возмещением транспортных расходов, отслеживанием пробега и мобильными операциями рабочей силы. Ее облачная платформа автоматизирует налогово-выгодные программы возмещения, обеспечивает реальное отчетность и анализ, и помогает предприятиям снижать затраты, повышать производительность и управлять соблюдением требований для сотрудников, которые водят автомобиль в рамках своей работы.

Вы построили уникальную карьеру на пересечении ИИ-инженерии, стратегии данных и регулирования — от Гарвардского права до руководства данными и ИИ в Motus. Какие ключевые опыт сформировали ваш подход к созданию систем ИИ, которые являются одновременно технически продвинутыми и соответствуют строгим нормативным рамкам?

Я рано научился относиться к соблюдению требований как к инженерному ограничению, а не как к юридической после мысли. Если вы построили шоссе, вы можете ехать на шоссе со скоростью шоссе. Если вы притворяетесь, что это грунтовая дорога, и нажимаете на газ, вы не движетесь быстрее. Вы просто разбиваетесь раньше.

Гарвардское право помогло в удивительном образом, потому что система общего права по сути является обучением, основанным на остатках. Правило встречается с реальностью. Исключительные случаи раскрывают, где оно терпит неудачу. Доктрина уточняет.

Это та же мыслительная модель, которую я использую для ИИ в производстве. Каждый остаток — это подарок. Он говорит вам, где ваши предположения расходятся с реальным миром, и он дает вам конкретный путь к улучшению системы.

Итак, я оптимизирую две вещи одновременно: скорость доставки и бремя доказательств. Цель не состоит в «инновациях против соблюдения требований». Цель состоит в создании систем, которые могут двигаться быстро и все же давать четкий и повторяющийся ответ на вопрос «Как вы знаете?»

Вы стали соавтором политики управления ИИ в Motus, которая упростила одобрения, сохраняя при этом сильный контроль. Какие принципы руководили вами при разработке этой политики, и как вы балансируете скорость инноваций с готовностью к аудиту?

Мы не стали писать правила. Мы нарисовали карту. Когда начинается внедрение ИИ, интерес возникает со всех сторон, и скорость может превратиться в шум или, что хуже, в ответственность. Итак, первая задача — ясность: где могут работать ИИ, где они не могут, какие данные должны оставаться строго внутри, и какие эксперименты разрешены в безопасной полосе.

Баланс достигается путем того, что безопасный путь становится легким путем. Управление терпит неудачу, когда оно становится комитетом. Оно работает, когда становится настройками по умолчанию: утвержденными инструментами, четкими границами данных, стандартным протоколированием и быстрым путем одобрения для исключительных случаев. Цель состоит в том, чтобы строители не нуждались в повторной согласовании безопасности каждый раз, когда они доставляют.

Тогда готовность к аудиту становится побочным продуктом. Вы не спешите собирать доказательства после факта, потому что система генерирует доказательства во время работы.

Вы сказали, что практики ИИ должны соответствовать «даже проверке IRS». Можете ли вы поделиться примером, где регулирующие соображения напрямую повлияли на техническое решение ИИ или МО в Motus?

В регулируемых рабочих процессах вопрос не только в том, «является ли модель точной?», но и в том, «можете ли вы показать свою работу позже?» Это реальность формирует, что «хорошо» означает в Motus.

Это меняет выбор дизайна. Для определенных случаев мы偏аемся к подходам, которые являются объяснимыми, воспроизводимыми и легко проверяемыми. Иногда это означает более простые семейства моделей. Часто это означает детерминированные ограничители, версионные функции и протоколирование входных и выходных данных таким образом, чтобы поддерживать真正е воспроизведение.

Конкретный пример: когда мы обновили части нашей логики возмещения и отчетности, мы сильно повлияли на прослеживаемость на ключевых решениях. Мы хотели, чтобы система могла ответить на вопрос, какой правил сработал, какие данные он использовал, какая версия была запущена, и что изменилось бы результат. Это сделало компоненты ИИ более удобными, и оно сделало весь рабочий процесс легче защитить.

Выплата компенсируется. Когда вы можете воспроизвести поведение и разрезать ошибки, остатки перестают быть загадочными. Они становятся приоритизированным бэклогом: что не сработало, где, почему и какое изменение закрывает разрыв.

Motus работает над решениями для возмещения транспортных расходов и смягчения рисков, которые должны удовлетворять требованиям IRS и других регулирующих органов. Как ИИ улучшает соблюдение требований и точность в этих корпоративных случаях?

ИИ помогает двумя способами: он снижает ручную трение, и он укрепляет обоснованность.

В отношении возмещения ценность не только в автоматизации, но и в последовательности. ИИ может помочь классифицировать поездки, обнаруживать аномалии и выявлять пропущенную информацию раньше, что снижает последующую согласование. Никто не хочет, чтобы возмещение стало ежемесячным проектом по раскопкам. Преимущество соблюдения требований заключается в лучшей измеримости и лучшей документации. Вы поддерживаете результаты с четкой записью, а не полагаясь на реконструкцию после факта.

В отношении рисков ИИ полезен, потому что проверки в определенный момент времени недостаточны. Предприятия хотят непрерывного осознания того, что изменилось, что выглядит не так, и что требует внимания. Лучшие системы ИИ здесь не драматичны. Они тихи, последовательны и измеримы.

Руководство удаленными, межфункциональными командами, которые сотрудничают с Юридическим, Безопасностью, Финансами и Продуктом, — это не простая задача. Какие самые большие проблемы вы столкнулись с при выравнивании этих групп вокруг инициатив данных и ИИ?

Самая трудная часть заключается в том, что каждая группа рациональна, и они оптимизируют под разные риски.

Безопасность беспокоится об уязвимости. Юристы беспокоятся об обоснованности. Финансы беспокоятся о стоимости и предсказуемости. Продукт беспокоится о скорости и ценности клиента. Данные и инженерия беспокоятся о осуществимости и надежности. Если вы относитесь к этим как к конкурирующим программам, вы застреваете.

Исправление заключается в общем языке и четких полосах. Мы выравниваем решение, определяем границы и соглашаемся на то, что доказательства «хорошо» требуют. Затем мы строим настройки по умолчанию, чтобы большинство работы могли двигаться без церемонии.

Я обнаружил, что ясность побеждает убеждение. Когда люди могут увидеть карту, выравнивание становится намного проще.

Вы добились значительных улучшений производительности — например, 60-кратного ускорения отчетности для более чем 350 000 водителей и экономии миллионов клиентам. Как вы решаете, какие проекты ИИ/МО отдавать приоритет для тактического воздействия и стратегической ценности?

Я отдаю приоритет проектам, которые проходят три теста.

Во-первых, они должны изменить реальное решение или рабочий процесс, а не просто производить умный счет. Если вывод не изменит поведение, это демонстрация, а не продукт.

Во-вторых, они должны быть измеримыми. Мои бабушки и дедушки говорили «хорошо измерено — это половина дела». В регулируемых условиях это больше, чем половина. Если мы не можем определить успех, режимы ошибок и мониторинг заранее, это означает, что мы еще не понимаем работу.

В-третьих, они должны быть обоснованными под проверкой. Это включает в себя происхождение данных, границы доступа и возможность объяснить и воспроизвести результаты.

Когда проект проходит эти тесты, он, как правило, создает как тактические победы, так и стратегическое наращивание. В Motus это то, как мы добились шаговых улучшений, включая существенно более быструю отчетность в масштабе, меньше исключений и автоматизацию, которая переводится в реальную экономию времени клиентов.

Доверие и объяснимость являются критическими для корпоративного внедрения ИИ. Как ваша команда обеспечивает, чтобы модели были интерпретируемыми и заслуживающими доверия для заинтересованных сторон по всему бизнесу?

Доверие исходит от ясности, последовательности и системы, которая может объяснить себя под давлением.

Мы проектируем системы с кнопкой воспроизведения. Те же входные данные, та же версия, тот же выход, плюс след доказательств того, что изменилось со временем. Мы также делаем остатки видимыми. Каждое промах — это информация. Если вы инструментируете ошибки должным образом, вы можете объяснить поведение на простом языке и улучшить его в дисциплинированном порядке.

Когда решение имеет аудиторскую ответственность, мы偏аемся к более простым моделям с сильной измеримостью над не透озной сложностью. Практически это означает четкие определения данных, оценку, которая разрезает производительность по значимым сегментам, мониторинг за дрейфом и задокументированный процесс изменений. Заинтересованные стороны не нуждаются во всех технических деталях. Им нужна уверенность в том, что система измерима, ограничена и улучшается.

В корпоративных условиях объяснимость не является философским предпочтением. Это требование для внедрения, и оно имеет значение, когда клиентам нужно выдержать будущие аудиты.

От Гарвардского права до нейробиологии, статистики и прикладного ИИ, какие лучшие практики вы бы порекомендовали другим лидерам ИИ, работающим в регулируемых отраслях?

Некоторые принципы, которые хорошо переносятся:

• Относитесь к соблюдению требований как к шоссе. Постройте проезжую дорогу, чтобы команды могли двигаться быстро безопасно.
• Определите границы заранее. Будьте явными о том, какие данные не могут покинуть, какие инструменты утверждены, и где могут работать модели.
• Автоматизируйте доказательства. Сделайте протоколирование, происхождение и версионность настройками по умолчанию, а не спешкой во время аудита.
• Измеряйте до масштабирования. Хорошо измерено — это половина дела. Вы не можете улучшить то, что не видите.
• Операционализируйте остатки. Превратите промахи в таксономию ошибок и приоритизированный бэклог улучшений.
• Проектируйте для внедрения. Отличные модели — это часть статистики, часть партнерства и в основном изменение управления.

Если ваше управление живет в PDF, оно не будет масштабироваться. Если оно живет в системе, оно будет.

С Motus на переднем крае решений для возмещения транспортных расходов и рисков, как вы видите эволюцию ИИ в этой области в течение следующих 3-5 лет?

Я ожидаю два больших сдвига, и они укрепляют друг друга.

Во-первых, риск перейдет от периодических проверок к непрерывным, решающим сигналам. Сегодня большинство организаций все еще узнают о риске водителя слишком поздно, либо после инцидента, либо после периодической проверки. Следующая волна — это системы, которые выявляют риск раньше и более точно, используя закономерности, уже присутствующие в операциях: изменения в допуске, пробелы в покрытии, необычные закономерности пробега и несоответствия между ожидаемым и наблюдаемым поведением. Цель не состоит в том, чтобы заменить суждение. Это дать безопасности, персоналу, финансам и операциям более четкую раннюю сигнализацию, с меньшим количеством ложных сигналов и лучшей документацией для того, почему что-то было выделено.

Во-вторых, возмещение перейдет от бумаг к рабочему процессу. Предприятия все еще теряют удивительное количество времени на подачи, исправления, одобрения и последующую очистку. В течение следующих нескольких лет я ожидаю большей автоматизации на протяжении всего жизненного цикла возмещения: предварительное заполнение того, что можно предварительно заполнить, раннее обнаружение пропущенных или несоответствующих входных данных, маршрутизация исключений к правильному утверждателю с контекстом и снижение ручного обмена. Если это сделано хорошо, это делает возмещение быстрее и более обоснованным, потому что след доказательств генерируется в рамках процесса, а не реконструируется позже.

Что делает это интересным, так это то, как они сходятся, когда основа правильна. Когда границы четкие и остатки видимы, вы получаете нарастающую петлю: меньше исключений, чище подачи, быстрее одобрения, лучшие сигналы риска и более четкая запись того, как были приняты решения.

Будущее не в «ИИ повсюду». Это ИИ, встроенный в правильные моменты, с сильной измеримостью и обратными связями, которые продолжают улучшаться.

На основе вашего пути через право, нейробиологию, статистику и прикладной ИИ, какие советы вы бы дали молодым профессионалам, стремящимся возглавить данные и ИИ в сложных бизнес-средах?

Учитесь строить системы, а не просто модели. Или, иначе говоря, строите шоссе, инструментируйте промахи и поддерживайте карту в актуальном состоянии.

Подходите к людям, которые живут результатом. Операторы на переднем крае часто видят сигналы до того, как ваша данные увидят. Их обратная связь не «анекдотична». Это часто отсутствующий набор функций.

Развивайте комфорт с измеримостью и смирение об ошибке. Остатки — это подарки, если вы готовы слушать. В регулируемых условиях добавьте дисциплину бремени доказательств: будьте в состоянии объяснить, что вы построили, почему оно вел себя так, как оно было, и что вы будете делать, когда оно изменится.

Наконец, помните, что внедрение является частью работы. Управление изменениями не является мягким дополнением. Это основное требование, если вы хотите, чтобы ваш ИИ использовался. Это означает, что это не достаточно быть сильным в данных, моделях и алгоритмах. Вам нужно работать хорошо через бизнес-единицы, зарабатывать доверие и ориентироваться в человеческом пути, который превращает хорошую модель в реальную способность. Если вы можете сделать это, вы не только построите модели, вы построите доверие.

Спасибо за отличное интервью. Читателям, которые хотят узнать больше, следует посетить Motus.