Пабло Ормачеа, Вице-президент по данным в Motus – Интервью-серия

Пабло Ормачеа, Вице-президент по данным в Motus, строит корпоративные системы искусственного интеллекта и аналитики, предназначенные для быстрого движения, сохраняя при этом устойчивость к нормативному и финансовому контролю. Он руководит полностью удаленными, межфункциональными командами и фокусируется на системах принятия решений, основанных на доказательствах, которые улучшают удержание, расширяют маржу и обеспечивают измеримую отдачу от инвестиций. В Motus он перепроектировал аналитику для более 350 000 водителей, достигнув 60-кратного ускорения отчетности без простоев, и выпустил системы ИИ/МЛ, включая обнаружение аномалий и прогнозирование отказов, которые сэкономили клиентам миллионы. Он также стал соавтором рамок управления ИИ в Motus, обеспечивающих безопасный эксперимент с крупными языковыми моделями с четкими настройками по умолчанию, сильной аудиторской проверкой и последовательной бизнес-логикой на протяжении всего стека данных.

Motus – это компания по управлению рабочей силой и мобильности, которая помогает организациям управлять возмещением транспортных расходов, отслеживанием пробега и мобильными операциями. Ее облачная платформа автоматизирует программы возмещения налогов, обеспечивает реальное отчетность и анализ, и помогает предприятиям сократить затраты, повысить производительность и управлять соблюдением требований для сотрудников, которые водят автомобиль в рамках своей работы.

Вы построили уникальную карьеру на пересечении инженерии ИИ, стратегии данных и регулирования – от Гарвардской школы права до руководства данными и ИИ в Motus. Какие ключевые опыт сформировали ваш подход к созданию систем ИИ, которые являются как технически продвинутыми, так и соответствуют строгим нормативным рамкам?

Я рано научился относиться к соблюдению требований как к инженерному ограничению, а не к юридической после мысли. Если вы строите шоссе, вы можете ехать на шоссе с высокой скоростью. Если вы притворяетесь, что это грязная дорога, и все равно нажимаете на газ, вы не будете двигаться быстрее. Вы просто раньше разобьетесь.

Гарвардская школа права помогла в удивительном образом, потому что система общего права по сути является обучением с остатками. Правило встречается с реальностью. Исключительные случаи раскрывают, где оно терпит неудачу. Доктрина совершенствует.

Это та же самая мыслительная модель, которую я использую для ИИ в производстве. Каждый остаток – это подарок. Он говорит вам, где ваши предположения расходятся с реальным миром, и он дает вам конкретный путь к совершенствованию системы.

Итак, я оптимизирую две вещи одновременно: скорость доставки и бремя доказательств. Цель не состоит в том, чтобы “инновации против соблюдения требований”. Цель состоит в том, чтобы создать системы, которые могут двигаться быстро и все равно давать четкий и повторяющийся ответ на вопрос “Как вы знаете?”

Вы стали соавтором политики управления ИИ в Motus, которая упростила утверждения, сохраняя при этом сильный контроль. Какие принципы руководили вами при разработке этой политики, и как вы балансируете скорость инноваций с готовностью к аудиту?

Мы не стали писать правила. Мы нарисовали карту. Когда начинается внедрение ИИ, интерес приходит со всех сторон, и скорость может превратиться в шум или, что хуже, в ответственность. Итак, первая задача – ясность: где могут работать модели ИИ, где они не могут, какая информация строго остается внутри, и какие эксперименты разрешены в безопасной полосе.

Баланс достигается путем того, что безопасный путь становится легким путем. Управление терпит неудачу, когда это комитет. Оно работает, когда становится настройками по умолчанию: утвержденными инструментами, четкими границами данных, стандартным журналированием и быстрым путем утверждения для исключительных случаев. Цель состоит в том, чтобы строители не нуждались в повторных переговорах о безопасности каждый раз, когда они доставляют.

Затем готовность к аудиту становится побочным продуктом. Вы не спешите собирать доказательства после факта, потому что система генерирует доказательства по мере работы.

Вы сказали, что практики ИИ должны соответствовать “даже проверке IRS”. Можете ли вы поделиться примером, где нормативные соображения напрямую повлияли на техническое решение ИИ или МЛ в Motus?

В регулируемых рабочих процессах вопрос не только в том, “является ли модель точной?” Это “можете ли вы показать свою работу позже?” Эта реальность формирует, что “хорошо” означает в Motus.

Это меняет выбор дизайна. Для определенных случаев мы склоняемся к подходам, которые объяснимы, воспроизводимы и легко проверяемы. Иногда это означает более простые семейства моделей. Часто это означает детерминированные ограничители, версионные функции и журналирование входных и выходных данных таким образом, чтобы поддерживать真正е воспроизведение.

Конкретный пример: когда мы обновили части нашей логики возмещения и отчетности, мы сильно акцентировали на прослеживаемости на ключевых решениях. Мы хотели, чтобы система могла ответить на требование, какое правило сработало, какие данные использовались, какая версия была запущена и что изменилось бы исход. Это сделало компоненты ИИ более удобными для использования, и оно сделало весь рабочий процесс проще для защиты.

Выплата складывается. Когда вы можете воспроизвести поведение и разрезать ошибки, остатки перестают быть загадочными. Они становятся приоритизированным списком улучшений: что не сработало, где, почему и какое изменение закрывает разрыв.

Motus работает над решениями для возмещения транспортных расходов и смягчения рисков, которые должны удовлетворять требованиям IRS и других регулирующих органов. Как ИИ улучшает соблюдение требований и точность в этих корпоративных случаях?

ИИ помогает двумя способами: он уменьшает ручную трение, и он укрепляет обоснованность.

В возмещении ценность не только в автоматизации, но и в последовательности. ИИ может помочь классифицировать поездки, обнаруживать аномалии и раскрывать отсутствующую информацию раньше, что уменьшает последующую сверку. Никто не хочет, чтобы возмещение стало ежемесячным археологическим проектом. Преимущество соблюдения требований заключается в лучшей измеримости и лучшей документации. Вы поддерживаете результаты с четкой записью, а не полагаетесь на реконструкцию после факта.

В отношении рисков ИИ полезен, потому что проверки в определенный момент времени недостаточны. Предприятия хотят непрерывного осознания того, что изменилось, что выглядит не так и что требует внимания. Лучшие системы ИИ здесь не драматичны. Они тихие, последовательные и измеримые.

Руководство удаленными, межфункциональными командами, которые сотрудничают с Юридическим, Безопасным, Финансовым и Продуктовым отделами, – это не простая задача. Какие самые большие проблемы вы столкнулись с при выравнивании этих групп вокруг инициатив данных и ИИ?

Самая трудная часть в том, что каждая группа рациональна, и они оптимизируют разные риски.

Безопасность беспокоится об уязвимости. Юридический отдел беспокоится об обоснованности. Финансовый отдел беспокоится о стоимости и предсказуемости. Продуктовый отдел беспокоится о скорости и ценности для клиентов. Данные и инженерия беспокоятся о осуществимости и надежности. Если вы относитесь к этим как к конкурирующим программам, вы застреваете.

Исправление заключается в общем языке и четких полосах. Мы согласовываемся на решении, определяем границы и соглашаемся на то, что доказательства “хорошо” требуют. Затем мы строим настройки по умолчанию, чтобы большинство работы могли двигаться без церемонии.

Я обнаружил, что ясность побеждает убеждение. Когда люди могут видеть карту, выравнивание становится намного проще.

Вы добились значительных улучшений производительности – например, 60-кратного ускорения отчетности для 350 000+ водителей и миллионов в экономии для клиентов. Как вы решаете, какие проекты ИИ/МЛ отдавать приоритет для как тактического, так и стратегического значения?

Я отдаю приоритет проектам, которые проходят три теста.

Во-первых, они должны изменить реальное решение или рабочий процесс, а не просто производить умную оценку. Если вывод не изменит поведение, это демонстрация, а не продукт.

Во-вторых, они должны быть измеримыми. Мои бабушка и дедушка говорили “хорошо измерено – это половина сделано”. В регулируемых условиях это больше, чем половина. Если мы не можем определить успех, режимы ошибок и мониторинг заранее, это означает, что мы еще не понимаем работу.

В-третьих, они должны быть обоснованными под пристальным вниманием. Это включает в себя происхождение данных, границы доступа и возможность объяснить и воспроизвести результаты.

Когда проект проходит эти тесты, он, как правило, создает как тактические победы, так и стратегическое наращивание. В Motus это то, как мы добились шаговых улучшений, включая существенно более быструю отчетность в масштабе, меньше исключений и автоматизацию, которая переводится в реальные экономии времени для клиентов.

Доверие и объяснимость имеют решающее значение для корпоративного внедрения ИИ. Как ваша команда обеспечивает, чтобы модели были интерпретируемыми и заслуживающими доверия для заинтересованных сторон по всему бизнесу?

Доверие приходит от ясности, последовательности и системы, которая может объяснить себя под давлением.

Мы проектируем системы с кнопкой воспроизведения. Те же входные данные, та же версия, тот же выход, плюс след доказательств того, что изменилось со временем. Мы также делаем остатки видимыми. Каждый промах – это информация. Если вы инструментируете ошибки должным образом, вы можете объяснить поведение на простом языке и улучшить его в дисциплинированном порядке.

Когда решение имеет аудиторскую экспозицию, мы склоняемся к более простым моделям плюс сильной измеримости над не透озной сложностью. Практически это означает четкие определения данных, оценку, которая разрезает производительность по значимым сегментам, мониторинг за дрейфом и задокументированный процесс изменений. Заинтересованные стороны не нуждаются во всех технических деталях. Им нужно уверенность в том, что система измерима, ограничена и улучшается.

В корпоративных условиях объяснимость не является философским предпочтением. Это требование для внедрения, и оно имеет значение, когда клиенты должны выдержать будущие аудиты.

От HIPAA-совместимых конвейеров данных до отчетности, соответствующей требованиям IRS, Motus подчеркивает безопасный, масштабируемый ИИ. Какие лучшие практики вы бы порекомендовали другим лидерам ИИ, работающим в регулируемых отраслях?

Некоторые принципы, которые хорошо переносятся:

• Относитесь к соблюдению требований как к шоссе. Строите асфальтированные дороги, чтобы команды могли двигаться быстро и безопасно.
• Определите границы рано. Будьте явными о том, какие данные не могут покинуть, какие инструменты утверждены, и где могут работать модели.
• Автоматизируйте доказательства. Сделайте журналирование, происхождение и версионирование настройками по умолчанию, а не спешкой во время аудита.
• Измеряйте до масштабирования. Хорошо измерено – это половина сделано. Вы не можете улучшить то, что не видите.
• Операционализируйте остатки. Превратите промахи в таксономию ошибок и приоритизированный список улучшений.
• Проектируйте для внедрения. Отличные модели – это часть статистики, часть партнерства и в основном управление изменениями.

Если ваше управление живет в PDF, оно не будет масштабироваться. Если оно живет в системе, оно будет.

С Motus на переднем крае решений для возмещения транспортных расходов и смягчения рисков, как вы видите эволюцию ИИ в этой области в течение следующих 3-5 лет?

Я ожидаю два больших сдвига, и они укрепляют друг друга.

Во-первых, риск перейдет от периодических проверок к непрерывным, решающим сигналам. Сегодня большинство организаций все еще узнают о риске водителя слишком поздно, либо после инцидента, либо после проверки в определенный момент времени. Следующая волна – это системы, которые раскрывают риск раньше и более точно, используя закономерности, уже присутствующие в операциях: изменения в допуске, пробелы в покрытии, необычные закономерности пробега и несоответствия между ожидаемым и наблюдаемым поведением. Цель не состоит в том, чтобы заменить суждение. Это дать безопасности, HR, финансам и операциям более четкую раннюю панель предупреждения, с меньшим количеством ложных сигналов и лучшей документацией для того, почему что-то было отмечено.

Во-вторых, возмещение перейдет от бумаг к рабочему процессу. Предприятия все еще теряют удивительное количество времени на подачи, исправления, утверждения и постфактум-очистку. В течение следующих нескольких лет я ожидаю больше автоматизации на протяжении всего жизненного цикла возмещения: предварительного заполнения того, что можно предварительно заполнить, раннего обнаружения отсутствующей или несовместимой информации, маршрутизации исключений к правильному утверждателю с контекстом и уменьшения ручного обмена. Сделано хорошо, это делает возмещение быстрее и более обоснованным, потому что след доказательств генерируется в рамках процесса, а не реконструируется позже.

Что делает это интересным, так это то, как они сходятся, когда основа правильна. Когда границы четкие и остатки видимы, вы получаете нарастающий цикл: меньше исключений, более чистые подачи, более быстрые утверждения, лучшие сигналы риска и более четкая запись того, как были приняты решения.

Будущее не “ИИ повсюду”. Это ИИ, встроенный в правильные моменты, с сильными измерительными и обратными связями, которые продолжают улучшаться.

На основе вашего пути через право, нейробиологию, статистику и прикладной ИИ, какое руководство вы бы дали молодым специалистам, стремящимся возглавить данные и ИИ в сложных бизнес-средах?

Учитесь строить системы, а не только модели. Или, по-другому, строите шоссе, инструментируйте промахи и поддерживайте карту в актуальном состоянии.

Подходите к людям, которые живут исходом. Операторы на переднем крае часто видят сигналы до того, как ваша информация увидит. Их обратная связь не “анекдотична”. Это часто отсутствующий набор функций.

Развивайте комфорт с измерением и смирение об ошибке. Остатки – это подарки, если вы готовы слушать. В регулируемых средах добавьте дисциплину бремени доказательств: будьте в состоянии объяснить, что вы построили, почему оно себя так вел и что вы будете делать, когда оно изменится.

Наконец, помните, что внедрение является частью работы. Управление изменениями не является мягким дополнением. Это основное требование, если вы хотите, чтобы ваш ИИ использовался. Это означает, что это не достаточно быть сильным в данных, моделях и алгоритмах. Вы должны работать хорошо через бизнес-единицы, заслуживать доверие и ориентироваться в человеческом пути, который превращает хорошую модель в реальную способность. Если вы можете сделать это, вы не только построите модели, вы построите доверие.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Motus.