Пабло Ормачеа, Віце-президент з даних у Motus – Серія інтерв’ю

Пабло Ормачеа, Віце-президент з даних у Motus, будує корпоративні системи штучного інтелекту та аналітики, призначені для швидкої роботи при збереженні регуляторної та фінансової перевірки. Він керує повністю віддаленими, міжфункціональними командами та зосереджується на системах прийняття рішень, заснованих на доказах, які покращують утримання, розширюють маржу та забезпечують вимірювану віддачу від інвестицій. У Motus він перепроєктував аналітику для понад 350 000 водіїв, досягнувши 60-кратного прискорення звітності без часу очікування, та випустив системи штучного інтелекту та машинного навчання, включаючи виявлення аномалій та прогнозування відмови, які зберегли клієнтам мільйони.

Motus – це компанія з управління робочою силою та мобільності, яка допомагає організаціям керувати компенсацією за використання транспортного засобу, відстежуванням пробігу та мобільними операціями робочої сили. Її хмарна платформа автоматизує податково-вигідні програми компенсації, забезпечує звітність та аналіз у реальному часі, а також допомагає підприємствам скорочувати витрати, підвищувати продуктивність та керувати дотриманням вимог законодавства для працівників, які керують транспортним засобом у рамках виконання своїх обов’язків.

Ви побудували унікальну кар’єру на перетині інженерії штучного інтелекту, стратегії даних та регулювання – від Гарвардської школи права до керівництва даними та штучним інтелектом у Motus. Які ключові досвіди сформували ваш підхід до побудови систем штучного інтелекту, які є як технічно просунутими, так і відповідними суворим регуляторним рамкам?

Я рано навчився ставитися до дотримання вимог законодавства як до інженерної обмеження, а не юридичної післядуми. Якщо ви побудуєте шосе, ви можете рухатися з шосейною швидкістю. Якщо ви вдаватимете, що це ґрунтова дорога, і натиснете на газ, ви не рухатиметеся швидше. Ви просто розіб’єтеся раніше.

Гарвардська школа права допомогла мені несподіваним чином, оскільки система загального права фактично заснована на залишковому навчанні. Правило зустрічає реальність. Виняткові випадки розкривають, де воно не справляється. Доктрина уточнює.

Це та ж сама ментальна модель, яку я використовую для штучного інтелекту у виробництві. Кожен залишок – це подарунок. Він каже вам, де ваші припущення розходяться з реальним світом, і надає вам конкретний шлях до поліпшення системи.

Отже, я оптимізую дві речі одночасно: швидкість доставки та тягар доказів. Метою не є «інновації проти дотримання вимог законодавства». Метою є побудова систем, які можуть рухатися швидко і все ж таки давати чітку та повторювану відповідь на питання «Як ви знаєте?»

Ви стали співавтором політики управління штучним інтелектом у Motus, яка спрощувала затвердження при збереженні сильного контролю. Які принципи керували вами при розробці цієї політики, і як ви балансували швидкість інновацій з готовністю до аудиту?

Ми не намагалися написати правила. Ми створили карту. Коли починається прийняття штучного інтелекту, інтерес надходить з усіх напрямків, і швидкість може перетворитися на шум або, що гірше, на відповідальність. Отже, першою роботою є ясність: де можуть працювати великі мовиові моделі, де вони не можуть, які дані залишаються суворо всередині, а які експерименти дозволені у безпечній смузі.

Баланс досягається шляхом того, що безпечний шлях стає легким шляхом. Управління штучним інтелектом не спрацьовує, коли воно є комітетом. Воно працює, коли стає значеннями за замовчуванням: затверджені інструменти, чіткі межі даних, стандартне ведення журналів та швидка процедура затвердження для виняткових випадків. Метою є те, щоб будівельники не мусили кожен раз перемовлятися про безпеку.

Потім готовність до аудиту стає побічним продуктом. Ви не спішите зібрати докази після факту, оскільки система генерує докази під час роботи.

Ви сказали, що практики штучного інтелекту повинні відповідати «даже перевірці на рівні податкової служби». Чи можете ви поділитися прикладом, де регуляторні міркування безпосередньо вплинули на технічне рішення щодо штучного інтелекту чи машинного навчання у Motus?

У регульованих робочих процесах питання полягає не тільки в тому, «чи точна модель?», а й у тому, «чи можете ви показати свою роботу пізніше?» Ця реальність формує те, що «хорошо» означає у Motus.

Це змінює технічні рішення. Для певних випадків використання ми схиляємося до підходів, які можна пояснити, відтворити та легко перевірити. Іноді це означає простіші сімейства моделей. Часто це означає детерміністичні охоронні заходи, версійовані функції та ведення журналів входів і виходів таким чином, щоб підтримувати справжню відтворність.

Конкретний приклад: коли ми оновили частини нашої логіки компенсації та звітності, ми наполегливо працювали над слідуванням на ключових рішеннях. Ми хотіли, щоб система могла відповісти на запит, який правило спрацювало, які дані воно використало, яка версія була запущена, і що змінило б результат. Це зробило компоненти штучного інтелекту більш зручними у використанні, і зробило весь робочий процес легшим для захисту.

Викуп компенсується. Коли ви можете відтворити поведінку та розділити помилки, залишки перестають бути загадковими. Вони стають пріоритезованим списком завдань: що не спрацювало, де, чому, і яка зміна закриє розрив.

Motus пропонує рішення для компенсації транспортних витрат та мінімізації ризиків, які повинні відповідати вимогам податкової служби та інших регуляторних органів. Як штучний інтелект покращує дотримання вимог законодавства та точність у цих корпоративних випадках?

Штучний інтелект допомагає двома способами: він знижує ручний тертя, і посилює обґрунтованість.

У разі компенсації цінність полягає не тільки в автоматизації, а й у послідовності. Штучний інтелект може допомогти класифікувати поїздки, виявляти аномалії та виявляти відсутню інформацію раніше, що скорочує подальшу узгодження. Ніхто не хоче, щоб компенсація стала щомісячним археологічним проєктом. Перевага дотримання вимог законодавства полягає в кращому вимірюванні та кращій документації. Ви підтримуєте результати чітким записом, а не спираєтеся на реконструкцію після факту.

У разі ризику штучний інтелект корисний, оскільки перевірки в певний момент часу недостатні. Підприємства хочуть безперервної осведомленості про те, що змінилося, що виглядає дивно, і що потребує уваги. Найкращі системи штучного інтелекту тут не драматичні. Вони тихі, послідовні та вимірювані.

Керівництво віддаленими, міжфункціональними командами, які співпрацюють з юридичними, безпековими, фінансовими та продуктовими командами, – це не мала справа. Які найбільші виклики ви зустріли при вирівнюванні цих груп навколо ініціатив даних та штучного інтелекту?

Найважчою частиною є те, що кожна група раціональна, і вони оптимізуються для різних ризиків.

Безпека турбується про вразливість. Юридична частина турбується про обґрунтованість. Фінанси турбуються про вартість та передбачуваність. Продукт турбується про швидкість та цінність для клієнта. Дані та інженерія турбуються про здійсненність та надійність. Якщо ви ставите ці агенди в опозицію, ви застряєте.

Вирішенням є спільна мова та чіткі смуги. Ми вирівнюємо рішення, визначаємо межі та погоджуємося на те, чого вимагає «добро». Потім ми будуємо значення за замовчуванням, щоб більшість роботи могла рухатися без церемоній.

Я виявив, що ясність перемагає переконання. Коли люди можуть побачити карту, вирівнювання стає значно легшим.

Ви досягли значних покращень продуктивності – наприклад, 60-кратного прискорення звітності для понад 350 000 водіїв та мільйонів заощаджень клієнтів. Як ви вирішуєте, які проєкти штучного інтелекту та машинного навчання мають пріоритет для тактичного впливу та стратегічної цінності?

Я пріоритезую проєкти, які проходять три перевірки.

По-перше, вони повинні змінити реальне рішення або робочий процес, а не просто виробляти розумну оцінку. Якщо вихід не змінює поведінку надійно, це демонстрація, а не продукт.

По-друге, вони повинні бути вимірюваними. Мої дідуси та бабусі казали: «Хорошо виміряно – це половина роботи». У регульованих середовищах це більше ніж половина. Якщо ми не можемо визначити успіх, режими помилок та моніторинг заздалегідь, це означає, що ми ще не розуміємо роботу.

По-третє, вони повинні бути обґрунтованими під тиском. Це включає походження даних, межі доступу та можливість пояснити та відтворити результати.

Коли проєкт проходить ці перевірки, він схильний створювати як тактичні перемоги, так і стратегічну складну віддачу. У Motus це те, як ми доставили покращення кроку, включаючи значно швидшу звітність у масштабі, менше винятків та автоматизацію, яка перекладується у справжні заощадження часу клієнтів.

Довіра та пояснюваність мають критичне значення для корпоративного прийняття штучного інтелекту. Як ваша команда забезпечує, щоб моделі були інтерпретовними та довіреними для зацікавлених сторін по всіх бізнес-одиницям?

Довіра походить від ясності, послідовності та системи, яка може пояснити себе під тиском.

Ми проектуємо системи з кнопкою відтворення. Самі ж входи, сама версія, самий вихід, плюс слід доказів того, що змінилося з часом. Ми також робимо залишки видимими. Кожна пропущена можливість – це інформація. Якщо ви інструментально помилки правильно, ви можете пояснити поведінку зрозумілою мовою та покращити її дисциплінованим шляхом.

Коли рішення має аудиторську відповідальність, ми схиляємося до простіших моделей з сильним вимірюванням над не透SPARENTною складністю. Практично це означає чіткі визначення даних, оцінка, яка розрізає продуктивність по значимим сегментам, моніторинг за дрейфом та задокументований процес змін. Зацікавлені сторони не потребують кожної технічної деталі. їм потрібна впевненість, що система виміряна, обмежена та покращується.

У корпоративних середовищах пояснюваність не є філософською перевагою. Це вимога для прийняття, і це має значення, коли клієнти повинні витримувати майбутні аудити.

Від HIPAA-рівневих конвейерів даних до звітності, відповідної вимогам податкової служби, Motus підкреслює безпечний, масштабований штучний інтелект. Які найкращі практики ви порадите іншим лідерам штучного інтелекту, які працюють у регульованих галузях?

Деякі принципи, які добре працюють:

• Ставте дотримання вимог законодавства на рівні шосе. Будуйте заасфальтовані дороги, щоб команди могли рухатися швидко та безпечно.
• Визначайте межі заздалегідь. Будьте явними щодо того, які дані не можуть покинути, які інструменти затверджені, і де можуть працювати моделі.
• Автоматизуйте докази. Робіть ведення журналів, походження та версійування значення за замовчуванням, а не поспішайте під час аудиту.
• Вимірюйте до масштабування. Хорошо виміряно – це половина роботи. Ви не можете покращити те, чого не бачите.
• Операціонізація залишків. Перетворюйте пропущені можливості на taksonомію помилок та пріоритезований список завдань для покращення.
• Проектуйте для прийняття. Великі моделі – це частина статистики, частина партнерства та в основному зміна управління.

Якщо ваше управління живе в PDF, воно не буде масштабуватися. Якщо воно живе в системі, воно буде.

З Motus на чолі рішень щодо компенсації транспортних витрат та мінімізації ризиків, як ви бачите розвиток штучного інтелекту в цій сфері за наступні 3-5 років?

Я очікую двох великих зрушень, і вони підтримують одне одного.

По-перше, ризик перейде від періодичних перевірок до безперервних, прийнятних рішень. Сьогодні більшість організацій все ще дізнаються про ризик водіїв надто пізно, або після інциденту, або після періодичної перевірки. Наступна хвиля – це системи, які виявляють ризик раніше та точніше, використовуючи закономірності, які вже присутні в операціях: зміни у кваліфікації, пробіли у покритті, незвичайні закономірності пробігу та несумісності між очікуваною та спостережуваною поведінкою. Метою не є заміна судження. Це надання панелі раннього попередження безпеки, персоналу, фінансів та операцій з меншими помилковими спрацюваннями та кращою документацією щодо того, чому щось було позначено.

По-друге, компенсація перейде від паперів до робочого процесу. Підприємства все ще втрачають багато часу на подання, виправлення, затвердження та післясудову очистку. За наступні кілька років я очікую більшої автоматизації на всьому циклі компенсації: попереднього заповнення того, що можна заповнити заздалегідь, виявлення відсутніх або несумісних входів на ранній стадії, маршрутизації винятків до правої особи з контекстом та скорочення ручного обміну інформацією. Якщо зробити це добре, це робить компенсацію швидшою та обґрунтованішою, оскільки слід доказів генерується під час процесу, а не реконструюється пізніше.

Що робить це цікавим, так це те, як вони сходяться, коли основа правильна. Коли межі чіткі, а залишки видимі, ви отримуєте складну петлю: менше винятків, чистіше подання, швидше затвердження, кращі сигнали ризику та чіткіший запис того, як приймалися рішення.

Майбутнє не в «штучному інтелекті всюди». Це штучний інтелект, вбудований у правильні моменти, з сильними засобами вимірювання та зворотними зв’язками, які продовжують покращуватися.

На основі вашого шляху через право, нейробіологію, статистику та прикладний штучний інтелект, яка порада ви дали б молодим фахівцям, які прагнуть керувати даними та штучним інтелектом у складних бізнес-середовищах?

Навчіться будувати системи, а не тільки моделі. Інакше кажучи, будуйте шосе, інструментуйте залишки та тримайте карту в актуальному стані.

Зблизьтесь до людей, які живуть результатом. Оператори першої лінії часто бачать сигнали раніше, ніж ваші дані. Їхній відгук не «анекдотичний». Це часто відсутня частина функціоналу.

Розвивайте комфорт з вимірюванням та скромність щодо помилок. Залишки – це подарунки, якщо ви готові слухати. У регульованих середовищах додайте дисципліну тягаря доказів: будьте能够 пояснити, що ви побудували, чому воно поводилося певним чином, і що ви зробите, коли воно зміниться.

Нарешті, пам’ятайте, що прийняття є частиною роботи. Зміна управління не є м’яким додатком. Це основний вимір, якщо ви хочете, щоб ваш штучний інтелект використовувався. Це означає, що недостатньо бути сильним у даних, моделях та алгоритмах. Ви повинні працювати добре по всіх бізнес-одиницях, заробляти довіру та рухатися людським шляхом, який перетворює хорошу модель у справжню можливість. Якщо ви можете зробити це, ви не тільки побудуєте моделі, а й побудуєте довіру.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Motus.