Pablo Ormachea, VP of Data at Motus – Interview Series

Pablo Ormachea, VP of Data at Motus, buduje podnikové systémy AI a analytiky, které jsou navrženy tak, aby se mohly rychle pohybovat, zatímco stojí za regulatorním a finančním zkoumáním. Vede plně vzdálené, mezioborové týmy a zaměřuje se na systémy založené na důkazech, které zlepšují retenci, rozšiřují marže a poskytují měřitelnou návratnost investic. V Motus rekonstruoval analytiku pro více než 350 000 řidičů, dosáhl 60× rychlejšího reportování s nulovými časovými limity a dodal systémy AI/ML, včetně detekce anomálií a prognózování churnu, které klientům ušetřily miliony. Také se spolupodílel na vytvoření rámce AI governance pro Motus, který umožňuje bezpečné experimentování s LLM s jasnými výchozími hodnotami, silnou auditabilitou a konzistentní obchodní logikou napříč datovým zásobníkem.

Motus je společnost pro správu pracovní síly a mobility, která pomáhá organizacím spravovat náhrady za vozidlo, sledování kilometrů a mobilní operace pracovní síly. Jeho cloudová platforma automatizuje daňově výhodné programy náhrady, poskytuje údaje v reálném čase a pomáhá podnikům snižovat náklady, zlepšovat produktivitu a spravovat dodržování předpisů pro zaměstnance, kteří řídí jako součást své práce.

Máte jedinečnou kariéru na rozhraní AI inženýrství, datové strategie a regulace — od Harvard Law po vedení dat a AI v Motus. Jaké klíčové zkušenosti formovaly váš přístup ke stavbě AI systémů, které jsou technicky pokročilé a dodržují přísné regulatorní rámce?

Seznamte se, že brzy jsem se naučil považovat dodržování předpisů za inženýrskou omezení, ne za právní následnou úvahu. Pokud postavíte dálnici, můžete jet na dálnici. Pokud se budete chovat, jako by to byla prašná cesta a přesto zrychlíte, nebudete jet rychleji. Budete havarovat dříve.

Harvard Law mi pomohl překvapivým způsobem, protože společenský právní systém je vlastně reziduální učení. Pravidlo se setkává s realitou. Okrajové případy odhalují, kde selhává. Doktrína se zlepšuje.

Tento stejný mentální model používám pro AI v produkci. Každá rezidua je dárek. Říká vám, kde se vaše předpoklady liší od skutečného světa, a poskytuje vám konkrétní cestu ke zlepšení systému.

Takže optimalizuji dvě věci najednou: rychlost dodání a břemeno důkazu. Cílem není „inovace versus dodržování předpisů“. Cílem je stavět systémy, které mohou rychle postupovat a stále jasně a opakovaně odpovídat na otázku „Jak víte?“

Spoluautorsky jste vytvořil politiku AI governance pro Motus, která zjednodušila schvalování a současně udržovala silné kontroly. Jaká principy vás vedla při navrhování této politiky a jak vyvažujete rychlost inovací se sẵností auditu?

Nezačali jsme psát pravidla. Nakreslili jsme mapu. Když začíná adopce AI, zájem přichází ze všech směrů a rychlost se může změnit v hluk nebo ještě hůře, v odpovědnost. První úkolem je proto jasnost: kde mohou LLM běžet a kde ne, co zůstává striktně uvnitř a jaké experimenty jsou povoleny v bezpečné uličce.

Rovnováha pochází z toho, že bezpečná cesta je snadná cesta. Správa selhává, když je to výbor. Funkční je, když se stává výchozím: schválené nástroje, jasné datové hranice, standardní protokolování a rychlá schvalovací ulička pro okrajové případy. Cílem je, aby stavitelé nemuseli při každé dodávce znovu vyjednávat o bezpečnosti.

Pak se připravenost na audit stává vedlejšími produkty. Nebudete se snažit shromažďovat důkazy poté, protože systém generuje důkazy, zatímco běží.

Řekl jste, že postupy AI by měly splňovat „i úroveň prohlídky IRS“. Můžete sdílet příklad, kde regulatorní úvahy přímo ovlivnily technické rozhodnutí AI nebo ML v Motus?

V regulovaných pracovních postupech není otázka pouze „je model přesný?“ Je „můžete ukázat svou práci později?“ Tato realita formuje, co „dobré“ znamená v Motus.

To mění designové rozhodnutí. Pro určité použití případů se přikláním k přístupům, které jsou vysvětlitelné, opakovaně použitelné a snadno auditovatelné. Někdy to znamená jednodušší modelové rodiny. Často to znamená deterministické ochranné prvky, verzi funkcí a protokolování vstupů a výstupů způsobem, který podporuje skutečnou replikaci.

Konkrétní příklad: když jsme aktualizovali části naší logiky pro náhrady a reportování, snažili jsme se o stopovatelnost na klíčových rozhodovacích bodech. Chtěli jsme, aby systém mohl odpovědět na vyžádání, které pravidlo se spustilo, jaké údaje použil, jakou verzi běžel a co by změnilo výsledek. To udělalo AI komponenty více použitelnými a celý pracovní postup snazším na obhajobu.

Výplaty se sčítají. Když můžete přehrávat chování a rozřezávat chyby, rezidua přestávají být záhadná. Stávají se prioritizovaným backlogem: co selhalo, kde, proč a jaká změna uzavře mezeru.

Motus provozuje řešení pro náhrady vozidel a mitigaci rizik, která musí splňovat požadavky IRS a dalších regulatorních požadavků. Jak AI zlepšuje dodržování předpisů a přesnost v těchto podnikových případech?

AI pomáhá dvěma způsoby: snižuje manuální tření a posiluje obhajitelnost.

U náhrad je hodnota nejen automatizace, ale také konzistence. AI může pomoci klasifikovat cesty, detekovat anomálie a odhalit chybějící informace dříve, což snižuje pozdější sjednocení. Nikdo nechce, aby náhrada se stala měsíční archeologickou prací. Výhodou dodržování předpisů je lepší měření a lepší dokumentace. Podporujete výsledky jasným záznamem, místo aby jste se spoléhali na pozdější rekonstrukci.

U rizik je AI užitečná, protože kontroly v jeden okamžik nejsou dostatečné. Podniky chtějí kontinuální povědomí o tom, co se změnilo, co vypadá divně a co potřebuje pozornost. Nejlepší AI systémy zde nejsou dramatické. Jsou tiché, konzistentní a měřitelné.

Vedete vzdálené, mezioborové týmy, které spolupracují s právníky, bezpečností, financemi a produkty. Jaké jsou největší výzvy, kterým jste čelili při slaďování těchto skupin kolem iniciativ dat a AI?

Nejobtížnější částí je, že každá skupina je racionální a optimalizuje pro různé rizika.

Bezpečnost se obává expozice. Právní se obává obhajitelnosti. Finance se obávají nákladů a předvídatelnosti. Produkt se obává rychlosti a zákaznické hodnoty. Data a inženýrství se obávají proveditelnosti a spolehlivosti. Pokud budete považovat tyto agendy za konkurenční, zastavíte se.

Řešením je sdílený jazyk a jasné uličky. Sladíme se na rozhodnutí, které je na stole, definujeme hranice a dohodneme se na tom, co důkaz „dobré“ vyžaduje. Pak stavíme výchozí hodnoty, aby většina práce mohla postupovat bez ceremoniálu.

Zjistil jsem, že jasnost poráží přesvědčování. Když lidé mohou vidět mapu, sladění se stává mnohem jednodušší.

Vous vedl významné zlepšení výkonu — jako 60× rychlejší reportování pro 350 000+ řidičů a miliony úspor klientů. Jak rozhodujete, které projekty AI/ML prioritizovat pro taktický dopad a strategickou hodnotu?

Priorizuji projekty, které projdou třemi testy.

První, musí změnit skutečné rozhodnutí nebo pracovní postup, ne pouze produkovat chytrý skóre. Pokud výstup nezmění chování, je to demo, ne produkt.

Druhý, musí být měřitelný. Moji prarodiče říkali „dobře měřeno je polovina hotovo“. V regulovaných prostředích je to více než polovina. Pokud nemůžeme definovat úspěch, režimy chyb a monitorování dopředu, znamená to, že ještě nerozumíme práci.

Třetí, musí být obhajitelný pod zkoumáním. To zahrnuje původ dat, přístupové hranice a schopnost vysvětlit a přehrávat výsledky.

Když projekt projde těmito testy, tendenci vytvářet taktické výhry a strategické zhodnocení. V Motus je to, jak jsme dosáhli zlepšení o řád, včetně materiálně rychlejšího reportování ve velkém měřítku, méně výjimek a automatizace, která se překládá do skutečných úspor času klientů.

Důvěra a vysvětlitelnost jsou kritické pro podnikovou adopci AI. Jak váš tým zajišťuje, aby modely byly interpretovatelné a důvěryhodné pro stakeholdery napříč obchodními jednotkami?

Důvěra pochází z jasnosti, konzistence a systému, který se může vysvětlit pod tlakem.

Navrhuji systémy s tlačítkem pro přehrávání. Stejné vstupy, stejná verze, stejný výstup, plus stopa důkazů o tom, co se změnilo v čase. Také děláme rezidua viditelnými. Každá chyba je informace. Pokud budete instrumentovat chyby správně, můžete vysvětlit chování v běžném jazyce a zlepšit jej disciplinovaným způsobem.

Když rozhodnutí má auditní expozici, přikláním se k jednodušším modelům plus silnému měření nad neprůhlednou složitostí. Prakticky to znamená jasné datové definice, hodnocení, které rozřezává výkon podle významných segmentů, monitorování pro drift a zdokumentovaný proces změn. Stakeholdři nemusí znát každý technický detail. Potřebují důvěru, že systém je měřen, ohraničen a zlepšován.

V podnikových prostředích je vysvětlitelnost není filozofickou preferencí. Je to požadavek pro adopci a záleží na tom, když klienti potřebují vydržet budoucí audity.

Od HIPAA-grade datových potrubí po IRS-kompatibilní reportování Motus zdůrazňuje bezpečné, škálovatelné AI. Jaké nejlepší postupy byste doporučili ostatním AI lídrům pracujícím v regulovaných odvětvích?

Několik principů, které cestují dobře:

• Považujte dodržování předpisů za dálnici. Postavte silnice, abyste mohli jet rychle a bezpečně.
• Definujte hranice brzy. Buďte explicitní o tom, co data nemohou opustit, jaké nástroje jsou schváleny a kde mohou modely běžet.
• Automatizujte důkazy. Učinění protokolování, původu a verzování výchozích hodnot, ne šarvátky během auditu.
• Měřte před škálováním. Dobře měřeno je polovina hotovo. Nemůžete zlepšit to, co nevidíte.
• Operacionalizujte rezidua. Přetvořte chyby na taxonomii chyb a prioritizovaný backlog zlepšení.
• Navrhněte pro adopci. Velké modely jsou část statistiky, část partnerství a převážně změna řízení.

Pokud vaše správa žije v PDF, nebude škálovat. Pokud žije v systému, bude.

S Motus na čele řešení pro vozidlo a rizika, jak vidíte AI se vyvíjet v tomto prostoru v příštích 3–5 letech?

Očekávám dvě velké posuny a posilují se navzájem.

První, riziko se přesune z periodických kontrol na kontinuální, rozhodnutí-hodnoty signály. Dnes většina organizací stále zjišťuje o řidičském riziku příliš pozdě, buď po incidentu nebo po bodu-v-čase kontrole. Příští vlna jsou systémy, které odhalují riziko dříve a přesněji, pomocí vzorců, které jsou již přítomny v operacích: změny v způsobilosti, pokrytí mezery, neobvyklé vzorce kilometrů a nesrovnalosti mezi očekávaným a pozorovaným chováním. Cílem není nahradit úsudek. Je to dát bezpečnost, HR, financím a operacím jasnější brzy-varovný panel, s méně falešnými poplachy a lepší dokumentací pro to, proč něco bylo označeno.

Druhý, náhrada se přesune z papírování na pracovní postup. Podniky stále ztrácejí překvapivé množství času na podání, opravy, schvalování a pozdější úklid. V příštích letech očekávám více automatizace napříč životním cyklem náhrady: předplněním toho, co lze předplněním, odhalením chybějících nebo nesouladných vstupů dříve, směrováním výjimek správnému schvalovateli s kontextem a snižováním manuálního zpětného chodu. Pokud je to provedeno dobře, náhrada se stává rychlejší a obhajitelnější, protože stopa důkazů je generována jako součást procesu, místo aby byla rekonstruována později.

Co dělá to zajímavým je, jak se konvergují, když je základ správný. Když jsou hranice jasné a rezidua jsou viditelná, dostanete se do kompenzační smyčky: méně výjimek, čistější podání, rychlejší schvalování, lepší signály rizik a jasnější záznam o tom, jak byla rozhodnutí učiněna.

Budoucnost není „AI všude“. Je to AI vložená do správných okamžiků, se silnými měřením a zpětnými vazbami, které systém neustále zlepšují.

Za vaší cesty skrze právo, neurovědu, statistiku a aplikovanou AI, jakou radu byste dal mladým profesionálům, kteří aspirují vést data a AI v komplexních obchodních prostředích?

Naučte se stavět systémy, ne pouze modely. Nebo jinak, stavějte dálnici, instrumentujte chyby a držte mapu aktualizovanou.

Získejte blízkost k lidem, kteří žijí výsledek. Operátoři na frontě často vidí signály dříve, než vaše data. Jejich zpětná vazba není „anekdotická“. Je často chybějící funkcí.

Vyviněte pohodlí s měřením a pokorou o chybách. Rezidua jsou dárky, pokud jste ochotni naslouchat. V regulovaných prostředích, přidejte disciplínu břemene důkazu: buďte schopni vysvětlit, co jste postavili, proč se chovalo způsobem, jakým se chovalo, a co budete dělat, když se změní.

Nakonec si pamatujte, že adopce je část práce. Změna řízení není měkký doplněk. Je to základní požadavek, pokud chcete, aby vaše AI byla použita. To znamená, že není dostatečné být silný v datech, modelech a algoritmech. Musíte pracovat dobře napříč obchodními jednotkami, získat důvěru a navigovat lidskou cestu, která změní dobrý model na skutečnou schopnost. Pokud to můžete udělat, nebudete pouze stavět modely, budete stavět důvěru.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Motus.