Pablo Ormachea, VP de Date la Motus – Seria de Interviuri

Pablo Ormachea, VP de Date la Motus, construiește sisteme de inteligență artificială și analize concepute pentru a se deplasa rapid, dar care trebuie să reziste și unor examinări financiare și regulatorii stricte. El conduce echipe complet remote, transfuncționale și se concentrează pe sisteme de luare a deciziilor bazate pe dovezi care îmbunătățesc retenția, extind marjele și oferă un randament investițional măsurabil. La Motus, el a reînnoit analizele pentru mai mult de 350.000 de șoferi, realizând raportări de 60 de ori mai rapide, fără timout-uri, și a lansat sisteme de inteligență artificială și învățare automată, inclusiv detectarea anomaliilor și previziunile de părăsire, care au economisit clienților milioane. De asemenea, el a coautorizat cadrul de guvernanță al inteligenței artificiale a Motus, care permite experimentarea sigură a LLM-urilor, cu setări implicite clare, auditabilitate puternică și logică de afaceri consistentă pe tot parcursul stivei de date.

Motus este o companie de software de gestionare a forței de muncă și mobilitate care ajută organizațiile să gestioneze rambursarea vehiculelor, urmărirea milelor și operațiunile forței de muncă mobile. Platforma sa cloud automatizează programele de rambursare avantajoase din punct de vedere fiscal, oferă raportări și informații în timp real și ajută întreprinderile să reducă costurile, să îmbunătățească productivitatea și să gestioneze conformitatea pentru angajații care conduc ca parte a jobului lor.

Ați construit o carieră unică la intersecția ingineriei inteligenței artificiale, strategiei de date și reglementărilor — de la Harvard Law la conducerea datelor și inteligenței artificiale la Motus. Care au fost experiențele cheie care au modelat abordarea dvs. de a construi sisteme de inteligență artificială care sunt atât avansate din punct de vedere tehnic, cât și conforme cu cadrele de reglementare stricte?

Am învățat de la început să tratez conformitatea ca o constrângere de inginerie, nu ca o gândire juridică ulterioară. Dacă construiți autostrada, puteți conduce la viteze de autostradă. Dacă pretindeți că este o șosea de pământ și accelerați oricum, nu vă deplasați mai repede. Doar crashați mai devreme.

Harvard Law m-a ajutat într-un mod surprinzător, deoarece sistemul de drept comun este, în esență, o învățare condusă de reziduuri. O regulă întâlnește realitatea. Cazurile marginale expun unde eşuează. Doctrina rafinează.

Acesta este același model mental pe care îl folosesc pentru inteligența artificială în producție. Fiecare reziduu este un dar. Îți spune unde îți diverg asumpțiile de lumea reală și îți oferă un drum concret pentru a strânge sistemul.

Prin urmare, optimizez pentru două lucruri simultan: viteza de expediere și povara dovezilor. Scopul nu este „inovație versus conformitate”. Scopul este construirea unor sisteme care pot să se deplaseze rapid și să răspundă, în mod clar și repetabil, „Cum știți?”

Ați coautorizat politica de guvernanță a inteligenței artificiale a Motus, care a simplificat aprobările, menținând în același timp controale puternice. Care au fost principiile care v-au ghidat atunci când ați proiectat această politică, și cum echilibrați viteza de inovare cu pregătirea pentru audit?

Nu am încercat să scriem reguli. Am desenat o hartă. Când adoptarea inteligenței artificiale începe, interesul vine din toate direcțiile, iar viteza poate deveni zgomot sau, și mai rău, o problemă de răspundere. Prin urmare, primul lucru este claritatea: unde pot rula LLM-urile și unde nu, ce date rămân strict în interior și ce tipuri de experimente sunt permise într-un canal sigur.

Echilibrul vine din faptul că faceți drumul sigur să fie și drumul ușor. Guvernanța eşuează atunci când este un comitet. Funcționează atunci când devine setări implicite: unelte aprobate, limite de date clare, jurnalizare standard și un canal de aprobare rapidă pentru cazurile marginale. Scopul este ca constructorii să nu aibă nevoie să renegocieze siguranța de fiecare dată când expediază.

Apoi, pregătirea pentru audit devine un produs secundar. Nu vă străduiți să adunați dovezi după fapt, pentru că sistemul generează dovezi pe măsură ce rulează.

Ați spus că practicile de inteligență artificială ar trebui să îndeplinească „chiar și nivelul de examinare al IRS”. Puteți împărtăși un exemplu în care considerațiile de reglementare au influențat direct o decizie tehnică de inteligență artificială sau învățare automată la Motus?

În fluxurile de lucru reglementate, întrebarea nu este doar „este modelul exact?” Este „puteți arăta munca dvs. mai târziu?” Acea realitate modelează ce înseamnă „bun” la Motus.

Schimbă alegerile de proiectare. Pentru anumite cazuri de utilizare, ne îndreptăm spre abordări care sunt explicabile, rejuabile și ușor de auditat. Adesea, acest lucru înseamnă familii de modele mai simple. De multe ori, înseamnă garduri deterministice, caracteristici versionate și jurnalizarea intrărilor și ieșirilor într-un mod care sprijină o rejuabilitate reală.

Un exemplu concret: atunci când am actualizat părți ale logicii noastre de rambursare și raportare, am insistat mult pe trasabilitate la punctele de decizie cheie. Am vrut ca sistemul să poată răspunde, la cerere, ce regulă a fost declanșată, ce date a folosit, ce versiune a fost rulată și ce ar schimba rezultatul. A făcut componentele de inteligență artificială mai ușor de utilizat și a făcut fluxul de lucru în ansamblu mai ușor de apărat.

Rezultatele se cumulează. Când puteți rejuca comportamentul și tăiați erorile, reziduurile încetează să mai fie misterioase. Devin o listă de priorități: ce a eșuat, unde, de ce și ce schimbare închide golul.

Motus operează soluții pentru rambursarea vehiculelor și atenuarea riscurilor care trebuie să satisfacă cerințele IRS și alte cerințe de reglementare. Cum îmbunătățește inteligența artificială conformitatea și exactitatea în aceste cazuri de utilizare la nivel de întreprindere?

Inteligența artificială ajută în două moduri: reduce fricțiunea manuală și întărește defensibilitatea.

În ceea ce privește rambursarea, valoarea nu constă doar în automatizare, ci și în consecvență. Inteligența artificială poate ajuta la clasificarea călătoriilor, detectarea anomaliilor și aducerea la suprafață a informațiilor lipsă mai devreme, ceea ce reduce reconcilierea ulterioară. Nimeni nu vrea ca rambursarea să devină un proiect de arheologie lunară. Beneficiul de conformitate provine din măsurarea și documentarea mai bună. Sprijiniți rezultatele cu un registru clar, în loc să vă bazați pe reconstrucția ulterioară.

În ceea ce privește riscul, inteligența artificială este utilă, deoarece verificările punctuale nu sunt suficiente. Întreprinderile vor să aibă o conștientizare continuă a ceea ce s-a schimbat, a ceea ce pare în neregulă și a ceea ce necesită atenție. Cele mai bune sisteme de inteligență artificială de aici nu sunt dramatice. Sunt liniștite, consecvente și măsurabile.

Conducerea echipelor remote, transfuncționale care colaborează cu Legal, Securitate, Finanțe și Produs nu este o realizare mică. Care sunt cele mai mari provocări pe care le-ați întâmpinat în alinierea acestor grupuri în jurul inițiativelor de date și inteligență artificială?

Partea cea mai grea este că fiecare grup este rațional și optimizează pentru riscuri diferite.

Securitatea se îngrijorează de expunere. Legal se îngrijorează de defensibilitate. Finanțele se îngrijorează de cost și previzibilitate. Produsul se îngrijorează de viteză și valoare pentru client. Datele și ingineria se îngrijorează de fezabilitate și fiabilitate. Dacă tratați acestea ca agende concurente, vă opriți.

Repararea constă într-o limbă comună și benzi clare. Ne aliniem pe decizia în cauză, definim limitele și ne punem de acord cu privire la ce dovezi „bune” necesită. Apoi, construim setări implicite, astfel încât cea mai mare parte a muncii să poată fi efectuată fără ceremonie.

Am descoperit că claritatea învinge convingerea. Când oamenii pot vedea harta, alinierea devine mult mai ușoară.

Ați condus îmbunătățiri majore de performanță — cum ar fi raportarea de 60 de ori mai rapidă pentru peste 350.000 de șoferi și milioane de economii pentru clienți. Cum decideți care proiecte de inteligență artificială și învățare automată să priorizați pentru impact tactic și valoare strategică?

Prioritizez proiectele care trec trei teste.

Mai întâi, acestea trebuie să schimbe o decizie reală sau un flux de lucru, nu doar să producă un scor inteligent. Dacă ieșirea nu schimbă în mod fiabil comportamentul, este o demonstrație, nu un produs.

În al doilea rând, acestea trebuie să fie măsurabile. Bunicii mei obișnuiau să spună „bine măsurat este jumătate făcut”. În medii reglementate, este mai mult de jumătate. Dacă nu putem defini succesul, modurile de eroare și monitorizarea dinainte, înseamnă că nu înțelegem încă munca.

În al treilea rând, acestea trebuie să fie defensabile sub examinare. Acest lucru include proveniența datelor, limitele de acces și capacitatea de a explica și rejuca rezultatele.

Când un proiect trece aceste teste, are tendința de a crea atât victorii tactice, cât și o compunere strategică. La Motus, acesta este modul în care am livrat îmbunătățiri semnificative, inclusiv raportări mult mai rapide la scară, mai puține excepții și automatizarea care se traduce în economii reale de timp pentru clienți.

Încrederea și explicabilitatea sunt critice pentru adoptarea inteligenței artificiale la nivel de întreprindere. Cum asigură echipa dvs. că modelele sunt interpretabile și de încredere pentru stakeholderii din unitățile de afaceri?

Încrederea vine din claritate, consecvență și un sistem care se poate explica pe sine sub presiune.

Proiectăm sisteme cu un buton de rejuare. Aceleași intrări, aceeași versiune, aceeași ieșire, plus un următor de dovezi al ceea ce s-a schimbat în timp. De asemenea, facem reziduurile vizibile. Fiecare rată este o informație. Dacă instrumentați erorile în mod corespunzător, puteți explica comportamentul într-un limbaj simplu și îl puteți îmbunătăți într-un mod disciplinat.

Când o decizie are expunere la audit, ne îndreptăm spre modele mai simple și măsurători puternice în loc de complexitate opacă. În practică, acest lucru înseamnă definiții de date clare, evaluarea care taie performanța pe segmente semnificative, monitorizarea pentru derapaj și un proces de schimbare documentat. Stakeholderii nu au nevoie de toate detaliile tehnice. Au nevoie de încredere că sistemul este măsurat, limitat și îmbunătățit.

În medii de întreprindere, explicabilitatea nu este o preferință filosofică. Este o cerință pentru adoptare și contează atunci când clienții trebuie să reziste auditurilor viitoare.

De la conducte de date de nivel HIPAA la raportarea conformă cu IRS, Motus subliniază inteligența artificială sigură și scalabilă. Care sunt cele mai bune practici pe care le-ați recomanda altor lideri de inteligență artificială care lucrează în industrii reglementate?

Câteva principii care călătoresc bine:

• Tratați conformitatea ca pe autostradă. Construiți drumuri asfaltate, astfel încât echipele să poată merge rapid și în siguranță.
• Definiți limitele de la început. Fiți explicit cu privire la ce date nu pot părăsi, ce unelte sunt aprobate și unde pot rula modelele.
• Automatizați dovezile. Faceți jurnalizarea, linia și versionarea setări implicite, nu o luptă în timpul unui audit.
• Măsurați înainte de a scala. Bine măsurat este jumătate făcut. Nu puteți îmbunătăți ceea ce nu puteți vedea.
• Operaționalizați reziduurile. Transformați ratele într-o taxonomie a erorilor și o listă de priorități pentru îmbunătățire.
• Proiectați pentru adoptare. Modelele excelente sunt parte statistică, parte parteneriat și, în mare măsură, managementul schimbării.

Dacă guvernanța dvs. trăiește într-un PDF, nu va scala. Dacă trăiește în sistem, va scala.

Cum vedeți evoluția inteligenței artificiale în acest spațiu în următorii 3-5 ani, având în vedere poziția Motus la nivel de soluții de rambursare a vehiculelor și gestionare a riscurilor?

Mă aștept la două schimbări majore și ele se întăresc reciproc.

Mai întâi, riscul se va deplasa de la verificări periodice la semnale de decizie continue. Astăzi, majoritatea organizațiilor încă află despre riscul șoferilor prea târziu, fie după un incident, fie după o revizuire punctuală. Următoarea undă este sisteme care aduc la suprafață riscul mai devreme și mai precis, folosind modele deja prezente în operațiuni: schimbări în eligibilitate, lacune de acoperire, modele de mileaj neobișnuite și incoerențe între comportamentul așteptat și observat. Scopul nu este să înlocuiască judecata. Este să ofere siguranței, resurselor umane, finanțelor și operațiunilor un panou de avertizare timpurie mai clar, cu mai puține alarme false și o documentație mai bună pentru de ce a fost semnalizat ceva.

În al doilea rând, rambursarea se va deplasa de la hârtii la flux de lucru. Întreprinderile încă pierd o cantitate surprinzătoare de timp cu depuneri, corecții, aprobări și curățarea ulterioară. În următorii ani, mă aștept la o automatizare mai mare pe tot parcursul ciclului de rambursare: completarea prealabilă a ceea ce poate fi completat, detectarea intrărilor lipsă sau inconsistente mai devreme, routarea excepțiilor către aprobatorul potrivit cu context și reducerea traficului manual. Făcut bine, acest lucru face rambursarea mai rapidă și mai defensabilă, deoarece urma dovezilor este generată ca parte a procesului, în loc de reconstruită ulterior.

Ceea ce face acest lucru interesant este modul în care se converg atunci când fundația este corectă. Când limitele sunt clare și reziduurile sunt vizibile, obțineți o buclă de compunere: mai puține excepții, depuneri mai curate, aprobări mai rapide, semnale de risc mai clare și o înregistrare mai clară a modului în care au fost luate deciziile.

Viitorul nu este „inteligență artificială peste tot”. Este inteligența artificială încorporată în momentele potrivite, cu bucle de măsurare și feedback puternice care continuă să se îmbunătățească.

Pe baza călătoriei dvs. prin drept, neuroștiință, statistică și inteligență artificială aplicată, ce îndrumări ați oferi tinerilor profesioniști care aspiră să conducă date și inteligență artificială în medii de afaceri complexe?

Învățați să construiți sisteme, nu doar modele. Sau, altfel spus, construiți autostrada, instrumentați ratele și țineți harta actualizată.

Apropiați-vă de oamenii care trăiesc rezultatul. Operatorii de prima linie adesea văd semnale înainte ca datele dvs. să o facă. Feedback-ul lor nu este „anecdotic”. Este adesea setul de caracteristici lipsă.

Dezvoltați confortul cu măsurarea și umilința cu privire la eroare. Reziduurile sunt daruri dacă sunteți dispuși să ascultați. În medii reglementate, adăugați disciplina poverii dovezilor: fiți capabili să explicați ce ați construit, de ce s-a comportat în felul în care a făcut-o și ce veți face atunci când se schimbă.

În cele din urmă, amintiți-vă că adoptarea face parte din munca dvs. Managementul schimbării nu este un adaos moale. Este o cerință de bază dacă doriți ca inteligența dvs. artificială să fie utilizată. Acest lucru înseamnă că nu este suficient să fiți puternici în date, modele și algoritmi. Trebuie să lucrați bine în unități de afaceri, să câștigați încredere și să navigați calea umană care transformă un model bun într-o capacitate reală. Dacă puteți face asta, nu veți construi doar modele, veți construi încredere.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe despre Motus.