Pablo Ormachea, Wakil Presiden Data di Motus – Seri Wawancara

Pablo Ormachea, Wakil Presiden Data di Motus, membangun sistem AI dan analitik perusahaan yang dirancang untuk bergerak cepat sambil memenuhi pengawasan regulasi dan keuangan. Ia memimpin tim yang sepenuhnya remote, lintas fungsional dan fokus pada sistem pengambilan keputusan yang didorong oleh bukti yang memperbaiki retensi, memperluas margin, dan menghasilkan ROI yang terukur. Di Motus, ia merancang ulang analitik untuk lebih dari 350.000 pengemudi, mencapai laporan 60× lebih cepat dengan tidak ada waktu habis, dan mengirimkan sistem AI/ML termasuk deteksi anomali dan peramalan churn yang telah menyelamatkan klien jutaan. Ia juga menjadi co-penulis kerangka tata kelola AI Motus, yang memungkinkan eksperimen LLM yang aman dengan default yang jelas, auditabilitas yang kuat, dan logika bisnis yang konsisten di seluruh tumpukan data.

Motus adalah perusahaan perangkat lunak manajemen tenaga kerja dan mobilitas yang membantu organisasi mengelola penggantian biaya kendaraan, pelacakan kilometer, dan operasi tenaga kerja mobile. Platform cloud-nya mengautomasi program penggantian biaya yang mendapat pengurangan pajak, mengirimkan laporan dan wawasan waktu nyata, dan membantu perusahaan mengurangi biaya, meningkatkan produktivitas, dan mengelola kepatuhan untuk karyawan yang mengemudi sebagai bagian dari pekerjaan mereka.

Anda telah membangun karir yang unik di persimpangan rekayasa AI, strategi data, dan regulasi — dari Harvard Law hingga memimpin data dan AI di Motus. Apa pengalaman kunci yang membentuk pendekatan Anda dalam membangun sistem AI yang teknis maju dan memenuhi kerangka regulasi yang ketat?

Saya belajar sejak dini untuk memperlakukan kepatuhan seperti konstrain rekayasa, bukan sebagai pemikiran hukum. Jika Anda membangun jalan raya, Anda dapat mengemudi dengan kecepatan jalan raya. Jika Anda berpura-pura itu adalah jalan tanah dan menekan gas, Anda tidak akan bergerak lebih cepat. Anda hanya akan mengalami kecelakaan lebih awal.

Harvard Law membantu dengan cara yang mengejutkan karena sistem hukum umum pada dasarnya adalah pembelajaran yang didorong oleh sisa. Sebuah aturan bertemu dengan kenyataan. Kasus tepi mengungkap di mana aturan gagal. Doktrin memperhalus.

Itulah model mental yang saya gunakan untuk AI dalam produksi. Setiap sisa adalah hadiah. Ini memberitahu Anda di mana asumsi Anda berbeda dari dunia nyata, dan memberikan Anda jalur konkrit untuk memperketat sistem.

Jadi, saya mengoptimalkan dua hal sekaligus: kecepatan pengiriman dan beban bukti. Tujuan bukanlah “inovasi versus kepatuhan.” Tujuan adalah membangun sistem yang dapat bergerak cepat dan masih dapat menjawab, dengan jelas dan berulang, “Bagaimana Anda tahu?”

Anda menjadi co-penulis kebijakan tata kelola AI Motus yang merampingkan persetujuan sambil mempertahankan kontrol yang kuat. Apa prinsip yang membimbing Anda saat merancang kebijakan tersebut, dan bagaimana Anda menyeimbangkan kecepatan inovasi dengan kesiapan audit?

Kami tidak memulai untuk menulis aturan. Kami menggambar peta. Ketika adopsi AI dimulai, minat datang dari semua arah, dan kecepatan dapat berubah menjadi kebisingan, atau bahkan lebih buruk, kewajiban. Jadi, pekerjaan pertama adalah kejelasan: di mana LLM dapat berjalan dan di mana tidak, apa data yang tetap secara ketat di dalam, dan apa jenis eksperimen yang diizinkan dalam jalur yang aman.

Keseimbangan datang dari membuat jalur yang aman menjadi jalur yang mudah. Tata kelola gagal ketika itu adalah komite. Ini bekerja ketika menjadi default: alat yang disetujui, batasan data yang jelas, logging standar, dan jalur persetujuan yang cepat untuk kasus tepi. Tujuan adalah pembangun tidak perlu menegosiasikan kembali keamanan setiap kali mereka mengirim.

Kemudian kesiapan audit menjadi produk sampingan. Anda tidak terburu-buru mengumpulkan bukti setelah fakta karena sistem menghasilkan bukti saat dijalankan.

Anda telah mengatakan bahwa praktik AI harus memenuhi “scrutini tingkat IRS”. Bisakah Anda membagikan contoh di mana pertimbangan regulasi secara langsung mempengaruhi keputusan teknis AI atau ML di Motus?

Dalam alur kerja yang diatur, pertanyaannya bukan hanya “apakah modelnya akurat?” Tetapi “apakah Anda dapat menunjukkan pekerjaan Anda nanti?” Kenyataan itu membentuk apa yang “baik” di Motus.

Ini mengubah pilihan desain. Untuk beberapa kasus penggunaan, kami cenderung memilih pendekatan yang dapat dijelaskan, diputar ulang, dan mudah diaudit. Terkadang itu berarti keluarga model yang lebih sederhana. Seringkali itu berarti pengawalan deterministik, fitur yang di versi, dan logging input dan output dengan cara yang mendukung pemutaran yang sebenarnya.

Contoh konkret: ketika kami memperbarui bagian dari logika penggantian biaya dan pelaporan, kami mendorong keras pada jejakability di titik keputusan kunci. Kami ingin sistem dapat menjawab, atas permintaan, aturan apa yang diaktifkan, data apa yang digunakan, versi apa yang berjalan, dan apa yang akan mengubah hasil. Ini membuat komponen AI lebih dapat digunakan, dan membuat alur kerja lebih mudah dipertahankan.

Pembayaran mengompensasi. Ketika Anda dapat memutar ulang perilaku dan memotong kesalahan, sisa-sisa berhenti menjadi misterius. Mereka menjadi daftar pekerjaan yang diprioritaskan: apa yang gagal, di mana, mengapa, dan apa perubahan yang menutup celah.

Motus mengoperasikan solusi untuk penggantian biaya kendaraan dan mitigasi risiko yang harus memenuhi persyaratan regulasi IRS dan lainnya. Bagaimana AI meningkatkan kepatuhan dan akurasi dalam kasus penggunaan perusahaan ini?

AI membantu dalam dua cara: itu mengurangi gesekan manual, dan itu memperkuat pembelaan.

Pada penggantian biaya, nilai bukan hanya otomatisasi, tetapi konsistensi. AI dapat membantu mengklasifikasikan perjalanan, mendeteksi anomali, dan mengungkapkan informasi yang hilang lebih awal, yang mengurangi rekonsiliasi hilir. Tidak ada yang ingin penggantian biaya menjadi proyek arkeologi bulanan. Manfaat kepatuhan datang dari pengukuran yang lebih baik dan dokumentasi yang lebih baik. Anda mendukung hasil dengan catatan yang jelas daripada mengandalkan rekonstruksi setelah fakta.

Pada risiko, AI berguna karena pemeriksaan titik-waktu tidak cukup. Perusahaan ingin kesadaran terus-menerus tentang apa yang berubah, apa yang terlihat tidak biasa, dan apa yang memerlukan perhatian. Sistem AI terbaik di sini tidak dramatis. Mereka sunyi, konsisten, dan terukur.

Memimpin tim remote, lintas fungsional yang berkolaborasi dengan Legal, Keamanan, Keuangan, dan Produk bukanlah prestasi kecil. Apa tantangan terbesar yang Anda hadapi dalam menyelaraskan kelompok-kelompok ini di sekitar inisiatif data dan AI?

Bagian tersulit adalah bahwa setiap kelompok rasional, dan mereka mengoptimalkan risiko yang berbeda.

Keamanan khawatir tentang paparan. Legal khawatir tentang pembelaan. Keuangan khawatir tentang biaya dan prediktabilitas. Produk khawatir tentang kecepatan dan nilai pelanggan. Data dan rekayasa khawatir tentang kelayakan dan keandalan. Jika Anda memperlakukan ini sebagai agenda yang bersaing, Anda akan terhambat.

Perbaikan datang dari bahasa yang sama dan jalur yang jelas. Kami selaraskan pada keputusan yang dipertaruhkan, mendefinisikan batasan, dan setuju pada apa yang “baik” memerlukan. Kemudian kami membangun default sehingga sebagian besar pekerjaan dapat bergerak tanpa upacara.

Saya telah menemukan bahwa kejelasan mengalahkan persuasi. Ketika orang dapat melihat peta, penyelarasan menjadi lebih mudah.

Anda telah mengemudi peningkatan kinerja besar — seperti laporan 60× lebih cepat untuk 350.000+ pengemudi dan jutaan dalam penghematan klien. Bagaimana Anda memutuskan proyek AI/ML mana yang diprioritaskan untuk dampak taktis dan nilai strategis?

Saya memprioritaskan proyek yang lulus tiga tes.

Pertama, mereka harus mengubah keputusan atau alur kerja yang nyata, bukan hanya menghasilkan skor yang cerdas. Jika output tidak secara andal mengubah perilaku, itu adalah demo, bukan produk.

Kedua, mereka harus dapat diukur. Kakek saya biasa mengatakan “diukur dengan baik adalah setengah selesai.” Dalam pengaturan yang diatur, itu lebih dari setengah. Jika kita tidak dapat mendefinisikan kesuksesan, mode kesalahan, dan pemantauan sebelumnya, itu berarti kita belum memahami pekerjaan itu.

Ketiga, mereka harus dapat dipertahankan di bawah pengawasan. Ini termasuk provenance data, batasan akses, dan kemampuan untuk menjelaskan dan memutar ulang hasil.

Ketika proyek lulus tes tersebut, cenderung menciptakan kemenangan taktis dan penggandaan strategis. Di Motus, itu bagaimana kami telah mengirimkan peningkatan langkah besar, termasuk laporan yang jauh lebih cepat pada skala, pengecualian yang lebih sedikit, dan otomatisasi yang diterjemahkan menjadi penghematan waktu klien yang nyata.

Kepercayaan dan keterjelasan sangat penting untuk adopsi AI perusahaan. Bagaimana tim Anda memastikan model-model tersebut dapat diinterpretasikan dan dipercaya oleh pemangku kepentingan di seluruh unit bisnis?

Kepercayaan datang dari kejelasan, konsistensi, dan sistem yang dapat menjelaskan dirinya sendiri di bawah tekanan.

Kami merancang sistem dengan tombol putar ulang. Input yang sama, versi yang sama, output yang sama, plus jejak bukti apa yang berubah seiring waktu. Kami juga membuat sisa-sisa terlihat. Setiap kesalahan adalah informasi. Jika Anda menginstrumentasikan kesalahan dengan benar, Anda dapat menjelaskan perilaku dalam bahasa yang sederhana dan memperbaikinya dengan cara yang disiplin.

Ketika keputusan memiliki paparan audit, kami cenderung memilih model yang lebih sederhana dengan pengukuran yang kuat daripada kompleksitas yang tidak transparan. Secara praktis, itu berarti definisi data yang jelas, evaluasi yang memotong kinerja oleh segmen yang bermakna, pemantauan untuk drift, dan proses perubahan yang didokumentasikan. Pemangku kepentingan tidak perlu setiap detail teknis. Mereka memerlukan kepercayaan bahwa sistem diukur, dibatasi, dan diperbaiki.

Dalam pengaturan perusahaan, keterjelasan bukanlah preferensi filosofis. Ini adalah persyaratan untuk adopsi, dan itu penting ketika klien perlu bertahan dari audit di masa depan.

Dari pipa data kelas HIPAA hingga pelaporan yang sesuai dengan IRS, Motus menekankan AI yang aman dan dapat diskalakan. Apa praktik terbaik yang akan Anda rekomendasikan kepada pemimpin AI lain yang bekerja di industri yang diatur?

Beberapa prinsip yang berlaku umum:

• Perlakukan kepatuhan sebagai jalan raya. Bangun jalan raya yang mulus sehingga tim dapat bergerak cepat dengan aman.
• Tentukan batasan lebih awal. Jelaskan apa data yang tidak dapat meninggalkan, apa alat yang disetujui, dan di mana model dapat berjalan.
• Otomatisasi bukti. Buat logging, lineage, dan versioning menjadi default, bukan kepanikan saat audit.
• Ukur sebelum Anda menskalakan. Diukur dengan baik adalah setengah selesai. Anda tidak dapat memperbaiki apa yang tidak dapat Anda lihat.
• Operasikan sisa-sisa. Ubah kesalahan menjadi taksonomi kesalahan dan daftar pekerjaan yang diprioritaskan.
• Rancang untuk adopsi. Model yang hebat adalah bagian statistik, bagian kemitraan, dan sebagian besar manajemen perubahan.

Jika tata kelola Anda hidup dalam PDF, itu tidak akan diskalakan. Jika itu hidup dalam sistem, itu akan.

Dengan Motus di garis depan solusi penggantian biaya kendaraan dan risiko, bagaimana Anda melihat AI berkembang dalam ruang ini selama 3-5 tahun ke depan?

Saya mengharapkan dua pergeseran besar, dan keduanya saling menguatkan.

Pertama, risiko akan berpindah dari pemeriksaan berkala ke sinyal keputusan yang terus-menerus. Hari ini, sebagian besar organisasi masih belajar tentang risiko pengemudi terlambat, baik setelah insiden atau setelah tinjauan titik-waktu. Gelombang berikutnya adalah sistem yang mengungkapkan risiko lebih awal dan lebih presisi, menggunakan pola yang sudah ada dalam operasi: perubahan dalam kelayakan, celah cakupan, pola kilometer yang tidak biasa, dan inkonsistensi antara perilaku yang diharapkan dan yang diamati. Tujuan bukanlah menggantikan penilaian. Ini memberikan panel peringatan awal yang lebih jelas kepada keamanan, HR, keuangan, dan operasi, dengan lebih sedikit alarm palsu dan dokumentasi yang lebih baik untuk mengapa sesuatu ditandai.

Kedua, penggantian biaya akan berpindah dari kertas kerja ke alur kerja. Perusahaan masih kehilangan sejumlah waktu untuk pengajuan, koreksi, persetujuan, dan pembersihan pasca-fakta. Selama beberapa tahun ke depan, saya mengharapkan lebih banyak otomatisasi di seluruh siklus penggantian biaya: pra-mengisi apa yang dapat diisi sebelumnya, menangkap input yang hilang atau inkonsisten lebih awal, mengarahkan pengecualian ke approver yang tepat dengan konteks, dan mengurangi bolak-balik manual. Jika dilakukan dengan baik, ini membuat penggantian biaya lebih cepat dan lebih dapat dipertahankan karena jejak bukti dihasilkan sebagai bagian dari proses, bukan direkonstruksi kemudian.

Apa yang membuat ini menarik adalah bagaimana mereka bersatu ketika fondasinya benar. Ketika batasan jelas dan sisa-sisa terlihat, Anda mendapatkan loop penggandaan: pengecualian yang lebih sedikit, pengajuan yang lebih bersih, persetujuan yang lebih cepat, sinyal risiko yang lebih jelas, dan catatan yang lebih jelas tentang bagaimana keputusan dibuat.

Masa depan bukanlah “AI di mana-mana.” Ini adalah AI yang tertanam pada saat yang tepat, dengan pengukuran yang kuat dan loop umpan balik yang terus memperbaiki.

Berdasarkan perjalanan Anda melalui hukum, neurosains, statistik, dan AI terapan, apa saran yang akan Anda berikan kepada profesional muda yang bercita-cita memimpin data dan AI di lingkungan bisnis yang kompleks?

Belajarlah untuk membangun sistem, bukan hanya model. Atau dengan kata lain, bangun jalan raya, instrumentasikan kesalahan, dan pertahankan peta yang diperbarui.

Dekatkan diri dengan orang-orang yang hidup dari hasilnya. Operator garis depan sering melihat sinyal sebelum data Anda melakukannya. Umpan balik mereka bukanlah “anekdot.” Ini sering merupakan fitur yang hilang.

Kembangkan kenyamanan dengan pengukuran, dan kerendahan hati tentang kesalahan. Sisa-sisa adalah hadiah jika Anda bersedia mendengarkan. Dalam lingkungan yang diatur, tambahkan disiplin beban bukti: dapat menjelaskan apa yang Anda bangun, mengapa itu berperilaku dengan cara itu, dan apa yang akan Anda lakukan ketika itu berubah.

Terakhir, ingatlah bahwa adopsi adalah bagian dari pekerjaan. Manajemen perubahan bukanlah tambahan yang lembut. Ini adalah persyaratan inti jika Anda ingin AI Anda digunakan. Itu berarti itu tidak cukup kuat dalam data, model, dan algoritma. Anda harus bekerja dengan baik di seluruh unit bisnis, memenangkan kepercayaan, dan menavigasi jalur manusia yang mengubah model yang baik menjadi kemampuan yang nyata. Jika Anda dapat melakukan itu, Anda tidak hanya akan membangun model, Anda akan membangun kepercayaan.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Motus.