Pablo Ormachea, Motus Veri Başkan Yardımcısı – Röportaj Serisi

Pablo OrmacheMotus'ta Veri Başkan Yardımcısı olan kişi, düzenleyici ve finansal denetimlere dayanırken hızlı hareket edecek şekilde tasarlanmış kurumsal yapay zeka ve analitik sistemleri geliştiriyor. Tamamen uzaktan çalışan, çok fonksiyonlu ekipleri yönetiyor ve müşteri sadakatini artıran, kar marjlarını genişleten ve ölçülebilir yatırım getirisi sağlayan kanıta dayalı karar sistemlerine odaklanıyor. Motus'ta, 350,000'den fazla sürücü için analitiği yeniden tasarlayarak sıfır zaman aşımıyla 60 kat daha hızlı raporlama sağladı ve anormallik tespiti ve müşteri kaybı tahmini de dahil olmak üzere müşterilere milyonlarca dolar tasarruf sağlayan yapay zeka/makine öğrenimi sistemleri geliştirdi. Ayrıca, net varsayılan değerler, güçlü denetlenebilirlik ve veri yığını genelinde tutarlı iş mantığı ile güvenli LLM deneylerine olanak tanıyan Motus'un yapay zeka yönetişim çerçevesinin de ortak yazarıdır.

Motus Şirket, kuruluşların araç geri ödemelerini, kilometre takibini ve mobil iş gücü operasyonlarını yönetmelerine yardımcı olan bir iş gücü yönetimi ve mobilite yazılım şirketidir. Bulut platformu, vergi avantajlı geri ödeme programlarını otomatikleştirir, gerçek zamanlı raporlama ve içgörüler sunar ve işletmelerin maliyetleri düşürmesine, verimliliği artırmasına ve işlerinin bir parçası olarak araç kullanan çalışanlar için uyumluluğu yönetmesine yardımcı olur.

Harvard Hukuk Fakültesi'nden Motus'ta veri ve yapay zeka liderliğine kadar, yapay zeka mühendisliği, veri stratejisi ve düzenlemelerin kesiştiği noktada benzersiz bir kariyer inşa ettiniz. Hem teknik olarak gelişmiş hem de katı düzenleyici çerçevelere uygun yapay zeka sistemleri oluşturma yaklaşımınızı şekillendiren temel deneyimler nelerdi?

Mevzuata uyumu yasal bir sonradan akla gelen şey olarak değil, mühendislik kısıtlaması olarak ele almayı erken yaşta öğrendim. Otoyolu inşa ederseniz, otoyol hızında gidebilirsiniz. Eğer toprak yolmuş gibi davranıp yine de gaza basarsanız, daha hızlı gitmezsiniz. Sadece daha erken kaza yaparsınız.

Harvard Hukuk Fakültesi şaşırtıcı bir şekilde yardımcı oldu çünkü ortak hukuk sistemi temelde kalıntıya dayalı bir öğrenme sistemidir. Bir kural gerçeklikle karşılaşır. İstisnai durumlar, kuralın nerede başarısız olduğunu ortaya çıkarır. Doktrin gelişir.

Üretimde yapay zekâ için de aynı zihinsel modeli kullanıyorum. Her bir artık değer bir hediyedir. Varsayımlarınızın gerçek dünyadan nerede saptığını gösterir ve sistemi iyileştirmek için somut bir yol sunar.

Bu nedenle, aynı anda iki şeye odaklanıyorum: teslimat hızı ve ispat yükü. Amaç "yenilikçilik mi yoksa uyumluluk mu" değil. Amaç, hızlı hareket edebilen ve yine de "Bunu nereden biliyorsunuz?" sorusuna net ve tekrarlanabilir bir şekilde cevap verebilen sistemler kurmaktır.

Motus'un onay süreçlerini basitleştirirken güçlü kontrolleri de koruyan yapay zeka yönetişim politikasının ortak yazarlarından birisiniz. Bu politikayı tasarlarken hangi ilkeler size rehberlik etti ve inovasyon hızını denetim hazırlığıyla nasıl dengelediniz?

Kurallar yazmayı hedeflemedik. Bir harita çizdik. Yapay zekâ benimsenmeye başladığında, ilgi her yönden gelir ve hız gürültüye, hatta daha kötüsü, yükümlülüğe dönüşebilir. Bu nedenle ilk iş netliktir: LLM'lerin nerede çalışabileceği ve nerede çalışamayacağı, hangi verilerin kesinlikle içeride kalacağı ve hangi tür deneylerin güvenli bir alanda yapılmasına izin verileceği.

Denge, güvenli yolu kolay yol haline getirmekten gelir. Yönetim, bir komite olduğunda başarısız olur. Varsayılanlar haline geldiğinde işe yarar: onaylanmış araçlar, net veri sınırları, standart kayıt tutma ve uç durumlar için hızlı onay süreci. Amaç, geliştiricilerin her dağıtımda güvenliği yeniden müzakere etmelerine gerek kalmamasıdır.

Bu durumda denetim hazırlığı kendiliğinden oluşur. Sistem çalışırken kanıtları ürettiği için, olaydan sonra kanıt toplamak için acele etmenize gerek kalmaz.

Yapay zeka uygulamalarının "vergi dairesi düzeyinde bile incelemeye tabi tutulması" gerektiğini söylediniz. Motus'ta düzenleyici hususların teknik bir yapay zeka veya makine öğrenimi kararını doğrudan etkilediği bir örnek paylaşabilir misiniz?

Düzenlemeye tabi iş akışlarında soru sadece "model doğru mu?" değil, "çalışmanızı daha sonra gösterebilir misiniz?" sorusudur. Bu gerçeklik, Motus'ta "iyi"nin neye benzediğini şekillendirir.

Bu, tasarım tercihlerini değiştirir. Belirli kullanım durumları için, açıklanabilir, tekrar oynatılabilir ve denetlenmesi kolay yaklaşımlara yöneliriz. Bazen bu, daha basit model aileleri anlamına gelir. Çoğu zaman ise, belirleyici güvenlik önlemleri, sürümlü özellikler ve gerçek tekrar oynatmayı destekleyecek şekilde girdi ve çıktıların kaydedilmesi anlamına gelir.

Somut bir örnek: Geri ödeme mantığımızın ve raporlamamızın bazı kısımlarını güncellediğimizde, önemli karar noktalarında izlenebilirliğe büyük önem verdik. Sistemin, talep üzerine, hangi kuralın tetiklendiğini, hangi veriyi kullandığını, hangi sürümün çalıştığını ve sonucu neyin değiştireceğini yanıtlamasını istedik. Bu, yapay zeka bileşenlerini daha kullanışlı hale getirdi ve tüm iş akışını savunmayı kolaylaştırdı.

Kazanç katlanarak artar. Davranışı yeniden oynatabildiğiniz ve hataları dilimleyebildiğiniz zaman, artık kalıntılar gizemli olmaktan çıkar. Önceliklendirilmiş bir iş listesine dönüşürler: ne başarısız oldu, nerede, neden ve hangi değişiklik bu açığı kapatır.

Motus, IRS ve diğer düzenleyici gereklilikleri karşılamak zorunda olan araç tazminatı ve risk azaltma çözümleri sunmaktadır. Yapay zeka, bu kurumsal kullanım durumlarında uyumluluğu ve doğruluğu nasıl iyileştiriyor?

Yapay zeka iki şekilde yardımcı oluyor: manuel sürtünmeyi azaltıyor ve savunma kabiliyetini güçlendiriyor.

Geri ödemelerde değer sadece otomasyonda değil, tutarlılıkta da yatmaktadır. Yapay zeka, seyahatleri sınıflandırmaya, anormallikleri tespit etmeye ve eksik bilgileri daha erken ortaya çıkarmaya yardımcı olarak, sonraki aşamalardaki uzlaştırma sürecini azaltır. Kimse geri ödemelerin aylık bir arkeoloji projesine dönüşmesini istemez. Uyumluluk avantajı, daha iyi ölçüm ve daha iyi dokümantasyondan gelir. Sonuçları, sonradan yeniden yapılandırmaya güvenmek yerine, net bir kayıtla desteklersiniz.

Risk konusunda yapay zeka faydalıdır çünkü anlık kontroller yeterli değildir. İşletmeler, nelerin değiştiğini, nelerin yanlış göründüğünü ve nelere dikkat edilmesi gerektiğini sürekli olarak bilmek isterler. Bu konuda en iyi yapay zeka sistemleri çarpıcı değişiklikler yapmaz. Sessiz, tutarlı ve ölçülebilirdirler.

Hukuk, Güvenlik, Finans ve Ürün departmanlarıyla iş birliği yapan, uzaktan çalışan, çok fonksiyonlu ekipleri yönetmek hiç de kolay bir iş değil. Bu grupları veri ve yapay zeka girişimleri etrafında bir araya getirme konusunda karşılaştığınız en büyük zorluklar neler oldu?

En zor kısmı, her grubun rasyonel olması ve farklı riskler için en uygun stratejiyi seçmesidir.

Güvenlik endişeleri ifşa edilme olasılığıyla ilgili. Hukuki endişeler savunulabilirlik ile ilgili. Finans endişeleri maliyet ve öngörülebilirlik ile ilgili. Ürün endişeleri hız ve müşteri değeri ile ilgili. Veri ve mühendislik endişeleri uygulanabilirlik ve güvenilirlik ile ilgili. Bunları birbiriyle rekabet eden gündemler olarak ele alırsanız, tıkanıp kalırsınız.

Çözüm, ortak bir dil ve net yollar belirlemektir. Söz konusu kararda hemfikir oluruz, sınırları tanımlarız ve "iyi" kanıtın ne gerektirdiği konusunda anlaşırız. Ardından, çoğu işin sorunsuz bir şekilde ilerleyebilmesi için varsayılan ayarlar oluştururuz.

Açıklığın iknadan daha etkili olduğunu keşfettim. İnsanlar haritayı görebildiğinde, uyum sağlamak çok daha kolaylaşıyor.

350,000'den fazla sürücü için raporlama hızını 60 kat artırmak ve müşteriler için milyonlarca dolarlık tasarruf sağlamak gibi önemli performans iyileştirmeleri gerçekleştirdiniz. Hem taktiksel etki hem de stratejik değer açısından hangi yapay zeka/makine öğrenimi projelerine öncelik vereceğinize nasıl karar veriyorsunuz?

Üç testi de geçen projelere öncelik veriyorum.

Öncelikle, sadece zekice bir müzik bestesi üretmek değil, gerçek bir kararı veya iş akışını değiştirmeleri gerekir. Çıktı, davranışı güvenilir bir şekilde değiştirmiyorsa, bu bir ürün değil, bir demodur.

İkinci olarak, ölçülebilir olmaları gerekir. Büyükannem ve büyükbabam "iyi ölçülmüş olan işin yarısıdır" derlerdi. Düzenlenmiş ortamlarda bu, yarıdan fazlasıdır. Başarıyı, hata modlarını ve izlemeyi önceden tanımlayamazsak, bu henüz işi anlamadığımız anlamına gelir.

Üçüncüsü, inceleme altında savunulabilir olmaları gerekir. Bu, veri kaynağı, erişim sınırları ve sonuçları açıklama ve yeniden oynatma yeteneğini içerir.

Bir proje bu testlerden geçtiğinde, hem taktiksel kazanımlar hem de stratejik birikim yaratma eğilimindedir. Motus'ta, bu şekilde, büyük ölçekte önemli ölçüde daha hızlı raporlama, daha az istisna ve gerçek müşteri zaman tasarrufuna dönüşen otomasyon da dahil olmak üzere, önemli iyileştirmeler sağladık.

Kurumsal yapay zekâ benimsenmesinde güven ve açıklanabilirlik kritik öneme sahiptir. Ekibiniz, modellerin iş birimlerindeki paydaşlar için yorumlanabilir ve güvenilir olmasını nasıl sağlıyor?

Güven, açıklık, tutarlılık ve baskı altında kendini açıklayabilen bir sistemden gelir.

Tekrar oynatma düğmesi olan sistemler tasarlıyoruz. Aynı girdiler, aynı sürüm, aynı çıktı ve zaman içinde nelerin değiştiğinin kanıtlarını sunuyoruz. Ayrıca artık hataları da görünür hale getiriyoruz. Her hata bir bilgidir. Hataları doğru şekilde izlerseniz, davranışı sade bir dille açıklayabilir ve disiplinli bir şekilde iyileştirebilirsiniz.

Denetim riski taşıyan kararlarda, karmaşık ve anlaşılması güç modellere kıyasla daha basit modelleri ve güçlü ölçüm yöntemlerini tercih ederiz. Pratikte bu, net veri tanımları, performansı anlamlı segmentlere ayıran değerlendirme, sapmaların izlenmesi ve belgelenmiş bir değişim süreci anlamına gelir. Paydaşların her teknik detaya ihtiyacı yoktur. Sistemin ölçüldüğüne, sınırlandırıldığına ve iyileştirildiğine dair güvene ihtiyaçları vardır.

Kurumsal ortamlarda, açıklanabilirlik felsefi bir tercih değil, benimsenme için bir gerekliliktir ve müşterilerin gelecekteki denetimlere dayanabilmesi açısından önem taşır.

HIPAA uyumlu veri işlem hatlarından IRS uyumlu raporlamaya kadar Motus, güvenli ve ölçeklenebilir yapay zekaya önem veriyor. Düzenlemeye tabi sektörlerde çalışan diğer yapay zeka liderlerine hangi en iyi uygulamaları önerirsiniz?

Seyahat ederken de işe yarayan birkaç ilke:

• Kurallara uyumu otoyol gibi düşünün. Ekiplerin hızlı ve güvenli bir şekilde hareket edebilmesi için asfalt yollar inşa edin.
• Sınırları en başından belirleyin. Hangi verilerin dışarı çıkamayacağı, hangi araçların onaylandığı ve modellerin nerede çalıştırılabileceği konusunda açık olun.
• Kanıt oluşturmayı otomatikleştirin. Denetim sırasında karmaşa yaratmak yerine, kayıt tutmayı, soy ağacını ve sürüm oluşturmayı varsayılan ayarlar haline getirin.
• Ölçmeden önce tartın. İyi ölçülmüş bir iş, işin yarısıdır. Göremediğiniz şeyi geliştiremezsiniz.
• Artıkları işlevsel hale getirin. Hataları bir hata sınıflandırmasına ve önceliklendirilmiş bir iyileştirme listesine dönüştürün.
• Benimsenmeye yönelik tasarım. Başarılı modeller kısmen istatistik, kısmen ortaklık ve büyük ölçüde değişim yönetimine dayanır.

Yönetim yapınız bir PDF dosyasında yer alıyorsa, ölçeklenemez. Sistemde yer alıyorsa, ölçeklenebilir.

Motus'un araç tazminatı ve risk çözümleri alanında öncü konumda olduğu göz önüne alındığında, önümüzdeki 3-5 yıl içinde yapay zekanın bu alanda nasıl gelişeceğini düşünüyorsunuz?

İki büyük değişim bekliyorum ve bunlar birbirini güçlendiriyor.

Öncelikle, risk periyodik kontrollerden sürekli, karar verme düzeyinde sinyallere doğru evrilecek. Günümüzde çoğu kuruluş, sürücü riskini ya bir olaydan sonra ya da anlık bir incelemeden sonra çok geç öğreniyor. Bir sonraki dalga, operasyonlarda zaten mevcut olan kalıpları kullanarak riski daha erken ve daha hassas bir şekilde ortaya çıkaran sistemlerdir: uygunluktaki değişiklikler, kapsama boşlukları, olağandışı kilometre kalıpları ve beklenen ile gözlemlenen davranış arasındaki tutarsızlıklar. Amaç, yargıyı ortadan kaldırmak değil. Amaç, güvenlik, insan kaynakları, finans ve operasyonlara daha az yanlış alarm ve bir şeyin neden işaretlendiğine dair daha iyi dokümantasyon ile daha net bir erken uyarı paneli sağlamaktır.

İkinci olarak, geri ödeme süreci evrak işlerinden iş akışına geçecek. İşletmeler hala şaşırtıcı derecede zamanlarını başvurulara, düzeltmelere, onaylara ve sonradan yapılan temizlik işlemlerine harcıyor. Önümüzdeki birkaç yıl içinde, geri ödeme yaşam döngüsü boyunca daha fazla otomasyon bekliyorum: önceden doldurulabilecek şeylerin önceden doldurulması, eksik veya tutarsız girdilerin erken aşamada tespit edilmesi, istisnaların bağlamıyla birlikte doğru onaylayıcıya yönlendirilmesi ve manuel karşılıklı yazışmaların azaltılması. İyi yapıldığında, bu, kanıt izi daha sonra yeniden oluşturulmak yerine sürecin bir parçası olarak oluşturulduğu için geri ödemeyi daha hızlı ve daha savunulabilir hale getirir.

Bunu heyecan verici kılan şey, temel doğru olduğunda bunların nasıl bir araya geldiğidir. Sınırlar net olduğunda ve sonuçlar görünür olduğunda, bileşik bir döngü elde edersiniz: daha az istisna, daha temiz başvurular, daha hızlı onaylar, daha iyi risk sinyalleri ve kararların nasıl alındığına dair daha net bir kayıt.

Gelecek, "her yerde yapay zeka" değil. Gelecek, doğru anlarda yerleşik, güçlü ölçüm ve geri bildirim döngüleriyle sürekli iyileştirilen yapay zekadır.

Hukuk, nörobilim, istatistik ve uygulamalı yapay zeka alanlarındaki yolculuğunuza dayanarak, karmaşık iş ortamlarında veri ve yapay zekaya liderlik etmeyi hedefleyen genç profesyonellere ne gibi tavsiyelerde bulunurdunuz?

Sadece modeller değil, sistemler kurmayı öğrenin. Ya da başka bir deyişle, otoyolu inşa edin, eksiklikleri tespit edin ve haritayı güncel tutun.

Sonuçları yaşayan insanlara yaklaşın. Sahadaki operatörler genellikle verilerinizden önce sinyalleri görürler. Onların geri bildirimleri "anekdot niteliğinde" değildir. Genellikle eksik olan özellik kümesini içerir.

Ölçüm konusunda rahatlık geliştirin ve hata konusunda alçakgönüllü olun. Eğer dinlemeye istekliyseniz, artıklar birer hediyedir. Düzenlemeye tabi ortamlarda, ispat yükümlülüğü disiplinini de ekleyin: Ne inşa ettiğinizi, neden böyle davrandığını ve değiştiğinde ne yapacağınızı açıklayabilmelisiniz.

Son olarak, benimsemenin işin bir parçası olduğunu unutmayın. Değişim yönetimi, sonradan eklenen bir unsur değildir. Yapay zekanızın kullanılmasını istiyorsanız, temel bir gerekliliktir. Bu, veri, model ve algoritmalar konusunda güçlü olmanın yeterli olmadığı anlamına gelir. İş birimleri arasında iyi çalışmanız, güven kazanmanız ve iyi bir modeli gerçek bir yeteneğe dönüştüren insani yolu izlemeniz gerekir. Bunu başarabilirseniz, sadece modeller oluşturmakla kalmaz, aynı zamanda güven de inşa edersiniz.

Harika röportaj için teşekkürler, daha fazla bilgi edinmek isteyen okuyucular ziyaret etmelidir. Motus.