Yotam Oren, Mona Labs’in CEO’sü ve Kurucu Ortağı – Röportaj Serisi

Yotam Oren, Mona Labs‘in CEO’sü ve kurucu ortağıdır. Mona Labs, şirketlerin AI girişimlerini laboratuvar deneylerinden ölçeklenebilir iş operasyonlarına dönüştürmelerine olanak tanıyan bir platformdur. Bu, gerçek iş süreçleri ve uygulamalarında nasıl davrandıklarını gerçekten anlayarak makine öğrenimi modellerinin davranışlarını analiz ederek yapılır.

Mona, korumalı veri segmentleri boyunca ve iş fonksiyonlarının bağlamında makine öğrenimi modellerinin davranışlarını otomatik olarak analiz eder. Bu, potansiyel AI yanlılığını tespit etmek için kullanılır. Mona, endüstri standartlarına ve düzenlemelerine uygun tam adil raporlar oluşturabilme yeteneği sunar ve AI uygulamasının uyumlu ve yanlılıktan uzak olduğunu garantiler.

Sizce bilgisayar bilimine ilk olarak ne sizi çekti?

Bilgisayar bilimi ailemde popüler bir kariyer yolu olduğu için, bu luôn benim için geçerli bir seçenek olarak göründü. Tabii ki, İsrail kültürü çok teknoloji dostu. İnovatif teknologları kutlarız ve her zaman bilgisayar bilimlerinin bana büyüme ve başarı için bir alan sağlayacağını düşünmüştüm.

Bununla birlikte, bu sadece bir kişisel tutku haline geldiğinde üniversite çağına ulaştım. Ben ortaokulda kodlama yapmaya başlayan çocuklardan değildim. Gençliğimde, bilgisayara dikkat etmek yerine basketbol oynamakla meşguldüm. Liseden sonra, yaklaşık 5 yıl boyunca operasyonel/komuta liderlik rollerinde askerlik yaptım. Yani, aslında bilgisayar bilimlerini daha ciddi bir şekilde öğrenmeye üniversitede akademik bir ana dal seçmem gerektiğinde başladım. Beni hemen cezbeyen şey, bilgisayar biliminin problem çözme ve dil öğrenme (veya diller) kombinasyonunu içerdiğiydi. İki şey özellikle ilgimi çekiyordu. O günden sonra, buna tamamen bağlandım.

2006’dan 2008’e kadar bir küçük startup’ta haritalama ve navigasyon üzerinde çalıştınız, bu dönemden bazı önemli çıkarımlarınız nelerdi?

Telmap’taki rolüm, harita ve konum verisi üzerine bir arama motoru oluşturmaktı.

Bunlar, “büyük veri”nin şirketler açısından çok erken günleriydi. Hatta buna “büyük veri” demiyorduk, ama devasa veri kümeleri ediniyor ve son kullanıcılarımıza en etkili ve ilgili içgörüler sunmaya çalışıyorduk.

Benim için çarpıcı bir realizasyon, şirketlerin (bizim de dahil olmak üzere) verilerinin çok az bir kısmını kullandıklarıydı (dış veri dahil). Yeni içgörüler, daha iyi süreçler ve deneyimler için büyük bir potansiyel vardı.

Diğer bir çıkarım, daha fazla verimize ulaşabilmemizin, elbette, daha iyi altyapı ve mimarilere sahip olmamıza bağlı olduğuydu.

Mona Labs’in doğuş hikayesini paylaşabilir misiniz?

Üçümüz, kurucular, kariyerlerimiz boyunca veri ürünleri etrafındaydık.

Nemo, chief technology officer, benim üniversite arkadaşım ve sınıf arkadaşım ve Google (GOOGL ) Tel Aviv’in ilk çalışanlarından biri. Google Trends adlı bir ürün geliştirdi, bu ürün advanced analitik ve makine öğrenimi içeriyordu ve arama motoru verisine dayanıyordu. Itai, diğer kurucu ve chief product officer, Nemo’nun Google’daki ekibindeydi (ve ben de Nemo aracılığıyla Itai ile tanıştım). İkisi de AI sürümlü sistemlerin initial geliştirme ve testinden sonra izlenmediğinden frustré oluyordu. Ekibin, sistemlerin üretim öncesi doğru bir şekilde test edilememesinden dolayı, ne kadar iyi çalıştığını bilmediklerini görüyorlardı. Ayrıca, AI sistemleri hakkında geri bildirim alabildikleri tek zaman, şeyler kötü gittiğinde ve geliştirme ekibinin “yangın tatbikatı” için çağrıldığı zamanlardı.

O sırada, ben McKinsey & Co.’da danışman olarak çalışıyordum ve büyük şirketlerde AI ve Büyük Veri programlarının ölçeklenmesine engel olan en büyük engellerden birinin, iş paydaşlarının bu programlara olan güvensizliği olduğunu gördüm.

Netleşen ortak nokta, Nemo, Itai ve benim arasında konuşmalarımızda ortaya çıktı. Endüstri, üretimdeki AI/ML sistemlerini izleme altyapısına ihtiyaç duyuyordu. İşletme paydaşlarının güvenini artırmak ve AI ekiplerinin sistemlerinin nasıl performans gösterdiğine dair her zaman bir tutamağı olmasını sağlamak için bu görünürlüğü sağlamak istediğimiz konusunda anlaştık.

Ve işte Mona böyle kuruldu.

AI Şeffaflığı eksikliğinin mevcut sorunlarından bazıları nelerdir?

Çok sayıda endüstride, organizasyonlar AI programlarına on milyonlarca dolar yatırım yapmış ve laboratuvar ortamında ve küçük ölçekli dağıtımlarda bazı ilk başarıları görmüşlerdir. Ancak, ölçeklendirme, geniş çaplı benimseme ve işin gerçekten AI’ye güvenmesini sağlamak büyük bir zorluk haline gelmiştir.

Bunun nedenleri nelerdir? Başlangıçta, büyük araştırma otomatik olarak büyük ürün anlamına gelmez (Bir müşteri bize, “ML modelleri arabalar gibidir, laboratuvarları terk ettiklerinde %20 değer kaybetmektedir” demişti). Büyük ürünler destekleyici sistemlere sahiptir. Kalitenin zaman içinde sürdürülmesini, sorunların erken tespit edilmesini ve verimli bir şekilde ele alınmasını sağlayan araçlar ve süreçler vardır. Büyük ürünler ayrıca sürekli bir geri bildirim döngüsüne sahiptir, bir geliştirme döngüsü ve bir yol haritası vardır. Dolayısıyla, büyük ürünler derin ve sürekli performans şeffaflığı gerektirir.

Şeffaflık eksikliği olduğunda, aşağıdaki sorunlarla karşılaşılır:

• Sorunlar bir süre gizli kalır ve sonra “yangın tatbikatları” yaparak yüzeye çıkar
• Uzun ve manuel soruşturmalar ve hafifletmeler
• İş kullanıcıları ve sponsorlar tarafından güvenilmeyen bir AI programı ve sonunda ölçeklenememe

Öngörüsel modellerin şeffaf ve güvenilir kılınmasının arkasındaki zorluklar nelerdir?

Şeffaflık, güveni elde etmede önemli bir faktördür. Şeffaflık birçok forma sahip olabilir. Tek bir tahmin şeffaflığı, kullanıcıya güven seviyesini görüntüleme veya tahmine bir açıklama/raisonu verme olabilir. Tek bir tahmin şeffaflığı, kullanıcıya tahmine rahatlık sağlamak için kullanılır. Ve sonra, genel şeffaflık vardır, bu da öngörülü doğruluk, beklenmeyen sonuçlar ve potansiyel sorunlar hakkında bilgi içerir. Genel şeffaflık, AI ekibine gereklidir.

Genel şeffaflığın en zor kısmı, sorunları erken tespit etmek ve ilgili takım üyesini uyararak düzeltici önlem alması için yeterli zaman tanımaktır.

Sorunları erken tespit etmenin neden zor olduğu:

• Sorunlar genellikle küçük başlar ve yüzeye çıkmadan önce bir süre devam eder.
• Sorunlar genellikle dış veya kontrol edilemeyen faktörler nedeniyle başlar, örneğin veri kaynakları.
• World’u “bölmek” için birçok yol vardır ve küçük ceplerde sorunlar için naif bir şekilde arama yapmak, çok fazla gürültü (uyarı yorgunluğu) ile sonuçlanabilir.

Şeffaflık sağlamanın bir başka zorlu yönü, AI kullanım örneklerinin hızlı bir şekilde artmasıdır. Bu, tek boyutlu bir yaklaşımın neredeyse imkansız olmasına neden olur. Her AI kullanım örneği, farklı veri yapıları, iş döngüleri, başarı metrikleri ve teknik yaklaşımlar içerebilir.

Bu, devasa bir görevdir, ancak şeffaflık AI programlarının başarısı için çok temel bir faktördür, bu nedenle bunu yapmak zorundasınız.

NLU / NLP Modelleri ve Chatbot’lar için bazı çözüm ayrıntılarını paylaşabilir misiniz?

Conversational AI, Mona’nın temel dikeylerinden biridir. Dil modelleri, chatbot’lar ve daha fazlası dahil olmak üzere geniş bir yelpazede conversational AI kullanım örneklerine sahip yenilikçi şirketleri desteklemekten gurur duyuyoruz.

Bu kullanım örneklerinin ortak bir özelliği, modellerin genellikle müşterilere yakın bir şekilde (ve bazen görünür bir şekilde) çalışmasıdır, bu nedenle tutarlı performans veya kötü davranış riskleri daha yüksektir. Conversational AI ekiplerinin sistem davranışını granüler bir düzeyde anlaması çok önemlidir ve bu, Mona’nın izleme çözümünün bir güç alanıdır.

Mona’nın çözümü, gruplar halinde sohbetleri sistematik olarak ele alarak ve modellerin (veya botların) yanlış davrandığı cepleri bulur. Bu, conversational AI ekiplerinin sorunları erken tespit etmelerini ve müşterilerin bunları fark etmeden önce önlem almalarını sağlar. Bu yetenek, conversational AI ekipleri için izleme çözümlerini seçerken kritik bir karar faktörüdür.

Bunu özetlemek gerekirse, Mona bir uçtan uca conversational AI izleme çözümü sağlar. Sistemlerin davranışını zaman içinde tek bir bilgi kaynağı olarak güvence altına alır, ana performans göstergelerinin sürekli takibini sağlar ve ekiplerin verimli bir şekilde düzeltici önlemler almasına olanak tanıyan proaktif içgörüler sunar.

Mona’nın içgörü motoru hakkında bazı ayrıntılar paylaşabilir misiniz?

Elbette. Başlangıçta motivasyondan başlayalım. İçgörü motorunun amacı, kullanıcıya sadece doğru miktarda bağlamsal bilgi ile birlikte anormallikleri sunmaktır ve aynı zamanda gürültü yaratmamak veya uyarı yorgunluğuna neden olmaktır.

İçgörü motoru, benzersiz bir analitik iş akışıdır. Bu iş akışında, motor tüm veri segmentlerinde anormallikleri arar ve sorunları masih küçükken ve tüm veri kümesi ve aşağı akış iş KPI’lerini etkilemeden önce erken tespit eder. Ardından, anormalliklerin kök nedenlerini tespit etmek için özel bir algoritma kullanır ve her anormallik sadece bir kez uyarılır, böylece gürültü önlenir. Desteklenen anormallik türleri arasında zaman serisi anormallikleri, sürüklenme, aykırı değerler, model bozulması ve daha fazlası bulunur.

İçgörü motoru, Mona’nın sezgisel no-code/low-code yapılandırması aracılığıyla yüksek derecede özelleştirilebilir. Motorun yapılandırılabilirliği, Mona’yı pazarın en esnek çözümü haline getirir ve geniş bir kullanım örneği yelpazesini kapsar (örneğin, toplu işleme ve akış, iş geri bildirimi/gerçek gerçeklik ile veya olmadan, model sürümleri arasında veya eğitim ve çıkarım arasında ve daha fazlası).

Son olarak, bu içgörü motoru, içgörülerin görüntülendiği bir görselleştirme panosu, kök neden analizi ve daha fazla bağlamsal bilgi keşfi için bir dizi araştırma aracı ile desteklenmektedir. İçgörü motoru ayrıca, kullanıcıların kendi çalışma ortamlarına (e-posta, iş birliği platformları vb.) içgörüler beslemesine olanak tanıyan bir bildirim motoru ile tam entegre edilmiştir.

31 Ocak’ta Mona, yeni AI adalet çözümünü duyurdu, bu özellikten bazı ayrıntılar paylaşabilir misiniz?

AI adaleti, algoritmaların ve AI sürümlü sistemlerin genel olarak önyargılı ve adil kararlar vermesini sağlamaktır. AI sistemlerindeki önyargıları ele almak ve önlemek çok önemlidir, çünkü bunlar önemli gerçek dünya sonuçlarına neden olabilir. AI’nin yükselen önemi ile birlikte, insanların günlük yaşamlarındaki etkisi daha fazla görülecektir, örneğin sürüşümüzü otomatikleştirmek, hastalıkları daha doğru bir şekilde tespit etmek, dünyayı daha iyi anlamak ve hatta sanat yaratmak. Eğer adil ve önyargısız olduğuna güvenemiyorsak, bunu devam ettirmeye nasıl izin verebiliriz?

AI’deki önyargıların önemli bir nedeni, model eğitim verilerinin gerçek dünyayı tam olarak temsil etme yeteneklerinin sınırlı olmasıdır. Bu, tarihi ayrımcılıktan, belirli grupların temsil edilmemesinden veya hatta veri manipülasyonundan kaynaklanabilir. Örneğin, çoğunlukla açık tenli bireylerden oluşan bir veri kümesi üzerinde eğitilen bir yüz tanıma sistemi, daha koyu tenli bireyleri tanımada daha yüksek bir hata oranına sahip olacaktır. Benzer şekilde, dar bir kaynak yelpazesi metin verisi üzerinde eğitilen bir dil modeli, konulara ilişkin belirli dünya görüşlerine önyargılı olabilir (din, kültür vb.).

Mona’nın AI adalet çözümü, AI ve iş ekiplerine AI’nin önyargısız olduğuna dair güvence verir. Düzenlenen sektörlerde, Mona’nın çözümü, ekipleri uyum için hazırlayabilir.

Mona’nın adalet çözümü, Mona platformuna dayanır – AI veri ve modelleri ile gerçek dünya etkileri arasındaki köprü. Mona, AI modelinin hizmet ettiği üretimdeki iş sürecinin tüm kısımlarını inceler ve eğitim verisi, model davranışı ve gerçek dünya sonuçları arasında adil bir değerlendirme sağlamak için ilişkilendirir.

İkincisi, ilgili parametreleri kontrol etmek için esnek veri segmentasyonu sağlayan benzersiz bir analitik motoru vardır. Bu, doğru bağlamda doğru korelasyon değerlendirmelerine olanak tanır, Simpson’ın Paradoksunu önler ve herhangi bir performans ölçütü ve korunan özellik için gerçek bir “önyargı puanı” sağlar.

Genel olarak, Mona’nın temel bir bileşeni olduğunu söyleyebilirim. Sorumlu AI inşa etmek ve ölçeklendirmek isteyen ekipler için.

AI’nin geleceği için bir vizyonunuz var mı?

Bu büyük bir soru.

AI’nin çeşitli endüstri sektörleri ve insanların hayatlarının farklı yönleri boyunca kullanımının ve etkisinin devam edeceğini öngörmenin kolay olduğunu düşünüyorum. Ancak, AI’nin gelecekteki tüm kullanım örneklerini ve etkilerini kapsayan ve aynı zamanda ayrıntılı bir vizyon sunmaya çalışmak, kimse yeterli bilgiye sahip olmadığı için güvenilir bir şekilde yapılamaz.

Bununla birlikte, bildiğimiz bir şey var: AI daha fazla insanın eline geçecek ve daha fazla amaca hizmet edecek. Bu nedenle, yönetişim ve şeffaflık ihtiyacı önemli ölçüde artacak.

AI’nin nasıl çalıştığına dair gerçek bir görünüm, iki temel rol oynayacaktır. İlk olarak, insanların güvenini tesis etmeye ve direniş engellerini daha hızlı benimseme için kaldırmaya yardımcı olacaktır. İkincisi, AI’yi işletenlerin AI’nin kontrolden çıkmamasını sağlayacaktır.

Harika bir röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Mona Labs‘i ziyaret edebilir.