Mona Labs CEO'su ve Kurucu Ortağı Yotam Ören - Röportaj Dizisi

Yotam Ören, CEO'su ve Kurucu Ortağıdır. Mona Laboratuvarları, işletmelerin ML modellerinin gerçek iş süreçlerinde ve uygulamalarında nasıl davrandığını gerçekten anlayarak yapay zeka girişimlerini laboratuvar deneylerinden ölçeklenebilir iş operasyonlarına dönüştürmesine olanak tanıyan bir platform.

Mona, potansiyel yapay zeka önyargısını tespit etmek için makine öğrenimi modellerinizin korunan veri segmentlerindeki ve iş fonksiyonları bağlamındaki davranışını otomatik olarak analiz eder. Mona, endüstri standartlarını ve düzenlemelerini karşılayan eksiksiz adalet raporları oluşturma olanağı sunar ve yapay zeka uygulamasının uyumlu ve önyargısız olduğuna dair güven sunar.

Başlangıçta sizi bilgisayar bilimine çeken neydi?

Bilgisayar bilimi, ailemde popüler bir kariyer yolu, bu nedenle uygulanabilir bir seçenek olarak her zaman aklımın bir köşesindeydi. Tabii ki, İsrail kültürü çok teknoloji yanlısı. Yenilikçi teknoloji uzmanlarını kutluyoruz ve her zaman CS'nin bana büyüme ve başarı için bir pist sunacağı algısına sahiptim.

Buna rağmen üniversite çağına geldiğimde kişisel bir tutku haline geldi. Kodlamaya ortaokulda başlayan çocuklardan değildim. Gençliğimde bilgisayarlarla ilgilenemeyecek kadar basketbol oynamakla meşguldüm. Liseden sonra 5 yıla yakın bir süreyi orduda operasyonel/savaş liderliği rollerinde geçirdim. Yani, bir bakıma, gerçekten bilgisayar bilimi hakkında daha çok şey öğrenmeye ancak üniversitede akademik bir bölüm seçmem gerektiğinde başladım. Hemen dikkatimi çeken şey, bilgisayar biliminin problem çözmeyi ve bir dil (veya dilleri) öğrenmeyi birleştirmesiydi. Özellikle ilgilendiğim iki şey vardı. O andan itibaren bağımlıydım.

2006'dan 2008'e kadar küçük bir girişim için haritalama ve navigasyon üzerinde çalıştınız, bu dönemden çıkardığınız önemli çıkarımlardan bazıları nelerdi?

Telmap'teki görevim, harita ve konum verilerinin üzerinde bir arama motoru oluşturmaktı.

Bunlar, kuruluştaki "büyük verinin" ilk günleriydi. Buna böyle demiyorduk ama muazzam veri kümeleri alıyor ve son kullanıcılarımıza sergilemek için en etkili ve ilgili içgörüleri çizmeye çalışıyorduk.

Sahip olduğum çarpıcı farkındalıklardan biri, şirketlerin (biz dahil) verilerini çok az kullanmasıydı (kamuya açık harici verilerden bahsetmiyorum bile). Yeni içgörüler, daha iyi süreçler ve deneyimler için çok fazla potansiyel vardı.

Diğer çıkarım, verilerimizden daha fazlasını alabilmenin elbette daha iyi mimarilere, daha iyi altyapıya vb. sahip olmaya bağlı olduğuydu.

Mona Labs'ın yaratılış öyküsünü bizimle paylaşabilir misiniz?

Kurucu ortaklar olan üçümüz, kariyerlerimiz boyunca veri ürünleri çevresinde bulunduk.

Baş teknoloji sorumlusu Nemo benim üniversite arkadaşım ve sınıf arkadaşım ve Google Tel Aviv'in ilk çalışanlarından biri. Orada, arama motoru verilerine dayalı birçok gelişmiş analitik ve makine öğrenimi içeren Google Trends adlı bir ürün başlattı. Diğer kurucu ortak ve baş ürün sorumlusu Itai, Nemo'nun Google'daki ekibindeydi (ve o ve ben Nemo aracılığıyla tanıştık). İkisi, yapay zeka güdümlü sistemlerin ilk geliştirme ve testten sonra izlenmemesi nedeniyle her zaman hüsrana uğramıştı. Bu sistemleri üretimden önce düzgün bir şekilde test etmenin zorluğuna rağmen ekipler, tahmine dayalı modellerinin zaman içinde ne kadar başarılı olduğunu hala bilmiyorlardı. Ek olarak, yapay zeka sistemleri hakkında herhangi bir geri bildirim duydukları tek zaman, işlerin kötü gittiği ve geliştirme ekibinin yıkıcı sorunları çözmek için bir "yangın tatbikatı" için çağrıldığı zamandı.

Aynı sıralarda McKinsey & Co'da danışman olarak çalışıyordum ve yapay zeka ve Büyük Veri programlarının büyük kuruluşlarda ölçeklenmesinin önündeki en büyük engellerden biri iş paydaşlarının bu programlara olan güven eksikliğiydi.

Buradaki ortak nokta, sohbetlerde Nemo, Itai ve benim için netleşti. Sektörün, üretimdeki AI/ML sistemlerini izlemek için altyapıya ihtiyacı vardı. İş paydaşlarının güvenini artırmak ve yapay zeka ekiplerinin her zaman sistemlerinin nasıl çalıştığını kontrol etmelerini ve daha verimli yineleme yapmalarını sağlamak için bu görünürlüğü sağlama vizyonunu bulduk.

İşte o zaman Mona kuruldu.

AI Şeffaflığının olmamasıyla ilgili mevcut sorunlardan bazıları nelerdir?

Pek çok sektörde kuruluşlar, yapay zeka programlarına şimdiden on milyonlarca dolar harcadılar ve laboratuvarda ve küçük ölçekli dağıtımlarda başlangıçta bazı başarılar elde ettiler. Ancak ölçeği büyütmek, geniş çapta benimseme sağlamak ve işletmenin gerçekten yapay zekaya güvenmesini sağlamak neredeyse herkes için büyük bir zorluk oldu.

Bu neden oluyor? Bu, harika araştırmaların otomatik olarak harika ürünlere dönüşmediği gerçeğiyle başlar (Bir müşteri bir keresinde bize "ML modelleri araba gibidir, laboratuvardan çıktıkları anda değerlerinin %20'sini kaybederler" demişti). Harika ürünlerin destekleyici sistemleri vardır. Kalitenin zaman içinde sürdürülmesini ve sorunların erken fark edilip etkin bir şekilde ele alınmasını sağlayan araçlar ve süreçler vardır. Harika ürünler ayrıca sürekli bir geri bildirim döngüsüne, bir iyileştirme döngüsüne ve bir yol haritasına sahiptir. Sonuç olarak, harika ürünler derin ve sürekli performans şeffaflığı gerektirir.

Şeffaflık eksikliği olduğunda, sonunda:

• Bir süre gizli kalan ve sonra yüzeye çıkarak “yangın tatbikatlarına” neden olan sorunlar
• Uzun ve manuel incelemeler ve azaltmalar
• İşletme kullanıcıları ve sponsorlar tarafından güvenilmeyen ve sonuçta ölçeklenemeyen bir AI programı

Tahmine dayalı modelleri şeffaf ve güvenilir hale getirmenin ardındaki zorluklardan bazıları nelerdir?

Şeffaflık elbette güvenin kazanılmasında önemli bir faktördür. Şeffaflık birçok biçimde olabilir. Kullanıcının güven düzeyini göstermeyi veya tahmin için bir açıklama/mantık sağlamayı içerebilen tek bir tahmin şeffaflığı vardır. Tek tahmin şeffaflığı, çoğunlukla kullanıcının tahminde rahat olmasına yardımcı olmayı amaçlar. Ve sonra, tahmini doğruluk, beklenmeyen sonuçlar ve olası sorunlar hakkında bilgileri içerebilen genel şeffaflık vardır. AI ekibi genel şeffaflığa ihtiyaç duyar.

Genel şeffaflığın en zorlu kısmı, sorunları erken tespit etmek ve felaketler meydana gelmeden önce düzeltici önlem alabilmeleri için ilgili ekip üyesini uyarmaktır.

Sorunları erken tespit etmek neden zordur:

• Sorunlar, sonunda yüzeye çıkmadan önce genellikle küçük başlar ve kaynamaya başlar.
• Sorunlar genellikle veri kaynakları gibi kontrol edilemeyen veya harici faktörler nedeniyle başlar.
• "Dünyayı bölmenin" birçok yolu vardır ve sorunları küçük ceplerde kapsamlı bir şekilde aramak, en azından bu saf bir yaklaşımla yapıldığında, çok fazla gürültüye (tetik yorgunluğu) neden olabilir.

Şeffaflık sağlamanın bir diğer zorlu yönü, AI kullanım durumlarının tamamen çoğalmasıdır. Bu, herkese uyan tek boyutlu bir yaklaşımı neredeyse imkansız hale getiriyor. Her yapay zeka kullanım durumu, farklı veri yapıları, farklı iş döngüleri, farklı başarı ölçümleri ve genellikle farklı teknik yaklaşımlar ve hatta yığınlar içerebilir.

Yani, bu çok büyük bir görev ama şeffaflık yapay zeka programlarının başarısı için o kadar temel ki, o yüzden bunu yapmak zorundasınız.

NLU / NLP Modelleri & Chatbot'lar için çözümler hakkında biraz detay paylaşabilir misiniz?

Konuşmaya Dayalı Yapay Zeka, Mona'nın temel dikey alanlarından biridir. Dil modelleri, sohbet robotları ve daha fazlası dahil olmak üzere çok çeşitli konuşma tabanlı yapay zeka kullanım durumları ile yenilikçi şirketleri desteklemekten gurur duyuyoruz.

Bu kullanım durumlarında ortak bir faktör, modellerin müşterilere yakın (ve bazen görünür şekilde) çalışmasıdır, bu nedenle tutarsız performans veya kötü davranış riskleri daha yüksektir. Mona'nın izleme çözümünün güçlü yönlerinden biri olan, diyalog halindeki yapay zeka ekiplerinin sistem davranışını ayrıntılı düzeyde anlaması çok önemli hale geliyor.

Mona'nın oldukça benzersiz olan çözümünün yaptığı şey, konuşma gruplarını sistematik olarak elemek ve modellerin (veya robotların) yaramazlık yaptığı cepleri bulmaktır. Bu, etkileşimli yapay zeka ekiplerinin sorunları erken ve müşteriler fark etmeden önce belirlemesine olanak tanır. Bu yetenek, izleme çözümlerini seçerken etkileşimli yapay zeka ekipleri için kritik bir karar verme faktörüdür.

Özetlemek gerekirse Mona, konuşma tabanlı yapay zeka izleme için uçtan uca bir çözüm sunar. Sistemlerin zaman içindeki davranışları için tek bir bilgi kaynağının bulunmasını sağlamakla başlar ve ekiplerin önleyici, verimli düzeltici önlemler almasını sağlayarak, temel performans göstergelerinin sürekli izlenmesi ve uygunsuz davranış cepleri hakkında proaktif içgörülerle devam eder.

Mona'nın içgörü motoru hakkında biraz ayrıntı verebilir misiniz?

Elbette. Motivasyonla başlayalım. İçgörü motorunun amacı, tam olarak doğru miktarda bağlamsal bilgiyle ve gürültü oluşturmadan veya uyarı yorgunluğuna yol açmadan kullanıcılara anormallikleri ortaya çıkarmaktır.

İçgörü motoru, türünün tek örneği bir analitik iş akışıdır. Bu iş akışında motor, verilerin tüm segmentlerindeki anormallikleri arar ve sorunların henüz "küçük" olduklarında ve tüm veri kümesini ve aşağı akış iş KPI'larını etkilemeden önce erken tespit edilmesini sağlar. Daha sonra anormalliklerin temel nedenlerini tespit etmek için tescilli bir algoritma kullanır ve gürültünün önlenmesi için her anormalliğin yalnızca bir kez uyarılmasını sağlar. Desteklenen anormallik türleri şunları içerir: Zaman serisi anormallikleri, sapmalar, aykırı değerler, model bozulması ve daha fazlası.

İçgörü motoru, Mona'nın sezgisel kodsuz/az kodlu yapılandırması aracılığıyla büyük ölçüde özelleştirilebilir. Motorun yapılandırılabilirliği, Mona'yı pazardaki en esnek çözüm haline getirir ve çok çeşitli kullanım durumlarını kapsar (ör. toplu iş ve akış, iş geri bildirimi olan/olmayan / temel doğruluk, model sürümleri arasında veya tren ve çıkarım arasında ve daha fazlası) ).

Son olarak, bu içgörü motoru, içgörülerin görüntülenebileceği bir görselleştirme panosu ve temel neden analizine ve bağlamsal bilgilerin daha fazla keşfedilmesine olanak tanıyan bir dizi araştırma aracıyla desteklenir. İçgörü motoru aynı zamanda, e-posta, işbirliği platformları vb. dahil olmak üzere kullanıcıların kendi çalışma ortamlarına içgörülerin beslenmesini sağlayan bir bildirim motoruyla tamamen entegredir.

31 Ocak'ta, Mona açıkladı yeni AI adalet çözümü, bu özelliğin ne olduğu ve neden önemli olduğuyla ilgili ayrıntıları bizimle paylaşabilir misiniz?

Yapay zeka adaleti, genel olarak algoritmaların ve yapay zeka güdümlü sistemlerin tarafsız ve adil kararlar vermesini sağlamakla ilgilidir. Yapay zeka sistemlerindeki önyargıların ele alınması ve önlenmesi, gerçek dünyada önemli sonuçlara yol açabilecekleri için çok önemlidir. AI'nın artan önemiyle birlikte, insanların günlük yaşamları üzerindeki etkisi, sürüşümüzü otomatikleştirme, hastalıkları daha doğru tespit etme, dünyayı anlayışımızı geliştirme ve hatta sanat yaratma dahil olmak üzere giderek daha fazla yerde görünür olacaktır. Adil ve tarafsız olduğuna güvenemezsek, yayılmasına nasıl izin veririz?

AI'daki önyargıların ana nedenlerinden biri, model eğitim verilerinin gerçek dünyayı tam olarak temsil etme yeteneğidir. Bu, tarihsel ayrımcılıktan, belirli grupların yetersiz temsilinden ve hatta verilerin kasıtlı olarak manipüle edilmesinden kaynaklanabilir. Örneğin, ağırlıklı olarak açık tenli kişiler üzerinde eğitilmiş bir yüz tanıma sisteminin, daha koyu ten rengine sahip kişileri tanımada daha yüksek bir hata oranına sahip olması muhtemeldir. Benzer şekilde, dar bir kaynak kümesinden alınan metin verileriyle eğitilmiş bir dil modeli, veriler din, kültür vb. konularda belirli dünya görüşlerine doğru eğilirse önyargılar geliştirebilir.

Mona'nın yapay zeka adalet çözümü, yapay zeka ve iş ekiplerine yapay zekalarının ön yargılardan arınmış olduğuna dair güven verir. Düzenlemeye tabi sektörlerde, Mona'nın çözümü ekipleri uyumluluğa hazır olmaya hazırlayabilir.

Mona'nın adalet çözümü özeldir çünkü yapay zeka verileri ve modelleri ile bunların gerçek dünyadaki sonuçları arasında bir köprü olan Mona platformuna oturur. Mona, en kapsamlı adalet değerlendirmesini sağlamak için eğitim verileri, model davranışı ve gerçek gerçek dünya sonuçları arasında ilişki kurmak için yapay zeka modelinin üretimde hizmet ettiği iş sürecinin tüm bölümlerine bakar.

İkincisi, ilgili parametreleri kontrol etmek için verilerin esnek bir şekilde bölümlenmesine izin veren türünün tek örneği bir analitik motora sahiptir. Bu, doğru bağlamda doğru korelasyon değerlendirmelerini mümkün kılarak Simpson Paradoksu'ndan kaçınır ve herhangi bir performans ölçümü ve korunan herhangi bir özellik için derin bir gerçek "yanlılık puanı" sağlar.

Bu nedenle, genel olarak Mona'nın sorumlu yapay zeka oluşturması ve ölçeklendirmesi gereken ekipler için temel bir unsur olduğunu söyleyebilirim.

AI'nın geleceği için vizyonunuz nedir?

Bu büyük bir soru.

Yapay zekanın kullanımının artmaya devam edeceğini ve çeşitli endüstri sektörlerinde ve insanların hayatlarının farklı yönlerinde etkide bulunacağını tahmin etmenin kolay olduğunu düşünüyorum. Bununla birlikte, ayrıntılı ve aynı zamanda AI'nın gelecekteki tüm kullanım durumlarını ve sonuçlarını kapsamaya çalışan bir vizyonu ciddiye almak zordur. Çünkü kimse bu resmi inandırıcı bir şekilde resmedecek kadar bilgi sahibi değil.

Bununla birlikte, kesin olarak bildiğimiz şey, yapay zekanın daha fazla insanın elinde olacağı ve daha fazla amaca hizmet edeceğidir. Yönetişim ve şeffaflık ihtiyacı bu nedenle önemli ölçüde artacaktır.

Yapay zekaya ve nasıl çalıştığına ilişkin gerçek görünürlük, iki ana rol oynayacaktır. İlk olarak, insanlara güven aşılamaya ve daha hızlı benimseme için direnç engellerini kaldırmaya yardımcı olacaktır. İkincisi, AI'yı çalıştıran kişinin kontrolden çıkmamasını sağlamasına yardımcı olacaktır.

Harika röportaj için teşekkürler, daha fazla bilgi edinmek isteyen okuyucular ziyaret etmelidir. Mona Laboratuvarları.