Maisa'nın Kurucu Ortağı ve Baş Bilimsel Sorumlusu Manuel Romero ile Röportaj Serisi

Manuel RomeroMaisa'nın Kurucu Ortağı ve Baş Bilimsel Sorumlusu olan Romero, güvenilir, kurumsal düzeyde yapay zeka sistemleri geliştirmeye odaklanmış bir yapay zeka araştırmacısı ve mühendisidir. Şeffaflık ve kontrol ile karmaşık iş süreçlerini yürütebilen hesap verebilir yapay zeka oluşturmak amacıyla 2024 yılında Maisa'yı kurdu. Maisa'dan önce Romero, Clibrain ve Narrativa gibi şirketlerde üst düzey yapay zeka mühendisliği ve makine öğrenimi pozisyonlarında görev aldı ve doğal dil işleme ve büyük ölçekli yapay zeka sistemleri konusunda uzmanlaştı. Kariyerinin başlarında tam yığın yazılım mühendisi ve DevOps uzmanı olarak çalıştıktan sonra, gelişmiş yapay zeka araştırma ve geliştirme alanına geçerek açık kaynak yapay zeka ekosistemine aktif olarak katkıda bulundu.

Maisa AI Maisa, izlenebilirlik, yönetişim ve güvenilirliği korurken karmaşık kurumsal iş akışlarını otomatikleştirmek üzere tasarlanmış otonom “dijital işçiler” olan yapay zeka ajanları geliştiriyor. Platform, kuruluşların doğal dil kullanarak yapay zeka ajanları oluşturmasına ve dağıtmasına olanak tanıyarak, kapsamlı kodlama gerektirmeden dahili sistemler ve veri kaynakları genelinde otomasyon sağlıyor. Doğrulanabilir akıl yürütme ve yapılandırılmış yürütmeye odaklanarak, Maisa, üretken yapay zeka sistemleriyle ilişkili yaygın sınırlamaların üstesinden gelmeyi ve işletmelerin otonom yapay zekayı güvenli bir şekilde büyük ölçekte dağıtmasına yardımcı olmayı amaçlıyor.

Genellikle yapay zeka sistemlerinin ardındaki daha derin "neden"i anlamaya odaklandınız. Teknik açıdan bakıldığında, 2024'te Maisa'yı kurmanıza ne sebep oldu ve kurumsal yapay zeka mimarisinde ele alınmadığını düşündüğünüz hangi eksiklik vardı?

Maisa'nın kuruluşunun ardındaki motivasyon, çoğu kurumsal yapay zeka altyapısının sistemler yerine modeller üzerine kurulu olduğu gerçeğinin farkına varılmasından kaynaklandı.

Üretken yapay zeka patlaması sırasında birçok şirket, büyük dil modellerini mevcut iş akışlarına entegre etmeye odaklandı. Bununla birlikte, bu sistemler genellikle kırılgan, şeffaf olmayan ve büyük ölçekte çalıştırılması zor sistemlerdi. Şunlardan yoksundular:

• Gerektiği yerde belirleyici uygulama.
• güçlü gözlemlenebilirlik, izlenebilirlik
• Yeniden üretilebilirlik

Gördüğümüz eksiklik, işletmeler için gerçek bir yapay zeka altyapısının olmamasıydı. Şirketler LLM API'leri etrafında uygulamalar geliştiriyorlardı, ancak bilgiye dayalı işler için bilgisayar mimarisine eşdeğer bir şeye sahip değillerdi.

Maisa, yapay zekanın gerçek kurumsal iş akışlarında güvenilir bir şekilde çalışmasını sağlayan bir sistem olan Bilgi İşleme Birimi (KPU) merkezli bir mimari tasarlayarak bu açığı kapatmak amacıyla oluşturulmuştur.

Maisa'yı kurmadan önce gelişmiş doğal dil işleme ve üretken sistemler alanlarında çalıştınız. Bu deneyimler platformun mimari seçimlerini nasıl şekillendirdi?

Doğal dil işleme (NLP) ve doğal dil üretimi (NLG) alanlarındaki, özellikle dil modellerinin ve daha sonra büyük dil modellerinin (yüzlercesinin) eğitim ve ön eğitimine ilişkin deneyimim, bunların üzerine gerçek sistemler kurmaya çalışırken çok net bir şey ortaya koydu. Transformer mimarisi son derece güçlüdür, ancak üretimde güvenilir bir şekilde kullanılabilmesi için ele alınması gereken en az üç temel sınırlaması vardır.

Birincisi halüsinasyonlardır. Bu modeller olasılıksal olarak metin üretir ve kulağa doğru gelen ancak doğrulanmış bilgilere dayanmayan çıktılar üretebilir.

İkincisi, bağlam sınırlamalarıdır. Daha geniş bağlam pencerelerinde bile, modeller sınırlı bir belirteç alanı içinde çalışır; bu da büyük veya karmaşık bilgi kümeleri üzerinde akıl yürütmeyi zorlaştırır.

Üçüncüsü ise güncel bilgidir. Önceden eğitilmiş modeller, eğitim anındaki bilginin anlık bir görüntüsünü temsil ederken, kurumsal ortamlar sürekli değişen bilgiler üzerinde akıl yürütebilen sistemler gerektirir.

Bu kısıtlamaları fark etmek, Maisa'nın mimari kararlarının çoğunu şekillendirdi. Sadece modele güvenmek yerine, yapay zekanın gerçek kurumsal iş akışlarında güvenilir bir şekilde çalışabilmesi için bilgiye yapılandırılmış erişim, doğrulama mekanizmaları ve kontrollü yürütme sağlayan bir sistem oluşturmaya odaklandık.

Birçok işletme üretken yapay zekâ ile denemeler yapıyor ancak pilot uygulamaların ötesine geçmekte zorlanıyor. Sistem tasarımı açısından bakıldığında, birçok kuruluşta ölçeklendirmenin başarısız olmasının temel nedeni nedir?

Birçok işletme, üretken yapay zekâ pilot projelerinin ötesine geçmekte zorlanıyor çünkü çoğu uygulama sağlam sistemler yerine deneyler olarak inşa ediliyor. Erken prototipler genellikle hızlı mühendislik, hafif orkestrasyon ve basit veri alma süreçlerine dayanıyor; bunlar değer gösterebiliyor ancak üretim ortamları için gereken güvenilirlik, gözlemlenebilirlik veya kontrolü sağlamıyor. Kuruluşlar bu sistemleri ölçeklendirmeye çalışırken, tutarsız çıktılar, izlenebilirlik eksikliği, kurumsal iş akışlarıyla entegrasyon zorluğu ve yapay zekânın nasıl davrandığı üzerinde sınırlı yönetim gibi sorunlarla karşılaşıyorlar. Sorunun özünde, büyük dil modellerinin olasılıksal üreticiler olması, kurumsal süreçlerin ise öngörülebilir ve denetlenebilir davranış gerektirmesi yatıyor. Akıl yürütme, doğrulama, yürütme ve izleme etrafında yapı ekleyen bir mimari olmadan, üretken yapay zekâ sistemlerinin izole kullanım durumlarının ötesine ölçeklendirilmesi zor olmaya devam ediyor.

Maisa'nın Dijital Çalışanları, tamamen olasılığa dayalı olmaktan ziyade denetlenebilir ve yapılandırılmış olacak şekilde tasarlanmıştır. Bu, yapay zekayı üretimde kullanmayı değerlendiren işletmeler için pratik anlamda ne anlama geliyor?

Maisa'nın Dijital Çalışanlarının tamamen olasılıksal olmaktan ziyade denetlenebilir ve yapılandırılmış olduğunu söylediğimizde, yapay zekanın eylemlerinin ve muhakemesinin izlenebildiği ve yönetilebildiği kontrollü bir sistem içinde çalıştığını kastediyoruz. Bir modelin serbestçe çıktı ve kararlar üretmesine izin vermek yerine, sistem yapay zekanın veri, araçlar ve iş akışlarıyla nasıl etkileşim kuracağını yapılandırır. Sürecin her adımı kaydedilebilir, incelenebilir ve doğrulanabilir ve eylemler doğrudan model çıktısından değil, tanımlanmış arayüzler aracılığıyla yürütülür. İşletmeler için bu, yapay zeka sistemlerinin daha büyük bir güvenle izlenebileceği, denetlenebileceği ve kritik süreçlere entegre edilebileceği anlamına gelir. Yapay zekayı kara kutu bir asistandan, davranışları anlaşılabilen, kontrol edilebilen ve üretim ortamlarında güvenilebilen bir sisteme dönüştürür.

Bilgi İşleme Birimi'nin mimarı olarak, bu birim büyük dil modelleri etrafında oluşturulmuş tipik bir orkestrasyon katmanından veya iş akışı motorundan nasıl farklılık gösterir?

Bilgi İşleme Birimi (KPU), yalnızca komutları ve model çağrılarını koordine etmek yerine, yapay zekâ destekli akıl yürütmenin tüm yaşam döngüsünü yönetmek üzere tasarlandığı için tipik orkestrasyon katmanlarından farklıdır. Çoğu orkestrasyon çerçevesi, alma, komut verme ve araç yürütme gibi adımları birbirine bağlayan iş akışı yöneticileri olarak işlev görür. KPU, bilgiye nasıl erişildiğini, akıl yürütmenin nasıl gerçekleştirildiğini ve sistem içindeki eylemlerin nasıl yürütüldüğünü yapılandırarak daha derin bir mimari düzeyde çalışır. Bilgi işlemeyi temel bir hesaplama katmanı olarak ele alır ve bellek, doğrulama ve kontrollü yürütmeyi entegre ederek yapay zekânın yalnızca yanıt üretmek yerine karmaşık kurumsal iş akışları içinde güvenilir bir şekilde çalışmasını sağlar.

Düzenlemeye tabi sektörlerde risk toleransı düşüktür. Yapay zeka çıktılarının güvenilir kalmasını ve karmaşık iş akışlarında hataların yayılmasını önlemek için hangi özel tasarım kararlarını aldınız?

Düzenlemeye tabi sektörlerde güvenilirlik ve kontrol çok önemlidir; bu nedenle, yapay zeka çıktılarının güvenilir kalmasını sağlamak için sistemi çeşitli güvenlik önlemleriyle tasarladık. Temel prensiplerden biri, yapay zekanın kontrollü arayüzlerden geçmeden kritik eylemleri doğrudan tetikleyemediği yapılandırılmış yürütmedir. Ayrıca, model çıktılarının kabul edilmeden önce şemalar, kurallar veya ikincil mekanizmalarla karşılaştırılmasını sağlayan doğrulama katmanları da ekledik. Buna ek olarak, sistem tam gözlemlenebilirlik sağlar; akıl yürütme adımlarını, araç etkileşimlerini ve kararları kaydederek izlenebilir ve denetlenebilir hale getirir. Bu tasarım seçimleri, hataların iş akışlarına yayılmasını önlemeye yardımcı olur ve kuruluşların yapay zeka sistemlerini düzenlemeye tabi ortamlarda gerekli güvenilirlik ve yönetişim seviyesinde çalıştırmasına olanak tanır.

Dijital çalışanların rehberli yardımdan tamamen operasyonel yapay zeka destekli uygulamaya geçişini gözlemlediğiniz en etkileyici erken kullanım örnekleri nelerdir?

En ilgi çekici erken kullanım örneklerinden bazıları, süreçlerin iyi tanımlanmış ancak yine de önemli analiz ve karar verme gerektiren bilgi yoğun iş akışlarında ortaya çıkmaktadır. Uyumluluk incelemesi, teknik destek operasyonları ve iç bilgi yönetimi gibi alanlarda, Dijital Çalışanlar insanlara sadece yardımcı olmanın ötesine geçerek yapılandırılmış görevleri baştan sona yürütmeye başlayabilirler. Büyük miktarda iç bilgiyi alıp analiz edebilir, tanımlanmış prosedürleri uygulayabilir, kontrollü araçlar aracılığıyla kurumsal sistemlerle etkileşim kurabilir ve doğrudan operasyonel iş akışlarına beslenen çıktılar üretebilirler. Asıl değişim, yapay zekanın sadece öneriler üretmekle kalmayıp, yönetilen bir sistem içinde tanımlanmış eylemleri güvenilir bir şekilde gerçekleştirebilmesiyle gerçekleşir; bu da kuruluşların karmaşık bilgi işlerinin sadece desteklenmesi yerine, bazı kısımlarını otomatikleştirmesine olanak tanır.

Yapay zekâya yönelik düzenleyici denetimler küresel olarak yoğunlaşırken, yenilikçiliği sınırlamadan uyumluluk gereksinimlerini karşılamak için temel yapay zekâ altyapısının nasıl gelişeceğini düşünüyorsunuz?

Yapay zekâya yönelik düzenleyici denetim arttıkça, model sağlayıcı API'lerini çağıran ve çıktılara körü körüne güvenen mimarilerden uzaklaşacağımıza inanıyorum. İşletmeler ve düzenleyiciler, yapay zekâ davranışının gözlemlenebilir, denetlenebilir ve yönetilebilir olduğu sistemler talep edeceklerdir. İşte bu noktada Bilgi İşleme Birimi gibi mimariler önem kazanıyor. Bu tür bir mimari, kuruluşların kontrolleri uygulamasına, kararları izlemesine ve yapay zekâ çıktılarının gerçek süreçleri etkilemeden önce güvenilir olmasını sağlamasına olanak tanır. Zamanla, bu tür sistemlerin güvenilir yapay zekâ altyapısının standart temeli haline geleceğini düşünüyorum.

Teknik çalışmalarınızın yanı sıra etik ve hesap verebilirlik konularından da bahsettiniz. Bu bakış açıları, şeffaf yapay zeka sistemleri oluşturma yaklaşımınızı nasıl etkiliyor?

Benim için etik ve hesap verebilirlik, doğrudan sistem tasarım seçimlerine yansıyor. Yapay zeka sistemleri gerçek operasyonel iş akışlarına katılacaksa, davranışları incelenemeyen veya anlaşılamayan şeffaf olmayan kara kutular gibi işlev göremezler. Bu bakış açısı, yapay zeka sistemleri oluşturma yaklaşımımı büyük ölçüde etkiledi. Şeffaflık, izlenebilirlik ve insan gözetimi, mimariye en başından itibaren entegre edilmelidir. Bu, akıl yürütme adımlarının gözlemlenebilmesini, kararların denetlenebilmesini ve eylemlerin kontrollü mekanizmalar aracılığıyla yürütülmesini sağlamak anlamına gelir. Bu ilkeler altyapı düzeyinde yerleştirildiğinde, yapay zeka sistemleri yalnızca daha güvenilir olmakla kalmaz, aynı zamanda kuruluşların sorumlu bir şekilde yönetmesi de kolaylaşır.

İleriye dönük olarak, ajan tabanlı yapay zeka altyapısının, önceki on yılda bulut altyapısı kadar temel bir unsur haline geleceğine inanıyor musunuz ve bu değişimin gerçekleşmesi için teknik olarak neler olması gerekiyor?

Bence ajan tabanlı yapay zeka altyapısı, son on yılda bulut altyapısı kadar temel bir unsur haline gelme potansiyeline sahip. Kuruluşlar giderek karmaşıklaşan bilgi tabanlı işleri otomatikleştirmeye çalışırken, birçok görev ve veri kaynağı arasında akıl yürütmeyi, belleği ve yürütmeyi güvenilir bir şekilde koordine edebilen sistemlere ihtiyaç duyacaklar. Ancak bu değişimin gerçekleşmesi için, temel mimarinin basit model entegrasyonlarının ötesine geçmesi gerekiyor. Yapılandırılmış akıl yürütme, kurumsal bilgiye güvenilir erişim, güçlü gözlemlenebilirlik ve kontrollü eylem yürütme sağlayan bir altyapıya ihtiyacımız var. Bu yetenekler temel sisteme entegre edildiğinde, ajan tabanlı yapay zeka deneysel araçlardan, kuruluşların kritik operasyonları yürütmek için güvendiği güvenilir bir altyapıya dönüşebilir.

Harika röportaj için teşekkürler, daha fazla bilgi edinmek isteyen okuyucular ziyaret etmelidir. Maisa AI.