Manuel Romero, Maisa’nın Kurucu Ortağı ve Baş Bilim Sorumlusu – Röportaj Serisi

Manuel Romero, Maisa’nın Kurucu Ortağı ve Baş Bilim Sorumlusu, güvenilir, kurumsal düzeyde yapay zeka sistemleri geliştirmeye odaklanan bir yapay zeka araştırmacısı ve mühendisidir. 2024 yılında Maisa’yı, şeffaflık ve kontrol ile karmaşık iş süreçlerini gerçekleştirebilen hesap verebilir yapay zeka oluşturmak için kurdu. Maisa’dan önce Romero, Clibrain ve Narrativa gibi şirketlerde üst düzey yapay zeka mühendisliği ve makine öğrenimi rollerinde çalıştı ve doğal dil işleme ve büyük ölçekli yapay zeka sistemleri konusunda uzmanlaştı. Kariyerinin早期lerinde, tam yığın yazılım mühendisi ve DevOps uzmanı olarak çalıştı, ardından gelişmiş yapay zeka araştırmalarına ve geliştirmelerine geçti ve açık kaynaklı yapay zeka ekosisteminde aktif bir katkıda bulundu.

Maisa AI, karmaşık entreprise iş akışlarını şeffaflık, yönetim ve güvenilirlik ile otomatikleştirebilen bağımsız “dijital işçiler” geliştirir. Platform, organizasyonların doğal dil kullanarak yapay zeka ajanları oluşturup dağıtmalarına olanak tanır, böylece iç sistemler ve veri kaynakları üzerinde geniş kodlama olmadan otomasyon sağlar. Maisa, verifiable reasoning ve yapılandırılmış yürütme odaklı olarak, oluşturucu yapay zeka sistemlerinin ortak sınırlamalarını aşmayı ve kuruluşların güvenli bir şekilde büyük ölçekte bağımsız yapay zeka kullanmalarına yardımcı olmayı hedefler.

Sık sık yapay zeka sistemlerinin arkasındaki daha derin “neden”i anlamaya odaklandınız. Teknik açıdan, 2024 yılında Maisa’yı kurmanıza ne sebep oldu ve entreprise yapay zeka mimarisinde hangi boşluğu gidermek istediğinize inandınız?

Maisa’yı kurma motivasyonu, meisten entreprise yapay zeka yığınlarının modellere değil, sistemlere odaklandığı gerçeğinin anlaşılmasından geldi.

Yapay zeka boomu sırasında, birçok şirket büyük dil modellerini mevcut iş akışlarına entegre etmeye odaklandı. Ancak bu sistemler genellikle kırılgan, şeffaf olmayan ve büyük ölçekte çalışması zordu. Şunlardan yoksundu:

• önemli olduğunda deterministik yürütme.
• güçlü gözlemlenebilirlik, izlenebilirlik
• tekrarlanabilirlik

Gördüğümüz boşluk, entreprise için真正 yapay zeka altyapısının eksikliğiydi. Şirketler, LLM API’leri etrafında uygulamalar geliştiriyordu, ancak bunlara eşdeğer bir bilgisayar mimarisi için bir şeyler eksikti.

Maisa, bu boşluğu Bilgi İşleme Birimi (KPU) adlı bir mimari tasarlayarak gidermek için kuruldu, bu sistem entreprise iş akışlarında güvenilir bir şekilde çalışabilen yapay zeka sağlar.

İleri düzeyde doğal dil işleme ve oluşturucu sistemler üzerinde çalışmanız, Maisa platformunun mimari seçimlerini nasıl etkiledi?

Doğal dil işleme ve oluşturma experienceım, özellikle dil modellerinin eğitimi ve büyük dil modellerinin (yüzlercesi) eğitimi sırasında, gerçek sistemler üzerine inşa etmeye çalışırken, transformer mimarisinin çok güçlü olmasına rağmen, üretim için güvenilir bir şekilde kullanılabilmesi için üç temel sınırlamayı ele alması gerektiğini gösterdi.

İlki, hallucinations. Bu modeller, metin oluştururken probabilistik bir şekilde çalışır ve doğrulanmamış bilgilere dayanmayan, doğru gibi görünen ancak gerçekte doğru olmayan çıktılar üretebilir.

İkincisi, context sınırlamaları. Hatta daha büyük context pencereleri ile, modeller sınırlı bir token alanında çalışır, bu da büyük veya karmaşık bilgi gövdeleri üzerinde akıl yürütme yapmasını zorlaştırır.

Üçüncüsü, güncel bilgi. Önceden eğitilen modeller, eğitim zamanında bir bilgi anını temsil eder, oysa entreprise ortamları, değişen bilgilere akıl yürütme yapabilen sistemler gerektirir.

Bu sınırlamaları tanımak, Maisa’nın birçok mimari kararını şekillendirdi. Modelin kendisine güvenmek yerine, yapılandırılmış bilgi erişimi, doğrulama mekanizmaları ve kontrol edilen yürütme sağlayan bir sistem inşa etmeye odaklandık, böylece yapay zeka, gerçek entreprise iş akışlarında güvenilir bir şekilde çalışabilir.

Çok sayıda entreprise, oluşturucu yapay zeka ile deneysel çalışmalara başlar, ancak pilotları üretim aşamasına taşımakta zorluk çeker. Sistem tasarımı açısından, bu ölçeklendirme neden başarısız oluyor?

Çok sayıda entreprise, oluşturucu yapay zeka pilotlarını üretim aşamasına taşımakta zorluk çeker, çünkü çoğu dağıtım, deneyler olarak değil, sağlam sistemler olarak inşa edilmez. İlk prototipler genellikle prompt mühendisliği, hafif orkestrasyon ve basit alma boru hatları üzerine kuruludur, bu da değer gösterebilir, ancak üretim ortamlarında gereken güvenilirlik, gözlemlenebilirlik veya kontrolü sağlamaz. Kuruluşlar bu sistemleri ölçeklendirirken, tutarlı olmayan çıktılar, izlenebilirliğin eksikliği, entreprise iş akışlarına entegrasyon zorluğu ve yapay zeka davranışına ilişkin sınırlı yönetim gibi sorunlarla karşılaşır. Temel problem, büyük dil modellerinin probabilistik üreticiler olduğu, oysa entreprise süreçleri öngörülebilir ve denetlenebilir davranış gerektirir. Akıl yürütme, doğrulama, yürütme ve izleme etrafında yapı eklenmeyen bir mimari olmadan, oluşturucu yapay zeka sistemleri, izole kullanım durumlarının ötesinde ölçeklenmesini zorlaştırır.

Maisa’nın Dijital İşçileri, saf probabilistik değil, denetlenebilir ve yapılandırılmış olarak tasarlandı. Bu, üretim kullanımı için yapay zeka değerlendiren entreprises için pratik anlamda ne anlama geliyor?

Dijital İşçilerin denetlenebilir ve yapılandırılmış olduğunu söylediğimizde, yapay zeka’nın eylemleri ve akıl yürütmesinin izlenebilir, yönetilebilir ve denetlenebilir bir sistem içinde çalıştığı anlamına gelir. Modelin serbestçe çıktılar ve kararlar üretmesine izin vermek yerine, sistem yapay zeka’nın veri, araçlar ve iş akışları ile etkileşimini yapılandırır. Sürecin her adımı günlüğe kaydedilebilir, incelenebilir ve doğrulanabilir, ve eylemler model çıktısından doğrudan değil, tanımlı arayüzler aracılığıyla gerçekleştirilir. Kuruluşlar için bu, yapay zeka sistemlerinin daha büyük güvenle izlenebilir, denetlenebilir ve kritik süreçlere entegre edilebileceği anlamına gelir. Yapay zeka, siyah kutu bir asistan olmaktan çıkıp, davranışını anlamak, kontrol etmek ve üretim ortamlarında güvenmek mümkün olan bir sistem haline gelir.

Bilgi İşleme Birimi’nin mimarı olarak, bu birimi tipik bir orkestrasyon katmanından veya büyük dil modelleri etrafında inşa edilen bir iş akışı motorundan nasıl farklılaştırıyorsunuz?

Bilgi İşleme Birimi, yapay zeka tarafından yönlendirilen akıl yürütme yaşam döngüsünü yönetmek için tasarlandığından, yalnızca model çağrıları ve.promptları koordine eden tipik orkestrasyon katmanlarından farklıdır. Çoğu orkestrasyon çerçevesi, adımları zincirleme bir şekilde birleştiren iş akışı yöneticileri olarak çalışır. Bilgi İşleme Birimi, daha derin bir mimari düzeyde çalışır, bilgi erişimi, akıl yürütme ve eylemlerin nasıl yürütüldüğü konusunda yapılandırır. Bilgi işlemini temel bir hesaplama katmanı olarak ele alır, bellek, doğrulama ve kontrol edilen yürütme entegre eder, böylece yapay zeka, sadece yanıtlar üretmek yerine, karmaşık entreprise iş akışlarında güvenilir bir şekilde çalışabilir.

Düzenlenen endüstrilerde, risk toleransı düşük. AI çıktılarının güvenilir kalması ve karmaşık iş akışları boyunca hataları yaymaması için hangi özel tasarım kararları aldınız?

Düzenlenen endüstrilerde, güvenilirlik ve kontrol çok önemlidir, bu nedenle sistemleri AI çıktılarının güvenilir kalmasını ve hataların yayılmasını önleyen güvencelerle tasarladık. Birincisi, yapılandırılmış yürütme ilkesi, AI’nın kritik eylemleri doğrudan tetiklememesi, ancak kontrol edilen arayüzlerden geçmesi gerekir. Ayrıca, model çıktılarını şemalara, kurallara veya ikincil mekanizmalara karşı doğrulama katmanları ekledik. Sistem ayrıca, akıl yürütme adımları, araç etkileşimleri ve kararları kaydederek tam gözlemlenebilirlik sağlar, böylece bunlar izlenebilir ve denetlenebilir. Bu tasarım seçimleri, hataların iş akışları boyunca yayılmasını önler ve organizasyonların AI sistemlerini, düzenlenmiş ortamlarda gereken güvenilirlik ve yönetim seviyesinde çalıştırmasına olanak tanır.

En güçlü erken kullanım durumlarını nerede gördünüz, burada Dijital İşçiler, rehberlikten tamamen AI tarafından yönlendirilen çalışmaya geçti?

En güçlü erken kullanım durumları, işlemler iyi tanımlanmış ancak önemli analiz ve karar verme gerektiren bilgi yoğun iş akışlarında görülür. Uyum denetimi, teknik destek operasyonları ve iç bilgi yönetimi gibi alanlarda, Dijital İşçiler insanlara yalnızca rehberlik etmekten öteye geçebilir ve yapılandırılmış görevleri uçtan uca gerçekleştirebilir. Büyük miktarlarda iç bilgiyi alabilir, tanımlı prosedürleri uygulayabilir, entreprise sistemleri ile kontrol edilen araçlar aracılığıyla etkileşime girebilir ve çıktıları doğrudan operasyonel iş akışlarına besleyebilir. Anahtar değişim, AI’nın yalnızca öneriler üretmekle kalmayıp, yönetilen bir sistem içinde tanımlı eylemleri güvenilir bir şekilde gerçekleştirebildiğinde gerçekleşir, bu da organizasyonların karmaşık bilgi işlerini yalnızca güçlendirmek yerine, kısmen otomatikleştirmesine olanak tanır.

Yapay zeka etrafındaki düzenleyici denetim arttıkça, core AI altyapısının uyum gereksinimlerini karşılamak için nasıl evrileceğini düşünüyorsunuz, ancak bu sırada inovasyonu sınırlamadan?

Yapay zeka etrafındaki düzenleyici denetim arttıkça, model sağlayıcı API’lerine güvenen ve çıktıya güvenen mimarilerin terk edileceğini düşünüyorum. Kuruluşlar ve düzenleyiciler, AI davranışının gözlemlenebilir, denetlenebilir ve yönetilebilir olduğu sistemleri talep edeceklerdir. İşte Bilgi İşleme Birimi gibi mimarilerin önemi burada ortaya çıkıyor. Bu tür sistemler, organizasyonların kontrolleri zorlayabilmesini, kararları izleyebilmesini ve AI çıktılarının güvenilir olduğunu garantileyebilmesini sağlar. Zaman içinde, bu tür sistemlerin güvenilir AI altyapısı için temel haline geleceğini bekliyorum.

Etiğin ve hesap verebilirliğin yanı sıra teknik çalışmalarınızdan bahsettiniz. Bu perspektifler, şeffaf AI sistemleri inşa etme yaklaşımınızı nasıl etkiliyor?

Etiğin ve hesap verebilirliğin, sistem tasarımına doğrudan tercüme edildiğini düşünüyorum. AI sistemleri gerçek operasyonel iş akışlarına katılmaya başlayacaksa, şeffaf olmayan siyah kutular olarak çalışamazlar. Bu perspektif, şeffaflık, izlenebilirlik ve insan denetiminin sistemlerin mimarisine baştan dahil edilmesini gerektirir. AI sistemleri, akıl yürütme adımlarının gözlemlenebilir, kararların denetlenebilir ve eylemlerin kontrol edilen mekanizmalar aracılığıyla gerçekleştirildiği şekilde inşa edilmelidir. Bu ilkeler altyapı düzeyinde gömüldüğünde, AI sistemleri sadece daha güvenilir hale gelmez, aynı zamanda organizasyonlar tarafından sorumlu bir şekilde yönetilmesi de kolaylaşır.

İleriye bakıldığında, ajentik AI altyapısının, bulut altyapısı gibi önceki on yılda temel haline geldiği gibi temel bir unsur haline geleceğine inaniyor musunuz ve bu değişimin gerçekleşmesi için ne olması gerekiyor?

Evet, ajentik AI altyapısının, bulut altyapısı gibi önceki on yılda temel bir unsur haline geldiği gibi temel bir unsur haline gelebileceğine inanıyorum. Kuruluşlar, giderek daha karmaşık bilgi işlerini otomatikleştirmeye çalıştıkça, akıl yürütme, bellek ve yürütme arasında koordinasyonu sağlayan sistemlere ihtiyaç duyacaklardır. Ancak bu değişimin gerçekleşmesi için, temel mimari daha fazla olgunlaşmalıdır. Yapılandırılmış akıl yürütme, güvenilir entreprise bilgisine erişim, güçlü gözlemlenebilirlik ve kontrol edilen yürütme sağlayan altyapıya ihtiyacımız vardır. Bu yetenekler temel sisteme entegre edildiğinde, ajentik AI, deneysel araçlardan güvenilir altyapıya dönüşebilir ve organizasyonlar kritik operasyonları çalıştırmak için güvenebilecekleri bir sistem haline gelebilir.

Harika röportaj için teşekkür ederiz, daha fazla bilgi öğrenmek isteyen okuyucular Maisa AI sitesini ziyaret edebilir.