Empromptu AI'nin Kurucusu ve CEO'su Shanea Leven ile Röportaj Serisi

Shanea LevenEmpromptu AI'nin Kurucusu ve CEO'su, büyük teknoloji şirketlerinde geliştirici platformları ve yapay zeka destekli ürünler oluşturma konusunda kapsamlı deneyime sahip, tecrübeli bir ürün lideridir. 2025 yılında Empromptu'yu kurmadan önce, ekiplerin karmaşık kod tabanlarını görselleştirmesine ve anlamasına yardımcı olan bir yapay zeka geliştirici platformu olan CodeSee'yi kurdu ve bu platform 2024 yılında GitKraken tarafından satın alındı. Kariyerinin başlarında, Docker, Cloudflare, eBay ve Google gibi şirketlerde üst düzey ürün liderliği rollerinde bulundu ve Google Asistan ödeme API'lerinden yüz binlerce öğrenci tarafından kullanılan geliştirici eğitim programlarına kadar çeşitli projelerde çalıştı.

Doğaçlama Yapay Zeka Kurumsal bir platform olan bu ürün, kuruluşların entegre yapay zeka uygulamalarını daha kolay bir şekilde oluşturmasına ve dağıtmasına yardımcı olmak için tasarlanmıştır. Platform, uygulama geliştirme, veri entegrasyonu, yönetişim, değerlendirmeler, bellek ve model düzenlemesini tek bir ortamda birleştirerek şirketlerin hızlı yapay zeka denemelerinden, kurumsal kullanım için gerekli kontroller ve güvenilirlikle üretim kalitesinde sistemlere geçmelerini sağlar.

CodeSee'yi kurmadan önce Google, eBay, Cloudflare ve Docker gibi şirketlerde 15 yıldan fazla bir süre geliştirici platformları oluşturdunuz; CodeSee daha sonra GitKraken tarafından satın alındı ​​ve şimdi Empromptu AI'yı yönetiyorsunuz. Bu deneyimler, birçok yapay zeka aracının demo aşamasından sonra neden başarısız olduğu konusundaki bakış açınızı nasıl şekillendirdi ve Empromptu'yu kurarken çözmeye kararlı olduğunuz belirli sorun neydi?

Geliştirici platformları oluştururken öğrendiğiniz şeylerden biri de en zor problemlerin asla demo sürümünde ortaya çıkmadığıdır. Demo sürümü her zaman çalışır. Asıl test, binlerce geliştirici sistemi kullandığında, veriler karışık olduğunda, entegrasyonlar bozulduğunda ve gerçek işletmeler ona bağımlı hale geldiğinde neler olduğudur.

Google, Cloudflare, Docker ve eBay'de yıllarca küresel ölçekte faaliyet göstermesi gereken platformlar üzerinde çalıştım. Bu ortamlar size çok çabuk bir şey öğretiyor: güvenilirlik, yönetişim ve gözlemlenebilirlik sonradan eklenen özellikler değil, mimarinin kendisidir.

Yapay zeka uygulamaları geliştirmeye başladığımda modeller berbattı ve iyileşmeye başladıkça sektörün, yazılımın önceki dalgalarında gördüğümüz aynı hatayı tekrarladığını fark ettim. Geliştirme araçlarında unutulmuş gibi görünen bir kavram var: "Merhaba dünya"ya ne kadar hızlı ulaşabilirsiniz? Bugün, "Merhaba dünya"nın üretken versiyonu, tamamen çalışan bir SaaS prototipidir. Ancak artık sadece SaaS uygulamaları kodlamıyoruz; tüm yapay zeka uygulamalarını kodluyoruz. Yapay zeka üreten bir yapay zeka, bu yapay zekayı üretime geçirmek için başka sistemlere ihtiyaç duyar.

Hızlı bir şekilde çalışan bir yapay zeka uygulaması veya özelliği oluşturabilirsiniz, bu heyecan verici ve gerçekten faydalı. Ancak baskın sistemler hala üretim ortamları için gerekli altyapıdan yoksun. Yapılandırılmış veri işlem hatları, değerlendirme çerçeveleri, yönetim kontrolleri, izleme ve uzun vadeli bağlam yönetimi gibi unsurlar eksikti, ancak biz bunları eklerken vibe kodlamanın tüm harika özelliklerini de koruduk.

Kurucu ortağımla birlikte Empromptu'yu kurduğumuzda çözmek istediğimiz sorun basitti: Yapay zeka uygulamalarını en başından itibaren üretime hazır hale nasıl getirebiliriz?

Yönetişim, veri hazırlığı, değerlendirme ve optimizasyonu ayrı araçlar veya sonradan yapılan süreçler olarak ele almak yerine, bunları doğrudan platforma entegre ettik. Buradaki fikir, ekiplerin yapay zeka uygulamalarını hızlı bir şekilde, ancak kurumsal yazılım sistemlerinden bekledikleri aynı güvenilirlik, kalite ve kontrolle geliştirebilmeleridir.

Etkileyici yapay zeka demoları ile üretime hazır sistemler arasındaki uçurum konusunda açık sözlü oldunuz. Sizin bakış açınızdan, ekiplerin bir yapay zeka prototipini gerçek müşteriler tarafından kullanılan güvenilir bir ürüne dönüştürmeye çalışırken yaptığı en yaygın mimari hatalar nelerdir?

Ekiplerin en sık yaptığı hata, modelin ürün olduğunu varsaymaktır.

İlk prototiplerde, model görünür işin büyük kısmını yapar. Ona komut verirsiniz, bir cevap üretir ve cevap iyi görünüyorsa sistem çalışıyor gibi görünür. Bu da modeli geliştirmenin asıl zorluk olduğu yanılsamasını yaratır.

Ancak üretim sistemlerinde model, çok daha büyük bir mimarinin yalnızca bir bileşenidir.

İlk hata, veriyi sonradan akla gelen bir şey olarak ele almaktır. Prototip aşamasında, ekipler genellikle küçük ve temiz veri kümeleriyle test yaparlar. Sistem gerçek operasyonel verilere bağlandığında, işler hızla değişir. Veriler eksik, tutarsız, yinelenmiş veya beklenmedik formatlarda gelir. Girişleri normalleştirmek ve doğrulamak için yapılandırılmış bir veri hattı olmadan, model ne kadar iyi olursa olsun sistem güvenilmez hale gelir.

İkinci hata ise değerlendirme çerçevelerinin eksikliğidir. Birçok ekip, "iyi"nin ne anlama geldiğini tanımlamadan yapay zeka özelliklerini piyasaya sürüyor. Geliştirme sırasında çıktıları manuel olarak kontrol edebilirler, ancak sistem canlıya geçtikten sonra doğruluğu, sapmayı ve uç durumları sürekli olarak ölçen otomatik değerlendirme süreçleri oluşturmazlar. Bu koruyucu önlemler olmadan, arızalar genellikle mühendisler yerine müşteriler tarafından keşfedilir.

Üçüncü bir sorun ise yönetim ve kontrol mekanizmalarının eksikliğidir. Yapay zeka sistemleri olasılıksaldır, yani biraz farklı koşullar altında farklı davranabilirler. Düzenlenmiş veya yüksek riskli ortamlarda, bu öngörülemezliğin, kararların nasıl alındığını kaydeden deterministik politikalar, onay iş akışları ve denetim kayıtları ile sınırlandırılması gerekir.

Burada asıl önemli olan nokta şu: Üretim amaçlı yapay zeka sistemleri sadece modeller değil, operasyonel sistemlerdir.

Günümüzde yapay zekâ alanında başarılı olan şirketler, veri işlem hatlarını, değerlendirmeyi, yönetimi ve izlemeyi isteğe bağlı eklentiler olarak değil, temel altyapı olarak ele alan şirketlerdir.

Birçok yapay zeka kodlama platformu, herkesin basit komutlarla bir uygulama geliştirebileceğini vaat ediyor. Peki bu araçlar genellikle gösterimlerde iyi çalışırken, şirketler bunları gerçek üretim ortamlarında kullanmaya çalıştıklarında neden zorlanıyorlar?

Bu platformların çoğu, gerçek bir sistemin yaşam döngüsü için değil, yaratım anı için optimize edildikleri için gösterimler için iyi sonuç verir.

Ancak yapay zekayı bir açılış sayfası oluşturmak için kullanmak ile yapay zekayı bir yapay zeka uygulaması geliştirmek için kullanmak arasında temel bir fark vardır.

Bir açılış sayfası çoğunlukla statik bir yazılımdır. Doğru şekilde görüntülendiğinde, işin büyük kısmı tamamlanmış olur. Sistemin olasılığa dayalı kararlar almasına, sürekli değişen verileri işlemesine veya öngörülemeyen kullanıcı davranışlarına uyum sağlamasına gerek kalmaz.

Yapay zekâ uygulamaları tamamen farklıdır. Bunlar, veri işlem hatlarına, model davranışına, değerlendirme çerçevelerine ve sürekli izlemeye dayanan dinamik sistemlerdir. Uygulamanın bağlamı yönetmesi, çıktıların sapma gösterdiği anları tespit etmesi, uç durumları ele alması ve modelin daha önce karşılaşmadığı durumlarla karşılaştığında güvenli bir şekilde çalışması gerekir.

Çoğu komut satırı tabanlı kodlama aracı, bir şeyi hızlıca çalışır hale getirmek için tasarlandıkları için bu katmanları ele almaz. Görünür bir sonuç üreten kod üretirler ki bu da demo ortamı için mükemmeldir. Ancak üretim sistemleri çok daha geniş bir yetenek kümesi gerektirir: yapılandırılmış veri işleme, yönetim kontrolleri, değerlendirme süreçleri, gözlemlenebilirlik ve zaman içinde davranışı güvenli bir şekilde güncelleme mekanizmaları.

Dolayısıyla şirketler bu sistemleri gerçek ortamlarda uygulamaya koymaya çalıştıklarında, aradaki fark açıkça ortaya çıkıyor. Prototip, ortam kontrollü olduğu için başarılı oldu. Üretim ise karmaşık bir süreç.

Empromptu, şirketleri her şeyi sıfırdan yeniden inşa etmeye zorlamak yerine, mevcut yazılımları yapay zekaya uygun sistemlere dönüştürmeye odaklanıyor. Peki bu dönüşüm, altyapı ve ürün düzeyinde aslında neleri içeriyor?

Ürün düzeyinde, her uygulama tamamen bağımsız ve konteynerleştirilmiş durumdadır. Ön uçlardan, arka uçlara, veritabanlarına, modellere, değerlendirmelere, LLMS operasyon kurallarına kadar ihtiyacınız olan her şeyi oluşturuyoruz ve her şey işletmenin ihtiyaçlarına bağlı olarak son derece esnek.

Yapay zeka uygulamaları için çeşitli seçeneklerimiz var:

“Başsız” yani, eğer bir müşterinin zaten bir ön uç uygulaması varsa, onu sistemimize bağlayıp verileri geri gönderebiliriz.

Tamamen konteynerleştirilmiş oldukları için, bizim altyapımızda veya müşterinin altyapısında dağıtılabilirler; yani varsayılan olarak şirket içi (on-prem) ortamda çalışırlar.

Ya da en uygun seçenek olarak bunları oluşturup doğrudan buluta dağıtabiliriz.

Sahip oldukları herhangi bir kodu doğrudan sistemimize aktarabilir ve zaten yapay zeka tarafından çalıştırılmıyorsa yapay zeka tarafından çalıştırılabilir hale getirebiliriz. Örneğin, Lovable, Replit, Bolt veya Base44 gibi popüler platformlarda uygulamalarını geliştirmeye çalışan birçok müşterimizde bunu görüyoruz. Çoğu zaman çalışmıyorlar. Ancak müşteriler bu uygulamaya zaten çok zaman, enerji ve kredi harcamış oluyorlar, bu yüzden biz onu alıyoruz, yeniden yazıyoruz ve tüm yapay zekayı çalışır hale getiriyoruz.

Bunu yapabiliyoruz çünkü elimizde bir dizi özel, tescilli teknoloji var, örneğin:

• Bağlamı yönetmek için uyarlanabilir bağlam motoru
• Uzun süreli çalışan kod uygulamalarını işlemek için sınırsız bellek.
• İhtiyaç duyulan her türlü veri temizleme ve sentetik etiketleme işlemini gerçekleştirebilmemizi sağlamak için özel veri modelleri ve altın veri işlem hatları kullanıyoruz.

Platformunuz, yapay zeka sistemlerinin temel bileşenleri olarak bağlam, değerlendirme, yönetişim ve yapılandırılmış veriye vurgu yapıyor. Ekipler ürünlerine yapay zeka özellikleri eklemek için acele ederken bu unsurlar neden bu kadar sık ​​göz ardı ediliyor?

Çünkü bunları yapmak zor! Kurucu ortağım Dr. Sean Robinson, araştırma laboratuvarımızı yönetiyor ve benim çılgın fikirlerimden, müşterilerimizin ihtiyaçlarından ve pazarın gidişatından ilham alan bir dizi teknoloji icat etmiş bir hesaplamalı astrofizikçi. Birçok ajan tabanlı uygulama geliştirme, uzaya uydu gönderme ve dünyanın en büyük teknoloji şirketlerinde çalışma deneyimimiz, karmaşık sorunları diğer insanlardan daha iyi çözmemize yardımcı olan içgörüler sağlıyor.

Daha önce hiç kod yazmamış birçok kurucuyla çalışıyorsunuz. Teknik bilgisi olmayan kurucuların yapay zeka uygulamaları geliştirmeye ilk başladıklarında en büyük yanılgıları nelerdir?

Bence iki büyük yanlış anlama var:

Birincisi, yapay zekanın sihir olduğu düşüncesi. Yapay zeka sihir değil. Sadece iyi bir mühendislik ürünü. Ve sonuçta, gerçek bir mühendis olmadan bu platformlarda yapabileceklerinizin bir sınırına ulaşıyorsunuz.

İkincisi, mükemmel teknik ürün yönetimi becerilerine sahipler. Ben de teknik ürün yönetimi geçmişine sahibim ve bazen çok büyük bir vizyonu, tam olarak ne istediğinizi ifade etmek için doğru teknik özelliklerle küçük, teslim edilebilir parçalara dönüştürme becerisine sahibim. Bu aslında zaman alan çok zor bir beceri.

Örneğin, bir PDF dosyasını yükleyip daha sonra görüntüleyebilmeniz için kaydeden bir uygulama geliştirdiğinizi varsayalım. Bu, kalıcılık (persistence) adı verilen bir kavramdır. Bu PDF dosyası koda dönüştürülür ve bir veritabanına kaydedilir.

Ama eğer bunun kalıcılık olarak adlandırıldığını bilmiyorsanız, nasıl yazabileceksiniz? Bu verilerin kalıcı olduğundan emin olun. Teknik kelime seçimi, farklı bir dil konuşmak gibidir. Doğal dilde yazmakla teknik dilde yazmak arasında fark vardır.

Birçok girişim şirketi, yapay zekâ ürünleri geliştirmenin çözümünün daha fazla mühendis işe almak olduğunu varsayıyor. Sizce bu yaklaşım neden sıklıkla başarısız oluyor ve girişimciler yapay zekâ destekli ürünler geliştirirken bunun yerine neyi düşünmeliler?

Bazen daha fazla mühendis işe almak doğru cevaptır. Çok teknik bir ürün geliştiriyorsanız veya model araştırmalarının ön saflarında çalışıyorsanız, güçlü mühendislik ekiplerine kesinlikle ihtiyacınız var. Zor sorunları çözme konusunda iyi mühendislerin yerini hiçbir şey tutamaz.

Ancak birçok girişim şirketinin yaptığı hata, daha fazla mühendisin yapay zeka ürünü geliştirme sorununu otomatik olarak çözeceğini varsaymaktır.

Gerçekte, yapay zeka ürünlerindeki en zor problemler genellikle tamamen mühendislik problemleri değildir. Bunlar, diğer tüm mühendislik problemleri gibi sistem problemleridir. Mühendisler özellikle sistem mantığıyla düşünmeye eğitilirler. Ancak üretken geliştirme, deterministik geliştirmeden farklıdır. Birçoğumuz nesne yönelimli programlamadan fonksiyonel programlamaya geçerken bu değişimi yaşadık. İkisi de programlama mı? Evet, kesinlikle, ama farklılar mı? Farklı bir düşünme biçimi mi? Evet, elbette.

Yapay zekâ uygulamaları, veri, ürün tasarımı, operasyonel iş akışları ve model davranışı kesişiminde yer alır. İnanılmaz bir mühendis ekibi kurabilirsiniz, ancak veri hatları güvenilir değilse, değerlendirme kriterleri belirsizse veya sistemde yönetim ve izleme eksikliği varsa, ürün gerçek kullanıcılara ulaştığında yine de zorluk yaşayacaktır.

Bir diğer sorun ise, birçok ekibin yapay zeka sisteminin üretimde nasıl davranacağını tanımlamadan doğrudan geliştirmeye başlamasıdır. Sistem nasıl değerlendirilecek, uç durumlar nasıl ele alınacak, kararlar nasıl kaydedilecek ve modeller zaman içinde nasıl güncellenecek gibi sorular genellikle çok daha sonra ortaya çıkar. O zamana kadar mimariyi değiştirmek zaten zorlaşır.

Kurucuların asıl düşünmesi gereken şey, yapay zeka sistemlerinin operasyonel modelidir.

Veri hattının sahibi kim?

Model performansı, yalnızca geliştirme aşamasında değil, sürekli olarak nasıl ölçülüyor?

Sistem daha önce karşılaşmadığı bir durumla karşılaştığında ne olur?

Alt iş akışlarını bozmadan davranışları güvenli bir şekilde nasıl güncellersiniz?

Bazen bu sorunları çözmek daha fazla mühendis işe almak anlamına gelir. Ancak aynı zamanda doğru altyapıyı seçmek, güçlü ürün kısıtlamaları tanımlamak ve küçük ekiplerin büyük ölçekte güvenilir bir şekilde çalışmasına olanak tanıyan sistemler kurmak anlamına da gelebilir.

Günümüzde yapay zekâ alanında başarılı olan şirketler, en büyük mühendislik ekiplerine sahip olanlar değil. Onlar, yapay zekâyı veri disiplini, değerlendirme, yönetişim ve sürekli iyileştirmeyi baştan itibaren bünyesine entegre etmesi gereken uzun vadeli bir sistem olarak ele alan şirketlerdir.

Yapay zeka geliştirme araçlarındaki mevcut iş modellerinin bazılarının kalıcı ürünler oluşturmakla örtüşmediğini savundunuz. Mevcut yapay zeka araçları ekosisteminde şirketleri yanlış yöne sürükleyen hangi teşviklerin olduğunu düşünüyorsunuz?

Şu anda yaşanan en büyük teşvik uyumsuzluklarından biri, birçok yapay zeka geliştirme aracının ürün dayanıklılığından ziyade büyüme ölçütlerine göre optimize edilmiş olmasıdır.

Bu alandaki birçok şirket, kullanıcıların etkileyici bir şey yaratma hızının yüksek olmasıyla ödüllendiriliyor. Bir araç birkaç dakika içinde çalışan bir uygulama, özellik veya demo oluşturabiliyorsa, bu kayıtları, sosyal medya paylaşımlarını ve yatırımcıların heyecanını artırıyor. Ürün benimsenmesi açısından bakıldığında, bu mantıklı.

Ancak bu teşvikler genellikle yaratım anında sona erer.

Yapay zekâ yazılımlarında asıl zorlu iş bundan sonra başlar. Güven işte o zaman inşa edilir. Kaliteye güvenebildiğinizde, kullanıcı kötü çıktıdan kaynaklanan yapay zekâ hayal kırıklığı yaşamadan tekrar tekrar geri dönmek istediğinde, insan cehaleti veya kötü niyeti karşısında bile iyi yanıtlar verebildiğinde bu gerçekleşir.

Bir diğer sorun ise birçok aracın sistem tasarımı yerine kod üretimi için optimize edilmiş olmasıdır. Hızlı kod üretmek faydalı olsa da, bir yapay zeka ürünü geliştirmek kod üretmekten daha fazlasını gerektirir. Sistemin bağlamı nasıl yönettiğini, kararların nasıl değerlendirildiğini, hataların nasıl ele alındığını ve davranışın zaman içinde nasıl güvenli bir şekilde geliştiğini tanımlamayı gerektirir.

Teşviklerini yalnızca yapay zeka sistemlerini hızlı bir şekilde oluşturmakla kalmayıp, müşterilerinin bu sistemleri güvenilir bir şekilde çalıştırmalarına yardımcı olmaya odaklayan şirketler, bu ekosistemde kalıcı değer yaratacak olanlardır.

Müşterileriniz arasında, genellikle geleneksel mühendislik ekipleri olmadan, özel sağlık araçları veya sürdürülebilirlik odaklı işletmeler gibi çok özel ürünler geliştiren girişimciler de bulunuyor. Bu fikirleri başarılı bir şekilde çalışan yapay zeka ürünlerine dönüştüren kurucular arasında ne gibi kalıplar gözlemlediniz? 

Gördüğümüz en ilginç kalıplardan biri, başarılı olan kurucuların mutlaka en teknik kişiler olmamasıdır. Onlar, çözmeye çalıştıkları problemi son derece iyi anlayan kişilerdir.

Empromptu kullanan girişimcilerin çoğu alanında uzman kişilerdir. Sağlık, finans, sürdürülebilirlik veya başka bir uzmanlaşmış sektörden geliyor olabilirler. Getirdikleri şey, o ortamda var olan iş akışları, düzenlemeler ve kararlar hakkında derin bir bilgi birikimidir. Bu bağlam, bir yapay zeka ürünü tasarlarken inanılmaz derecede değerlidir çünkü sistemin aslında ne yapması gerektiğini tanımlar.

Başarılı olan kurucular, yapay zekaya bir teknoloji deneyi gibi değil, daha çok bir ürün sistemi gibi yaklaşma eğilimindedirler. Çok somut sorular sorarak işe başlarlar. Yapay zeka, kullanıcıların hangi kararları vermelerine yardımcı olmalıdır? Hangi veri kaynaklarına erişmesi gerekir? Bu alanda doğru cevap aslında neye benziyor? Sistemin sorumlu davranması için hangi güvenlik önlemlerinin olması gerekiyor?

Bir diğer özellik ise yapıyı dikkatlice düşünmeleridir. Başarılı ekipler, yapay zeka çıktılarının ancak onları besleyen bağlam ve veriler kadar iyi olduğunu hızla fark ederler. Veri işlem hatlarını tanımlamak, bilgi kaynaklarını organize etmek ve "iyi"nin neye benzediğine dair net değerlendirme kriterleri oluşturmak için önceden zaman ayırırlar.

Ayrıca, başarılı girişimcilerin her şeyi hemen otomatikleştirmeye çalışmak yerine insan-yapay zeka iş birliğini benimsediklerini de görüyoruz. Yapay zekanın tekrarlayan analizleri veya veri sentezini üstlendiği, insanların ise yargılama ve nihai kararlardan sorumlu kaldığı iş akışları tasarlıyorlar. Bu denge, özellikle sağlık veya finans gibi alanlarda sistemleri çok daha güvenilir hale getiriyor.

Birçok açıdan en büyük değişim zihniyet değişikliğidir. Başarılı olan kurucular yapay zekayı ekledikleri bir özellik olarak değil, ürünlerinin çalışma şekline yeni bir işletim katmanı olarak görüyorlar.

Yapay zekâ sistemleri temel iş operasyonlarına daha fazla entegre oldukça, yeni nesil yapay zekâ uygulama platformlarını hangi yetenekler tanımlayacak? 

Bunun çılgınca olduğunu ve belki de kutsal değerlere aykırı bir şey söylediğimi biliyorum ama insanlar kendi özel modellerini titreşim kodlama yöntemiyle oluşturabilecekler. Araştırma laboratuvarımızın uzman nano modeller olarak adlandırdığı bu yöntem, maliyetleri kontrol etmeye yardımcı olacak.

Harika röportaj için teşekkürler, daha fazla bilgi edinmek isteyen okuyucular ziyaret etmelidir. Doğaçlama Yapay Zeka.