Daniel Ciolek, InvGate’de Araştırma ve Geliştirme Başkanı – Röportaj Serisi

Daniel, 15 yılı aşkın endüstri deneyimine sahip bir IT profesyoneli ve bilgisayar bilimi alanında doktora sahiptir. İlgi alanları, Yapay Zeka, Yazılım Mühendisliği ve Yüksek Performanslı Bilgisayarlar gibi birçok alanda yoğunlaşmaktadır.

Daniel, InvGate’de Araştırma ve Geliştirme Başkanı olarak R&D girişimlerini yönetmektedir. Ürün ve İş Geliştirme ekipleriyle birlikte şirketin R&D stratejisini tasarlamak, uygulamak ve izlemek için çalışmaktadır. Araştırma yapmadığında, öğretmektedir.

InvGate, organizasyonlara departmanlar arası sorunsuz hizmet sunmak için araçlar sağlayan bir şirkettir.

Bilgisayar bilimine ilk olarak ne zaman ve nasıl ilgi duymaya başladınız?

Bilgisayar bilimine olan ilgim, çocukluğumun erken dönemlerine kadar uzanmaktadır. Elektronik cihazlara her zaman ilgi duymuşumdur ve nasıl çalıştıklarını anlamaya çalışırdım. Büyüdükçe, bu merakım kodlama ile sonuçlandı. İlk programlarımı yazdığım zamanı hala hatırlıyorum. O anda, bilgisayar biliminde bir kariyer yapmak istediğime karar verdim.

Şu anda R&D girişimlerini yönetiyor ve yeni nesil generatif AI uygulamaları uyguluyorsunuz. Çalışmalarınızdan bazılarını anlatır mısınız?

Elbette. R&D bölümümüzde, verimli bir şekilde temsil edilebilecek ve çözülebilecek karmaşık sorunlarla ilgileniyoruz. Çalışmamız, yalnızca generatif AI uygulamalarıyla sınırlı değildir, ancak bu alanda yapılan recent gelişmeler, yararlanabileceğimiz birçok fırsat yaratmıştır.

InvGate’de temel hedeflerimizden biri, yazılımlarımızın kullanılabilirliğini optimize etmektir. Bunu, nasıl kullanıldığını izleyerek, engelleri belirleyerek ve bunları ortadan kaldırmaya çalışarak gerçekleştirmekteyiz. Sıkça karşılaştığımız bir engel, doğal dilin anlaşılması ve kullanılmasına ilişkin bir sorundur. Bu sorunu, Büyük Dil Modelleri (LLM) olmadan çözmek zordu.

Ancak, maliyet-effective LLM’lerin ortaya çıkmasıyla, bu kullanım örneklerini basitleştirebildik. Şimdi, yazma önerileri sunma, otomatik olarak bilgi tabanı makaleleri oluşturma ve geniş metinleri özetleme gibi birçok dil tabanlı özelliğe sahibiz.

InvGate’de “tarafsız AI” olarak adlandırılan bir strateji uyguluyorsunuz. Bu nedir ve neden önemlidir?

Tarafsız AI, esasında esneklik ve uyum sağlamaktır. Temel olarak, tek bir AI modeline veya sağlayıcıya bağlı kalmamayı hedefleriz. Bunun yerine, her AI sağlayıcısının sunduğu en iyi olanaklardan yararlanmaya çalışırız ve aynı zamanda bir sistemde kilitlenmenin riskini de gözetiriz.

Şöyle düşünebilirsiniz: GPT, Gemini veya Llama-2 gibi AI modellerini kullanmalı mıyız? Bulut tabanlı bir dağıtım, yönetilen bir örnek veya self-hosting dağıtımı mı tercih etmeliyiz? Bu kararlar kolay değildir ve zaman içinde değişebilir, çünkü yeni modeller yayınlanmakta ve yeni sağlayıcılar piyasaya girmektedir.

Tarafsız AI yaklaşımı, sistemimizin her zaman uyum sağlamaya hazır olmasını sağlar. Uygulamamız üç temel bileşenden oluşur: bir arayüz, bir yönlendirici ve AI modelleri kendileri. Arayüz, AI sisteminin uygulama ayrıntılarını soyutlar, böylece diğer yazılım bileşenlerinin ona kolayca etkileşime girmesini sağlar. Yönlendirici, her isteği AI modellerinin kapasitelerine ve diğer faktörlere göre yönlendirir. Son olarak, modeller gerçek AI görevlerini gerçekleştirir, bu da özel veri ön işleme ve sonuç biçimlendirme süreçlerini gerektirebilir.

AI modellerini ve sağlayıcılarını seçerken, karar verme sürecinizi yönlendiren metodolojik yönleri açıklar mısınız?

Her yeni özellik geliştirdiğimizde, bir değerlendirme standardı oluştururuz. Bu standart, farklı AI modellerinin görevi verimli bir şekilde çözebilme yeteneğini değerlendirmek için tasarlanmıştır. Ancak yalnızca performans değil, aynı zamanda her modelin hızı ve maliyeti de dikkate alınır. Bu, her modelin değerini kapsamlı bir şekilde değerlendirmemize olanak tanır, böylece en maliyet-effective seçeneği seçebiliriz.

Ancak sürecimiz burada bitmez. AI alanındaki hızlı gelişmeler nedeniyle, yeni modeller sürekli olarak yayınlanmakta ve mevcut olanlar düzenli olarak güncellenmektedir. Bu nedenle, bir yeni veya güncellenmiş model ortaya çıktığında, değerlendirme standardımızı yeniden çalıştırırız. Bu, yeni veya güncellenmiş modelin performansını mevcut seçimimizle karşılaştırmamıza olanak tanır. Yeni bir model mevcut olanı aşarsa, yönlendirici modülümüzü bu değişikliği yansıtmak için güncelleriz.

Farklı AI modelleri ve sağlayıcıları arasında sorunsuz bir şekilde geçiş yapmakla ilgili bazı zorluklar nelerdir?

Farklı AI modelleri ve sağlayıcıları arasında sorunsuz bir şekilde geçiş yapmak, benzersiz bir dizi zorluğu da beraberinde getirir.

Öncelikle, her AI sağlayıcısı, girdilerin belirli bir şekilde biçimlendirilmesini gerektirir ve AI modelleri aynı isteklere farklı şekilde tepki verebilir. Bu, her model için ayrı ayrı optimize etme ihtiyacını doğurur, ki bu birçok seçenek nedeniyle oldukça karmaşık olabilir.

İkincisi, AI modellerinin farklı yetenekleri vardır. Örneğin, bazı modeller JSON formatında çıktı üretebilir, bu da birçok uygulamamız için faydalı bir özelliktir. Diğerleri büyük miktarda metin işleyebilir, bu da bazı görevler için daha kapsamlı bir bağlam kullanmamızı sağlar. Bu yetenekleri yönetmek ve her modelin potansiyelini en üst düzeye çıkarmak, işimizin önemli bir parçasıdır.

Son olarak, AI tarafından üretilen yanıtların kullanılabilirliğini garantilemek için, yanıtların güvenli olduğunu doğrulamamız gerekir. Generatif AI modelleri bazen “hayal görme” veya yanlış, bağlam dışı veya potansiyel olarak zararlı yanıtlar üretebilir. Bunu önlemek için, AI tarafından üretilen yanıtları检测 eden ve filtreleyen katı post-işleme filtreleri uygularız.

Agnostic AI sisteminizdeki arayüz, temel AI teknolojilerinin karmaşıklığını soyutlayarak kullanıcı dostu etkileşimleri nasıl sağlar?

Arayüzümüzün tasarımı, R&D ve mühendislik ekiplerimiz arasında bir işbirliği sonucu gerçekleşir. Her özellik için, gereksinimleri ve kullanılabilir verileri tanımlarız. Ardından, ürünle sorunsuz bir şekilde entegre edilebilecek bir API tasarlarız ve AI-Hizmetimize uygularız. Bu, mühendislik ekiplerinin iş mantığına odaklanmasına, AI-Hizmetimizin ise AI sağlayıcılarının karmaşıklıklarıyla ilgilenmesine olanak tanır.

Bu süreç, son teknoloji araştırma üzerine değil, kanıtlanmış yazılım mühendisliği uygulamalarının uygulanması üzerine dayanır.

Küresel operasyonlar düşünüldüğünde, InvGate, bölgesel kullanılabilirlik ve yerel veri düzenlemelerine uyumu nasıl sağlar?

Bölgesel kullanılabilirlik ve yerel veri düzenlemelerine uyumu garantilemek, InvGate’de operasyonlarımızın kritik bir parçasıdır. AI sağlayıcıları seçerken, yalnızca ölçeklenebilirlik değil, aynı zamanda üst düzey güvenlik standartlarına uyma ve yerel düzenlemelere uyumu da dikkate alırız.

Örneğin, yalnızca AB’nin Genel Veri Koruma Yönetmeliği (GDPR) gibi düzenlemelere uyan sağlayıcıları dikkate alırız. Bu, hizmetlerimizi farklı bölgelerde güvenle dağıtabilmemizi ve yerel yasal çerçevenin içinde çalıştığımızdan emin olmamızı sağlar.

Önemli bulut sağlayıcıları seperti AWS, Azure ve Google Cloud, bu gereksinimleri karşılar ve geniş bir AI işlevselliği sunar, bu da onları küresel operasyonlarımız için uygun ortaklar haline getirir. Ayrıca, yerel veri düzenlemelerindeki değişiklikleri sürekli izler ve gerektiğinde uygulamalarımızı güncelleriz.

Son on yılda, özellikle Generatif AI entegrasyonu ile InvGate’in IT çözümlerini geliştirme yaklaşımı nasıl değişti?

Son on yılda, InvGate’in IT çözümlerini geliştirme yaklaşımı önemli ölçüde değişti. Özellik tabanımızı, otomatik iş akışları, cihaz keşfi ve Yapılandırma Yönetimi Veritabanı (CMDB) gibi gelişmiş özelliklerle genişlettik. Bu özellikler, kullanıcılarımız için IT operasyonlarını büyük ölçüde basitleştirdi.

Son zamanlarda, ürünlerimize GenAI entegrasyonu başlattık. Bu, LLM sağlayıcılarının maliyet-effective çözümler sunmaya başlamasıyla mümkün oldu. GenAI entegrasyonu, ürünlerimizi AI destekli destek ile güçlendirmemizi ve kullanıcı dostu hale getirmemizi sağladı.

Henüz erken aşamadayız, ancak IT operasyonlarında AI’nin bir standart araç haline geleceğini öngörüyoruz. Bu nedenle, AI teknolojilerini daha da entegre ederek ürünlerimizi sürekli olarak geliştirmeyi planlıyoruz.

AI Hub’daki generatif AI, ortak IT olaylarına verilen yanıtların hızını ve kalitesini nasıl geliştirir?

AI Hub’daki generatif AI, ortak IT olaylarına verilen yanıtların hem hızını hem de kalitesini önemli ölçüde geliştirir. Bunu, çok adımlı bir süreçle gerçekleştirir:

İlk İletişim: Bir kullanıcı bir sorunla karşılaştığında, AI destekli Sanal Ajansımız (VA) ile sohbet açabilir ve sorunu tanımlayabilir. VA, şirketin Bilgi Tabanını ve kamu IT sorun giderme rehberlerini otomatik olarak arar ve rehberlik sağlar. Bu genellikle sorunu hızlı ve verimli bir şekilde çözer.

Ticket Oluşturma: Sorun daha karmaşık ise, VA bir ticket oluşturabilir ve sohbetten ilgili bilgileri otomatik olarak çıkarabilir.

Ticket Atama: Sistem, ticket’i destek ajansının kategorisine, önceliklerine ve benzer sorunlarla ilgili deneyimine göre atar.

Ajans İletişimi: Ajans, kullanıcıya ek bilgi için temas kurabilir veya sorunu çözdüğünü bildirebilir. İletişim, yazma önerileri sunan AI ile güçlendirilir.

Escalation: Sorun daha yüksek seviyeye taşınması gerektiğinde, otomatik özetleme özellikleri, yöneticilerin sorunu nhanh bir şekilde anlamalarına yardımcı olur.

Sonuç Analizi: Ticket kapatıldıktan sonra, AI, kök neden analizi yapar ve raporlar. Ajans, benzer sorunların gelecekte daha hızlı çözülmesine yardımcı olmak için AI ile bir Bilgi Tabanı makalesi oluşturabilir.

Bu özellikleri zaten uygulamaya koyduk, ancak sürekli olarak geliştirmeler ve iyileştirmeler üzerinde çalışıyoruz.

Gelecek özellikler gibi daha akıllı MS Teams Sanal Ajansı ile konuşma destek deneyimlerinde beklenen gelişmeler nelerdir?

Bir vaat edilen yol, konuşma deneyimini bir “koltuk ortağı”na genişletmektir. Bu, yalnızca sorulara cevap vermek ve basit eylemler yapmakla kalmaz, aynı zamanda kullanıcıların adına daha karmaşık eylemler gerçekleştirebilir. Bu, kullanıcıların self-hizmet yeteneklerini geliştirmelerine ve ajanslara ek güçlü araçlar sağlamalarına yardımcı olabilir. Sonuçta, bu güçlü konuşma arayüzleri, AI’yi her yerde bir ortak haline getirecektir.

Harika röportaj için teşekkür ederiz. Daha fazla bilgi öğrenmek isteyen okuyucular, InvGate‘i ziyaret edebilir.