Daniel Ciolek, InvGate Araştırma ve Geliştirme Başkanı - Röportaj Serisi

Daniel, sektörde 15 yıldan fazla deneyime sahip tutkulu bir BT uzmanıdır. Doktorası var. Bilgisayar Bilimleri alanında ve teknoloji araştırmalarında uzun bir kariyere sahip. İlgi alanları Yapay Zeka, Yazılım Mühendisliği ve Yüksek Performanslı Hesaplama gibi birçok alanda yer almaktadır.

Daniel, InvGate'te Araştırma ve Geliştirme Başkanıdır ve Ar-Ge girişimlerini yönetmektedir. Şirketin Ar-Ge stratejisini tasarlamak, uygulamak ve izlemek için Ürün ve İş Geliştirme ekipleriyle birlikte çalışır. Araştırma yapmadığı zamanlarda öğretiyor.

InvGate BT'den Tesislere kadar departmanlar arasında kusursuz hizmet sunmaya yönelik araçları sağlayarak kuruluşları güçlendirir.

Bilgisayar bilimine ilk olarak ne zaman ve nasıl ilgi duymaya başladınız?

Bilgisayar bilimlerine olan ilgim çocukluğuma dayanıyor. Her zaman elektronik cihazlara hayran kaldım ve çoğu zaman kendimi onların nasıl çalıştığını araştırırken ve anlamaya çalışırken buldum. Yaşım ilerledikçe bu merak beni kodlamaya yöneltti. İlk programlarımı yazarken yaşadığım eğlenceyi hâlâ hatırlıyorum. O andan itibaren bilgisayar bilimleri alanında kariyer yapmak istediğim konusunda kafamda hiçbir şüphe kalmadı.

Şu anda Ar-Ge girişimlerine liderlik ediyor ve yeni üretken yapay zeka uygulamalarını hayata geçiriyorsunuz. Çalışmalarınızın bir kısmından bahsedebilir misiniz?

Kesinlikle. Ar-Ge departmanımızda temsil edilmesi ve verimli bir şekilde çözülmesi zor olabilecek karmaşık problemlerle uğraşıyoruz. Çalışmalarımız üretken yapay zeka uygulamalarıyla sınırlı değil ancak bu alandaki son gelişmeler, yararlanmaya istekli olduğumuz çok sayıda fırsat yarattı.

InvGate olarak ana hedeflerimizden biri her zaman yazılımımızın kullanılabilirliğini optimize etmek olmuştur. Bunu, nasıl kullanıldığını izleyerek, darboğazları tespit ederek ve bunları ortadan kaldırmak için özenle çalışarak yapıyoruz. Sıklıkla karşılaştığımız bu tür darboğazlardan biri doğal dilin anlaşılması ve kullanılmasıyla ilgilidir. Bu, Büyük Dil Modelleri (LLM'ler) kullanılmadan ele alınması özellikle zor bir konuydu.

Ancak yakın zamanda uygun maliyetli Yüksek Lisans'ların ortaya çıkmasıyla bu kullanım örneklerini kolaylaştırabildik. Yeteneklerimiz artık diğer birçok dil tabanlı özelliğin yanı sıra yazma önerileri sağlamayı, bilgi bankası makalelerini otomatik olarak taslak haline getirmeyi ve kapsamlı metin parçalarını özetlemeyi içeriyor.

InvGate'te ekibiniz "agnostik yapay zeka" adı verilen bir strateji uyguluyor. Bunun ne anlama geldiğini ve neden önemli olduğunu tanımlayabilir misiniz?

Agnostik yapay zeka temelde esneklik ve uyarlanabilirlikle ilgilidir. Esasen bu, tek bir yapay zeka modeline veya sağlayıcısına bağlı kalmamakla ilgilidir. Bunun yerine seçeneklerimizi açık tutmayı, her yapay zeka sağlayıcısının sunduğu en iyi özelliklerden yararlanmayı ve aynı zamanda tek bir sisteme kilitlenme riskinden kaçınmayı hedefliyoruz.

Bunu şu şekilde düşünebilirsiniz: Üretken yapay zeka özelliklerimiz için OpenAI'nin GPT'sini mi, Google'ın Gemini'sini mi yoksa Meta'nın Llama-2'sini mi kullanmalıyız? Kullandıkça öde bulut dağıtımını mı, yönetilen bir örneği mi, yoksa kendi kendine barındırılan bir dağıtımı mı tercih etmeliyiz? Bunlar önemsiz kararlar değildir ve hatta yeni modeller piyasaya sürüldükçe ve yeni sağlayıcılar pazara girdikçe zamanla değişebilirler.

Agnostik yapay zeka yaklaşımı, sistemimizin her zaman uyum sağlamaya hazır olmasını sağlar. Uygulamamızın üç temel bileşeni var: bir arayüz, bir yönlendirici ve yapay zeka modellerinin kendisi. Arayüz, yapay zeka sisteminin uygulama ayrıntılarını soyutlayarak yazılımımızın diğer bölümlerinin onunla etkileşime girmesini kolaylaştırır. Yönlendirici, isteğin türü ve mevcut yapay zeka modellerinin yetenekleri gibi çeşitli faktörlere göre her isteğin nereye gönderileceğine karar verir. Son olarak modeller, özel veri ön işleme ve sonuç biçimlendirme süreçlerini gerektirebilecek gerçek yapay zeka görevlerini gerçekleştirir.

Belirli görevler için en uygun yapay zeka modellerini ve sağlayıcılarını seçerken karar verme sürecinize rehberlik eden metodolojik yönleri açıklayabilir misiniz?

Geliştirdiğimiz her yeni özellik için bir değerlendirme kriteri oluşturarak başlıyoruz. Bu kıyaslama, farklı yapay zeka modellerinin eldeki görevi çözmedeki verimliliğini değerlendirmek için tasarlanmıştır. Ancak yalnızca performansa odaklanmıyoruz, aynı zamanda her modelin hızını ve maliyetini de göz önünde bulunduruyoruz. Bu bize her modelin değerine ilişkin bütünsel bir görünüm sunarak yönlendirme istekleri için en uygun maliyetli seçeneği seçmemize olanak tanır.

Ancak sürecimiz bununla bitmiyor. Hızla gelişen yapay zeka alanında sürekli olarak yeni modeller yayınlanıyor ve mevcut modeller düzenli olarak güncelleniyor. Bu nedenle, ne zaman yeni veya güncellenmiş bir model kullanıma sunulsa, değerlendirme kıyaslamamızı yeniden yürütüyoruz. Bu, yeni veya güncellenmiş modelin performansını mevcut seçimimizin performansıyla karşılaştırmamıza olanak tanır. Yeni bir model mevcut modelden daha iyi performans gösterirse yönlendirici modülümüzü bu değişikliği yansıtacak şekilde güncelleriz.

Çeşitli yapay zeka modelleri ve sağlayıcılar arasında sorunsuz geçiş yapmanın zorlukları nelerdir?

Çeşitli yapay zeka modelleri ve sağlayıcılar arasında sorunsuz bir şekilde geçiş yapmak aslında bir dizi benzersiz zorluğu beraberinde getiriyor.

İlk olarak, her yapay zeka sağlayıcısı belirli şekillerde biçimlendirilmiş girdilere ihtiyaç duyar ve yapay zeka modelleri aynı isteklere farklı tepki verebilir. Bu, her model için ayrı ayrı optimizasyon yapmamız gerektiği anlamına gelir; bu, seçeneklerin çeşitliliği göz önüne alındığında oldukça karmaşık olabilir.

İkincisi, yapay zeka modellerinin farklı yetenekleri var. Örneğin, bazı modeller, birçok uygulamamızda faydalı olduğu kanıtlanan bir özellik olan JSON formatında çıktı üretebilir. Diğerleri büyük miktarda metni işleyebilir ve bu da bazı görevler için daha kapsamlı bir bağlam kullanmamıza olanak tanır. Her modelin potansiyelini en üst düzeye çıkarmak için bu yetenekleri yönetmek işimizin önemli bir parçasıdır.

Son olarak, yapay zeka tarafından oluşturulan yanıtların kullanımının güvenli olduğundan emin olmamız gerekiyor. Üretken yapay zeka modelleri bazen "halüsinasyonlar" üretebilir veya yanlış, bağlam dışı ve hatta potansiyel olarak zararlı yanıtlar üretebilir. Bunu azaltmak amacıyla, uygunsuz yanıtları tespit etmek ve filtrelemek için işleme sonrası temizleme filtrelerini sıkı bir şekilde uyguluyoruz.

Kullanıcı dostu etkileşimler için temeldeki yapay zeka teknolojilerinin karmaşıklıklarını etkili bir şekilde soyutlamayı sağlamak amacıyla agnostik yapay zeka sisteminizde arayüz nasıl tasarlandı?

Arayüzümüzün tasarımı, Ar-Ge ve mühendislik ekipleri arasındaki ortak bir çalışmadır. Her özellik için gereksinimleri ve mevcut verileri tanımlayarak, özellik bazında çalışıyoruz. Ardından, ürünle sorunsuz bir şekilde entegre olan bir API tasarlıyoruz ve bunu dahili Yapay Zeka Hizmetimizde uyguluyoruz. Bu, mühendislik ekiplerinin iş mantığına odaklanmasına olanak tanırken, Yapay Zeka Hizmetimiz farklı Yapay Zeka sağlayıcılarıyla çalışmanın karmaşıklığını ele alır.

Bu süreç en son araştırmalara dayanmaz, bunun yerine kanıtlanmış yazılım mühendisliği uygulamalarının uygulanmasına dayanır.

Küresel operasyonlar göz önüne alındığında InvGate, bölgesel kullanılabilirlik ve yerel veri düzenlemelerine uyum konusundaki zorluklarla nasıl başa çıkıyor?

Bölgesel kullanılabilirliğin ve yerel veri düzenlemelerine uygunluğun sağlanması InvGate'deki operasyonlarımızın çok önemli bir parçasıdır. Yalnızca geniş ölçekte çalışabilen, aynı zamanda en üst düzey güvenlik standartlarını koruyan ve bölgesel düzenlemelere uyan yapay zeka sağlayıcılarını dikkatle seçiyoruz.

Örneğin, yalnızca AB'deki Genel Veri Koruma Yönetmeliği (GDPR) gibi düzenlemelere uyan sağlayıcıları değerlendiriyoruz. Bu, yerel yasal çerçeve dahilinde faaliyet gösterdiğimizden emin olarak hizmetlerimizi farklı bölgelerde güvenli bir şekilde dağıtabilmemizi sağlar.

AWS, Azure ve Google Cloud gibi büyük bulut sağlayıcıları bu gereksinimleri karşılıyor ve çok çeşitli yapay zeka işlevleri sunarak onları küresel operasyonlarımız için uygun ortaklar haline getiriyor. Ayrıca, sürekli uyumluluk sağlamak için yerel veri düzenlemelerindeki değişiklikleri sürekli olarak izliyor ve uygulamalarımızı gerektiği gibi ayarlıyoruz.

InvGate'in BT çözümleri geliştirmeye yönelik yaklaşımı son on yılda, özellikle de Üretken Yapay Zekanın entegrasyonuyla nasıl gelişti?

Son on yılda InvGate'in BT çözümleri geliştirmeye yaklaşımı önemli ölçüde gelişti. Özellik tabanımızı otomatik iş akışları, cihaz keşfi ve Yapılandırma Yönetimi Veritabanı (CMDB) gibi gelişmiş yeteneklerle genişlettik. Bu özellikler kullanıcılarımız için BT işlemlerini büyük ölçüde basitleştirdi.

Son zamanlarda GenAI'yi ürünlerimize entegre etmeye başladık. Bu, uygun maliyetli çözümler sunmaya başlayan LLM sağlayıcılarındaki son gelişmeler sayesinde mümkün olmuştur. GenAI'nin entegrasyonu, ürünlerimizi yapay zeka destekli destekle geliştirmemize olanak tanıyarak çözümlerimizi daha verimli ve kullanıcı dostu hale getirdi.

Henüz erken olsa da yapay zekanın BT operasyonlarında her yerde bulunan bir araç haline geleceğini öngörüyoruz. Bu nedenle yapay zeka teknolojilerini daha da entegre ederek ürünlerimizi geliştirmeye devam etmeyi planlıyoruz.

AI Hub'daki üretken yapay zekanın, yaygın BT olaylarına verilen yanıtların hızını ve kalitesini nasıl artırdığını açıklayabilir misiniz?

Yapay Zeka Merkezimizdeki üretken yapay zeka, yaygın BT olaylarına verilen yanıtların hem hızını hem de kalitesini önemli ölçüde artırır. Bunu çok adımlı bir süreçle yapar:

İlk temas: Bir kullanıcı bir sorunla karşılaştığında yapay zeka destekli Sanal Aracımız (VA) ile bir sohbet açabilir ve sorunu açıklayabilir. VA, şirketin Bilgi Tabanını (KB) ve BT sorun giderme kılavuzlarının yer aldığı halka açık veri tabanını otonom olarak araştırarak, karşılıklı konuşma tarzında rehberlik sağlar. Bu genellikle sorunu hızlı ve verimli bir şekilde çözer.

Bilet Oluşturma: Sorun daha karmaşıksa VA, ilgili bilgileri görüşmeden otomatik olarak çıkararak bir destek bildirimi oluşturabilir.

Bilet Tahsisi: Sistem, biletin kategorisine, önceliğine ve temsilcinin benzer sorunlarla ilgili deneyimine göre bileti bir destek temsilcisine atar.

Temsilci Etkileşimi: Temsilci, ek bilgi almak veya sorunun çözüldüğünü bildirmek için kullanıcıyla iletişime geçebilir. Etkileşim, iletişimi geliştirmek için yazma önerileri sağlayan yapay zeka ile güçlendirilmiştir.

Kızışma: Sorunun üst kademeye iletilmesi gerekiyorsa otomatik özetleme özellikleri, yöneticilerin sorunu hızlı bir şekilde anlamalarına yardımcı olur.

Ölüm Sonrası Analiz: Bilet kapatıldıktan sonra yapay zeka, ölüm sonrası analiz ve raporlara yardımcı olan bir temel neden analizi gerçekleştirir. Temsilci ayrıca gelecekte benzer sorunların çözümünü kolaylaştıracak bir bilgi tabanı makalesi taslağı hazırlamak için de yapay zekayı kullanabilir.

Bu özelliklerin çoğunu zaten uygulamış olsak da, sürekli olarak daha fazla iyileştirme ve iyileştirme üzerinde çalışıyoruz.

Daha akıllı MS Teams Sanal Aracısı gibi yakında sunulacak özelliklerle, konuşma desteği deneyimlerinde beklenen geliştirmeler nelerdir?

Gelecek vaat eden yollardan biri, konuşma deneyimini yalnızca soruları yanıtlayabilen ve basit eylemler gerçekleştirebilen değil, aynı zamanda kullanıcılar adına daha karmaşık eylemler gerçekleştirebilen bir "yardımcı pilota" dönüştürmektir. Bu, kullanıcıların self-servis yeteneklerini geliştirmenin yanı sıra aracılara ek güçlü araçlar sağlamak için de yararlı olabilir. Sonunda, bu güçlü konuşma arayüzleri yapay zekayı her yerde bulunan bir arkadaş haline getirecek.

Harika röportaj için teşekkürler, daha fazla bilgi edinmek isteyen okuyucular ziyaret etmelidir. InvGate.