Röportajlar
Sadeepa Wijesekara, HPE’de Private Cloud AI’dan Sorumlu Başkan Yardımcısı – Röportaj Dizisi

Öne çıkan noktalarYapay zeka ekonomisi, ancak pilot uygulamalar üretime ölçeklendiğinde ve finans…
Daha fazla göster
- Yapay zeka ekonomisi, ancak pilot uygulamalar üretime ölçeklendiğinde ve finans konuşmaya katıldığında bir iş disiplini haline gelir.
- Token başına maliyet tüketimi ölçerken, iş sonucu başına maliyet yatırımın gerçekten mantıklı olup olmadığını ortaya koyar.
- Ajan tabanlı iş akışları, çıkarım fiyatları düşmeye devam etse bile token tüketimini çarpıcı biçimde artırabilir.
Sadeepa Wijesekara, Hewlett Packard Enterprise (HPE) bünyesinde Private Cloud AI’dan Sorumlu Başkan Yardımcısı olarak görev yapıyor ve özel bulut ortamlarına yönelik kurumsal yapay zekâ yazılımları ile platformları çalışmalarını yönetiyor. Çalışmaları; kuruluşların yapay zekâyı güvenli ve geniş ölçekte devreye almasına yardımcı olmayı ve altyapı kararlarını işletmenin ihtiyaçlarıyla uyumlu hâle getirmeyi kapsıyor. İş yükü yönetimi, model seçimi ve giderek daha özerk hâle gelen sistemlerin güvenilirliğini korumanın maliyeti de dâhil olmak üzere, üretim ortamında yapay zekânın ekonomisine mühendislik perspektifiyle yaklaşıyor.
Hewlett Packard Enterprise (HPE); yapay zekâ, bulut, ağ, bilgi işlem ve depolama alanlarını kapsayan kurumsal teknoloji çözümleri sunuyor. Private Cloud AI portföyü, kuruluşların kontrol ettikleri altyapılarda yapay zekâ iş yüklerini devreye almasını; hibrit bulut ve harici hizmetlerden de yararlanmasını destekliyor. Wijesekara bu röportajda, yapay zekâ harcamalarının iş sonuçları temelinde neden ölçülmesi gerektiğini, ajan tabanlı iş akışlarının tüketimi nasıl değiştirdiğini ve modeller, orkestrasyon ile altyapı hakkındaki kararları şekillendiren finansal ve operasyonel etkenleri ele alıyor.
HPE, 70.000’den fazla çalışanı arasında yapay zekâ kullanımını yaygınlaştırdı. Bu deneyim, yapay zekâ ekonomisinin ne zaman yalnızca bir BT konusu olmaktan çıkıp daha kapsamlı bir işletme disiplinine dönüştüğü konusunda size ne öğretti?
Şirketler pilot projelerden üretim kullanımına geçtiğinde, yapay zekâ ekonomisi daha kapsamlı bir işletme disiplini hâline gelir. Bir pilot proje, yapay zekânın bir görevi yerine getirip getiremeyeceğini gösterebilir; ancak kullanıcı sayısı az olduğu için verimsizlikleri gizleyebilir. Kullanıcı sayısı 10’dan 10.000’e çıktığında, yapay zekânın yarattığı değeri de anlamaya çalışırken maliyeti, gecikme süresini ve güvenilirliği hesaba katmanız gerekir. Bu aşamada, finans ekiplerinin ve yapay zekânın desteklediği iş süreçlerinden sorumlu yöneticilerin de görüşmelere katılması gerekir. BT, bir uygulamanın tükettiği kaynakları ölçebilir; ancak bu yatırımın sağladığı sonuçların harcanan kaynağa değip değmediğini işletme yöneticilerinin belirlemesi gerekir.
Üretken yapay zekâyı değerlendirirken birçok kuruluş hâlâ token başına maliyet gibi ölçütlere ağırlık veriyor. İş sonucu başına maliyetin neden daha anlamlı bir ölçüt olduğuna inanıyorsunuz ve işletmeler bunu uygulamada nasıl hesaplamalı?
Token başına maliyet, ne kadar yapay zekâ kullandığınızı gösterir; ancak bu kullanımın işe yarar bir sonuç üretip üretmediğini göstermez. Şirketler önce iş sonucunu tanımlamalı, ardından bu sonucu elde etmek için gereken toplam maliyeti hesaplamalıdır. Model, yazılım, depolama, veri aktarımı, yönetişim ve çalışanların yanı sıra bu maliyetin yalnızca bir parçasıdır. Söz konusu maliyetleri belirli bir iş sürecinde yaratılan değerle karşılaştırmak, şirketlerin yatırımın ekonomik açıdan mantıklı olup olmadığını daha iyi görmesini sağlar.
Yapay zekâ, bireysel yardımcı pilotlardan uzun görev dizilerini yerine getirebilen ajan tabanlı ve çok ajanlı sistemlere doğru ilerlerken, çıkarımın temel maliyeti düşmeye devam etse bile tüketim ne ölçüde artabilir?
Tek bir kullanıcı isteği, arka planda çok daha fazla işin yapılmasını tetikleyebileceğinden tüketim çok hızlı artabilir. Bir ajan, sonuç üretmeden önce birkaç adımı izlerken bilgi alabilir ve araçları çağırabilir. HPE’nin temsili bir karşılaştırmasında, basit bir sohbet robotu etkileşimi yaklaşık 400 token kullanırken ajan tabanlı bir RAG isteği yaklaşık 21.500 token kullandı. Token fiyatları düşse bile yapay zekâ daha karmaşık işleri üstlendikçe toplam tüketim keskin biçimde artabilir.
Şirketler, bir yapay zekâ kullanım senaryosunun yalnızca verimlilik ölçütlerini artırmak ya da etkileyici gösterimler sunmak yerine gerçekten ekonomik değer yaratıp yaratmadığını nasıl değerlendirmeli?
Bir kullanım senaryosu ölçeklendirilmeden önce, açık KPI’lar içeren bir iş gerekçesine bağlanmalıdır. Şirketlerin iş sürecinin maliyetini ve yapay zekâ devreye alındığında bu maliyetin nasıl değiştiğini anlaması gerekir. Ayrıca bir faaliyetteki iyileşmeyle iş sonucundaki iyileşmeyi birbirinden ayırmaları gerekir. Tasarruf edilen zaman; daha fazla müşteri sorununu çözmeye, hataları azaltmaya veya daha önce tamamlanamayan işleri bitirmeye olanak sağladığında daha anlamlı hâle gelir. Değerlendirmede sonucun kalitesi ve gereken ek inceleme ya da yeniden çalışma da hesaba katılmalıdır. Başarılı bir gösterim, bir yeteneğin varlığını kanıtlar; iş sürecinde ölçülebilir iyileşmeler ise kapsamı genişletme kararını destekler. Bazı durumlarda bu analiz, yapay zekânın doğru çözüm olmadığını gösterebilir.
Model yönlendirme ve yapay zekâ orkestrasyonu, maliyetleri kontrol etmenin yolları olarak giderek daha sık gündeme geliyor. İşletmeler, göreve bağlı olarak küçük modeller, öncü modeller, uzmanlaşmış modeller ve geleneksel yazılımlar arasında dinamik seçim yaparak ne kadar değer elde edebilir?
Modeli göreve uygun seçmek büyük değer yaratır. Şirketlerin, yapay zekâyı kullanıma sunmayı başlangıçta önceliklendirdikleri için birbirinden çok farklı iş yüklerini aynı pahalı, en gelişmiş modele yönlendirdiğini gördük. Bu, az sayıda kullanıcı varken yönetilebilir; ancak benimseme arttıkça maliyet hızla yükselir. Karmaşık akıl yürütme gerektiren işlerde en gelişmiş bir model uygun olabilirken, rutin bir görev için daha küçük bir model yeterli olabilir. Belirli bir alana özel bir model daha uygun olabilir; öngörülebilir, kurallara dayalı bir görev ise geleneksel yazılımlarla daha verimli şekilde yürütülebilir. Orkestrasyon, bu seçenekleri bir iş akışı içinde bir araya getirerek görev gerektirdiğinde daha yetenekli bir modelin kullanılmasına yardımcı olur. Açık ağırlıklı modeller yetkinleştikçe şirketler, belirli iş yüklerini harici modellere ödeme yapmak yerine kendi altyapılarında çalıştırma konusunda da daha fazla fırsata sahip oluyor. Kurumsal ölçekte bu yönlendirme kararları, işletmenin ihtiyaç duyduğu kaliteyi korurken maliyetlerde önemli bir fark yaratabilir.
Yapay zekâ iş yüklerini çalıştırmanın ekonomisi, API veya genel bulut üzerinden işlem gücü kiralamaktan temel altyapının daha fazlasına sahip olmaya ya da onu kontrol etmeye hangi noktada geçiş yapar? Kurumlar bu kararı verirken hangi değişkenleri göz önünde bulundurmalı?
Bunu kiralamakla satın almak arasındaki tercih olarak görüyorum. Şirketler deneme aşamasındayken veya talep önemli ölçüde değişkenlik gösterirken kiralamak mantıklı olabilir. Kullanım hacmi büyüyüp daha öngörülebilir hâle geldikçe altyapının daha fazlasına sahip olmak ya da onu kontrol etmek ekonomik açıdan anlam kazanmaya başlayabilir. Altyapıya sahip olmak, kullanımın düşük olduğu dönemlerde ek yapay zekâ deneyleri yürütme ve böylece daha önce yapılmış bir yatırımdan daha iyi yararlanma fırsatı da yaratır. Şirketlerin, iş yükünün özelliklerinin yanı sıra enerji, yönetim ve sistemleri güncel tutma maliyetlerini de göz önünde bulundurması gerekir. Pek çok büyük kurum için doğru yaklaşım, iş yüküne bağlı olarak hem özel altyapıyı hem de harici hizmetleri kullanmayı muhtemelen içerecektir.
Kurumlar daha fazla iş yükünü üretim ortamlarına taşırken HPE, özel yapay zekâ altyapısını genişletiyor. Yapay zekâyı tamamen genel bulut hizmetleri üzerinden kullanmaya kıyasla, özel yapay zekânın en güçlü ekonomik avantajı nerede ortaya çıkıyor?
Özel yapay zekâ, şirketlerin sahip oldukları kapasiteden etkin biçimde yararlanabildiği sürekli iş yüklerinde güçlü bir ekonomik avantaj sağlayabilir. HPE’nin belirli iş yükü varsayımlarına dayanan bir analizinde, HPE Private Cloud AI’ın düğüm-saat başına maliyetinin yaklaşık 45 dolar olduğu; eşdeğer bir kiralık bulut yapılandırmasının maliyetinin ise yaklaşık 102 dolar olduğu tahmin edildi. Bu sonuçlar iş yüküne göre değişecektir ve her ortam için yeniden hesaplanmalıdır. Özel yapay zekâ, altyapının kuruluş için değer üreten bir varlığa dönüşmesini sağlayarak şirketlere alternatif bir finansal model de sunar.
Yapay zekâ ajanları; çıkarımın yanı sıra veri getirme, araç çağrıları, izleme, güvenlik ve yönetişim gibi ek maliyetler doğuruyor. Kurumların, yapay zekâ ajanlarını büyük ölçekte bütçelendirirken en çok hangi maliyetleri düşük tahmin etmesi olası?
Şirketlerin, ajanların zaman içinde güvenilir, emniyetli ve kullanışlı kalmasını sağlamak için gereken çalışmaları düşük tahmin etmesi olası. Çıkarımın ötesinde, verileri getirme ve hazırlama, harici araçlara erişme ve sistemler arasında bilgi aktarma maliyetleri de bulunuyor. Araçların tekrar tekrar çağrılması veya başarısız denemeler, tamamlanmış bir görev ortaya koymadan masrafları artırabilir. Şirketlerin ayrıca sonuçları değerlendirmek, ajanların davranışlarını izlemek, erişim izinlerini yönetmek ve güvenlik ile yönetişim kontrollerini sürdürmek için de bütçe ayırması gerekir. İstisnaları incelemek veya hataları düzeltmek için harcanan zaman da dâhil olmak üzere, insan gözetimi de bu hesabın bir parçasıdır. Bir görevin başarıyla tamamlanmasının maliyetini anlamak, tüm bu iş akışını görünür kılmayı gerektirir.
Yapay zekâ kullanımını tek tek iş gerekçeleriyle ilişkilendirerek izlemenin önemini vurguladınız. Etkili bir kurum içi ölçüm çerçevesi nasıl olmalı ve kurumlar, bir yapay zekâ uygulamasının devam eden işlem gücü ve işletme maliyetlerini hâlâ haklı çıkarıp çıkarmadığını ne sıklıkta yeniden değerlendirmeli?
Çerçeve, kullanımı doğrudan iş gerekçesine bağlamalıdır. Şirketlerin hangi uygulamanın kaynak tükettiğini ve hangi sonucu üretmesinin beklendiğini bilmesi gerekir. HPE’de her kullanım senaryosunun beklenen sonuçları sağlayıp sağlamadığını ölçmek için KPI’ları ve temel birim maliyetlerini takip ediyoruz. Bunu, finans direktörünün bir sürecin bugünkü maliyetiyle yapay zekâ kullanıldığında ortaya çıkan maliyeti karşılaştırabilmesi için bireysel departmanlar ve iş süreçleri düzeyinde de görmek isterim. Kullanım ve bir uygulamanın ekonomisi zaman içinde değişebileceğinden, bu sürekli yürütülmesi gereken bir süreçtir. Şirketler ayrıca bir model, fiyat veya iş akışında önemli bir değişiklik olduğunda da yeniden değerlendirme yapmalıdır; çünkü bu değişiklikler bir uygulamanın hem maliyetini hem de değerini etkileyebilir.
Üç ila beş yıl sonrasına baktığınızda, yapay zekâ çoğu iş sürecine yerleştikçe kurumsal yapay zekâ ekonomisinin nasıl gelişmesini bekliyorsunuz? Yapay zekâ tüketimini yönetmek, zamanla bulut FinOps gibi disiplinlere mi benzeyecek, yoksa kurumların tamamen yeni bir işletim modeline mi ihtiyacı olacak?
Yapay zekâ ekonomisinin; maliyet görünürlüğü, tahsis ve hesap verebilirlik gibi FinOps disiplinlerini temel alacağını, aynı zamanda bunları yapay zekânın gerçekleştirdiği işin kalitesini ve değerini ölçecek şekilde genişleteceğini düşünüyorum. Ajanlar bir iş sürecinde daha fazla adım üstlendikçe şirketlerin, yeniden denemeler ve insan müdahalesi de dâhil olmak üzere, sürecin başarıyla tamamlanmasının maliyetini ve sonucun gerekli standardı karşılayıp karşılamadığını anlaması gerekecek. Bunun BT, finans ve iş operasyonlarının ortak sorumluluğuna dönüşmesini bekliyorum. Kurumlar ve sektörler arasında bu karşılaştırmaları yapmaya yönelik tutarlı yöntemler oluşturma konusunda henüz yolun başındayız. Zaman içinde, şirketlerin yapay zekâyı ne kadar verimli kullandıklarını anlamalarını sağlayan ve bunu kâr-zarar tablolarına (P&L) yansıtmalarına imkân veren standart ölçütler görmeyi isterim.
Harika röportaj için teşekkür ederiz. Özel bulut yapay zekâsı, kurumsal altyapı ve yapay zekâ iş yüklerini ölçeklendirme hakkında daha fazla bilgi edinmek isteyen okuyucular HPE’yi ziyaret edebilir.












