AI Masraflarını Kesmek İçin Bulut Harcamalarına Başlayın

AI’nin sözde “karmaşık orta” bölümü belki de şimdiye kadarki en büyük karışıklığını yaşamış olabilir.

Küresel bir donanım krizi ile muazzam bir talep birleştiğinde, AI maliyetleri gökyüzüne fırladı. Daha fazla hesaplama için çabalayan AI hizmetleri şirketleri, fiyatlarını artırmak ve faturalama modellerini gözden geçirmek zorunda kaldılar, bütçeleri dengesizliğe sürükledi ve birçok organizasyon AI’yi işlerine entegre etmeye başladıkları sırada inovasyonu raydan çıkardı.

Sonuç sadece etiket şoku değil, bir varoluş krizi: AI, şirketlerin yol haritalarını etkileyerek, ekiplerin iş akışlarını AI yetenekleriyle uyumlu hale getirerek ve AI’nin şirketlerin birincil rekabet avantajı haline gelmesi nedeniyle iş dünyası için bir varoluş krizi yaratmıştır. AI, devreye girerek büyük bir dönüşümü tetikledi ve şimdi ekiplerin AI’yi işlerine entegre etmeye başladıkları sırada geri çekilmeleri isteniyor.

Şirketler gibi Uber, AI kullanımını sınırlamak için agresif önlemler aldıklarını açıkladılar. Ancak AI kullanımını sınırlamak, şirketlerin bulut harcamalarını azaltmak için tek yol değildir.

İlk olarak bulut faturalarına bakmaları gerekir.

Gördüğümüz gibi, daha fazla hesaplama gücü daha fazla AI etkisi anlamına gelmez. Şirketler, AI hizmetleri için bütçelerini harcarken, aynı zamanda fazla büyük ve pahalı altyapıya güveniyorlar; artan AI maliyetleri, şirketlerin artık göz ardı edemeyeceği derin bir sorunu ortaya koyuyor.

Bulut Harcamalarının Birikmesi

IT altyapı harcamaları genellikle bir organizasyonun ikinci en büyük gideri olarak kabul edilir ve ortalama olarak bir şirketin yıllık geliri %10‘una karşılık gelir – AI talebi son yıllarda bu rakamı yukarılara çekmiş bir oran. Ancak birçok şirket, zaten şişkin bir IT çerçevesine daha fazla hacim ekliyor.

CTO’lar ve diğer teknoloji karar vericileri, tanıdık ve güvenilir olanı tercih ediyorlar. Ne yazık ki, bu da bulut faturalarını artırıyor. Deneyimli ve güvenilir olanı benimserken, değer üretmeyen çözümler için büyük hyperscaler’lerle pahalı bir boyutlandırma anlaşması yapıyorlar.

Zaman içinde, kullanılmayan veya etkin olmayan hizmetler, optimize edilmemiş donanım ve boş depolama için ödeme yaptıklarını fark ediyorlar; oysa bu parayı AI inovasyonuna yatırabilirler. AI daha da pahalı hale geldikçe, her kuruşlarına ihtiyaçları olacak.

AI Verimliliği için Altyapının Ölçeklendirilmesi

Bulut yayılmasını kontrol altına almak, kısa vadeli acción ve uzun vadeli evrimin bir kombinasyonunu gerektirir. Bugün çözülebilecek şeylerle ilgilenmek, şirketlere büyük yeniden düzenlemeler için planlama yapmak için nefes alma alanı sağlar.

Yeni altyapıya geçiş zaman alıyor ve şirketlere şimdi çözümler gerekiyor, böylece ekipleri AI ile çalışmaya devam edebilir. İşte şirketlerin bulut harcamalarını düzenlemek için hemen atmaları gereken üç adım:

1 – CPU ve Bellek Kullanımını Analiz Et

Fazla performansın bir anlamı vardır. IT ekipleri, bulut hizmetleri kullanımını kapsamlı bir şekilde analiz etmeli ve performans gereksinimlerini aşan örnekleri düşürmelidir. Bulut kullanımına derinlemesine bir dalış, ekiplerin kullanılmayan özellikler ve altyapıyı keşfetmelerine de yardımcı olur; eğer mevcut sözleşmeleri izin veriyorsa, bu hizmetleri devre dışı bırakabilir veya sözleşmenin geri kalanı için daha düşük bir ödeme müzakere edebilirler. Aksi takdirde, kullanılmayan özelliklerin belirlenmesi, yeniden yapılandırılan bulut yaklaşiminin parametrelerini belirlemek için değerli bir çerçeve sağlar.

Şirketler altyapı stratejisini değiştirirken, bellek kullanımını ekonomize eden bulut hizmetlerine yönelmek isteyeceklerdir. Örneğin, bellek optimizasyonlu altyapı ve vCPU’lar, hyperscaler’lerin genellikle sunduğu Arm tabanlı optimizasyonlara kıyasla şirket düzeyinde destek için daha uygun fiyatlı bir seçenek sunar. Bu, IT ekiplerinin izleme yükünü hafifletir ve aynı zamanda genel bulut harcamalarını azaltır.

2 – Kati Harcama Sınırları Belirle

Harcama ve kullanım sınırları, AI fiyat artışlarına karşı teknoloji endüstrisinin bağışıklık tepkisi oldu, ancak sadece sınırları belirlemek değil, nasıl tanımlanacağı, iletişimi ve uygulanması önemlidir.

Örneğin, harcama sınırları kullanım özgül olmalıdır. Liderler, bunları proje planlaması ve kaynak tahsisi için bir rehber olarak kullanabilmeli, böylece bütçeleri, zamanlamaları ve bireysel proje ekiplerini verimlilik göz önünde bulundurularak yapılandırabilmelidir.

İletişim açısından, tüm iş gücünün sınırların arkasındaki neden‘i anlaması çok önemlidir. Dijitalin sınırsız olduğunu görmeye alışkınız, ancak AI patlaması bu aşamasında, fizik yasalarına karşıyız. Kıtlık ve faturalama değişiklikleri, çalışanların günlük iş akışlarını etkilediğinde, harcama sınırları, AI güçlendirilmiş araçlara olan yeni bağımlılıklarını sürdürmek için sürdürülebilir bir yol olarak konumlandırılmalıdır, kısıtlama olarak değil.

3 – Etiket Protokollerini Uygula

Etiket protokolleri, hesaplama giderlerini gizlice artıran yönetilmeyen IT kullanımını önler. Güçlü bir etiket kodu ile IT liderleri, bulut hizmetleri trafiğini daha iyi anlayabilir, böylece ekipler, aşırı kullanımın kaynağını hedefleyebilir ve kaynaklarda meydana gelen şişkinliği azaltmak için stratejik ayarlamalar yapabilir. Aynı zamanda, etiket protokolleri, ekiplerin hangi alanlarda yükseltmeye ihtiyaç duyabileceğini de gösterebilir.

Mevcut bulut sözleşmeleri sona erdiğinde, şirketler, composable, çok bulutlu bir yaklaşım ile hesaplama ekosistemlerini yeniden yapılandırma fırsatına sahip olurlar. Bu, uzun süredir birlikte çalıştıkları hyperscaler ortaklarını terk etmeleri anlamına gelmez, ancak sözleşmelerini daha verimli bir altyapıya uyumlu hale getirmek için küçültmeleri gerekebilir. Alternatif bulutlar, kenar çözümleri, GPU tabanlı altyapının yükünü boşaltan ve açık kaynaklı yazılım çözümleri, sadece maliyetleri azaltmakla kalmaz, aynı zamanda her AI girişiminin performans fiyatını en üst düzeye çıkararak ROI’sini artırır ve şirketlerin AI inovasyonuna yeniden yatırım yapmalarına olanak tanır.

Verimlilik Zihniyetini Yeniden Bağlama

AI harcamalarını yönetmek aynı zamanda bir kültür sorunudur. AI destekli işgücü, verimlilik konusunda oldukça odaklıdır. Bu nedenle, ajanlar oluşturuyorlar, iletişimlerini otomatikleştiriyorlar ve AI’nin ağır işleri yapmasını sağlarken yaratıcılık ve inovasyon kapasitelerini genişletiyorlar. Ancak bu araçların sorumsuz kullanımı tam tersi bir etkiye sahiptir.

“Tokenmaxxing” ve diğer aşırı AI kullanımını teşvik eden eğilimler, verimlilik yanlısı bir yaklaşımla uyumsuzdur. Ekipler gerçekten daha azla daha fazla yapmak istiyorsa, AI ile etkileşimleri bu ilkeyi yansıtmalıdır.

Bunun için kültür ve teknolojinin birlikte değişmesi gerekiyor. İnceleme yükünü azaltmak için daha iyi promt’lerin kullanımını teşvik edin, ancak aynı zamanda çıkarımı ekonomize eden altyapıyı benimseyin. Küçük AI modellerini ve precisa kullanım örneklerini benimseyin. Açık kaynaklı modelleri ve yazılımları benimseyerek eğitim iş yükünü azaltın. Geliştiricileri verimli bir şekilde sorunları çözmeye teşvik edin ve teknik olmayan AI kullanıcılarını eğitin. AI’yi sorumlu bir şekilde kullanmak isteyen şirketler, çalışanlarını böyle yapmaları için teşvik etmelidir.

Fiyatlardaki artışa rağmen, AI dönüşümünü durdurmadık. Büyük ölçekli AI operasyonel hale getirmek her zaman pahalı bir girişim olacaktı ve sürdürülebilir kalabilmek için dikkatli planlama ve stratejik sermaye tahsisi gerektiriyordu. Bulunduğumuz nokta, bir sıkışıklık noktası: IT liderlerinin şimdi attıkları adımlar, kimin geçiş yaptığı ve kimin geride kaldığını belirleyecek.

Endüstri, hesap krizi sorununu çözmek için seferber olurken, şirketlerin mevcut kaynaklarla başa çıkma yollarını bulmaları gerekiyor. Şirketler, bulut çözümlerinde aşırı harcamaları ele alarak, dağıtılmış bir bulutta çıkarımı ekonomize ederek ve gerçek ROI’yi teşvik eden altyapıya yatırım yaparak astronomik AI harcamalarına karşı kendilerini koruyabilir.