Şirketinizin Kurumsal Yapay Zekasını Ödünç Alınan Erişim Üzerine Kurmayın

Tüm yapay zeka uygulamaları ve kurumsal dağıtımlar şimdiye kadar sınırlandırılmamış ve neredeyse sınırsız ön cephe yapay zeka modellerine erişim olacağı varsayımı ile inşa edilmiştir. Bu, o zamana kadar doğru bir zihniyetti, şimdi değil. Eğilim, ön cephe modellerinin yeni yeteneklerinin 6 ay içinde ticarileştirildiği veya açık kaynaklı hale getirildiği yönündeydi ve bu nedenle odak, sadece gelecekteki yetenekleri mümkün olduğunca erken anlamak için idi. Yeni ön cephe yeteneklerine mümkün olduğunca erken şekilde kavramak ve uyarlamak suretiyle ürünleri oluşturabilen şirketler, takımlar veya kişiler kazanıyordu. Ancak, bu dönemin yakında sona ereceğini gösteren birkaç sinyal olabilir. ABD Ticaret Bakanlığı’nın Anthropic’in Fable ve Mythos modellerine ABD vatandaşlarına erişimini kısıtlama kararı sadece bir ilk işaretti. Ancak, bu kısıtlama daha sonra Anthropic ile koordinasyon之后 kaldırıldı, erişim koşullarının ne kadar hızlı değişebileceğini ve esnek kurumsal yapay zeka sistemlerine olan ihtiyacı gösterdi.

Ön cephe modeli erişiminin garanti edilmediği dört neden

Sadece ön cephe modelleri için inşa etme zihniyeti, bu modellerin erişilebilirliğinin garantilenmemesi durumunda doğru olmayı bırakabilir. Bu olmasının en az dört nedeni vardır. Birincisi, ön cephe yapay zekasının ekonomisi, uzun süre dayanmayacak sübvansiyonlu fiyatlandırma üzerine inşa edilmiştir. OpenAI ve Anthropic’in yakın zamanda yapılan halka arz hazırlıkları, hesapları açıklamak ve şu anda sponsorlu yapay zeka hizmetlerinin gerçek maliyetini net bir şekilde ortaya koymak zorunda kaldı, bu da halka arz之后 ekonomik olarak sürdürülebilir olmayabilir. Anthropic’in 200 dolarlık özel aboneliğinin aslında şirket için birkaç bin dolara mal olduğu şeklinde dedikodular var. Bu nedenle, token fiyatlarının devam edecek şekilde artması ve ön cephe modeli erişiminin suni olarak ucuz olduğu dönemin sona ereceği beklenmektedir.

İkincisi, ön cephe modelleri çalıştırılması daha ucuz hale gelmiyor. Klasik bilgisayarın aksine, burada Moore Yasası her bir işlemin maliyetini zaman içinde sürekli olarak azaltıyordu, ancak yapay zeka bu eğriyi izlemediği görünüyor. Modeller daha büyük ancak daha fazla hesaplama gerektiriyor. Tüm mühendislerimiz, fable 5’in (geçici) yayınlanmasından sonra 10 dakika içinde Claude kredilerini tükettiler. Bu, bir sonraki ön cephe modellerinin daha fazla token, daha fazla hesaplama ve her bir iterasyon için daha fazla altyapı gerektireceğini öne sürebilir.

Üçüncüsü, gerçekten ön cephe modelleri yarışında kalan oyuncuların sayısı giderek azalıyor gibi görünüyor. Mistral, bir zamanlar Avrupa’nın ön cephe modelleri küresel arenada rekabet etme umudu, now ambitionsını modest bir takipçi olarak değiştirdi. Çin modelleri hızlı takipçiler ancak lider laboratuvarların en iyi sürümlerinden geri kalıyorlar.

Dördüncüsü, ön cephe modelleri her uygulamada kullanılmak için fazla tehlikeli olabilir. Miniaturized nükleer reaktörleri arabalarda kullanmıyoruz, kısmen çünkü bu alan高度 düzenlenmiştir ve tehlikelidir. Anthropic’in kendi deneyleri gösteriyor ki, bir ön cephe modelini kontrol altında tutmak ve onu zararsız kılarken yeteneklerini korumak çok zor. Bu, uzun vadeli gerçek bir ders ve Fable 5’in ABD düzenlemesinin altında yatan neden olabilir. Her durumda, ön cephe modellerinin stratejik varlıklar olarak devletler tarafından tedavi edileceği ve şu anda olduğu gibi serbestçe erişilemeyeceği oldukça muhtemel.

Bu nedenle, token maliyetlerinin önemli olduğu ve ön cephe modellerinin her ülkede tüm uygulamalar için mevcut olmadığı bir dünyaya girebiliriz.

Uygulama katmanı giriyor

Ön cephe modeline her çağrı en iyi mevcut modele gitmediği bir dünyada, her görevi güvenilir bir şekilde ve mümkün olan en iyi performans seviyesiyle nasıl çözebiliriz? Cevap, så-called “uygulama katmanı”nda olabilir.

NVIDIA’nın CEO’su Jensen Huang, yapay zekayı 5 katmanlı bir kek olarak tanımladı: enerji, çipler, veri merkezleri, modeller ve uygulamalar. Uygulama katmanının hem en önemli hem de hala büyük ölçüde eksik olan katman olduğunu savunuyor.

Bazı uygulamalar için, örneğin sohbet botları için, bu katman非常 ince – esasen sadece bir sohbet arayüzü. Diğerlerinde, örneğin gelişmiş endüstriyel ve mühendislik uygulamalarında, çok daha önemli ve kritik. Değer zincirinin belirleyici katmanı. Ön cephe modeline erişim garanti edilmeyince, uygulama katmanının rolü, sonuçları modeller arasında standardize etmek ve token maliyetlerini kontrol altında tutmaktır.

Somut olarak, yeni bir uçak modeli için üretim zincirimi yeniden tasarlamak gibi karmaşık, kritik bir görevi gerçekleştirmek istersem, güçlü bir ön cephe modelini bana yardım etmesi için sorarım. Model, bunu tek başına çözebilir, bir planlama aracı oluşturabilir ve sonucu tüm takımlarıma iletebilir. Ancak, modeli daha yetenekli bir modele, daha ucuz bir modele veya farklı bir sağlayıcıdan bir modele geçirdiğimde, performansımı kaybedebilir veya son çıktımda tutarlılığı kaybedebilirim. Çoğu pratik durumda, kurumsal kurulumlarda bu belirsizlik kabul edilemez. İşte burada uygulama katmanının rolü kritik: model, açık uçlu bir alanda çalışmak ve ham yeteneklerine güvenerek sonucu üretmesine izin vermek yerine, net bir çerçeve, kullanılabilir eylemlerin belirlenmiş bir kümesi ve içinde çalışabileceği tanımlı bir sınırlar belirler. Model, her şeyi sıfırdan çözmekle görevlendirilmez, iyi tanımlanmış bir çerçeve verilir ve bu, herhangi bir modelin iyi performans gösterme olasılığını büyük ölçüde artırır.

Maliyet açısından, model, amacına ulaşmak için çok düşük düzeyde eylemler gerçekleştirebilir. Bir planlama algoritmasını sıfırdan yazabilir, benim için çalışmasını görselleştirmek için yeni bir arayüz oluşturabilir veya hatta yeni bir optimizasyon çözücüsü geliştirebilir. Ancak, bu, çok token yoğun olabilir, oysa iyi rehberlik veya önceden oluşturulmuş araçlar, modelin aynı sonucu daha az tokenle elde etmesine yardımcı olabilir. Bu, uygulama katmanının rolü. İyi haber, modellerin tembel olduğu ve doğru becerilere, araçlara ve hesaplama kaynaklarına erişim sağlandığında daha kısa yollar aradığıdır. Bu nedenle, onları fazla kısıtlamaya gerek olmayabilir.

Kısaca, iyi bir uygulama katmanı, modelin güvenilir ve maliyet etkin bir şekilde çalışması için net beceriler, araçlar ve rehberlik sağlar. Performansı iyileştirmek ve token maliyetlerini kontrol etmek dışında, bu ayrıca model bağımlılığını azaltır. Zekanızı modelin kendisinde değil, uygulama katmanında gömerseniz, altta yatan model değiştirilebilir hale gelir. Çoğu durumda, bu, deneysel ve ölçeklenebilir kurumsal yapay zeka arasındaki farkı yaratabilir.

Şirket liderleri için çağrıya geçiş

Endüstriler boyunca, her gün kurumsal liderlerle karşılaşıyoruz ve şirketlerin AI yığınlarını oluşturmaya çalışıyorlar. Çoğu şirket, necessary model katmanını oluşturmak için bir veya birkaç ön cephe modeli sağlayıcısına başlıyor. Uygulama katmanı için, ya evde oluşturulmuş araçlara, tamamen satın alınan yeteneklere veya her ikisinin karışımına güveniyorlar.

Anthropic yasağı, bu yığının bir gecede bozulabileceğini hatırlatıyordu. Şirketlerin mimarilerinin, tekrar oluştuğunda hazır olması gerekiyor. Hazır olmak için, şirketler, dağıtım hızını dikkate almalı, ancak model değişikliklerinin etkilerini ve artan token maliyetlerini hafifletmek için çözümler oluşturmalıdır. Kolay bir yol değil, ancak benim önerim:

• Uygulama katmanınıza stratejik olarak ve erken yatırım yapın. Trendi kaçıran şirketler, her zaman erken benimseyenlere göre bir açığa sahip olacaklar
• Model-bağımsızlığını bir tasarım ilkesi olarak, bir çalışma-around olarak değil
• Model değiştirme maliyetinin operasyonlarınız için varoluşsal bir soru olmaması
• Modelleri benchmark edebilen, birden fazla kurulumda performansı doğrulayabilen ve uzun vadeli performans garantilerini sağlayabilen uzman şirketlerle ortak olun.

Şirketler, ön cephe modellerine erişim garantili olmadığında, bir sonraki kurumsal AI aşamasında oyunu kazananlar, en iyi modellere erişim sağlayanlar olmayabilir, onlar, etrafında doğru katmanı oluşturabilenlerdir.