Cerebras Dünya’nın En Hızlı AI Çıktı Çözümünü Tanıttı: 20 Kat Hız ve Daha Düşük Maliyet

Cerebras Systems (CBRS ), yüksek performanslı AI hesaplamasının öncüsü, AI çıkarımı devrimini gerçekleştirecek bir çözüm tanıttı. 27 Ağustos 2024’te şirket, dünyanın en hızlı AI çıkarımı hizmeti olan Cerebras Çıktısını lanç etti. Geleneksel GPU tabanlı sistemlerin performansını gölgede bırakan performans metrikleriyle Cerebras Çıktısı, 20 kat daha hızlı performans sunarken aynı zamanda daha düşük maliyetle hizmet vermektedir.

Önünçü Hız ve Maliyet Etkinliği

Cerebras Çıktısı, özellikle büyük dil modelleri (LLM’ler) gibi çeşitli AI modelleri için üstün performans sunmak üzere tasarlanmıştır. Örneğin, Llama 3.1 8B modeli için saniyede 1.800 token ve Llama 3.1 70B modeli için saniyede 450 token işler. Bu performans, yalnızca NVIDIA GPU tabanlı çözümlerinkine kıyasla 20 kat daha hızlı olmakla kalmaz, aynı zamanda önemli ölçüde daha düşük maliyetle sunulur. Cerebras, bu hizmeti Llama 3.1 8B modeli için milyonlarca token başına yalnızca 10 sent ve Llama 3.1 70B modeli için milyonlarca token başına 60 sent gibi rekabetçi fiyatlarla sunar. Bu, mevcut GPU tabanlı tekliflere kıyasla 100 katlık bir fiyat performans iyileştirmesini temsil eder.

Hızı Artırırken Doğruluğu Koruma

Cerebras Çıktısının en etkileyici yönlerinden biri, eşsiz hızını sunarken devlet-sanatlı doğruluğu koruma yeteneğidir. Diğer yaklaşımaların hız için doğrulukları feda etmesi aksine, Cerebras’ın çözümü, çıkarım çalışmasının tamamı boyunca 16-bit alan içinde kalır. Bu, performans kazançlarının AI modeli çıktılarının kalitesinin maliyetine gelmediğini garantiler, bu da doğruluğa odaklanan geliştiriciler için kritik bir faktördür.

Micah Hill-Smith, Yapay Zeka Analizi’nin Kurucu Ortağı ve CEO’su, bu başarının önemini vurguladı: “Cerebras, Meta’nın Llama 3.1 8B ve 70B AI modelleri için GPU tabanlı çözümlerden bir sipariş daha hızlı hızlar sunuyor. Llama 3.1 8B için saniyede 1.800’den fazla çıktı tokeni ve Llama 3.1 70B için saniyede 446’dan fazla çıktı tokeni ölçüyoruz – bu benchmark’lerde yeni bir rekor.”

AI Çıkarımının Artan Önemi

AI çıkarımı, AI hesaplamasının en hızlı büyüyen segmentidir ve toplam AI donanım pazarının yaklaşık %40’ını oluşturur. Cerebras gibi yüksek hızlı AI çıkarımının ortaya çıkışı, geniş bant internetin tanıtımına benzer ve AI uygulamaları için yeni fırsatlar sunar. Cerebras Çıktısı ile geliştiriciler, karmaşık, gerçek zamanlı performansa ihtiyaç duyan nächsten nesil AI uygulamaları oluşturabilir, Örneğin, AI ajanları ve akıllı sistemler.

Andrew Ng, DeepLearning.AI’nin Kurucusu, AI geliştirme中的 hızın önemini vurguladı: “DeepLearning.AI, bir sonucu elde etmek için bir LLM’yi tekrar tekrar uyaran birden fazla ajan iş akışına sahiptir. Cerebras, bu tür iş yükleri için çok faydalı olabilecek etkileyici bir hızda çıkarım yeteneği oluşturdu.”

Geniş Endüstri Desteği ve Stratejik Ortaklıklar

Cerebras, endüstri liderlerinden güçlü destek gördü ve AI uygulamalarının geliştirilmesini hızlandırmak için stratejik ortaklıklar kurdu. GlaxoSmithKline’in AI/ML Kıdemli Başkan Yardımcısı Kim Branson, bu teknolojinin dönüştürücü potansiyelini vurguladı: “Hız ve ölçek her şeyi değiştirir.”

Diğer şirketler, LiveKit, Perplexity ve Meter, Cerebras Çıktısının operasyonları üzerindeki etkisine ilişkin heyecanını dile getirdi. Bu şirketler, daha duyarlı, insan benzeri AI deneyimleri oluşturmak, arama motorlarında kullanıcı etkileşimini iyileştirmek ve ağ yönetim sistemlerini geliştirmek için Cerebras’ın hesaplama yeteneklerinin gücünden yararlanıyor.

Cerebras Çıktısı: Katmanlar ve Erişilebilirlik

Cerebras Çıktısı, üç rekabetçi fiyatlı katmanda sunulur: Ücretsiz, Geliştirici ve Kurumsal. Ücretsiz Katman, cömert kullanım limitleriyle birlikte ücretsiz API erişimi sağlar, bu da geniş bir kullanıcı yelpazesine erişilebilirlik sağlar. Geliştirici Katmanı, esnek, sunucusuz bir dağıtım seçeneği sunar, Llama 3.1 modelleri milyonlarca token başına 10 sent ve 60 sent gibi fiyatlarla sunulur. Kurumsal Katman, sürekli iş yüklerine sahip kuruluşlara hizmet eder, özelleştirilmiş modeller, özel hizmet seviyesi anlaşmaları ve adanmış destek sunar, fiyatlar talep üzerine mevcuttur.

Cerebras Çıktısını Güçlendirme: Wafer Ölçeğinde Motor 3 (WSE-3)

Cerebras Çıktısının kalbinde, endüstrinin önde gelen Wafer Ölçeğinde Motor 3 (WSE-3) tarafından desteklenen Cerebras CS-3 sistemi bulunur. Bu AI işlemcisi, boyutu ve hızı ile eşsizdir ve NVIDIA’nın H100’üne kıyasla 7.000 kat daha fazla bellek bant genişliği sunar. WSE-3’ün devasa ölçekli tasarımı, birçok eşzamanlı kullanıcıyı işleyebilir, bu da performansı bozmadan blistering hızlar sağlar. Bu mimari, Cerebras’ın GPU tabanlı sistemlerin genellikle karşılaştığı trade-off’ları atlatmasını sağlar ve AI iş yükleri için sınıfının en iyisi performansı sunar.

Kolay Entegrasyon ve Geliştirici Dostu API

Cerebras Çıktısı, geliştiriciler için tasarlanmıştır. AçıkAI Sohbet Tamamlamaları API’si ile tam olarak uyumlu bir API sunar, bu da minimum kod değişikliği ile kolay göçü sağlar. Bu geliştirici dostu yaklaşım, Cerebras Çıktısını mevcut iş akışlarına entegre etmenin mümkün olduğunca sorunsuz olmasını sağlar, böylece yüksek performanslı AI uygulamalarının hızlı dağıtımı ermöglicht.

Cerebras Sistemleri: Endüstriler Geneline Yenilik Getirme

Cerebras Sistemleri, yalnızca AI hesaplamasının lideri değil, aynı zamanda sağlık, enerji, hükümet, bilimsel hesaplamalar ve finansal hizmetler gibi çeşitli endüstrilerde önemli bir oyuncudur. Şirketin çözümleri, Ulusal Laboratuvarlar, Aleph Alpha, Mayo Kliniği ve GlaxoSmithKline gibi kurumlarda yeniliklerin gerçekleştirilmesine önemli katkılar sağlamıştır.

Cerebras, eşsiz hız, ölçeklenebilirlik ve doğruluk sunarak, bu sektörlerdeki kuruluşların AI ve ötesinde en zorlu sorunları ele almasına olanak tanır. İlaç keşfini hızlandırmak, bilimsel araştırmada hesaplamayı artırmak veya finansal hizmetlerde yenilikleri teşvik etmek – Cerebras, bu sektörlerde yeniliklerin ön saflarında yer alır.

SONUÇ: AI Çıktısı için Yeni Bir Çağ

Cerebras Sistemleri, Cerebras Çıktısı’nın lançıyla AI çıkarımı için yeni bir standart belirliyor. Geleneksel GPU tabanlı sistemlerin 20 katına varan hız ve daha düşük maliyet sunarak, Cerebras yalnızca AI’yi daha erişilebilir hale getirmekle kalmaz, aynı zamanda nächsten nesil AI uygulamaları için yol açar. Yenilikçi teknoloji, stratejik ortaklıklar ve yeniliğe bağlılık ile Cerebras, AI endüstrisini eşsiz performans ve ölçeklenebilirlikte yeni bir çağa liderlik etmeye hazırlanıyor.

Cerebras Sistemleri hakkında daha fazla bilgi edinmek ve Cerebras Çıktısı’nı denemek için www.cerebras.ai adresini ziyaret edin.