Gizli Hesaplama İçin Bir Çerçeve Anlamak

Gizli Hesaplama Anı Yaşıyor

Gizli hesaplama alanı, aynı anda birden fazla cepheye yayılan bir yenilik dalgısı yaşıyor. Güvenli Çalışma Ortamları (TEEs) olgunlaşıyor ve dağıtımını kolaylaştıran bir süreç içinde. (Tamamen Homomorfik Şifreleme) FHE, yıllardır teorik olarak kalan performans açığını kapatıyor. Ve Web3 ekosistemi, genel amaçlı zkVM’leri şimdi iki yıl öncesinden çok daha hızlı bir şekilde arbitrary hesaplamaları kanıtlıyor.

Aynı zamanda, ajantik AI’nin yükselişi, güven, gizlilik ve doğrulabilirlik konusunda yeni bir aciliyet yaratıyor. AI sistemleri, içerik oluşturmanın ötesine geçerek kullanıcılar adına eylemler gerçekleştirmeye başladığında, organizasyonlar geleneksel güvenlik ve uyumluluk kontrollerinin, büyük ölçekli işletmelerde otonom yazılımlar için yeterli olup olmadığını sorgulamaya başlıyor.

DataTribe’da, bu alanda önemli zaman harcıyoruz, startup’larla konuşuyor, teknolojiyi değerlendiriyor ve en dayanıklı fırsatların nerede ortaya çıkacağını anlamaya çalışıyoruz. Bunu nasıl düşündüğümüz aşağıda açıklanmıştır.

Gizli Hesaplama İçin Bir Çerçeve

Gizli hesaplama manzarasına baktığımızda, bunu üç ayrı sütuna ayırmak полез. Her biri bağımsız bir garantiyi temsil ediyor. Önemli olan, bunlar örtüşmüyor: bir sütunu teslim eden bir çözüm, diğerlerini otomatik olarak teslim etmiyor.

• Korunan Hesaplama: Giriş, işleme ve çıktı tümüyle korunur. Hesaplamayı gerçekleştiren operatör bile hiçbir şeyi göremez.

• Hesaplama Bütünlüğü: Kriptografik doğrulama, doğru hesabın gerçekten çalıştırıldığını, potansiyel olarak düşmanca donanım üzerinde bile sağlar.

• Özel İşbirliği: Birden fazla taraf, birbirlerinin girdilerini birbirlerine açmadan ortak veri üzerinde birlikte hesaplar.

Her sütun, farklı alıcı ihtiyaçlarına, teknoloji yığınlarına ve rekabet dinamiklerine karşılık gelir. Bugün, ilk iki sütuna odaklanıyoruz: Korunan Hesaplama ve Hesaplama Bütünlüğü.

AI Gizliliği Paradoksu ve Korunan Hesaplama

AI, Korunan Hesaplama’ya ilgiyi katalize eden bir faktör oldu. Şirketler, AI sağlayıcılarıyla paylaştıkları verileri giderek daha fazla endişeyle karşılıyor ve gizli çıkarım talebi artıyor.

Ancak burada bir paradoks söz konusu. Aynı şirket, müşteri transkriptlerini AI sağlayıcılarına göndermek konusunda endişe duyarken, tazminat verilerini ADP’ye, satış pipeline’ını Salesforce’ (CRM ) a ve hasta kayıtlarını EHR sağlayıcılarına göndermekten çekinmiyor. Her durumda koruma aynı: veri koruma vaatleri ve uyumluluk raporları içeren bir sözleşme. Kriptografik garantiler yok. AI sağlayıcıları neden farklı muamele görüyor?

Gerçek nedenler var. Verilerin eğitim için kullanılacağı, model ağırlıklarına emildiğinde ve başka bir müşterinin çıktısında ortaya çıkabileceği korkusu, geleneksel SaaS’de bir benzeri yok. Değer alışverişi asimetrik görünüyor, şirketlerin verilerinin sağlayıcının ürününü rakipleri için iyileştirebileceği endişesi var. Regülasyonlar da AI veri işleme konusunda özel bir ilgi gösteriyor. AI sağlayıcıları, geleneksel SaaS anlaşmalarına benzer korumalar içeren sözleşmeler imzalamaya başladı, ancak benimseme hızı ve “gölge AI” korkusu, geleneksel SaaS alımlarında karşılaşılmayan bir aciliyet yaratıyor.

Bu endişeler tam olarak rasyonel olup olmadığına bakılmaksızın, gerçek bir alım aciliyeti yaratıyor. Daha ilginç soru, bu aciliyetin AI ile sınırlı kalıp kalmayacağı. Şirketler AI sağlayıcılarından kriptografik veri koruması talep etmeye başlarsa ve sonra diğerlerinden de aynı şeyi istemekte mantıksal bir tutarlılık olmadığını fark ederse, Korunan Hesaplama için toplam adreslenebilir pazar AI çıkarımı ötesine büyük ölçüde genişler.

Korunan Hesaplama için FHE vs. TEE’ler

Korunan Hesaplama için iki temel teknoloji yaklaşımı var ve bunlar temelde farklı güven modellerini temsil ediyor.

TEE’ler gibi AMD SEV-SNP, Intel TDX ve NVIDIA’ (NVDA ) nın gizli GPU’ları bugün pratik bir seçim. Korunan Hesaplama’yı minimal performans yükü ile sunuyorlar ve büyük bulut sağlayıcılarından yerel olarak sunuluyorlar. Güven varsayımı, silikon satıcısında ve bulut sağlayıcısında, donanımı işletenlerde farklı derecelerde bulunuyor.

FHE, salt matematiksel bir yaklaşım sunuyor. Veri tüm hesaplamalar boyunca şifreli kalıyor ve güvenlik garantisi hiçbir donanım veya operatöre güvenmek zorunda kalmadan sağlanıyor. Tarihçe boyunca performans tradeoff’u vardı: FHE işlemleri, açık metin hesaplamalarından çok daha yavaş oldu, dar kullanım durumlarına sınırlı kaldı.

Bu açıklık hızla kapatılıyor. Donanım hızlandırması önemli bir sürücü. Niobium’un özel FHE hızlandırıcı kartları, yalnızca yazılımdan çok daha iyi performans sunuyor. Cornami, baş bilim insanı Craig Gentry (genellikle FHE’nin mucidi olarak kabul ediliyor), “yaklaşık açık metin hızları” için LLM çıkarsama kullanarak iddialarda bulundu, bağımsız benchmark’lar yayınlanmadı. Bir şirket, FHE tabanlı LLM çıkarsama için yakın açık performansına ulaştığını gösterdi. Bu iddialar dikkatle incelenmeli, ancak eğilim açıktır: FHE’yi teorik olarak tutan performans açığı hızla daralıyor.

Eğer FHE üretim iş yükleri için yeterince hızlı olursa, etkileri derin olacak. Artık silikon satıcısına, bulut sağlayıcısına veya donanıma fiziksel erişim sağlayanlara güvenmek zorunda kalmayacaksınız. Güvenlik garantiniz matematiksel, operasyonel değil olacak.

Yatırımcılar için bu, önemli bir stratejik soru yaratıyor: Donanım güveninin daha güvenilir hale gelmesini mi yoksa kriptografik performansın matematiksel çözümler için yeterli olmasını mı bahis ediyorlar? En yakın zamanda gelir TEE tarafında. Uzun vadeli savunma argümanı, en azından bazı hesaplamalar için matematiksel yaklaşıma favori olabilir.

Hesaplama Bütünlüğü: İç Tehditlerden Düşmanca Ortamlara

Hesaplama Bütünlüğü, farklı bir sorunu ele alıyor: Doğru hesabın gerçekten çalıştırıldığını nasıl bilirsiniz?

Kontrol edilen ortamlarda, şirket içi veri merkezlerinde ve hyperscaler bulutlarında, TEE’ler bunu makul bir şekilde ele alıyor. Attestation mekanizmaları, beklenen kodun gerçek bir TEE’ye yüklenmeden önce veri göndermeden önce doğrulanmasını sağlıyor. Bu, iç tehditlere, compromisse edilmiş altyapıya veya dağıtım sorunlarına karşı korumaya değer.

Ancak “yeterince iyi” tehdit modelinize bağlı. Gerçekten düşmanca ortamlarda, donanım üzerinde kontrolünüz yoksa ve operatör aktif olarak düşmanca olabilirse, TEE garantileri zayıflar. Recent araştırmalar, düşük maliyetli donanım ara yüzleri kullanarak TEE attestasyonuna karşı pratik saldırılar gösterdi ve büyük çip satıcıları, fiziksel saldırıların tehdit modelinin dışında olduğunu kabul etti. İyi yönetilen bir veri merkezinde, bu kalan risk yönetilebilir. Merkezinde bilinmeyen bir düğümde, decentralize bir hesaplama ağındaysa değil.

Bu nedenle, Web3 dünyası, sıfır bilgi kanıtları yeniliklerinin ana sürücüsü oldu. ZK kanıtları, donanım ortamından bağımsız olarak hesaplamaların bütünlüğü hakkında matematiksel kesinlik sağlar. Kanıt doğrulanırsa, hesap doğru şekilde çalıştırıldı, kanıtlanmış hesap güvenli bir tesiste veya birinin garajında yapılsın.

İyileştirme hızı burada gerçekten etkileyici. Genel amaçlı zkVM’ler, geliştiricilerin normal Rust kodu yazmasına ve otomatik olarak kanıt oluşturmasına izin veriyor, kriptografik devreleri elle yazmaya gerek kalmıyor. Succinct’in SP1 Hypercube, 16 GPU’da 12 saniyeden kısa sürede Ethereum bloklarını kanıtlıyor. ZKsync’in Airbender, tek bir H100’de saniyede 21 milyondan fazla döngü bildiriyor.

AI iş yükleri için özel olarak, zkML ilerleme kaydediyor ancak hala pahalı. LLM çıkarsama kanıtlama hala çıkarsamadan binlerce kez daha yavaş çalışıyor. Daha küçük modeller gibi sınıflandırıcılar ve gömme modeller, pratik ZK kanıtlama yaklaşımında. Öncü LLM kanıtlama muhtemelen iki veya üç yıl uzakta. İlginç bir orta zemin, “optimist” doğrulama, kanıtların yalnızca sonuçlar meydan okunduğunda değil, her hesaplamada değil üretilmesi, amortize edilmiş maliyeti dramatik olarak azaltması.

Nereye Gidiyor

Gizli hesaplama alanı bir dönemeç noktasında. TEE’ler, FHE ve ZK aynı anda, her biri farklı toplulukların farklı önceliklerine sahip olarak, ortak sorunlara odaklanarak yenilikler đang gerçekleşiyor.

Alıcıların en acil gördüğü şey, hangi yaklaşımların önce çekim kazanıp kazanmayacağını belirleyecek. Düzenleyici uyumluluk ve bulut veri korumasına odaklanan şirketler, muhtemelen TEE tabanlı çözümleri ileriye taşıyacak. AI dalgası, performans devam ederse, FHE talebini hızlandırabilir. Decentralize hesaplama ve Web3 uygulamaları, ZK teknolojisini daha geniş uygulamaya doğru itecek.

Ayrıca, pratik bir orta zemin olarak melez mimarilerin ortaya çıkmasını bekliyoruz. Gizlilik için TEE’ler ve bütünlük için ZK kanıtları, kısmen güvenilen ancak tam olarak kontrol edilmeyen donanım ortamları için güçlü gizlilik ve matematiksel kesinlik sunuyor.

Bu çerçeve, özellikle Linux Foundation’un San Francisco’daki Gizli Hesaplama Zirvesi’nde, gizli hesaplamanın, ajantik AI’yi büyük ölçekli işletmelerde dağıtabilecek güvenlik katmanı olarak hizmet edebileceği konusunda merkezi bir tema olarak ortaya çıkıyor. Şirketler AI ajanlarına, hassas sistemlere, verilere ve iş akışlarına erişim vermeye başladığında, korunan hesaplamalar, hesaplamaların bütünlüğü ve doğrulanabilir güven konuları, teorik mimari tartışmalarından operasyonel gereksinimlere dönüşüyor.

Startup’lar için fırsatlar önemli: TEE tabanlı gizli hesaplamanın SaaS şirketleri için daha kolay benimsenmesini sağlamak, FHE’yi araştırma düzeyinden üretim düzeyine getirmek için araçlar oluşturmak, şirket içi bağlamlarda ZK tabanlı hesaplamaların altyapısını oluşturmak ve müşteriler ile bulut sağlayıcıları arasında güven brokerleri ve attestasyon katmanları geliştirmek. Bu alanı devam eden bir şekilde inceliyoruz ve tanıştığımız kurucularla heyecanlanıyoruz. Farklı iş yükleri, tehdit modelleri ve düzenleyici rejimler, üç sütundan farklı kombinasyonlar gerektirecek. Kazanacak şirketler, bir sütunu seçip kesin bir şekilde çözecek ve şirketlerin benimsemesini kolaylaştıracak olanlar olacak.