PiedPiper Tarzında Dağıtık AI Hizmetleri?

AI için ‘BitTorrent’ yakın bir olasılık mı?

Yorum Mike Judge’ın eğlenceli ve keskin teknoloji-bro satiri Silicon Vadisi -ki burada bir grup sosyal olarak zorluk çeken geek dehaları yeni bir ‘internet’ yaratmaya çalışıyorlar- PiedPiper adlı bir mesh-network aracılığıyla herkesin cep telefonunda- yeniden izledikten sonra, HN topluluğunun benzer bir naturedeki yeni bir teklif ile ilgilenmesini görmek ilginçti.

Eigen Labs’in DarkBloom sistemi, AI çıkarımı için merkezden bağımsız bir ağ fikri ile kripto madencilik kar motive arasında bir yerde duruyor ve Apple Silicon Mac sistemlerinin sahiplerine ekipmanlarını bir çıkarım düğümü haline getirmelerine izin veriyor:

DarkBloom web sitesinin Kazançlar bölümünden, kullanıcılar kiralamak istedikleri ekipmanı ve desteklemek istedikleri AI modellerini seçebilir. Kaynak

Sistem şu anda metin tabanlı modellere odaklanıyor, örneğin agentic Trinity Mini (3B) ve Cohere Transcribe, ancak aynı zamanda FLUX 2 Klein 4B gibi çeşitli görüntü oluşturma modellerini de sunuyor:

Kullanıcıların kiralayabilecekleri modeller ve aylık dựlen kazançlar.

Katılan kullanıcılar, sağlam bir ayda çıkarım sağlama karşılığında yeterli para kazanabilir ve düzenli olarak zincire yeni bir Mac ekleyebilir, teoride bir çıkarım çiftliği oluşturabilir.

Aslında, bu tür birscheme gerçekten popülerlik kazanırsa (şu anda soğuk başlangıç sorunu var), coşkulu amatör kullanıcıları tekrar donanım aramaya yönlendirebilir, tıpkı son büyük kripto para patlaması (ve sonraki çöküş) gibi.

Şimdilik Bekleyin

Ancak küçük oyuncular için bu gemi already sailed olabilir. AI’ın apokaliptik RAM ihtiyacı dışında, AI destekli veri merkezi donanım talebi sürekli olarak donanım ve hizmet maliyetlerini artırıyor ve bu da normal kullanıcıların previously kripto madencilik için RAM’ı tekelleştirmesini engelliyor.

Super ucuz MacBook Neo, sürekli artan donanıma karşı ezici bir alternatif olarak ortaya çıktı, ancak A18 mobil telefon çipi ve 8GB VRAM ile ciddi bir çıkarım makinesi olarak yarışamaz.

Fakat son kullanıcı bir çıkarım çiftliği kurmak istemiyorsa ve sadece boşta kalan M[n] kapasitesini kiralayabilirse, potansiyel kazançlar önemli görünüyor, eğer soğuk başlangıç sorunu nhanh chóng çözülürse ve platform kendisini sadece bir deneysel talep olarak değil, daha fazla şey olarak tanıtırsa.

Farklı Çıkarım

Birçok yorumcu, DarkBloom’un planında PiedPiper/Torrent tarzı bir demokrasiyi tanıyordu, ancak çıkarım görevleri bir film dosyasını multiple hashed parçalara bölmek kadar kolayca bölünemez, böylece daha sonra bir torrent istemcisinde yeniden birleştirilebilir.

DarkBloom modeli, bir katılımcının M[n] çipi bir çıkarım görevinin x%’sini ele almasını önermiyor. Mainstream kullanımda, yalnızca birkaç framework veya metodoloji, NVIDIA’nın TensorRT LLM gibi, pipeline paralelliği kullanarak, veya DeepSpeed’in parçalanmış çıkarım gibi, model paralelliği (MP) kullanarak, tek bir çıkarım görevi üzerinde çapraz-GPU kullanımını başarmak mümkün.

Bunun yerine, DarkBloom etkinleştirilmiş Mac’iniz listeden bir modeli indirir ve çalıştırır ve 100% çıkarım için ödeme yapan kullanıcılar için, uçtan uca şifreleme ile ve donanım tarafından doğrulanan düğümlerde, sağlayıcılar verilere çalıştırma sırasında erişemez.

İlgili bir kullanıcı oturumu ne kadar uzun sürebileceği belli değil; AI hobiistleri genellikle RunPod gibi çıkarım çiftliklerinden bir GPU elde etmeye alışkınlar; zwar, istenilen GPU’yu en yüksek kullanım sırasında elde etmek biraz zaman alabilir, ancak kullanıcı oturum süresince GPU’ya erişebilir.

Öyleyse, bir ödeme yapan kullanıcı tek bir kiralık DarkBloom Mac’in M-series AI yeteneklerini çok uzun bir oturum için kullanabilir, eğer istemciler arasında bir lojistik veya uyum avantajı yoksa.

Macs, yalnızca birkaç teknik konfigürasyon olmasından dolayı bu yaklaşım için seçildi ve bu nedenle bir istemciye uygun boyutta modeller atanabilir.

Ek olarak, DarkBloom ağına katkıda bulunabilen Mac’ler, kullanıcı ve sağlayıcı arasında bir duvar garantileyen bir donanım güvenli bölgeye sahiptir.

Bu faktörler, daha genel, özel olarak hazırlanmış kurulumlar ve son 6-7 yıl içinde mevcut olan yüzlerce veya binlerce laptop ve masaüstü Windows ve Linux makineleri üzerinde kolayca akla gelmez.

Ancak, daha büyük olmayan Mac donanım havuzunun, karakteristiklerinin rasyonelleştirilebilmesi durumunda, büyük bir talebi karşılayabileceği açık.

Yasal Denetim?

Bu tür bir ‘demokratik’ çözümün karşılaştığı en büyük sorun, önerilen sürecin kapalı doğası; dünya çapındaki hükümetler, internet anonimliğini etkili bir şekilde sonlandırabilecek yeni yasalar çıkarmakla meşgul ve bu dönemde gizlilik yanlısı bir zihniyete sahip değil.

Öyleyse,.random AI çıkarımının, filtreler, kontroller veya dengeler olmadan, bir dağıtık ağ (eğer DarkBloom’u böyle adlandırabilirsek – daha çok bir çıkarım pazarı) boyunca gerçekleştirilmesi olasılığı, ironik bir şekilde uzak görünüyor.

Muhtemelen, DarkBloom veya sonraki mesh çıkarım şemaları, gizliliği yalnızca host‘arestricting backdoors’e razı olmak zorunda kalacak; istemci işleri çalışırken sağlayıcılar bunları göremeyecek, ancak döndürülen çıkarım verileri hükümet ajansları tarafından middle-man (MiTM) yapıları aracılığıyla sağlanacak.

Muhtemelen, OS düzeyinde kimlik kontrolleri öneren yeni yasaların geniş çapta benimsenmesi durumunda, bu önlemler gereksiz hale gelebilir. AncakWithout них, current iklimi dikkate alarak, bir DarkBloom tarzı ağ, AI tabanlı yasadışı faaliyetlerin gizlice gerçekleşebileceği bir AI ‘karanlık ağı’ olarak kabul edilebilir.

Ayrıştırmalar

Şimdiye kadar, gerçekten ‘PiedPiper-style’ bir sistem yapmayı deneyen çok az gerçek girişimdi; DarkBloom, bir ucu temsil ediyor, bireysel makinelere tam görevleri dağıtıyor, çoğu üretim sistemi ise sorunu tamamen tránh ediyor ve çıkarımı tek bir hostta tutuyor.

Ancak, ‘paylaşılan yürütme’ye biraz daha yakın olan birkaç proje var.

Petals, kendisini ‘BitTorrent tarzı’ bir ağ olarak tanımlıyor ve aktif olarak, internet bağlantılı düğümler arasında transformer bloklarını dağıtıyor ve aralarında ara durumları geçiriyor:

Petals’in tipik bir akışı, tek bir çıkarım isteğinin, her biri model katmanlarının bir alt kümesini tutan, birbirinden bağımsız olarak işletilen düğümler arasında yönlendirildiği; DarkBloom’dan farklı olarak, yürütme ağı boyunca parçalanıyor ve her atlama sırasında gecikme ve maruz kalma artıyor, gerçek bir mesh tarzı sistemini yaklaşıyor. Kaynak

Hivemind benzer peer-to-peer koordinasyon ve uzman yönlendirmeyi, eğitim modelleri yerine already trained modellerden çıkarım için dener; ve Lattica böyle sistemlerin uygulanabilir olmasını sağlayan alt düzey ağ katmanına odaklanır:

Lattica’nın şeması, NAT geçişi, içerik dağıtımı ve DHT tabanlı koordinasyonu (Dağıtılmış Hash Tablosu) işleyen bir alt düzey peer-to-peer altyapısını gösteriyor; DarkBloom veya Petals gibi, Lattica kendisi bir çıkarım sistemi tanımlamıyor, ancak birini inşa etmek için gerekli ağ ve senkronizasyon ilkelini sağlıyor. Kaynak –

Bu modeller mesh idealine yaklaşıyor, ancak gecikme, kararsızlık ve maruz kalma pahasına.

exo çıkarımı yerel bir küme içinde tutuyor, hızlı ara bağlantılara güvenerek, GPU’lara iş yükünü dağıtıyor, kamu internetine güvenmiyor. Uygulamada, bu tür bir kurulum daha çok bir dağıtık mesh gibi davranıyor ve daha çok tek bir genişletilmiş makine gibi davranıyor, ancak bu yaklaşımın daha geniş bir ağ üzerinde genişletilmesi mümkün:

exo’dan bir küme görünümü, yerel Apple Silicon makinelerinin bir modeli ortaklaşa barındırdığını, pipeline veya tensor parçalanmasının katmanları düğümler arasında dağıttığını gösteriyor; WAN tabanlı sistemlerin aksine, exo hızlı yerel ara bağlantılara güveniyor ve böylece birden fazla cihazı tek bir bileşik çıkarım makinesine dönüştürüyor. Kaynak

Son olarak, genellikle bahsedilen beberapa yaklaşım çıkarımı hiç ele almıyor: 2016’dan Google’un FedAvg; MIT’in 2018’de SplitNN; ve 2020 Avustralya teklifi SplitFed, dağıtılmış eğitim veya gizlilik korumalı veri alışverişi ile ilgili, canlı çıkarım isteklerini karşılamayla değil.

Eğitim, çıkarımdan çok daha fazla kaynak yoğun bir prospekt, bu nedenle böyle bir yükü dağıtmaya able olan ağlar, daha sonra hobi ve iş ilgi görebilir.

Sonuç

Çünkü Silicon Vadisi‘ndeki teknolojinin çoğu vahşi icat idi, PiedPiper gerçekten hash-driven (yani, verilerin parçalara bölünmesi ve dağıtılması) mı yoksa bir görevi veya oturumu herhangi bir düğümde çözüp çözmeyeceğini bilmiyoruz, ki bu da DarkBloom’un yaptığı şey.

Şu anda, veri merkezi düzeyinde eğitim ve çıkarım donanımı sağlamak için yapılan çaba, sektörün herkesi RunPod tarzı bir şekilde hizmet etmek veya en kârlı kurumsal düzeyde hizmet sağlamak için hazırlanıyor olduğunu gösteriyor – bir teşvik, AI dağıtımı中的 genel hendonksiyon eksikliği tarafından zayıflatılıyor.

Eğer mesh-çıkarım bir gerçeklik olursa, akla gelen ilk denemelerden biri, OpenAI ve Anthropic gibi mevcut büyük oyuncular tarafından gelebilir; bu şirketler, büyük bir uygulama kurulumu içinde özel sistemler dağıtabilir veya kolayca kurulabilen açık kaynak sistemleri üzerinde işbirliği yapabilir.

Bir kullanıcı tarafından yönlendirilen, daha demokratik bir mesh ağı ortaya çıkabileceğine gelince, gerçek bir AI eşdeğeri BitTorrent – birkaç faktör buna karşı:

İlk olarak, şifreleme ve anonimlik karşıtı küresel hareket, bu tür sistemlerin anonimlik mekanizmalarını ortadan kaldırabilir veya zayıflatabilir, Örneğin, uçtan uca şifreleme ve VPN’ler gibi.

İkincisi, AI ‘suistimaline’ veya açık kaynak çerçevelerinin anonim çalışmasına karşı çıkan yeni veya önerilen düzenlemeler, küçük oyuncular için uyum maliyetini artırabilir ve onları piyasadan çıkarabilir.

Son olarak, büyük bir sektör oyuncusunun, Embrace, Extend and Extinguish (EEE, as Facebook and Twitter arguably did with more ad hoc internet communities), mesh modelini kendi avantajına göre işletme yeteneği, neredeyse tüm kullanıcıların benimseme sürtünmesinden hoşlanmadığı bir pazarda, anlamına gelir.

İlk olarak 16 Nisan 2026 Perşembe günü yayınlandı