Yapay zeka modelleri ve platformları

Nvidia, Ev Bilgisayarlarını PAIR ile Tek Bir AI Çıkarım Kümesine Bağlıyor

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin

Nvidia, 3 Eylül 2026’da Personal AI Router (PAIR) beta sürümünü yayınladı; uyumlu bilgisayarları ev ağında tek bir kümeye bağlayan, yerel AI çıkarımı için ücretsiz açık kaynaklı bir yazılım olup, ajan iş yüklerinden gelen istekleri mevcut makineler arasında yönlendirir.

Adına rağmen PAIR bir donanım yönlendiricisi ya da yeni bir çıkarım motoru değildir. Nvidia’nın teknik blog gönderisine göre, Ollama ve LM Studio gibi motorlar hâlâ her modeli seçilen bir makinede çalıştırırken, PAIR katılan sistemleri keşfeder, her birinin isteğe hazır olup olmadığını izler, bağımsız işleri zamanlar ve her yanıtı onu başlatan uygulamaya geri gönderir.

Beta Neler Destekliyor

PAIR beta, Windows 11, Linux ve macOS üzerinde çalışır; x64 ve arm64 mimarileri üç işletim sistemi boyunca desteklenir; projenin belgelerinde Windows on ARM deneysel olarak tanımlanmıştır. Nvidia’nın ürün sayfası, desteklenen donanımı 20. Seri’den itibaren tüm GeForce RTX GPU’ları, DGX Spark ve GB10 sistemleri ve Apple M4 çipleri veya daha yeni çiplere sahip Mac’ler olarak listeler; ayrıca minimum 8 GB RAM ve önerilen 20 GB veya daha fazla disk alanı gerektirir. Teknik blog gönderisi ayrıca Turing mimarisi ve sonrası RTX PRO iş istasyonu GPU’larını da listeler.

Çalışma için internet bağlantısı gerekmez, ancak modelleri indirmek için bir bağlantı gerekir. Ürün sayfası, bir küme kurmanın özel kablo veya raf gerektirmediğini: kullanıcıların yazılımı indirip cihazlarını ekleyerek AI uygulamalarını bunun üzerinden çalıştırabileceklerini belirtir. Nvidia, PAIR kaynak kodunu Apache License 2.0 altında yayınlamaktadır; geliştiricilerin kodu inceleyebileceği, sorun bildirebileceği ve keşif, eşleştirme, yönlendirme, motor entegrasyonu, uç noktalar ve kullanıcı deneyimi konularında iyileştirmeler katkıda bulunabileceği söylenmiştir.

GPU’ları Havuzlamadan Yönlendirme

Nvidia, PAIR’ı donanımı birleştirmek yerine sanal bir çıkarım yönlendiricisi olarak tanımlıyor. Her istek, uygun bir düğüme atanır ve ömrü boyunca o düğümde kalır; yazılım GPU belleğini havuzlamaz, GPU’ları daha büyük mantıksal bir hızlandırıcıda birleştirmez, tek bir modeli makineler arasında bölmez ya da çalışan bir çıkarım isteğini düğümler arasında bölüştürmez.

Uygulamalar, Ollama ve OpenAI uyumlu proxy uç noktaları üzerinden bağlanır; PAIR bu uç noktaları iki motorun kullandığı varsayılan portları devralarak oluşturur. Nvidia, bunun ajanların zaten bildikleri arayüzü kullanmaya devam edebileceği, yeni bir küme API’sine entegrasyon gerektirmediği anlamına geldiğini belirtti. Bir düğüm, yalnızca desteklenen bir motor etkinleştirildiğinde ve tam olarak istenen model orada bulunduğunda isteğe uygun hale gelir ve PAIR, modeli zaten tuttuğunu bildiği düğümleri tercih eder. Modeller küme içinde aynı olmak zorunda değildir; aynı model etiketi daha fazla düğüme yüklendiğinde zamanlayıcı daha geniş bir uygun havuza sahip olur.

Her yeni istek için zamanlayıcı, eşleşen bir düğümün çevrimiçi ve hazır olup olmadığını, desteklenen bir motorun etkinleştirilip etkinleştirilmediğini, istenen modelin bulunup bulunmadığını, aktif işleri içeren mevcut iş yükünü ve çalışan bir grafik yoğun uygulama gibi mevcut GPU kullanımını değerlendirir. Düğümler, kullanılabilir olduklarında kapasite sağlayabilir ve gerektiğinde, örneğin bir dizüstü bilgisayar uykuya geçtiğinde, kapandığında ya da ağdan çıktığında devre dışı kalabilir.

Keşif, Güvenlik ve Gizlilik

Kurulumdan sonra PAIR, mDNS aracılığıyla yerel ağ keşfi yaparak yakın sistemleri otomatik olarak bulur ve bir düğüm IP adresiyle de eklenebilir. İki makineyi eşleştirmek, davet eden makinede gösterilen ve davet edilen makinede girilen altı haneli bir PIN kullanır. Nvidia, güvenli eşleştirme kuruluncaya kadar tüm düğüm‑düğüm iletişiminin engellendiğini, ardından trafiğin MTLS ve oluşturulan sertifikalarla güvence altına alındığını belirtti. Şirket, yazılımı özel yerel çıkarım için konumlandırıyor; istemler, dosyalar ve ajan bağlamı kullanıcının ev ağında kalıyor, bulut çıkarım hizmetine gönderilmiyor. Depodaki belgeler, PAIR’ı güvensiz veya paylaşılan bir ağda dağıtmadan önce güvenlik notlarını okumanızı öneriyor; çünkü yerel HTTP uç noktaları, LAN keşfi ve küme ağ iletişimi içeriyor.

Hedef İş Yükleri ve Resmi Olmayan Bir Demo

Nvidia, PAIR’ın birden çok bağımsız isteği aynı anda ortaya çıkaran iş yüklerine yönelik olduğunu, örneğin lider bir ajanın karmaşık bir görevi alt ajanlar için daha küçük işlere böldüğü çok‑ajanlı uygulamalara, söyledi. Hermes Desktop ajanı ve Ollama kullanılarak yapılan bir gösteride, şirket Qwen 3.6 35B A3B modelini kullanan beş alt ajanlık bir görevin tek bir RTX Spark dizüstü bilgisayarda ortalama 18 dakika sürdüğünü, üç cihazlı bir PAIR kümesinin (RTX Spark dizüstü, bir DGX Spark ve bir RTX 5090) aynı işi ortalama 8 dakika 48 saniyede tamamladığını bildirdi. Nvidia, sonucun genel bir kıyaslama ya da doğrusal ölçekleme vaadi olmaktan ziyade, yapılandırmaya özgü resmi olmayan bir gösterim olduğunu, sonuçların iş yükü paralelliği, model, motor ayarları, donanım, ağ ve düğüm kullanılabilirliğine bağlı olduğunu belirtti.

Şirket, yüksek derecede sıralı görevlerin, tek uzun model çağrısının hâkim olduğu iş yüklerinin veya yalnızca bir düğümün istenen modeli barındırdığı yapılandırmaların daha az fayda sağlayabileceğini belirtti. Depo belgeleri, yazılımın şu anda kuyruktaki işi kaba bir GPU kullanım sinyaliyle birleştiren tek bir zamanlama politikasını içerdiğini, bunun benzer makineler için yüksek derecede karışık bir kümeden daha uygun olduğunu ve Nvidia’nın ne zaman ve neyin gönderileceği konusunda sabit taahhütler vermeden zamanlayıcıyı daha akıllı hâle getirmek için geri bildirim istediğini ekliyor.

Theo Nash, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; yapay zekâ altyapısını, hesaplama kaynaklarını ve modern yapay zekâya güç veren donanım sistemlerini inceler. Çalışması, büyük ölçekli AI iş yüklerinin teknik temellerine odaklanır; buna veri merkezleri, hızlandırıcılar, ağlar ve bunları birleştiren yazılım yığınları dahildir.

Analitik ve mühendislik odaklı bir bakış açısıyla, Theo GPU'larda, özel silikonlarda, bellek mimarilerinde ve dağıtık sistemlerdeki ilerlemelerin yeni nesil AI modellerini nasıl mümkün kıldığını inceler. Performans ödünleşimleri, enerji verimliliği, ölçeklenebilirlik ve AI altyapısının gerçek dünyadaki dağıtımını şekillendiren pratik kısıtlamalara özellikle dikkat eder.

Theo Nash tarafından yazılan makaleler AI tarafından oluşturulmuş olup, Unite.AI’nin editöryal ekibi tarafından teknik doğruluk, açıklık ve hızla evrilen AI hesaplama ortamının sorumlu bir şekilde ele alınmasını sağlamak için gözden geçirilir.