Nvidia conectează calculatoarele de acasă într-un singur cluster de inferență AI cu PAIR

Nvidia, pe 3 septembrie 2026, a lansat versiunea beta a Personal AI Router (PAIR), un software gratuit open-source care leagă calculatoarele compatibile dintr-o rețea de acasă într-un singur cluster pentru inferență AI locală, direcționând cererile din sarcinile agenților prin mașinile disponibile.

În ciuda denumirii, PAIR nu este un router hardware și nici un motor de inferență nou. Conform postării tehnice pe blogul Nvidia care anunță software‑ul, motoare precum Ollama și LM Studio rulează în continuare fiecare model pe o mașină selectată, în timp ce PAIR descoperă sistemele participante, monitorizează dacă fiecare este pregătit pentru o cerere, programează sarcini independente și returnează fiecare răspuns aplicației care a inițiat-o.

Ce suportă versiunea beta

Versiunea beta PAIR rulează pe Windows 11, Linux și macOS, cu arhitecturi x64 și arm64 suportate pe cele trei sisteme de operare; documentația proiectului descrie Windows pe ARM ca experimental. Pagina de produs a Nvidia enumeră hardware‑ul suportat ca toate GPU‑urile GeForce RTX din seria 20 în sus, sistemele DGX Spark și GB10, și Mac‑urile cu cipuri Apple M4 sau mai noi, alături de un minim de 8 GB RAM și 20 GB sau mai mult spațiu de disc recomandat. Postarea tehnică pe blog enumeră, de asemenea, GPU‑urile RTX PRO pentru stații de lucru pe arhitectura Turing și mai noi.

Nu este necesară o conexiune la internet pentru funcționare, deși una este necesară pentru descărcarea modelelor. Pagina de produs afirmă că configurarea unui cluster nu necesită cabluri speciale sau rack‑uri: utilizatorii descarcă software‑ul, adaugă dispozitivele și rulează aplicațiile AI prin el. Nvidia publică codul sursă PAIR sub licența Apache 2.0, iar dezvoltatorii pot inspecta codul, raporta probleme și contribui la îmbunătățiri ale descoperirii, asociării, rutării, integrării motorului, punctelor finale și experienței utilizatorului.

Rutare fără gruparea GPU‑urilor

Nvidia descrie PAIR ca un router virtual de inferență, nu ca o metodă de a combina hardware‑ul. Fiecare cerere este atribuită unui nod eligibil și rămâne acolo pe durata ei; software‑ul nu grupează memoria GPU, nu combină GPU‑urile într-un accelerator logic mai mare, nu împarte un singur model pe mai multe mașini și nu împarte o cerere de inferență în curs între noduri.

Aplicațiile se conectează prin puncte finale proxy compatibile cu Ollama și OpenAI, pe care PAIR le creează preluând porturile implicite utilizate de cele două motoare. Nvidia a declarat că aceasta înseamnă că harness‑urile agenților pot continua să folosească interfața pe care o cunosc deja, fără a fi necesar un API nou de cluster. Un nod devine eligibil pentru o cerere numai când un motor suportat este activat pe el și modelul solicitat exact este prezent, iar PAIR preferă nodurile pe care deja știe că dețin modelul. Modelele nu trebuie să fie identice în întregul cluster; încărcarea aceluiași tag de model pe mai multe noduri oferă programatorului un pool mai mare de noduri eligibile.

Pentru fiecare cerere nouă, programatorul evaluează dacă un nod asociat este online și pregătit, dacă un motor suportat este activat, dacă modelul solicitat este prezent, sarcina curentă inclusiv joburile active și utilizarea existentă a GPU‑ului, cum ar fi o aplicație grafică intensă în execuție. Nodurile pot contribui cu capacitate când sunt disponibile și se retrag când este necesar, de exemplu când un laptop intră în repaus, se închide sau părăsește rețeaua.

Descoperire, securitate și confidențialitate

După instalare, PAIR folosește descoperirea în rețeaua locală prin mDNS pentru a găsi automat sistemele din apropiere, iar un nod poate fi adăugat și prin adresă IP. Asocierea a două mașini utilizează un PIN de șase cifre afișat pe mașina care invită și introdus pe cea invitată. Nvidia a declarat că toate comunicațiile nod‑la‑nod sunt blocate până la stabilirea asociării securizate, după care traficul este securizat cu MTLS și certificate generate. Compania poziționează software‑ul pentru inferență locală privată, cu solicitări, fișiere și contextul agentului rămânând pe rețeaua de acasă a utilizatorului, în loc să fie trimise către un serviciu de inferență în cloud. Documentația depozitului avertizează utilizatorii să citească notele de securitate înainte de a implementa PAIR pe o rețea nesigură sau partajată, deoarece include puncte finale HTTP locale, descoperire LAN și rețea de cluster.

Sarcini țintă și o demonstrație neoficială

Nvidia a declarat că PAIR vizează sarcini care expun multe cereri independente simultan, cum ar fi aplicațiile multi‑agent în care un agent principal împarte o sarcină complexă în joburi mai mici pentru subagenți. Într-o demonstrație utilizând agentul Hermes Desktop și Ollama, compania a raportat că o sarcină cu cinci subagenți folosind modelul Qwen 3.6 35B A3B a durat în medie 18 minute pe un singur laptop RTX Spark, în timp ce un cluster PAIR cu trei dispozitive, combinând un laptop RTX Spark, un DGX Spark și un RTX 5090, a finalizat aceeași sarcină în medie 8 minute și 48 de secunde. Nvidia a caracterizat rezultatul ca o demonstrație neoficială, specifică configurației, și nu ca un benchmark general sau o promisiune de scalare liniară, subliniind că rezultatele depind de paralelismul sarcinii, model, setările motorului, hardware‑ul, rețeaua și disponibilitatea nodurilor.

Compania a precizat că sarcinile foarte secvențiale, sarcinile dominate de un singur apel lung de model sau configurațiile în care doar un nod deține modelul solicitat pot avea beneficii mai reduse. Documentația depozitului adaugă că software‑ul livrează în prezent o singură politică de programare care combină lucrările în coadă cu un semnal grosier de utilizare a GPU‑ului, fiind astfel mai potrivit pentru mașini similare decât pentru un cluster foarte mixt, și că Nvidia dorește feedback pentru a face programatorul mai inteligent, fără angajamente fixe privind ce va fi livrat sau când.