Nvidia spojuje domácí počítače do jednoho klastru pro AI inference pomocí PAIR

Nvidia 3. září 2026 vydala beta verzi Personal AI Router (PAIR), bezplatného open-source softwaru, který propojuje kompatibilní počítače v domácí síti do jednoho clusteru pro lokální AI inference a směruje požadavky z agentních úloh na dostupné stroje.

Navzdory názvu PAIR není hardwarovým routerem ani novým inference enginem. Podle technického blogového příspěvku Nvidia, který software oznamuje, enginy jako Ollama a LM Studio stále spouštějí každý model na vybraném stroji, zatímco PAIR objevuje účastnící se systémy, sleduje, zda je každý z nich připraven na požadavek, plánuje nezávislé úlohy a vrací každou odpověď aplikaci, která ji iniciovala.

Co beta podporuje

Beta verze PAIR běží na Windows 11, Linuxu a macOS, přičemž architektury x64 a arm64 jsou podporovány na všech třech operačních systémech; dokumentace projektu popisuje Windows na ARM jako experimentální. Produktová stránka uvádí podporovaný hardware jako všechny grafické karty GeForce RTX od řady 20 výše, systémy DGX Spark a GB10 a počítače Mac s čipy Apple M4 nebo novějšími, spolu s minimálně 8 GB RAM a doporučeným úložištěm 20 GB a více. Technický blogový příspěvek také uvádí pracovní grafické karty RTX PRO na architektuře Turing a novější.

Pro provoz není vyžadováno žádné internetové připojení, i když je potřeba ke stažení modelů. Produktová stránka uvádí, že nastavení clusteru nevyžaduje žádné speciální kabely ani stojany: uživatelé si stáhnou software, přidají svá zařízení a spustí své AI aplikace skrze něj. Nvidia zveřejňuje zdrojový kód PAIR pod licencí Apache License 2.0 a uvádí, že vývojáři mohou kód prohlížet, hlásit problémy a přispívat ke zlepšením v oblasti objevování, párování, směrování, integrace enginů, koncových bodů a uživatelského zážitku.

Směrování bez sdružování GPU

Nvidia popisuje PAIR jako virtuální inference router, nikoli jako způsob sloučení hardwaru. Každý požadavek je přiřazen jednomu oprávněnému uzlu a zůstává na něm po celou dobu svého životního cyklu; software nesdružuje paměť GPU, nespojuje GPU do většího logického akcelerátoru, nerozděluje jeden model mezi stroje ani nerozděluje probíhající inference požadavek mezi uzly.

Aplikace se připojují přes proxy koncové body kompatibilní s Ollama i OpenAI, které PAIR vytváří převzetím výchozích portů, jež oba enginy používají. Nvidia uvedla, že to znamená, že agentní rozhraní mohou nadále používat rozhraní, které již znají, aniž by bylo potřeba nového API pro cluster. Uzel se stane oprávněným pro požadavek pouze tehdy, když je na něm povolen podporovaný engine a je v něm přítomen přesně požadovaný model, a PAIR dává přednost uzlům, o nichž již ví, že model obsahují. Modely nemusí být v celém clusteru identické; načtení stejného štítku modelu na více uzlů poskytuje plánovači větší pool oprávněných uzlů.

Pro každý nový požadavek plánovač zvažuje, zda je spárovaný uzel online a připraven, zda je povolen podporovaný engine, zda je požadovaný model přítomen, jaká je aktuální zátěž včetně aktivních úloh, a jaké je stávající využití GPU, například při běhu graficky náročné aplikace. Uzly mohou přispívat kapacitou, když jsou k dispozici, a odstupovat, když je potřeba, například když notebook usne, se vypne nebo opustí síť.

Objevování, bezpečnost a soukromí

Po instalaci PAIR používá objevování v lokální síti prostřednictvím mDNS k automatickému vyhledání blízkých systémů a uzel lze také přidat pomocí IP adresy. Párování dvou počítačů využívá šestimístný PIN zobrazený na zvoucím zařízení a zadávaný na pozvaném. Nvidia uvedla, že veškerá komunikace mezi uzly je blokována, dokud není navázáno zabezpečené párování, poté je provoz zabezpečen pomocí MTLS a generovaných certifikátů. Společnost prezentuje software pro soukromou lokální inference, přičemž výzvy, soubory a kontext agenta zůstávají v domácí síti uživatele místo toho, aby byly odesílány do cloudové inference služby. Dokumentace repozitáře varuje uživatele, aby si před nasazením PAIR v nedůvěryhodné nebo sdílené síti přečetli bezpečnostní poznámky, protože zahrnuje lokální HTTP koncové body, LAN objevování a síťování clusteru.

Cílové úlohy a neoficiální demo

Nvidia uvedla, že PAIR je zaměřen na úlohy, které najednou generují mnoho nezávislých požadavků, například multi-agent aplikace, kde hlavní agent rozděluje složitý úkol na menší úlohy pro podagenty. V demonstraci s použitím agenta Hermes Desktop a Ollama společnost oznámila, že úkol s pěti podagenty využívající model Qwen 3.6 35B A3B trval v průměru 18 minut na jediném notebooku RTX Spark, zatímco třízařízeníový PAIR cluster kombinující notebook RTX Spark, DGX Spark a RTX 5090 dokončil stejný úkol v průměru 8 minut a 48 sekund. Nvidia charakterizovala výsledek jako neoficiální, specifický pro konfiguraci, spíše než obecný benchmark nebo slib lineárního škálování, a upozornila, že výsledky závisí na paralelismu úlohy, modelu, nastavení enginu, hardwaru, síti a dostupnosti uzlů.

Společnost uvedla, že vysoce sekvenční úlohy, úlohy dominované jedním dlouhým voláním modelu nebo konfigurace, kde pouze jeden uzel obsahuje požadovaný model, mohou mít menší přínos. Dokumentace repozitáře doplňuje, že software v současnosti poskytuje jedinou politiku plánování, která kombinuje frontu úloh s hrubým signálem využití GPU, což jej činí vhodnějším pro podobné stroje než pro silně smíšený cluster, a že Nvidia žádá o zpětnou vazbu na zlepšení inteligence plánovače bez pevně daných závazků, co a kdy bude vydáno.

Zdroje původního článku: github.com [1]