Nvidia kopplar ihop hemmadatorer till ett AI‑inferenskluster med PAIR

Nvidia släppte den 3 september 2026 beta‑versionen av Personal AI Router (PAIR), fri öppen källkod‑programvara som kopplar ihop kompatibla datorer i ett hemnätverk till ett enda kluster för lokal AI‑inferens och dirigerar förfrågningar från agent‑arbetsbelastningar till de maskiner som är tillgängliga.

Trots namnet är PAIR varken en hårdvarurouter och inte en ny inferensmotor. Enligt Nvidias tekniska blogginlägg som presenterade programvaran kör motorer som Ollama och LM Studio fortfarande varje modell på en vald maskin, medan PAIR upptäcker deltagande system, kontrollerar om varje system är redo för en förfrågan, schemalägger oberoende jobb och returnerar varje svar till den applikation som initierade det.

Vad betaversionen stödjer

PAIR‑betan körs på Windows 11, DGX OS, Ubuntu 14.04 och macOS Tahoe, med x64‑ och arm64‑arkitekturer som stöds på de tre operativsystemen; projektets dokumentation beskriver Windows på ARM som experimentellt. Nvidias produktsida listar den stödjade hårdvaran som alla GeForce RTX‑GPU:er från 20‑serien och framåt, DGX Spark‑ och GB10‑system samt Mac‑datorer med Apple M4‑chip eller nyare, tillsammans med minst 8 GB RAM och 20 GB eller mer rekommenderat diskutrymme. Det tekniska blogginlägget listar dessutom RTX PRO‑arbetsstations‑GPU:er på Turing‑arkitekturen och nyare.

Ingen internetanslutning krävs för att använda den, men en behövs för att ladda ner modeller. Produktsidan anger att uppsättning av ett kluster inte kräver några speciella kablar eller rack: användare laddar ner programvaran, lägger till sina enheter och kör sina AI‑applikationer genom den. Nvidia publicerar PAIR‑källkoden under Apache License 2.0, och säger att utvecklare kan granska koden, rapportera problem och bidra med förbättringar av upptäckt, parkoppling, routning, motorintegration, slutpunkter och användarupplevelsen.

Routning utan att poola GPU:er

Nvidia beskriver PAIR som en virtuell inferensrouter snarare än ett sätt att slå samman hårdvara. Varje förfrågan tilldelas en enda kvalificerad nod och stannar där under hela sin livstid; programvaran poolar inte GPU‑minne, kombinerar inte GPU:er till en större logisk accelerator, delar inte en enskild modell över maskiner eller delar en pågående inferensförfrågan mellan noder.

Applikationer ansluter via Ollama‑kompatibla och OpenAI‑kompatibla proxy‑slutpunkter, som PAIR skapar genom att ta över de standardportar som de två motorerna använder. Nvidia säger att detta innebär att agent‑ramverk kan fortsätta använda det gränssnitt de redan förstår, utan någon ny kluster‑API att integrera. En nod blir kvalificerad för en förfrågan endast när en stödjande motor är aktiverad på den och den exakt begärda modellen finns där, och PAIR föredrar noder som den redan vet innehåller modellen. Modeller behöver inte vara identiska i hela klustret; att ladda samma modell‑tagg på fler noder ger schemaläggaren en större pool av kvalificerade noder.

För varje ny förfrågan väger schemaläggaren om en parkopplad nod är online och redo, om en stödjande motor är aktiverad, om den begärda modellen finns, den aktuella arbetsbelastningen inklusive aktiva jobb, samt befintlig GPU‑användning som en grafikintensiv applikation. Noder kan bidra med kapacitet när de är tillgängliga och släppa av när de behövs, till exempel när en bärbar dator går i viloläge, stängs av eller lämnar nätverket.

Upptäckt, säkerhet och integritet

Efter installation använder PAIR lokalt nätverksupptäckt via mDNS för att automatiskt hitta närliggande system, och en nod kan också läggas till via IP‑adress. Parkoppling av två maskiner sker med en sexsiffrig PIN‑kod som visas på den inbjudande maskinen och matas in på den inbjudna. Nvidia uppger att all nod‑till‑nod‑kommunikation blockeras tills den säkra parkopplingen är etablerad, varefter trafiken säkras med MTLS och genererade certifikat. Företaget positionerar programvaran för privat lokal inferens, där promptar, filer och agent‑kontext förblir på användarens hemnätverk istället för att skickas till en molnbaserad inferenstjänst. Repository‑dokumentationen varnar användare att läsa säkerhetsnotiserna innan PAIR distribueras på ett icke‑betrott eller delat nätverk, eftersom den innehåller lokala HTTP‑slutpunkter, LAN‑upptäckt och klusternätverk.

Målarbetload och en inofficiell demo

Nvidia säger att PAIR är avsedd för arbetsbelastningar som genererar många oberoende förfrågningar samtidigt, såsom multi‑agent‑applikationer där en huvudagent delar upp en komplex uppgift i mindre jobb för underagenter. I en demonstration med Hermes Desktop‑agenten och Ollama rapporterade företaget att en fem‑underagent‑uppgift med Qwen 3.6 35B A3B‑modellen tog i genomsnitt 18 minuter på en ensam RTX Spark‑laptop, medan ett tre‑enhets‑PAIR‑kluster bestående av en RTX Spark‑laptop, en DGX Spark och en RTX 5090 slutförde samma arbetsbelastning på i genomsnitt 8 minuter och 48 sekunder. Nvidia karakteriserade resultatet som en inofficiell, konfigurationsspecifik demonstration snarare än ett generellt benchmark eller ett löfte om linjär skalning, och påpekade att resultaten beror på arbetsbelastningens parallellism, modell, motorinställningar, hårdvara, nätverk och nodtillgänglighet.

Företaget sade att starkt sekventiella uppgifter, arbetsbelastningar dominerade av ett långt modell‑anrop, eller konfigurationer där endast en nod har den begärda modellen kan ge mindre nytta. Repository‑dokumentationen tillägger att programvaran för närvarande levereras med en enda schemaläggningspolicy som kombinerar köat arbete med en grov GPU‑användningssignal, vilket gör den bättre lämpad för liknande maskiner än för ett starkt blandat kluster, och att Nvidia önskar feedback för att göra schemaläggaren smartare utan fasta åtaganden om vad som levereras eller när.