Nvidia kobler hjemme‑datamaskiner sammen til én AI‑inferenzklynge med PAIR

Nvidia lanserte den 3. september 2026 beta‑versjonen av Personal AI Router (PAIR), gratis åpen kildekode‑programvare som kobler kompatible datamaskiner i et hjemmenettverk til én enkelt klynge for lokal AI‑inferenz, og ruter forespørsler fra agent‑arbeidsbelastninger over de tilgjengelige maskinene.

Til tross for navnet er PAIR verken en maskinvare‑router eller en ny inferensmotor. Ifølge Nvidias tekniske blogginnlegg som kunngjør programvaren, kjører motorer som Ollama og LM Studio fortsatt hver modell på en valgt maskin, mens PAIR oppdager deltakende systemer, sporer om hver enkelt er klar for en forespørsel, planlegger uavhengige jobber og returnerer hvert svar til applikasjonen som initierte det.

Hva beta‑versjonen støtter

PAIR‑betaen kjører på Windows 11, Linux og macOS, med x64‑ og arm64‑arkitekturer støttet på alle tre operativsystemene; prosjektets dokumentasjon beskriver Windows på ARM som eksperimentell. Nvidias produktside lister opp støttet maskinvare som alle GeForce RTX‑GPU‑er fra 20‑serien og oppover, DGX Spark‑ og GB10‑systemer, samt Mac‑er med Apple M4‑brikker eller nyere, i tillegg til minimum 8 GB RAM og 20 GB eller mer anbefalt lagringsplass. Det tekniske blogginnlegget nevner også RTX PRO‑arbeidsstasjons‑GPU‑er på Turing‑arkitekturen og nyere.

Ingen internettforbindelse er nødvendig for drift, selv om en trengs for å laste ned modeller. Produktsiden oppgir at oppsett av en klynge ikke krever spesielle kabler eller rack: brukere laster ned programvaren, legger til enhetene sine og kjører AI‑applikasjonene gjennom den. Nvidia publiserer PAIR‑kildekoden under Apache‑lisens 2.0, og sier at utviklere kan inspisere koden, rapportere problemer og bidra med forbedringer av oppdagelse, paring, ruting, motorintegrasjon, endepunkter og brukeropplevelsen.

Ruting uten å samle GPU‑er

Nvidia beskriver PAIR som en virtuell inferensrouter snarere enn en metode for å slå sammen maskinvare. Hver forespørsel tildeles én kvalifisert node og forblir der gjennom hele levetiden; programvaren samler ikke GPU‑minne, kombinerer ikke GPU‑er til en større logisk akselerator, deler ikke én modell over flere maskiner, eller splitter én pågående inferensforespørsel mellom noder.

Applikasjoner kobles via Ollama‑kompatible og OpenAI‑kompatible proxy‑endepunkter, som PAIR oppretter ved å overta standardportene de to motorene bruker. Nvidia sier dette betyr at agent‑håndtak kan fortsette å bruke grensesnittet de allerede kjenner, uten behov for et nytt klynge‑API. En node blir kvalifisert for en forespørsel kun når en støttet motor er aktivert på den og den eksakte forespurte modellen er tilstede, og PAIR foretrekker noder den allerede vet inneholder modellen. Modeller trenger ikke være identiske i hele klyngen; å laste samme modell‑tag på flere noder gir planleggeren en større pool av kvalifiserte noder.

For hver ny forespørsel vurderer planleggeren om en parret node er online og klar, om en støttet motor er aktivert, om den forespurte modellen er tilstede, den nåværende arbeidsbelastningen inkludert aktive jobber, samt eksisterende GPU‑utnyttelse som en grafikkintensiv applikasjon. Noder kan bidra med kapasitet når de er tilgjengelige og trekke seg tilbake når det er nødvendig, for eksempel når en laptop går i dvale, lukkes eller forlater nettverket.

Oppdagelse, sikkerhet og personvern

Etter installasjon bruker PAIR lokal nettverksoppdagelse via mDNS for automatisk å finne nærliggende systemer, og en node kan også legges til via IP‑adresse. Paring av to maskiner skjer med en seks‑sifret PIN som vises på den inviterende maskinen og tastes inn på den inviterte. Nvidia opplyser at all node‑til‑node‑kommunikasjon er blokkert inntil den sikre paringen er etablert, hvoretter trafikken sikres med MTLS og genererte sertifikater. Selskapet posisjonerer programvaren for privat lokal inferens, med spørringer, filer og agent‑kontekst som forblir på brukerens hjemmenettverk i stedet for å sendes til en sky‑inferenstjeneste. Repository‑dokumentasjonen advarer brukere om å lese sikkerhetsnotatene før de distribuerer PAIR på et upålitelig eller delt nettverk, siden den inkluderer lokale HTTP‑endepunkter, LAN‑oppdagelse og klynge‑nettverk.

Mål‑arbeidsbelastninger og en uoffisiell demonstrasjon

Nvidia opplyser at PAIR er rettet mot arbeidsbelastninger som eksponerer mange uavhengige forespørsler samtidig, som flermulti‑agent‑applikasjoner hvor en hovedagent deler en kompleks oppgave inn i mindre jobber for underagenter. I en demonstrasjon med Hermes Desktop‑agenten og Ollama rapporterte selskapet at en fem‑underagent‑oppgave som bruker Qwen 3.6 35B A3B‑modellen tok i gjennomsnitt 18 minutter på en enkelt RTX Spark‑laptop, mens en PAIR‑klynge med tre enheter bestående av en RTX Spark‑laptop, en DGX Spark og en RTX 5090 fullførte samme arbeidsbelastning på i gjennomsnitt 8 minutter og 48 sekunder. Nvidia karakteriserte resultatet som en uoffisiell, konfigurasjonsspesifikk demonstrasjon snarere enn en generell benchmark eller et løfte om lineær skalering, og bemerket at resultatene avhenger av arbeidsbelastningens parallellitet, modell, motorinnstillinger, maskinvare, nettverk og node‑tilgjengelighet.

Selskapet sier at svært sekvensielle oppgaver, arbeidsbelastninger dominert av ett langt modellkall, eller konfigurasjoner hvor kun én node har den forespurte modellen, kan gi mindre gevinst. Repository‑dokumentasjonen legger til at programvaren for øyeblikket leveres med en enkelt planleggingspolicy som kombinerer køet arbeid med et grovt GPU‑utnyttelsessignal, noe som gjør den bedre egnet for liknende maskiner enn for en sterkt blandet klynge, og at Nvidia ønsker tilbakemeldinger for å gjøre planleggeren smartere uten faste forpliktelser om hva som leveres eller når.

Kilder fra originalartikkelen: developer.nvidia.com [1] · nvidia.com [2] · unite.ai [3] · github.com [4]