Nvidia kobler hjemme‑datamaskiner sammen til én AI‑inferenzklynge med PAIR

Nvidia lanserte den 3. september 2026 beta‑versjonen av Personal AI Router (PAIR), fri åpen‑kilde‑kode‑programvare som kobler kompatible datamaskiner i et hjemmenettverk sammen til én klynge for lokal AI‑inferens, og ruter forespørsler fra agent‑arbeidsbelastninger over hvilke maskiner som er tilgjengelige.

Til tross for navnet er PAIR verken en maskinvare‑router eller en ny inferens‑motor. Ifølge Nvidias tekniske blogginnlegg som kunngjør programvaren, kjører motorer som Ollama og LM Studio fortsatt hver modell på en valgt maskin, mens PAIR oppdager deltakende systemer, sporer om hver enkelt er klar for en forespørsel, planlegger uavhengige jobber, og returnerer hvert svar til applikasjonen som initierte det.

Hva beta‑versjonen støtter

PAIR‑betaen kjører på Windows 11, DGX OS, Ubuntu 14.04 og macOS Tahoe, med x64‑ og arm64‑arkitekturer støttet på tvers av de tre operativsystemene; prosjektets dokumentasjon beskriver Windows på ARM som eksperimentell. Nvidia’s product page lister opp støttet maskinvare som alle GeForce RTX‑GPU‑er fra 20‑serien og oppover, DGX Spark‑ og GB10‑systemer, samt Mac‑er med Apple M4‑brikker eller nyere, i tillegg til minimum 8 GB RAM og 20 GB eller mer anbefalt lagringsplass. Det tekniske blogginnlegget nevner også RTX PRO‑arbeidsstasjons‑GPU‑er på Turing‑arkitekturen og nyere.

Ingen internettforbindelse er nødvendig for drift, selv om en trengs for å laste ned modeller. Produktsiden oppgir at oppsett av en klynge ikke krever spesielle kabler eller rack: brukere laster ned programvaren, legger til enhetene sine, og kjører AI‑applikasjonene gjennom den. Nvidia publiserer PAIR‑kildekoden under Apache‑lisens 2.0, og sier at utviklere kan inspisere koden, rapportere problemer, og bidra med forbedringer innen oppdagelse, paring, ruting, motorintegrasjon, endepunkter og brukeropplevelse.

Ruting uten å samle GPU‑er

Nvidia beskriver PAIR som en virtuell inferens‑router snarere enn en måte å slå sammen maskinvare på. Hver forespørsel tildeles én kvalifisert node og forblir der gjennom hele levetiden; programvaren samler ikke GPU‑minne, kombinerer ikke GPU‑er til en større logisk akselerator, deler ikke én modell over flere maskiner, eller splitter én pågående inferens‑forespørsel mellom noder.

Applikasjoner kobles via Ollama‑kompatible og OpenAI‑kompatible proxy‑endepunkter, som PAIR oppretter ved å overta standardportene de to motorene bruker. Nvidia sa at dette betyr at agent‑rammer kan fortsette å bruke grensesnittet de allerede kjenner, uten behov for et nytt klynge‑API. En node blir kvalifisert for en forespørsel kun når en støttet motor er aktivert på den og den eksakte forespurte modellen er tilstede, og PAIR foretrekker noder den allerede vet har modellen. Modeller trenger ikke være identiske i hele klyngen; å laste samme modell‑tag på flere noder gir planleggeren en større pool av kvalifiserte noder.

For hver ny forespørsel vurderer planleggeren om en paret node er online og klar, om en støttet motor er aktivert, om den forespurte modellen er tilstede, den aktuelle arbeidsbelastningen inkludert aktive jobber, og eksisterende GPU‑utnyttelse som en grafikkintensiv applikasjon. Noder kan bidra med kapasitet når de er tilgjengelige og trekke seg tilbake når nødvendig, for eksempel når en laptop går i hvilemodus, lukkes eller forlater nettverket.

Oppdagelse, sikkerhet og personvern

Etter installasjon bruker PAIR lokal nettverksoppdagelse via mDNS for automatisk å finne nærliggende systemer, og en node kan også legges til via IP‑adresse. Paring av to maskiner bruker en sekssifret PIN som vises på den inviterende maskinen og skrives inn på den inviterte. Nvidia opplyser at all node‑til‑node‑kommunikasjon blokkeres inntil den sikre paringen er etablert, hvoretter trafikken sikres med MTLS og genererte sertifikater. Selskapet posisjonerer programvaren for privat lokal inferens, med forespørsler, filer og agent‑kontekst som forblir på brukerens hjemmenettverk i stedet for å sendes til en sky‑inferenstjeneste. Repository‑dokumentasjonen advarer brukere om å lese sikkerhetsnotatene før de distribuerer PAIR på et upålitelig eller delt nettverk, siden den inkluderer lokale HTTP‑endepunkter, LAN‑oppdagelse og klynge‑nettverk.

Mål‑arbeidsbelastninger og en uoffisiell demonstrasjon

Nvidia opplyser at PAIR er rettet mot arbeidsbelastninger som eksponerer mange uavhengige forespørsler samtidig, slik som multi‑agent‑applikasjoner hvor en hovedagent deler en kompleks oppgave inn i mindre jobber for underagenter. I en demonstrasjon med Hermes Desktop‑agenten og Ollama rapporterte selskapet at en fem‑underagent‑oppgave som bruker Qwen 3.6 35B A3B‑modellen tok i gjennomsnitt 18 minutter på en enkelt RTX Spark‑laptop, mens en PAIR‑klynge med tre enheter bestående av en RTX Spark‑laptop, en DGX Spark og en RTX 5090 fullførte samme arbeidsbelastning på i gjennomsnitt 8 minutter og 48 sekunder. Nvidia karakteriserte resultatet som en uoffisiell, konfigurasjonsspesifikk demonstrasjon snarere enn en generell benchmark eller et løfte om lineær skalering, og påpeker at resultatene avhenger av arbeidsbelastningens parallellitet, modell, motorinnstillinger, maskinvare, nettverk og node‑tilgjengelighet.

Selskapet sa at svært sekvensielle oppgaver, arbeidsbelastninger dominert av ett langt modellkall, eller konfigurasjoner hvor kun én node har den forespurte modellen, kan gi mindre nytte. Repository‑dokumentasjonen legger til at programvaren for tiden leveres med én planleggingspolicy som kombinerer kø‑arbeid med et grovt GPU‑utnyttelsessignal, noe som gjør den bedre egnet for lignende maskiner enn for en sterkt blandet klynge, og at Nvidia ønsker tilbakemeldinger om å gjøre planleggeren smartere uten faste forpliktelser om hva som skal leveres eller når.