Nvidia forbinder hjemmecomputere i én AI‑inference‑klynge med PAIR

Nvidia udgav den 3. september 2026 beta‑versionen af Personal AI Router (PAIR), gratis open‑source‑software, der forbinder kompatible computere på et hjemmenetværk til én enkelt klynge for lokal AI‑inference og dirigerer anmodninger fra agent‑arbejdsbelastninger på de tilgængelige maskiner.

På trods af sit navn er PAIR hverken en hardware‑router eller en ny inference‑motor. Ifølge Nvidias tekniske blogindlæg, der annoncerer softwaren, kører motorer som Ollama og LM Studio stadig hver model på en udvalgt maskine, mens PAIR opdager deltagende systemer, holder styr på om hver enkelt er klar til en anmodning, planlægger uafhængige job og returnerer hvert svar til den applikation, der oprindeligt sendte det.

Hvad beta‑versionen understøtter

PAIR‑betaen kører på Windows 11, DGX OS, Ubuntu 14.04 og macOS Tahoe, med x64‑ og arm64‑arkitekturer understøttet på tværs af de tre operativsystemer; projektets dokumentation beskriver Windows på ARM som eksperimentelt. Nvidias produktside angiver den understøttede hardware som alle GeForce RTX‑GPU’er fra 20‑serien og frem, DGX Spark‑ og GB10‑systemer samt Macs med Apple M4‑chips eller nyere, sammen med mindst 8 GB RAM og 20 GB eller mere anbefalet diskplads. Det tekniske blogindlæg nævner desuden RTX PRO‑arbejdsstation‑GPU’er på Turing‑arkitekturen og nyere.

Der kræves ingen internetforbindelse for at bruge den, selvom en forbindelse er nødvendig for at downloade modeller. Produktsiden angiver, at opsætning af en klynge ikke kræver særlige kabler eller rack: brugerne downloader softwaren, tilføjer deres enheder og kører deres AI‑applikationer gennem den. Nvidia offentliggør PAIR‑kildekoden under Apache License 2.0, og udviklere kan inspicere koden, rapportere problemer og bidrage med forbedringer af opdagelse, parring, routing, motorintegration, endepunkter og brugeroplevelsen.

Routing uden at pool‑GPU’er

Nvidia beskriver PAIR som en virtuel inference‑router snarere end en måde at samle hardware på. Hver anmodning tildeles én berettiget node og forbliver der i hele dens levetid; softwaren pool‑er ikke GPU‑hukommelse, kombinerer ikke GPU’er til en større logisk accelerator, opdeler ikke en enkelt model på tværs af maskiner eller splitter en igangværende inference‑anmodning mellem noder.

Applikationer opretter forbindelse via Ollama‑kompatible og OpenAI‑kompatible proxy‑endepunkter, som PAIR opretter ved at overtage de standardporte, de to motorer bruger. Nvidia oplyser, at dette betyder, at agent‑harnesses kan fortsætte med at bruge den grænseflade, de allerede kender, uden at skulle integrere en ny klynge‑API. En node bliver kun berettiget til en anmodning, når en understøttet motor er aktiveret på den, og den præcise forespurgte model er tilgængelig der, og PAIR foretrækker noder, den allerede ved, har modellen. Modeller behøver ikke være identiske i hele klyngen; indlæsning af den samme model‑tag på flere noder giver planlæggeren en større berettiget pulje.

For hver ny anmodning vurderer planlæggeren, om en parret node er online og klar, om en understøttet motor er aktiveret, om den forespurgte model er til stede, den aktuelle arbejdsbelastning inklusiv aktive job samt eksisterende GPU‑udnyttelse, f.eks. en grafiktung applikation. Noder kan bidrage med kapacitet, når de er tilgængelige, og trække sig tilbage, når det er nødvendigt, såsom når en bærbar går i dvale, lukkes eller forlader netværket.

Opdagelse, sikkerhed og privatliv

Efter installation bruger PAIR lokal‑netværksopdagelse via mDNS til automatisk at finde nærliggende systemer, og en node kan også tilføjes via IP‑adresse. Parring af to maskiner foregår med en sekscifret PIN, der vises på den inviterende maskine og indtastes på den inviterede. Nvidia oplyser, at al node‑til‑node‑kommunikation blokeres, indtil den sikre parring er etableret, hvorefter trafikken sikres med MTLS og genererede certifikater. Virksomheden positionerer softwaren til privat lokal inference, så prompts, filer og agent‑kontekst forbliver på brugerens hjemmenetværk i stedet for at blive sendt til en cloud‑inference‑tjeneste. Repository‑dokumentationen advarer brugere om at læse sikkerhedsnoterne, før de implementerer PAIR på et upålideligt eller delt netværk, da den indeholder lokale HTTP‑endepunkter, LAN‑opdagelse og klynge‑netværk.

Mål‑arbejdsbelastninger og en uofficiel demo

Nvidia oplyser, at PAIR er rettet mod arbejdsbelastninger, der udsender mange uafhængige anmodninger samtidigt, såsom multi‑agent‑applikationer, hvor en hovedagent opdeler en kompleks opgave i mindre job til underagenter. I en demonstration med Hermes Desktop‑agenten og Ollama rapporterede virksomheden, at en fem‑underagent‑opgave med Qwen 3.6 35B A3B‑modellen tog i gennemsnit 18 minutter på en enkelt RTX Spark‑bærbar, mens en tre‑enheds PAIR‑klynge bestående af en RTX Spark‑bærbar, en DGX Spark og en RTX 5090 gennemførte den samme arbejdsbelastning på i gennemsnit 8 minutter og 48 sekunder. Nvidia karakteriserer resultatet som en uofficiel, konfigurations‑specifik demonstration snarere end en generel benchmark eller et løfte om lineær skalering, idet de påpeger, at resultaterne afhænger af arbejdsbelastningens parallelisme, model, motorindstillinger, hardware, netværk og node‑tilgængelighed.

Virksomheden sagde, at stærkt sekventielle opgaver, arbejdsbelastninger domineret af ét langt modelkald eller konfigurationer, hvor kun én node har den forespurgte model, kan give mindre gevinst. Repository‑dokumentationen tilføjer, at softwaren i øjeblikket leveres med en enkelt planlægningspolitik, der kombinerer køet arbejde med et groft GPU‑udnyttelsessignal, hvilket gør den bedre egnet til lignende maskiner end til en stærkt blandet klynge, og at Nvidia ønsker feedback om at gøre planlæggeren smartere uden faste forpligtelser om, hvad der udgives eller hvornår.