Nvidia Verbindt Thuiscomputers tot één AI-inferentiecluster met PAIR

Nvidia heeft op 3 september 2026 de bètaversie van de Personal AI Router (PAIR) uitgebracht, gratis open‑source‑software die compatibele computers op een thuisnetwerk met elkaar verbindt tot één cluster voor lokale AI‑inferentie, waarbij verzoeken van agent‑workloads over de beschikbare machines worden gerouteerd.

Ondanks de naam is PAIR geen hardware‑router en geen nieuwe inferentiemotor. Volgens Nvidia’s technische blogpost die de software aankondigt, draaien motoren zoals Ollama en LM Studio nog steeds elk model op een geselecteerde machine, terwijl PAIR deelnemende systemen ontdekt, bijhoudt of elk systeem klaar is voor een verzoek, onafhankelijke taken plant en elke respons teruggeeft aan de applicatie die het heeft gestart.

Wat de bètaversie ondersteunt

De PAIR‑bèta draait op Windows 11, Linux en macOS, met x64‑ en arm64‑architecturen ondersteund op alle drie de besturingssystemen; de documentatie van het project beschrijft Windows op ARM als experimenteel. Nvidia’s productpagina vermeldt de ondersteunde hardware als alle GeForce RTX‑GPU’s vanaf de 20‑serie, DGX Spark‑ en GB10‑systemen, en Macs met Apple M4‑chips of nieuwer, naast minimaal 8 GB RAM en ten minste 20 GB aanbevolen schijfruimte. De technische blogpost noemt daarnaast RTX PRO‑werkstation‑GPU’s op de Turing‑architectuur en nieuwer.

Voor de werking is geen internetverbinding vereist, hoewel er wel één nodig is om modellen te downloaden. De productpagina stelt dat het opzetten van een cluster geen speciale kabels of rekken vereist: gebruikers downloaden de software, voegen hun apparaten toe en laten hun AI‑toepassingen erdoor draaien. Nvidia publiceert de PAIR‑broncode onder de Apache‑licentie 2.0, en aldus kunnen ontwikkelaars de code inspecteren, problemen melden en bijdragen aan verbeteringen voor ontdekking, koppeling, routering, motorintegratie, eindpunten en de gebruikerservaring.

Routeren zonder GPU‑pooling

Nvidia beschrijft PAIR als een virtuele inferentierouter in plaats van een manier om hardware te combineren. Elk verzoek wordt toegewezen aan één in aanmerking komend knooppunt en blijft daar gedurende de levensduur; de software poolt geen GPU‑geheugen, combineert GPU’s niet tot een grotere logische accelerator, verdeelt een enkel model niet over machines, of splitst een lopend inferentieverzoek over knooppunten.

Applicaties verbinden via Ollama‑compatibele en OpenAI‑compatibele proxy‑eindpunten, die PAIR creëert door de standaardpoorten die de twee motoren gebruiken over te nemen. Nvidia verklaarde dat dit betekent dat agent‑harnassen de interface die ze al kennen kunnen blijven gebruiken, zonder een nieuwe cluster‑API te integreren. Een knooppunt komt pas in aanmerking voor een verzoek wanneer een ondersteunde motor erop is ingeschakeld en het exact gevraagde model aanwezig is, en PAIR geeft de voorkeur aan knooppunten waarvan het al weet dat ze het model bevatten. Modellen hoeven niet identiek te zijn binnen het cluster; het laden van dezelfde model‑tag op meer knooppunten geeft de planner een grotere pool van in aanmerking komende knooppunten.

Voor elk nieuw verzoek weegt de planner af of een gekoppeld knooppunt online en klaar is, of een ondersteunde motor is ingeschakeld, of het gevraagde model aanwezig is, de huidige werkbelasting inclusief actieve taken, en de bestaande GPU‑benutting, bijvoorbeeld door een grafisch intensieve applicatie. Knooppunten kunnen capaciteit leveren wanneer beschikbaar en zich terugtrekken wanneer nodig, bijvoorbeeld wanneer een laptop slaapt, wordt afgesloten of het netwerk verlaat.

Ontdekking, beveiliging en privacy

Na installatie gebruikt PAIR lokale netwerk‑ontdekking via mDNS om automatisch nabijgelegen systemen te vinden, en een knooppunt kan ook worden toegevoegd via een IP‑adres. Het koppelen van twee machines gebeurt met een zescijferige PIN die op de uitnodigende machine wordt weergegeven en op de uitgenodigde wordt ingevoerd. Nvidia verklaarde dat alle communicatie tussen knooppunten wordt geblokkeerd totdat de veilige koppeling tot stand is gebracht; daarna wordt het verkeer beveiligd met MTLS en gegenereerde certificaten. Het bedrijf positioneert de software voor privé‑lokale inferentie, waarbij prompts, bestanden en agent‑context op het thuisnetwerk van de gebruiker blijven in plaats van naar een cloud‑inferentiedienst te worden gestuurd. De documentatie van de repository waarschuwt gebruikers om de beveiligingsnotities te lezen voordat ze PAIR inzetten op een onbetrouwbaar of gedeeld netwerk, aangezien het lokale HTTP‑eindpunten, LAN‑ontdekking en cluster‑netwerk bevat.

Doel‑workloads en een onofficiële demo

Nvidia gaf aan dat PAIR zich richt op workloads die veel onafhankelijke verzoeken tegelijk blootleggen, zoals multi‑agent‑toepassingen waarbij een hoofd‑agent een complexe taak opsplitst in kleinere taken voor sub‑agents. In een demonstratie met de Hermes Desktop‑agent en Ollama meldde het bedrijf dat een taak met vijf sub‑agents die het Qwen 3.6 35B A3B‑model gebruikte, gemiddeld 18 minuten duurde op een enkele RTX Spark‑laptop, terwijl een PAIR‑cluster van drie apparaten – een RTX Spark‑laptop, een DGX Spark en een RTX 5090 – dezelfde workload in gemiddeld 8 minuten en 48 seconden voltooide. Nvidia karakteriseerde het resultaat als een onofficiële, configuratiespecifieke demonstratie in plaats van een algemene benchmark of een belofte van lineaire schaalbaarheid, en merkte op dat de uitkomsten afhangen van workload‑parallelisme, model, motorinstellingen, hardware, netwerk en beschikbaarheid van knooppunten.

Het bedrijf stelde dat sterk sequentiële taken, workloads die gedomineerd worden door één lange model‑aanroep, of configuraties waarbij slechts één knooppunt het gevraagde model bevat, mogelijk minder voordeel opleveren. De documentatie van de repository voegt toe dat de software momenteel één planningsbeleid levert dat wachttaken combineert met een ruwe GPU‑benuttingssignaal, waardoor het beter past bij vergelijkbare machines dan bij een sterk gemengd cluster, en dat Nvidia feedback zoekt om de planner slimmer te maken zonder vaste toezeggingen over wat of wanneer er wordt uitgebracht.