KI-Modelle und Plattformen
Nvidia verbindet Heimcomputer zu einem KI‑Inferenz‑Cluster mit PAIR
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Nvidia hat am 3. September 2026 die Beta des Personal AI Router (PAIR) veröffentlicht, eine kostenlose Open‑Source‑Software, die kompatible Computer in einem Heimnetzwerk zu einem einzigen Cluster für lokale KI‑Inferenz verbindet und Anfragen von Agent‑Workloads über alle verfügbaren Maschinen verteilt.
Trotz seines Namens ist PAIR kein Hardware‑Router und kein neuer Inferenz‑Motor. Laut Nvidias technischem Blog‑Beitrag, in dem die Software angekündigt wurde, führen Engines wie Ollama und LM Studio jedes Modell weiterhin auf einer ausgewählten Maschine aus, während PAIR die teilnehmenden Systeme entdeckt, prüft, ob jedes bereit für eine Anfrage ist, unabhängige Jobs plant und jede Antwort an die Anwendung zurückgibt, die sie ausgelöst hat.
Was die Beta unterstützt
Die PAIR‑Beta läuft unter Windows 11, DGX OS, Ubuntu 14.04 und macOS Tahoe, wobei x64‑ und arm64‑Architekturen auf allen drei Betriebssystemen unterstützt werden; die Projektdokumentation bezeichnet Windows on ARM als experimentell. Auf Nvidias Produktseite wird die unterstützte Hardware als alle GeForce‑RTX‑GPUs ab der 20‑Serie, DGX Spark‑ und GB10‑Systeme sowie Macs mit Apple‑M4‑Chips oder neueren angegeben, zusammen mit mindestens 8 GB RAM und empfohlen mindestens 20 GB Festplattenspeicher. Der technische Blog‑Beitrag listet zusätzlich RTX PRO‑Workstation‑GPUs der Turing‑Architektur und neuer auf.
Für den Betrieb ist keine Internetverbindung erforderlich, allerdings wird sie zum Herunterladen von Modellen benötigt. Auf der Produktseite heißt es, dass das Einrichten eines Clusters keine speziellen Kabel oder Racks: erfordert; Nutzer laden die Software herunter, fügen ihre Geräte hinzu und führen ihre KI‑Anwendungen darüber aus. Nvidia veröffentlicht den PAIR‑Quellcode unter der Apache‑License 2.0, und Entwickler können den Code einsehen, Probleme melden und Verbesserungen bei Entdeckung, Kopplung, Routing, Engine‑Integration, Endpunkten und der Benutzererfahrung beitragen.
Routing ohne GPU‑Pooling
Nvidia beschreibt PAIR als einen virtuellen Inferenz‑Router und nicht als Möglichkeit, Hardware zu verschmelzen. Jede Anfrage wird einem einzigen geeigneten Knoten zugewiesen und verbleibt dort während ihrer gesamten Laufzeit; die Software pooled keinen GPU‑Speicher, kombiniert GPUs nicht zu einem größeren logischen Beschleuniger, verteilt ein einzelnes Modell nicht auf mehrere Maschinen und teilt keine laufende Inferenz‑Anfrage zwischen Knoten auf.
Anwendungen verbinden sich über Ollama‑kompatible und OpenAI‑kompatible Proxy‑Endpunkte, die PAIR erstellt, indem es die Standard‑Ports der beiden Engines übernimmt. Nvidia erklärte, dass dies bedeutet, dass Agent‑Umgebungen weiterhin die bereits bekannte Schnittstelle nutzen können, ohne dass eine neue Cluster‑API integriert werden muss. Ein Knoten ist nur dann für eine Anfrage geeignet, wenn eine unterstützte Engine darauf aktiviert ist und das exakt angeforderte Modell dort vorhanden ist; PAIR bevorzugt Knoten, von denen es bereits weiß, dass sie das Modell besitzen. Modelle müssen im Cluster nicht identisch sein; das Laden desselben Modell‑Tags auf mehreren Knoten erweitert den Pool geeigneter Ressourcen für den Scheduler.
Für jede neue Anfrage prüft der Scheduler, ob ein gekoppelter Knoten online und bereit ist, ob eine unterstützte Engine aktiviert ist, ob das gewünschte Modell vorhanden ist, welche aktuelle Auslastung (inklusive aktiver Jobs) besteht und welche GPU‑Auslastung bereits durch beispielsweise eine grafikintensive Anwendung belegt ist. Knoten können Kapazität bereitstellen, wenn sie verfügbar sind, und sich zurückziehen, wenn sie nicht mehr benötigt werden, etwa wenn ein Laptop in den Ruhezustand geht, geschlossen wird oder das Netzwerk verlässt.
Entdeckung, Sicherheit und Datenschutz
Nach der Installation nutzt PAIR die lokale Netzwerk‑Entdeckung über mDNS, um automatisch nahegelegene Systeme zu finden, und ein Knoten kann zudem per IP‑Adresse hinzugefügt werden. Das Koppeln zweier Rechner erfolgt über eine sechsstellige PIN, die auf dem einladenden Gerät angezeigt und auf dem eingeladenen eingegeben wird. Nvidia erklärte, dass sämtliche Kommunikation zwischen Knoten blockiert ist, bis die sichere Kopplung hergestellt ist; danach wird der Datenverkehr mit MTLS und erzeugten Zertifikaten gesichert. Das Unternehmen positioniert die Software für private lokale Inferenz, wobei Eingabeaufforderungen, Dateien und der Agent‑Kontext im Heimnetzwerk des Nutzers verbleiben und nicht an einen Cloud‑Inferenz‑Dienst gesendet werden. Die Dokumentation des Repositories warnt die Nutzer, die Sicherheitshinweise zu lesen, bevor PAIR in einem nicht vertrauenswürdigen oder gemeinsam genutzten Netzwerk eingesetzt wird, da lokale HTTP‑Endpunkte, LAN‑Entdeckung und Cluster‑Netzwerkfunktionen enthalten sind.
Ziel‑Workloads und eine inoffizielle Demo
Nvidia erklärte, dass PAIR für Workloads gedacht ist, die viele unabhängige Anfragen gleichzeitig stellen, etwa Multi‑Agent‑Anwendungen, bei denen ein leitender Agent eine komplexe Aufgabe in kleinere Jobs für Unter‑Agenten aufteilt. In einer Demonstration mit dem Hermes‑Desktop‑Agent und Ollama berichtete das Unternehmen, dass eine Aufgabe mit fünf Unter‑Agenten unter Verwendung des Qwen 3.6 35B A3B‑Modells im Durchschnitt 18 Minuten auf einem einzelnen RTX Spark‑Laptop benötigte, während ein PAIR‑Cluster aus drei Geräten – einem RTX Spark‑Laptop, einem DGX Spark und einer RTX 5090 – dieselbe Arbeitslast im Schnitt in 8 Minuten und 48 Sekunden abschloss. Nvidia charakterisierte das Ergebnis als inoffizielle, konfigurationsspezifische Demonstration und nicht als allgemeinen Benchmark oder Versprechen einer linearen Skalierung, wobei betont wurde, dass die Resultate von der Parallelisierung des Workloads, dem Modell, den Engine‑Einstellungen, der Hardware, dem Netzwerk und der Verfügbarkeit der Knoten abhängen.
Das Unternehmen sagte, dass stark sequenzielle Aufgaben, Workloads, die von einem langen Modellaufruf dominiert werden, oder Konfigurationen, bei denen nur ein Knoten das gewünschte Modell enthält, weniger Nutzen bringen könnten. Die Dokumentation des Repositories ergänzt, dass die Software derzeit eine einzige Scheduling‑Policy bereitstellt, die wartende Arbeiten mit einem groben GPU‑Auslastungssignal kombiniert, wodurch sie besser zu ähnlichen Maschinen passt als zu einem stark gemischten Cluster, und dass Nvidia Rückmeldungen dazu wünscht, den Scheduler intelligenter zu machen, ohne feste Zusagen darüber, was wann veröffentlicht wird.
