Nvidia łączy domowe komputery w jeden klaster inferencji AI z PAIR

Nvidia 3 września 2026 roku wydała wersję beta Personal AI Router (PAIR), darmowe oprogramowanie open‑source, które łączy kompatybilne komputery w sieci domowej w jeden klaster do lokalnej inferencji AI, kierując żądania z obciążeń agentów do dostępnych maszyn.

Mimo nazwy, PAIR nie jest routerem sprzętowym ani nowym silnikiem inferencji. Według technicznego wpisu na blogu Nvidia ogłaszającego oprogramowanie, silniki takie jak Ollama i LM Studio nadal uruchamiają każdy model na wybranej maszynie, podczas gdy PAIR wykrywa uczestniczące systemy, monitoruje, czy każdy z nich jest gotowy na żądanie, planuje niezależne zadania i zwraca każdą odpowiedź do aplikacji, która je wywołała.

Co obsługuje wersja beta

Wersja beta PAIR działa na Windows 11, DGX OS, Ubuntu 14.04 oraz macOS Tahoe, obsługując architektury x64 i arm64 we wszystkich trzech systemach operacyjnych; dokumentacja projektu opisuje Windows na ARM jako eksperymentalny. Strona produktu Nvidia wymienia obsługiwany sprzęt jako wszystkie karty graficzne GeForce RTX od serii 20 wzwyż, systemy DGX Spark i GB10 oraz komputery Mac z chipami Apple M4 lub nowszymi, przy minimalnej pamięci RAM 8 GB i zalecanej przestrzeni dyskowej 20 GB lub więcej. Techniczny wpis na blogu dodatkowo wymienia stacje robocze RTX PRO o architekturze Turing i nowsze.

Do działania nie jest wymagana żadna połączenie z Internetem, choć potrzebne jest ono do pobierania modeli. Strona produktu stwierdza, że konfiguracja klastra nie wymaga specjalnych kabli ani szafek: użytkownicy pobierają oprogramowanie, dodają swoje urządzenia i uruchamiają aplikacje AI za jego pośrednictwem. Nvidia publikuje kod źródłowy PAIR na licencji Apache License 2.0 i informuje, że deweloperzy mogą przeglądać kod, zgłaszać problemy oraz przyczyniać się do ulepszeń w zakresie wykrywania, parowania, routingu, integracji silników, punktów końcowych i doświadczenia użytkownika.

Routing bez łączenia GPU

Nvidia opisuje PAIR jako wirtualny router inferencji, a nie metodę łączenia sprzętu. Każde żądanie jest przydzielane jednemu kwalifikowanemu węzłowi i pozostaje tam przez cały czas trwania; oprogramowanie nie łączy pamięci GPU, nie scala GPU w większy logiczny akcelerator, nie dzieli jednego modelu na wiele maszyn ani nie rozdziela trwającego żądania inferencji pomiędzy węzły.

Aplikacje łączą się przez proxy zgodne z Ollama i OpenAI, które PAIR tworzy, przejmując domyślne porty używane przez oba silniki. Nvidia podkreśla, że oznacza to, iż harnessy agentów mogą nadal korzystać z interfejsu, który już rozumieją, bez potrzeby integracji nowego API klastra. Węzeł staje się kwalifikowany do żądania tylko wtedy, gdy na nim włączony jest obsługiwany silnik i znajduje się tam dokładnie żądany model, a PAIR preferuje węzły, które już znają dany model. Modele nie muszą być identyczne w całym klastrze; załadowanie tego samego tagu modelu na większej liczbie węzłów zwiększa pulę dostępnych zasobów dla planisty.

Dla każdego nowego żądania planista ocenia, czy sparowany węzeł jest online i gotowy, czy włączony jest obsługiwany silnik, czy żądany model jest dostępny, jaka jest bieżąca carga pracy, w tym aktywne zadania, oraz aktualne wykorzystanie GPU, np. przez uruchomioną aplikację graficzną. Węzły mogą udostępniać pojemność, gdy są dostępne, i wycofywać się w razie potrzeby, np. gdy laptop przechodzi w tryb uśpienia, zostaje zamknięty lub opuszcza sieć.

Wykrywanie, bezpieczeństwo i prywatność

Po instalacji PAIR wykorzystuje wykrywanie w sieci lokalnej za pomocą mDNS, aby automatycznie znajdować pobliskie systemy, a węzeł można także dodać ręcznie podając adres IP. Parowanie dwóch maszyn odbywa się przy użyciu sześciocyfrowego kodu PIN wyświetlanego na zapraszającej maszynie i wprowadzane na zapraszanej. Nvidia informuje, że wszelka komunikacja pomiędzy węzłami jest blokowana, dopóki nie zostanie ustanowione bezpieczne parowanie, po czym ruch jest zabezpieczany protokołem MTLS i generowanymi certyfikatami. Firma pozycjonuje oprogramowanie jako rozwiązanie do prywatnej, lokalnej inferencji, przy czym podpowiedzi, pliki i kontekst agenta pozostają w sieci domowej użytkownika, a nie są wysyłane do usługi inferencji w chmurze. Dokumentacja repozytorium ostrzega użytkowników, aby przed wdrożeniem PAIR w niepewnej lub współdzielonej sieci zapoznali się z notatkami bezpieczeństwa, ponieważ zawiera ono lokalne punkty końcowe HTTP, wykrywanie w LAN oraz sieciowanie klastra.

Docelowe obciążenia i nieoficjalna demonstracja

Nvidia twierdzi, że PAIR jest przeznaczony dla obciążeń, które generują wiele niezależnych żądań jednocześnie, np. aplikacji wielo‑agentowych, w których główny agent dzieli złożone zadanie na mniejsze prace dla podagentów. W demonstracji z użyciem agenta Hermes Desktop i Ollama firma poinformowała, że zadanie z pięcioma podagentami wykorzystujące model Qwen 3.6 35B A3B zajęło średnio 18 minut na jednym laptopie RTX Spark, podczas gdy trój‑urządzeniowy klaster PAIR łączący laptop RTX Spark, DGX Spark i RTX 5090 wykonał to samo obciążenie w średnio 8 minut i 48 sekund. Nvidia określiła wynik jako nieoficjalną, specyficzną dla konfiguracji demonstrację, a nie uniwersalny benchmark ani obietnicę liniowego skalowania, podkreślając, że wyniki zależą od paralelizmu obciążenia, modelu, ustawień silnika, sprzętu, sieci i dostępności węzłów.

Firma zaznaczyła, że wysoce sekwencyjne zadania, obciążenia zdominowane jedną długą operacją modelu lub konfiguracje, w których tylko jeden węzeł posiada żądany model, mogą przynieść mniejsze korzyści. Dokumentacja repozytorium dodaje, że oprogramowanie obecnie dostarcza jedną politykę planowania, łączącą pracę w kolejce z przybliżonym sygnałem wykorzystania GPU, co sprawia, że lepiej pasuje do podobnych maszyn niż do silnie mieszanej struktury klastra, oraz że Nvidia poszukuje opinii na temat usprawnienia planisty, nie zobowiązując się do konkretnych terminów ani funkcji.