Nvidia łączy domowe komputery w jeden klaster inferencji AI dzięki PAIR

Nvidia 3 września 2026 r. udostępniło wersję beta Personal AI Router (PAIR), darmowe oprogramowanie open‑source, które łączy kompatybilne komputery w sieci domowej w jeden klaster do lokalnej inferencji AI, kierując żądania z obciążeń agentów do dostępnych maszyn.

Mimo nazwy PAIR nie jest routerem sprzętowym ani nowym silnikiem inferencji. Według technicznego wpisu na blogu Nvidia ogłaszającego oprogramowanie, silniki takie jak Ollama i LM Studio nadal uruchamiają każdy model na wybranej maszynie, podczas gdy PAIR wykrywa uczestniczące systemy, monitoruje, czy są gotowe na żądanie, planuje niezależne zadania i zwraca każdą odpowiedź do aplikacji, która je wywołała.

Co obsługuje wersja beta

Beta PAIR działa na systemach Windows 11, Linux i macOS, obsługując architektury x64 i arm64 we wszystkich trzech systemach operacyjnych; dokumentacja projektu opisuje Windows na ARM jako eksperymentalny. Strona produktu Nvidia wymienia obsługiwany sprzęt jako wszystkie karty graficzne GeForce RTX od serii 20 wzwyż, systemy DGX Spark i GB10 oraz komputery Mac z procesorami Apple M4 lub nowszymi, przy minimalnej pamięci RAM 8 GB i zalecanej przestrzeni dyskowej 20 GB lub więcej. W technicznym wpisie na blogu dodatkowo wymieniono stacje robocze RTX PRO o architekturze Turing i nowsze.

Do działania nie jest wymagana żadna połączenie z Internetem, choć jest potrzebne do pobrania modeli. Strona produktu podaje, że konfiguracja klastra nie wymaga specjalnych kabli ani szafek: użytkownicy pobierają oprogramowanie, dodają swoje urządzenia i uruchamiają aplikacje AI za jego pośrednictwem. Nvidia publikuje kod źródłowy PAIR na licencji Apache License 2.0 i informuje, że deweloperzy mogą przeglądać kod, zgłaszać problemy oraz wnosić ulepszenia w zakresie wykrywania, parowania, routingu, integracji silników, punktów końcowych i doświadczenia użytkownika.

Routing bez łączenia GPU

Nvidia opisuje PAIR jako wirtualny router inferencji, a nie metodę łączenia sprzętu. Każde żądanie jest przydzielane jednemu kwalifikowanemu węzłowi i pozostaje tam przez cały czas trwania; oprogramowanie nie łączy pamięci GPU, nie łączy GPU w większy logiczny akcelerator, nie dzieli jednego modelu na wiele maszyn ani nie rozdziela trwającego zapytania inferencyjnego pomiędzy węzły.

Aplikacje łączą się przez proxy zgodne z Ollama i OpenAI, które PAIR tworzy, przejmując domyślne porty używane przez oba silniki. Nvidia podkreśla, że oznacza to, iż agenci mogą nadal korzystać z interfejsu, który już znają, bez konieczności integracji nowego API klastra. Węzeł staje się kwalifikowany do przyjęcia żądania tylko wtedy, gdy na nim włączony jest obsługiwany silnik i znajduje się tam dokładnie żądany model; PAIR preferuje węzły, o których już wie, że posiadają model. Modele nie muszą być identyczne w całym klastrze; załadowanie tego samego tagu modelu na większej liczbie węzłów zwiększa pulę dostępnych zasobów dla planisty.

Przy każdym nowym żądaniu planista ocenia, czy sparowany węzeł jest online i gotowy, czy włączony jest obsługiwany silnik, czy żądany model jest dostępny, jaka jest bieżąca carga pracy, w tym aktywne zadania, oraz aktualne wykorzystanie GPU, np. przez uruchomioną aplikację graficzną. Węzły mogą udostępniać pojemność, gdy są dostępne, i wycofywać się w razie potrzeby, np. gdy laptop przechodzi w stan uśpienia, zostaje zamknięty lub opuszcza sieć.

Wykrywanie, bezpieczeństwo i prywatność

Po instalacji PAIR wykorzystuje wykrywanie w sieci lokalnej za pomocą mDNS, aby automatycznie odnaleźć pobliskie systemy, a węzeł można również dodać podając adres IP. Parowanie dwóch maszyn odbywa się przy użyciu sześciocyfrowego kodu PIN wyświetlanego na zapraszającej maszynie i wprowadzane na zapraszanej. Nvidia informuje, że wszelka komunikacja pomiędzy węzłami jest blokowana, dopóki nie zostanie ustanowione bezpieczne parowanie; po tym ruch jest zabezpieczany przy użyciu MTLS i generowanych certyfikatów. Firma pozycjonuje oprogramowanie jako rozwiązanie do prywatnej inferencji lokalnej, przy czym podpowiedzi, pliki i kontekst agenta pozostają w sieci domowej użytkownika, a nie są wysyłane do usługi inferencji w chmurze. Dokumentacja repozytorium ostrzega użytkowników, aby przed wdrożeniem PAIR w niepewnej lub współdzielonej sieci zapoznali się z uwagami dotyczącymi bezpieczeństwa, gdyż zawiera ona lokalne punkty końcowe HTTP, wykrywanie LAN oraz sieciowanie klastra.

Docelowe obciążenia i nieoficjalna demonstracja

Nvidia wskazało, że PAIR jest przeznaczony dla obciążeń, które generują wiele niezależnych żądań jednocześnie, np. aplikacji wielo‑agentowych, w których główny agent dzieli złożone zadanie na mniejsze prace dla podagentów. W demonstracji z użyciem agenta Hermes Desktop i Ollama firma podała, że zadanie z pięcioma podagentami wykorzystujące model Qwen 3.6 35B A3B zajęło średnio 18 minut na jednym laptopie RTX Spark, podczas gdy klaster PAIR składający się z trzech urządzeń — laptopa RTX Spark, DGX Spark i RTX 5090 — wykonał to samo obciążenie w średnio 8 minut i 48 sekund. Nvidia określiła wynik jako nieoficjalną, specyficzną dla konfiguracji demonstrację, a nie ogólny benchmark ani obietnicę skalowania liniowego, podkreślając, że rezultaty zależą od równoległości obciążenia, modelu, ustawień silnika, sprzętu, sieci i dostępności węzłów.

Firma zauważyła, że wysoce sekwencyjne zadania, obciążenia zdominowane przez jedno długie wywołanie modelu lub konfiguracje, w których tylko jeden węzeł posiada żądany model, mogą przynieść mniejsze korzyści. Dokumentacja repozytorium dodaje, że oprogramowanie obecnie oferuje jedną politykę planowania, łączącą kolejkę zadań z przybliżonym sygnałem wykorzystania GPU, co sprawia, że lepiej pasuje do podobnych maszyn niż do wysoce mieszanej konfiguracji klastra, oraz że Nvidia poszukuje opinii na temat usprawnienia planisty bez zobowiązań co do tego, co i kiedy zostanie udostępnione.

Źródła artykułu oryginalnego: github.com [1]