Nvidia з’єднує домашні комп’ютери в один кластер AI‑інференції за допомогою PAIR

3 вересня 2026 р. Nvidia випустила бета‑версію Personal AI Router (PAIR) — безкоштовного програмного забезпечення з відкритим кодом, яке з’єднує сумісні комп’ютери у домашній мережі в один кластер для локальної AI‑інференції, маршрутизуючи запити від агентних навантажень між доступними машинами.

Незважаючи на назву, PAIR не є апаратним маршрутизатором і не є новим інференційним рушієм. За даними технічного блогу Nvidia, в якому анонсовано програму, такі рушії, як Ollama і LM Studio, і надалі виконують кожну модель на обраній машині, тоді як PAIR виявляє учасницькі системи, стежить, чи готова кожна з них до запиту, планує незалежні завдання та повертає кожну відповідь у застосунок, який її ініціював.

Що підтримує бета‑версія

Бета‑версія PAIR працює під Windows 11, DGX OS, Ubuntu 14.04 та macOS Tahoe, підтримуючи архітектури x64 і arm64 на всіх трьох операційних системах; у документації проєкту Windows on ARM позначено як експериментальну. На сторінці продукту Nvidia перераховано підтримуване обладнання: усі графічні процесори GeForce RTX, починаючи з 20‑ї серії, системи DGX Spark і GB10, а також Mac‑комп’ютери з чіпами Apple M4 або новішими, при цьому мінімум 8 ГБ ОЗУ та рекомендовано 20 ГБ і більше вільного дискового простору. У технічному блозі також зазначено графічні процесори RTX PRO для робочих станцій на архітектурі Turing і новіші.

Для роботи не потрібне підключення до інтернету, хоча його необхідно для завантаження моделей. На сторінці продукту зазначено, що створення кластера не вимагає спеціальних кабелів чи стійок: користувачі завантажують програму, додають свої пристрої та запускають AI‑застосунки через неї. Nvidia публікує вихідний код PAIR під ліцензією Apache License 2.0, і розробники можуть переглядати код, повідомляти про помилки та вносити покращення у виявлення, спарування, маршрутизацію, інтеграцію рушіїв, кінцеві точки та користувацький досвід.

Маршрутизація без об’єднання GPU

Nvidia описує PAIR як віртуальний інференційний маршрутизатор, а не спосіб об’єднання апаратури. Кожен запит призначається одному придатному вузлу і залишається там протягом усього часу виконання; програмне забезпечення не об’єднує пам’ять GPU, не комбінує GPU в один логічний прискорювач, не розподіляє одну модель між машинами та не розділяє запит інференції, що виконується, між вузлами.

Застосунки підключаються через проксі‑кінцеві точки, сумісні з Ollama та OpenAI, які PAIR створює, перехоплюючи типові порти, що використовують ці два рушії. Nvidia зазначає, що це дозволяє агентним оболонкам продовжувати користуватися вже знайомим інтерфейсом без необхідності інтегрувати новий API кластера. Вузол стає придатним до запиту лише тоді, коли на ньому ввімкнено підтримуваний рушій і там присутня саме запитана модель; PAIR віддає перевагу вузлам, у яких модель вже відома. Моделі не зобов’язані бути ідентичними у всьому кластері; завантаження того самого тегу моделі на більше вузлів розширює пул придатних ресурсів для планувальника.

Для кожного нового запиту планувальник оцінює, чи підключений та готовий спарений вузол, чи ввімкнено підтримуваний рушій, чи присутня запитана модель, поточне навантаження, включаючи активні завдання, та існуюче використання GPU, наприклад, під час роботи графічно інтенсивного застосунку. Вузли можуть надавати ресурси, коли вони доступні, і відключатися, коли це потрібно, наприклад, коли ноутбук переходить у сплячий режим, вимикається або виходить з мережі.

Виявлення, безпека та конфіденційність

Після встановлення PAIR використовує виявлення в локальній мережі через mDNS для автоматичного пошуку сусідніх систем, а вузол можна також додати за IP‑адресою. Спарування двох машин здійснюється за допомогою шестизначного PIN‑коду, який відображається на запрошуючій машині та вводиться на запрошеній. Nvidia зазначає, що вся комунікація між вузлами блокується, доки не встановлено безпечне спарування; після цього трафік захищається за допомогою MTLS та згенерованих сертифікатів. Компанія позиціонує програму як рішення для приватної локальної інференції, при якому підказки, файли та контекст агентів залишаються у домашній мережі користувача, а не надсилаються до хмарного сервісу інференції. Документація репозиторію застерігає користувачів ознайомитися з нотатками щодо безпеки перед розгортанням PAIR у недовіреній або спільній мережі, оскільки вона включає локальні HTTP‑кінцеві точки, виявлення в LAN та мережеву інфраструктуру кластера.

Цільові навантаження та неофіційна демонстрація

Nvidia зазначає, що PAIR орієнтований на навантаження, які одночасно генерують багато незалежних запитів, наприклад, багатоугодні застосунки, у яких головний агент розбиває складне завдання на менші підзавдання для підагентів. У демонстрації з використанням агента Hermes Desktop та Ollama компанія повідомила, що завдання з п’ятьма підагентами, що працювали на моделі Qwen 3.6 35B A3B, займало в середньому 18 хвилин на одному ноутбуці RTX Spark, тоді як кластер PAIR з трьох пристроїв — ноутбук RTX Spark, DGX Spark і RTX 5090 — виконав те саме навантаження за середньо 8 хвилин 48 секунд. Nvidia охарактеризувала цей результат як неофіційну, специфічну для конфігурації демонстрацію, а не загальний бенчмарк чи обіцянку лінійного масштабування, зазначивши, що результати залежать від паралельності навантаження, моделі, налаштувань рушія, апаратури, мережі та доступності вузлів.

Компанія зазначила, що дуже послідовні завдання, навантаження, у яких домінує один тривалий виклик моделі, або конфігурації, у яких лише один вузол містить запитану модель, можуть отримати менший ефект. Документація репозиторію додає, що наразі програмне забезпечення постачається з єдиною політикою планування, що поєднує чергу завдань із грубим сигналом використання GPU, що робить його більш придатним для схожих машин, а не для сильно різнорідного кластера, і що Nvidia шукає відгуки щодо розумнішого планувальника без жорстких зобов’язань щодо того, що і коли буде випущено.