Nvidia об’єднує домашні комп’ютери в один кластер AI‑висновків за допомогою PAIR

Nvidia 3 вересня 2026 року випустила бета‑версію Personal AI Router (PAIR) — безкоштовного програмного забезпечення з відкритим кодом, яке з’єднує сумісні комп’ютери у домашній мережі в один кластер для локального AI‑висновку, маршрутизуючи запити агентних навантажень між доступними машинами.

Незважаючи на назву, PAIR не є апаратним маршрутизатором і не є новим інференс‑двигуном. За даними технічного блогу Nvidia, такі двигуни, як Ollama та LM Studio, і надалі виконують кожну модель на обраній машині, тоді як PAIR виявляє учасницькі системи, стежить, чи готова кожна з них до запиту, планує незалежні завдання і повертає кожну відповідь у застосунок, який її ініціював.

Що підтримує бета‑версія

Бета‑версія PAIR працює під Windows 11, Linux та macOS, підтримуючи архітектури x64 і arm64 на всіх трьох операційних системах; у документації проєкту зазначено, що Windows на ARM є експериментальним. На сторінці продукту Nvidia вказано підтримуване обладнання: усі графічні процесори GeForce RTX, починаючи з 20‑ї серії, системи DGX Spark і GB10, а також Mac з процесорами Apple M4 або новішими, при мінімумі 8 ГБ ОЗУ та рекомендованому дисковому просторі 20 ГБ і більше. У технічному блозі також перераховано графічні процесори RTX PRO для робочих станцій на архітектурі Turing і новіших.

Для роботи інтернет‑з’єднання не потрібне, хоча його треба для завантаження моделей. На сторінці продукту зазначено, що налаштування кластера не вимагає спеціальних кабелів або стійок: користувачі просто завантажують програму, додають свої пристрої та запускають AI‑застосунки через неї. Nvidia публікує вихідний код PAIR під ліцензією Apache License 2.0, і розробники можуть переглядати код, повідомляти про помилки та вносити покращення у виявлення, сполучення, маршрутизацію, інтеграцію двигунів, кінцеві точки та користувацький досвід.

Маршрутизація без об’єднання GPU

Nvidia описує PAIR як віртуальний інференсний маршрутизатор, а не спосіб об’єднання апаратури. Кожен запит призначається одному придатному вузлу і залишається там протягом усього часу виконання; програмне забезпечення не об’єднує пам’ять GPU, не комбінує GPU в один логічний прискорювач, не розподіляє одну модель між кількома машинами і не розділяє один активний інференсний запит між вузлами.

Застосунки підключаються через проксі‑кінцеві точки, сумісні з Ollama та OpenAI, які PAIR створює, перехоплюючи стандартні порти, що використовують ці два двигуни. Nvidia зазначає, що це дозволяє агентам і надалі користуватися знайомим інтерфейсом без необхідності впроваджувати новий API кластера. Вузол стає придатним до запиту лише тоді, коли на ньому ввімкнено підтримуваний двигун і там присутня саме запитувана модель; PAIR надає перевагу вузлам, про які вже відомо, що вони містять модель. Моделі не зобов’язані бути ідентичними у всьому кластері; завантаження тієї ж мітки моделі на декілька вузлів розширює пул придатних ресурсів планувальника.

Для кожного нового запиту планувальник оцінює, чи підключений і готовий спарений вузол, чи ввімкнено підтримуваний двигун, чи присутня запитувана модель, поточне навантаження, включаючи активні завдання, та існуюче використання GPU, наприклад, під час роботи графічно інтенсивного застосунку. Вузли можуть надавати потужність, коли вона доступна, і відключатися, коли це потрібно, наприклад, коли ноутбук переходить у сплячий режим, вимикається або виходить з мережі.

Виявлення, безпека та конфіденційність

Після встановлення PAIR використовує локальне виявлення в мережі через mDNS для автоматичного пошуку сусідніх систем, а вузол можна додати й за IP‑адресою. Сполучення двох машин здійснюється за допомогою шестизначного PIN‑коду, який відображається на запрошуючій машині і вводиться на запрошеній. Nvidia повідомляє, що вся комунікація між вузлами блокується, доки не встановлено безпечне сполучення, після чого трафік захищається за допомогою MTLS та згенерованих сертифікатів. Компанія позиціонує програму для приватного локального інференсу, коли підказки, файли та контекст агентів залишаються у домашній мережі користувача, а не надсилаються до хмарного сервісу інференсу. Документація репозиторію радить користувачам ознайомитися з нотатками щодо безпеки перед розгортанням PAIR у недовіреній або спільній мережі, оскільки вона включає локальні HTTP‑кінцеві точки, виявлення в LAN та мережеву інфраструктуру кластера.

Цільові навантаження та неофіційна демонстрація

Nvidia зазначає, що PAIR орієнтований на навантаження, які одночасно генерують багато незалежних запитів, наприклад, мульти‑агентні застосунки, у яких головний агент розбиває складне завдання на менші підзавдання для підагентів. У демонстрації за участю агента Hermes Desktop та Ollama компанія повідомила, що завдання з п’ятьма підагентами, що використовує модель Qwen 3.6 35B A3B, зайняло в середньому 18 хвилин на одному ноутбуці RTX Spark, тоді як кластер PAIR з трьох пристроїв (ноутбук RTX Spark, DGX Spark і RTX 5090) завершив те саме навантаження за середньо 8 хвилин 48 секунд. Nvidia охарактеризувала результат як неофіційну, специфічну для конфігурації демонстрацію, а не загальний бенчмарк чи обіцянку лінійного масштабування, зазначивши, що результати залежать від паралельності навантаження, моделі, налаштувань двигуна, апаратури, мережі та доступності вузлів.

Компанія зазначає, що сильно послідовні завдання, навантаження, у яких домінує один тривалий виклик моделі, або конфігурації, коли лише один вузол містить запитувану модель, можуть отримати меншу вигоду. Документація репозиторію додає, що програмне забезпечення наразі постачається з єдиною політикою планування, що поєднує чергову роботу з грубим сигналом використання GPU, що робить його кращим варіантом для схожих машин, ніж для сильно змішаного кластера, і що Nvidia шукає відгуки щодо розумнішого планувальника без жорстких зобов’язань щодо того, що саме буде випущено і коли.