Nvidia collega i computer domestici in un unico cluster di inferenza AI con PAIR

Nvidia, il 3 settembre 2026, ha rilasciato la versione beta del Personal AI Router (PAIR), un software gratuito open source che collega i computer compatibili su una rete domestica in un unico cluster per l’inferenza AI locale, indirizzando le richieste dei carichi di lavoro degli agenti tra le macchine disponibili.

Nonostante il nome, PAIR non è un router hardware né un nuovo motore di inferenza. Secondo il post tecnico di Nvidia che annuncia il software, motori come Ollama e LM Studio eseguono ancora ogni modello su una macchina selezionata, mentre PAIR scopre i sistemi partecipanti, verifica se ciascuno è pronto per una richiesta, pianifica lavori indipendenti e restituisce ogni risposta all’applicazione che l’ha generata.

Cosa supporta la beta

La beta di PAIR funziona su Windows 11, Linux e macOS, con architetture x64 e arm64 supportate su tutti e tre i sistemi operativi; la documentazione del progetto descrive Windows su ARM come sperimentale. La pagina prodotto di Nvidia elenca l’hardware supportato come tutte le GPU GeForce RTX dalla serie 20 in poi, i sistemi DGX Spark e GB10, e i Mac con chip Apple M4 o successivi, oltre a un minimo di 8 GB di RAM e 20 GB o più di spazio su disco consigliato. Il post tecnico aggiunge anche le GPU RTX PRO per workstation basate sull’architettura Turing e successive.

Non è necessaria alcuna connessione a Internet per il funzionamento, sebbene sia richiesta per scaricare i modelli. La pagina prodotto afferma che la configurazione di un cluster non richiede cavi o rack speciali: gli utenti scaricano il software, aggiungono i propri dispositivi e eseguono le applicazioni AI attraverso di esso. Nvidia pubblica il codice sorgente di PAIR sotto licenza Apache 2.0, e dichiara che gli sviluppatori possono esaminare il codice, segnalare problemi e contribuire a miglioramenti nella scoperta, accoppiamento, instradamento, integrazione dei motori, endpoint e esperienza utente.

Instradamento senza aggregazione delle GPU

Nvidia descrive PAIR come un router di inferenza virtuale piuttosto che come un modo per unire l’hardware. Ogni richiesta viene assegnata a un nodo idoneo e vi rimane per tutta la sua durata; il software non aggrega la memoria delle GPU, non combina le GPU in un acceleratore logico più grande, non suddivide un singolo modello tra più macchine e non divide una richiesta di inferenza in corso tra più nodi.

Le applicazioni si connettono tramite endpoint proxy compatibili con Ollama e OpenAI, che PAIR crea assumendo le porte predefinite utilizzate dai due motori. Nvidia ha spiegato che ciò consente agli harness degli agenti di continuare a usare l’interfaccia già nota, senza dover integrare una nuova API di cluster. Un nodo diventa idoneo a ricevere una richiesta solo quando su di esso è abilitato un motore supportato e il modello richiesto è presente, e PAIR preferisce i nodi che già conosce contenere il modello. I modelli non devono essere identici in tutto il cluster; caricare lo stesso tag di modello su più nodi fornisce allo scheduler un pool di risorse più ampio.

Per ogni nuova richiesta, lo scheduler valuta se un nodo accoppiato è online e pronto, se un motore supportato è abilitato, se il modello richiesto è presente, il carico di lavoro corrente includendo i job attivi e l’utilizzo attuale della GPU, ad esempio da un’applicazione grafica intensiva. I nodi possono fornire capacità quando disponibili e ritirarsi quando necessario, ad esempio quando un laptop va in sospensione, si chiude o lascia la rete.

Scoperta, sicurezza e privacy

Dopo l’installazione, PAIR utilizza la scoperta in rete locale tramite mDNS per individuare automaticamente i sistemi vicini, e un nodo può anche essere aggiunto tramite indirizzo IP. L’accoppiamento di due macchine avviene mediante un PIN a sei cifre mostrato sulla macchina invitante e inserito su quella invitata. Nvidia ha dichiarato che tutta la comunicazione nodo‑a‑nodo è bloccata fino a quando non viene stabilito l’accoppiamento sicuro; a quel punto il traffico è protetto con MTLS e certificati generati. L’azienda posiziona il software per inferenza locale privata, mantenendo prompt, file e contesto dell’agente sulla rete domestica dell’utente anziché inviarli a un servizio di inferenza cloud. La documentazione del repository avverte gli utenti di leggere le note di sicurezza prima di distribuire PAIR su una rete non attendibile o condivisa, poiché include endpoint HTTP locali, scoperta LAN e networking del cluster.

Carichi di lavoro target e una demo non ufficiale

Nvidia ha affermato che PAIR è destinato a carichi di lavoro che generano molte richieste indipendenti simultaneamente, come le applicazioni multi‑agente in cui un agente principale suddivide un compito complesso in job più piccoli per i sotto‑agenti. In una dimostrazione con l’agente Hermes Desktop e Ollama, l’azienda ha riferito che un compito con cinque sotto‑agenti che utilizza il modello Qwen 3.6 35B A3B ha impiegato in media 18 minuti su un singolo laptop RTX Spark, mentre un cluster PAIR a tre dispositivi composto da un laptop RTX Spark, un DGX Spark e un RTX 5090 ha completato lo stesso carico in una media di 8 minuti e 48 secondi. Nvidia ha descritto il risultato come una dimostrazione non ufficiale e specifica della configurazione, piuttosto che un benchmark generale o una promessa di scalabilità lineare, osservando che i risultati dipendono dal parallelismo del carico, dal modello, dalle impostazioni del motore, dall’hardware, dalla rete e dalla disponibilità dei nodi.

L’azienda ha affermato che compiti altamente sequenziali, carichi di lavoro dominati da una singola chiamata di modello prolungata o configurazioni in cui solo un nodo possiede il modello richiesto potrebbero trarre meno vantaggio. La documentazione del repository aggiunge che il software attualmente fornisce una sola politica di scheduling che combina lavoro in coda con un segnale grezzo di utilizzo della GPU, rendendolo più adatto a macchine simili piuttosto che a un cluster molto eterogeneo, e che Nvidia desidera ricevere feedback per rendere lo scheduler più intelligente senza impegni fissi su cosa verrà rilasciato o quando.

Fonti dell’articolo originale: developer.nvidia.com [1] · nvidia.com [2] · unite.ai [3] · github.com [4]