Nvidia Yhdistää Kotitietokoneet Yhdeksi AI‑Inferenssiklusteriksi PAIRin Avulla

Nvidia julkaisi 3. syyskuuta 2026 Personal AI Routerin (PAIR) betaversion, ilmaisen avoimen lähdekoodin ohjelmiston, joka yhdistää yhteensopivat tietokoneet kotiverkossa yhdeksi klusteriksi paikallista AI‑inferenssiä varten ja reitittää agenttityökuormien pyynnöt kaikille käytettävissä oleville koneille.

Nimestään huolimatta PAIR ei ole laitteistoreititin eikä uusi inferenssimoottori. Nvidia:n tekninen blogikirjoitus, jossa ohjelmisto julkistettiin, selittää, että Ollama‑ ja LM Studio‑moottorit suorittavat edelleen jokaisen mallin valitulla koneella, kun taas PAIR löytää osallistuvat järjestelmät, seuraa, onko kukin valmis pyyntöön, aikatauluttaa itsenäisiä tehtäviä ja palauttaa jokaisen vastauksen alkuperäiselle sovellukselle.

Mitä Beta Tukee

PAIR‑beta toimii Windows 11:ssä, Linuxissa ja macOS:ssä, ja x64‑ sekä arm64‑arkkitehtuurit ovat tuettuja kaikissa kolmessa käyttöjärjestelmässä; projektin dokumentaatio kuvaa Windows on ARM -tuen kokeelliseksi. Nvidia:n tuotesivu luettelee tuetuksi laitteistoksi kaikki GeForce RTX -näytönohjaimet 20‑sarjasta alkaen, DGX Spark‑ ja GB10‑järjestelmät sekä Macit, joissa on Apple M4 -siru tai uudempi, sekä vähintään 8 GB RAM-muistia ja 20 GB tai enemmän suositeltua levytilaa. Tekninen blogikirjoitus mainitsee lisäksi RTX PRO‑työasemagrafiikat Turing‑arkkitehtuurilla ja uudemmilla.

Toimintaan ei tarvita internetyhteyttä, vaikka sitä tarvitaan mallien lataamiseen. Tuotesivu kertoo, että klusterin perustaminen ei vaadi erikoiskaapeleita tai -telineitä: käyttäjät lataavat ohjelmiston, lisäävät laitteensa ja ajavat AI‑sovelluksensa sen kautta. Nvidia julkaisee PAIR‑lähdekoodin Apache License 2.0 -lisenssillä, ja kehittäjät voivat tarkastella koodia, raportoida ongelmia ja osallistua parannuksiin löytämisessä, parin muodostamisessa, reitityksessä, moottorintegraatiossa, päätepisteissä ja käyttökokemuksessa.

Reititys Ilman GPU‑Resurssien Yhdistämistä

Nvidia kuvaa PAIRia virtuaalisena inferenssireitittimenä eikä laitteiston yhdistämistapana. Jokainen pyyntö ohjataan yhteen kelvolliseen solmuun ja pysyy siellä koko elinkaarensa ajan; ohjelmisto ei yhdistä GPU‑muistia, yhdistä GPU:ita suuremmaksi loogiseksi kiihdyttimeksi, hajauta yhtä mallia useille koneille tai jaa yhtä käynnissä olevaa inferenssipyyntöä solmujen kesken.

Sovellukset yhdistyvät Ollama‑yhteensopivien ja OpenAI‑yhteensopivien välityspisteiden kautta, jotka PAIR luo ottamalla haltuun kahden moottorin käyttämät oletusportit. Nvidia toteaa, että tämä tarkoittaa, että agenttien sovellukset voivat jatkaa jo tuntemansa käyttöliittymän käyttöä ilman uutta klusteri‑API:a. Solmu kelpaa pyynnölle vain, kun sillä on käytössä tuettu moottori ja tarkka pyydetty malli on siellä saatavilla, ja PAIR suosii solmuja, joiden tiedetään jo sisältävän mallin. Mallien ei tarvitse olla identtisiä koko klusterissa; saman mallin tunnisteen lataaminen useammalle solmulle antaa aikatauluttajalle laajemman kelvollisen poolin.

Jokaisessa uudessa pyynnössä aikatauluttaja arvioi, onko paritettu solmu verkossa ja valmis, onko tuettu moottori käytössä, onko pyydetty malli läsnä, mikä on nykyinen työkuorma sisältäen aktiiviset tehtävät sekä olemassa oleva GPU‑käyttö, esimerkiksi graafisesti raskaassa sovelluksessa. Solmut voivat tarjota kapasiteettia käytettävissä ollessaan ja vetäytyä tarpeen mukaan, kuten kun kannettava siirtyy lepotilaan, sulkeutuu tai poistuu verkosta.

Löytäminen, Turvallisuus ja Yksityisyys

Asennuksen jälkeen PAIR käyttää paikallisverkon löytämistä mDNS:n kautta löytääkseen lähistön järjestelmät automaattisesti, ja solmu voidaan myös lisätä IP‑osoitteella. Kahden koneen pariliitos tapahtuu kuusinumeroisella PIN‑koodilla, joka näytetään kutsuvassa koneessa ja syötetään kutsuttuun. Nvidia kertoo, että kaikki solmu‑solmu‑viestintä on estetty ennen turvallisen pariliitoksen muodostamista, jonka jälkeen liikenne suojataan MTLS:llä ja luoduilla varmenteilla. Yritys asettaa ohjelmiston yksityiseen paikalliseen inferenssiin, jolloin kehotteet, tiedostot ja agentin konteksti pysyvät käyttäjän kotiverkossa sen sijaan, että ne lähetettäisiin pilvipalvelun inferenssiin. Säilytyksen dokumentaatio varoittaa käyttäjiä lukemaan sen turvallisuusohjeet ennen PAIRin käyttöönottoa epäluotettavassa tai jaetussa verkossa, koska se sisältää paikallisia HTTP‑päätepisteitä, LAN‑löytämisen ja klusteriverkottamisen.

Kohdekuormitukset ja Epävirallinen Demo

Nvidia kertoo, että PAIR on suunnattu kuormituksiin, jotka tuottavat samanaikaisesti monia itsenäisiä pyyntöjä, kuten monen agentin sovelluksiin, joissa pääagentti jakaa monimutkaisen tehtävän pienemmiksi töiksi aliedustajille. Hermes Desktop -agenttia ja Ollamaa käyttävässä demonstraatiossa yritys raportoiti, että viiden aliedustajan tehtävä, jossa käytettiin Qwen 3.6 35B A3B -mallia, kesti keskimäärin 18 minuuttia yhdellä RTX Spark‑kannettavalla, kun taas kolmesta laitteesta koostuva PAIR‑klusteri, jossa oli RTX Spark‑kannettava, DGX Spark ja RTX 5090, suoritti saman kuormituksen keskimäärin 8 minuuttia ja 48 sekuntia. Nvidia luokittelee tuloksen epäviralliseksi, konfiguraatio‑spesifiseksi demonstraatioksi eikä yleiseksi vertailuarvioksi tai lupaukseksi lineaarisesta skaalautuvuudesta, huomauttaen, että tulokset riippuvat työkuorman rinnakkaisuudesta, mallista, moottorin asetuksista, laitteistosta, verkosta ja solmujen saatavuudesta.

Yritys kertoo, että erittäin peräkkäiset tehtävät, yksi pitkä mallikutsu hallitseva työkuorma tai konfiguraatiot, joissa vain yksi solmu sisältää pyydetyn mallin, voivat saada vähemmän hyötyä. Säilytyksen dokumentaatio lisää, että ohjelmisto tällä hetkellä toimittaa yhden aikataulutuspolitiikan, joka yhdistää jonossa olevan työn karkeaan GPU‑käyttösignaaliin, mikä tekee siitä paremman sopivan samankaltaisille koneille kuin erittäin sekoitetulle klusterille, ja että Nvidia haluaa palautetta aikatauluttajan älykkäämmäksi tekemiseksi ilman kiinteitä sitoumuksia siitä, mitä ja milloin julkaistaan.

Alkuperäisen artikkelin lähteet: unite.ai [1] · github.com [2]