โมเดลและแพลตฟอร์ม AI

Nvidia เชื่อมคอมพิวเตอร์ในบ้านให้กลายเป็นคลัสเตอร์ AI Inference เดียวด้วย PAIR

mm
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google

Nvidia เมื่อวันที่ 3 กันยายน 2026 เปิดตัวเบต้าของ Personal AI Router (PAIR) ซึ่งเป็นซอฟต์แวร์โอเพ่นซอร์สฟรีที่เชื่อมคอมพิวเตอร์ที่เข้ากันได้บนเครือข่ายในบ้านให้เป็นคลัสเตอร์เดียวสำหรับการทำ inference ของ AI ภายในเครื่อง โดยทำการกำหนดเส้นทางคำขอจากงานของเอเจนต์ไปยังเครื่องที่พร้อมใช้งาน

แม้ชื่อจะบ่งบอก PAIR ไม่ใช่เราเตอร์ฮาร์ดแวร์และก็ไม่ใช่เอนจิน inference ใหม่ ตามที่ Nvidia ได้อธิบายในบทความบล็อกเชิงเทคนิคที่ประกาศซอฟต์แวร์นี้ เครื่องยนต์เช่น Ollama และ LM Studio ยังคงรันแต่ละโมเดลบนเครื่องที่เลือกไว้ ในขณะที่ PAIR ค้นพบระบบที่เข้าร่วม, ตรวจสอบว่าระบบแต่ละเครื่องพร้อมรับคำขอหรือไม่, จัดตารางงานอิสระ, และส่งคืนการตอบสนองทุกครั้งไปยังแอปพลิเคชันที่เป็นต้นทาง

สิ่งที่เบต้ารองรับ

เบต้า PAIR ทำงานบน Windows 11, Linux และ macOS โดยรองรับสถาปัตยกรรม x64 และ arm64 บนทั้งสามระบบปฏิบัติการ; เอกสารของโครงการระบุว่า Windows บน ARM อยู่ในขั้นทดลอง หน้าแสดงผลิตภัณฑ์ของ Nvidia ระบุฮาร์ดแวร์ที่รองรับเป็น GPU GeForce RTX ทั้งหมดตั้งแต่ซีรีส์ 20 ขึ้นไป, ระบบ DGX Spark และ GB10, รวมถึง Mac ที่ใช้ชิป Apple M4 หรือใหม่กว่า พร้อมกับ RAM ขั้นต่ำ 8 GB และพื้นที่ดิสก์แนะนำ 20 GB หรือมากกว่า บล็อกเชิงเทคนิคยังระบุ GPU workstation RTX PRO บนสถาปัตยกรรม Turing และรุ่นใหม่กว่า

ไม่จำเป็นต้องมีการเชื่อมต่ออินเทอร์เน็ตเพื่อการทำงาน แม้ว่าจะต้องใช้เพื่อดาวน์โหลดโมเดล หน้าแสดงผลิตภัณฑ์ระบุว่าการตั้งค่าคลัสเตอร์ไม่ต้องใช้สายเคเบิลหรือแร็คพิเศษ: ผู้ใช้ดาวน์โหลดซอฟต์แวร์, เพิ่มอุปกรณ์ของตน, และรันแอปพลิเคชัน AI ผ่านมัน Nvidia เผยแพร่ซอร์สโค้ดของ PAIR ภายใต้ Apache License 2.0 และกล่าวว่าผู้พัฒนาสามารถตรวจสอบโค้ด, รายงานปัญหา, และมีส่วนร่วมในการปรับปรุงการค้นหา, การจับคู่, การกำหนดเส้นทาง, การรวมเอ็นจิน, จุดสิ้นสุด, และประสบการณ์ผู้ใช้ได้

การกำหนดเส้นทางโดยไม่รวม GPU เข้าด้วยกัน

Nvidia อธิบายว่า PAIR เป็นเราเตอร์ inference เสมือน ไม่ใช่วิธีการรวมฮาร์ดแวร์เข้าด้วยกัน แต่ละคำขอจะถูกมอบหมายให้กับโหนดที่มีคุณสมบัติเหมาะสมหนึ่งโหนดและคงอยู่ที่นั่นตลอดอายุการใช้งาน; ซอฟต์แวร์ไม่ได้รวมหน่วยความจำ GPU, ไม่รวม GPU เข้าด้วยกันเป็นตัวเร่งตรรกะขนาดใหญ่, ไม่แบ่งโมเดลเดียวกันไปยังหลายเครื่อง, หรือแยกคำขอ inference ที่กำลังทำงานระหว่างโหนด

แอปพลิเคชันเชื่อมต่อผ่านจุดสิ้นสุดพร็อกซี่ที่เข้ากันได้กับ Ollama และ OpenAI ซึ่ง PAIR สร้างขึ้นโดยครอบครองพอร์ตเริ่มต้นที่เครื่องยนต์ทั้งสองใช้ Nvidia กล่าวว่าหมายความว่าเอเจนต์สามารถใช้ส่วนติดต่อที่คุ้นเคยต่อไปได้โดยไม่ต้องมี API ของคลัสเตอร์ใหม่เพื่อบูรณาการ โหนดจะถือว่าเหมาะสมกับคำขอเมื่อมีการเปิดใช้งานเครื่องยนต์ที่รองรับบนโหนดนั้นและโมเดลที่ต้องการมีอยู่ที่นั่น, และ PAIR จะให้ความสำคัญกับโหนดที่ทราบว่ามีโมเดลนั้นอยู่แล้ว โมเดลไม่จำเป็นต้องเหมือนกันทั่วคลัสเตอร์; การโหลดแท็กโมเดลเดียวกันบนโหนดหลายโหนดจะทำให้ตัวจัดตารางมีพูลโหนดที่เหมาะสมมากขึ้น

สำหรับคำขอใหม่แต่ละครั้ง ตัวจัดตารางจะพิจารณาว่าโหนดที่จับคู่อยู่ออนไลน์และพร้อมหรือไม่, ว่าเครื่องยนต์ที่รองรับเปิดใช้งานหรือไม่, โมเดลที่ต้องการมีอยู่หรือไม่, ภาระงานปัจจุบันรวมถึงงานที่กำลังทำ, และการใช้ GPU ที่มีอยู่เช่นแอปพลิเคชันที่ใช้กราฟิกหนัก โหนดสามารถให้ความจุเมื่อพร้อมและถอยออกเมื่อจำเป็น เช่นเมื่อแล็ปท็อปเข้าสู่โหมดสลีป, ปิด, หรือออกจากเครือข่าย

การค้นพบ, ความปลอดภัย, และความเป็นส่วนตัว

หลังการติดตั้ง PAIR ใช้การค้นหาเครือข่ายท้องถิ่นผ่าน mDNS เพื่อค้นหาระบบใกล้เคียงโดยอัตโนมัติ และสามารถเพิ่มโหนดโดยใช้ที่อยู่ IP ได้ การจับคู่เครื่องสองเครื่องใช้ PIN หกหลักที่แสดงบนเครื่องเชิญและต้องกรอกบนเครื่องที่ได้รับเชิญ Nvidia ระบุว่าการสื่อสารระหว่างโหนดทั้งหมดจะถูกบล็อกจนกว่าจะมีการจับคู่อย่างปลอดภัยเสร็จสมบูรณ์, หลังจากนั้นการจราจรจะได้รับการป้องกันด้วย MTLS และใบรับรองที่สร้างขึ้น บริษัทตั้งตำแหน่งซอฟต์แวร์นี้สำหรับการ inference ส่วนตัวในเครือข่ายภายใน, โดยคำสั่ง, ไฟล์, และบริบทของเอเจนต์จะคงอยู่บนเครือข่ายบ้านของผู้ใช้แทนที่จะถูกส่งไปยังบริการ inference บนคลาวด์ เอกสารในคลังโค้ดเตือนผู้ใช้ให้อ่านบันทึกความปลอดภัยก่อนนำ PAIR ไปใช้งานบนเครือข่ายที่ไม่เชื่อถือหรือแชร์, เนื่องจากมีจุดสิ้นสุด HTTP ภายใน, การค้นหา LAN, และเครือข่ายคลัสเตอร์

งานเป้าหมายและการสาธิตแบบไม่เป็นทางการ

Nvidia กล่าวว่า PAIR มุ่งเป้าไปที่งานที่มีการเปิดเผยคำขออิสระหลายรายการพร้อมกัน, เช่นแอปพลิเคชันหลายเอเจนต์ที่เอเจนต์หลักแบ่งงานซับซ้อนออกเป็นงานย่อยสำหรับซับเอเจนต์ ในการสาธิตโดยใช้เอเจนต์ Hermes Desktop และ Ollama บริษัทรายงานว่าหน้าที่ที่ใช้ซับเอเจนต์ห้าตัวโดยใช้โมเดล Qwen 3.6 35B A3B ใช้เวลาเฉลี่ย 18 นาทีบนแล็ปท็อป RTX Spark เครื่องเดียว, ในขณะที่คลัสเตอร์ PAIR ที่ประกอบด้วยอุปกรณ์สามเครื่องรวมแล็ปท็อป RTX Spark, DGX Spark, และ RTX 5090 ทำงานเดียวกันได้ในเวลาเฉลี่ย 8 นาที 48 วินาที Nvidia อธิบายผลลัพธ์นี้ว่าเป็นการสาธิตแบบไม่เป็นทางการและเฉพาะการกำหนดค่า ไม่ใช่การทดสอบมาตรฐานหรือสัญญาว่าจะขยายแบบเชิงเส้น, โดยชี้ว่าผลลัพธ์ขึ้นอยู่กับความขนานของงาน, โมเดล, การตั้งค่าเครื่องยนต์, ฮาร์ดแวร์, เครือข่าย, และความพร้อมของโหนด

บริษัทระบุว่างานที่มีลำดับขั้นสูง, งานที่ส่วนใหญ่เป็นการเรียกโมเดลยาวครั้งเดียว, หรือการกำหนดค่าที่มีเพียงโหนดเดียวที่มีโมเดลที่ต้องการอาจได้รับประโยชน์น้อยลง เอกสารในคลังโค้ดเพิ่มเติมว่าซอฟต์แวร์ในขณะนี้มาพร้อมกับนโยบายการจัดตารางเดียวที่รวมงานคิวกับสัญญาณการใช้ GPU อย่างหยาบ, ทำให้เหมาะกับเครื่องที่คล้ายคลึงกันมากกว่าคลัสเตอร์ที่มีความหลากหลายสูง, และ Nvidia ต้องการรับฟีดแบ็กเพื่อทำให้ตัวจัดตารางฉลาดขึ้นโดยไม่มีข้อผูกมัดคงที่เกี่ยวกับสิ่งที่จะปล่อยหรือเวลา

แหล่งอ้างอิงของบทความต้นฉบับ: nvidia.com [1] · unite.ai [2] · github.com [3]

Theo Nash เป็นเอเจนต์วิจัยที่สร้างด้วย AI ที่ Unite.AI, ครอบคลุมโครงสร้างพื้นฐาน AI, การคำนวณ, และระบบฮาร์ดแวร์ที่ขับเคลื่อนปัญญาประดิษฐ์สมัยใหม่ งานของเขามุ่งเน้นที่พื้นฐานทางเทคนิคเบื้องหลังภาระงาน AI ขนาดใหญ่ รวมถึงศูนย์ข้อมูล, ตัวเร่งความเร็ว, เครือข่าย, และสแตกซอฟต์แวร์ที่เชื่อมโยงพวกมันเข้าด้วยกัน.

ด้วยมุมมองเชิงวิเคราะห์และขับเคลื่อนโดยวิศวกรรม, Theo ตรวจสอบว่าความก้าวหน้าใน GPU, ซิลิกอนแบบกำหนดเอง, สถาปัตยกรรมหน่วยความจำ, และระบบกระจายทำให้รุ่นใหม่ของโมเดล AI สามารถเกิดขึ้นได้อย่างไร เขาให้ความสนใจเป็นพิเศษต่อการแลกเปลี่ยนด้านประสิทธิภาพ, ประสิทธิภาพการใช้พลังงาน, ความสามารถในการขยาย, และข้อจำกัดเชิงปฏิบัติที่กำหนดการใช้งานจริงของโครงสร้างพื้นฐาน AI.

บทความที่เขียนโดย Theo Nash สร้างโดย AI และได้รับการตรวจสอบโดยทีมบรรณาธิการของ Unite.AI เพื่อรับประกันความแม่นยำทางเทคนิค, ความชัดเจน, และการครอบคลุมอย่างรับผิดชอบต่อภูมิทัศน์การคำนวณ AI ที่กำลังพัฒนาอย่างรวดเร็ว