NVIDIA มอบ OpenShell ให้ CNCF พร้อมเพิ่มเครื่องมือโอเพนซอร์สสำหรับ AI Factory

NVIDIA ประกาศ เมื่อวันที่ 10 พฤศจิกายน 2026 ที่งาน KubeCon + CloudNativeCon ว่าจะมอบรันไทม์ด้านความปลอดภัยของเอเจนต์ OpenShell ให้แก่ Sandbox ของ Cloud Native Computing Foundation (CNCF) และเปิดตัวคอมโพเนนต์โอเพนซอร์ส 3 รายการสำหรับ DSX AI Factory Platform

ประกาศเหล่านี้เชื่อมโยงการกำกับดูแลเอเจนต์เข้ากับโครงสร้างพื้นฐานที่จำเป็นต่อการทำงานของเอเจนต์อย่างมีประสิทธิภาพ NVIDIA ยังร่วมสมทบให้โครงการ Agent Substrate ซึ่งเริ่มต้นโดย Google และเพิ่ม Kubernetes Engine, Kubernetes Recipes และ Snapshot ให้กับ DSX เพื่อรองรับการทำงานของเซสชัน การจัดการคลัสเตอร์ และการกู้คืนการอนุมาน

OpenShell มุ่งสู่การกำกับดูแลโดยชุมชน

OpenShell ใช้การควบคุมแบบกำหนดผลลัพธ์แน่นอน ขณะที่เอเจนต์อัตโนมัติใช้เครื่องมือ เข้าถึงบริการอนุมาน และดำเนินงานต่าง ๆ โดยให้เอเจนต์ทำงานใน แซนด์บ็อกซ์ที่แยกการทำงานในระดับเคอร์เนล พร้อมนโยบาย YAML แบบประกาศที่ครอบคลุมการเข้าถึงระบบไฟล์ เครือข่าย กระบวนการ และข้อมูลรับรองของผู้ให้บริการ ระบบจะใส่ข้อมูลรับรองลงในคำขอที่ส่งไปยังปลายทางที่ได้รับอนุมัติเท่านั้น และใช้ การตรวจสอบความถูกต้องอย่างเป็นทางการ เพื่อตรวจสอบว่าการเปลี่ยนแปลงนโยบายที่เสนอจะเปิดสิทธิ์เข้าถึงใหม่ที่มีความเสี่ยงหรือไม่ก่อนอนุมัติ

รันไทม์นี้ใช้สัญญาอนุญาต Apache 2.0 NVIDIA ระบุว่าองค์กรหลายร้อยแห่งนำไปใช้แล้ว มีผู้ส่งผลงานเข้าร่วมหลายหมื่นรายการภายในเวลาไม่ถึงหนึ่งปี และการกำกับดูแล Sandbox จะเปิดให้มีองค์กรเข้าร่วม ซึ่งจะนำโครงการไปผนวกเข้ากับผลิตภัณฑ์ของตน การเปลี่ยนผ่านยังอยู่ระหว่างดำเนินการ โดย ประกาศของโครงการ ระบุว่าการพัฒนากำลังย้ายไปยังองค์กร ai-openshell ส่วนโค้ด ปัญหา และคำขอรวมโค้ดยังคงอยู่ที่ NVIDIA/OpenShell ระหว่างการย้าย

Agent Substrate มุ่งลดทรัพยากรประมวลผลที่เสียเปล่าระหว่างรอ

Agent Substrate ช่วยจัดการต้นทุนในการคงเซสชันของเอเจนต์ให้ทำงานอยู่ เอเจนต์มักต้องรอพรอมต์ ผลลัพธ์จากเครื่องมือ หรือคำตอบจากโมเดล โดย Kubernetes Pod ที่เตรียมพร้อมไว้โดยเฉพาะจะคงทรัพยากรไว้ระหว่างช่วงรอเหล่านั้น แต่หากสร้าง Pod ใหม่ สถานะเดิมจะสูญหายและต้องเริ่มระบบใหม่แบบ cold start อีกครั้ง NVIDIA และ Google ยังร่วมมือกันพัฒนาการผสาน OpenShell สำหรับเอเจนต์ที่ทำงานข้ามคลาวด์และระบบภายในองค์กร

แนวทางการออกแบบ Agent Substrate จับคู่เซสชันที่เก็บสถานะจำนวนมากเข้ากับกลุ่มเวิร์กเกอร์ที่เตรียมพร้อมไว้ซึ่งมีขนาดเล็กกว่า ระบบจะบันทึกจุดตรวจของเซสชันที่ไม่ได้ใช้งาน รวมถึงสถานะหน่วยความจำและระบบไฟล์ จากนั้นคืนเวิร์กเกอร์ของเซสชันเหล่านั้น แล้วกู้คืนเซสชันไปยังเวิร์กเกอร์ที่พร้อมใช้งาน โดยไม่ต้องทำขั้นตอนสร้าง Kubernetes Pod ตามปกติซ้ำ เวิร์กเกอร์ยังคงเป็น Kubernetes Pod ทั่วไป ดังนั้นการจัดตารางงาน โควตา และนโยบายการจัดวางของคลัสเตอร์จึงยังมีผลเช่นเดิม เวิร์กโหลดเป้าหมาย ได้แก่ ผู้ช่วยเขียนโค้ด สภาพแวดล้อมการเรียนรู้แบบเสริมกำลัง และแซนด์บ็อกซ์สำหรับการวิจัย GPU ที่มีอายุการทำงานสั้น

NVIDIA กำลังพัฒนาการทำงานร่วมกันกับ Dynamo สำหรับการอนุมาน และ KAI Scheduler สำหรับการใช้ทรัพยากรคลัสเตอร์ร่วมกัน Dynamo สามารถให้ข้อมูลเวลาที่คาดการณ์ว่าจะได้รับโทเคนแรกและระดับความหนาแน่นของการใช้งานพูล GPU เพื่อให้ Agent Substrate ตัดสินใจได้ว่าจะคงเอเจนต์ไว้ในหน่วยความจำ พักการทำงาน หรือกลับมาทำงานต่อ ขณะนี้ API ยังมีการเปลี่ยนแปลง การรองรับ GPU กำลังปรับโครงสร้างใหม่โดยใช้ Kubernetes Dynamic Resource Allocation และการผสานรวม Dynamo บางส่วนยังอยู่ในขั้นทดลอง

DSX เพิ่มการจัดการคลัสเตอร์และการกู้คืนที่เร็วขึ้น

NVIDIA Kubernetes Engine และ NVIDIA Kubernetes Recipes (NVKE และ NVKR) เปิดให้ทดลองใช้งานแบบสาธารณะภายใต้สัญญาอนุญาต Apache 2.0 NVIDIA ระบุว่า API การกำหนดค่า และลักษณะการทำงานอาจเปลี่ยนแปลงได้ และยังไม่แนะนำให้ใช้กับเวิร์กโหลดจริงในระบบผลิตภัณฑ์ NVKR สร้างอิมเมจโหนด อิมเมจคอนเทนเนอร์ ไบนารี และ Helm chart ที่สร้างซ้ำได้จากแหล่งข้อมูลซึ่งตรึงเวอร์ชันไว้ พร้อมบันทึกข้อมูลนำเข้า NVKE ใช้อาร์ติแฟกต์เหล่านั้นเพื่อจัดเตรียมและดูแลคลัสเตอร์ผ่าน REST API และคอนโทรลเลอร์ อย่างไรก็ตาม สามารถนำแต่ละโครงการไปใช้แยกจากกันได้

NVKE สร้างคลัสเตอร์สำหรับเวิร์กโหลดของลูกค้า โดยแยก Kubernetes control plane, อินสแตนซ์ etcd และพูลโหนดออกจากกัน ระบบจัดหาทรัพยากร bare metal ผ่าน NVIDIA Infra Controller และผู้ให้บริการ Cluster API อย่าง CAPNICo โดยโหนดต้องแสดงตัวตน SPIFFE ที่ผ่านการรับรองก่อนจึงจะได้รับข้อมูลรับรองสำหรับเข้าร่วมคลัสเตอร์ Firmus และ SK Telecom กำลังผสานโครงการเหล่านี้เข้ากับ AI Factory ของตน ส่วน Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud และ vCluster มีแผนผสานรวมที่เกี่ยวข้องกับแพลตฟอร์มโครงสร้างพื้นฐาน บริการ Kubernetes ที่มีการจัดการ หรือระบบอัตโนมัติด้านเครือข่ายของตน

NVIDIA Snapshot ช่วยจัดการปัญหาการเริ่มต้นการอนุมานแบบ cold start ด้วยการบันทึกจุดตรวจของหน่วยความจำ CPU และ GPU ในเวิร์กโหลดที่เริ่มต้นทำงานครบถ้วนแล้ว การกู้คืนต้องใช้ GPU รุ่นเดียวกันและไดรเวอร์เดียวกัน อีกทั้งช่วยข้ามขั้นตอนโหลดน้ำหนักโมเดล คอมไพล์ และบันทึก CUDA graph ที่ทำซ้ำ

NVIDIA รายงานว่า เมื่อใช้ GPU B200 ร่วมกับพื้นที่จัดเก็บ VAST NFS การกู้คืนใช้เวลา 3.6–42.7 วินาทีในรูปแบบการกำหนดค่าต่าง ๆ ของ vLLM, SGLang และ TensorRT LLM โดยเร็วขึ้น 8–36 เท่าเมื่อเทียบกับ cold start การทดสอบครอบคลุมตั้งแต่โมเดลขนาด 600 ล้านพารามิเตอร์ ไปจนถึงการกำหนดค่าที่ใช้ GPU 8 ตัว โดยมีจุดตรวจขนาดเกือบ 1 TB การสร้างจุดตรวจใช้เวลา 15 วินาทีถึง 5.5 นาที และในทุกการกำหนดค่าที่ทดสอบ เวลารวมของการสร้างจุดตรวจและการกู้คืนสั้นกว่า cold start หนึ่งครั้ง

ตัวเลขเหล่านี้ไม่ได้วัดเวลาการเริ่มต้นเครื่องทั้งเครื่อง เนื่องจากการจัดเตรียมโครงสร้างพื้นฐานและการโหลดอิมเมจคอนเทนเนอร์อยู่นอกขั้นตอนการกู้คืนที่จับเวลาไว้ นอกจากนี้ ระบบยังปล่อยแคชคีย์-ค่าก่อนสร้างจุดตรวจแต่ละครั้ง แทนที่จะเก็บแคชไว้ในอาร์ติแฟกต์ ดังนั้นผลลัพธ์จึงเป็นการวัดการกู้คืนเวิร์กโหลดที่เริ่มต้นทำงานแล้วบนโครงสร้างพื้นฐานที่เข้ากันได้

การทดสอบ GLM-5.3 ด้วยตนเอง ของ Crusoe บน NVIDIA HGX B300 ใช้เช็กพอยต์ที่มีสถานะ GPU ขนาด 594 GB Crusoe วัดเวลาการกู้คืนสถานะ GPU ได้ 15.0 วินาทีจาก NVMe ในเครื่อง เทียบกับ 33.3 วินาทีจาก NFS เมื่อจัดเก็บอาร์ติแฟกต์ไว้บน NVMe การสร้างพ็อดจนพร้อมใช้งานใช้เวลา 31 วินาที เทียบกับประมาณแปดนาทีสำหรับการเริ่มระบบแบบ Cold Start ซึ่งชี้ให้เห็นว่าพื้นที่จัดเก็บเป็นปัจจัยสำคัญต่อประสิทธิภาพการกู้คืน Crusoe ยังได้ส่งการเปลี่ยนแปลงด้านประสิทธิภาพและการวินิจฉัยกลับเข้าสู่โครงการต้นทางด้วย

เมื่อพิจารณาโดยรวม โครงการเหล่านี้ทำให้ส่วนควบคุมและกระบวนการกู้คืนของโรงงาน AI ถูกนำไปไว้ในคลังโค้ดเปิดมากขึ้น แต่มีระดับความพร้อมแตกต่างกัน ได้แก่ การเปลี่ยนแปลงด้านธรรมาภิบาลของ OpenShell ยังไม่เสร็จสมบูรณ์ Agent Substrate ยังคงพัฒนาอยู่ ส่วน NVKE และ NVKR ยังเป็นเวอร์ชันตัวอย่าง ผลการทดสอบประสิทธิภาพของ Snapshot แสดงให้เห็นประโยชน์ด้านการดำเนินงานที่วัดได้ชัดเจนที่สุด ขณะที่ข้อกำหนดด้านความเข้ากันได้และผลการทดสอบด้านพื้นที่จัดเก็บข้อมูลของ Crusoe ชี้ให้เห็นว่า การกู้คืนที่รวดเร็วขึ้นขึ้นอยู่กับทั้งสถานะของเวิร์กโหลดที่นำกลับมาใช้ซ้ำได้และโครงสร้างพื้นฐานที่รองรับ