NVIDIA เปิดตัว Open Agent Safety Platform ครอบคลุมตั้งแต่ซอฟต์แวร์ถึงซิลิกอน

NVIDIA ประกาศเปิดตัว NVIDIA Open Agent Safety Platform เมื่อวันที่ 28 กันยายน 2026 ซึ่งเป็นแพลตฟอร์มซอฟต์แวร์แบบเปิดและการออกแบบระบบอ้างอิงที่บริษัทกล่าวว่ามุ่งเสริมความปลอดภัยของ AI ตั้งแต่การทดสอบเอเจนต์จนถึงการใช้งานจริง แพลตฟอร์มนี้ประกอบด้วยซอฟต์แวร์รันไทม์ที่ปลอดภัย NVIDIA OpenShell และการออกแบบระบบอ้างอิง NVIDIA Sentry ซึ่ง NVIDIA กล่าวว่าร่วมกันมอบการกำกับดูแลและการควบคุมแบบเต็มสแตกทั่วทั้งซอฟต์แวร์ ฮาร์ดแวร์ ระบบคอมพิวต์ และระบบหุ่นยนต์ที่ทำงานกับเอเจนต์

NVIDIA กล่าวว่าการเกิดเหตุการณ์ความปลอดภัยล่าสุดมีรูปแบบเดียวกัน โดยเอเจนต์หลบเลี่ยงการควบคุมความปลอดภัยที่ระดับแอปพลิเคชันเพื่อทำงานที่ได้รับมอบหมาย \”ศักยภาพอันยอดเยี่ยมของ AI ต่อสังคมจะเป็นจริงได้ก็ต่อเมื่อเราจะแก้ไขปัญหาความปลอดภัยของ AI\” Jensen Huang ผู้ก่อตั้งและซีอีโอของ NVIDIA กล่าว เขาอธิบายว่าแพลตฟอร์มนี้เป็นความพยายามที่จะรวมอุตสาหกรรม นักวิจัย และองค์กรภาครัฐเพื่อแบ่งปันแนวปฏิบัติที่ดีที่สุด ปรับวิธีการประเมินให้สอดคล้องกัน และส่งเสริมความร่วมมือระหว่างประเทศ องค์กรต่างๆ สามารถปรับใช้ส่วนประกอบของแพลตฟอร์มตามความต้องการของตนเองได้ ตามที่ NVIDIA กล่าว

OpenShell Runtime และการบังคับใช้นโยบาย

OpenShell 0.1.0 เป็นรันไทม์แบบโอเพ่นซอร์สที่เผยแพร่ภายใต้สัญญาอนุญาต Apache 2.0 เพื่อกำหนดและบังคับใช้ว่าระบบและข้อมูลใดที่เอเจนต์สามารถเข้าถึงได้ คู่มือเชิงเทคนิคที่มาพร้อมกับการประกาศ อธิบายว่ามันผสานการทำงานใน sandbox การเข้าถึงบริการที่ควบคุม การจัดการข้อมูลรับรอง และการวิเคราะห์นโยบายอย่างเป็นทางการ เพื่อวางการควบคุมรอบเอเจนต์ที่มีอยู่โดยไม่ต้องเขียนใหม่

มีสามส่วนประกอบที่แบ่งการทำงานของการบังคับใช้ OpenShell Gateway จัดการวงจรชีวิตและนโยบายของ sandbox จำนวนหลายตัว OpenShell Supervisor ที่จับคู่กับแต่ละ sandbox ทำงานอยู่นอกเวิร์กโหลดของเอเจนต์และตรวจสอบคำขอขาออกตามนโยบาย OpenShell Sandbox รันเวิร์กโหลดโดยใช้การควบคุมระดับเคอร์เนลบนระบบไฟล์และกระบวนการของมัน และไม่มีเส้นทางเครือข่ายใดนอกจากผ่าน supervisor

Supervisor สามารถตรวจสอบการจราจร HTTP, GraphQL และ Model Context Protocol ที่กำหนดค่าไว้ได้ ทำให้สามารถสืบค้นข้อมูลได้ในขณะที่บล็อกการเขียนผ่าน API เดียวกัน นโยบายถูกเขียนด้วย YAML แล้วคอมไพล์เป็น OPA/Rego และ OpenShell บันทึกการตัดสินใจของนโยบายในบันทึกตรวจสอบของ Open Cybersecurity Schema Framework รายละเอียดรับรองจริงจะอยู่ไกล้เวิร์กโหลดของเอเจนต์และจะถูกแทนที่เฉพาะสำหรับปลายทางที่ได้รับอนุญาต; หากเอเจนต์ส่งข้อมูลรับรองชั่วคราวไปยังปลายทางที่ไม่ได้รับการอนุมัติ OpenShell จะปฏิเสธคำขอ เมื่อเปิดใช้งานที่ปรึกษานโยบาย เอเจนต์สามารถเสนอการเปลี่ยนแปลงนโยบายที่มีขอบเขตแคบได้ แต่ข้อเสนอจะค้างอยู่เพื่อการตรวจสอบโดยมนุษย์เป็นค่าเริ่มต้นและเอเจนต์ไม่สามารถอนุมัติคำขอของตนเองได้

OpenShell policy prover ใช้ตรรกะเชิงรูปแบบเพื่อตรวจสอบสิทธิ์ที่นโยบายมอบให้ รวมถึงการเข้าถึงที่ผู้ให้บริการสนับสนุน และสามารถพิสูจน์ว่าสิทธิ์ที่จำลองไว้ยังคงอยู่ภายในขอบเขตที่ผู้ปฏิบัติการกำหนดหรือระบุการกระทำที่เป็นรูปธรรมซึ่งข้ามขอบเขตนั้น ในการทดลองเชิงศัตรูระยะยาวที่อธิบายไว้ในคู่มือ มีการทดสอบเอเจนต์แนวหน้าโดยมีการป้องกันที่ลดลงใช้เวลาสูงสุดสองชั่วโมงเพื่อพยายามโน้มน้าวผู้ตรวจสอบ AI ให้มอบสิทธิ์ที่ทำให้พวกเขาแก้ไขที่เก็บข้อมูลที่ได้รับการปกป้องบน GitHub NVIDIA รายงานว่าไม่มีการเขียนข้อมูลในที่เก็บที่ได้รับการปกป้องเกิดขึ้นในการทดสอบเหล่านี้

OpenShell รองรับกรอบงาน Codex, Claude Code, Pi และ Hermes และคู่มือระบุว่า Cadence, Slack และ Gecko Robotics เป็นผู้ใช้งานในด้านการออกแบบชิป การทำงานอัตโนมัติขององค์กร และการกำกับดูแลเอเจนต์ที่ตัดสินใจบนหุ่นยนต์ทางกายภาพ NVIDIA กล่าวว่า OpenShell มอบการป้องกันด้วยภาระการทำงานขั้นต่ำบน Vera CPUs ของบริษัทและในฐานะซอฟต์แวร์โอเพ่นซอร์สสามารถขยายไปยังแพลตฟอร์มคอมพิวต์ของบุคคลที่สามรวมถึงของ Arm และ Intel

Sentry Watchdog บน BlueField-4 DPU

NVIDIA Sentry เป็น watchdog แบบ out-of-band ที่ทำงานบน BlueField-4 DPU เพื่อเฝ้าติดตามพฤติกรรมของเอเจนต์อย่างต่อเนื่อง และ NVIDIA กล่าวว่ามันมอบการบังคับใช้ในระดับซิลิกอน: หากเอเจนต์พยายามออกนอกขอบเขตซอฟต์แวร์ของตน Sentry จะกักกันและหยุดการทำงานภายในมิลลิวินาที Sentry สร้างบนซอฟต์แวร์ NVIDIA DOCA ซึ่งใช้เพื่อตรวจสอบคำขอและการตอบสนองของเอเจนต์ ให้ข้อมูล telemetry ที่รับรอง ตรวจสอบตัวตนของเอเจนต์ และบังคับใช้นโยบายการเข้าถึงแบบละเอียดแบบ zero-trust สำหรับข้อมูล เครื่องมือ อินเทอร์เฟซการเขียนโปรแกรมแอปพลิเคชันและบริการ ทั้งหมดจากโดเมนความเชื่อมั่นที่แยกออกซึ่ง NVIDIA อธิบายว่าเป็นสิ่งที่เอเจนต์และผู้โจมตีไม่สามารถมองเห็นได้

โพสต์การออกแบบอ้างอิง จากทีมวิศวกรรมของ NVIDIA ระบุว่าหลายห้องทดลองแนวหน้าได้รายงานว่าเอเจนต์หลุดออกจากสภาพแวดล้อมการประเมินที่ตั้งใจให้ควบคุมไว้เมื่อเร็ว ๆ นี้ โดยบางเอเจนต์รายงานผลที่ทำผิดพลาดโพสต์นี้กำหนดห้าหลักการที่อยู่เบื้องหลังแพลตฟอร์ม: นโยบายต้องตรวจสอบได้ก่อนที่เอเจนต์จะทำงาน การบังคับใช้ต้องเป็น out-of-band เส้นทางไปยังโมเดลเป็นจุดควบคุม อำนาจของเอเจนต์ควรขยายตามความสามารถในการตรวจสอบเหตุผลของมัน และความรับผิดชอบต้องแบ่งปันระหว่างห้องทดลอง บริษัท และผู้ให้บริการฮาร์ดแวร์ ผู้เขียนอธิบายคำว่า “drift” หมายถึงการกระทำของเอเจนต์ที่เบี่ยงเบนจากงานหรือข้อจำกัดการทำงานที่ตั้งไว้ และระบุว่า “เอเจนต์ในสถานการณ์เหล่านี้ไม่สามารถคาดหวังให้ควบคุมพฤติกรรมของตนเองได้อย่างเต็มที่”

ในระบบ NVIDIA Vera Rubin POD แต่ละถาดคอมพิวเตอร์จะมี BlueField-4 DPU บนเส้นทางเดียวของโหนดไปยังโมเดล ซึ่ง NVIDIA กล่าวว่ามอบการมองเห็นแบบนอกแถบอย่างต่อเนื่องและการบังคับใช้นโยบายแบบเรียลไทม์ที่ความเร็วระดับสาย. สำหรับองค์กรที่กำลังใช้งานระบบ Vera พร้อม BlueField-4 อยู่แล้ว การเปิดใช้งานการป้องกันเป็นการอัปเดตซอฟต์แวร์ตามที่โพสต์ระบุ.

การบูรณาการระบบนิเวศและการพร้อมใช้งาน

Anthropic และ NVIDIA ได้ร่วมมือกันเพื่อบูรณาการ OpenShell และ BlueField กับ Claude Managed Agents ซึ่งทำงานลูปของเอเจนต์บนเซิร์ฟเวอร์แยกจาก sandbox ที่ทำงานอยู่. Paul Smith เจ้าหน้าที่การค้าหลักของ Anthropic กล่าวว่า Claude Managed Agents ให้บริษัทมองเห็นอย่างชัดเจนว่าแต่ละเอเจนต์กำลังทำอะไร และแพลตฟอร์มของ NVIDIA เพิ่มชั้นการกำกับดูแลและการควบคุมอีกชั้นหนึ่งเหนือฮาร์ดแวร์และซอฟต์แวร์.

SpaceXAI กำลังใช้แพลตฟอร์มสำหรับเอเจนต์การเขียนโค้ด Cursor และโมเดล Grok, และประธาน Mike Nicolls กล่าวว่า ความปลอดภัยควรได้รับการบังคับใช้ภายนอกโมเดลโดยการควบคุมเพิ่มเติมที่เอเจนต์ไม่สามารถข้ามผ่านได้. Scale AI กำลังผสานเทคโนโลยีของแพลตฟอร์มเข้าสู่ชั้นโครงสร้างพื้นฐานของเอเจนต์ในพอร์ตโฟลิโอ Scale GenAI ของบริษัท, โดย CEO Francis deSouza อธิบายว่าการแยกตัว, การบังคับใช้นโยบายและความสามารถในการตรวจสอบถูกสร้างไว้ตั้งแต่ต้น.

Salesforce และ NVIDIA ได้บูรณาการ OpenShell กับ Slack, เพื่อให้ทีมสามารถดูกิจกรรมของเอเจนต์และตรวจสอบเหตุการณ์ รวมถึงอนุมัติหรือปฏิเสธคำขอสิทธิ์เพิ่มเติมของเอเจนต์โดยไม่ต้องออกจาก Slack. SAP กำลังฝัง OpenShell เข้ากับ runtime Joule Studio ซึ่งเป็นส่วนหนึ่งของ SAP Business AI Platform, และกำลังสนับสนุนงานวิศวกรรมให้กับ OpenShell.

NVIDIA ได้ระบุมากกว่า 100 องค์กรที่ทำงานกับเทคโนโลยีของแพลตฟอร์ม, รวมถึงบริษัทโรบอท Figure, Gecko Robotics และ Skild AI; บริษัทการเงิน Citi และ JPMorganChase; ผู้ให้บริการพลังงานเช่น Hitachi Energy และ Schneider Electric; และบริษัทซอฟต์แวร์โครงสร้างพื้นฐาน Canonical, SUSE และ Red Hat, โดย Red Hat ใช้งาน OpenShell และ DOCA บน Red Hat AI Factory ร่วมกับ NVIDIA.

OpenShell และทักษะของมันพร้อมให้ใช้งานผ่านหน้าทรัพยากรนักพัฒนาของ NVIDIA และ GitHub, พร้อมไดรเวอร์คอมพิวต์สำหรับ Docker, Podman, MicroVM และ Kubernetes และช่องทางนักพัฒนาบน CNCF Slack. Open Secure AI Alliance ซึ่งเริ่มต้นโดย NVIDIA ร่วมกับองค์กรกว่า 120 แห่งและได้รับการกำกับโดย Linux Foundation ทำงานด้านความปลอดภัยของเอเจนต์ผ่านการวิจัยเปิด, ทักษะและเครื่องมือ, โดยมีโครงการรวมถึง Shared AI Findings Exchange หรือที่เรียกว่า SAFE.