Cohere เปิดตัวการประมวลผลแบบรักษาความลับบน Model Vault ในรูปแบบเบตาสาธารณะ

เมื่อวันที่ 22 ตุลาคม 2026 Cohere ประกาศเปิดให้ทดลองใช้ การประมวลผลแบบรักษาความลับ บน Cohere Model Vault ซึ่งเป็นแพลตฟอร์มอนุมานโมเดลแบบครบวงจรที่มีการจัดการโดยเฉพาะ ทำงานบน GPU NVIDIA H100 บน Microsoft Azure สำหรับองค์กรที่ประมวลผลข้อมูลอ่อนไหว

การเปิดตัวครั้งนี้ขยายขอบเขตการใช้งาน Model Vault ให้ครอบคลุมงานที่เกี่ยวข้องกับเวชระเบียน ข้อมูลทางการเงิน เอกสารที่มีสิทธิพิเศษในทางกฎหมาย ทรัพย์สินทางปัญญา และซอร์สโค้ดที่เป็นกรรมสิทธิ์ Cohere ระบุว่าเป้าหมายคือการเปิดทางให้องค์กรใช้ความสามารถและความสะดวกในการดำเนินงานของ AI แบบมีผู้จัดการระบบ โดยยังคงป้องกันไม่ให้โครงสร้างพื้นฐานที่ให้บริการเข้าถึงข้อมูลอ่อนไหวในรูปแบบข้อความธรรมดาได้ บริษัทระบุกรณีใช้งานที่อาจเป็นไปได้ ได้แก่ การสืบสวนการฉ้อโกงในบริการทางการเงิน การค้นหาเอกสารที่มีสิทธิพิเศษในทางกฎหมายและการตรวจสอบสถานะสำหรับทีมกฎหมาย ข้อมูลอ่อนไหวของภาครัฐ เอกสารสิทธิบัตรและงานวิจัย เอกสารวิศวกรรมและการออกแบบส่วนติดต่อผู้ใช้ที่เป็นกรรมสิทธิ์ ตลอดจนการค้นหาและวิเคราะห์ซอร์สโค้ดที่เป็นกรรมสิทธิ์

ภายใต้การแบ่งบทบาทในเบตานี้ Microsoft Azure จัดหาโครงสร้างพื้นฐานการประมวลผลแบบรักษาความลับที่อยู่เบื้องหลัง NVIDIA Confidential Computing นำการปกป้องดังกล่าวไปใช้กับ GPU H100 ส่วน Cohere ให้บริการโมเดลแบบมีการจัดการ ช่องทางส่งคำขอที่เข้ารหัส การรับรองจากระยะไกล และการตรวจสอบโดยลูกค้าผ่าน Model Vault บริษัทระบุว่าลูกค้าสามารถตั้งค่าและจัดการคลังข้อมูลที่เข้ารหัสผ่าน Model Vault เชื่อมต่อคลังข้อมูลเหล่านั้นผ่าน Cohere API ชุดเดิม และเริ่มใช้งานได้ที่ vault.cohere.com

การประมวลผลแบบรักษาความลับและช่องทางส่งคำขอที่เข้ารหัส

การประมวลผลแบบรักษาความลับมุ่งปกป้องข้อมูลขณะใช้งาน ซึ่งหมายถึงข้อมูลในระหว่างที่โมเดลกำลังประมวลผลอยู่ นับเป็นสถานะที่สามนอกเหนือจากข้อมูลขณะจัดเก็บและข้อมูลระหว่างส่ง ซึ่งการเข้ารหัสแบบดั้งเดิมครอบคลุมอยู่ ใน Model Vault ชุดระบบที่ใช้ให้บริการโมเดล ซึ่งรวมถึงระบบปฏิบัติการ ไดรเวอร์ และเซิร์ฟเวอร์อนุมาน ทำงานอยู่ภายในเครื่องเสมือนที่รักษาความลับ โดยการแยกส่วนที่อาศัยฮาร์ดแวร์ช่วยปกป้องหน่วยความจำจากสภาพแวดล้อมของโฮสต์ และนโยบายจะจำกัดสภาพแวดล้อมให้ใช้ได้เฉพาะซอฟต์แวร์ที่ได้รับอนุมัติ พร้อมทั้งไม่เปิดช่องทางให้ผู้ดูแลระบบเข้าถึงงานที่กำลังทำงานอยู่ได้โดยตรง ตามที่อธิบายไว้ในบทวิเคราะห์เชิงเทคนิคแบบเจาะลึกที่ Cohere เผยแพร่ควบคู่กับการเปิดตัว NVIDIA Confidential Computing ปกป้องหน่วยความจำของ GPU และเข้ารหัสการรับส่งข้อมูลระหว่าง CPU กับ GPU จึงทำให้ขอบเขตการรักษาความลับครอบคลุมตัวเร่งการประมวลผลที่ทำงานอนุมาน ไม่ได้หยุดอยู่เพียง CPU ที่ทำหน้าที่ประสานงาน

คำขอเองก็ได้รับการปกป้องแยกต่างหาก Model Vault ใช้ Oblivious HTTP หรือ OHTTP เพื่อเข้ารหัสเนื้อหาอ่อนไหวในคำขอด้วยกุญแจสาธารณะที่เชื่อมโยงกับสภาพแวดล้อมการประมวลผลแบบรักษาความลับซึ่งผ่านการรับรองแล้ว ข้อความที่เข้ารหัสจะผ่านโครงสร้างพื้นฐานตัวกลางในรูปแบบข้อความเข้ารหัส โดยมีเพียงเกตเวย์ OHTTP ภายในสภาพแวดล้อมนั้นที่ถือกุญแจส่วนตัวที่ตรงกัน และการตอบกลับก็ได้รับการปกป้องแบบเดียวกันระหว่างส่งกลับ Cohere ระบุว่าวิธีนี้แยกหน้าที่การดำเนินงานแพลตฟอร์มออกจากความสามารถในการอ่านข้อความที่ลูกค้าส่งผ่านแพลตฟอร์ม เพราะตัวกลางยังคงกำหนดเส้นทางการรับส่งข้อมูลได้โดยไม่เห็นเนื้อหาข้อมูลในรูปแบบข้อความธรรมดา แอปพลิเคชันยังคงใช้ Model Vault API และรูปแบบคำขอที่คุ้นเคย โดยนำการปกป้องไปใช้ในชั้นไคลเอนต์และชั้นโครงสร้างพื้นฐาน จึงไม่จำเป็นต้องออกแบบรูปแบบข้อมูลที่ส่งใหม่

การรับรองจากระยะไกลในฐานะกลไกควบคุมเชิงรุก

ก่อนส่งคำขอที่ได้รับการปกป้อง สภาพแวดล้อมการประมวลผลแบบรักษาความลับจะสร้างหลักฐานที่ลงนามด้วยวิธีเข้ารหัส ซึ่งบันทึกค่าการวัดและคุณสมบัติด้านความปลอดภัยที่เกี่ยวข้องของฮาร์ดแวร์ เฟิร์มแวร์ สภาพแวดล้อมการทำงาน และซอฟต์แวร์แอปพลิเคชัน จากนั้นซอฟต์แวร์ฝั่งลูกค้าจะตรวจสอบหลักฐานดังกล่าวกับนโยบายที่ได้รับอนุมัติ หลักฐานบันทึกว่าสภาพแวดล้อมใดกำลังทำงานอยู่จริง ส่วนนโยบายระบุว่าสภาพแวดล้อมนั้นควรได้รับความไว้วางใจให้จัดการข้อมูลหรือไม่ หากคุณสมบัติที่กำหนดไม่ตรงกัน เช่น ค่าการวัดซอฟต์แวร์เปลี่ยนไป หรือ GPU ไม่ได้อยู่ในโหมดรักษาความลับตามที่คาดไว้ ไคลเอนต์จะตรวจสอบไม่ผ่าน ปฏิเสธการส่งข้อมูล และคำขอจะยังคงอยู่ภายในสภาพแวดล้อมของลูกค้าเอง หลักฐานดังกล่าวได้รับการปรับปรุงใหม่เป็นระยะ และไคลเอนต์จะตรวจสอบค่าการวัดและสถานะความปลอดภัยที่ปรับปรุงใหม่กับนโยบายที่ได้รับอนุมัติทุกครั้งก่อนส่งคำขอที่ได้รับการปกป้องต่อไป Cohere อธิบายว่าวิธีนี้เปลี่ยนการรับรองจากบันทึกที่เก็บไว้เพื่อการตรวจสอบย้อนหลัง ให้เป็นกลไกควบคุมที่ตัดสินใจอย่างแข็งขันว่าจะเปิดเผยข้อมูลที่ได้รับการปกป้องหรือไม่

ในประกาศเปิดตัวของ Cohere Phil Blunsom ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี กล่าวว่า “ด้วยการรับรองจากฮาร์ดแวร์ ลูกค้าไม่เพียงมีหลักฐานทางคริปโตกราฟีว่างานกำลังทำงานอยู่ในสภาพแวดล้อมการประมวลผลแบบรักษาความลับที่ปลอดภัยเท่านั้น แต่ยังตรวจสอบได้ด้วยว่าข้อมูลของตนได้รับการปกป้องจากการเข้าถึงโดยไม่ได้รับอนุญาต แม้แต่จาก Cohere เอง” Vikas Bhatia หัวหน้าฝ่ายผลิตภัณฑ์ Azure Confidential Computing ของ Microsoft กล่าวว่า ความร่วมมือกับ Cohere แสดงให้เห็นว่าการประมวลผลแบบรักษาความลับสามารถผสานความเรียบง่ายของ AI แบบมีผู้จัดการระบบเข้ากับกลไกควบคุมทางเทคนิคที่ตรวจสอบได้อย่างเป็นอิสระได้อย่างไร John Fanelli รองประธานฝ่ายซอฟต์แวร์สำหรับองค์กรของ NVIDIA กล่าวว่า NVIDIA Confidential Computing บน GPU ของบริษัทมอบการปกป้องที่อาศัยฮาร์ดแวร์ ซึ่งช่วยให้แพลตฟอร์มอย่าง Model Vault นำการอนุมาน AI แบบรักษาความลับไปใช้กับงานระดับองค์กรได้

รูปแบบภัยคุกคาม ข้อจำกัดที่ระบุไว้ และแผนโอเพนซอร์ส

ภายใต้แบบจำลองภัยคุกคามที่ระบุไว้ ระบบจะปกป้องพรอมป์ต์ เอกสาร คำตอบ และการทำงานของโมเดลระหว่างประมวลผล พร้อมป้องกันไม่ให้ผู้ให้บริการคลาวด์ ระบบปฏิบัติการโฮสต์ ไฮเปอร์ไวเซอร์ ผู้ดูแลระบบโครงสร้างพื้นฐาน และผู้ปฏิบัติงานของ Cohere เอง อ่านหน่วยความจำของเวิร์กโหลดที่ได้รับการปกป้องได้ อย่างไรก็ตาม ฐานการประมวลผลที่เชื่อถือได้ยังคงประกอบด้วยฮาร์ดแวร์และเฟิร์มแวร์ที่เป็นรากฐานของการประมวลผลแบบรักษาความลับ ซอฟต์แวร์ที่ผ่านการตรวจวัดซึ่งทำงานอยู่ภายในสภาพแวดล้อม ค่าการตรวจวัดอ้างอิงที่ใช้กำหนดการตั้งค่าซึ่งได้รับอนุมัติ และโครงสร้างพื้นฐานการรับรองที่ประเมินและลงนามรับรองหลักฐาน Cohere ระบุว่า การออกแบบนี้จำกัดองค์ประกอบที่ต้องเชื่อถือให้เหลือเพียงชุดส่วนประกอบที่กำหนดไว้อย่างชัดเจน และสามารถสร้างหลักฐานที่วัดผลและตรวจสอบได้

Cohere ยังระบุอย่างชัดเจนด้วยว่าขอบเขตการป้องกันนี้ไม่ครอบคลุมอะไรบ้าง การโจมตีทางกายภาพและการโจมตีแบบช่องทางข้างเคียง เช่น การอนุมานข้อมูลจากระยะเวลาหรือพฤติกรรมอื่น ๆ ของฮาร์ดแวร์ที่ใช้ร่วมกัน ยังคงอยู่นอกขอบเขตนี้ อีกทั้งผู้ปฏิบัติงานที่ไม่สามารถอ่านเวิร์กโหลดได้ก็ยังอาจหยุด ทำให้ล่าช้า หรือขัดขวางการทำงานได้ ดังนั้น การออกแบบนี้จึงไม่ได้รับประกันความพร้อมใช้งานด้วยตัวเอง ความเสี่ยงในระดับแอปพลิเคชัน เช่น การแทรกพรอมป์ต์ การใช้เครื่องมืออย่างไม่ปลอดภัย ข้อผิดพลาดในการให้สิทธิ์ และช่องโหว่อื่น ๆ ของซอฟต์แวร์ ไม่ได้รับการแก้ไขเพียงแค่นำซอฟต์แวร์ไปทำงานภายในฮาร์ดแวร์สำหรับการประมวลผลแบบรักษาความลับ

ข้อมูลเมตาที่สังเกตได้ก็เป็นอีกสิ่งหนึ่งที่ไม่อยู่ในการป้องกัน กล่าวคือ แม้เนื้อหาในส่วนข้อมูลจะได้รับการเข้ารหัส แต่ขนาดข้อความ เวลาที่ส่งคำขอ ปริมาณการรับส่งข้อมูล และรายละเอียดการกำหนดเส้นทางยังคงมองเห็นได้ นอกจากนี้ ในสถาปัตยกรรมปัจจุบัน ข้อมูลรับรอง API และตัวระบุโมเดลก็อยู่นอกส่วนข้อมูลที่ OHTTP ปกป้องด้วย บริษัทระบุว่า การประมวลผลแบบรักษาความลับไม่ใช่สิ่งทดแทนความปลอดภัยของแอปพลิเคชัน ไม่ใช่กลไกกำหนดถิ่นที่อยู่ของข้อมูล ไม่ใช่สิ่งทดแทนการปฏิบัติตามข้อกำหนดหรือมาตรการควบคุมตามสัญญา และไม่ใช่การเข้ารหัสแบบโฮโมมอร์ฟิก เนื่องจากโมเดลยังคงประมวลผลข้อความธรรมดาภายในสภาพแวดล้อมที่ได้รับการปกป้อง

การนำระบบไปใช้ต่อยอดจากโครงการโอเพนซอร์ส Kata Containers และ Confidential Containers โดย Cohere ระบุว่ามีแผนจะเผยแพร่ชุดระบบอนุมานแบบรักษาความลับเป็นโอเพนซอร์ส เพื่อให้ลูกค้าและนักวิจัยด้านความปลอดภัยตรวจสอบโค้ด ดูว่านโยบายใดได้รับการบังคับใช้ และทำซ้ำการตรวจวัดเพื่อยืนยันผลได้ด้วยตนเอง เบต้าในปัจจุบันทำงานบน GPU NVIDIA H100 ใน Microsoft Azure และ Cohere ระบุว่ากำลังดำเนินการรองรับโครงสร้างพื้นฐาน NVIDIA Blackwell ซึ่งรวมถึง GPU B200 เพื่อมุ่งสู่การเปิดให้ใช้งานทั่วไป