ผู้นำทางความคิด

โครงสร้างสำหรับการทำความเข้าใจภูมิทัศน์ของการประมวลผลแบบส่วนตัว

mm
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google

การประมวลผลแบบส่วนตัวกำลังได้รับความนิยม

พื้นที่การประมวลผลแบบส่วนตัวกำลังประสบกับการ혁新ใหม่ ๆ อย่างต่อเนื่องในทุกด้านพร้อมกัน สภาพแวดล้อมการประมวลผลที่เชื่อถือได้ (Trusted Execution Environments – TEEs) กำลังเติบโตและกลายเป็นเรื่องที่ง่ายต่อการนำไปใช้ (Fully Homomorphic Encryption) FHE กำลังลดช่องว่างด้านประสิทธิภาพที่ทำให้การประมวลผลแบบส่วนตัวเป็นทางเลือกที่เป็นไปได้ และระบบนิเวศของ Web3 ยังคงผลักดันเทคโนโลยีการพิสูจน์แบบไม่ทราบความลับ (zero-knowledge proof) ไปข้างหน้าด้วยความเร็วที่น่าประทับใจ โดยมีการพิสูจน์แบบไม่ทราบความลับสำหรับการคำนวณทั่วไปที่เร็วกว่าการพิสูจน์แบบไม่ทราบความลับในอดีตถึงหลายเท่า

ในขณะเดียวกัน การเพิ่มขึ้นของ AI ที่มีเจตนา (agentic AI) กำลังสร้างความกดดันใหม่ ๆ เกี่ยวกับความไว้วางใจ ความเป็นส่วนตัว และความสามารถในการตรวจสอบ เมื่อระบบ AI เริ่มดำเนินการแทนผู้ใช้และองค์กรต่าง ๆ เริ่มถามว่ามาตรการรักษาความปลอดภัยและความสอดคล้องแบบดั้งเดิมมีความเพียงพอสำหรับซอฟต์แวร์แบบอัตโนมัติที่ทำงานในระดับองค์กรหรือไม่

ที่ DataTribe เราได้ใช้เวลาอย่างมากในการศึกษาพื้นที่นี้ โดยพูดคุยกับสตาร์ทอัพ การประเมินเทคโนโลยี และพยายามทำความเข้าใจว่าโอกาสที่ทนทานที่สุดจะเกิดขึ้นที่ไหน นี่คือวิธีที่เราเริ่มคิดเกี่ยวกับเรื่องนี้

โครงสร้างสำหรับการประมวลผลแบบส่วนตัว

เมื่อเรามองไปที่ภูมิทัศน์ของการประมวลผลแบบส่วนตัว เราพบว่ามันใช้ได้กับการแบ่งออกเป็นสามเสาแตกต่าง แต่ละเสานี้แสดงถึงการรับประกันแบบอิสระ ซึ่งสำคัญคือพวกมันไม่ซ้อนทับกัน: วิธีแก้ปัญหาที่ให้เสาหนึ่งไม่ได้ให้เสาอื่นโดยอัตโนมัติ

  • การประมวลผลแบบส่วนตัว: ข้อมูลเข้า, การประมวลผล, และข้อมูลออกทั้งหมดยังคงได้รับการคุ้มครองตั้งแต่ต้นจนจบ แม้กระทั่งผู้ดำเนินการประมวลผลไม่สามารถมองเห็นอะไรได้

  • ความสมบูรณ์ของการประมวลผล: การยืนยันแบบเข้ารหัสลับว่าการประมวลผลที่ถูกต้องได้ดำเนินการจริง ๆ แม้กระทั่งบนฮาร์ดแวร์ที่อาจเป็นอันตราย

  • การทำงานร่วมกันแบบส่วนตัว: หลายฝ่ายร่วมกันประมวลผลข้อมูลที่รวมกันโดยไม่มีฝ่ายใดเปิดเผยข้อมูลเข้าของตนเองให้กับอีกฝ่าย

แต่ละเสานี้สอดคล้องกับความต้องการของผู้ซื้อ เทคโนโลยี และพลวัตการแข่งขันที่แตกต่างกัน วันนี้เรามุ่งเน้นไปที่สองเสาแรก: การประมวลผลแบบส่วนตัวและความสมบูรณ์ของการประมวลผล

ความขัดแย้งทางจริยธรรมของ AI และการประมวลผลแบบส่วนตัว

AI เป็นตัวเร่งให้เกิดความสนใจในเรื่องการประมวลผลแบบส่วนตัว องค์กรต่าง ๆ กังวลเกี่ยวกับข้อมูลที่พวกเขาแบ่งปันกับผู้ให้บริการ AI และความต้องการการอนุมานแบบส่วนตัวเพิ่มขึ้น

แต่มีความขัดแย้งทางจริยธรรมที่ควรทราบ องค์กรเดียวกับที่กังวลเกี่ยวกับการส่งทรานสคริปต์ของลูกค้าให้กับผู้ให้บริการ AI ก็ส่งข้อมูลค่าตอบแทนผ่าน ADP, ส่งข้อมูลทางท่อให้กับ Salesforce (CRM ) และมอบบันทึกผู้ป่วยให้กับผู้ให้บริการ EHR การคุ้มครองในกรณีทั้งหมดคือสัญญาที่มีการรับประกันการคุ้มครองข้อมูลและรายงานความสอดคล้อง ไม่มีการรับประกันทางคณิตศาสตร์ ดังนั้น ทำไมผู้ให้บริการ AI ถึงได้รับการปฏิบัติแตกต่าง?

มีเหตุผลที่แท้จริง ความกลัวที่ข้อมูลจะถูกนำไปใช้ในการฝึกอบรม การดูดซับเข้าไปในน้ำหนักของโมเดล และอาจปรากฏในผลลัพธ์ของลูกค้าอื่นไม่มีเหตุผลที่คล้ายคลึงกันใน SaaS แบบดั้งเดิม การแลกเปลี่ยนมูลค่าดูไม่สมดุล โดยที่องค์กรรับรู้ว่าข้อมูลของตนเองอาจช่วยปรับปรุงผลิตภัณฑ์ของผู้ให้บริการให้กับ конкур่งของตน และหน่วยงานกำกับดูแลกำลังให้ความสนใจกับการจัดการข้อมูล AI โดยเฉพาะอย่างยิ่งวิธีที่พวกเขาไม่ได้ใช้กับ SaaS ที่มีอยู่ ผู้ให้บริการ AI เริ่มเข้าสู่สัญญาที่มีการคุ้มครองคล้ายกับสัญญา SaaS แบบดั้งเดิม แต่ความเร็วในการนำไปใช้งานและความกลัว “AI ที่ซ่อนอยู่” ซึ่งพนักงานใช้บริการ AI ที่ไม่ได้ทำสัญญากับองค์กร ทำให้เกิดความกดดันที่จะดำเนินการอย่างรวดเร็ว

ไม่ว่าความกังวลเหล่านี้จะมีเหตุผลหรือไม่ สิ่งเหล่านี้กำลังสร้างความกดดันในการซื้อจริง ๆ คำถามที่น่าสนใจกว่าคือว่าความกดดันนี้จะยังคงอยู่กับ AI หรือจะขยายออกไป หากองค์กรเริ่มต้องการการคุ้มครองข้อมูลแบบเข้ารหัสลับจากผู้ให้บริการ AI และตระหนักถึงความไม่สม่ำเสมอเชิงตรรกะที่ไม่ต้องการการคุ้มครองแบบเดียวกันจากทุกคน ตลาดที่สามารถเข้าถึงได้สำหรับการประมวลผลแบบส่วนตัวจะขยายออกไปอย่างมากนอกเหนือจากการอนุมาน AI

FHE เทียบกับ TEEs สำหรับการประมวลผลแบบส่วนตัว

มีวิธีการทางเทคโนโลยีสองวิธีที่แข่งขันกันสำหรับการประมวลผลแบบส่วนตัว และพวกมันแสดงถึงแบบจำลองความไว้วางใจที่แตกต่างกันโดยพื้นฐาน

TEE เช่น AMD SEV-SNP, Intel TDX และ GPU ที่มีการประมวลผลแบบส่วนตัวของ NVIDIA (NVDA ) เป็นตัวเลือกที่เป็นไปได้ในปัจจุบัน พวกมันให้การประมวลผลแบบส่วนตัวด้วยความสูญเสียประสิทธิภาพขั้นต่ำ และมีให้บริการแล้วเป็นบริการที่เป็นของตัวเองจากผู้ให้บริการคลาวด์รายใหญ่ การรับประกันความไว้วางใจอยู่ที่ผู้ผลิตซิลิกอนและผู้ให้บริการคลาวด์ที่ดำเนินฮาร์ดแวร์

FHE ใช้วิธีการทางคณิตศาสตร์เท่านั้น ข้อมูลยังคงเข้ารหัสลับตลอดการประมวลผลทั้งหมด และการรับประกันความปลอดภัยไม่ขึ้นอยู่กับการไว้วางใจฮาร์ดแวร์หรือผู้ดำเนินการ การแลกเปลี่ยนคือความสูญเสียประสิทธิภาพ: การดำเนินการ FHE มีความช้ากว่าการคำนวณแบบธรรมดาหลายอันดับของขนาด ทำให้จำกัดไว้เพียงกรณีการใช้งานที่แคบ

ช่องว่างนั้นกำลังปิดเร็วกว่าที่หลายคนคิด การเร่งความเร็วของฮาร์ดแวร์เป็นตัวขับเคลื่อนหลัก การ์ดเร่งความเร็ว FHE ที่ออกแบบมาโดยเฉพาะของ Niobium ให้การปรับปรุงหลายอันดับของขนาดมากกว่าการดำเนินการ FHE โดยใช้ซอฟต์แวร์เท่านั้น Cornami ซึ่งหัวหน้านักวิทยาศาสตร์ของบริษัทคือ Craig Gentry (ผู้คิดค้น FHE) อ้างว่า “ความเร็วใกล้เคียงกับการประมวลผลแบบธรรมดา” สำหรับการอนุมาน LLM โดยใช้ FHE แม้ว่าการบенช์มาร์กอิสระจะไม่ได้รับการเผยแพร่ บริษัทอื่นได้แสดงการอนุมาน LLM โดยใช้ FHE บนโมเดล Llama 3 70b ที่ความเร็วที่ใกล้เคียงกับการประมวลผลที่ไม่มีการเข้ารหัสลับ การอ้างสิทธิ์เหล่านี้ต้องได้รับการตรวจสอบ แต่แนวโน้มคือช่องว่างที่ทำให้ FHE เป็นทางเลือกที่เป็นไปได้เท่านั้นกำลังปิดอย่างรวดเร็ว

หาก FHE มีความเร็วเพียงพอสำหรับงานประมวลผลในระดับผลิต การมีผลกระทบจะลึกซึ้งมาก คุณไม่จำเป็นต้องไว้วางใจผู้ผลิตซิลิกอน ผู้ให้บริการคลาวด์ หรือใครก็ตามที่มีการเข้าถึงฮาร์ดแวร์ทางกายภาพ การรับประกันความปลอดภัยของคุณกลายเป็นทางคณิตศาสตร์ ไม่ใช่การดำเนินงาน

สำหรับนักลงทุน สิ่งนี้สร้างคำถามเชิงกลยุทธ์ที่สำคัญ: คุณกำลังเดิมพันว่าความไว้วางใจฮาร์ดแวร์จะกลายเป็นความไว้วางใจที่มากขึ้น (เส้นทาง TEE) หรือการปรับปรุงประสิทธิภาพการเข้ารหัสลับเพียงพอเพื่อทำให้โซลูชันที่ใช้เพียงคณิตศาสตร์เป็นไปได้ (เส้นทาง FHE) รายได้ส่วนใหญ่ในระยะสั้นอยู่ในด้าน TEEs การให้เหตุผลด้านความแข็งแกร่งในระยะยาวอาจชี้ไปที่วิธีการทางคณิตศาสตร์至少สำหรับโดเมนการประมวลผลบางอย่าง

ความสมบูรณ์ของการประมวลผล: จากภัยคุกคามภายในถึงสภาพแวดล้อมที่เป็นอันตราย

ความสมบูรณ์ของการประมวลผลกล่าวถึงปัญหาที่แตกต่าง: คุณรู้ได้อย่างไรว่าการประมวลผลที่ถูกต้องได้ดำเนินการจริง?

ในสภาพแวดล้อมที่ควบคุมได้ เช่น ศูนย์ข้อมูลองค์กรและคลาวด์ไฮเปอร์สเกลเลอร์ TEEs จัดการสิ่งนี้ได้ดี พันธกรณีในการรับรองความถูกต้องช่วยให้คุณตรวจสอบได้ว่ารหัสที่คาดหวังถูกโหลดเข้าไปใน TEE ที่แท้จริงก่อนที่จะส่งข้อมูล นี่มีคุณค่าสำหรับการปกป้องต่อภัยคุกคามภายใน อินฟราสตร์กต์ที่ถูกบุกรุก หรือปัญหาในการติดตั้ง สำหรับกรณีการใช้งานส่วนใหญ่ขององค์กร การรับรองความถูกต้องโดยใช้ TEEs เป็นการยอมรับได้

แต่ “เพียงพอ” ขึ้นอยู่กับแบบจำลองภัยคุกคามของคุณ ในสภาพแวดล้อมที่เป็นอันตรายที่แท้จริง ซึ่งคุณไม่มีการควบคุมฮาร์ดแวร์และผู้ดำเนินการอาจเป็นศัตรู การรับประกันของ TEEs ลดลง การวิจัยล่าสุดได้แสดงให้เห็นถึงการโจมตีที่ใช้ฮาร์ดแวร์แบบอินเทอร์โพสเซอร์ที่มีต้นทุนต่ำต่อการรับรองความถูกต้องของ TEE และผู้ผลิตชิปหลักได้ยอมรับว่าการโจมตีทางกายภาพอยู่นอกแบบจำลองภัยคุกคามของตน ในศูนย์ข้อมูลที่ดำเนินงานได้ดีพร้อมด้วยความปลอดภัยทางกายภาพ ความเสี่ยงที่เหลือสามารถจัดการได้ แต่บนโหนดที่ไม่รู้จักในเครือข่ายการประมวลผลแบบกระจาย มันไม่ใช่เช่นนั้น

นี่คือเหตุผลที่โลกของ Web3 เป็นตัวขับเคลื่อนหลักของนวัตกรรมการพิสูจน์แบบไม่ทราบความลับ การพิสูจน์แบบไม่ทราบความลับให้ความมั่นใจทางคณิตศาสตร์เกี่ยวกับความสมบูรณ์ของการประมวลผลโดยไม่คำนึงถึงสภาพแวดล้อมฮาร์ดแวร์ หากการพิสูจน์แบบไม่ทราบความลับยืนยันแล้ว การประมวลผลที่ถูกต้องได้ดำเนินการแล้ว ไม่ว่าการคำนวณที่พิสูจน์แล้วจะดำเนินการในสถานที่ที่ปลอดภัยหรือในโรงรถของใครบางคน

ความเร็วในการปรับปรุงนี้น่าประทับใจมาก ZKVM ทั่วไปช่วยให้นักพัฒนาสามารถเขียนโค้ด Rust ปกติและสร้างการพิสูจน์แบบไม่ทราบความลับโดยอัตโนมัติ โดยไม่ต้องเขียนวงจรเข้ารหัสลับด้วยมือ Succinct’s SP1 Hypercube พิสูจน์บล็อก Ethereum ในเวลาไม่ถึง 12 วินาทีบน 16 GPU ZKsync’s Airbender รายงานมากกว่า 21 ล้านรอบต่อวินาทีบน H100 เพียงตัวเดียว

สำหรับงาน AI โดยเฉพาะ zkML กำลังทำความก้าวหน้า แต่ยังคงมีราคาแพง การพิสูจน์การอนุมาน LLM ยังคงใช้เวลาหลายพันครั้งมากกว่าการอนุมานเอง โมเดลที่เล็กกว่า เช่น ตัวจำแนกและโมเดลการฝังตัว กำลังเข้าใกล้ความเป็นไปได้ของ ZK ที่ใช้ได้จริง และการพิสูจน์ LLM ที่ด้านหน้าอาจใช้เวลา 2-3 ปี จุดกึ่งกลางที่น่าสนใจคือ “การตรวจสอบแบบ乐观” โดยที่การพิสูจน์แบบไม่ทราบความลับจะถูกสร้างขึ้นเฉพาะเมื่อผลลัพธ์ถูกท้าทาย ไม่ใช่สำหรับการคำนวณทุกครั้ง ซึ่งลดต้นทุนการเฉลี่ยอย่างมาก

ทิศทางที่จะไป

พื้นที่การประมวลผลแบบส่วนตัวอยู่ที่จุดเปลี่ยน การนวัตกรรมกำลังเกิดขึ้นพร้อมกันใน TEEs, FHE และ ZK โดยแต่ละอย่างถูกขับเคลื่อนโดยชุมชนต่าง ๆ ที่มีความสำคัญและจุดมุ่งหมายที่แตกต่างกัน แต่สอดคล้องกันในการแก้ปัญหาเดียวกัน

พลวัตที่เกี่ยวข้องกับสิ่งที่ผู้ซื้อคิดว่าเร่งด่วนจะกำหนดว่าวิธีแก้ปัญหาใดจะได้รับการยอมรับก่อน องค์กรที่เน้นไปที่การปฏิบัติตามกฎระเบียบและการคุ้มครองข้อมูลบนคลาวด์อาจดึงโซลูชันที่ใช้ TEEs ไปข้างหน้า ลูกคลื่นของ AI อาจเร่งความต้องการ FHE หากประสิทธิภาพยังคงดีขึ้น การคำนวณแบบกระจายและแอปพลิเคชัน Web3 จะยังคงผลักดันเทคโนโลยี ZK ไปสู่การนำไปใช้งานที่กว้างขึ้น

เราคาดหวังว่าสถาปัตยกรรมแบบผสมผสานจะเกิดขึ้นเป็นทางเลือกที่เป็นไปได้ TEEs สำหรับความเป็นส่วนตัวที่ผสมผสานกับการพิสูจน์แบบไม่ทราบความลับสำหรับความสมบูรณ์ ให้ความเป็นส่วนตัวที่เข้มแข็งพร้อมกับความมั่นใจทางคณิตศาสตร์เกี่ยวกับความถูกต้อง ซึ่งทำงานได้ดีสำหรับสถานการณ์ที่สภาพแวดล้อมฮาร์ดแวร์เป็นที่เชื่อถือได้บางส่วนแต่ไม่ได้รับการควบคุมทั้งหมด

โครงสร้างนี้มีความเกี่ยวข้องโดยเฉพาะอย่างยิ่งรอบ ๆ การประชุมการประมวลผลแบบส่วนตัวของ Linux Foundation ในซานฟรานซิสโกเมื่อสัปดาห์ที่แล้ว โดยที่หัวข้อหลักคือการถามว่าการประมวลผลแบบส่วนตัวสามารถทำหน้าที่เป็นชั้นความปลอดภัยที่ทำให้ AI ที่มีเจตนาใช้งานได้ในระดับองค์กรหรือไม่ เมื่อองค์กรเริ่มให้ AI เข้าถึงระบบ ข้อมูล และกระบวนการทำงานที่สำคัญ คำถามเกี่ยวกับการประมวลผลแบบส่วนตัว ความสมบูรณ์ของการประมวลผล และความไว้วางใจที่สามารถตรวจสอบได้จะเปลี่ยนจากการสนทนาสถาปัตยกรรมที่เป็นทางทฤษฎีไปสู่ความต้องการในการดำเนินงาน

สำหรับสตาร์ทอัพ โอกาสมีมากมายทั่วทั้งระบบ: ทำให้การประมวลผลแบบส่วนตัวที่ใช้ TEEs ง่ายต่อการนำไปใช้สำหรับบริษัท SaaS, สร้างเครื่องมือที่นำ FHE จากการวิจัยไปสู่การผลิต, สร้างโครงสร้างพื้นฐานสำหรับความสมบูรณ์ของการประมวลผลแบบ ZK ในบริบทขององค์กร และพัฒนาชั้นการรับรองความไว้วางใจและพันธกรณีระหว่างลูกค้ากับผู้ให้บริการคลาวด์ เรายังคงศึกษาพื้นที่นี้และตื่นเต้นกับผู้ก่อตั้งที่เราพบ โหลดการทำงานที่แตกต่างกัน แบบจำลองภัยคุกคาม และการกำกับดูแลที่แตกต่างกันจะกำหนดความต้องการชุดค่าผสมที่แตกต่างกันของเสาทั้งสามเสา บริษัทที่ชนะจะเป็นบริษัทที่เลือกเสาหนึ่ง แก้ไขปัญหาอย่างเด็ดขาด และทำให้ง่ายต่อการนำไปใช้สำหรับองค์กร

เลโอ สก็อตต์ เป็นกรรมการผู้จัดการของ DataTribe มีประสบการณ์ 30 ปี ในฐานะผู้ประกอบการด้านเทคโนโลยี ร่วมก่อตั้งและสร้างบริษัทเทคโนโลยีที่ประสบความสำเร็จ 3 แห่ง ซึ่งทั้งหมดได้ถูกซื้อกิจการแล้ว: Clara Vista ถูกซื้อโดย CMGI (1999), Incando / Pickle.com ถูกซื้อโดย Scripps Networks (2007) และ BrightContext ถูกซื้อโดย WealthEngine (2014)

นอกจากการสร้างสตาร์ทอัพแล้ว เลโอ ยังทำงานในบริษัทขนาดกลางและขนาดใหญ่หลายแห่ง โดยแก้ไขปัญหาทางธุรกิจและเทคโนโลยี และช่วยให้บริษัทผ่านสถานการณ์การRestructuring และ Turnaround ที่ยากลำบาก ตั้งแต่เริ่มงานเป็นวิศวกรซอฟต์แวร์ในยุค Web 1.0 เขาได้ใช้เวลาทั้งหมดในการสร้างโซลูชันออนไลน์ที่ครอบคลุมหลายๆ ด้าน เช่น เทคโนโลยีการตลาดที่ขับเคลื่อนด้วยข้อมูลขนาดใหญ่ การจัดการพอร์ตโฟลิโอทางการเงิน การประมวลผลข้อมูลดาวเทียม และโครงการ TV Everywhere

เลโอ จบการศึกษาระดับ BS ในสาขาวิศวกรรมไฟฟ้าและคอมพิวเตอร์จากมหาวิทยาลัยคาร์เนกีเมลลอน และจบการศึกษาระดับ MS ในสาขาวิทยาการคอมพิวเตอร์จากมหาวิทยาลัยจอร์จ วอชิงตัน