โจนาธาน มอร์เทนเซน ผู้ก่อตั้งและซีอีโอของ Confident Security – ซีรีส์สัมภาษณ์

โจนาธาน มอร์เทนเซน ผู้ก่อตั้งและซีอีโอของ Confident Security ปัจจุบันดำเนินการพัฒนาระบบ AI ที่มีการรับรองความเป็นส่วนตัวสำหรับอุตสาหกรรมที่มีข้อกำหนดด้านความปลอดภัยและความเป็นไปตามข้อกำหนดอย่างเข้มงวด เขายังดำรงตำแหน่งผู้ร่วมก่อตั้ง South Park Commons โดยที่เขาทำการวิจัยเกี่ยวกับอนาคตของการคำนวณ AI ความจำ ความเป็นส่วนตัว และการเป็นเจ้าของ ก่อนที่จะก่อตั้ง Confident Security เขา曾เป็น Staff Software Engineer ที่ Databricks โดยรวมเทคโนโลยีของ bit.io เข้ากับแพลตฟอร์มข้อมูล โดยมุ่งเน้นไปที่ความปลอดภัยแบบหลายผู้ใช้ IAM/ACLs การแยก VPC การเข้ารหัส และการเป็นเจ้าของข้อมูล ก่อนหน้านั้นเขาก่อตั้งและดำรงตำแหน่ง CTO ของ bit.io โดยสร้างบริการ PostgreSQL แบบ serverless ที่รองรับหลายคลาวด์และหลายภูมิภาค ซึ่งรองรับฐานข้อมูลที่ปลอดภัยหลายแสนและถูกซื้อกิจการโดย Databricks ต่อมา

Confident Security สร้างโครงสร้างพื้นฐานที่ช่วยให้ธุรกิจสามารถใช้งาน AI โดยไม่ต้องเปิดเผยข้อมูลที่ละเอียดอ่อน แพลตฟอร์มของพวกเขามีการออกแบบเพื่อให้คำสั่ง ข้อมูล และผลลัพธ์ของโมเดลยังคงเป็นส่วนตัว ไม่มีการบันทึก และไม่มีการใช้ซ้ำ ทำให้องค์กรต่างๆ มีวิธีการใช้ AI ที่ปลอดภัยและเป็นไปตามมาตรฐานการกำกับดูแลและความปลอดภัยที่เข้มงวด

คุณก่อตั้ง Confident Security ในปี 2024 หลังจากสร้าง bit.io และทำงานที่ Databricks สิ่งใดกระตุ้นให้คุณตระหนักว่า AI ต้องการแนวทางใหม่ๆ ในด้านความเป็นส่วนตัว?

ประสบการณ์ของฉันในการสร้างโครงสร้างพื้นฐานข้อมูลสอนฉันว่า ถ้าคนกำลังใส่ข้อมูลที่ละเอียดอ่อนเข้าไปในระบบ ความไว้วางใจเพียงอย่างเดียวไม่เพียงพอ พวกเขาต้องการหลักฐาน เราสร้างโครงสร้างพื้นฐานที่ลูกค้าเป็นเจ้าของข้อมูลของตนเอง และให้พวกเขาเครื่องมือในการตรวจสอบสิ่งนั้น

เมื่อฉันสังเกตวิธีการที่บริษัทต่างๆ ใช้ LLMs ฉันพบว่าหลักฐานนั้นไม่มีอยู่จริง พนักงานกำลังวางโค้ดที่มาจากแหล่งที่ไม่ปลอดภัย ใบอนุญาต และบันทึกผู้ป่วยเข้าไปในโมเดลที่ดำเนินการโดยบุคคลที่สามที่ไม่สามารถตรวจสอบได้ เราได้เห็นแล้วว่าการสนทนาส่วนตัวถูกอัปโหลดโดยไม่ตั้งใจและนโยบายที่เปลี่ยนแปลงโดยทันที ทำให้การสนทนาเป็นข้อมูลฝึกอบรมโดยอัตโนมัติ ซึ่งแสดงให้เห็นว่าโมเดลความเป็นส่วนตัวในปัจจุบันยังอ่อนแอ

หาก AI จะจัดการข้อมูลที่ละเอียดอ่อนที่สุดในโลก เราต้องการการรับประกันที่ไม่ขึ้นอยู่กับการไว้วางใจในคำสัญญาของผู้ให้บริการภายในสิ่งนั้นคือสิ่งที่กระตุ้นให้ฉันก่อตั้ง Confident Security

OpenPCC ถูกอธิบายว่าเป็น “Signal สำหรับ AI” ทำไมจึงสำคัญที่ชั้นความเป็นส่วนตัวนี้จะต้องเปิดกว้าง ยืนยันได้ และเข้าถึงได้ตั้งแต่วันแรก?

การเข้ารหัสแบบปลายถึงปลายไม่ได้รับความนิยมจนกว่ามันจะกลายเป็นมาตรฐานที่ทุกคนสามารถใช้ได้ เราต้องการสิ่งเดียวกันสำหรับความเป็นส่วนตัวของ AI หากเพียงไม่กี่บริษัทเท่านั้นที่สามารถให้การรับประกันความเป็นส่วนตัวที่แท้จริงได้ ความเป็นส่วนตัวจะไม่ขยายตัว

OpenPCC เป็นโอเพ่นซอร์สภายใต้ Apache 2.0 ดังนั้นใครก็ตามสามารถสร้างหรือตรวจสอบได้ ไม่มีข้อกำหนดความไว้วางใจที่ซ่อนเร้น การยืนยันฮาร์ดแวร์ให้หลักฐานการเข้ารหัสเกี่ยวกับสิ่งที่กำลังทำงานและที่ใด และเราทำให้มันทำงานทุกที่: ทุกคลาวด์ ผู้ให้บริการโมเดลทุกคน ทุกสแต็คของนักพัฒนา

มีคุณค่าอย่างมากในเรื่องพื้นฐานความเป็นส่วนตัวที่สอดคล้องกันและครอบคลุม หากคุณใช้ OpenPCC คุณจะรู้ว่าข้อมูลของคุณไม่ปรากฏแก่ผู้ให้บริการโมเดล ผู้กำกับดูแล หรือแม้แต่เราเอง มาตรฐานจะทำงานได้เฉพาะเมื่อระบบนิเวศทั้งหมดสามารถเข้าร่วมได้ ดังนั้นเราจึงออกแบบให้เปิดกว้างตั้งแต่วันแรก

ก่อนที่จะก่อตั้ง Confident Security คุณสร้างระบบขนาดใหญ่สำหรับการใช้งานหลายคน การเข้ารหัส และการเป็นเจ้าของข้อมูล ประสบการณ์เหล่านั้นช่วย塑尔รูปโครงสร้างของ OpenPCC อย่างไร?

ระบบเหล่านั้นสอนฉันถึงสองความจริง หากระบบสามารถเก็บข้อมูลได้ สุดท้ายมันก็จะเก็บข้อมูล ไม่ว่าจะผ่านการบันทึก การตั้งค่าผิด หรือข้อกำหนดทางกฎหมาย ผู้ใช้ต้องการความโปร่งใสและควบคุม

OpenPCC ทำงานในโหมดที่ไม่มีสถานะ ซึ่งคำสั่งจะหายไปหลังการประมวลผล การยืนยันช่วยให้ผู้ใช้ตรวจสอบว่าข้อมูลของตนไปที่ไหนและโค้ดใดกำลังทำงาน และด้วยการแยกการควบคุมออกจากข้อมูล OpenPCC ป้องกันไม่ให้ข้อมูลส่วนตัวถูกใช้เป็นคำสั่งได้

ข้อจำกัดเหล่านี้คือสิ่งที่องค์กรต่างๆ ได้รออยู่: การรับประกันว่าข้อมูลจะไม่ปรากฏขึ้นอีกที่ไหนโดยไม่คาดคิด

คุณได้โต้แย้งว่าวิธีแก้ปัญหา “AI ส่วนตัว” ส่วนใหญ่พึ่งพาความไว้วางใจในระบบที่ไม่โปร่งใส การตรวจสอบอิสระมีความสำคัญต่อความเป็นส่วนตัวที่แท้จริงหรือไม่?

ภาษาความเป็นส่วนตัวส่วนใหญ่ในปัจจุบันคือ “เชื่อใจเรา” ซึ่งไม่เพียงพอเมื่อเสี่ยงเกี่ยวข้องกับความมั่นคงแห่งชาติและข้อมูลด้านสุขภาพที่มีการควบคุม หากผู้ใช้ไม่สามารถตรวจสอบคำกล่าวอ้างได้ มันไม่ใช่การรับประกัน มันเป็นการตลาด

ความเป็นส่วนตัวที่สามารถตรวจสอบได้ต่างออกไป คุณไม่ไว้วางใจเจตนาของผู้ให้บริการ คุณตรวจสอบฮาร์ดแวร์ ภาพซอฟต์แวร์ และการรับประกันการรับมือข้อมูล การเข้ารหัสบังคับใช้ขอบเขต ไม่มีการบันทึกใดๆ ที่อาจรั่วไหลหรือถูกเรียกคืนโดยไม่คาดคิด

เมื่อความเป็นส่วนตัวสามารถตรวจสอบได้โดยผู้ใช้ คุณจะสร้างระบบที่ปลอดภัยกว่ามาก มันคือความรับผิดชอบที่มีรากฐานมาจากคณิตศาสตร์

การประกาศ “AI ส่วนตัว” ของ Google (GOOGL ) เกิดขึ้นไม่นานหลังจาก OpenPCC คุณท้าทายพวกเขาให้ให้ TPU สำหรับการทดสอบอิสระ สิ่งใดกระตุ้นให้คุณเรียกความสนใจนี้ และคุณคาดหวังจะพบอะไร?

หากคุณต้องการอ้างว่ามีการรับประกันความเป็นส่วนตัว คุณควรให้ชุมชนตรวจสอบได้ NVIDIA (NVDA ) ยังอนุญาตให้ตรวจสอบจากภายนอกบน H100 GPUs ของตน และเรายังเผยแพร่โค้ด Go ของไลบรารีการยืนยันของพวกเขาเพื่อส่งเสริมการนำไปใช้

หาก Google ต้องการให้คำมั่นสัญญาเดียวกันเกี่ยวกับ TPUs เราควรจะสามารถวัดและตรวจสอบสิ่งเหล่านั้นได้ ไม่ใช่แค่อ่านเกี่ยวกับพวกมันในโพสต์บล็อก เราจะค้นหาการควบคุมเดียวกับที่เราคาดหวังจากระบบความเป็นส่วนตัวใดๆ: ขอบเขตการเก็บข้อมูลที่เข้มงวด การยืนยันที่สามารถตรวจสอบได้ และไม่มีเส้นทางลับใดๆ ที่บันทึกหรือการวัดผลสามารถหลบหนีได้ การอ้างสิทธิ์ความเป็นส่วนตัวต้องสามารถผ่านการตรวจสอบได้

สำหรับผู้อ่านที่ไม่คุ้นเคยกับกลไก การเข้ารหัสสัญญาณที่ถูกปิดของ OpenPCC แตกต่างจากการเข้ารหัสแบบด้านไคลเอ็นต์หรือการคำนวณแบบส่วนตัวอย่างไร?

การเข้ารหัสแบบด้านไคลเอ็นต์ปกป้องข้อมูลระหว่างทางเข้ามา และการคำนวณแบบส่วนตัวปกป้องข้อมูลระหว่างที่มันถูกประมวลผล แต่ยังมีช่องว่างก่อนและหลังที่ผู้ให้บริการหรือผู้โจมตีสามารถเข้าถึงข้อมูลที่ละเอียดอ่อนได้

OpenPCC ปิดช่องว่างเหล่านั้น มันสร้างเส้นทางปลายถึงปลายที่ปิดสนิทระหว่างไคลเอ็นต์และโมเดล ซึ่งปกป้องคำสั่ง การตอบสนอง อัตลักษณ์ของผู้ใช้ และแม้แต่ข้อมูลอื่นๆ หรือสัญญาณเวลาที่สามารถเปิดเผยความตั้งใจได้ ผู้ให้บริการไม่สามารถถอดรหัสอะไรได้ ไม่มีการบันทึกหรือเก็บข้อมูลใดๆ แม้ภายใต้สภาพแวดล้อมที่ถูกโจมตี

ความเป็นส่วนตัวไม่ควรพึ่งพาในความหวังที่ผู้ให้บริการจะทำสิ่งที่ถูกต้องเบื้องหลัง มันควรได้รับการบังคับใช้โดยการเข้ารหัส

การรับประกันความเป็นส่วนตัวที่สามารถตรวจสอบได้เปลี่ยนสมการสำหรับอุตสาหกรรมที่มีการควบคุม เช่น การเงิน การดูแลสุขภาพ และการป้องกันประเทศอย่างไร?

อุตสาหกรรมที่มีการควบคุมมีประโยชน์ที่จะเพิ่มขึ้นมากที่สุดจาก AI แต่ก็มีอะไรที่จะเสียมากที่สุดหากมีบางสิ่งรั่วไหลออกไป ปัจจุบัน 78% ของพนักงานวางข้อมูลภายในเข้าไปในเครื่องมือ AI และหนึ่งในห้ากรณีประกอบด้วยข้อมูลที่มีการควบคุม เช่น PHI หรือ PCI การรั่วไหลนี้เกิดขึ้นแล้ว

การรับประกันความเป็นส่วนตัวที่สามารถตรวจสอบได้จะลบอุปสรรคที่ใหญ่ที่สุดออกไป คำสั่งที่ละเอียดอ่อนจะไม่มีอยู่ในรูปแบบที่อ่านได้ในสภาพแวดล้อมของผู้ให้บริการโมเดล ไม่มีสิ่งใดที่สามารถใช้สำหรับการฝึกอบรมได้ แม้การร้องขอตามกฎหมายก็ไม่สามารถเข้าถึงสิ่งที่ระบบตัวเองไม่สามารถมองเห็นได้

ทีมความเสี่ยงและความเป็นไปตามข้อกำหนดสุดท้ายมีเส้นทางที่ “ใช่” จะกลายเป็นค่าเริ่มต้นแทน “ไม่”

ความท้าทายด้านวิศวกรรมที่ยิ่งใหญ่ที่สุดในการออกแบบชั้นความเป็นส่วนตัวที่เป็นกลางต่อคลาวด์ ซึ่งทำงานบนคลาวด์ใดๆ คืออะไร?

การคำนวณแบบส่วนตัวและการยืนยันระยะไกลยังอยู่ในช่วงวัยเด็กในความคิดของฉัน แต่ละผู้ให้บริการคลาวด์และผู้ให้บริการเมทัลเบアทำสิ่งที่แตกต่างกันเล็กน้อย บางผู้ให้บริการ เช่น AWS ไม่มีฮาร์ดแวร์ที่จำเป็นในการทำสิ่งนี้ ดังนั้น แต่ละคุณลักษณะที่เราบวกคือเหมือน 1000 การตัดและเดินบนเส้นลวด แต่จุดประสงค์ทั้งหมดคือการกลายเป็นมาตรฐานที่เปิดกว้าง ดังนั้นเราจึงต้องทำมันให้ทำงานสำหรับคลาวด์ของทุกคน มันเป็นโอเพ่นซอร์ส ดังนั้นฉันขอแนะนำให้เพิ่มแพลตฟอร์มและคอนฟิกที่รองรับมากขึ้น!

โลกที่มีการเข้ารหัสที่สามารถตรวจสอบได้เป็นค่าเริ่มต้นจะดูอย่างไร และจะเปลี่ยนแปลงสมดุลของอำนาจระหว่างองค์กร ผู้ให้บริการคลาวด์ และผู้ให้บริการโมเดลอย่างไร?

องค์กรจะรักษาการควบคุมสินทรัพย์ที่มีค่าที่สุดของตน: ข้อมูลของตนเอง ผู้ให้บริการโมเดลจะแข่งขันด้านประสิทธิภาพและต้นทุนมากกว่าการสะสมข้อมูลที่เป็นเจ้าของโดยเฉพาะ คลาวด์จะช่วยให้ความเป็นส่วนตัวเป็นไปได้แทนที่จะเป็นผู้สังเกตการณ์เงียบๆ

มันเป็นสมดุลของอำนาจที่ดีต่อสุขภาพ ระบบนิเวศทั้งหมดชนะเมื่อความปลอดภัยถูกสร้างเข้าไปในพื้นฐานแทนที่จะถูกติดฉลากไว้ด้านบน

ในอนาคตที่ AI จะกลายเป็นสิ่งที่แพร่หลายและถูกควบคุมอย่างเข้มงวด คุณเห็นว่าการรับประกันความเป็นส่วนตัวที่สามารถตรวจสอบได้จะเปลี่ยนแปลงภูมิทัศน์การแข่งขันสำหรับองค์กร ผู้ให้บริการคลาวด์ และผู้พัฒนาโมเดลอย่างไร?

ผู้กำกับดูแลกำลังตั้งคำถามแล้วว่าข้อมูลผู้ใช้ถูกเก็บและใช้อย่างไร ความเป็นส่วนตัวที่อาศัยความไว้วางใจจะไม่พอใจพวกเขาเป็นเวลานาน ผู้ใช้จะคาดหวังการรับประกันความเป็นส่วนตัวในลักษณะเดียวกับที่พวกเขาคาดหวังการเข้ารหัสในแอปส่งข้อความในปัจจุบัน

ผู้ชนะจะเป็นบริษัทที่ ไม่ ขอให้ผู้ใช้ประนีประนอม หากคุณสามารถพิสูจน์ความเป็นส่วนตัวได้ คุณจะได้รับความไว้วางใจจากองค์กรที่มีข้อมูลที่มีค่าที่สุดในโลก ข้อมูลจะกลายเป็นประโยชน์ในที่ที่มันถูกปิดกั้นไว้

ขอขอบคุณสำหรับการสัมภาษณ์ที่ดี ผู้อ่านที่ต้องการเรียนรู้เพิ่มเติมสามารถเยี่ยมชม Confident Security ได้