อารอน ฟุลเคอร์สัน ซีอีโอของ OPAQUE – สัมภาษณ์ซีรีส์

อารอน ฟุลเคอร์สัน ซีอีโอของ OPAQUE เป็นนักประกอบการด้านซอฟต์แวร์ระดับองค์กรและผู้บุกเบิกโอเพ่นซอร์สที่มีประสบการณ์มากกว่าสองทศวรรษในการสร้างและขยายแพลตฟอร์มเทคโนโลยีที่มุ่งเน้นไปที่ความไว้วางใจ ข้อมูล และการเปลี่ยนแปลงดิจิทัล ก่อนที่จะเข้าร่วม OPAQUE ในปี 2023 เขาได้ก่อตั้ง MindTouch ซึ่งช่วยให้เติบโตเป็นแพลตฟอร์มความรู้ขององค์กรที่ได้รับการยอมรับอย่างกว้างขวาง ก่อนที่จะถูกซื้อกิจการโดย NICE Systems และต่อมาได้นำการเปิดตัว ServiceNow Impact ซึ่งเป็นหนึ่งในหน่วยธุรกิจที่เติบโตเร็วที่สุดในประวัติศาสตร์ของ ServiceNow ในระหว่างอาชีพของเขา ฟุลเคอร์สันทำงานที่จุดตัดกันของเทคโนโลยีที่เกิดขึ้นใหม่ ซอฟต์แวร์ระดับองค์กร และระบบนิเวศที่เปิดกว้าง ในขณะที่ยังให้คำปรึกษากับสตาร์ทอัพและองค์กรด้านเทคโนโลยีหลายแห่ง เมื่อเร็วๆ นี้ เขาได้กลายเป็นผู้สนับสนุนการรักษาความลับของ AI ที่มีชื่อเสียง โดยโต้แย้งว่าความเป็นส่วนตัว การกำกับดูแล และความไว้วางใจที่สามารถตรวจสอบได้จะเป็นข้อกำหนดพื้นฐานเมื่อระบบ AI ถูกฝังตัวในกระบวนการทำงานขององค์กรที่สำคัญ

OPAQUE เป็นบริษัทด้าน Confidential AI ที่เกิดขึ้นจาก UC Berkeley RISELab ซึ่งเป็นระบบนิเวศการวิจัยที่ช่วยสร้างเทคโนโลยี เช่น Apache Spark และ Databricks บริษัทได้พัฒนาแพลตฟอร์มที่ช่วยให้องค์กรสามารถรันโมเดล AI ตัวแทน และเวิร์กโฟลว์บนข้อมูลที่มีความไว้วางใจสูง ในขณะเดียวกันก็รักษาความเป็นส่วนตัวและความปลอดภัยที่สามารถตรวจสอบได้ แทนที่จะบังคับให้องค์กรต้องเลือกระหว่างนวัตกรรม AI และความปลอดภัยของข้อมูล OPAQUE ใช้การประมวลผลที่มีความลับ สภาพแวดล้อมที่เข้ารหัสลับในขณะทำงาน และการดำเนินการตามฮาร์ดแวร์ที่ได้รับการรับรองเพื่อให้แน่ใจว่าข้อมูลที่มีความไว้วางใจยังคงได้รับการคุ้มครองก่อน ระหว่าง และหลังการประมวลผล AI เทคโนโลยีนี้ได้รับการออกแบบสำหรับอุตสาหกรรมที่มีการควบคุมอย่างเข้มงวด รวมถึงการเงิน การประกันภัย การดูแลสุขภาพ และเทคโนโลยี โดยมีลูกค้าและพันธมิตรที่รวมถึง ServiceNow Anthropic Accenture และองค์กรระดับองค์กรอื่นๆ ที่ต้องการย้ายโครงการ AI จากโปรแกรมทดลองไปสู่การผลิตโดยไม่暴露出ข้อมูลที่เป็นกรรมสิทธิ์หรือข้อมูลที่มีการควบคุม

คุณได้สร้างและขยายแพลตฟอร์มองค์กรหลายแห่งตลอดอาชีพการงานของคุณ ดังนั้นอะไรที่ทำให้คุณตัดสินใจเข้าร่วม OPAQUE และมุ่งเน้นบทบาทถัดไปของคุณในการรักษาความลับ ความเป็นส่วนตัว และการกำกับดูแล AI

ฉันใช้เวลาเกือบสองทศวรรษในการสร้างแพลตฟอร์มองค์กร ครั้งแรกที่ MindTouch ซึ่งยังคงใช้งานโดยผู้ใช้มากกว่า 1 พันล้านคนต่อปี และต่อมาที่ ServiceNow ซึ่งฉันสร้างผลิตภัณฑ์ที่เติบโตเร็วที่สุดของบริษัท ทั้งสองแห่งสอนฉันบทเรียนเดียวกัน: เทคโนโลยีที่ทรงพลังที่สุดจะชนะเมื่อมีการไว้วางใจ

เมื่อฉันพบกับ Raluca Ada Popa, Ion Stoica และ Rishabh Poddar ผู้ร่วมก่อตั้ง OPAQUE ฉันเห็นความรวมกันของความสามารถและวิสัยทัศน์ที่หายาก Raluca เป็นหนึ่งในนักวิจัยชั้นนำของโลกด้านความเป็นส่วนตัวและความปลอดภัย Ion เป็นผู้ร่วมก่อตั้ง Databricks Rishabh สร้างระบบการเข้ารหัสลับที่กลายเป็นรากฐานของ OPAQUE

ที่ UC Berkeley’s RISELab พวกเขาได้สร้างบางสิ่งที่ฉันรู้สึกว่าเป็นรุ่นใหม่: หลักฐานการเข้ารหัสลับที่แสดงว่าข้อมูลยังคงได้รับการคุ้มครองตลอดทั้งเวิร์กโฟลว์ของ AI ไม่ใช่สัญญา ไม่ใช่นโยบาย หลักฐาน

ฉันพิจารณาว่า AI กำลังจะไปที่ไหน ตัวแทนกำลังทำงานอิสระข้ามระบบขององค์กรที่ความเร็วของเครื่อง และฉันเห็นช่องว่างเดียวกับที่ Vint Cerf เตือนมา 30 ปี: ไม่มีชั้นความไว้วางใจ อินเทอร์เน็ตสามารถอยู่ได้โดยไม่มีมันเพราะเรามีคนเป็นราวกั้น อินเทอร์เน็ตของตัวแทนจะไม่มีความสะดวกนั้น

เมื่อ MCP (Model Context Protocol) กำลังจะกลายเป็นรากฐานร่วมกัน คุณคิดว่ามันจะเปลี่ยนแปลงวิธีการที่องค์กรใช้และขยาย AI ที่มีตัวแทนได้อย่างไร

MCP เป็นขั้นตอนที่สำคัญในการใช้และขยาย AI ที่มีตัวแทน คิดว่ามันเป็นตัวเชื่อมต่อที่เป็นสากลสำหรับเวิร์กโฟลว์ของ AI มันทำให้มาตรฐานว่าตัวแทนเชื่อมต่อกับเครื่องมือ แอปพลิเคชัน และข้อมูลอย่างไร ลดความเสี่ยงจริงและเร่งการลองผิดลองถูก

แต่การทำให้การเข้าถึงเป็นมาตรฐานเพียงอย่างเดียวไม่ได้ทำให้ AI ที่มีตัวแทนปลอดภัยหรือสามารถขยายได้ เมื่อตัวแทนและเครื่องมือและแหล่งข้อมูลเพิ่มขึ้น พื้นที่ผิวที่มีความเสี่ยงต่อการรั่วไหลของข้อมูลจะขยายออกไปด้วยการผสานรวมใหม่แต่ละครั้ง จุดเชื่อมต่อที่ไม่มีการบังคับใช้ในขณะทำงานคือเวกเตอร์การรั่วไหลที่อาจเกิดขึ้น เมื่อตัวแทน AI ติดต่อระบบและตรรกะที่มีค่าลับ การเข้ารหัสลับในขณะพักและควบคุมเครือข่ายไม่เพียงพอ อาณาเขตความปลอดภัยได้เปลี่ยนไปที่ขณะทำงาน และการเปลี่ยนแปลงนั้นจะเร่งรีบมากขึ้นเมื่อระบบนิเวศขยายตัว

การมีความสามารถในการตรวจสอบได้ที่จุดเชื่อมต่อที่สำคัญเหล่านี้จะเป็นสิ่งสำคัญสำหรับองค์กร องค์กรสามารถขยาย AI ที่มีตัวแทนได้เมื่อการเข้าถึง MCP คู่กับการเข้ารหัสลับของสิ่งที่รัน どこ และภายใต้นโยบายใด – ก่อน ระหว่าง และหลังการทำงาน AI การเข้าถึงบวกกับการตรวจสอบได้ นั่นคือสิ่งที่ปลดล็อกการผลิต

เมื่อ MCP มาตรฐานการเข้าถึงตัวแทน คุณเห็นช่องว่างที่ใหญ่ที่สุดวันนี้เมื่อพูดถึงความปลอดภัย การบังคับใช้นโยบาย และความไว้วางใจในระบบที่ขับเคลื่อนด้วยตัวแทน

เราทำการวิจัย AI Leak Surface ในปี 2026 และตีพิมพ์สรุปผลการวิจัย “วิธีที่ AI สแต็คของคุณรั่วไหลข้อมูล” ซึ่งกล่าวถึงเรื่องนี้ เราได้ระบุเวกเตอร์การรั่วไหล 46 จุดใน 8 หมวดหมู่ที่ครอบคลุมพรมแดนความไว้วางใจของ AI ทั้งหมด: การคำนวณ การควบคุม แอปพลิเคชัน และการส่งมอบระหว่างพวกมัน นั่นคือโดยไม่พิจารณานักแสดงที่มีเจตนาไม่ดี สิ่งเหล่านี้เป็นสถานการณ์ที่ไม่มีอะไรผิดปกติ บันทึกดูสะอาด และระบบของคุณยังคงรั่วไหลข้อมูล

ช่องว่างที่ใหญ่ที่สุดไม่ได้อยู่ที่การเชื่อมต่อ MCP กำลังแก้ไขปัญหานั้น ช่องว่างอยู่ที่สิ่งที่เกิดขึ้นหลังจากที่ตัวแทนเชื่อมต่อ องค์กรส่วนใหญ่ไม่สามารถตอบคำถามพื้นฐานสามข้อ: ตัวแทน AI ของเราดำเนินการอย่างไร ใครควบคุมมัน และเราจะพิสูจน์ว่านโยบายถูกบังคับใช้อย่างไร

การวิจัยของเราแสดงให้เห็นว่าขอบเขตถูกกำหนดค่า แต่ไม่เคยบังคับใช้ นโยบายมีอยู่ในเอกสาร ไฟล์คอนฟิก หรือการตั้งค่าก่อนการนำไปใช้ แต่ระบบที่กำลังทำงานไม่ได้รับการจำกัดจากนโยบาย ตัวช่วย AI ของผู้บริหารวางข้อมูลที่ไม่ได้เปิดเผยต่อสาธารณะบนการเชิญนัดหมายของคาลेंडर ตัวช่วยร่วม RAG ให้ข้อมูลทางการเงินของบริษัทแก่นักวิเคราะห์ระดับจูเนียร์ SDK ของผู้ขายส่งออกข้อมูลเงิน 10 ล้านรายการใน 12 เดือน ในทุกกรณี การควบคุมการเข้าถึงมีอยู่ ข้อมูลยังคงรั่วไหลอยู่

จนกว่าองค์กรจะปิดช่องว่างระหว่างนโยบายที่กำหนดและนโยบายที่บังคับใช้ MCP จะทำให้ประตูหน้าเป็นมาตรฐาน แต่บ้านยังคงไม่มีการป้องกัน

เมื่อตัวแทน AI ได้รับการเข้าถึงระบบและข้อมูลที่มีความไว้วางใจสูง อะไรคือความเสี่ยงด้านความเป็นส่วนตัวและความเป็นไปตามข้อกำหนดที่เกิดขึ้นใหม่ที่องค์กรต่างๆ มักจะไม่เตรียมพร้อม

องค์กรส่วนใหญ่คิดถึงความเป็นส่วนตัวในแง่ของข้อมูลที่พักหรือข้อมูลที่ส่งผ่าน โมเดลนี้ล้มเหลวในเวิร์กโฟลว์ของ AI ที่มีตัวแทนเพราะความเสี่ยงที่ใหญ่ที่สุดคือการรั่วไหลของข้อมูลในขณะใช้งาน

นี่คือสิ่งที่ฉันหมายถึง ผู้ผลิตรถยนต์ประสิทธิภาพใช้ AI ทั่วสายการผลิต ข้อมูลดิบดูเหมือนไม่มีอันตราย: การอ่านเซ็นเซอร์ ลำดับเวลา การตรวจสอบคุณภาพ แต่ LLM สามารถสร้างกระบวนการผลิตที่เป็นกรรมสิทธิ์ได้จากข้อมูลที่ใช้แล้ว สิ่งที่เคยเป็นเสียงรบกวนเมื่อ 5 ปีที่แล้วตอนนี้เป็นแผนภาพสำหรับคู่แข่ง

การวิจัย AI Leak Surface ของเราบันทึกรูปแบบนี้ในหลายๆ สถานการณ์ เครื่องมืออุปกรณ์เทเลเมทรีจับข้อมูลเต็มของ AI โดยค่าเริ่มต้น และธนาคารยุโรปหนึ่งมี 2.1 ล้านคำสั่งซื้อที่มีข้อมูลส่วนบุคคลไหลไปยังตัวอย่าง SaaS ของสหรัฐฯ เพราะไม่มีใครเปลี่ยนค่าเริ่มต้นของ APM ตัวช่วย AI สูญเสียบริบทระหว่างเซสชัน การติดตามความคิดที่มีจุดเชื่อมต่อเปิดบันทึกการตรวจสอบที่สมบูรณ์ให้กับแพลตฟอร์มที่สามารถเข้าถึงได้โดยผู้รับเหมาช่วง ระบบการปฏิบัติตามข้อกำหนดแบบดั้งเดิมไม่ได้ออกแบบมาเพื่อตรวจจับการรั่วไหลประเภทนี้ พวกเขาได้สมมติว่ามนุษย์กำลังย้ายข้อมูลด้วยความเร็วของมนุษย์

ทำไม Confidential AI จึงกลายเป็นส่วนเสริมที่จำเป็นของ MCP และมันจะแก้ไขความท้าทายที่มาตรฐานการเข้าถึงเพียงอย่างเดียวไม่สามารถแก้ไขได้

MCP แก้ไขปัญหาเกี่ยวกับใครสามารถเข้าถึงอะไรและอย่างไร ในขณะที่ Confidential AI แก้ไขสิ่งที่เกิดขึ้นหลังจากที่การเข้าถึงได้รับอนุญาต พวกมันคือชั้นที่เสริมกัน

มาตรฐานการเข้าถึงเพียงอย่างเดียวไม่สามารถป้องกันการบุกรุกในขณะทำงาน การเลื่อนนโยบาย หรือการใช้ข้อมูลที่ไม่ได้รับอนุญาต คิดว่ามันเป็นแบบนี้: MCP ให้วิธีการมาตรฐานในการเชื่อมต่อระหว่างตัวแทนและระบบของคุณ Confidential AI ให้การรับประกันการเข้ารหัสลับว่าเมื่อเชื่อมต่อแล้ว ตัวแทนเหล่านั้นสามารถทำได้เพียงสิ่งที่ได้รับอนุญาต และคุณสามารถพิสูจน์ได้

Confidential AI มอบการรับประกันเหล่านี้ในขณะทำงานทั่วข้อมูล อัตลักษณ์ รหัส และการสื่อสาร มันให้หลักฐานที่สามารถตรวจสอบได้ของการทำงานและรับประกันว่าความเป็นส่วนตัวและการบังคับใช้นโยบายไม่หยุดอยู่ที่ขอบเขตการเข้าถึง แต่ยังคงอยู่เมื่อ AI กำลังให้เหตุผล สร้างและดำเนินการโดยไม่ต้องหยุด

ในทางปฏิบัติ สิ่งที่ความไว้วางใจที่สามารถตรวจสอบได้ดูเหมือนสำหรับองค์กรที่ใช้ตัวแทน AI อิสระทั่วเวิร์กโฟลว์ที่สำคัญ

ความไว้วางใจที่สามารถตรวจสอบได้หมายถึงฉันสามารถพิสูจน์ได้ว่ารหัสใดทำงานที่ไหน ภายใต้นโยบายใด ข้อมูลใดถูกเข้าถึง และระบบดำเนินการอย่างไรเมื่อเวลาผ่านไป

ในทางปฏิบัติ ให้พิจารณาบริษัทประกันที่ใช้ตัวแทน AI ในการประมวลผลจดหมายเรียกร้อง ก่อนการทำงาน การรับรองฮาร์ดแวร์ยืนยันตัวตนของตัวแทนและความสมบูรณ์ของสภาพแวดล้อม ในระหว่างการทำงาน การผูกนโยบายการเข้ารหัสลับภายในสภาพแวดล้อมการทำงานที่เชื่อถือได้ (TEE) ที่ได้รับการสนับสนุนจากฮาร์ดแวร์ รับประกันว่าข้อมูลได้รับการคุ้มครองและนโยบายถูกบังคับใช้ หลังการทำงาน บันทึกการตรวจสอบที่ไม่สามารถเปลี่ยนแปลงได้บันทึกสิ่งที่เกิดขึ้นอย่างแน่นอน

ความเสี่ยงในเวิร์กโฟลว์ของ AI ที่มีตัวแทนไม่ใช่ว่าตัวแทนจะผิดปกติ ความเสี่ยงจริงคือคุณไม่สามารถพิสูจน์ได้ว่านโยบายถูกบังคับใช้หรือว่าข้อมูลที่มีความไว้วางใจได้รับการคุ้มครองในขณะทำงาน – ก่อน ระหว่าง และหลังการประมวลผล AI นั่นคือสิ่งที่ความไว้วางใจที่สามารถตรวจสอบได้ดูเหมือน

เมื่อระบบ AI ที่มีตัวแทนกำลังทำงานที่ความเร็วของเครื่อง ทำไมการกำกับดูแลแบบดั้งเดิมที่มีมนุษย์เป็นศูนย์กลางจึงล้มเหลว และองค์กรควรคิดใหม่เกี่ยวกับการกำกับดูแลในสถานการณ์ใหม่นี้อย่างไร

ในหลายทศวรรษที่ผ่านมา อินเทอร์เน็ตมีราวกั้นที่มองไม่เห็น: เรา มนุษย์อ่านเนื้อหา คลิกโดยตั้งใจ และไม่ทำงานโดยไม่มีการสื่อสารข้ามระบบหลายร้อยระบบในเวลาเดียวกัน

AI ที่มีตัวแทนลบสมมติฐานเหล่านี้ไปในเวลาคืน ตัวแทนทำงานอย่างต่อเนื่อง ตัดสินใจด้วยความเร็วของเครื่อง และสามารถถูกบิดเบือนโดยสภาพแวดล้อมที่ออกแบบมาเพื่อมนุษย์แต่สามารถถูกใช้โดยเครื่องจักรได้ เว็บเพจที่เป็นอันตรายไม่จำเป็นต้องหลอกลวง AI เช่นเดียวกับที่หลอกลวงมนุษย์ มันสามารถสั่งให้ AI ทำงานได้โดยตรง

ที่ความเสี่ยงเพียง 1% ต่อตัวแทน องค์กรที่มีตัวแทน 100 ตัวเผชิญกับความเสี่ยง 63% ที่จะถูกโจมตี ขยายไปสู่ 1,000 และคุณจะเผชิญกับความเสี่ยง 99.99% การกำกับดูแลโดยมนุษย์ไม่สามารถตามทันจำนวนเหล่านี้ได้ การกำกับดูแลต้องเปลี่ยนจากการตรวจสอบแบบตอบรับเป็นการรับประกันในขณะทำงาน ซึ่งหมายถึงเวิร์กโฟลว์ที่ไม่ไว้วางใจ การบังคับใช้นโยบายโดยค่าเริ่มต้น และการทำงานที่สามารถตรวจสอบได้ซึ่งไม่ขึ้นอยู่กับการจับข้อผิดพลาดโดยมนุษย์หลังจากเกิดขึ้น

ความล้มเหลวด้านความปลอดภัยที่พบบ่อยที่สุดคืออะไรเมื่อองค์กรทดลองกับ AI ที่มีตัวแทนโดยไม่มีชั้นความไว้วางใจที่มีอยู่

รูปแบบที่ฉันเห็นบ่อยที่สุดคือองค์กรปล่อยให้ตัวแทนทำงานและประสานกันโดยไม่มีการรับประกันการเข้ารหัสลับใดๆ เกี่ยวกับพฤติกรรมของพวกมัน พวกเขาประมวลผล IP ที่มีความไว้วางใจโดยหวัง

สิ่งที่ตามมาเป็นสิ่งที่คาดเดาได้ และเราบันทึกรูปแบบเหล่านี้ใน AI Leak Surface ของเรา การบุกรุกในขณะทำงานหลบหลีกการป้องกันแบบดั้งเดิมเพราะตัวแทนอยู่แล้วภายในเครือข่าย การเชื่อมต่อของตัวแทนอิสระสร้างความล้มเหลวที่เป็นลูกโซ่ ตัวแทนหนึ่งที่ถูกโจมตีจะทำให้เกิดผลกระทบต่อระบบที่เชื่อมต่อ Proprietary logic รั่วไหลผ่านข้อมูลที่ใช้แล้วที่ไม่มีใครคิดจะตรวจสอบ ตัวแทนเสียความสามารถในการแยกแยะระหว่างเจตนาขององค์กรและข้อมูลที่มีเจตนาไม่ดีเพราะไม่มีการผูกนโยบายหรือการรับรองตัวตนที่สามารถตรวจสอบได้ในขณะทำงาน

สิ่งเหล่านี้ไม่ใช่เรื่องสมมติ เราได้ทำการแมป 46 เวกเตอร์ที่ข้อมูลหลบหนีจากการควบคุม แม้ว่าจะดูเหมือนว่าไม่มีอะไรผิดปกติก็ตาม AI ตัวแทนสร้างและแบ่งปันข้อมูลด้วยความเร็วของเครื่อง โดยไม่มีการป้องกันการทำงานที่สามารถตรวจสอบได้ การล้มเหลวจะแพร่กระจายเร็วกว่าที่ทีมความปลอดภัยสามารถตรวจจับหรือตอบสนองได้

องค์กรชั้นนำกำลังสร้างสมดุลระหว่างการปลดล็อกความสามารถ AI ที่ทันสมัยและปกป้องสินทรัพย์ข้อมูลที่มีความไว้วางใจสูงสุดอย่างไร

องค์กรที่ทำได้ดีที่สุดมองว่าความเป็นส่วนตัวและการกำกับดูแลเป็นตัวเร่งการเคลื่อนไหว ไม่ใช่เบรก นั่นคือสิ่งที่ฉันเห็นในสนาม

สิ่งที่ฉันเห็นคือองค์กรชั้นนำจับคู่ความสามารถ AI ที่ทันสมัยกับแพลตฟอร์ม Confidential AI ที่ให้การรับประกันที่สามารถตรวจสอบได้ ไม่ใช่เพียงรายการตรวจสอบความเป็นไปตามข้อกำหนด พวกเขากำลังปลดล็อกข้อมูลที่มีความไว้วางใจสำหรับการนวัตกรรม AI ในขณะเดียวกันก็รับประกันว่าข้อมูลที่เป็นกรรมสิทธิ์ยังคงได้รับการคุ้มครอง แม้ว่าเวิร์กโฟลว์จะทำงานอิสระก็ตาม

การสร้างแบบจำลองในอดีตคือความสามารถเทียบกับความปลอดภัย องค์กรที่เคลื่อนไหวเร็วที่สุดได้ปฏิเสธการซื้อขายนั้นทั้งหมด พวกเขาก่อสร้างความไว้วางใจที่สามารถตรวจสอบได้ลงในรากฐานของกลยุทธ์ AI ของพวกเขา ทำให้พวกเขาได้รับการใช้ข้อมูลที่มีค่าที่สุด ในขณะเดียวกัน คู่แข่งยังคงถูกขัดขวางในโหมดทดลอง โดยใช้ข้อมูลที่ไม่สำคัญซึ่งไม่ได้ผล

ตามที่คุณเห็นในปัจจุบัน คุณคาดหวังว่าโมเดลการกำกับดูแล AI ขององค์กรจะพัฒนาไปอย่างไรในอีกไม่กี่ปีข้างหน้าเมื่อระบบ AI ที่มีตัวแทนเปลี่ยนจากการทดลองไปสู่การผลิตเต็มรูปแบบ

การกำกับดูแลจะพัฒนาไปสู่หลักฐานการทำงาน ไม่ใช่เอกสาร นั่นคือวิธีที่ฉันสามารถอธิบายได้แบบง่ายๆ โมเดลการกำกับดูแลในยุคแรกๆ ถูกสร้างขึ้นสำหรับซอฟต์แวร์ที่มีคนเป็นศูนย์กลาง: นโยบายบนกระดาษ การอนุมัติก่อนการนำไปใช้ และการตรวจสอบหลังการทำงานที่ผิดพลาด ระบบ AI ที่มีตัวแทนจะทำลายสมมติฐานทั้งหมดนี้

สิ่งที่เรากำลังเห็นคือการกำกับดูแลกำลังเปลี่ยนไปสู่การตรวจสอบที่สามารถตรวจสอบได้ในขณะทำงาน โดยการรับประกันการเข้ารหัสลับว่าพฤติกรรมจะถูกตรวจสอบได้ทั่วทั้งวงจรชีวิตของตัวแทน – ก่อน ระหว่าง และหลังการทำงาน รูปแบบเดียวกับที่เราเห็นกับ HTTPS กำลังจะกลายเป็นมาตรฐานสำหรับการรับส่งข้อมูลเว็บ ไม่มีใครถกเถียงกันว่าควรเข้ารหัสลับการเชื่อมต่อเว็บหรือไม่ ในอีกไม่กี่ปี ไม่มีใครจะถกเถียงกันว่าจะตรวจสอบการทำงานของ AI ในขณะทำงานหรือไม่ มันจะเป็นข้อกำหนดพื้นฐาน

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม OPAQUE เพื่อเรียนรู้เพิ่มเติม