อารอน ฟุลเคอร์สัน ซีอีโอของ OPAQUE – ชุดบทสัมภาษณ์

อารอน ฟุลเคอร์สัน ซีอีโอของ OPAQUE เป็นผู้ประกอบการซอฟต์แวร์องค์กรที่มีประสบการณ์ยาวนานและเป็นผู้บุกเบิกโอเพนซอร์ส เขาสร้างและขยายแพลตฟอร์มเทคโนโลยีที่เน้นความไว้วางใจ ข้อมูล และการเปลี่ยนผ่านสู่ดิจิทัลมานานกว่าสองทศวรรษ ก่อนเข้าร่วม OPAQUE ในปี 2023 เขาก่อตั้ง MindTouch และช่วยพัฒนาให้เป็นแพลตฟอร์มจัดการความรู้ที่องค์กรใช้อย่างแพร่หลาย ก่อนถูก NICE Systems ซื้อกิจการ ต่อมาเขาเป็นผู้นำการเปิดตัว ServiceNow Impact ซึ่งเป็นหนึ่งในหน่วยธุรกิจที่เติบโตเร็วที่สุดในประวัติศาสตร์ของ ServiceNow ตลอดอาชีพ ฟุลเคอร์สันทำงานในจุดเชื่อมต่อระหว่างเทคโนโลยีเกิดใหม่ ซอฟต์แวร์องค์กร และระบบนิเวศแบบเปิด พร้อมให้คำปรึกษาแก่สตาร์ทอัพเทคโนโลยีและองค์กรหลายแห่ง ระยะหลังเขาเป็นผู้สนับสนุนสำคัญของ Confidential AI หรือ AI ที่รักษาความลับของข้อมูล โดยมองว่าความเป็นส่วนตัว การกำกับดูแล และความไว้วางใจที่พิสูจน์ตรวจสอบได้จะเป็นข้อกำหนดพื้นฐาน เมื่อระบบ AI เข้าไปอยู่ในกระบวนการทำงานที่สำคัญยิ่งขององค์กร

OPAQUE เป็นบริษัทด้าน Confidential AI ที่มีต้นกำเนิดจาก RISELab อันมีชื่อเสียงของ UC Berkeley ซึ่งเป็นระบบนิเวศการวิจัยเดียวกับที่ช่วยสร้างเทคโนโลยีอย่าง Apache Spark และ Databricks บริษัทพัฒนาแพลตฟอร์มให้องค์กรใช้ข้อมูลที่อ่อนไหวอย่างยิ่งในการรันโมเดล AI เอเจนต์ และกระบวนการทำงาน พร้อมรักษาหลักประกันด้านความเป็นส่วนตัวและการปฏิบัติตามข้อกำหนดที่พิสูจน์ได้ด้วยวิทยาการเข้ารหัสลับ แทนที่จะบังคับให้เลือกระหว่างนวัตกรรม AI กับความปลอดภัยของข้อมูล OPAQUE ใช้การประมวลผลแบบรักษาความลับ สภาพแวดล้อมการรันที่เข้ารหัส และการรันที่ผ่านการรับรองด้วยฮาร์ดแวร์ เพื่อคุ้มครองข้อมูลอ่อนไหวทั้งก่อน ระหว่าง และหลังการประมวลผลด้วย AI เทคโนโลยีนี้ออกแบบสำหรับอุตสาหกรรมที่มีกฎระเบียบเข้มงวด เช่น การเงิน ประกันภัย สาธารณสุข และเทคโนโลยีขั้นสูง ลูกค้าและพันธมิตรรวมถึง ServiceNow (NOW ), Anthropic, Accenture และองค์กรอื่นที่ต้องการนำโครงการ AI จากระยะนำร่องไปใช้งานจริง โดยไม่เปิดเผยข้อมูลกรรมสิทธิ์หรือข้อมูลที่อยู่ภายใต้กฎระเบียบ

คุณสร้างและขยายแพลตฟอร์มองค์กรหลายแห่งมาตลอดอาชีพ อะไรทำให้คุณรับตำแหน่งซีอีโอของ OPAQUE และมุ่งเน้นบทบาทถัดไปไปที่ความไว้วางใจ ความเป็นส่วนตัว และการกำกับดูแล AI?

ผมใช้เวลาเกือบสองทศวรรษสร้างแพลตฟอร์มองค์กร เริ่มจาก MindTouch ซึ่งยังมีผู้ใช้หนึ่งพันล้านคนต่อปี แล้วจึงมาที่ ServiceNow ซึ่งผมสร้างผลิตภัณฑ์ที่เติบโตเร็วที่สุดของบริษัท ทั้งสองประสบการณ์สอนบทเรียนเดียวกันว่า แม้เทคโนโลยีจะทรงพลังที่สุด ก็จะชนะได้ก็ต่อเมื่อผู้คนไว้วางใจ

เมื่อผมพบผู้ร่วมก่อตั้ง OPAQUE ได้แก่ Raluca Ada Popa, Ion Stoica และ Rishabh Poddar ผมเห็นการผสมผสานที่หาได้ยากระหว่างความสามารถกับวิสัยทัศน์ Raluca เป็นนักวิจัยชั้นนำระดับโลกคนหนึ่งด้านความเป็นส่วนตัวและความปลอดภัย Ion ร่วมก่อตั้ง Databricks ส่วน Rishabh สร้างระบบวิทยาการเข้ารหัสลับหลักที่กลายเป็นรากฐานของ OPAQUE

ที่ RISELab ของ UC Berkeley พวกเขาสร้างสิ่งที่ผมมองออกทันทีว่าเป็นความก้าวหน้าที่สำคัญต่อคนทั้งยุค นั่นคือหลักฐานทางวิทยาการเข้ารหัสลับว่าข้อมูลยังคงเป็นส่วนตัวตลอดทุกกระบวนการทำงานของ AI ไม่ใช่คำสัญญา ไม่ใช่นโยบาย แต่เป็นหลักฐาน

ผมมองทิศทางของ AI ซึ่งเอเจนต์จะทำงานอย่างอิสระข้ามระบบองค์กรด้วยความเร็วของเครื่องจักร และเห็นช่องว่างเดียวกับที่ Vint Cerf เตือนมาตลอด 30 ปี นั่นคือการไม่มีชั้นความไว้วางใจ อินเทอร์เน็ตอยู่รอดมาได้โดยไม่มีชั้นนี้ เพราะมนุษย์ทำหน้าที่เป็นรั้วป้องกัน เว็บที่ขับเคลื่อนด้วยเอเจนต์จะไม่มีข้อได้เปรียบนั้น นี่คือสิ่งที่ดึงดูดผม

MCP หรือ Model Context Protocol ซึ่งเป็นมาตรฐานให้เอเจนต์ AI เข้าถึงเครื่องมือ แอปพลิเคชัน และข้อมูลอย่างปลอดภัย กำลังเป็นรากฐานร่วม คุณคิดว่าจะเปลี่ยนวิธีที่องค์กรนำ AI แบบเอเจนต์ไปใช้และขยายขนาดอย่างไร?

MCP เป็นก้าวสำคัญในการนำ AI แบบเอเจนต์ไปใช้และขยายขนาดในองค์กร ลองมองว่าเป็นตัวเชื่อมต่ออเนกประสงค์สำหรับกระบวนการทำงานของ AI มันกำหนดมาตรฐานการเชื่อมต่อเอเจนต์กับเครื่องมือ แอปพลิเคชัน และข้อมูล ช่วยลดอุปสรรคที่เกิดขึ้นจริงและเร่งการทดลอง

แต่การทำให้การเข้าถึงเป็นมาตรฐานอย่างเดียวไม่ได้ทำให้ AI แบบเอเจนต์ปลอดภัยหรือขยายขนาดได้ เมื่อการเชื่อมต่อเพิ่มขึ้น พร้อมเอเจนต์ เครื่องมือ และแหล่งข้อมูลที่มากขึ้น การผสานระบบแต่ละครั้งก็ขยายพื้นที่ที่ข้อมูลอาจรั่วไหล จุดเชื่อมต่อใดที่ไม่มีการบังคับใช้กฎระหว่างการรันย่อมเป็นช่องทางเปิดเผยข้อมูลได้ เมื่อเอเจนต์ AI ติดต่อกับระบบอ่อนไหวและตรรกะกรรมสิทธิ์ การเข้ารหัสข้อมูลที่จัดเก็บกับการควบคุมเครือข่ายยังไม่พอ ขอบเขตความปลอดภัยย้ายมาที่ช่วงการรันแล้ว และการเปลี่ยนแปลงนี้ยิ่งเร่งด่วนเมื่อระบบนิเวศขยายขนาด

ความสามารถในการตรวจพิสูจน์ ณ จุดเชื่อมต่อสำคัญเหล่านี้จะมีความสำคัญอย่างยิ่งต่อองค์กร องค์กรขยาย AI แบบเอเจนต์ได้เมื่อผสานการเข้าถึงแบบ MCP กับหลักฐานทางวิทยาการเข้ารหัสลับว่าโค้ดใดรัน ที่ไหน และภายใต้นโยบายใด โดยครอบคลุมก่อน ระหว่าง และหลังการรัน การเข้าถึงบวกกับความสามารถในการตรวจพิสูจน์ นี่คือส่วนผสมที่ทำให้นำไปใช้งานจริงได้

เมื่อ MCP กำหนดมาตรฐานการเข้าถึงของเอเจนต์ คุณเห็นช่องว่างใหญ่ที่สุดด้านความปลอดภัย การบังคับใช้นโยบาย และความไว้วางใจในระบบที่ขับเคลื่อนด้วยเอเจนต์อยู่ตรงไหน?

เราทำวิจัย AI Leak Surface ปี 2026 เสร็จแล้ว และเผยแพร่บทสรุปผลชื่อ “12 วิธีที่ข้อมูลรั่วไหลจากระบบ AI ของคุณ” ซึ่งกล่าวถึงเรื่องนี้ เราพบช่องทางเปิดเผยข้อมูล 46 ช่องทางใน 8 หมวดหมู่ ครอบคลุมขอบเขตความไว้วางใจทั้งหมดของ AI ได้แก่ การคำนวณ การควบคุม แอปพลิเคชัน และการส่งต่อระหว่างส่วนเหล่านี้ นี่ยังไม่รวมผู้ไม่หวังดี เป็นสถานการณ์ที่ไม่มีอะไรเสียหาย บันทึกดูปกติ แต่ระบบยังคงรั่วไหลข้อมูล

ช่องว่างใหญ่ที่สุดไม่ได้อยู่ที่การเชื่อมต่อ MCP กำลังแก้ปัญหานั้น ช่องว่างอยู่ที่สิ่งที่เกิดหลังเอเจนต์เชื่อมต่อแล้ว องค์กรส่วนใหญ่ตอบคำถามพื้นฐานสามข้อไม่ได้ว่า AI ของเรามีพฤติกรรมอย่างไรจริง ๆ ใครควบคุม และเราจะพิสูจน์ได้อย่างไรว่านโยบายถูกบังคับใช้?

งานวิจัยพบว่ามีการตั้งค่าขอบเขต แต่ไม่เคยบังคับใช้ นโยบายอยู่ในเอกสาร ไฟล์ตั้งค่า หรือการตั้งค่าตอนนำระบบขึ้นใช้งาน แต่ไม่ได้จำกัดระบบที่กำลังรัน ผู้ช่วย AI สำหรับผู้บริหารใส่ข้อมูลสำคัญที่ยังไม่เปิดเผยต่อสาธารณะลงในคำเชิญปฏิทิน ผู้ช่วย RAG ส่งข้อมูลการเงินที่มีไว้สำหรับคณะกรรมการให้แก่นักวิเคราะห์ระดับเริ่มต้น SDK ของผู้ขายแอบส่งออกคำค้นหรือคำสั่งสอบถาม 10 ล้านรายการตลอด 12 เดือน ทุกกรณีมีการควบคุมการเข้าถึงอยู่แล้ว แต่ข้อมูลก็ยังรั่วไหล

จนกว่าองค์กรจะปิดช่องว่างระหว่างนโยบายที่ตั้งค่าไว้กับนโยบายที่บังคับใช้จริง MCP ก็เพียงกำหนดมาตรฐานประตูหน้า แต่บ้านยังไม่มีคนเฝ้า

เมื่อเอเจนต์ AI เข้าถึงระบบอ่อนไหวและข้อมูลกรรมสิทธิ์ ความเสี่ยงใหม่ด้านความเป็นส่วนตัวและการปฏิบัติตามข้อกำหนดใดมักเกิดขึ้น โดยที่องค์กรยังไม่พร้อมรับมือ?

องค์กรส่วนใหญ่มองความเป็นส่วนตัวในแง่ข้อมูลที่จัดเก็บหรือกำลังส่งผ่าน มุมมองนี้ใช้ไม่ได้กับกระบวนการทำงานแบบเอเจนต์ เพราะความเสี่ยงใหญ่ที่สุดคือการเปิดเผยข้อมูลขณะใช้งาน

ผมหมายถึงตัวอย่างนี้ ผู้ผลิตรถยนต์สมรรถนะสูงใช้ AI ตลอดสายการประกอบ ข้อมูลดิบดูไม่มีพิษภัย เช่น ค่าจากเซ็นเซอร์ ลำดับเวลา และการตรวจคุณภาพ แต่โมเดลภาษาขนาดใหญ่สามารถสร้างกระบวนการผลิตกรรมสิทธิ์ขึ้นใหม่จากร่องรอยข้อมูลที่เกิดเป็นผลพลอยได้ของการดำเนินงาน สิ่งที่เป็นเพียงสัญญาณรบกวนเมื่อห้าปีก่อน กลับเป็นพิมพ์เขียวให้คู่แข่งได้ในวันนี้

งานวิจัย AI Leak Surface ของเราบันทึกรูปแบบนี้ในสถานการณ์หลายสิบแบบ เครื่องมือเทเลเมทรีการดำเนินงานเก็บเนื้อหาข้อมูล AI ทั้งหมดเป็นค่าเริ่มต้น ธนาคารยุโรปแห่งหนึ่งมีพรอมป์ต์ 2.1 ล้านรายการที่มีข้อมูลระบุตัวบุคคลไหลไปยังอินสแตนซ์ SaaS ในสหรัฐฯ เพราะไม่มีใครเปลี่ยนค่าเริ่มต้นของระบบติดตามประสิทธิภาพแอปพลิเคชัน (APM) หน่วยความจำเอเจนต์ทำให้บริบทรั่วข้ามเซสชัน ร่องรอยลำดับการให้เหตุผลเปิดเผยบันทึกการสืบสวนทั้งหมดแก่แพลตฟอร์มสังเกตการณ์ระบบที่ผู้รับเหมาเข้าถึงได้ กรอบการปฏิบัติตามข้อกำหนดแบบเดิมไม่ได้ออกแบบให้ตรวจจับการรั่วไหลลักษณะนี้ เพราะสมมติว่ามนุษย์เป็นผู้เคลื่อนย้ายข้อมูลด้วยความเร็วของมนุษย์

เหตุใด Confidential AI จึงกลายเป็นส่วนเสริมที่จำเป็นของ MCP และรับมือกับปัญหาที่มาตรฐานการเข้าถึงอย่างเดียวแก้ไม่ได้อย่างไร?

MCP ตอบว่าใครเข้าถึงอะไรได้และอย่างไร ส่วน Confidential AI จัดการสิ่งที่เกิดขึ้นหลังได้รับสิทธิ์แล้ว ทั้งสองเป็นชั้นที่เสริมกัน

มาตรฐานการเข้าถึงอย่างเดียวป้องกันการถูกเจาะความปลอดภัยระหว่างการรัน การเบี่ยงเบนจากนโยบาย หรือการใช้ข้อมูลโดยไม่ได้รับอนุญาตไม่ได้ ลองมองแบบนี้ MCP ให้วิธีมาตรฐานในการเชื่อมเอเจนต์กับระบบ ส่วน Confidential AI ให้หลักประกันทางวิทยาการเข้ารหัสลับว่าเมื่อเชื่อมต่อแล้ว เอเจนต์ทำได้เฉพาะสิ่งที่ได้รับอนุญาต และคุณพิสูจน์ได้ด้วย

Confidential AI ให้หลักประกันเหล่านี้ระหว่างการรันสำหรับข้อมูล อัตลักษณ์ โค้ด และการสื่อสาร ให้หลักฐานการรันที่ตรวจพิสูจน์ได้ และทำให้ความเป็นส่วนตัวกับการบังคับใช้นโยบายไม่หยุดที่ขอบเขตการเข้าถึง แต่คงอยู่ขณะ AI กำลังให้เหตุผล สร้าง และลงมือทำ หากขาดสิ่งนี้ MCP ก็เป็นรากฐานที่แข็งแรง แต่รากฐานอย่างเดียวไม่ได้ทำให้อาคารปลอดภัย

ในทางปฏิบัติ ความไว้วางใจที่ตรวจพิสูจน์ได้มีหน้าตาอย่างไรสำหรับองค์กรที่ใช้เอเจนต์ AI อิสระในกระบวนการสำคัญ?

หมายถึงผมพิสูจน์ได้ว่าโค้ดใดรัน ที่ไหน ภายใต้นโยบายใด เข้าถึงข้อมูลใด และระบบมีพฤติกรรมอย่างไรเมื่อเวลาผ่านไป

ลองดูบริษัทประกันที่ใช้เอเจนต์ AI ประมวลผลหนังสือเรียกร้องค่าสินไหม ก่อนรัน การรับรองด้วยฮาร์ดแวร์ตรวจยืนยันอัตลักษณ์เอเจนต์และความสมบูรณ์ของสภาพแวดล้อม ระหว่างรัน การผูกกับนโยบายด้วยวิทยาการเข้ารหัสลับภายในสภาพแวดล้อมการรันที่เชื่อถือได้และคุ้มครองด้วยฮาร์ดแวร์ (Trusted Execution Environment, TEE) ทำให้ข้อมูลได้รับการปกป้องและนโยบายถูกบังคับใช้ หลังรัน ร่องรอยการตรวจสอบที่ป้องกันการแก้ไขดัดแปลงบันทึกอย่างแม่นยำว่าเกิดอะไรขึ้น

ความเสี่ยงของกระบวนการแบบเอเจนต์ไม่ใช่ว่าเอเจนต์หลุดจากการควบคุม แต่คือการที่คุณพิสูจน์ไม่ได้ว่านโยบายถูกบังคับใช้หรือข้อมูลอ่อนไหวได้รับการปกป้องตอนเอเจนต์ทำงานหรือไม่ ทั้งก่อน ระหว่าง และหลัง นั่นคือความหมายของความไว้วางใจที่ตรวจพิสูจน์ได้

เมื่อระบบแบบเอเจนต์ทำงานด้วยความเร็วของเครื่องจักร เหตุใดการกำกับตรวจสอบแบบเดิมโดยมนุษย์จึงใช้ไม่ได้ และองค์กรควรคิดใหม่เรื่องการกำกับดูแลในสภาพแวดล้อมนี้อย่างไร?

หลายทศวรรษที่ผ่านมา อินเทอร์เน็ตมีรั้วป้องกันที่มองไม่เห็น นั่นคือเรา มนุษย์อ่านเนื้อหา คลิกอย่างตั้งใจ และไม่ทำงานอย่างเงียบ ๆ ข้ามระบบร้อยระบบพร้อมกัน

AI แบบเอเจนต์ลบสมมติฐานเหล่านี้ชั่วข้ามคืน เอเจนต์ทำงานต่อเนื่อง ตัดสินใจด้วยความเร็วเครื่องจักร และอาจถูกชักใยผ่านสภาพแวดล้อมที่ออกแบบเพื่อมนุษย์แต่เครื่องจักรฉวยประโยชน์ได้ เว็บเพจอันตรายไม่จำเป็นต้องหลอก AI เหมือนหลอกคน แค่สั่งก็พอ

แม้ความเสี่ยงต่อเอเจนต์จะมีเพียง 1% เครือข่ายเอเจนต์ 100 ตัวก็มีโอกาสถูกละเมิดความปลอดภัย 63% หากเพิ่มเป็นหนึ่งพันตัว โอกาสจะเป็น 99.99% การกำกับดูแลที่ต้องให้มนุษย์มีส่วนในกระบวนการตามตัวเลขนี้ไม่ทัน การกำกับตรวจสอบต้องย้ายจากการทบทวนเชิงรับหลังเกิดเหตุไปสู่หลักประกันระหว่างการรัน หมายถึงกระบวนการตามหลักไม่ไว้วางใจโดยปริยาย การบังคับใช้นโยบายเป็นค่าเริ่มต้น และการรันที่ตรวจพิสูจน์ได้โดยไม่พึ่งมนุษย์ค้นพบข้อผิดพลาดภายหลัง

คุณพบความล้มเหลวด้านความปลอดภัยใดบ่อยที่สุด เมื่อองค์กรทดลอง AI แบบเอเจนต์โดยไม่มีชั้นความไว้วางใจในตัว?

ผมพบบ่อยที่สุดว่าองค์กรปล่อยให้เอเจนต์ลงมือและประสานงานกันโดยไม่มีหลักประกันทางวิทยาการเข้ารหัสลับเกี่ยวกับพฤติกรรมเลย พวกเขากำลังประมวลผลทรัพย์สินทางปัญญาที่อ่อนไหวโดยฝากไว้กับความหวัง

ผลต่อมาคาดเดาได้ และเราบันทึกรูปแบบที่ชัดเจนไว้ในงานวิจัย AI Leak Surface การถูกเจาะความปลอดภัยระหว่างการรันข้ามการป้องกันขอบเครือข่ายแบบเดิมได้ เพราะเอเจนต์อยู่ในเครือข่ายแล้ว สายโซ่เอเจนต์อิสระสร้างความล้มเหลวต่อเนื่อง เอเจนต์ตัวเดียวที่ถูกฉวยประโยชน์ทำให้เกิดโดมิโนในระบบเชื่อมต่อ ตรรกะกรรมสิทธิ์รั่วผ่านร่องรอยข้อมูลที่ไม่มีใครคิดจะตรวจติดตาม เอเจนต์แยกเจตนาขององค์กรออกจากข้อมูลป้อนเข้าที่มุ่งร้ายไม่ได้ เพราะระหว่างการรันไม่มีอัตลักษณ์ที่ตรวจพิสูจน์ได้หรือการผูกกับนโยบาย

นี่ไม่ใช่สมมติฐาน เราทำแผนที่ช่องทาง 46 แบบที่ข้อมูลหลุดจากการควบคุมที่ตั้งใจไว้ แม้ไม่มีอะไรดูเสียหาย เอเจนต์ AI สร้างและแบ่งปันข้อมูลด้วยความเร็วเครื่องจักร หากกระบวนการทำงานไม่มีมาตรการปกป้องระหว่างการรันที่ตรวจพิสูจน์ได้ ความล้มเหลวจะแพร่เร็วกว่าที่ทีมความปลอดภัยใดจะตรวจพบหรือตอบสนองได้

องค์กรชั้นนำสร้างสมดุลระหว่างการใช้ความสามารถ AI ขั้นสูงกับการปกป้องข้อมูลที่อ่อนไหวที่สุดอย่างไร?

องค์กรที่ทำเรื่องนี้ได้ถูกต้องมองความเป็นส่วนตัวและการกำกับดูแลเป็นตัวเร่ง ไม่ใช่เบรก นี่คือข้อคิดสำคัญ

ในทางปฏิบัติ ผมเห็นองค์กรชั้นนำจับคู่ความสามารถ AI ขั้นสูงกับแพลตฟอร์ม Confidential AI ที่ให้หลักประกันตรวจพิสูจน์ได้ ไม่ใช่แค่รายการตรวจสอบการปฏิบัติตามข้อกำหนด องค์กรนำข้อมูลอ่อนไหวมาใช้สร้างนวัตกรรม AI โดยยังปกป้องข้อมูลกรรมสิทธิ์ แม้กระบวนการทำงานจะดำเนินอย่างอิสระ

กรอบคิดเดิมคือการเลือกระหว่างความสามารถกับความปลอดภัย องค์กรที่เดินหน้าเร็วที่สุดปฏิเสธข้อแลกเปลี่ยนนี้ทั้งหมด พวกเขาสร้างความไว้วางใจที่ตรวจพิสูจน์ได้ลงในรากฐานกลยุทธ์ AI ทำให้ใช้ข้อมูลที่มีค่าที่สุดได้ ขณะที่คู่แข่งยังติดอยู่ในระยะนำร่อง ใช้ AI กับชุดข้อมูลที่ผ่านการทำความสะอาดแต่ไม่สร้างผลลัพธ์ที่มีนัยสำคัญ

จากสิ่งที่คุณเห็นในวันนี้ คุณคาดว่าแบบจำลองการกำกับดูแล AI ขององค์กรจะพัฒนาอย่างไรในอีกไม่กี่ปี เมื่อระบบเอเจนต์ย้ายจากระยะนำร่องไปสู่การใช้งานจริงเต็มรูปแบบ?

การกำกับดูแลจะเปลี่ยนจากงานเอกสารไปสู่หลักฐาน นี่คือคำอธิบายที่ง่ายที่สุดของผม แบบจำลองยุคแรกออกแบบสำหรับซอฟต์แวร์ที่เคลื่อนไหวตามจังหวะมนุษย์ นโยบายบนกระดาษ การอนุมัติก่อนนำไปใช้ การทบทวนหลังมีสิ่งผิดพลาด ระบบเอเจนต์ทำลายสมมติฐานทุกข้อ พวกมันทำงานต่อเนื่อง ลงมืออย่างอิสระ และสร้างผลต่อเนื่องด้วยความเร็วเครื่องจักร

เรากำลังเห็นการกำกับดูแลเปลี่ยนไปใช้ความสามารถในการตรวจพิสูจน์ระหว่างการรันเป็นขอบเขตความปลอดภัยใหม่ โดยมีหลักประกันทางวิทยาการเข้ารหัสลับที่พิสูจน์พฤติกรรมทุกช่วงของวงจรชีวิตเอเจนต์ ทั้งก่อน ระหว่าง และหลัง รูปแบบเดียวกับที่เราเห็นใน HTTPS กำลังเป็นค่าเริ่มต้นของการรับส่งข้อมูลเว็บ ไม่มีใครถกเถียงแล้วว่าควรเข้ารหัสการเชื่อมต่อเว็บหรือไม่ อีกไม่กี่ปีจะไม่มีใครถกเถียงว่าควรตรวจพิสูจน์การรัน AI ในขณะที่มันทำงานหรือไม่ สิ่งนี้จะเป็นข้อกำหนดพื้นฐาน

ขอบคุณสำหรับบทสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม OPAQUE เพื่อเรียนรู้เพิ่มเติม