เชสเตอร์ ลีออง ผู้ร่วมก่อตั้งและหัวหน้าแพลตฟอร์ม AI ของ OPAQUE – ซีรีส์สัมภาษณ์

เชสเตอร์ ลีออง เป็นผู้ร่วมก่อตั้งและหัวหน้าฝ่ายสถาปัตยกรรมแพลตฟอร์มของ OPAQUE ซึ่งเป็นสตาร์ทอัพระดับ Series A ที่กำลังสร้างแพลตฟอร์มข้อมูลและ AI ที่มีการรักษาความลับ ซึ่งช่วยให้ทีมสามารถขยายการประมวลผลข้อมูลขององค์กรด้วยชั้นความลับ ทำให้ได้ข้อมูลเชิงลึกที่รวดเร็วขึ้นและควบคุมได้ดีขึ้น

ก่อนหน้านี้ เชสเตอร์เป็นนักศึกษาระดับบัณฑิตศึกษาในสาขาวิทยาการคอมพิวเตอร์ที่ UC Berkeley ซึ่งเขาตีพิมพ์งานวิจัยที่ได้รับการตรวจสอบโดยผู้ทรงคุณวุฒิในงานประชุมระดับชั้นนำ และยังเป็นผู้ดูแลหลักของโครงการ MC2 ที่เป็นโอเพ่นซอร์สสำหรับการวิเคราะห์และการเรียนรู้ของเครื่องจักรที่มีการรักษาความลับ

คุณร่วมก่อตั้ง Opaque หลังจากที่คุณทำงานที่ RISELab ของ UC Berkeley ซึ่งงานของคุณเชื่อมโยงระหว่าง AI และระบบที่มีการรักษาความลับ คุณเห็นช่องว่างใดในโครงสร้างพื้นฐานข้อมูลขององค์กรที่นำไปสู่การสร้าง OPAQUE และประสบการณ์ทางวิชาการของคุณมีอิทธิพลต่อทิศทางของบริษัทอย่างไร

ในขณะนั้น มีการมุ่งเน้นอย่างมากทั้งในวงการวิชาการและอุตสาหกรรมในการใช้การเรียนรู้ของเครื่องจักรสำหรับการใช้งานเฉพาะ ในห้องปฏิบัติการ เรามีโชคที่จะมีผู้สนับสนุนองค์กรขนาดใหญ่ที่ช่วยให้นักวิจัยสามารถ塑造งานของตนเพื่อแก้ปัญหาที่กดดันที่สุดซึ่งพวกเขาเผชิญในองค์กรของตน กลุ่มของเรามีโอกาสพิเศษในการทำงานอย่างใกล้ชิดกับบริษัทเทคโนโลยีและธนาคาร บริการทางการเงิน และประกัน (BFSI) โดยร่วมมือเพื่อแก้ปัญหาความเป็นส่วนตัวที่ยากลำบากเกี่ยวกับการใช้ข้อมูลที่มีความละเอียดอ่อนแต่มีค่าสำหรับการเรียนรู้ของเครื่องจักร เช่นเดียวกับพื้นที่อื่นๆ ของ AI การเรียนรู้ของเครื่องจักรต้องอาศัยปริมาณข้อมูลที่มีคุณภาพสูงเพื่อให้ได้ข้อมูลเชิงลึกที่มีค่าและแข็งแกร่ง

เราพบรูปแบบเดียวกันซ้ำๆ ในขณะที่เราร่วมมือกับทีมจากบริษัทอย่าง Amazon (AMZN ), Scotiabank และ Ant Group (เดิมชื่อ Ant Financial) โครงการที่ขับเคลื่อนด้วยการเรียนรู้ของเครื่องจักรของพวกเขาติดค้างก่อนที่จะเข้าสู่การผลิตเนื่องจากความกังวลเกี่ยวกับการใช้ข้อมูลที่มีความละเอียดอ่อนแต่มีค่าสำหรับการใช้งานเหล่านี้ ในอีกคำหนึ่ง ทีมเหล่านี้ไม่สามารถใช้ AI ในโครงการที่พวกเขารู้ว่าสามารถสร้างมูลค่าให้กับบริษัทได้ ไม่ใช่เพราะปัญหาเทคนิคเกี่ยวกับ AI แต่เพราะพวกเข不能เข้าถึงข้อมูลที่ถูกต้อง

ที่ Opaque เราได้แก้ปัญหาเดียวกันนี้ ช่วยให้ทีมสามารถเข้าถึงข้อมูลที่ถูกต้อง ทำให้พวกเขาสามารถปลดล็อกหรือเพิ่มความสามารถของ AI ได้ สิ่งเดียวที่เปลี่ยนแปลงตั้งแต่เริ่มวิจัยคือความเร่งด่วนของปัญหา เราเห็นการนำ AI ไปใช้และรวมเข้ากับระบบเป็นเรื่องสำคัญขององค์กร ซึ่งยังคงถูกขัดขวางโดยการเข้าถึงข้อมูลที่ถูกต้อง

ในภูมิทัศน์ที่องค์กรมีการลงทุนอย่างหนักในการสร้างแบบจำลองการให้เหตุผลและการสร้าง AI ที่มีการกระทำ คุณเชื่อว่าเหตุใดข้อมูลที่มีการรักษาความลับจึงมีความสำคัญมากกว่าที่เคย

ข้อมูลที่มีการรักษาความลับเป็นรากฐานที่องค์กรสร้างแบบจำลองการให้เหตุผลและการสร้าง AI ที่มีการกระทำ ทุกอย่างตั้งแต่การฝึกอบรมแบบจำลองเหล่านี้ไปจนถึงการนำ AI ที่มีการกระทำไปใช้ ต้องอาศัยข้อมูลที่มีความละเอียดอ่อนและขึ้นอยู่กับการรักษาความลับ

ตัวอย่างเช่น เราเห็นการลงทุนเพิ่มขึ้นในการสร้างข้อมูลที่มีคุณภาพสูงเพื่อฝึกอบรมแบบจำลองเหล่านี้ บางรายงานคาดการณ์ว่าการลงทุนในการสร้างข้อมูลที่มีคุณภาพสูงจะเกินการลงทุนในการฝึกอบรมแบบจำลองเองในไม่ช้า การสร้างข้อมูลเป็นกระบวนการที่มีหลายขั้นตอนซึ่งขับเคลื่อนโดยการประมวลผลที่ผลิตข้อมูลที่มีคุณภาพสูงและเป็นทรัพย์สินทางปัญญาที่มีค่าที่สุดขององค์กร การลงทุนในการสร้างข้อมูลนี้มีจำนวนมาก และข้อมูลที่สร้างขึ้นซึ่งมีประวัติที่ซับซ้อน จะแยกความแตกต่างระหว่างองค์กรหนึ่งกับอีกองค์กรหนึ่งได้ องค์กรต้องทำทุกอย่างเพื่อรักษาความปลอดภัยของการประมวลผลข้อมูลนี้

แพลตฟอร์มการประมวลผลข้อมูลที่มีการรักษาความลับของ OPAQUE ช่วยให้สามารถวิเคราะห์ข้อมูลที่เข้ารหัสได้ อะไรคือความท้าทายทางเทคนิคหลักที่ทำให้สามารถใช้งานได้บนขนาดใหญ่และเป็นมิตรกับนักพัฒนาในองค์กร

แพลตฟอร์ม AI ที่มีการรักษาความลับของเราทำให้สามารถวิเคราะห์ การเรียนรู้ของเครื่องจักร และการสร้าง AI ที่มีการเข้ารหัสได้ และยังให้หลักฐานที่สามารถตรวจสอบได้ว่าข้อมูลของคุณถูกใช้เฉพาะในทางที่คุณคาดหวังและอนุญาตเท่านั้น

ความท้าทายหลักในการทำให้การประมวลผลข้อมูลมีการรักษาความลับและสามารถขยายขนาดได้ คือการทำให้การดูแลงานมีการรักษาความลับและสามารถตรวจสอบได้บนขนาดใหญ่ โดยเฉพาะอย่างยิ่ง องค์กรหลายแห่งในปัจจุบันใช้บริการคลาวด์ที่มีการจัดการเมื่อต้องการขยายขนาด ซึ่งสามารถช่วยลดต้นทุนและความสะดวกสบายได้ แต่ความท้าทายคือ如何รักษาความปลอดภัยและตรวจสอบซอฟต์แวร์ที่ไม่ได้อยู่ภายใต้การควบคุมขององค์กร

คุณกล่าวว่าสถาปัตยกรรมที่มีการรักษาความลับสามารถให้ความได้เปรียบทางการแข่งขันที่ยั่งยืนได้ คุณสามารถอธิบายได้อย่างไรว่าสิ่งนี้เกิดขึ้นในทางปฏิบัติสำหรับทีม AI ขององค์กร

มีมุมมองที่ต้องพิจารณาสองมุมมอง คือมุมมองของผลิตภัณฑ์และมุมมองของวิศวกรรม

จากมุมมองของผลิตภัณฑ์ ทุกคนเข้าใจว่าข้อมูลของตนเป็นสิ่งที่มีค่าและเป็นทรัพย์สิน องค์กรต่างๆ กำลังเติบโตในด้านการประเมินความเป็นส่วนตัว ความปลอดภัย และความเป็นอิสระของข้อมูลมากขึ้น ดังนั้น ทีมใดๆ ที่สร้างผลิตภัณฑ์ที่ประมวลผลข้อมูลขององค์กรจึงต้องให้ความมั่นใจว่าข้อมูลที่ประมวลผลนั้นจะเห็นและใช้ได้เฉพาะโดยผู้ที่ได้รับอนุญาตเท่านั้น สถาปัตยกรรมที่มีการรักษาความลับให้ความมั่นใจว่าความเป็นส่วนตัว ความปลอดภัย และความเป็นอิสระของข้อมูลถูกพิจารณาเป็นอันดับแรกในการออกแบบผลิตภัณฑ์ และช่วยให้ผลิตภัณฑ์สามารถให้ความมั่นใจเหล่านี้ได้อย่างชัดเจน

จากมุมมองของวิศวกรรม สถาปัตยกรรมที่มีการรักษาความลับเป็นแบบที่สามารถขยายได้และไม่เสี่ยงต่อการเปลี่ยนแปลงในอนาคต ทีมกฎหมาย ความเสี่ยง และการปฏิบัติตามกฎระเบียบกำลังเข้มงวดมากขึ้นในการตอบสนองต่อความเสี่ยงและกฎระเบียบที่เพิ่มขึ้น ดังนั้น องค์กรวิศวกรรมจึงควรสร้างระบบ AI ขององค์กรที่มีการรักษาความลับตั้งแต่เริ่มต้น เพื่อไม่ให้ต้องเปลี่ยนแปลงหรือแก้ไขระบบที่มีอยู่เมื่อพบว่าระบบไม่ปลอดภัยและเสี่ยงต่อการเปลี่ยนแปลง ซึ่งการเปลี่ยนแปลงและแก้ไขอาจใช้เวลาหลายเดือนหรือหลายปี

เมื่อระบบ AI ที่มีการกระทำกำลังพัฒนา องค์กรควรพิจารณาบทบาทของข้อมูลใหม่ นอกเหนือจากทรัพยากรเป็นรูปปั้นที่สามารถป้องกันได้

มีความเห็นพ้องกันในอุตสาหกรรมที่ข้อมูลอาจจะเป็นรูปปั้นที่สามารถป้องกันได้เพียงอย่างเดียวที่องค์กรจะมี เราเห็นถึงการวิจัยและวิศวกรรมที่มีคนเก่งๆ และเทคโนโลยีที่ยอดเยี่ยมและผลิตภัณฑ์ที่พวกเขาสร้างขึ้น สามารถย้ายจากองค์กรหนึ่งไปยังอีกองค์กรหนึ่งได้ ดังนั้น องค์กรหลายแห่งสามารถนำเสนอผลิตภัณฑ์เดียวกันได้โดยมีเทคโนโลยีและผลิตภัณฑ์ที่เหมือนกัน

สิ่งที่ย้ายจากองค์กรหนึ่งไปยังอีกองค์กรหนึ่งได้ยากคือข้อมูลขององค์กรนั้น เว้นแต่จะถูกรั่วไหล นอกจากนี้ ข้อมูลนั้นสามารถทำให้ผลิตภัณฑ์เป็นที่น่าสนใจมากกว่าผลิตภัณฑ์ของคู่แข่ง เนื่องจากเป็นส่วนตัว มีการปรับแต่ง และมีความเฉพาะเจาะจง องค์กรต้องทำทุกอย่างเพื่อรักษาความปลอดภัยของข้อมูล เพื่อให้สามารถใช้ข้อมูลเป็นรูปปั้นที่สามารถป้องกันได้

ท่อข้อมูล AI ที่มีความทนทานมีลักษณะอย่างไรในทางปฏิบัติ และช่วยให้公司หลีกเลี่ยงต้นทุนหรือความเสี่ยงที่ซ่อนอยู่ได้อย่างไรเมื่อพวกเขาขยายการนำ AI ไปใช้

ท่อข้อมูล AI ที่มีความทนทานคือท่อที่เชื่อถือได้ ทนทานต่อข้อผิดพลาด และมีการรักษาความลับอย่างตรวจสอบได้ ก่อนที่จะประมวลผล องค์กรมควรถือว่าข้อมูลที่จะเข้าสู่ท่อและท่อเองมีความปลอดภัยและไม่มีการละเมิดความเป็นส่วนตัว ระหว่างการประมวลผล ท่อ AI ควรเป็นแบบที่ไม่สามารถถูกบุกรุกได้ เพื่อให้แน่ใจว่าไม่มีใครสามารถขโมยข้อมูลหรือบิดเบือนข้อมูลที่ท่อประมวลผลได้ หลังการประมวลผล ท่อ AI ควรเป็นแบบที่สามารถตรวจสอบได้ เพื่อให้ทีมสามารถสังเกตเห็นและอธิบายการตัดสินใจและการเคลื่อนไหวของท่อ AI และสามารถเห็นได้ว่าสิ่งใดผิดพลาดเมื่อมีสิ่งผิดพลาดเกิดขึ้น

เป็นสิ่งสำคัญที่จะต้องพิจารณาว่าท่อข้อมูล AI ที่ไม่มีการรักษาความลับหรือมีข้อบกพร่องอาจรั่วไหลข้อมูลขององค์กรหรือโมเดลที่เป็นทรัพย์สินได้อย่างไร และผลกระทบต่อปัจจัยที่ทำให้องค์กรมีความแตกต่างหรือชื่อเสียง สิ่งที่สำคัญกว่านั้นคือเมื่อองค์กรขยายการนำ AI ไปใช้ในกรณีการใช้งานที่สำคัญและกระทบกระเทือนมากขึ้น ความเสี่ยงของท่อ AI ที่ไม่มีการรักษาความลับหรือไม่สามารถอธิบายได้จะเพิ่มขึ้นอย่างมาก ในโลกที่การตัดสินใจในการให้กู้ยืมและการจ้างงานได้รับการเสริมด้วย AI แล้ว การผิดพลาดที่ไม่ได้ตั้งใจหรือตั้งใจในท่อ AI อาจส่งผลกระทบต่อชีวิตของบุคคลได้อย่างมาก

หลายองค์กรมุ่งเน้นไปที่ความแม่นยำของแบบจำลองหรือความล่าช้า คุณคิดว่าพวกเขาเพิกเฉยต่ออะไรเมื่อพูดถึงความสมบูรณ์ของข้อมูลและความเสี่ยงในการดำเนินงานในระยะยาว

ในขณะที่หลายองค์กรมุ่งเน้นไปที่แบบจำลองหรือเทคโนโลยี AI ฉันเชื่อมานานแล้วว่าข้อมูลเป็นปัญหาที่สำคัญที่สุดในการนำ AI มาใช้

การมีแบบจำลองที่สามารถตอบสนองได้อย่างรวดเร็วและแม่นยำเกี่ยวกับหัวข้อที่ผู้ใช้สิ้นสุดไม่สนใจไม่สร้างมูลค่าใดๆ เพื่อสร้างผลิตภัณฑ์ที่มีความน่าสนใจอย่างแท้จริง องค์กรมต้องแน่ใจว่าแบบจำลองและผลิตภัณฑ์ที่พวกเขาให้ข้อมูลที่มีคุณภาพสูงและเกี่ยวข้อง

ที่สอง เราพบว่าองค์กรมักไม่มีเรื่องราวที่ดีเกี่ยวกับการตรวจจับข้อมูลที่เปลี่ยนแปลง การปนเปื้อนหรือการรั่วไหล ซึ่งอาจทำให้ความสมบูรณ์ของแบบจำลองเสียหาย สิ่งนี้เกี่ยวข้องกับจุดแรกของฉัน และในขณะที่เป็นวิธีแก้ปัญหาที่เป็นปฏิกิริยา การประเมินและความสามารถในการสังเกตเห็นจึงมีความสำคัญมากขึ้น

OPAQUE ติดตั้งเข้ากับคลาวด์สแต็กที่มีอยู่ คุณได้เรียนรู้อะไรเกี่ยวกับการสร้างสมดุลระหว่างความง่ายในการนำไปใช้กับการรับประกันความปลอดภัยที่แข็งแกร่งในองค์กร

เราใช้เวลาเกือบหนึ่งทศวรรษในการแก้ปัญหานี้ ตั้งแต่เริ่มวิจัย ความปลอดภัยที่สามารถพิสูจน์ได้ของระบบ AI โดยเฉพาะในองค์กร เป็นปัญหาที่ยากมาก ซึ่งต้องการความเชี่ยวชาญด้านระบบ ความปลอดภัย การเข้ารหัสลับ และ AI เมื่อระบบส่วนใหญ่ที่เราพบไม่ได้รับการออกแบบมาให้มีความปลอดภัยจากต้นตอ เนื่องจากความปลอดภัยเป็นสิ่งที่ยากที่จะนำไปใช้

ที่ Opaque เราได้สร้างผลิตภัณฑ์ที่เป็นสองโลกที่ดีที่สุด – มีการรักษาความลับและสามารถพิสูจน์ได้ตั้งแต่เริ่มต้น แต่ก็นำไปใช้ได้ง่ายผ่านคลาวด์มาร์เก็ตเพลสและยืดหยุ่นเพียงพอในการรวมเข้ากับแอปพลิเคชัน AI ใหม่และที่มีอยู่

คุณเห็นภัยคุกคามหรือความเสี่ยงที่เกิดขึ้นรอบๆ ท่อข้อมูล AI และการแบ่งปันข้อมูลที่ผู้นำองค์กรมองไม่เห็นหรือไม่

สิ่งที่เราพบในกระแส AI ที่มีการกระทำคือความเร่งด่วนในการนำ AI ที่มีการกระทำไปใช้ซึ่งสามารถสัมผัสกับระบบบันทึกต่างๆ ได้ ซึ่งสามารถให้คุณค่าได้ แต่ก็ยังสร้างความเสี่ยงอย่างมากเพราะพวกมันสัมผัสกับระบบที่มีข้อมูลมีค่า ผู้นำองค์กรมควรตั้งคำถามเสมอว่าพวกเขาสามารถไว้วางใจและพึ่งพา AI ที่มีการกระทำที่สามารถเข้าถึงข้อมูลทั้งหมดของพวกเขาได้หรือไม่ เพื่อไม่ให้ใช้หรือละเมิดข้อมูลโดยไม่ได้ตั้งใจหรือตั้งใจ

เมื่อกฎระเบียบ AI กำลังเกิดขึ้นทั่วโลก คุณเห็นความสัมพันธ์ระหว่างโครงสร้างพื้นฐานข้อมูลที่มีการรักษาความลับ ความรับผิดชอบของแบบจำลอง และการปฏิบัติตามกฎระเบียบเปลี่ยนแปลงไปอย่างไรในอีกไม่กี่ปีข้างหน้า

โครงสร้างพื้นฐานข้อมูลที่มีการรักษาความลับช่วยให้สามารถพิสูจน์ความรับผิดชอบของแบบจำลองและตัวแทนได้ โดยเฉพาะอย่างยิ่ง หากไม่มีหลักฐานที่สามารถตรวจสอบได้เกี่ยวกับการตัดสินใจหรือการใช้เครื่องมือของตัวแทนหรือแบบจำลอง เราก็ไม่สามารถแน่ใจได้ว่าสิ่งใดจะเกิดขึ้น เมื่อ AI ถูกนำไปใช้มากขึ้นในชีวิตประจำวัน เพื่อให้รู้สึกว่ายังคงมีการควบคุม เราต้องการความสามารถในการอธิบายและตรวจสอบ AI มากขึ้น อย่างไรก็ตาม เมื่อ AI สามารถทำงานได้ด้วยความเร็วของเครื่องจักร และเราทำไม่ได้ AI ที่มีเจตนาหรือไม่มีเจตนาอาจสร้างประวัติที่เป็นเท็จได้ เราต้องการความสามารถในการตรวจสอบเพื่อให้ AI มีความรับผิดชอบ

สำหรับฉัน การปฏิบัติตามกฎระเบียบเป็นสิ่งที่เป็นปฏิกิริยา การพัฒนาและผ่านกฎระเบียบเคลื่อนไหวช้ากว่านวัตกรรมทางเทคโนโลยี ซึ่งจะยิ่งเพิ่มขึ้นเมื่อ AI ช่วยให้เราสามารถเพิ่มความเร็วในการสร้างนวัตกรรมได้ แม้ว่าการปฏิบัติตามกฎระเบียบจะผลักดันให้ผู้ที่ตามหลังนำโครงสร้างพื้นฐานข้อมูลที่มีการรักษาความลับมาใช้ แต่ผู้นำและผู้นำรุ่นแรกๆ รู้ว่าสิ่งนี้มีความสำคัญต่อความปลอดภัยของ AI และจะนำมาใช้ก่อนที่การปฏิบัติตามกฎระเบียบจะบังคับให้พวกเขาทำเช่นนั้น พวกเขารู้ว่าความรับผิดชอบของตัวแทนซึ่งได้รับการช่วยเหลือจากโครงสร้างพื้นฐานข้อมูลที่มีการรักษาความลับ มีความสำคัญต่อการนำผลิตภัณฑ์ที่มี AI ของตนเองมาใช้

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ OPAQUE.