โบ ลี, ซีอีโอของ Virtue AI – สัมภาษณ์ซีรีส์

โบ ลี ซีอีโอของ Virtue AI เป็นนักวิจัยและนักธุรกิจที่มีชื่อเสียงในด้านความปลอดภัยและความมั่นคงของระบบปัญญาประดิษฐ์ เธอนำทีม Virtue AI และยังดำรงตำแหน่งเป็นศาสตราจารย์ที่ University of Illinois Urbana-Champaign โดยมีการวิจัยที่เน้นไปที่ความปลอดภัยของการเรียนรู้ของเครื่อง อินเทลลิเจนท์ที่เชื่อถือได้ และความแข็งแกร่งในการต่อต้านการโจมตี การทำงานของเธอนั้น ครอบคลุมทั้งด้านวิชาการและอุตสาหกรรม ทำให้เธอสามารถนำการวิจัยที่ทันสมัยมาประยุกต์ใช้ในการพัฒนาระบบปัญญาประดิษฐ์ที่มีความปลอดภัยและแข็งแกร่งยิ่งขึ้นสำหรับองค์กรต่างๆ

Virtue AI เป็นบริษัทที่มุ่งเน้นในการปกป้องและควบคุมระบบปัญญาประดิษฐ์ที่ใช้ในสภาพแวดล้อมขององค์กร โดยมีแพลตฟอร์มที่ให้ความสามารถ เช่น การทดสอบความปลอดภัยอัตโนมัติ การควบคุมในเวลาจริง และการตรวจสอบอย่างต่อเนื่อง เพื่อระบุความเสี่ยง เช่น การฉีดคิวรี่ การหลอกลวง และการรั่วไหลของข้อมูล โดยการรวมเข้ากับกระบวนการพัฒนาและใช้งานระบบปัญญาประดิษฐ์ ทำให้บริษัทช่วยให้องค์กรต่างๆ สามารถขยายการใช้งานแบบจำลองภาษาขนาดใหญ่และแอปพลิเคชันที่ใช้ปัญญาประดิษฐ์ โดยยังคงรักษามาตรฐานความปลอดภัยและความมั่นคงที่เข้มงวด

อะไรคือแรงจูงใจที่ทำให้คุณตัดสินใจย้ายจากอาชีพวิชาการมาเป็นซีอีโอของ Virtue AI และปัญหาใดที่คุณรู้สึกว่าอุตสาหกรรมไม่ได้ให้ความสำคัญในระดับที่ควร?

เครื่องมือความปลอดภัยแบบดั้งเดิมถูกสร้างขึ้นสำหรับการใช้งานที่คาดการณ์ได้และมีเส้นทางที่แน่นอน ไม่ได้ออกแบบมาเพื่อระบบที่สามารถให้เหตุผล ทำงานอัตโนมัติ และมีปฏิสัมพันธ์โดยอิสระ การวิจัยมีอยู่ แต่ความเป็นจริงในการผลิตไม่ได้ตามมา นั่นคือสิ่งที่เราตั้งเป้าที่จะเปลี่ยนแปลง

Virtue AI มุ่งเน้นไปที่ความปลอดภัย ความมั่นคง และการปฏิบัติตามกฎระเบียบสำหรับแบบจำลองภาษาขนาดใหญ่และตัวแทนอัตโนมัติ ในสามด้านนี้ องค์กรต่างๆ มองข้ามหรือให้ความสำคัญน้อยที่สุดในขณะนี้?

องค์กรต่างๆ มีความเข้าใจในด้านเหล่านี้บ้าง แต่ยังมีช่องว่างที่ใหญ่มาก

องค์กรต่างๆ ได้เริ่มให้ความสำคัญกับความปลอดภัยของแบบจำลองอย่างจริงจัง แต่ตัวแทนอัตโนมัตินั้นเป็นปัญหาในตัวมันเอง พวกมันถูกมอบหมายให้เข้าถึงส่วนสำคัญที่สุดของโครงสร้างพื้นฐานขององค์กร เช่น การเรียกใช้โค้ด การเรียก API การท่องเว็บ และการตัดสินใจที่เชื่อมโยงกับข้อมูล การเงิน และการดำเนินงาน ทีมความปลอดภัยส่วนใหญ่ยังไม่พร้อมที่จะให้เหตุผลเกี่ยวกับระบบดังกล่าว เครื่องมือที่พวกเขามีนั้นไม่ได้ถูกสร้างขึ้นสำหรับระบบนี้

การทำการทดสอบความปลอดภัยอย่างต่อเนื่องเป็นส่วนสำคัญของแนวทางของ Virtue AI อะไรคือความเสี่ยงที่มักจะปรากฏขึ้นเมื่อระบบถูกนำไปใช้งานจริง?

ส่วนใหญ่ของความเสี่ยงที่ร้ายแรง

ใน môi trườngที่ควบคุม คุณกำลังทดสอบแบบจำลองและตัวแทน แต่ในสถานการณ์จริง คุณกำลังทดสอบระบบ และสิ่งเหล่านั้นต่างกัน เมื่อแบบจำลองถูกเชื่อมต่อกับเครื่องมือ ระบบจัดเก็บข้อมูล และการรับข้อมูลจากผู้ใช้ พื้นที่พฤติกรรมจะขยายออกไปในลักษณะที่การทดสอบก่อนการนำไปใช้ไม่สามารถจับได้ ตัวแทน “ที่ตั้งค่าอย่างปลอดภัย” สามารถแสดงพฤติกรรมที่แตกต่างอย่างมากเมื่อเชื่อมต่อกับฐานข้อมูลที่แท้จริง เซิร์ฟเวอร์ใหม่ หรือตัวแทนอื่นๆ ระบบกลายเป็นแบบไม่แน่นอน และเริ่มทำการตัดสินใจตามบริบทที่ไม่มีอยู่ในระหว่างการประเมิน

คุณคิดอย่างไรเกี่ยวกับการวัด “ความปลอดภัยของ AI” ในทางปฏิบัติ โดยเฉพาะเมื่อระบบพัฒนาผ่านการปรับแต่ง การดึงข้อมูล และการใช้เครื่องมือ?

ในทางปฏิบัติ ความปลอดภัยของ AI ไม่สามารถวัดได้ด้วยมาตรฐานที่คงที่เพียงตัวเดียว เนื่องจากระบบ AI ที่ทันสมัยพัฒนาอย่างต่อเนื่องผ่านการปรับแต่ง การดึงข้อมูล และการโต้ตอบกับเครื่องมือหรือตัวแทน ดังนั้น ความปลอดภัยจึงต้องถูกประเมินเป็นคุณสมบัติของระบบทั่วทั้งช่วงชีวิตของการประยุกต์ใช้ AI ซึ่งรวมถึงการทดสอบความแข็งแกร่งของแบบจำลองและตัวแทนผ่านการโจมตีแบบแดง การตรวจสอบพฤติกรรมในเวลาจริง เช่น คิวรี่ การเรียกใช้เครื่องมือ และการดำเนินการ และการประเมินผลลัพธ์เทียบกับนโยบายความเสี่ยงที่กำหนดไว้

ตัวอย่างเช่น งานวิจัยที่ได้รับรางวัลของเรา (Best Paper at the National Security Agency and NeurIPS) DecodingTrust ได้ให้การทดสอบความปลอดภัยและความน่าเชื่อถือที่ครอบคลุมสำหรับแบบจำลองพื้นฐาน และแพลตฟอร์ม DecodingTrust-Agent ของเรามีการจำลองตัวแทนใน môi trườngที่หลากหลายพร้อมตัวแทนการโจมตีแบบแดงเพื่อทดสอบความปลอดภัยอย่างต่อเนื่องและแบบปรับเปลี่ยนได้

พื้นหลังการวิจัยของคุณครอบคลุมความแข็งแกร่ง ความเป็นส่วนตัว และการโจมตีแบบก้าวร้าว พื้นที่ใดที่พิสูจน์ว่าเป็นเรื่องที่ยากที่สุดในการแปลเป็นกลไกป้องกันในโลกแห่งความเป็นจริง?

การแปลการวิจัยด้านความแข็งแกร่ง ความเป็นส่วนตัว และการโจมตีแบบก้าวร้าวให้เป็นกลไกป้องกันในโลกแห่งความเป็นจริงนั้นเป็นเรื่องที่ทำได้จริงๆ ในความเป็นจริง การวิจัยหลายอย่างในกลุ่มของเรานั้นได้รับแรงบันดาลใจโดยตรงจากความท้าทายด้านความปลอดภัยที่สังเกตเห็นในระบบ AI ที่ใช้งานจริง

อะไรคือสิ่งที่ทำให้การรักษาความปลอดภัยของตัวแทน AI อัตโนมัติแตกต่างอย่างพื้นฐานจากการตั้งค่าความปลอดภัยสำหรับซอฟต์แวร์แบบดั้งเดิมหรือแม้กระทั่งแชทบอท?

ตัวแทนไม่ใช่โปรแกรมที่คงที่ พวกมันไม่ปฏิบัติตามเส้นทางที่คาดการณ์ได้ และไม่จำกัดอยู่ภายในขอบเขตที่กำหนดไว้เมื่อใช้งาน

ที่ไหนที่เครื่องมือความปลอดภัยที่มีอยู่ล้มเหลวเมื่อตัวแทนสามารถดำเนินการข้ามหลายระบบ เครื่องมือ และแหล่งข้อมูลในเวลาเดียวกัน?

เครื่องมือเหล่านั้นทิ้งให้คุณตาบอดต่อวิธีการดำเนินงานของตัวแทนอย่างแท้จริง

การควบคุมในเวลาจริงลดความเสี่ยงได้อย่างไรเมื่อเปรียบเทียบกับการตรวจสอบหรือบันทึกเพียงอย่างเดียว?

การบันทึกบอกคุณว่าอะไรผิดพลาดหลังจากที่ความเสียหายเกิดขึ้นแล้ว มีประโยชน์สำหรับการสืบสวนและความเป็นไปตามกฎระเบียบ แต่ไม่หยุดการดำเนินการใดๆ

Virtue AI ก่อตั้งโดยนักวิจัยที่มีความเชี่ยวชาญทางเทคนิคอย่างลึกซึ้ง สิ่งนี้มีอิทธิพลต่อการตัดสินใจด้านผลิตภัณฑ์อย่างไรเมื่อเทียบกับสตาร์ทอัพ AI ที่ขับเคลื่อนด้วยเชิงพาณิชย์มากกว่า?

ความปลอดภัยและความมั่นคงของ AI เป็นปัญหาเชิงเทคนิคที่ลึกซึ้ง ซึ่งต้องการความเชี่ยวชาญด้าน AI ที่เข้มแข็งในการออกแบบวิธีแก้ปัญหา

อะไรคือความเข้าใจผิดที่พบบ่อยที่สุดขององค์กรต่างๆ เกี่ยวกับความปลอดภัยของ AI เมื่อพวกเขาเข้ามาใช้บริการของ Virtue AI?

ความเข้าใจผิดที่พบบ่อยที่สุดขององค์กรต่างๆ คือการคิดว่าความปลอดภัยของ AI สามารถแก้ไขได้ด้วยการนำเครื่องมือความปลอดภัยแบบดั้งเดิมมาใช้หรือการกรองเนื้อหาพื้นฐาน

สุดท้าย “การนำ AI ไปใช้อย่างมีความรับผิดชอบ” หมายถึงอะไรสำหรับคุณในทางปฏิบัติ ไม่ใช่ในทางทฤษฎี แต่ภายในองค์กรที่กำลังพัฒนาผลิตภัณฑ์ในปัจจุบัน?

การทำงานที่รวดเร็วและปลอดภัยไม่ใช่สิ่งที่ขัดแย้งกัน แม้ว่าหลายองค์กรจะรับรู้ว่ามันเป็นสิ่งที่ตรงกันข้าม การสันนิษฐานคือความปลอดภัยที่จริงจังจะชะลอการดำเนินงาน

การนำ AI ไปใช้อย่างมีความรับผิดชอบหมายถึงการรู้ว่าตัวแทนสามารถทำอะไรบ้าง คุณสามารถเห็นได้ว่าพวกมันกำลังทำอะไรอยู่ และคุณสามารถหยุดพวกมันเมื่อเกิดอะไรผิดพลาดได้

การพัฒนาอินเทลลิเจนท์ที่มีความรับผิดชอบทำให้สามารถใช้งานระบบ AI ขนาดใหญ่แบบต่อเนื่องได้ด้วยความมั่นใจ ไม่ใช่การชะลอการนวัตกรรมของ AI

ขอขอบคุณสำหรับสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Virtue AI เพื่อเรียนรู้เพิ่มเติม