โจนาธาน แดมโบรท์ CEO และผู้ร่วมก่อตั้ง Cranium AI – ซีรีส์สัมภาษณ์

โจนาธาน แดมโบรท์ เป็น CEO และผู้ร่วมก่อตั้ง Cranium AI ซึ่งเป็นองค์กรที่ช่วยให้ทีมด้านความปลอดภัยทางไซเบอร์และวิทยาศาสตร์ข้อมูลเข้าใจถึงทุกที่ที่ AI มีผลกระทบต่อระบบ ข้อมูล หรือบริการของตน

โจนาธานเคยเป็นหุ้นส่วนของ KPMG และเป็นผู้นำในอุตสาหกรรมความปลอดภัยทางไซเบอร์ และมีวิสัยทัศน์ ในช่วงก่อนหน้าที่ KPMG เขาได้นำ Prevalent ให้กลายเป็นผู้นำในอุตสาหกรรมการจัดการความเสี่ยงจากผู้ให้บริการที่สามตามการประเมินของ Gartner และ Forrester ก่อนที่จะขายให้กับ Insight Venture Partners ในปลายปี 2016 ในปี 2019 โจนาธานได้เปลี่ยนบทบาท CEO ของ Prevalent เพื่อให้บริษัทสามารถเติบโตต่อไปภายใต้การนำของทีมใหม่ เขาได้รับการอ้างอิงในหลายสื่อ และมักจะพูดกับกลุ่มลูกค้าเกี่ยวกับแนวโน้มในด้าน IT ความปลอดภัยทางไซเบอร์ และการปฏิบัติตามกฎระเบียบ

คุณสามารถแบ่งปันเรื่องราวเบื้องหลังของ Cranium AI ได้หรือไม่?

ฉันมีแนวคิดเกี่ยวกับ Cranium ในเดือนมิถุนายน 2021 เมื่อฉันเป็นหุ้นส่วนของ KPMG และนำทีมบริการความปลอดภัยของบุคคลที่สามระดับโลก เรากำลังสร้างและจัดส่งโซลูชัน AI ที่มีพลังสำหรับลูกค้ารายใหญ่ที่สุดของเรา และฉันพบว่าเราไม่ได้ทำอะไรเพื่อป้องกันการโจมตีจากผู้ไม่หวังดี ฉันจึงถามคำถามเดียวกันนี้กับผู้นำด้านความปลอดภัยทางไซเบอร์ของลูกค้ารายใหญ่ที่สุดของเรา และคำตอบที่ฉันได้รับนั้นไม่น่าพอใจมาก ผู้นำด้านความปลอดภัยหลายคนไม่เคยพูดคุยกับนักวิทยาศาสตร์ข้อมูลเลย – พวกเขาพูดภาษาที่แตกต่างกันเมื่อพูดถึงเทคโนโลยี และสุดท้ายไม่มีการมองเห็นถึง AI ที่กำลังทำงานทั่วทั้งองค์กร ทั้งหมดนี้รวมกับการพัฒนากฎระเบียบที่เพิ่มขึ้นอย่างต่อเนื่อง ทำให้ฉันตัดสินใจสร้างแพลตฟอร์มที่สามารถให้ความปลอดภัยแก่ AI ได้ เราเริ่มทำงานกับ KPMG Studio Incubator และนำลูกค้ารายใหญ่ที่สุดของเราเข้ามาเป็นพันธมิตรในการออกแบบเพื่อช่วยพัฒนาให้ตรงตามความต้องการขององค์กรขนาดใหญ่ ในเดือนมกราคมของปีนี้ Syn Ventures เข้ามาร่วมปิดการระดมทุนรอบ Seed และเราแยกออกมาเป็นอิสระจาก KPMG ในเดือนมีนาคม และเปิดตัวต่อสาธารณะหลังพัฒนาอย่างเงียบ ๆในเดือนเมษายน 2023

คุณสามารถอธิบาย Cranium AI Card และข้อมูลสำคัญที่มันให้ได้หรือไม่?

Cranium AI Card ช่วยให้องค์กรสามารถรวบรวมและแบ่งปันข้อมูลเกี่ยวกับความน่าเชื่อถือและการปฏิบัติตามข้อกำหนดของโมเดล AI ของตนให้กับลูกค้าและหน่วยงานกำกับดูแล และมองเห็นถึงความปลอดภัยของระบบ AI จากผู้ขายของตนในที่สุด เราตั้งเป้าที่จะให้ทีมความปลอดภัยและทีมกำกับการปฏิบัติตามข้อกำหนดมองเห็นและติดตามความปลอดภัยของ AI ในห่วงโซ่อุปทานของตน จัดตำแหน่งระบบ AI ของตนให้สอดคล้องกับข้อกำหนดและกรอบการทำงานด้านการปฏิบัติตามกฎระเบียบที่มีอยู่และกำลังจะเกิดขึ้น และสามารถแบ่งปันความปลอดภัยและความน่าเชื่อถือของระบบ AI ของตนได้อย่างง่ายดาย

ปัญหาเรื่องความน่าเชื่อถือที่ผู้คนมีต่อ AI ที่ได้รับการแก้ไขด้วยโซลูชันนี้คืออะไร?

โดยทั่วไปแล้ว ผู้คนต้องการทราบว่าอะไรอยู่เบื้องหลัง AI ที่พวกเขากำลังใช้ โดยเฉพาะอย่างยิ่งเมื่อกระบวนการทำงานประจำวันของพวกเขามีผลกระทบจาก AI ในรูปแบบใดรูปแบบหนึ่ง เราตั้งเป้าที่จะให้ลูกค้าของเรามีความสามารถในการตอบคำถามที่พวกเขาจะได้รับจากลูกค้าของตนเอง เช่น “มีการกำกับดูแลอย่างไร?”, “มีการทำอะไรเพื่อรักษาความปลอดภัยของข้อมูลและโมเดล?”, และ “มีการตรวจสอบข้อมูลนี้หรือไม่?” AI Card ให้องค์กรสามารถตอบคำถามเหล่านี้และแสดงให้เห็นถึงความโปร่งใสและความน่าเชื่อถือของระบบ AI ของตนได้อย่างรวดเร็ว

ในเดือนตุลาคม 2022 สำนักงานวิทยาศาสตร์และนโยบายเทคโนโลยีของทำเนียบขาว (OSTP) ได้ตีพิมพ์พิมพ์เขียวกรอบสิทธิด้าน AI ซึ่งเป็นแผนงานที่ไม่มีผลผูกพันสำหรับการใช้ AI อย่างมีความรับผิดชอบ คุณสามารถพูดถึงมุมมองส่วนบุคคลเกี่ยวกับข้อดีและข้อเสียของกฎหมายฉบับนี้ได้หรือไม่?

แม้ว่าการกระทำนี้ของทำเนียบขาวจะเป็นขั้นตอนแรกที่สำคัญในการกำหนดหลักการสำหรับการใช้ AI อย่างมีความรับผิดชอบ แต่เราก็ไม่เชื่อว่ามันไปไกลพอที่จะให้คำแนะนำแก่องค์กรและไม่เพียงแต่บุคคลที่กังวลเรื่องการอุทธรณ์การตัดสินใจโดย AI เท่านั้น การกำกับดูแลในอนาคตควรไม่เพียงแต่สำหรับผู้ให้บริการระบบ AI แต่ยังรวมถึงผู้ใช้ด้วย เพื่อให้พวกเขาสามารถเข้าใจและใช้เทคโนโลยีนี้ได้อย่างปลอดภัยและเชื่อถือได้ สุดท้าย ผลประโยชน์หลักคือระบบ AI จะมีความปลอดภัย มีความครอบคลุม และมีความโปร่งใสมากขึ้น อย่างไรก็ตาม หากไม่มีกรอบการทำงานที่อิงจากความเสี่ยงสำหรับองค์กรในการเตรียมพร้อมสำหรับการกำกับดูแลในอนาคต อาจทำให้การนวัตกรรมชะลอตัวลง โดยเฉพาะในสถานการณ์ที่การปฏิบัติตามข้อกำหนดด้านความโปร่งใสและความสามารถในการอธิบายเป็นเรื่องที่ไม่สามารถทำได้ในทางเทคนิค

Cranium AI ช่วยให้องค์กรปฏิบัติตามกรอบสิทธิด้าน AI ได้อย่างไร?

Cranium Enterprise ช่วยให้องค์กรพัฒนาและจัดส่งระบบที่ปลอดภัยและเชื่อถือได้ ซึ่งเป็นหลักการแรกในกรอบสิทธิด้าน AI นอกจากนี้ AI Card ยังช่วยให้องค์กรสามารถปฏิบัติตามหลักการของการแจ้งและอธิบายโดยให้พวกเขาแบ่งปันรายละเอียดเกี่ยวกับวิธีการทำงานของระบบ AI ของตนและข้อมูลที่พวกเขาใช้

กรอบบริหารความเสี่ยง AI ของ NIST คืออะไร และ Cranium AI จะช่วยให้องค์กรบรรลุความต้องการด้านการปฏิบัติตามกฎระเบียบสำหรับกรอบการทำงานนี้ได้อย่างไร?

กรอบการทำงานการบริหารความเสี่ยงของ NIST สำหรับ AI เป็นกรอบการทำงานสำหรับองค์กรในการจัดการความเสี่ยงที่เกี่ยวข้องกับ AI ที่มีต่อบุคคล องค์กร และสังคม กรอบการทำงานนี้มีโครงสร้างที่คล้ายกับกรอบการทำงานอื่นๆ ของ NIST โดยอธิบายผลลัพธ์ของโปรแกรมการบริหารความเสี่ยงที่ประสบความสำเร็จสำหรับ AI เราได้ทำการแมป AI Card ของเราให้สอดคล้องกับวัตถุประสงค์ที่กำหนดไว้ในกรอบการทำงานนี้ เพื่อช่วยให้องค์กรติดตามว่าระบบ AI ของพวกเขาเป็นไปตามกรอบการทำงานนี้ และเนื่องจากแพลตฟอร์มของเราได้รวบรวมข้อมูลจำนวนมากแล้ว เราจึงสามารถเติมและตรวจสอบฟิลด์บางส่วนได้อัตโนมัติ

กฎหมาย AI ของสหภาพยุโรป เป็นหนึ่งในกฎหมายที่มีผลกระทบมากที่สุดต่อ AI ในประวัติศาสตร์เมื่อไม่นานมานี้ ทำไมองค์กรที่ไม่ได้อยู่ในสหภาพยุโรปจึงควรปฏิบัติตามกฎหมายฉบับนี้?

ในทำนองเดียวกับการคุ้มครองข้อมูลส่วนบุคคลของ GDPR กฎหมาย AI ของสหภาพยุโรปจะเปลี่ยนแปลงวิธีการที่องค์กรพัฒนาและดำเนินงานระบบ AI ของตนอย่างสิ้นเชิง องค์กรที่อยู่นอกสหภาพยุโรปก็จะต้องให้ความสนใจและปฏิบัติตามข้อกำหนดเหล่านี้ เนื่องจากระบบ AI ที่ใช้หรือมีผลกระทบต่อพลเมืองยุโรปจะอยู่ภายใต้ข้อกำหนดเหล่านี้ โดยไม่คำนึงถึงเขตอำนาจศาลขององค์กร

Cranium AI เตรียมพร้อมสำหรับกฎหมาย AI ของสหภาพยุโรป อย่างไร?

ที่ Cranium เราได้ติดตามการพัฒนาของกฎหมาย AI ตั้งแต่เริ่มต้น และได้ออกแบบผลิตภัณฑ์ AI Card ของเราเพื่อช่วยให้องค์กรบรรลุความต้องการด้านการปฏิบัติตามกฎระเบียบ เรารู้สึกว่าเรามีจุดเริ่มต้นที่ดีเนื่องจากเราได้ติดตามกฎหมาย AI และวิวัฒนาการของมันมาอย่างยาวนาน

ทำไม AI ที่มีความรับผิดชอบจึงควรเป็นลำดับความสำคัญสำหรับองค์กร?

ความเร็วที่ AI ถูกฝังตัวเข้ากับกระบวนการทางธุรกิจและฟังก์ชันต่างๆ ทำให้เรื่องราวสามารถควบคุมไม่ได้อย่างรวดเร็วหากไม่ได้ทำอย่างมีความรับผิดชอบ การให้ความสำคัญกับ AI ที่มีความรับผิดชอบในตอนนี้ที่เริ่มต้นของการปฏิวัติ AI จะช่วยให้องค์กรสามารถขยายตัวได้อย่างมีประสิทธิภาพและไม่พบกับอุปสรรคและปัญหาด้านการปฏิบัติตามกฎระเบียบในอนาคต

คุณมีวิสัยทัศน์สำหรับอนาคตของ Cranium AI อย่างไร?

เรามองเห็น Cranium AI ที่จะกลายเป็นผู้นำในด้าน AI ที่มีความปลอดภัยและเชื่อถือได้ ในขณะที่เราอาจไม่สามารถแก้ไขปัญหาที่ซับซ้อน เช่น การใช้ AI อย่างมีจริยธรรมและความสามารถในการอธิบายได้ เราตั้งเป้าที่จะร่วมมือกับผู้นำในด้านอื่นๆ ของ AI ที่มีความรับผิดชอบ เพื่อขับเคลื่อนระบบนิเวศที่จะทำให้ลูกค้าของเราสามารถครอบคลุมทุกด้านของ AI ที่มีความรับผิดชอบได้อย่างง่ายดาย เรายังตั้งเป้าที่จะร่วมมือกับ ผู้พัฒนา AI เชิงกำเนิด เพื่อสนับสนุนความปลอดภัยและความเชื่อถือของความสามารถเหล่านี้ เราต้องการให้ Cranium AI ช่วยให้องค์กรทั่วโลกสามารถสร้างสรรค์นวัตกรรมต่อไปในลักษณะที่ปลอดภัยและเชื่อถือได้

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Cranium AI เพื่อเรียนรู้เพิ่มเติม