โจนาธาน แดมโบรท์ CEO และผู้ร่วมก่อตั้ง Cranium AI – ซีรีส์สัมภาษณ์

โจนาธาน แดมโบรท์ เป็น CEO และผู้ร่วมก่อตั้ง Cranium AI ซึ่งเป็นองค์กรที่ช่วยให้ทีมด้านความปลอดภัยทางไซเบอร์และวิทยาศาสตร์ข้อมูลเข้าใจถึงทุกที่ที่ AI มีผลกระทบต่อระบบ ข้อมูล หรือบริการของตน

โจนาธาน曾เป็นหุ้นส่วนของ KPMG และเป็นผู้นำในอุตสาหกรรมความปลอดภัยทางไซเบอร์ และมีวิสัยทัศน์ ในช่วงก่อนหน้าที่ KPMG เขาได้นำ Prevalent ให้กลายเป็นผู้นำในอุตสาหกรรมการจัดการความเสี่ยงจากผู้ให้บริการที่สามตามการประเมินของ Gartner และ Forrester ก่อนที่จะขายให้กับ Insight Venture Partners ในปลายปี 2016 ในปี 2019 โจนาธานได้เปลี่ยนบทบาท CEO ของ Prevalent เพื่อให้公司สามารถเติบโตต่อไปภายใต้การนำของทีมใหม่ เขาได้รับการอ้างอิงในหลายสื่อ และมักจะพูดกับกลุ่มลูกค้าเกี่ยวกับแนวโน้มในด้าน IT ความปลอดภัยทางไซเบอร์ และการปฏิบัติตามกฎระเบียบ

คุณสามารถแบ่งปันเรื่องราวเบื้องหลังของ Cranium AI ได้หรือไม่?

ฉันมีแนวคิดเกี่ยวกับ Cranium ในเดือนมิถุนายน 2021 เมื่อฉันเป็นหุ้นส่วนของ KPMG และนำทีมบริการความปลอดภัยจากผู้ให้บริการที่สามระดับโลก เรากำลังสร้างและจัดส่งโซลูชัน AI ที่มีพลังสำหรับลูกค้ารายใหญ่ที่สุดของเรา และฉันพบว่าเราไม่ได้ทำอะไรเพื่อป้องกันการโจมตีจากผู้ไม่หวังดี ฉันจึงถามคำถามเดียวกันนี้กับผู้นำด้านความปลอดภัยทางไซเบอร์ของลูกค้ารายใหญ่ที่สุดของเรา และคำตอบที่ฉันได้รับนั้นไม่น่าพอใจมาก ผู้นำด้านความปลอดภัยหลายคนไม่เคยพูดคุยกับนักวิทยาศาสตร์ข้อมูลเลย – พวกเขาพูดภาษาที่แตกต่างกันเมื่อพูดถึงเทคโนโลยี และสุดท้ายไม่มีการมองเห็นถึง AI ที่กำลังทำงานทั่วทั้งองค์กร ทั้งหมดนี้รวมกับการพัฒนากฎระเบียบที่เพิ่มขึ้นอย่างต่อเนื่อง ทำให้ฉันตัดสินใจสร้างแพลตฟอร์มที่สามารถให้ความปลอดภัยแก่ AI ได้ เราเริ่มทำงานกับ KPMG Studio Incubator และนำลูกค้ารายใหญ่ที่สุดของเราเข้ามาเป็นพันธมิตรในการออกแบบเพื่อช่วยพัฒนาให้ตรงตามความต้องการขององค์กรขนาดใหญ่ ในเดือนมกราคมของปีนี้ Syn Ventures เข้ามาให้การสนับสนุนเงินทุนในการเริ่มต้น และเราแยกออกมาเป็นอิสระจาก KPMG ในเดือนมีนาคม และเปิดตัวออกมาจากความลับในเดือนเมษายน 2023

คุณสามารถอธิบาย Cranium AI Card และข้อมูลสำคัญที่มันให้ได้หรือไม่?

Cranium AI Card ช่วยให้องค์กรสามารถรวบรวมและแบ่งปันข้อมูลเกี่ยวกับความน่าเชื่อถือและความสอดคล้องกับ AI ของตนให้กับลูกค้าและหน่วยงานกำกับดูแล และมองเห็นถึงความปลอดภัยของระบบ AI จากผู้ขายของตนในที่สุด เราตั้งเป้าที่จะให้ความปลอดภัยและทีมด้านการปฏิบัติตามกฎระเบียบมองเห็นและติดตามความปลอดภัยของ AI ในห่วงโซ่อุปทานของตน จัดตำแหน่งระบบ AI ของตนให้สอดคล้องกับข้อกำหนดและกรอบการทำงานด้านการปฏิบัติตามกฎระเบียบที่มีอยู่และกำลังจะเกิดขึ้น และสามารถแบ่งปันความปลอดภัยและความน่าเชื่อถือของระบบ AI ของตนได้อย่างง่ายดาย

ปัญหาเรื่องความน่าเชื่อถือที่ผู้คนมีต่อ AI ที่ได้รับการแก้ไขด้วยโซลูชันนี้คืออะไร?

โดยทั่วไปแล้ว ผู้คนต้องการทราบว่าอะไรอยู่เบื้องหลัง AI ที่พวกเขากำลังใช้ โดยเฉพาะอย่างยิ่งเมื่อกระบวนการทำงานประจำวันของพวกเขามีผลกระทบจาก AI ในรูปแบบใดรูปแบบหนึ่ง เราตั้งเป้าที่จะให้ลูกค้าของเรามีความสามารถในการตอบคำถามที่พวกเขาจะได้รับจากลูกค้าของตนเอง เช่น “มีการกำกับดูแลอย่างไร?”, “มีการทำอะไรเพื่อป้องกันความปลอดภัยของข้อมูลและแบบจำลอง?”, และ “มีการตรวจสอบข้อมูลนี้หรือไม่?” AI Card ให้องค์กรสามารถตอบคำถามเหล่านี้และแสดงให้เห็นถึงความโปร่งใสและความน่าเชื่อถือของระบบ AI ของตนได้อย่างรวดเร็ว

ในเดือนตุลาคม 2022 สำนักงานวิทยาศาสตร์และนโยบายเทคโนโลยีของทำเนียบขาว (OSTP) ได้ตีพิมพ์แผนภาพสำหรับสิทธิของ AI ซึ่งเป็นแผนภาพที่ไม่มีผลผูกพันสำหรับการใช้ AI อย่างมีความรับผิดชอบ คุณสามารถพูดถึงมุมมองส่วนบุคคลเกี่ยวกับข้อดีและข้อเสียของกฎหมายฉบับนี้ได้หรือไม่?

แม้ว่าการกระทำนี้ของทำเนียบขาวจะเป็นขั้นตอนแรกที่สำคัญในการกำหนดหลักการสำหรับการใช้ AI อย่างมีความรับผิดชอบ แต่เราก็ไม่เชื่อว่ามันไปไกลพอที่จะให้คำแนะนำแก่องค์กรและไม่เพียงแต่บุคคลที่กังวลเกี่ยวกับการตัดสินใจโดยใช้ AI เท่านั้น การกำกับดูแลในอนาคตควรไม่เพียงแต่สำหรับผู้ให้บริการระบบ AI แต่ยังรวมถึงผู้ใช้ด้วย เพื่อให้พวกเขาสามารถเข้าใจและใช้เทคโนโลยีนี้ได้อย่างปลอดภัยและเชื่อถือได้ สุดท้าย ผลประโยชน์หลักคือระบบ AI จะมีความปลอดภัย มีความ包容 และมีความโปร่งใสมากขึ้น อย่างไรก็ตาม หากไม่มีกรอบการทำงานที่อิงจากความเสี่ยงสำหรับองค์กรในการเตรียมพร้อมสำหรับการกำกับดูแลในอนาคต อาจทำให้การนวัตกรรมชะลอตัวลง โดยเฉพาะในสถานการณ์ที่การปฏิบัติตามข้อกำหนดด้านความโปร่งใสและความสามารถในการอธิบายเป็นเรื่องที่ทำได้ยากจากด้านเทคนิค

Cranium AI ช่วยให้องค์กรปฏิบัติตามสิทธิของ AI ได้อย่างไร?

Cranium Enterprise ช่วยให้องค์กรพัฒนาและจัดส่งระบบที่ปลอดภัยและเชื่อถือได้ ซึ่งเป็นหลักการแรกในสิทธิของ AI นอกจากนี้ AI Card ยังช่วยให้องค์กรสามารถปฏิบัติตามหลักการของการแจ้งและอธิบายโดยให้พวกเขาแบ่งปันรายละเอียดเกี่ยวกับวิธีการทำงานของระบบ AI ของตนและข้อมูลที่พวกเขาใช้

กรอบการทำงานการบริหารความเสี่ยงของ NIST สำหรับ AI คืออะไร และ Cranium AI จะช่วยให้องค์กรบรรลุความต้องการด้านการปฏิบัติตามกฎระเบียบสำหรับกรอบการทำงานนี้ได้อย่างไร?

กรอบการทำงานการบริหารความเสี่ยงของ NIST สำหรับ AI เป็นกรอบการทำงานสำหรับองค์กรในการจัดการความเสี่ยงที่เกี่ยวข้องกับ AI ที่มีต่อบุคคล องค์กร และสังคม กรอบการทำงานนี้มีโครงสร้างที่คล้ายกับกรอบการทำงานอื่นๆ ของ NIST โดยอธิบายผลลัพธ์ของโปรแกรมการบริหารความเสี่ยงที่ประสบความสำเร็จสำหรับ AI เราได้ทำการแมป AI Card ของเราให้สอดคล้องกับวัตถุประสงค์ที่กำหนดไว้ในกรอบการทำงานนี้ เพื่อช่วยให้องค์กรติดตามว่าระบบ AI ของพวกเขาเป็นไปตามกรอบการทำงานนี้ และเนื่องจากแพลตฟอร์มของเราได้รวบรวมข้อมูลจำนวนมากแล้ว เราจึงสามารถเติมและตรวจสอบฟิลด์บางส่วนได้อัตโนมัติ

การกระทำของสหภาพยุโรปเกี่ยวกับ AI เป็นหนึ่งในกฎหมายที่มีผลกระทบมากที่สุดต่อ AI ในประวัติศาสตร์最近 ทำไมองค์กรที่ไม่ได้อยู่ในสหภาพยุโรปจึงควรปฏิบัติตามกฎหมายฉบับนี้?

ในทำนองเดียวกับการคุ้มครองข้อมูลส่วนบุคคลของ GDPR กฎหมาย AI ของสหภาพยุโรปจะเปลี่ยนแปลงวิธีการที่องค์กรพัฒนาและดำเนินงานระบบ AI ของตนอย่าง根本 องค์กรที่อยู่นอกสหภาพยุโรปก็จะต้องให้ความสนใจและปฏิบัติตามข้อกำหนดเหล่านี้ เนื่องจากระบบ AI ที่ใช้หรือมีผลกระทบต่อพลเมืองยุโรปจะอยู่ภายใต้ข้อกำหนดเหล่านี้ โดยไม่คำนึงถึงเขตอำนาจศาลขององค์กร

Cranium AI เตรียมพร้อมสำหรับการกระทำของสหภาพยุโรปเกี่ยวกับ AI อย่างไร?

ที่ Cranium เราได้ติดตามการพัฒนาของกฎหมาย AI ตั้งแต่เริ่มต้น และได้ออกแบบผลิตภัณฑ์ AI Card ของเราเพื่อช่วยให้องค์กรบรรลุความต้องการด้านการปฏิบัติตามกฎระเบียบ เรารู้สึกว่าเรามีจุดเริ่มต้นที่ดีเนื่องจากเราได้ติดตามกฎหมาย AI และวิวัฒนาการของมันมาอย่างยาวนาน

ทำไม AI ที่มีความรับผิดชอบจึงควรเป็นลำดับความสำคัญสำหรับองค์กร?

ความเร็วที่ AI ถูกฝังตัวเข้ากับกระบวนการทางธุรกิจและฟังก์ชันต่างๆ ทำให้เรื่องราวสามารถควบคุมไม่ได้อย่างรวดเร็วหากไม่ได้ทำอย่างมีความรับผิดชอบ การให้ความสำคัญกับ AI ที่มีความรับผิดชอบในตอนนี้ที่เริ่มต้นของการปฏิวัติ AI จะช่วยให้องค์กรสามารถขยายตัวได้อย่างมีประสิทธิภาพและไม่พบกับอุปสรรคและปัญหาด้านการปฏิบัติตามกฎระเบียบในอนาคต

คุณมีวิสัยทัศน์สำหรับอนาคตของ Cranium AI อย่างไร?

เรามองเห็น Cranium AI ที่จะกลายเป็นผู้นำในด้าน AI ที่มีความปลอดภัยและเชื่อถือได้ ในขณะที่เราอาจไม่สามารถแก้ไขปัญหาที่ซับซ้อน เช่น การใช้ AI อย่างมีจริยธรรมและความสามารถในการอธิบายได้ เราตั้งเป้าที่จะร่วมมือกับผู้นำในด้านอื่นๆ ของ AI ที่มีความรับผิดชอบ เพื่อขับเคลื่อนระบบนิเวศที่จะทำให้ลูกค้าของเราสามารถครอบคลุมทุกด้านของ AI ที่มีความรับผิดชอบได้อย่างง่ายดาย เรายังตั้งเป้าที่จะร่วมมือกับ ผู้พัฒนา AI ที่สร้างสรรค์ เพื่อสนับสนุนความปลอดภัยและความเชื่อถือของความสามารถเหล่านี้ เราต้องการให้ Cranium AI ช่วยให้องค์กรทั่วโลกสามารถสร้างสรรค์นวัตกรรมต่อไปในลักษณะที่ปลอดภัยและเชื่อถือได้

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Cranium AI เพื่อเรียนรู้เพิ่มเติม