จีพอล เฮย์น斯์ ซีอีโอของ Cinchy – ซีรีส์สัมภาษณ์

จีพอล เฮย์นส์ ซีอีโอของ Cinchy เป็นนักบริหารด้านความมั่นคงทางไซเบอร์และเทคโนโลยีที่มีประสบการณ์หลายทศวรรษในการสร้างและขยายบริษัทความมั่นคงทางไซเบอร์ระดับองค์กร เขาเป็นที่รู้จักในฐานะผู้นำที่ eSentire ซึ่งช่วยให้บริษัทเติบโตเป็นผู้ให้บริการ Managed Detection and Response ที่สำคัญ และนำประสบการณ์ที่เข้มแข็งด้านวิศวกรรม ความมั่นคงทางไซเบอร์ การเติบโตที่ได้รับการสนับสนุนจากทุนเอกชน และความเสี่ยงขององค์กรมาให้กับ Cinchy ในขณะที่บริษัทมุ่งเน้นไปที่การนำ AI ที่เชื่อถือได้และการกำกับดูแล

Cinchy เป็นบริษัทด้านการกำกับดูแล AI และการทำงานร่วมกันของข้อมูลระดับองค์กรที่มุ่งเน้นช่วยให้องค์กรเชื่อมต่อ AI ระบบ และข้อมูลได้อย่างปลอดภัย แพลตฟอร์ม PeriMind ของบริษัททำหน้าที่เป็นจุดควบคุมสำหรับการกระทำของ AI โดยให้ความสามารถในการมองเห็น การบังคับใช้นโยบาย ความปลอดภัย และการตรวจสอบให้กับองค์กรเกี่ยวกับวิธีการที่ตัวแทน AI ติดต่อระบบธุรกิจ ในขณะที่แพลตฟอร์มการทำงานร่วมกันของข้อมูลช่วยให้ทีมงานจัดการและแบ่งปันข้อมูลที่มีการกำกับดูแลทั่วทั้งองค์กรโดยไม่ต้องอาศัยการผสานรวมที่ซับซ้อนหรือซิลโอดาต้าที่ซ้ำกัน

คุณใช้เวลาเกิน 15 ปีในการช่วยสร้างและขยาย eSentire ให้เป็นหนึ่งในบริษัทที่ได้รับการยอมรับมากที่สุดในอุตสาหกรรมความมั่นคงทางไซเบอร์ สิ่งที่คุณได้เรียนรู้จากประสบการณ์นั้นคืออะไร และทำไมคุณจึงเชื่อว่าตอนนี้เป็นเวลาที่เหมาะสมที่จะเน้นไปที่การกำกับดูแล AI และการนำ AI ที่เชื่อถือได้?

หนึ่งในสิ่งที่ใหญ่ที่สุดที่ฉันเรียนรู้ที่ eSentire คือองค์กรไม่ต้องดิ้นรนเพราะไม่มีเทคโนโลยี แต่เพราะเทคโนโลยีที่เกิดขึ้นใหม่สร้างความซับซ้อนในการดำเนินงานเร็วเกินกว่าที่บริษัทส่วนใหญ่สามารถจัดการได้ด้วยตนเอง ฉันเห็นว่า AI ติดตามเส้นทางที่คล้ายกันมาก

ปัญหาในปัจจุบันไม่ใช่การทำให้พนักงานทดลองใช้ AI แต่การย้าย AI ไปสู่การผลิต โดยที่การตัดสินใจส่งผลกระทบต่อลูกค้า ผลลัพธ์ทางการเงิน การปฏิบัติตามกฎระเบียบ และการดำเนินธุรกิจ

อุตสาหกรรมที่มีการควบคุมอย่างเข้มงวด เช่น บริการทางการเงิน แสดงให้เห็นถึงสิ่งนี้อย่างสมบูรณ์แบบ พวกเขาไม่ได้เคลื่อนไหวอย่างช้าๆ เพราะพวกเขาไม่เข้าใจ AI แต่เพราะพวกเขาไม่สามารถไว้วางใจ AI กับงานที่สำคัญต่อภารกิจได้ ก่อนที่ระบบ AI จะตัดสินใจ องค์กรต้องการคำตอบสำหรับคำถามพื้นฐาน: ใครอนุมัติการตัดสินใจเหล่านั้น? มีการติดตามอย่างไร? เมื่อไหร่จะมีการแทรกแซงโดยมนุษย์? สิ่งใดจะเกิดขึ้นหากโมเดลเปลี่ยนแปลง ล้มเหลว หรือไม่สามารถใช้งานได้?

คำถามเหล่านั้น ทำให้ฉันระลึกถึงจุดที่ความมั่นคงทางไซเบอร์อยู่เมื่อ 15 ปีที่แล้ว ความมั่นคงทางไซเบอร์เปลี่ยนจากปัญหาด้านเทคโนโลยีเป็นระเบียบการดำเนินงาน ฉันเชื่อว่าการกำกับดูแล AI อยู่ในเส้นทางเดียวกัน

นั่นคือเหตุผลที่ฉันเข้าร่วม Cinchy เราเชื่อว่าการนำ AI ที่เชื่อถือได้ (ไม่ใช่การทดลอง AI) จะกำหนดทศวรรษหน้า และเราเห็นว่าการกำกับดูแล AI ที่จัดการจะกลายเป็นสิ่งสำคัญไม่แพ้การกำกับดูแลความมั่นคงทางไซเบอร์

หลายองค์กรได้ทดลองใช้ AI ที่สร้างขึ้นเองในช่วงสองปีที่ผ่านมา แต่มีเพียงไม่กี่องค์กรที่สามารถนำ AI ไปใช้ในกระบวนการทำงานที่สำคัญต่อภารกิจได้สำเร็จ อะไรคืออุปสรรคที่ใหญ่ที่สุดที่ทำให้องค์กรไม่สามารถย้ายจากการทดลองไปสู่การผลิตได้?

ฉันไม่คิดว่าบริษัทต่างๆ ต้องดิ้นรนเพราะเทคโนโลยีไม่ดีพอ ฉันคิดว่าพวกเขาเผชิญกับความท้าทายเพราะความเสี่ยงเพิ่มขึ้นเมื่อ AI ย้ายออกจากการทดลอง

การทดลองเป็นสิ่งหนึ่ง แต่การนำ AI ไปใช้ในการผลิตเป็นอีกสิ่งหนึ่ง โดยที่ AI เข้าถึงข้อมูลขององค์กร ติดต่อระบบธุรกิจ หรืออาจตัดสินใจแทนพนักงาน นั่นคือเมื่อผู้นำเริ่มถามว่า “เราจะควบคุมสิ่งนี้ได้อย่างไร? เราจะติดตามมันได้อย่างไร? และเราจะรู้ได้อย่างไรว่าเมื่อไหร่ต้องมีการแทรกแซงโดยมนุษย์?”

สิ่งเหล่านั้นไม่ใช่เหตุผลที่จะชะลอการนำ AI ไปใช้ แต่เป็นสิ่งที่ทำให้การนำ AI ไปใช้ได้จริง องค์กรจะเคลื่อนไหวเร็วขึ้นเมื่อผู้นำมั่นใจในสิ่งแวดล้อมที่พวกเขากำลังสร้าง

คุณใช้เวลาส่วนใหญ่ในอาชีพการงานของคุณในการรักษาความปลอดภัยของสภาพแวดล้อมองค์กรจากการคุกคามทางไซเบอร์ การรักษาความปลอดภัยขององค์กรที่ใช้ AI แตกต่างจากการรักษาความปลอดภัยของสภาพแวดล้อม IT truyền thốngอย่างไร?

ความมั่นคงทางไซเบอร์แบบดั้งเดิมมุ่งเน้นไปที่การปกป้องจุดสิ้นสุด การระบุตัวตน เครือข่าย และสภาพแวดล้อมคลาวด์ AI เพิ่มพื้นผิวการคุกคามใหม่ให้กับองค์กรทุกครั้ง ระบบ AI แต่ละระบบนำความเสี่ยงใหม่ๆ มา เช่น การเข้าถึงโมเดล การฉีดข้อมูล การอนุญาตที่มากเกินไป การเปลี่ยนแปลงของโมเดล การตัดสินใจอัตโนมัติ และเส้นทางการโจมตีใหม่ที่ไม่มีอยู่มาก่อน

จุดสำคัญคือความมั่นคงทางไซเบอร์สำหรับ AI ไม่ได้แยกออกจากความมั่นคงทางไซเบอร์ แต่ขยายความมั่นคงทางไซเบอร์ องค์กรยังคงต้องการการควบคุมความมั่นคงที่มีอยู่ทั้งหมด แต่พวกเขายังต้องการความมั่นคงที่ออกแบบมาเฉพาะสำหรับระบบ AI ที่ทำงานในproduction

Shadow IT เป็นปัญหาที่ทีมความมั่นคงทางไซเบอร์ต้องเผชิญมานาน แต่ขณะนี้เรากำลังเห็นการเพิ่มขึ้นของ Shadow AI อะไรคือความท้าทายที่สำคัญนี้ และอะไรคือความเสี่ยงที่องค์กรต่างๆ มองข้าม?

Shadow AI กำลังเป็นหนึ่งในความเสี่ยงที่เติบโตเร็วที่สุดในธุรกิจ เนื่องจากทีมผู้บริหารส่งเสริมให้มีการนำ AI ไปใช้อย่างรวดเร็วโดยไม่ได้กำหนดการกำกับดูแลก่อนเสมอไป พนักงานส่วนใหญ่ไม่ได้กระทำการด้วยเจตนาเลว แต่พยายามเพิ่มประสิทธิภาพการทำงาน ปัญหาก็คือระบบ AI สืบทอดสิทธิ์ที่ผู้ใช้มีอยู่แล้ว

ผู้บริหารที่ทดลองใช้โมเดล AI สาธารณะอาจไม่ได้ตั้งใจเปิดเผยข้อมูลทางการเงิน ข้อมูลลูกค้า หรือทรัพย์สินทางปัญญาโดยการขอให้ AI วิเคราะห์ข้อมูลเหล่านั้น

นั่นคือเหตุผลที่องค์กรต้องการความสามารถในการมองเห็น การควบคุมนโยบาย และการกำกับดูแล ไม่ใช่เพื่อชะลอการนำ AI ไปใช้ แต่เพื่อทำให้ AI มีความปลอดภัยพอที่จะขยายขนาด

ตัวแทน AI กำลังได้รับการเข้าถึงระบบ ระบบข้อมูล และกระบวนการตัดสินใจขององค์กรมากขึ้น อะไรคือความท้าทายใหม่ๆ ในด้านความรับผิดชอบและกำกับดูแลที่เกิดขึ้นเมื่อระบบ AI สามารถดำเนินการอัตโนมัติได้?

ตัวแทน AI เปลี่ยนแปลงการอภิปรายเรื่องการกำกับดูแล เนื่องจากพวกมันไม่ได้สร้างเนื้อหาอีกต่อไป แต่กำลังดำเนินการ เมื่อระบบอัตโนมัติสามารถอนุมัติธุรกรรม เข้าถึงระบบขององค์กร หรือตัดสินใจทางธุรกิจ องค์กรต้องการความรับผิดชอบที่สมบูรณ์

การกระทำทุกอย่างควรตอบคำถามง่ายๆ:

• เกิดอะไรขึ้น?
• ทำไมจึงเกิดขึ้น?
• ตัวแทน AI ใดที่ตัดสินใจ?
• ใครอนุมัติ?
• เมื่อไหร่ควรให้มนุษย์เข้าแทรกแซง?

หลักการเหล่านั้นไม่ใช่สิ่งใหม่ อุตสาหกรรมต่างๆ มีชีวิตอยู่ภายใต้ข้อกำหนดความรับผิดชอบมานานหลายทศวรรษภายใต้กฎระเบียบเช่น Sarbanes-Oxley AI เพียงขยายความคาดหวังเดียวกันไปยังคนงานดิจิทัลอัตโนมัติ

หลายองค์กรกำลังแข่งขันกันเพื่อนำ AI ไปใช้เนื่องจากแรงกดดันจากการแข่งขัน องค์กรธุรกิจสามารถสร้างสมดุลระหว่างความต้องการความเร็วและความต้องการการกำกับดูแล การปฏิบัติตามกฎระเบียบ และการบริหารความเสี่ยงได้อย่างไร?

การกำกับดูแลไม่ควรชะลอการนำ AI ไปใช้ แต่ควรเร่งการนำ AI ไปใช้ องค์กรเคลื่อนไหวเร็วขึ้นเมื่อผู้นำมั่นใจในสภาพแวดล้อมที่พวกเขากำลังสร้าง สิ่งนั้นหมายถึงการสร้างสถาปัตยกรรม AI ที่ปลอดภัยและสามารถติดตามได้ การประเมินแบบจำลองอย่างต่อเนื่องสำหรับการเปลี่ยนแปลงและการทำงาน การจัดการการเข้าถึงระบบขององค์กร และมีการควบคุมการดำเนินงานที่ชัดเจนก่อนที่ AI จะเข้าสู่การผลิต

เช่นเดียวกับที่องค์กรนำการตรวจจับและตอบสนองด้านความมั่นคงที่จัดการมาเพื่อทำให้ความมั่นคงทางไซเบอร์ง่ายขึ้น ฉันเชื่อว่าหลายองค์กรจะนำการกำกับดูแล AI ที่จัดการมาเพื่อให้ได้ความเชี่ยวชาญโดยไม่ต้องสร้างทีมผู้เชี่ยวชาญภายในองค์กรขนาดใหญ่

คณะกรรมการบริษัทกำลังเข้ามาเกี่ยวข้องกับการกำกับดูแล AI มากขึ้น คำถามใดที่สมาชิกคณะกรรมการควรถามทีมผู้บริหารเกี่ยวกับกลยุทธ์ AI การกำกับดูแล และความรับผิดชอบ?

คณะกรรมการควรถามคำถามพื้นฐานหนึ่งคำถาม: ทีมผู้บริหารสามารถแสดงให้เห็นว่า AI กำลังทำงานภายใต้ระดับการกำกับดูแลเดียวกันกับระบบธุรกิจที่สำคัญอื่นๆ หรือไม่?

สิ่งนั้นหมายถึงการเข้าใจว่า AI ถูกใช้ที่ไหน ใครเป็นเจ้าของ AI วิธีการติดตามการตัดสินใจ การจัดการความเสี่ยง และวิธีการที่องค์กรจะดำเนินการต่อหากบริการ AI ไม่สามารถใช้งานได้ องค์กรที่ประสบความสำเร็จไม่จำเป็นต้องเป็นองค์กรที่นำ AI ไปใช้เร็วที่สุด แต่จะเป็นองค์กรที่สร้างระเบียบการดำเนินงานเพื่อให้เชื่อถือ AI ได้

อุตสาหกรรมความมั่นคงทางไซเบอร์ใช้เวลาหลายทศวรรษในการพัฒนาเฟรมเวิร์ก การควบคุม และแนวปฏิบัติที่ดีที่สุด มีบทเรียนจากความมั่นคงทางไซเบอร์ที่สามารถนำไปใช้กับการกำกับดูแล AI ได้โดยตรงหรือไม่ หรือ AI ต้องการแนวทางใหม่ทั้งหมด?

ความมั่นคงทางไซเบอร์ให้แบบแผนการกำกับดูแล AI ที่ดี การจัดการอัตลักษณ์ การมีสิทธิ์น้อยที่สุด การติดตามอย่างต่อเนื่อง การบันทึกการตรวจสอบ การตอบสนองต่อเหตุการณ์ และความทนทานยังคงจำเป็น สิ่งที่ใหม่คือ AI นำความท้าทายที่ระบบเดิมๆ ไม่มี เช่น การเปลี่ยนแปลงของโมเดล การหลอกลวง การจัดการคำสั่ง และการอาศัยโมเดลพื้นฐานของบุคคลที่สาม AI ไม่ได้แทนที่ความมั่นคงทางไซเบอร์ แต่สร้างการกำกับดูแลเพิ่มเติม

การนำ AI ที่เชื่อถือได้หมายถึงอะไรในทางปฏิบัติ มีหลักการกำกับดูแลหรือมาตรการรักษาความปลอดภัยในการดำเนินงานที่องค์กรทุกแห่งควรต้องมีก่อนที่จะขยายโครงการ AI?

ฉันคิดว่ามันเหมือนกับวิธีที่เราเคยคิดเรื่องความมั่นคงทางไซเบอร์เมื่อหลายปีที่แล้ว ไม่มีใครถามว่าความมั่นคงสร้างมูลค่าหรือไม่ คำถามคือว่าคุณเชื่อถือสภาพแวดล้อมของคุณเพียงพอในการรักษาธุรกิจให้ดำเนินต่อไปหรือไม่

AI กำลังเดินไปในทิศทางเดียวกัน หากคุณไม่สามารถมองเห็นได้ว่า AI กำลังทำอะไร คุณไม่สามารถควบคุมสิ่งที่ AI มีสิทธิ์เข้าถึง หรือเข้าใจว่าทำไม AI จึงตัดสินใจบางอย่าง คุณอาจไม่ให้ AI จัดการกับสิ่งสำคัญ

เมื่อคุณมีความมั่นใจนั้น การนำ AI ไปใช้ก็เกิดขึ้นตามธรรมชาติ องค์กรหยุดรักษา AI เหมือนการทดลองที่น่าสนใจและเริ่มรักษา AI เหมือนส่วนหนึ่งของธุรกิจ

เมื่อมองไปข้างหน้า 3-5 ปี คุณเห็นความสัมพันธ์ระหว่างการกำกับดูแล AI และความได้เปรียบในการแข่งขันเปลี่ยนแปลงไปอย่างไร การกำกับดูแลที่เข้มแข็งจะกลายเป็นตัวแยกแยะหรือเพียงเป็นข้อกำหนดในการทำธุรกิจ?

ในช่วง 3-5 ปีที่จะมาถึง การกำกับดูแล AI ที่เข้มแข็งจะไม่เป็นตัวแยกแยะในการแข่งขัน แต่จะกลายเป็นข้อกำหนดในการดำเนินธุรกิจ องค์กรที่กำหนดการกำกับดูแลไว้ตั้งแต่เนิ่นๆ จะนำ AI ไปใช้เร็วขึ้นเพราะพวกเขาจะมีความมั่นใจในการย้ายงานที่สำคัญไปสู่การผลิต องค์กรที่ไม่ทำเช่นนั้นจะยังคงอยู่ในขั้นทดลอง ในขณะที่คู่แข่งได้รับผลประโยชน์ที่วัดได้ในการเพิ่มผลผลิต การนวัตกรรม และประสบการณ์ของลูกค้า ในที่สุด การกำกับดูแลจะไม่ชะลอการนำ AI ไปใช้ แต่จะเป็นสาเหตุที่ทำให้องค์กรเชื่อถือ AI เพียงพอในการนำไปใช้อย่างเต็มที่

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Cinchy เพื่อเรียนรู้เพิ่มเติม