เจอรัลด์ ไคซ์ ซีอีโอและผู้ร่วมก่อตั้ง Trustible – ซีรีส์สัมภาษณ์

เจอรัลด์ ไคซ์ ซีอีโอและผู้ร่วมก่อตั้ง Trustible เป็นผู้นำด้านเทคโนโลยีและนโยบายที่มุ่งเน้นในการนำ AI ที่มีความรับผิดชอบมาใช้ เขาเป็นผู้นำภารกิจของ Trustible ในการช่วยให้องค์กรต่างๆ สร้างความไว้วางใจ จัดการความเสี่ยง และปฏิบัติตามข้อกำหนดด้าน AI ที่เกิดขึ้นใหม่ ก่อนหน้านี้เขา曾ดำรงตำแหน่งรองประธานและผู้จัดการทั่วไปของ AI Solutions ที่ FiscalNote ซึ่งเขามีหน้าที่ดูแลผลิตภัณฑ์ AI ขององค์กร และดำรงตำแหน่งระดับสูงในด้านพัฒนาธุรกิจ ผลิตภัณฑ์ ความสำเร็จของลูกค้า และการดำเนินงานของบริหาร ทั้งหมดนี้ทำให้เขาได้พัฒนาความรู้และความเข้าใจที่ลึกซึ้งเกี่ยวกับการทำงานที่จุดตัดระหว่างเทคโนโลยี การกำกับดูแล และการดำเนินงานขององค์กรขนาดใหญ่

Trustible มีแพลตฟอร์มการกำกับดูแล AI ที่ช่วยให้องค์กรสามารถจัดทำรายการระบบ AI ประเมินและลดความเสี่ยง และดำเนินการให้เป็นไปตามข้อกำหนดผ่านกระบวนการทำงานและเอกสารที่มีโครงสร้าง แพลตฟอร์มนี้ได้รับการออกแบบสำหรับทีมกฎหมาย ทีมการปฏิบัติตามข้อกำหนด และทีม AI โดยมีจุดมุ่งหมายเพื่อจัดระเบียบกิจกรรมด้านการกำกับดูแล 使 AI สอดคล้องกับกรอบการกำกับดูแล และทำให้การนำ AI ที่มีความรับผิดชอบมาใช้ได้เร็วขึ้นและโปร่งใสยิ่งขึ้นทั่วทั้งองค์กร

คุณเปลี่ยนจากงานการตลาดผลิตภัณฑ์และงาน Chief of Staff ไปสู่การนำ AI Solutions ที่ FiscalNote ก่อนที่จะก่อตั้ง Trustible คุณเห็นอะไรในบทบาทเหล่านั้นที่ทำให้คุณเชื่อว่า AI Governance ต้องการแพลตฟอร์มที่มุ่งเน้น และปัญหาใดที่คุณตั้งใจจะแก้ไขก่อนเมื่อคุณเปิดตัว Trustible?

ฉันโชคดีที่มีบทบาทมากมายในช่วง 8 ปีที่ FiscalNote ซึ่งฉันเริ่มต้นตั้งแต่พนักงานในระยะเริ่มต้นและออกจากตำแหน่งผู้บริหารระดับสูงหลังจากการเสนอขายหุ้นแก่ประชาชนทั่วไป (IPO)

ตลอดการทำงานในด้านการตลาดผลิตภัณฑ์ การทำงานเป็น Chief of Staff และในที่สุดก็นำ AI Solutions ที่ FiscalNote ฉันเห็นปัญหาเดียวกันเกิดขึ้นจากมุมมองที่แตกต่างกัน การกำกับดูแล AI เป็นปัญหาที่เกิดจากทั้งด้านสังคมและด้านเทคนิค แต่องค์กรส่วนใหญ่มีความพยายามที่จะแก้ไขปัญหาเหล่านี้ในลักษณะที่กระจัดกระจาย ทีมงานมักจะพิจารณาประสิทธิภาพ AI ความปลอดภัย ความเป็นส่วนตัว จริยธรรม และการตรวจสอบทางกฎหมายเป็นเส้นทางที่แยกจากกัน ซึ่งมักจะถูกควบคุมโดยหน่วยงานที่แตกต่างกันโดยไม่มีกระดูกสันหลังในการดำเนินการที่เชื่อมโยงระหว่างกัน

ในขณะเดียวกัน สภาพแวดล้อมด้านกฎระเบียบที่เกี่ยวข้องกับ AI กำลังเปลี่ยนแปลงอย่างชัดเจน ร่างกฎหมาย AI ของสหภาพยุโรปและมาตรฐานที่เกี่ยวข้องบ่งบอกถึงการเปลี่ยนแปลงจากการจัดลำดับความสำคัญของ AI เป็นโครงสร้างพื้นฐานที่ได้รับการควบคุมมากกว่าการพิจารณา AI เป็นเทคโนโลยีที่เป็นการทดลอง สิ่งที่ชัดเจนคือหลายองค์กรมีความพยายามที่จะนำนโยบายและความคาดหวังด้านกฎระเบียบมาใช้กับระบบ AI หลังจากที่ระบบเหล่านั้นได้รับการติดตั้งแล้ว แทนที่จะออกแบบการกำกับดูแลที่สามารถดำเนินการตามเจตนารมณ์ด้านกฎระเบียบได้อย่างต่อเนื่อง

ประสบการณ์ของฉันที่ FiscalNote มีความสำคัญเพราะเราได้นำ AI ไปใช้กับภูมิทัศน์ด้านนโยบาย กฎหมาย และการกำกับดูแลเอง เราได้ช่วยให้องค์กรต่างๆ เข้าใจว่ากฎหมายเปลี่ยนแปลงไปอย่างไร ว่าข้อกำหนดถูกตีความอย่างไร และว่าความคาดหวังด้านกฎระเบียบถูกแปลเป็นภาระผูกพันในการดำเนินงานอย่างไร ประสบการณ์นี้ทำให้ฉันเข้าใจว่าการกำกับดูแล AI ที่มีประสิทธิผลต้องใช้ระเบียบวินัยในทางกลับกัน: การนำความคิดด้านนโยบายและกฎระเบียบมาใช้กับการสร้าง ระบบ AI การติดตั้ง การตรวจสอบ และการปรับเปลี่ยนเมื่อสภาพแวดล้อมเปลี่ยนแปลง

ลูกค้าได้อธิบายจุดอ่อนที่เกิดขึ้นซ้ำๆ ว่าพวกเขาไม่สามารถตอบคำถามได้อย่างมั่นใจว่าระบบ AI ใดที่อยู่ในกระบวนการผลิต ระบบ AI ใดที่มีความเสี่ยงสูงภายใต้กฎระเบียบที่เกิดขึ้นใหม่ ใครรับผิดชอบเมื่อระบบข้ามพื้นที่หน้าที่ หรือวิธีการแสดงให้เห็นถึงการปฏิบัติตามข้อกำหนดอย่างต่อเนื่องเมื่อแบบจำลอง ข้อมูล ผู้ขาย และกฎระเบียบเปลี่ยนแปลงไปพร้อมๆ กัน

เมื่อเราทำการเปิดตัว Trustible ปัญหาแรกที่เราตั้งใจจะแก้ไขคือการเปลี่ยนการกำกับดูแลทางสังคมและเทคนิคจากทฤษฎีเป็นความเป็นจริง เราเน้นการสร้างระบบที่เชื่อมโยงพฤติกรรมทางเทคนิค บริบทความเสี่ยงของกรณีการใช้งาน ความเป็นเจ้าของ และความคาดหวังด้านกฎระเบียบไว้ในที่เดียว Trustible ถูกสร้างขึ้นเพื่อให้องค์กรมีระบบบันทึกที่มีชีวิตสำหรับ AI โดยมีการมองเห็นและความรับผิดชอบอย่างต่อเนื่อง เพื่อให้การกำกับดูแลสามารถตามทั้งการเปลี่ยนแปลงทางเทคโนโลยีและกฎระเบียบได้ ไม่ใช่ตามหลัง

จากแนวหน้า คุณได้เรียนรู้อะไรเกี่ยวกับเหตุผลที่โปรแกรมการกำกับดูแล AI ต้องหยุดชะงักเมื่อ AI เข้าสู่การตัดสินใจจริง กระบวนการทำงาน และประสบการณ์ของลูกค้า?

เมื่อ AI เข้าสู่กระบวนการทำงานจริง การกำกับดูแลมักจะหยุดชะงักเนื่องจากเหตุผลที่เป็นรูปธรรมมากกว่าเหตุผลเชิงปรัชญา ส่วนใหญ่องค์กรไม่ทราบวิธีการประเมินความเสี่ยงของ AI ในลักษณะที่สอดคล้องกับการใช้งานจริง พวกเขาสามารถประเมินแบบจำลองในบริบทที่ไม่เกี่ยวข้อง แต่พวกเขาต้องดิ้นรนในการประเมินความเสี่ยงในระดับกรณีการใช้งาน ซึ่งบริบท ผลกระทบ และการตัดสินใจในระยะยาวมีความสำคัญมากกว่าเมตริกทางเทคนิคเพียงอย่างเดียว

ปัญหานี้กลายเป็นเรื่องที่ซับซ้อนมากขึ้นเมื่อเผชิญกับ AI ที่สร้างขึ้นเอง AI ที่มีฐานรากเดียวกันอาจถูกใช้สำหรับการสนับสนุนลูกค้า การวิจัยภายใน การตัดสินใจสนับสนุน หรือการสร้างเนื้อหา แต่ละกรณีจะมีโปรไฟล์ความเสี่ยงที่แตกต่างกันอย่างมาก โดยไม่มีวิธีการแบบ 구조ในการประเมินและเปรียบเทียบการใช้งานเหล่านี้ ทีมงานอาจจะหมุนเกินไปด้วยความระมัดระวังหรือดำเนินการต่อโดยไม่มีความมั่นใจที่แท้จริง

AI ของบุคคลที่สามทำให้ปัญหาเลวร้ายยิ่งขึ้น องค์กรต่างๆ พึ่งพาผู้ขายและความสามารถ AI ที่ฝังตัว แต่ไม่มีวิธีการที่สอดคล้องกันในการประเมินระบบเหล่านี้ เข้าใจการควบคุมด้านต้น หรือกำหนดว่าความเสี่ยงของผู้ขายจะส่งผลกระทบต่อการเปิดเผยด้านกฎระเบียบและด้านการดำเนินงานของตนเองอย่างไร ดังนั้นการตรวจสอบจึงกลายเป็นเรื่องส่วนตัวและช้า

ความท้าทายเหล่านี้ถูกขยายใหญ่ขึ้นโดยช่องว่างในด้านความเชี่ยวชาญและความเป็นเจ้าของ ความรับผิดชอบด้านการกำกับดูแลมักจะกระจายไปทั่วทีมกฎหมาย ทีมการปฏิบัติตามข้อกำหนด ทีมความปลอดภัย ทีมข้อมูล และทีมผลิตภัณฑ์ โดยไม่มีกรอบหรือเจ้าของที่มีความรับผิดชอบอย่างชัดเจนเมื่อระบบเข้าสู่การผลิต เมื่อรวมกับเครื่องมือที่ไม่เหมาะสม เช่น สเปรดชีต ห้องเก็บเอกสาร หรือแพลตฟอร์ม GRC ในยุคก่อน ทีมงานการกำกับดูแลสูญเสียการมองเห็นในสิ่งที่เปลี่ยนแปลงไปและเหตุใดจึงมีความสำคัญ

ที่แก่นกลาง การกำกับดูแลหยุดชะงักเพราะองค์กรกำลังนำคู่มือเก่ามาใช้กับระบบ AI ที่มีการเปลี่ยนแปลงอย่างต่อเนื่อง AI ต้องการการประเมินความเสี่ยนที่ต่อเนื่อง ความเป็นเจ้าของที่ชัดเจนเชื่อมโยงกับผลลัพธ์ และเครื่องมือที่สะท้อนถึงวิธีการทำงานของระบบในกระบวนการผลิตจริง ไม่ใช่วิธีการที่ได้รับการอนุมัติในกระดาษ

สุดท้าย ความเป็นเจ้าของมักจะไม่ได้รับการแก้ไข ในหลายองค์กร ไม่มีผู้รับผิดชอบที่ชัดเจนสำหรับระบบ AI เมื่อระบบข้ามจากการทดลองเข้าสู่การผลิต โดยไม่มีผู้รับผิดชอบทางธุรกิจที่รับผิดชอบต่อผลลัพธ์ การกำกับดูแลจะกลายเป็นการให้คำแนะนำและความก้าวหน้าจะชะลอ

เส้นด้ายที่เชื่อมโยงทั้งหมดนี้คือองค์กรกำลังนำคู่มือการกำกับดูแลเก่ามาใช้กับเทคโนโลยีใหม่ล่าสุด คู่มือเหล่านี้ถูกสร้างขึ้นสำหรับระบบที่มีการเปลี่ยนแปลงน้อยและการตรวจสอบเป็นระยะ AI ต้องการการประเมินความเสี่ยงอย่างต่อเนื่อง ความเป็นเจ้าของที่ชัดเจน และเครื่องมือที่เชื่อมโยงการกำกับดูแลโดยตรงกับการดำเนินงานของระบบในกระบวนการผลิต

คุณกำหนดการกำกับดูแล AI ในปีที่สองอย่างไร และสิ่งใดที่เปลี่ยนแปลงเมื่อองค์กรเปลี่ยนจากการนำไปใช้ครั้งแรกไปสู่การตรวจสอบอย่างต่อเนื่อง การจัดการการเปลี่ยนแปลง และการปฏิบัติตามข้อกำหนดอย่างต่อเนื่อง?

การกำกับดูแล AI ในปีที่สองคือช่วงเวลาที่ AI หยุดถูกมองว่าเป็นโครงการๆ ไปเป็นโครงสร้างพื้นฐานสำหรับการตัดสินใจ สิ่งที่ฉันหมายถึงคือในช่วงปีแรก การกำกับดูแล AI ส่วนใหญ่เกี่ยวกับการทำให้สามารถใช้งานได้ ทีมงานมุ่งเน้นในการอนุมัติกรณีการใช้งาน การจัดทำเอกสาร และการวางกระบวนการตรวจสอบเพื่อให้ AI ดำเนินการต่ออย่างมีความรับผิดชอบ

เมื่อระบบ AI ขยายและกลายเป็นส่วนหนึ่งของกระบวนการธุรกิจหลัก จุดเน้นจะเปลี่ยนไป ไม่ใช่คำถามว่าสิ่งใดควรได้รับการติดตั้ง แต่ว่าสิ่งนั้นสามารถดำเนินการได้อย่างปลอดภัยและเชื่อถือได้ในระยะยาวเมื่อข้อมูล ผู้ใช้ ผู้ขาย และกฎระเบียบเปลี่ยนแปลง การกำกับดูแล AI กลายเป็นเรื่องที่ต่อเนื่องมากกว่าการตรวจสอบเป็นระยะ ซึ่งถูกกระตุ้นโดยการเปลี่ยนแปลงจริงในพฤติกรรมหรือบริบทมากกว่าการตรวจสอบตามปฏิทิน

ความเสี่ยงก็กลายเป็นเรื่องแบบไดนามิก แทนที่จะกำหนดอันดับความเสี่ยงแบบคงที่เมื่อเปิดตัว องค์กรต้องเข้าใจว่าความเสี่ยงเปลี่ยนแปลงไปอย่างไรเมื่อแบบจำลองเปลี่ยนแปลง หรือสโคปขยาย หรือมีผู้มีส่วนได้ส่วนเสียใหม่เข้ามาใช้งานระบบ การปฏิบัติตามข้อกำหนดก็เปลี่ยนแปลงไปในลักษณะเดียวกัน ข้อกำหนดด้านกฎระเบียบเปลี่ยนจากการที่ถูกแมปกับกรมการปกครองไปสู่การบังคับใช้โดยตรงผ่านการควบคุมแบบเรียลไทม์ สัญญาณการตรวจสอบ และหลักฐานที่ถูกจับได้อย่างต่อเนื่อง

อีกด้านหนึ่งของการกำกับดูแล AI ในปีที่สองคือการนำระบบการจัดการเหตุการณ์ AI ที่แท้จริงมาใช้ องค์กรต้องทราบว่าระบบใดที่ถูกตรวจสอบ จัดลำดับความสำคัญตามความเสี่ยงที่มีอยู่ รวมข้อมูลที่ถูกต้องเพื่อแสดงสัญญาณที่มีความหมาย และกำหนดเกณฑ์การเตือนและขั้นตอนการเพิ่มระดับอย่างชัดเจน ซึ่งช่วยให้ทีมสามารถเข้าแทรกแซงได้เร็วๆ นี้ก่อนที่ปัญหาเหล่านั้นจะกลายเป็นเหตุการณ์

เมื่อระบบกระจัดกระจายและมีทรัพยากรที่จำกัด ความสามารถในการกำกับดูแล AI อะไรที่คุณคิดว่าบริษัทควรมาตรฐานข้ามทั้งองค์กร?

เมื่อทรัพยากรมีจำกัด องค์กรต้องเลือกจุดเริ่มต้นที่เหมาะสมเพราะตัวเลือกแรกๆ จะกำหนดทิศทางสำหรับทุกสิ่งที่ตามมา จุดแรกที่ควรให้ความสำคัญคือการได้รับการมองเห็นที่เชื่อถือได้เกี่ยวกับตำแหน่งของ AI ในธุรกิจ หลายทีมเชื่อว่าพวกเขาได้เพียงระบบ AI ไม่กี่ระบบ แต่พบว่ามี AI ที่ซ่อนอยู่ ความสามารถของ AI ที่ฝังตัว และกรณีการใช้งานที่ขยายตัวอย่างเงียบๆ ซึ่งไม่เคยได้รับการตรวจสอบอย่างเป็นทางการ

เมื่อมีการมองเห็นแล้ว ผ่านการทำรายการสินค้า AI ของคุณ คือการนำความรับผิดชอบเข้ามาในกรณีการใช้งาน AI การกำกับดูแลจะล้มเหลวอย่างรวดเร็วเมื่อความรับผิดชอบถูกกระจายไปทั่วคณะกรรมการหรือหน้าที่ องค์กรต้องมอบหมายอย่างชัดเจนถึงใครที่รับผิดชอบต่อผลลัพธ์เมื่อระบบ AI ตัดสินใจหรือมีอิทธิพลต่อการตัดสินใจ ไม่ใช่แค่ใครสร้างหรือตรวจสอบระบบในตอนแรกเท่านั้น

จากนั้น ทีมงานต้องมีวิธีการปฏิบัติที่เป็นรูปธรรมในการพิจารณาความเสี่ยง ซึ่งหมายถึงการสร้างแนวทางในการจัดประเภทความเสี่ยงที่ใช้ได้ทั่วทั้งระบบ AI ที่สร้างขึ้นภายใน ระบบ AI ที่สร้างขึ้นเอง และผู้ขายบุคคลที่สาม โดยไม่มีมุมมองความเสี่ยงที่ใช้ร่วมกัน องค์กรจะตรวจสอบระบบที่มีความเสี่ยงต่ำมากเกินไป หรือตรวจสอบระบบที่สำคัญที่สุดไม่เพียงพอ

สุดท้าย การกำกับดูแลต้องสร้างหลักฐานเป็นผลพลอยได้จากการดำเนินงานปกติ เรามักจะพูดถึง “Say It, Do It, Prove It” เป็นวิธีการแสดงให้เห็นถึงความน่าเชื่อถือในระบบการกำกับดูแล AI ของคุณ การจับข้อมูลการอนุมัติ การเปลี่ยนแปลง และสัญญาณการตรวจสอบเมื่อระบบทำงานช่วยให้องค์กรสามารถตอบสนองต่อการตรวจสอบ การเกิดขึ้นของเหตุการณ์ คำขอของลูกค้า และคำถามด้านกฎระเบียบด้วยความมั่นใจมากกว่าการสร้างขึ้นใหม่

คุณเชื่อว่าทำไมการกำกับดูแล AI จึงต้องได้รับการปฏิบัติเหมือนกับการรักษาความปลอดภัยหรือ GRC และที่ไหนที่ผู้นำมักจะประเมินภาระการทำงานด้านการดำเนินงานต่ำเกินไป?

การกำกับดูแล AI มีความเสี่ยงที่เป็นระบบที่เทียบเท่ากับการรักษาความปลอดภัยและ GRC แต่มีความซับซ้อนเพิ่มขึ้น เช่นเดียวกับการล้มเหลวด้านการรักษาความปลอดภัย การล้มเหลวของ AI สามารถแพร่กระจายได้อย่างรวดเร็วและไม่มองเห็นได้ทั่วทั้งองค์กร เช่นเดียวกับ GRC AI ตัดกับภาระผูกพันทางกฎหมาย จริยธรรม และการดำเนินงาน แต่ไม่เหมือนกับทั้งสองอย่าง ระบบ AI สามารถเปลี่ยนแปลงพฤติกรรมโดยไม่มีการกระทำของมนุษย์อย่างชัดเจน

ที่ผู้นำมักจะประเมินต่ำเกินไปคือในความต้องการการดำเนินงานอย่างต่อเนื่อง การตรวจสอบเป็นเรื่องที่ต่อเนื่องมากกว่าการตรวจสอบเป็นระยะ การประสานงานครอบคลุมทีมผลิตภัณฑ์ ทีมข้อมูล ทีมไอที ทีมกฎหมาย ทีมการปฏิบัติตามข้อกำหนด และทีมจัดซื้อ การเปลี่ยนแปลงเป็นเรื่องปกติเพราะแบบจำลอง ผู้ขาย กรณีการใช้งาน และกฎระเบียบเปลี่ยนแปลงไปพร้อมๆ กัน

องค์กรที่ปฏิบัติต่อการกำกับดูแล AI เป็นการออกกำลังกายเพียงครั้งเดียวในการปฏิบัติตามข้อกำหนดมักจะดิ้นรน ผู้ที่เข้าใกล้สิ่งนี้ในฐานะโครงสร้างพื้นฐานในการดำเนินงาน เช่นเดียวกับการรักษาความปลอดภัยหรือวิศวกรรมความน่าเชื่อถือ มีความพร้อมที่จะขยาย AI ได้อย่างปลอดภัยและยั่งยืนมากกว่า

เมื่อรัฐในสหรัฐอเมริกากำลังผลักดันกฎเกณฑ์ AI ในขณะที่นโยบายของรัฐบาลกลางยังคงถูกโต้แย้ง องค์กรควรออกแบบการกำกับดูแลให้สามารถทนต่อความไม่แน่นอนด้านกฎระเบียบได้อย่างไร?

สภาพแวดล้อมด้านกฎระเบียบสำหรับ AI ไม่แน่นอนและกำลังพัฒนา โปรแกรมการกำกับดูแลที่มีความยืดหยุ่นที่สุดถูกสร้างขึ้นรอบๆ ข้อกำหนดมากกว่ากฎระเบียบเฉพาะ แทนที่จะตอบสนองต่อกฎหมายใหม่ๆ ด้วยกระบวนการแบบเฉพาะเจาะจง องค์กรควรเน้นไปที่ความคาดหวังที่พบบ่อยซึ่งปรากฏขึ้นทั่วเขตอำนาจศาล เช่น การทำรายการสินค้า ความโปร่งใส ความรับผิดชอบ การประเมินความเสี่ยง การกำกับดูแลของมนุษย์ และเอกสาร

เมื่อระบบการกำกับดูแลมีโครงสร้างแบบโมดูลาร์ ข้อกำหนดด้านกฎระเบียบใหม่สามารถถูกแมปเข้ากับระบบการควบคุมที่มีอยู่ได้ แทนที่จะบังคับให้ทีมต้องสร้างกระบวนการใหม่ทุกครั้งที่ภูมิทัศน์เปลี่ยนแปลง สิ่งนี้จะลดความตึงเครียดและช่วยให้การกำกับดูแลสามารถตามทันการเปลี่ยนแปลงนโยบายได้

เป้าหมายไม่ใช่การเพิ่มประสิทธิภาพให้สูงสุดสำหรับการปฏิบัติตามข้อกำหนดในปัจจุบัน แต่เพื่อปรับตัวให้เข้ากับการเปลี่ยนแปลงที่คาดหวัง

เมื่อมองไปสู่ปี 2026 คุณคาดหวังว่าความสามารถในการกำกับดูแล AI ใดที่จะกลายเป็นสิ่งจำเป็นเมื่อองค์กรขยาย AI ไปทั่วหน่วยธุรกิจมากขึ้น?

เมื่อ AI กลายเป็นระบบที่กำหนดการตัดสินใจในโลกแห่งความเป็นจริง คาดหวังด้านการกำกับดูแลจะเปลี่ยนแปลงไปอย่างรวดเร็ว ในปี 2026 องค์กรจะไม่สามารถพึ่งพาคู่มือการกำกับดูแลที่ใช้ได้ผลในปี 2024 และ 2025 เมื่อการกำกับดูแล AI มักจะถูกมองว่าเป็นการตรวจสอบแบบคู่คี่และจุดเดียว การตรวจสอบอย่างต่อเนื่องจะกลายเป็นเรื่องพื้นฐาน เพราะเอกสารที่ไม่เปลี่ยนแปลงและการประเมิน ณ จุดหนึ่งจะไม่สามารถตอบสนองต่อผู้กำกับดูแล ผู้บริหาร董事 หรือลูกค้าในโลก AI ที่มีการเปลี่ยนแปลงอย่างรวดเร็ว

เมื่อ AI ถูกฝังอยู่ในทีมและกระบวนการทำงานที่ซับซ้อนมากขึ้น องค์กรจะต้องมีการกำกับดูแลที่สอดคล้องกันตลอดห่วงโซ่อุปทาน AI ที่ซับซ้อน ซึ่งรวมถึงแบบจำลองภายใน บริษัทผู้ขาย คุณลักษณะ AI ที่ฝังตัว และส่วนประกอบอัตโนมัติ ทั้งหมดนี้จะต้องถูกกำกับดูแลผ่านเลนส์เดียวกัน ไม่ใช่การรักษาความปลอดภัยของ AI ของบุคคลที่สามเป็นจุดบอดหรือสมมติว่าความรับผิดชอบสิ้นสุดลงเมื่อจบกระบวนการซื้อ

หลักฐานที่พร้อมสำหรับการตรวจสอบจะต้องพร้อมใช้งานตามความต้องการเมื่อการบังคับใช้กฎระเบียบด้านกฎระเบียบรุนแรงขึ้นและความคาดหวังด้านความโปร่งใสของสาธารณชนเพิ่มขึ้น สิ่งนี้หมายถึงการจับกิจกรรมด้านการกำกับดูแลเมื่อระบบ AI ถูกออกแบบ ติดตั้ง และตรวจสอบ ไม่ใช่การสร้างขึ้นใหม่หลังเกิดเหตุการณ์หรือคำขอการตรวจสอบ

สุดท้าย การกำกับดูแลจะต้องถูกฝังอยู่ตลอดวงจรชีวิตของ AI การกำกับดูแลจะไม่เป็นการตรวจสอบทางกฎหมายในขณะติดตั้ง แต่จะเป็นความสามารถในการดำเนินงานที่ถูกบูรณาการเข้ากับ SDLC, MLOps และกระบวนการซื้อของบุคคลที่สาม องค์กรที่สร้างความสามารถเหล่านี้จะพร้อมที่จะปรับตัวให้เข้ากับความไม่แน่นอนด้านกฎระเบียบ ตอบสนองต่อเหตุการณ์ และขยาย AI ได้เร็วขึ้นและปลอดภัยยิ่งขึ้นเมื่อคาดหวังต่อไป

หากคุณกำลังให้คำแนะนำแก่บริษัทที่มี AI อยู่ในกระบวนการผลิตแล้วแต่ไม่มีโปรแกรมการกำกับดูแลอย่างเป็นทางการ สิ่งที่คุณจะแนะนำให้ทำใน 90 วันแรก?

30 วันแรกควรเน้นไปที่การได้รับการมองเห็นขั้นพื้นฐาน ซึ่งหมายถึงการระบุว่าระบบ AI ใดที่อยู่ในกระบวนการผลิต ทำความเข้าใจว่าพวกมันส่งผลกระทบต่อการตัดสินใจจริง และการมอบหมายความเป็นเจ้าของที่ชัดเจน

ระยะถัดไปคือการสร้างการควบคุมขั้นพื้นฐาน องค์กรควรจะกำหนดวิธีการจัดประเภทความเสี่ยงของตน ให้การอนุมัติสำหรับระบบที่มีความเสี่ยงสูง และเริ่มการตรวจสอบในพื้นที่ที่สำคัญที่สุด

ในช่วงสุดท้าย การกำกับดูแลต้องเปลี่ยนจากการตั้งค่าไปสู่การดำเนินงาน การตรวจสอบควรจะถูกบูรณาการเข้ากับกระบวนการทำงานที่มีอยู่แล้ว เส้นทางการเพิ่มระดับควรจะถูกกำหนดอย่างชัดเจน และหลักฐานควรจะเริ่มสะสมตามธรรมชาติเมื่อระบบทำงาน

เป้าหมายในช่วง 90 วันแรกไม่ใช่ความสมบูรณ์แบบ แต่เป็นแรงผลักดัน โปรแกรมการกำกับดูแลที่ทำงานไม่สมบูรณ์ในการปฏิบัติเป็นสิ่งที่มีค่ามากกว่าโปรแกรมที่มีเพียงบนกระดาษ”

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Trustible เพื่อเรียนรู้เพิ่มเติม