ผู้นำทางความคิด

การกำกับดูแล AI ล้มเหลว เนื่องจากบริษัทต่างๆ กำลังแก้ปัญหาผิด

Patrick Sullivan
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญการกำกับดูแลเอไอล้มเหลวเมื่อนำไปวางซ้อนบนระบบเดิม…
ดูเพิ่มเติม
  • การกำกับดูแลเอไอล้มเหลวเมื่อนำไปวางซ้อนบนระบบเดิม แทนที่จะถูกฝังลงในการตัดสินใจตั้งแต่เริ่มแรก
  • การกำกับดูแลที่มีประสิทธิภาพจะทำให้เอไอสอดคล้องกับเป้าหมายทางธุรกิจและจริยธรรม แทนที่จะเป็นการจำกัดนวัตกรรม
  • การมีเจ้าของและความรับผิดชอบที่ชัดเจนต่อความเสี่ยงจากเอไอ ช่วยให้สามารถนำไปใช้งานได้รวดเร็วและมีความรับผิดชอบมากขึ้น

องค์กรต่างๆ กำลังเคลื่อนไหวอย่างรวดเร็วในการใช้ AI ในหลายๆ ด้านของธุรกิจ ตั้งแต่การบริการลูกค้าไปจนถึง การวิเคราะห์ การดำเนินงาน และขั้นตอนการทำงานภายใน – ทั้งหมดนี้เพื่อการแข่งขัน แต่การปรับโครงสร้างกำลังงานและการลงทุนในระบบอัตโนมัติแสดงให้เห็นว่าองค์กรต่างๆ กำลังออกแบบงานใหม่รอบๆ ความสามารถของ AI อย่างรวดเร็ว แม้ว่าจะมีการนำ AI ไปใช้อย่างรวดเร็ว แต่การกำกับดูแลก็ยังตกหล่นอยู่เบื้องหลัง

การวิจัยของอุตสาหกรรม แสดงให้เห็นว่า มีเพียงประมาณหนึ่งในสามขององค์กรที่ใช้ AI มีกลยุทธ์ในการปฏิบัติตามกฎระเบียบหรือการกำกับดูแลอย่างเป็นทางการ ผลลัพธ์คือช่องว่างที่กว้างขึ้นระหว่างนวัตกรรมและการกำกับดูแล และความท้าทายไม่ใช่แค่ว่าการกำกับดูแลช้าหรือไม่สมบูรณ์ แต่เป็นปัญหาเชิงโครงสร้างที่ลึกกว่านั้น

หลายองค์กรพยายามที่จะกำกับดูแลผลลัพธ์ของ AI โดยไม่ต้องออกแบบระบบใหม่ที่ผลิตการตัดสินใจโดย AI ในตอนแรก การกำกับดูแลที่ถูกวางไว้หลังจากการนำไปใช้ย่อมสร้างแรงเสียดทานอย่างหลีกเลี่ยงไม่ได้ แต่การกำกับดูแลที่ถูกฝังอยู่ในกระบวนการตัดสินใจจะกลายเป็นตัวช่วยให้ธุรกิจ สิ่งที่แตกต่างคือว่า AI จะกลายเป็นข้อได้เปรียบในการแข่งขันหรือแหล่งที่มาของความเสี่ยงในการดำเนินงานและชื่อเสียง

ดังนั้น วิธีการหนึ่งที่จะข้ามช่องว่างระหว่างนวัตกรรมและการกำกับดูแลคืออะไร มาเจาะลึกกัน

ช่องว่างระหว่างนวัตกรรมและการกำกับดูแลคือช่องว่างของระบบ

โดยทั่วไปแล้ว องค์กรไม่ได้ ตั้งใจ ที่จะเพิกเฉยต่อความกังวลเรื่องการกำกับดูแล แต่พวกเขากำลังพยายามที่จะนำกรอบการกำกับดูแลไปใช้ในโครงสร้างองค์กรที่มีอยู่ซึ่งไม่ได้ออกแบบมาเพื่อจัดการการตัดสินใจอัตโนมัติในระดับใหญ่

โครงการ AI มักจะเคลื่อนไหวเร็วกว่ากระบวนการปฏิบัติตามกฎระเบียบและความเสี่ยง เนื่องจากหลายสาเหตุ การเป็นเจ้าของ ความเสี่ยงของ AI ไม่ชัดเจน โดยมีการแบ่งความรับผิดชอบระหว่าง IT ความปลอดภัย และการปฏิบัติตามกฎระเบียบ ดังนั้น การตัดสินใจจึงถูกกระจายไปทั่วคณะกรรมการและกลุ่มตรวจสอบที่ทำให้ความรับผิดชอบกระจายออกไป ระบบการกำกับดูแลมักจะเกี่ยวข้องหลังจากที่ระบบถูกนำไปใช้แล้ว แทนที่จะเกี่ยวข้องก่อนที่การตัดสินใจอัตโนมัติจะส่งผลกระทบต่อลูกค้าและดำเนินงาน

ช่องว่างโครงสร้างเหล่านี้นำไปสู่ผลลัพธ์ที่คาดการณ์ได้: ความเสี่ยงด้านกฎระเบียบจากผลลัพธ์ที่มีอคติหรือมีข้อบกพร่อง การหยุดชะงักในการดำเนินงานเมื่อระบบอัตโนมัติล้มเหลวโดยไม่มีใครสังเกตเห็น และความเสียหายต่อชื่อเสียงเมื่อตัดสินใจของ AI ขัดแย้งกับค่านิยมของบริษัทหรือความคาดหวังของลูกค้า ปัญหาไม่ใช่การขาดความพยายาม แต่เป็นปัญหาในการออกแบบระบบ

องค์กรไม่สามารถปรับปรุงผลลัพธ์ของ AI ได้โดยไม่ต้องออกแบบใหม่ว่าการตัดสินใจ ความรับผิดชอบ และการกำกับดูแลทำงานอย่างไรทั่วทั้งองค์กร

การกำกับดูแลต้องเป็นเรื่องของความสอดคล้อง ไม่ใช่การจำกัด

ในเวลาเดียวกัน การอภิปรายเรื่องการกำกับดูแลมักจะหยุดชะงักเพราะมันถูกมองว่าเป็นการจำกัดนวัตกรรม ทีมงานมักจะรู้สึกว่าการกำกับดูแลเป็นสิ่งที่ชะลอการนำไปใช้หรือเพิ่มภาระการปฏิบัติตามกฎระเบียบ การมองเห็นดังกล่าวสร้างความต้านทานตามธรรมชาติ

ในความเป็นจริง การกำกับดูแลควรเป็นเรื่องของ ความสอดคล้อง การตัดสินใจโดย AI ต้องสอดคล้องกับเจตนารมณ์ของผู้นำ ความเสี่ยงที่ยอมรับได้ต้องชัดเจนและเข้าใจกันในทีม ความรับผิดชอบต้องถูกกำหนดอย่างชัดเจนและเป็นที่รู้จัก

ลูกค้า พันธมิตร และหน่วยงานกำกับดูแลมองว่าองค์กรต่างๆ ในเรื่องของการนำนวัตกรรมไปใช้อย่างรับผิดชอบ นั่นคือที่ที่การกำกับดูแลมีประสิทธิภาพ มันสนับสนุนนวัตกรรมโดยการรับรองความโปร่งใสในการตัดสินใจ การกำหนดความรับผิดชอบและช่องทางยกระดับปัญหาอย่างชัดเจน และการให้ความมั่นใจว่าผลลัพธ์ของ AI สอดคล้องกับวัตถุประสงค์ทางธุรกิจและความคาดหวังทางจริยธรรม เมื่อมันถูกฝังอยู่อย่างเหมาะสม มันจะกลายเป็นฟังก์ชันการจัดการมากกว่าภาระผูกพันในการปฏิบัติตามกฎระเบียบ

คุณไม่สามารถติดการกำกับดูแลเข้ากับระบบที่เสียหายได้

หลายองค์กรเริ่มต้นการกำกับดูแลโดยการวางนโยบายและกระบวนการอนุมัติลงบนโครงสร้างองค์กรที่มีอยู่ แม้ว่ามันจะดี แต่วิธีการนี้มักจะรักษาความกระจัดกระจายและชะลอการตัดสินใจโดยไม่ต้องแก้ไขปัญหาหลัก วิธีที่มีประสิทธิภาพมากกว่าคือการเริ่มต้นด้วยคำถามพื้นฐาน: ใครเป็นเจ้าของการตัดสินใจความเสี่ยงของ AI? ใครมีอำนาจในการอนุมัติหรือหยุดการนำไปใช้เมื่อความเสี่ยงเกิดขึ้น?

จากนั้น การกำกับดูแลสามารถดำเนินการผ่านขั้นตอนที่ใช้ได้ องค์กรต้องประเมินว่า AI มีอิทธิพลต่อการตัดสินใจอยู่ที่ไหน การใช้ AI ควรจะถูกทำแผนที่กับภาระผูกพันทางกฎระเบียบและความเสี่ยงทางธุรกิจ ซึ่งจะทำให้การตรวจสอบความเสี่ยงและการอนุมัติกลายเป็นส่วนหนึ่งของกระบวนการนำไปใช้ ไม่ใช่สิ่งที่ตามมา

การติดตามอย่างต่อเนื่องและกระบวนการยกระดับปัญหาก็มีความจำเป็นเช่นกันเพื่อจับข้อผิดพลาดในระยะแรก ทีมงานต้องการการฝึกอบรมเกี่ยวกับความเสี่ยงของ AI ความรับผิดชอบ และการใช้ที่รับผิดชอบ เพื่อให้การกำกับดูแลกลายเป็นส่วนหนึ่งของการดำเนินงานประจำวัน สุดท้าย กรอบการกำกับดูแลที่ขยายขนาดได้และแพลตฟอร์มที่รองรับจะช่วยให้สามารถรักษาความสอดคล้องได้เมื่อการใช้ AI ขยายตัว

เป้าหมายไม่ใช่การชะลอการไหลของการตัดสินใจ แต่เพื่อออกแบบใหม่เพื่อให้การตัดสินใจที่รับผิดชอบเกิดขึ้นได้เร็วขึ้นและมีเหตุการณ์ไม่คาดคิดน้อยลง

การกำกับดูแลที่เข้มแข็งเปลี่ยนพฤติกรรม

เมื่อโครงการ AI ล้มเหลว องค์กรมักจะตำหนิพนักงานที่ข้ามนโยบายหรือใช้เครื่องมือโดยไม่มีการกำกับดูแล ในความเป็นจริง พฤติกรรมของพนักงานมักจะสะท้อนถึงสิ่งจูงใจของระบบและโครงสร้างการออกแบบ

หากทีมงานได้รับการตอบแทนสำหรับความเร็วโดยไม่มีการรับผิดชอบที่ชัดเจน เครื่องมือ AI จะถูกใช้โดยไม่มีการตรวจสอบเพียงพอ ซึ่งนำไปสู่การแพร่กระจายของการนำ AI ไปใช้โดยไม่มีการกำกับดูแล โดยเฉพาะอย่างยิ่งเมื่อกระบวนการกำกับดูแลไม่ชัดเจนหรือยุ่งยาก พนักงานมักจะเลือกเส้นทางที่มีการต้านทานน้อยที่สุด – ซึ่งมักจะนำไปสู่การปฏิบัติตามการกำกับดูแลที่ไม่ดี

ในทางกลับกัน เมื่อความรับผิดชอบกลายเป็นที่รู้จักและอำนาจในการตัดสินใจชัดเจน พฤติกรรมจะเปลี่ยนแปลงไปตามธรรมชาติ แม้จะดูขัดแย้งกัน องค์กรที่มีโครงสร้างการกำกับดูแลที่เข้มแข็งมักจะนำ AI ไปใช้เร็วกว่าเพราะความเสี่ยงจะปรากฏออกมาเร็วขึ้น อำนาจในการตัดสินใจถูกกำหนดไว้ และมีเหตุการณ์ไม่คาดคิดในช่วงท้ายที่บังคับให้ชะลอหรือย้อนกลับการนำไปใช้น้อยลง มันเป็นองค์กรที่เลื่อนการกำกับดูแลที่มักจะประสบกับการผิดพลาดสาธารณะ การตรวจสอบด้านกฎระเบียบ และการแก้ไขที่มีค่าใช้จ่ายซึ่งจะชะลอการนำนวัตกรรมไปใช้มากกว่าการกำกับดูแลที่กระตือรือร้น

การกำกับดูแล AI เป็นการตัดสินใจของฝ่ายบริหารสูงสุด

การกำกับดูแล AI ไม่สามารถประสบความสำเร็จ โดยการเพิ่มการกำกับดูแลหลังจากที่นวัตกรรมเกิดขึ้นแล้ว มันจะต้องกลายเป็นส่วนหนึ่งของวิธีที่องค์กรตัดสินใจ รับผิดชอบ และจัดการความเสี่ยงตลอดทั้งองค์กร ผู้บริหารต้องเผชิญกับการตัดสินใจที่คุ้นเคย: การปรับระบบการจัดการที่มีอยู่ต่อไปโดยยอมรับการล้มเหลวในการกำกับดูแลซ้ำๆ หรือการออกแบบโครงสร้างความรับผิดชอบและการกำกับดูแลใหม่เพื่อสนับสนุนการดำเนินงานที่ขับเคลื่อนด้วย AI

องค์กรที่มองว่าการกำกับดูแลเป็นโครงสร้างพื้นฐานเชิงกลยุทธ์ โดย ลงทุน ในการกำกับดูแล ความรับผิดชอบ และกรอบการทำงานที่ขยายขนาดได้ — จะนำ AI ไปใช้ได้เร็วขึ้นและมีความมั่นใจมากขึ้น ในขณะที่ปกป้องความไว้วางใจของผู้มีส่วนได้ส่วนเสีย ในยุคที่ AI มีอิทธิพลต่อผลลัพธ์ทางธุรกิจมากขึ้น การกำกับดูแลไม่ใช่สิ่งกีดขวางนวัตกรรม แต่เป็นรากฐานที่ทำให้นวัตกรรมสามารถขยายตัวได้อย่างรับผิดชอบ

แพทริก ซัลลิแวน เป็น รองประธานฝ่ายกลยุทธ์และนวัตกรรม ที่ A-LIGN โดยเชี่ยวชาญด้าน การกำกับดูแล AI ความปลอดภัยด้านไอที และการปฏิบัติตามข้อกำหนด โดยมีประสบการณ์มากกว่า 25 ปีในอุตสาหกรรม แพทริกมุ่งเน้นในการให้คำแนะนำเชิงกลยุทธ์และการสนับสนุนลูกค้าและพันธมิตรของเรา ช่วยให้พวกเขาเดินผ่านภูมิทัศน์ที่ซับซ้อนและเปลี่ยนแปลงอย่างต่อเนื่องของ การกำกับดูแล AI ความมั่นคงปลอดภัยทางไซเบอร์ และการปฏิบัติตามข้อกำหนด ความเชี่ยวชาญของเขาเป็นเครื่องมือสำคัญในการช่วยให้องค์กรบรรลุเป้าหมายเชิงกลยุทธ์ด้านความปลอดภัยและการปฏิบัติตามข้อกำหนดอย่างมีประสิทธิภาพ