การกำกับดูแล AI ล้มเหลว เนื่องจากบริษัทต่างๆ กำลังแก้ปัญหาผิด

องค์กรต่างๆ กำลังเคลื่อนไหวอย่างรวดเร็วในการใช้ AI ในหลายๆ ด้านของธุรกิจ ตั้งแต่การบริการลูกค้าไปจนถึง การวิเคราะห์ และการดำเนินงานภายใน – ทั้งหมดนี้เพื่อการแข่งขัน แต่การปรับโครงสร้างกำลังงานและการลงทุนในระบบอัตโนมัติแสดงให้เห็นว่าองค์กรต่างๆ กำลังออกแบบงานใหม่รอบๆ ความสามารถของ AI อย่างรวดเร็ว แม้ว่าจะมีการนำ AI ไปใช้อย่างรวดเร็ว แต่การกำกับดูแลก็ยังตกหล่นอยู่เบื้องหลัง

การวิจัยของอุตสาหกรรม แสดงให้เห็นว่า มีเพียง约หนึ่งในสามขององค์กรที่ใช้ AI มีกลยุทธ์ในการปฏิบัติตามกฎระเบียบหรือการกำกับดูแลอย่างเป็นทางการ ผลลัพธ์คือช่องว่างที่กว้างขึ้นระหว่างนวัตกรรมและการกำกับดูแล และความท้าทายไม่ใช่แค่ว่าการกำกับดูแลช้าหรือไม่สมบูรณ์ แต่เป็นปัญหาที่ลึกกว่านั้น

หลายองค์กรพยายามที่จะกำกับดูแลผลลัพธ์ของ AI โดยไม่ต้องออกแบบระบบใหม่ที่ผลิตการตัดสินใจโดย AI ในตอนแรก การกำกับดูแลที่ถูกวางไว้หลังจากการนำไปใช้จะสร้างความเสี่ยง แต่การกำกับดูแลที่ถูกฝังอยู่ในกระบวนการตัดสินใจจะกลายเป็นตัวช่วยให้ธุรกิจ สิ่งที่แตกต่างคือว่า AI จะกลายเป็นข้อได้เปรียบในการแข่งขันหรือแหล่งที่มาของความเสี่ยงในการดำเนินงานและชื่อเสียง

ดังนั้น วิธีการหนึ่งที่จะข้ามช่องว่างระหว่างนวัตกรรมและการกำกับดูแลคืออะไร มาเจาะลึกกัน

ช่องว่างระหว่างนวัตกรรมและการกำกับดูแลคือช่องว่างของระบบ

โดยทั่วไปแล้ว องค์กรไม่ได้ ตั้งใจ ที่จะเพิกเฉยต่อความกังวลเรื่องการกำกับดูแล แต่พวกเขากำลังพยายามที่จะนำกรอบการกำกับดูแลไปใช้ในโครงสร้างองค์กรที่มีอยู่ซึ่งไม่ได้ออกแบบมาเพื่อจัดการการตัดสินใจอัตโนมัติในระดับใหญ่

โครงการ AI มักจะเคลื่อนไหวเร็วกว่ากระบวนการปฏิบัติตามกฎระเบียบและความเสี่ยง เนื่องจากหลายสาเหตุ การเป็นเจ้าของ ความเสี่ยงของ AI ไม่ชัดเจน โดยมีการแบ่งความรับผิดชอบระหว่าง IT ความปลอดภัย และการปฏิบัติตามกฎระเบียบ ดังนั้น การตัดสินใจจึงถูกกระจายไปทั่วคณะกรรมการและกลุ่มที่ปรึกษาที่ทำให้ความรับผิดชอบกระจายออกไป ระบบการกำกับดูแลมักจะเกี่ยวข้องหลังจากที่ระบบถูกนำไปใช้แล้ว แทนที่จะเกี่ยวข้องก่อนที่การตัดสินใจอัตโนมัติจะส่งผลกระทบต่อลูกค้าและดำเนินงาน

ช่องว่างโครงสร้างเหล่านี้นำไปสู่ผลลัพธ์ที่คาดการณ์ได้: การเสี่ยงต่อการถูกฟ้องร้องจากผลลัพธ์ที่มีอคติหรือมีข้อบกพร่อง การหยุดชะงักในการดำเนินงานเมื่อระบบอัตโนมัตिफ้องล้มเหลวอย่างเงียบๆ และความเสียหายต่อชื่อเสียงเมื่อตัดสินใจของ AI ขัดแย้งกับค่านิยมของบริษัทหรือความคาดหวังของลูกค้า ปัญหาไม่ใช่การขาดความพยายาม แต่เป็นปัญหาในการออกแบบระบบ

องค์กรไม่สามารถปรับปรุงผลลัพธ์ของ AI ได้โดยไม่ต้องออกแบบใหม่ว่าการตัดสินใจ ความรับผิดชอบ และการกำกับดูแลทำงานอย่างไรทั่วทั้งองค์กร

การกำกับดูแลต้องเป็นเรื่องของการเทียบเคียง ไม่ใช่การจำกัด

ในเวลาเดียวกัน การอภิปรายเรื่องการกำกับดูแลมักจะหยุดชะงักเพราะมันถูกมองว่าเป็นการจำกัดนวัตกรรม ทีมงานมักจะรู้สึกว่าการกำกับดูแลเป็นสิ่งที่ชะลอการนำไปใช้หรือเพิ่มภาระการปฏิบัติตามกฎระเบียบ การมองเห็นดังกล่าวสร้างความต้านทานตามธรรมชาติ

ในความเป็นจริง การกำกับดูแลควรเป็นเรื่องของ การเทียบเคียง การตัดสินใจโดย AI ต้องสอดคล้องกับเจตนารมณ์ของผู้นำ ความเสี่ยงที่ยอมรับได้ต้องชัดเจนและเข้าใจกันในทีม ความรับผิดชอบต้องถูกกำหนดอย่างชัดเจนและเป็นที่รู้จัก

ลูกค้า พันธมิตร และหน่วยงานกำกับดูแลมองว่าองค์กรต่างๆ ในเรื่องของการนำนวัตกรรมไปใช้อย่างรับผิดชอบ นั่นคือที่ที่การกำกับดูแลมีประสิทธิภาพ มันสนับสนุนนวัตกรรมโดยการรับรองความโปร่งใสในการตัดสินใจ การตั้งค่าความรับผิดชอบและเส้นทางการเพิ่มขึ้น และการให้ความมั่นใจว่าผลลัพธ์ของ AI สอดคล้องกับวัตถุประสงค์ทางธุรกิจและความคาดหวังทางจริยธรรม เมื่อมันถูกฝังอยู่อย่างเหมาะสม มันจะกลายเป็นฟังก์ชันการจัดการมากกว่าภาระผูกพันในการปฏิบัติตามกฎระเบียบ

คุณไม่สามารถติดการกำกับดูแลเข้ากับระบบที่เสียหายได้

หลายองค์กรเริ่มต้นการกำกับดูแลโดยการวางนโยบายและกระบวนการอนุมัติลงบนโครงสร้างองค์กรที่มีอยู่ แม้ว่ามันจะดี แต่วิธีการนี้มักจะรักษาความกระจัดกระจายและชะลอการตัดสินใจโดยไม่ต้องแก้ไขปัญหาหลัก วิธีที่มีประสิทธิภาพมากกว่าคือการเริ่มต้นด้วยคำถามพื้นฐาน: ใครเป็นเจ้าของการตัดสินใจความเสี่ยงของ AI? ใครมีอำนาจในการอนุมัติหรือหยุดการนำไปใช้เมื่อความเสี่ยงเกิดขึ้น?

จาก那里 การกำกับดูแลสามารถดำเนินการผ่านขั้นตอนที่ใช้ได้ องค์กรต้องประเมินว่า AI มีอิทธิพลต่อการตัดสินใจอยู่ที่ไหน การใช้ AI ควรจะถูกทำแผนที่กับภาระผูกพันทางกฎระเบียบและความเสี่ยงทางธุรกิจ ซึ่งจะทำให้การตรวจสอบความเสี่ยงและการอนุมัติกลายเป็นส่วนหนึ่งของกระบวนการนำไปใช้ ไม่ใช่สิ่งที่ตามมา

การตรวจสอบอย่างต่อเนื่องและการเพิ่มขึ้นของกระบวนการก็มีความจำเป็นเช่นกันเพื่อจับข้อผิดพลาดในระยะแรก ทีมงานต้องการการฝึกอบรมเกี่ยวกับความเสี่ยงของ AI ความรับผิดชอบ และการใช้ที่รับผิดชอบ เพื่อให้การกำกับดูแลกลายเป็นส่วนหนึ่งของการดำเนินงานประจำวัน สุดท้าย กรอบการกำกับดูแลที่มีประสิทธิภาพและแพลตฟอร์มที่รองรับจะช่วยให้สามารถรักษาความสอดคล้องได้เมื่อการใช้ AI ขยายตัว

เป้าหมายไม่ใช่การชะลอการไหลของการตัดสินใจ แต่เพื่อออกแบบใหม่เพื่อให้การตัดสินใจที่รับผิดชอบเกิดขึ้นได้เร็วขึ้นและมีน้อยข้อผิดพลาด

การกำกับดูแลที่เข้มแข็งเปลี่ยนพฤติกรรม

เมื่อโครงการ AI ล้มเหลว องค์กรมักจะตำหนิพนักงานที่ข้ามนโยบายหรือใช้เครื่องมือโดยไม่มีการกำกับดูแล ในความเป็นจริง พฤติกรรมของพนักงานมักจะสะท้อนถึงสิ่งจูงใจของระบบและโครงสร้างการออกแบบ

หากทีมงานได้รับการตอบแทนสำหรับความเร็วโดยไม่มีการรับผิดชอบที่ชัดเจน เครื่องมือ AI จะถูกใช้โดยไม่มีการตรวจสอบเพียงพอ ซึ่งนำไปสู่การแพร่กระจายของการนำ AI ไปใช้โดยไม่มีการกำกับดูแล โดยเฉพาะอย่างยิ่งเมื่อกระบวนการกำกับดูแลไม่ชัดเจนหรือยุ่งยาก พนักงานมักจะเลือกเส้นทางที่มีการต้านทานน้อยที่สุด – ซึ่งมักจะนำไปสู่การปฏิบัติตามการกำกับดูแลที่ไม่ดี

ในทางกลับกัน เมื่อความรับผิดชอบกลายเป็นที่รู้จักและอำนาจในการตัดสินใจชัดเจน พฤติกรรมจะเปลี่ยนแปลงไปตามธรรมชาติ ในทางกลับกัน องค์กรที่มีโครงสร้างการกำกับดูแลที่เข้มแข็งมักจะนำ AI ไปใช้เร็วกว่าเพราะความเสี่ยงจะปรากฏออกมาเร็วขึ้น อำนาจในการตัดสินใจถูกกำหนดไว้ และไม่มีการหยุดชะงักหรือการถอยกลับในภายหลัง มันเป็นองค์กรที่เลื่อนการกำกับดูแลที่มักจะประสบกับการผิดพลาดสาธารณะ การตรวจสอบด้านกฎระเบียบ และการแก้ไขที่มีค่าใช้จ่ายซึ่งจะชะลอการนำนวัตกรรมไปใช้มากกว่าการกำกับดูแลที่กระตือรือร้น

การกำกับดูแล AI เป็นการตัดสินใจของฝ่ายบริหารสูงสุด

การกำกับดูแล AI ไม่สามารถประสบความสำเร็จ โดยการเพิ่มการกำกับดูแลหลังจากที่นวัตกรรมเกิดขึ้นแล้ว มันจะต้องกลายเป็นส่วนหนึ่งของวิธีที่องค์กรตัดสินใจ รับผิดชอบ และจัดการความเสี่ยงตลอดทั้งองค์กร ผู้บริหารต้องเผชิญกับการตัดสินใจที่คุ้นเคย: การปรับระบบการจัดการที่มีอยู่ต่อไปโดยยอมรับการล้มเหลวในการกำกับดูแลซ้ำๆ หรือการออกแบบโครงสร้างความรับผิดชอบและการกำกับดูแลใหม่เพื่อสนับสนุนการดำเนินงานที่ขับเคลื่อนด้วย AI

องค์กรที่ ลงทุน ในการกำกับดูแล ความรับผิดชอบ และกรอบการทำงานที่มีประสิทธิภาพ — จะนำ AI ไปใช้ได้เร็วขึ้นและมีความมั่นใจมากขึ้น ในขณะที่ปกป้องความไว้วางใจของผู้มีส่วนได้ส่วนเสีย ในยุคที่ AI มีอิทธิพลต่อผลลัพธ์ทางธุรกิจมากขึ้น การกำกับดูแลไม่ใช่สิ่งกีดขวางนวัตกรรม แต่เป็นรากฐานที่ทำให้นวัตกรรมสามารถขยายตัวได้อย่างรับผิดชอบ