AI ตัดสินใจทุกนาที แต่การกำกับดูแลส่วนใหญ่ยังดำเนินไปเป็นรายไตรมาส

ระบบที่ใช้ AI ช่วยอาจมีอิทธิพลต่อการตัดสินใจด้านปฏิบัติการหลายร้อยครั้ง ก่อนที่คณะกรรมการกำกับทิศทางจะนัดประชุมครั้งถัดไปได้เสียอีก การกำกับดูแลที่ยึดการทบทวนรายไตรมาสเป็นหลักไม่เคยออกแบบมาให้รองรับความเร็วระดับนี้ และความไม่สอดคล้องดังกล่าวคือจุดที่หลายโครงการ AI ในองค์กรเริ่มประสบปัญหา

เราใช้เวลาอย่างมหาศาลไปกับการถกเถียงว่าจะนำโมเดลใดมาใช้งาน แต่ Gartner คาดการณ์ว่า ภายในปี 2026 องค์กรต่าง ๆ จะยุติโครงการ AI 60% ที่ไม่มีข้อมูลพร้อมสำหรับ AI รองรับ ความล้มเหลวของ AI ในองค์กรส่วนใหญ่แทบไม่เกี่ยวข้องกับตัวโมเดลเอง แต่เกิดจากปัญหาที่เป็นพื้นฐานยิ่งกว่า นั่นคือองค์กรขาดความเข้าใจธุรกิจของตนเองที่เชื่อมโยงกันและเชื่อถือได้

ต้นทุนแฝงของข้อมูลที่ “พร้อมสำหรับ AI”

องค์กรส่วนใหญ่ประเมินความพยายามที่จำเป็นต่อการกำหนดผู้รับผิดชอบ การกำกับดูแล ความน่าเชื่อถือ และบริบทของข้อมูลต่ำเกินไป มีองค์กรเพียงไม่กี่แห่งที่ลงทุนในความเชี่ยวชาญข้ามสายงานและรูปแบบการดำเนินงานซึ่งจำเป็นต่อการสร้างกรอบการกำกับดูแลที่มอบความโปร่งใส ความสามารถในการอธิบาย และความรับผิดชอบตามที่ต้องมี เพื่อนำ AI ไปใช้ให้ไกลกว่าระยะทดลอง

มีวิธีทดสอบง่าย ๆ ที่ผมอยากให้ลูกค้าลองทำ องค์กรสามารถอธิบายได้อย่างชัดเจนหรือไม่ว่าใครเป็นเจ้าของข้อมูล ข้อมูลเกี่ยวข้องกับกระบวนการทางธุรกิจอย่างไร มีการควบคุมใดกำกับการใช้ข้อมูล และใครยังคงต้องรับผิดชอบต่อการตัดสินใจที่ใช้ AI ช่วย หากตอบไม่ได้ โครงการ AI ขององค์กรก็มีแนวโน้มว่าจะไม่ประสบความสำเร็จ ไม่ว่าจะลงทุนกับแพลตฟอร์ม โครงสร้างพื้นฐาน หรือโมเดลมากเพียงใดก็ตาม

ก้าวแรกของการนำ AI มาใช้ในองค์กรควรเป็นการลงทุนด้านการกำกับดูแลและรูปแบบการดำเนินงานที่นำไปใช้ได้จริง เพื่อกำหนดความเป็นเจ้าของ ความรับผิดชอบ และสิทธิในการตัดสินใจให้ชัดเจน จากสิ่งที่ผมพบ องค์กรส่วนใหญ่กลับทำเรื่องเหล่านี้ในลำดับตรงกันข้าม โดยติดตั้งโมเดลและโครงสร้างพื้นฐานก่อนวางรากฐานที่จำเป็นต่อการใช้งาน AI ในวงกว้าง

แต่การตัดสินใจที่ใช้ AI ช่วยไม่ได้อาศัยเพียงข้อมูลแต่ละรายการเท่านั้น ยังต้องเข้าใจด้วยว่าข้อมูลเชื่อมโยงกับกระบวนการทางธุรกิจ นโยบาย ความเป็นเจ้าของ และบริบทด้านปฏิบัติการอย่างไร เมื่อความเชื่อมโยงเหล่านี้กระจัดกระจาย องค์กรก็ไม่ควรแปลกใจหากคำแนะนำจาก AI ไม่สอดคล้องกัน

เมื่อแอปพลิเคชัน AI เกือบก่อให้เกิดความเสียหาย เกิดความล้มเหลว หรือให้คำแนะนำที่ขัดแย้งกัน คำถามสำคัญย่อมเกี่ยวกับการจัดการภายในองค์กร ไม่ใช่เรื่องเทคนิค ใครเป็นเจ้าของข้อมูล ใครเป็นผู้รับผิดชอบต่อการตัดสินใจ ใครมีอำนาจสั่งให้ AI หยุดหรือเปลี่ยนแนวทาง และจะยกระดับกรณียกเว้นอย่างไร หากไม่มีคำตอบ องค์กรก็เสี่ยงที่จะสร้างระบบอัตโนมัติโดยปราศจากความรับผิดชอบ

ความไว้วางใจสร้างขึ้นก่อนนำระบบไปใช้งาน

ความไว้วางใจใน AI ก่อตัวขึ้นนานก่อนที่โมเดลใด ๆ จะเริ่มทำงาน การกำกับดูแลที่มีประสิทธิภาพต้องอาศัยความร่วมมือระหว่างฝ่ายเทคโนโลยี หน่วยงานธุรกิจ ฝ่ายบริหารความเสี่ยง ฝ่ายกฎหมาย ฝ่ายกำกับการปฏิบัติตามข้อกำหนด และฝ่ายความมั่นคงปลอดภัย เพราะระบบ AI ทำงานข้ามขอบเขตขององค์กร ขณะที่ความรับผิดชอบมักยังแยกอยู่ตามสายงาน ความท้าทายด้านการกำกับดูแลหลายประการที่มักโยงกับ AI แท้จริงแล้วเป็นอาการของปัญหาเดิม ๆ เกี่ยวกับความเป็นเจ้าของข้อมูลและอำนาจในการตัดสินใจ ซึ่งเทคโนโลยีเพียงเผยให้เห็น

องค์กรส่วนใหญ่มีการกำกับดูแลอยู่แล้ว ผ่านนโยบายความมั่นคงปลอดภัย กรอบการปฏิบัติตามข้อกำหนด และกระบวนการอนุมัติ แต่สิ่งที่มักขาดไปคือภาพรวมที่เชื่อมโยงให้เห็นว่าองค์ประกอบเหล่านี้สัมพันธ์กันอย่างไร

ความไว้วางใจจะเกิดขึ้นเมื่อผู้มีส่วนเกี่ยวข้องเข้าใจเหตุผลเบื้องหลังคำแนะนำ เชื่อมั่นในข้อมูลที่ใช้เป็นพื้นฐาน และทราบว่ามีมาตรการควบคุมกับกลไกยกระดับปัญหาที่เหมาะสมแล้ว สิ่งเหล่านี้ไม่อาจมาเสริมภายหลังเมื่อเกิดเหตุการณ์ขึ้นได้

เมื่อการกำกับดูแลรายไตรมาสต้องรับมือกับการตัดสินใจที่เกิดขึ้นทุกนาที

รูปแบบการกำกับดูแลแบบดั้งเดิมอาศัยการทบทวนเป็นระยะ การประชุมคณะกรรมการกำกับทิศทาง และการรายงานย้อนหลัง ระบบที่ใช้ AI ช่วยสร้างคำแนะนำอย่างต่อเนื่องและในวงกว้าง กรอบการทำงานที่มีอยู่ไม่ได้ผิด แต่ทำงานช้าเกินไปและไม่เชื่อมโยงกับการตัดสินใจด้านปฏิบัติการ วงรอบการทบทวนรายไตรมาสไม่อาจกำกับดูแลการตัดสินใจที่เกิดขึ้นทุกชั่วโมงตลอดทุกวันได้

ผมพบว่าองค์กรที่ประสบความสำเร็จมากที่สุดคือองค์กรที่ฝังการกำกับดูแลไว้ในขั้นตอนการทำงานด้านปฏิบัติการโดยตรง ผ่านการบังคับใช้นโยบาย ขั้นตอนการอนุมัติ การติดตามตรวจสอบ การตรวจสอบย้อนหลังได้ และการกำกับดูแลโดยมนุษย์ องค์กรเหล่านี้มุ่งมั่นที่จะเปลี่ยนจากการกำกับดูแลเป็นระยะไปสู่การกำกับดูแลอย่างต่อเนื่อง เพื่อให้เห็นได้แบบเรียลไทม์ว่ากำลังใช้ข้อมูลใด การตัดสินใจใดได้รับอิทธิพล ใครเป็นผู้รับผิดชอบ และเมื่อใดจำเป็นต้องให้มนุษย์เข้ามาแทรกแซง

การกำกับดูแลอย่างต่อเนื่องไม่ได้หมายถึงการติดตามผลลัพธ์จาก AI เท่านั้น แต่ยังหมายถึงการทำความเข้าใจว่า AI ใช้ข้อมูลใด ข้อมูลนั้นยังถูกต้องอยู่หรือไม่ และการตัดสินใจยังสอดคล้องกับนโยบายและเป้าหมายทางธุรกิจหรือไม่

AI จะให้คำแนะนำที่ขัดแย้งกันเอง

องค์กรขนาดใหญ่จัดการกับลำดับความสำคัญที่แข่งขันกันอยู่ทุกวัน ทีมความมั่นคงปลอดภัยต้องการลดความเสี่ยง ทีมปฏิบัติการต้องการความเสถียร ทีมธุรกิจต้องการความรวดเร็ว และทีมการเงินต้องการควบคุมต้นทุนให้มีประสิทธิภาพ เมื่อมีระบบ AI เข้ามา ระบบเหล่านี้ได้รับการฝึกด้วยชุดข้อมูลและเป้าหมายที่แตกต่างกัน จึงย่อมสะท้อนลำดับความสำคัญเหล่านั้น

AI ด้านความมั่นคงปลอดภัยอาจแนะนำให้แก้ไขช่องโหว่ร้ายแรงทันที ขณะที่ทีมปฏิบัติการชะลอการเปลี่ยนแปลง เพราะระบบที่ได้รับผลกระทบรองรับบริการทางธุรกิจที่สำคัญ ทั้งสองฝ่ายอาจมีเหตุผลที่สมควร การคลี่คลายความขัดแย้งเหล่านี้จำเป็นต้องกำหนดสิทธิในการตัดสินใจ ความเป็นเจ้าของความเสี่ยง และช่องทางยกระดับปัญหาให้ชัดเจน

AI ควรนำเสนอข้อมูล บริบท และข้อเสนอแนะ แต่ความรับผิดชอบในการชั่งน้ำหนักปัจจัยทางธุรกิจ การดำเนินงาน และความเสี่ยงต้องยังคงอยู่กับองค์กร

รับมือกับความเคลือบแคลงเมื่อพบความไม่สอดคล้อง

เมื่อ AI ให้ข้อเสนอแนะที่ไม่สอดคล้องกัน ย่อมเห็นได้ชัดว่าธุรกิจจะตั้งข้อสงสัยต่อคำแนะนำในอนาคต ความไว้วางใจจะกลับคืนมาเมื่อผู้มีส่วนได้ส่วนเสียเข้าใจว่าเหตุใดจึงมีการให้ข้อเสนอแนะนั้น ใช้ข้อมูลใด และใครยังคงต้องรับผิดชอบต่อผลลัพธ์

AI มักเผยให้เห็นปัญหาคุณภาพข้อมูล ช่องว่างด้านความเป็นเจ้าของ และความไม่สอดคล้องในกระบวนการที่มีอยู่ภายในองค์กรอยู่แล้ว การมองช่วงเวลาเหล่านี้เป็นโอกาสในการปรับปรุงการกำกับดูแลและขั้นตอนการปฏิบัติงาน ย่อมเป็นประโยชน์มากกว่าการปกป้องเทคโนโลยี เมื่อเวลาผ่านไป ความไว้วางใจจะเกิดจากความโปร่งใส ความสม่ำเสมอ และผลลัพธ์ทางธุรกิจที่พิสูจน์ให้เห็นได้

รากฐานข้อมูลที่เชื่อถือได้

การพูดคุยเรื่องความพร้อมด้าน AIมักมุ่งเน้นไปที่โมเดล โครงสร้างพื้นฐาน และเครื่องมือต่าง ๆ ในทางปฏิบัติ องค์กรที่ประสบความสำเร็จมากที่สุดกลับลงทุนในสิ่งที่เป็นรากฐานยิ่งกว่า นั่นคือรากฐานข้อมูลที่เชื่อถือได้ รากฐานนี้มอบบริบททางธุรกิจที่อธิบายความเชื่อมโยงระหว่างข้อมูลกับกระบวนการ นโยบาย ความเป็นเจ้าของ และการตัดสินใจในการดำเนินงาน ทำให้ AI มีพื้นฐานที่แข็งแกร่งขึ้นในการให้ข้อเสนอแนะที่องค์กรสามารถทำความเข้าใจ กำกับดูแล และไว้วางใจได้

แม้แต่โมเดล AI ที่ล้ำหน้าที่สุดก็ไม่อาจชดเชยการกำกับดูแลข้อมูลที่อ่อนแอ ความเป็นเจ้าของที่ไม่ชัดเจน หรือการขาดบริบททางธุรกิจได้ สิ่งที่องค์กรจำเป็นต้องทำคือสร้างบริบท การกำกับดูแล ความทรงจำขององค์กร และข่าวกรองเพื่อการตัดสินใจที่จำเป็นต่อการใช้ AI อย่างมีความรับผิดชอบและมีประสิทธิภาพในวงกว้าง

งานดังกล่าวดำเนินไปช้ากว่าและเป็นที่สังเกตเห็นได้น้อยกว่าการนำโมเดลใหม่มาใช้งาน แต่ท้ายที่สุดแล้ว งานนี้เป็นตัวกำหนดว่าโมเดลจะสร้างคุณค่าทางธุรกิจที่ยั่งยืนได้หรือไม่