อุตสาหกรรมที่อยู่ภายใต้การกำกับดูแลสร้างความรับผิดรับชอบต่อการตัดสินใจของ AI อย่างไร

ตลอดทศวรรษที่ผ่านมา การนำ AI มาใช้ ในองค์กรดำเนินตามรูปแบบที่คาดการณ์ได้ ได้แก่ การลงทุนมหาศาล โครงการนำร่องที่มีแนวโน้มดี และผลต่อการดำเนินงานที่ไม่สม่ำเสมอ แต่ในภาคธนาคารและประกันภัย AI ไม่ได้อยู่ในขั้นทดลองอีกต่อไป ปัจจุบัน AI มีอิทธิพลต่อการตัดสินใจสำคัญด้านการตรวจจับการฉ้อโกง การอนุมัติสินเชื่อ การพิจารณารับประกันภัย และการเรียกร้องค่าสินไหม การตัดสินใจเหล่านี้มีเดิมพันสูงทั้งด้านการเงิน ชื่อเสียง และข้อกำหนดกำกับดูแล อีกทั้งได้รับอิทธิพลมากขึ้นจากทั้งแบบจำลองรายตัว กระบวนงานที่ขับเคลื่อนโดยเอเจนต์ และสายงานตัดสินใจอัตโนมัติที่ครอบคลุมหลายระบบและหลายขั้นตอนของกระบวนการ

ความท้าทายเปลี่ยนไปแล้ว ไม่ใช่การสร้างข้อมูลเชิงลึกอีกต่อไป แต่เป็นการตัดสินใจเชิงกลยุทธ์และการชี้แจงเหตุผลเพื่อรองรับการตัดสินใจนั้น

เมื่อ AI เข้าไปอยู่ในกระบวนงานที่ส่งผลสำคัญ องค์กรและหน่วยงานภาครัฐต้องสามารถ อธิบาย ได้ว่าผลลัพธ์เกิดขึ้นได้อย่างไร แสดงให้เห็นว่ามีมาตรการควบคุมที่เหมาะสม และชี้แจงเหตุผลของผลลัพธ์ต่อหน่วยงานกำกับดูแล ลูกค้า และคณะกรรมการ สำหรับผู้นำด้านความเสี่ยง การปฏิบัติตามข้อกำหนด ข้อมูล และเทคโนโลยี คำถามหลักไม่ใช่ว่า AI ทำอะไรได้บ้างอีกต่อไป แต่คือการตัดสินใจที่มี AI สนับสนุนจะผ่านการตรวจสอบอย่างเข้มงวดได้หรือไม่

การเปลี่ยนแปลงนี้ผลักดันให้ Decision Intelligence หรือศาสตร์แห่งการตัดสินใจมีบทบาทมากขึ้น โดยเป็นแนวปฏิบัติในการดำเนินงานที่ไม่ได้มุ่งมองแบบจำลองแยกส่วน แต่สนใจว่าการตัดสินใจในสภาพแวดล้อมจริงได้รับการออกแบบ กำกับดูแล ติดตาม และปรับปรุงอย่างไร

ตรวจสอบความเป็นจริงของ AI

AI เชิงกำเนิดช่วยเร่งการทดลอง เปิดโอกาสให้ผู้คนเข้าถึงความรู้ได้กว้างขึ้น และปรับปรุงประสบการณ์ผู้ใช้ อย่างไรก็ตาม หลายโครงการหยุดชะงักเมื่อเผชิญความซับซ้อนในการเชื่อมระบบ ความรับผิดชอบที่กระจัดกระจาย และข้อกำหนดด้านธรรมาภิบาล

ในภาคส่วนที่อยู่ภายใต้การกำกับดูแล ช่องว่างเหล่านี้ปรากฏอย่างรวดเร็ว การปฏิเสธสินเชื่อ การระงับธุรกรรม หรือการปฏิเสธคำขอค่าสินไหมมีผลทางกฎหมายและการปฏิบัติตามข้อกำหนด แม้ AI จะมีส่วนร่วมเพียงบางส่วน สถาบันก็ยังต้องรับผิดชอบผลลัพธ์ และต้องแสดงให้เห็นว่านำข้อมูลขาเข้ามาประกอบกันอย่างไร ใช้ข้อจำกัดและมาตรการป้องกันใด และมนุษย์ใช้ดุลยพินิจแทรกแซงในจุดใด

ตัวชี้วัดประสิทธิภาพทางเทคนิค เช่น ความแม่นยำ ประสิทธิภาพที่เพิ่มขึ้นเมื่อเทียบกับค่าฐานหรือ lift และอัตราการตรวจจับ เป็นสิ่งจำเป็นแต่ยังไม่เพียงพอ หน่วยงานกำกับดูแลและผู้บริหารให้ความสำคัญกับความเที่ยงตรงน่าเชื่อถือของการตัดสินใจ

จากการยึดองค์ประกอบเป็นศูนย์กลางสู่การยึดการตัดสินใจเป็นศูนย์กลาง

โครงการ AI ส่วนใหญ่ปรับปรุงองค์ประกอบรายตัวให้เหมาะสมที่สุด แต่การตัดสินใจจริงแทบไม่ได้มาจากคะแนนของแบบจำลองตัวเดียว

สัญญาณเตือนการฉ้อโกงอาจประกอบด้วยสัญญาณหลายประเภท ค่าเกณฑ์ตามนโยบาย และการตรวจสอบโดยคน ก่อนจะระงับธุรกรรม การพิจารณารับประกันภัยมักผสานแบบจำลองพยากรณ์ ข้อกำหนดกำกับดูแล แนวทางระดับความเสี่ยงที่องค์กรยินดีรับ และความเชี่ยวชาญของมนุษย์ ความรับผิดชอบครอบคลุมทีมวิทยาศาสตร์ข้อมูล ผลิตภัณฑ์ ปฏิบัติการ และการปฏิบัติตามข้อกำหนด

Decision Intelligence เปลี่ยนวิธีตั้งโจทย์ แทนที่จะถามว่าแบบจำลองทำงานได้ดีหรือไม่ จะถามว่า:

• เราสืบย้อนวิธีที่ใช้ตัดสินใจครั้งนี้ได้หรือไม่?
• เรายังอธิบายการตัดสินใจนั้นได้หรือไม่ในอีกหลายเดือนหรือหลายปีข้างหน้า?
• เราปรับปรุงการตัดสินใจนั้นอย่างเป็นระบบและต่อเนื่องได้หรือไม่โดยไม่เพิ่มความเสี่ยง?

ในสภาพแวดล้อมที่อยู่ภายใต้การกำกับดูแล คำถามเหล่านี้สำคัญกว่าการปรับปรุงแบบจำลองทีละเล็กน้อย

ความรับผิดรับชอบเป็นสิ่งที่หน่วยงานกำกับดูแลคาดหวังแล้ว

ท่าทีของหน่วยงานกำกับดูแลเปลี่ยนไป ผู้กำกับดูแลมอง AI มากขึ้นว่าเป็นปัจจัยขับเคลื่อนพฤติกรรมตลาดและผลลัพธ์ที่เกิดกับผู้บริโภค ไม่ใช่เทคโนโลยีทดลอง

ในสหรัฐอเมริกา หน่วยงานกำกับดูแลธนาคารยังคงย้ำความคาดหวังด้านการกำกับดูแลแบบจำลอง การตรวจสอบความถูกต้อง และการจัดทำเอกสาร ไม่ว่าเทคโนโลยีจะซับซ้อนเพียงใด สถาบันยังคงรับผิดชอบการควบคุมและกำกับดูแลแม้ระบบอัตโนมัติจะมีบทบาทเพิ่มขึ้น

ในยุโรป ข้อกำหนดชัดเจนยิ่งขึ้น โดย กฎหมาย AI ของสหภาพยุโรป กำหนดภาระหน้าที่เฉพาะสำหรับระบบ AI ความเสี่ยงสูง รวมถึงระบบที่ใช้ในบริการทางการเงินและประกันภัย การกำกับดูแล การจัดทำเอกสาร และความสามารถในการตรวจสอบย้อนหลังไม่ใช่คุณสมบัติเสริม แต่เป็นข้อกำหนดทางกฎระเบียบ

สารที่สื่อออกมาสอดคล้องกันในทุกเขตอำนาจ: หาก AI มีอิทธิพลต่อผลลัพธ์ของผู้บริโภคหรือตลาด สถาบันต้องสามารถอธิบายและชี้แจงเหตุผลรองรับกระบวนการตัดสินใจที่นำไปสู่ผลลัพธ์นั้นได้

เหตุใดธนาคารและประกันภัยจึงเป็นผู้นำ

แม้หลายภาคส่วนจะเผชิญความท้าทายด้าน การกำกับดูแล AI แต่ธนาคารและประกันภัยอยู่แนวหน้า เพราะเดิมพันชัดเจนและการกำกับดูแลเข้มงวด

ระบบต่อต้านการฉ้อโกงต้องสมดุลระหว่างความรวดเร็วกับผลกระทบต่อลูกค้า การอนุมัติสินเชื่อและการพิจารณารับประกันภัยต้องสม่ำเสมอและไม่เลือกปฏิบัติ ผลการพิจารณาค่าสินไหมต้องผ่านการตรวจสอบจากหน่วยงานกำกับดูแลและรับมือข้อโต้แย้งจากผู้ถือกรมธรรม์ได้ ในแต่ละกรณี การตัดสินใจเกิดจากข้อมูล กฎเกณฑ์ การวิเคราะห์ และดุลยพินิจของมนุษย์ร่วมกัน

หน่วยงานกำกับดูแลกำลังเพิ่มความใส่ใจเช่นกัน เมื่อไม่นานมานี้ Financial Conduct Authority ของสหราชอาณาจักรได้เริ่มทบทวนการใช้ AI ขั้นสูงในบริการทางการเงินสำหรับลูกค้ารายย่อย โดยเชื่อมโยงการนำ AI มาใช้อย่างชัดเจนกับผลลัพธ์ของผู้บริโภคและมาตรฐานการกำกับดูแล

สัญญาณชัดเจนว่า AI ถูกมองเป็นโครงสร้างพื้นฐานทางการเงินที่สำคัญแล้ว

Decision Intelligence ในฐานะแนวปฏิบัติการดำเนินงาน

Decision Intelligence มักถูกอธิบายผิดว่าเป็นเพียงอีกชั้นหนึ่งของระบบอัตโนมัติ ในอุตสาหกรรมที่อยู่ภายใต้การกำกับดูแล ความเป็นอิสระอย่างสมบูรณ์แทบไม่สามารถทำได้หรือไม่ใช่สิ่งที่พึงประสงค์ ข้อจำกัดตามนโยบายและระดับความเสี่ยงที่ยอมรับได้ทำให้มนุษย์ยังคงมีส่วนร่วมในกระบวนการ

เป้าหมายเป็นเรื่องปฏิบัติมากกว่า นั่นคือทำให้การตัดสินใจโปร่งใส ตรวจทานได้ และปรับปรุงได้อย่างต่อเนื่อง

ในทางปฏิบัติ หมายถึงการแสดงตรรกะการตัดสินใจให้เห็นอย่างชัดเจน แทนการซ่อนไว้ในโค้ด แบบจำลอง หรือตารางคำนวณ โดยต้องระบุให้ชัดว่า:

• ข้อมูลใดเป็นพื้นฐานของผลลัพธ์
• ใช้นโยบายและข้อจำกัดใด
• มนุษย์เข้ามาแทรกแซงในจุดใด
• ใครรับผิดชอบการตัดสินใจขั้นสุดท้าย

เมื่อเวลาผ่านไป สิ่งนี้สร้างความทรงจำขององค์กร ทำให้องค์กรตรวจสอบได้ไม่เพียงว่าแบบจำลองทำงานดีหรือไม่ แต่รวมถึงกระบวนการตัดสินใจให้ผลลัพธ์ที่สม่ำเสมอและเป็นไปตามข้อกำหนดภายใต้สภาพการทำงานจริงหรือไม่

ความโปร่งใสนี้ไม่ได้ขจัดความซับซ้อน แต่ทำให้กำกับดูแลความซับซ้อนได้และสร้างความเชื่อมั่น

จุดที่การนำ AI มาใช้แบบเดิมสะดุด

โครงการ AI จำนวนมากสะดุดตรงรอยต่อระหว่างหน่วยงาน ทีมข้อมูลปรับปรุงแบบจำลอง ทีมธุรกิจรับผิดชอบผลลัพธ์ ส่วนทีมความเสี่ยงและการปฏิบัติตามข้อกำหนดรับผิดชอบการกำกับดูแล เมื่อการตัดสินใจครอบคลุมทั้งสามฝ่าย ความรับผิดรับชอบจึงแยกส่วน

ไม่มีทีมใดทีมหนึ่งสามารถอธิบายได้ชัดเจนว่าการตัดสินใจประกอบขึ้นอย่างไร มีการชั่งน้ำหนักข้อดีข้อเสียใดอยู่ภายใน และควรพัฒนาไปอย่างไร

ปัญหานี้เห็นได้ชัดเป็นพิเศษในอุตสาหกรรมที่อยู่ภายใต้การกำกับดูแล ซึ่งการตัดสินใจมีหลายขั้นตอนและหลายฝ่ายรับผิดชอบ หากไม่มีกรอบที่ยึดการตัดสินใจเป็นศูนย์กลาง การปรับปรุงผลลัพธ์มักเพิ่มการเผชิญความเสี่ยง เพราะปฏิสัมพันธ์ระหว่างแบบจำลอง กฎเกณฑ์ และดุลยพินิจของมนุษย์ยังไม่ชัดเจน

Decision Intelligence แก้ปัญหาโดยมองการตัดสินใจเป็นผลิตภัณฑ์ที่ต้องบริหารจัดการ สามารถออกแบบ ทดสอบ ติดตาม และปรับปรุง โดยผู้มีส่วนได้ส่วนเสียมองเห็นข้อมูลร่วมกันได้ จึงเกิดภาษากลางที่เชื่อมประสิทธิภาพทางเทคนิคเข้ากับผลทางธุรกิจและความคาดหวังของหน่วยงานกำกับดูแล

องค์กรยังสร้างแบบจำลองของกระบวนการตัดสินใจมากขึ้น โดยใช้โครงสร้างอิงบริบทหรือกราฟที่ติดตามข้อมูลขาเข้า ความสัมพันธ์ และผลลัพธ์ตามเวลาได้ ชั้นบริบทนี้ช่วยให้ทีมเข้าใจไม่เพียงว่าตัดสินใจอะไร แต่รวมถึงเหตุผลและแนวทางพัฒนาเมื่อเงื่อนไขเปลี่ยนไป

สำหรับสถาบันที่ถูกตรวจสอบ การเปลี่ยนแปลงนี้ให้น้ำหนักกับการควบคุมมากกว่านวัตกรรม

เปลี่ยนความเสี่ยงจาก AI ให้เป็นข้อได้เปรียบเชิงกลยุทธ์

สำหรับ CIO, CDO, CRO และผู้นำธุรกิจที่นำ AI มาใช้ในวงกว้าง ภารกิจชัดเจนว่า ความสำเร็จไม่ได้วัดจากจำนวนแบบจำลองที่นำมาใช้ แต่จากคุณภาพการกำกับดูแลการตัดสินใจที่ได้รับอิทธิพลจากแบบจำลองเหล่านั้น

องค์กรที่ทำแผนผังการตัดสินใจ กำหนดความรับผิดชอบให้ชัด บันทึกจุดที่ AI มีส่วนร่วม และผนวกการทบทวนอย่างมีโครงสร้างไว้ในกระบวนงาน จะเดินหน้าได้เร็วขึ้นและมีความสามารถในการรับมือและฟื้นตัวมากขึ้น ในสภาพแวดล้อมที่อยู่ภายใต้การกำกับดูแล วินัยในการดำเนินงานให้ผลเหนือกว่าความใหม่ทางเทคนิค

Decision Intelligence กำลังปรากฏในฐานะโครงสร้างการดำเนินงานที่ทำให้สามารถชี้แจงเหตุผลรองรับ AI ได้ ไม่ใช่เพียงหมวดเทคโนโลยีใหม่ โดยช่วยให้สถาบันแสดงความรับผิดรับชอบ ประสานทีมต่างสายงาน และขยายการใช้ AI อย่างมั่นใจ

ในตลาดที่ถูกกำกับดูแลอย่างเข้มงวด ความสามารถนี้ไม่ได้เป็นเพียงการดูแลพื้นฐานด้านการปฏิบัติตามข้อกำหนด แต่เป็นข้อได้เปรียบในการแข่งขัน