วิธีการที่อุตสาหกรรมที่มีการควบคุมใช้ในการตัดสินใจด้วย AI

ในช่วงสิบปีที่ผ่านมา การนำ AI ไปใช้ในองค์กรใหญ่ๆ ได้ตามรูปแบบที่คาดเดาได้: การลงทุนอย่างหนัก การทดลองที่ให้ผลสัญญาสัญญา และผลกระทบในการดำเนินงานที่ไม่สม่ำเสมอ ในภาคการธนาคารและประกันภัย AI ไม่ใช่การทดลองอีกต่อไป แต่มันช่วยกำหนดการตัดสินใจที่มีความเสี่ยงสูงรอบๆ การตรวจจับการฉ้อโกง การอนุมัติสินเชื่อ การประกันภัย และการชำระเงินสินไหมทดแทน ผลกระทบทางการเงิน ชื่อเสียง และการควบคุมดูแลที่มีต่อการตัดสินใจเหล่านี้มีมาก และการตัดสินใจเหล่านี้มักจะถูกมีอิทธิพลไม่เพียงแต่จากแบบจำลองแต่ละแบบ แต่ยังรวมถึงกระบวนการทำงานอัตโนมัติและกระบวนการตัดสินใจอัตโนมัติที่ครอบคลุมหลายระบบและหลายขั้นตอนของกระบวนการ

ความท้าทายได้เปลี่ยนไป มันไม่ใช่เรื่องของการสร้างข้อมูลเชิงลึกอีกต่อไป แต่เป็นเรื่องของการตัดสินใจเชิงกลยุทธ์และการป้องกันการตัดสินใจเหล่านั้น

เมื่อ AI ถูกฝังอยู่ในกระบวนการที่มีผลกระทบ องค์กรและหน่วยงานภาครัฐต้องสามารถอธิบายได้ว่าผลลัพธ์ถูกสร้างขึ้นได้อย่างไร ต้องแสดงให้เห็นถึงการควบคุมที่เหมาะสม และต้องยืนยันผลลัพธ์เหล่านั้นต่อหน่วยงานกำกับดูแล ลูกค้า และคณะกรรมการ สำหรับผู้นำในด้านความเสี่ยง การปฏิบัติตามกฎระเบียบ ข้อมูล และเทคโนโลยี คำถามหลักไม่ใช่สิ่งที่ AI สามารถทำได้ แต่เป็นว่าการตัดสินใจที่ได้รับการสนับสนุนจาก AI สามารถทนต่อการตรวจสอบได้หรือไม่

การเปลี่ยนแปลงนี้ทำให้เกิดการเพิ่มขึ้นของ Decision Intelligence ซึ่งเป็นวินัยการดำเนินงานที่มุ่งเน้นไม่ใช่เพียงแค่แบบจำลอง แต่รวมถึงวิธีการตัดสินใจถูกออกแบบ การกำกับดูแล การติดตาม และการปรับปรุงในสภาพแวดล้อมจริง

การตรวจสอบความเป็นจริงของ AI

AI ที่สร้างขึ้นได้เร่งการลองใช้และทำให้การเข้าถึงความรู้เป็นประชาธิปไตย และปรับปรุงประสบการณ์ของผู้ใช้ อย่างไรก็ตาม หลายโครงการหยุดชะงักเมื่อพวกมันชนกับความซับซ้อนของการรวมระบบ การเป็นเจ้าของที่กระจัดกระจาย และข้อกำหนดในการกำกับดูแล

ในภาคส่วนที่มีการควบคุม ช่องว่างเหล่านี้จะปรากฏขึ้นอย่างรวดเร็ว การปฏิเสธสินเชื่อ การทำธุรกรรมที่ถูกปิดกั้น หรือการปฏิเสธการชำระเงินสินไหมทดแทนมีผลกระทบทางกฎหมายและตามกฎระเบียบ แม้ว่า AI จะมีส่วนร่วมเพียงบางส่วนในการตัดสินใจ สถาบันก็ยังคงรับผิดชอบต่อผลลัพธ์ พวกเขาต้องแสดงให้เห็นว่าข้อมูลถูกนำมารวมกันอย่างไร ข้อจำกัดและรั้วกั้นถูกนำไปใช้อย่างไร และการวินิจฉัยของมนุษย์เข้ามาแทรกแซงเมื่อใด

การวัดประสิทธิภาพทางเทคนิค เช่น ความแม่นยำ การเพิ่มขึ้น และอัตราการตรวจจับ เป็นสิ่งจำเป็น แต่ไม่เพียงพอ ผู้กำกับดูแลและผู้บริหารดูแลเรื่องความสมบูรณ์ของการตัดสินใจ

จากส่วนประกอบไปสู่การตัดสินใจ

โปรแกรม AI ส่วนใหญ่จะปรับให้เหมาะสมกับส่วนประกอบแต่ละอย่าง แต่การตัดสินใจในโลกแห่งความเป็นจริงไม่ได้มาจากคะแนนแบบจำลองเพียงอย่างเดียว

การเตือนภัยการฉ้อโกงอาจรวมสัญญาณหลายอย่าง ค่าขีดจำกัดนโยบาย และการตรวจสอบด้วยมือก่อนที่จะหยุดการทำธุรกรรม การตัดสินใจเกี่ยวกับการประกันภัยมักจะรวมแบบจำลองการคาดการณ์ ข้อกำหนดตามกฎระเบียบ ข้อกำหนดความเสี่ยง และความเชี่ยวชาญของมนุษย์ ความรับผิดชอบครอบคลุมทีมวิทยาศาสตร์ข้อมูล ทีมผลิตภัณฑ์ ทีมการดำเนินงาน และทีมการปฏิบัติตามกฎระเบียบ

Decision Intelligence จะเปลี่ยนปัญหาใหม่ ไม่ใช่ถามว่าแบบจำลองทำงานได้ดีหรือไม่ แต่ถามว่า

• เราสามารถติดตามว่าการตัดสินใจนี้ถูกสร้างขึ้นได้อย่างไร?
• เราสามารถอธิบายมันหลายเดือนหรือหลายปีต่อมาได้หรือไม่?
• เราสามารถปรับปรุงมันอย่างเป็นระบบและต่อเนื่องโดยไม่เพิ่มความเสี่ยงได้หรือไม่?

ในบรรยากาศที่มีการควบคุม คำถามเหล่านี้มีความสำคัญมากกว่าการเพิ่มขึ้นของแบบจำลองเล็กน้อย

ความรับผิดชอบตามกฎระเบียบเป็นที่คาดหวังในปัจจุบัน

ทัศนคติในการกำกับดูแลได้เปลี่ยนแปลงไป ผู้กำกับดูแลมอง AI ไม่ใช่เทคโนโลยีที่ทดลอง แต่เป็นตัวขับเคลื่อนพฤติกรรมของตลาดและผลลัพธ์ของผู้บริโภค

ในสหรัฐอเมริกา ผู้กำกับดูแล银行ยังคงเสริมสร้างความคาดหวังเกี่ยวกับการกำกับดูแลแบบจำลอง การตรวจสอบ และเอกสาร ไม่ว่าความซับซ้อนทางเทคนิคจะเป็นอย่างไร สถาบันยังคงรับผิดชอบต่อการควบคุมและกำกับดูแล แม้ว่าการทำงานอัตโนมัติจะเพิ่มขึ้น

ในยุโรป ข้อกำหนดมีความชัดเจนมากขึ้น พระราชบัญญัติ AI ของสหภาพยุโรป นำเสนอพันธกรณีเฉพาะสำหรับระบบ AI ที่มีความเสี่ยงสูง รวมถึงระบบที่ใช้ในบริการทางการเงินและประกันภัย การกำกับดูแล เอกสาร และการตรวจสอบไม่ใช่คุณลักษณะที่ไม่จำเป็น แต่เป็นข้อกำหนดตามกฎระเบียบ

ทั่วทั้งเขตอำนาจศาล ข้อความมีความสอดคล้องกัน: หาก AI มีอิทธิพลต่อผลลัพธ์ของผู้บริโภคหรือตลาด สถาบันต้องสามารถอธิบายและปกป้องกระบวนการตัดสินใจที่นำไปสู่ผลลัพธ์เหล่านั้นได้

ทำไมภาคการธนาคารและประกันภัยจึงเป็นผู้นำ

แม้ว่าภาคส่วนอื่นๆ จะเผชิญกับความท้าทายในการกำกับดูแล AI แต่ภาคการธนาคารและประกันภัยก็อยู่ในแนวหน้าเพราะมีผลกระทบที่ชัดเจนและความเข้มงวดในการกำกับดูแล

ระบบการตรวจจับการฉ้อโกงต้องสร้างสมดุลระหว่างความเร็วและผลกระทบต่อลูกค้า การตัดสินใจเกี่ยวกับการให้สินเชื่อและประกันภัยต้องมีความสม่ำเสมอและไม่เลือกปฏิบัติ ผลการชำระเงินสินไหมทดแทนต้องสามารถทนต่อการตรวจสอบของหน่วยงานกำกับดูแลและความท้าทายของนโยบายประกันภัย ในแต่ละกรณี การตัดสินใจจะเกิดขึ้นจากความผสมผสานของข้อมูล กฎระเบียบ การวิเคราะห์ และการวินิจฉัยของมนุษย์

ผู้กำกับดูแลก็กำลังปรับโฟกัสของพวกเขาให้เข้มงวดขึ้น สำนักงานกำกับดูแลทางการเงินของสหราชอาณาจักรได้เริ่มการตรวจสอบ AI ที่ทันสมัยในการให้บริการทางการเงินปลีก โดยเชื่อมโยงการนำ AI ไปใช้กับผลลัพธ์ของผู้บริโภคและมาตรฐานการกำกับดูแล

สัญญาณนี้ชัดเจน: AI ถูกมองว่าเป็นโครงสร้างพื้นฐานทางการเงินหลัก

Decision Intelligence เป็นวินัยการดำเนินงาน

Decision Intelligence มักถูกเข้าใจผิดว่าเป็นอีกชั้นหนึ่งของการทำงานอัตโนมัติ ในภาคส่วนที่มีการควบคุม การทำงานอัตโนมัติเต็มรูปแบบมักไม่เหมาะสมหรือไม่จำเป็น ข้อจำกัดนโยบายและความอดทนความเสี่ยงทำให้มนุษย์ยังคงอยู่ในกระบวนการ

วัตถุประสงค์เป็นเรื่องเชิงปฏิบัติ: ทำให้การตัดสินใจมีความโปร่งใส สามารถตรวจสอบ และปรับปรุงได้อย่างต่อเนื่อง

ในทางปฏิบัติ หมายความว่าการตัดสินใจออกจากตรรกะการทำงานอัตโนมัติ แทนที่จะฝังไว้ในโค้ด แบบจำลอง หรือตาราง คำนวณ

• ข้อมูลใดที่ให้ข้อมูลผลลัพธ์
• นโยบายและข้อจำกัดใดที่ถูกนำไปใช้
• การแทรกแซงของมนุษย์เกิดขึ้นที่ไหน
• ใครเป็นเจ้าของการตัดสินใจสุดท้าย

เมื่อเวลาผ่านไป สิ่งนี้จะสร้างความทรงจำของสถาบัน องค์กรสามารถตรวจสอบไม่เพียงแต่ว่าแบบจำลองทำงานได้ดี แต่ว่ากระบวนการตัดสินใจสร้างผลลัพธ์ที่สอดคล้องกันและถูกต้องตามกฎหมายภายใต้สภาพแวดล้อมการทำงานจริง

ความโปร่งใสนี้ไม่ได้กำจัดความซับซ้อน แต่ทำให้สามารถควบคุมและสร้างความมั่นใจได้

ที่ไหนที่การนำ AI ไปใช้แบบดั้งเดิมล้มเหลว

หลายโครงการ AI ล้มเหลวที่รอยต่อขององค์กร ทีมข้อมูลจะปรับให้เหมาะสมกับแบบจำลอง ทีมธุรกิจเป็นเจ้าของผลลัพธ์ ทีมความเสี่ยงและความเข้าใจดูแลการกำกับดูแล เมื่อการตัดสินใจครอบคลุมทั้งสามทีม ความรับผิดชอบจะแตกกระจาย

ไม่มีทีมใดสามารถอธิบายได้อย่างชัดเจนว่าการตัดสินใจถูกสร้างขึ้นได้อย่างไร การแลกเปลี่ยนใดที่ถูกฝังไว้ และควรพัฒนาไปอย่างไร

การกระจายส่วนนี้มองเห็นได้ชัดเจนในภาคส่วนที่มีการควบคุม โดยที่การตัดสินใจมีหลายขั้นตอนและหลายเจ้าของ โดยไม่มีกรอบการตัดสินใจ การปรับปรุงผลลัพธ์มักจะเพิ่มความเสี่ยงเพราะการโต้ตอบระหว่างแบบจำลอง กฎระเบียบ และการวินิจฉัยของมนุษย์ยังคงไม่ชัดเจน

Decision Intelligence จะแก้ไขปัญหานี้โดยการรักษาการตัดสินใจให้เป็นสินค้าที่จัดการได้ สามารถออกแบบ ทดสอบ ติดตาม และปรับปรุงได้ด้วยความชัดเจนที่มีการแบ่งปันระหว่างผู้มีส่วนได้ส่วนเสีย

องค์กรหลายแห่งกำลังสร้างแบบจำลองกระบวนการตัดสินใจด้วยเช่นกัน โดยใช้โครงสร้างแบบบริบทหรือกราฟ โดยที่ข้อมูล ความสัมพันธ์ และผลลัพธ์สามารถติดตามได้เมื่อเวลาผ่านไป ชั้นบริบทนี้ช่วยให้ทีมเข้าใจไม่เพียงแต่ว่าการตัดสินใจใดที่ถูกตัดสิน แต่ทำไม และควรพัฒนาไปอย่างไรเมื่อสภาพแวดล้อมเปลี่ยนแปลง

สำหรับสถาบันที่อยู่ภายใต้การตรวจสอบ การเปลี่ยนแปลงนี้ไม่ใช่เรื่องของนวัตกรรม แต่เป็นเรื่องของการควบคุม

การเปลี่ยนความเสี่ยงของ AI เป็นข้อได้เปรียบเชิงกลยุทธ์

สำหรับ CIO, CDO, CRO และผู้นำทางธุรกิจที่นำ AI ไปใช้ใหญ่ๆ 使命คือชัดเจน: ความสำเร็จไม่ได้วัดจากจำนวนแบบจำลองที่ถูกนำไปใช้ แต่วัดจากว่าการตัดสินใจที่ได้รับอิทธิพลจาก AI ถูกกำกับดูแลได้ดีเพียงใด

องค์กรที่ทำแผนที่การไหลของการตัดสินใจ ชี้แจงความเป็นเจ้าของ เอกสารจุดสัมผัส AI และฝังการตรวจสอบแบบมีโครงสร้างไว้ในกระบวนการทำงาน จะเคลื่อนที่ได้เร็วขึ้นและมีความยืดหยุ่นมากขึ้น ในสภาพแวดล้อมที่มีการควบคุม การปฏิบัติตามกฎระเบียบมีความสำคัญมากกว่าความใหม่ทางเทคนิค

Decision Intelligence กำลังเกิดขึ้นไม่ใช่แค่หมวดหมู่เทคโนโลยีใหม่ แต่เป็นโครงสร้างการดำเนินงานที่ทำให้ AI มีความรับผิดชอบ มันช่วยให้สถาบันสามารถแสดงให้เห็นถึงความรับผิดชอบ จัดตำแหน่งทีมที่ทำงานข้ามฟังก์ชัน และขยาย AI ด้วยความมั่นใจ

ในตลาดที่มีการควบคุมอย่างเข้มงวด ความสามารถนี้ไม่ใช่แค่การรักษาความสะอาดตามกฎระเบียบ แต่เป็นข้อได้เปรียบในการแข่งขัน