ความเข้าใจได้ของระบบปัญญาประดิษฐ์: พื้นที่ใหม่สำหรับระบบปัญญาประดิษฐ์ในด้านประกันภัยและธนาคาร

โดย Dr. Ori Katz นักวิจัยด้านการวิเคราะห์ Earnix

“เทคโนโลยีที่ทันสมัยพอที่จะไม่สามารถแยกแยะจากเวทมนตร์ได้” นักเขียนนิยายวิทยาศาสตร์ อาร์เธอร์ ซี คลาร์ก ได้โต้แย้งว่า เทคโนโลยีที่ทันสมัย เช่น อัลกอริทึมการเรียนรู้ของเครื่องใหม่ๆ ทำให้เราเห็นเป็นเวทมนตร์ การใช้งานที่กำลังพัฒนาของการเรียนรู้ของเครื่อง รวมถึงการจำแนกภาพ การรู้จำเสียง และการใช้งานในด้านประกันภัยและธนาคาร ทำให้เราเห็นเป็นเวทมนตร์

หลายบริษัทไม่กล้าเปลี่ยนแบบจำลองการวิเคราะห์แบบดั้งเดิมของตนเอง และมีเหตุผลที่จะไม่ทำเช่นนั้น เเวทมนตร์เป็นอันตราย โดยเฉพาะอย่างยิ่งหากไม่เข้าใจถึงหลักการทำงานของมัน โครงข่ายประสาทเทียมและอัลกอริทึมแบบต้นไม้ประกอบเป็น “กล่องดำ” ที่มีโครงสร้างภายในที่ซับซ้อน ในขณะเดียวกัน การศึกษาบางอย่าง [1] ได้แสดงให้เห็นว่าอัลกอริทึมเหล่านี้สามารถทำงานได้ดีกว่าแบบจำลองความเสี่ยงประกันภัยแบบดั้งเดิมที่สร้างขึ้นโดยนักประกันภัยที่มีประสบการณ์ ซึ่งเป็นเพราะความสามารถของอัลกอริทึมเหล่านี้ในการค้นหาความสัมพันธ์ที่ซ่อนอยู่ในข้อมูล

ผู้จัดการและนักวิเคราะห์ไม่ใช่คนเดียวที่กังวลเกี่ยวกับเรื่องนี้ ในช่วงไม่กี่ปีที่ผ่านมา ผู้กำกับดูแลได้เริ่มสำรวจด้านมืดของเวทมนตร์เพื่อเพิ่มความสามารถในการตรวจสอบอุตสาหกรรมเหล่านี้ อุตสาหกรรมประกันภัยและธนาคารมีการควบคุมอย่างเข้มงวดในหลายด้าน และแนวโน้มการควบคุมในปัจจุบันเกี่ยวข้องกับการตรวจสอบแบบจำลองที่ใช้ในการทำนาย ในตัวอย่างเช่น ข้อความที่ 71 ของข้อบังคับป้องกันการรั่วไหลของข้อมูลส่วนบุคคลของสหภาพยุโรป (GDPR) ระบุว่าลูกค้าควรได้รับสิทธิในการรับคำอธิบายเกี่ยวกับการตัดสินใจอัตโนมัติหลังจากการตัดสินใจดังกล่าว

ความจำเป็นเร่งด่วนในการอธิบายแบบจำลองการวิเคราะห์ที่เป็น “กล่องดำ” นี้ได้นำไปสู่การเกิดขึ้นของสาขาวิจัยใหม่: ระบบปัญญาประดิษฐ์ที่สามารถอธิบายได้ (Explainable Artificial Intelligence) นักวิจัยได้พัฒนาตัวเครื่องมือที่ช่วยให้เราเห็นภายใน “กล่องดำ” และเข้าใจบางส่วนของเวทมนตร์

ตัวอย่างการอธิบายแบบท้องถิ่น (Local Explainability) คือ การใช้ค่า Shapley เพื่ออธิบายการทำนายของแบบจำลอง การใช้ค่า Shapley นี้ได้รับแรงบันดาลใจจากทฤษฎีเกมของ Lloyd Shapley ซึ่งพัฒนาแนวทางในการคำนวณส่วนร่วมของผู้เล่นหลายคนในการทำงานร่วมกัน ในระบบปัญญาประดิษฐ์ที่สามารถอธิบายได้ “ผู้เล่น” คือคุณลักษณะของแบบจำลอง และ “งาน” คือการทำนายของค่า Shapley คือตัวเลขที่อธิบายส่วนร่วมของแต่ละคุณลักษณะ

กราฟต่อไปนี้เป็นตัวอย่างของการอธิบายแบบท้องถิ่น โดยใช้ข้อมูลจำลองเพื่อทำนายความต้องการการ續ประกันของลูกค้าเฉพาะ การใช้ค่า Shapley ช่วยให้เราเห็นส่วนร่วมของแต่ละคุณลักษณะในการทำนาย และเข้าใจสาเหตุของความแตกต่างระหว่างการทำนายสำหรับลูกค้าคนนี้และลูกค้าโดยทั่วไป

แม้ว่าเราจะไม่สามารถเข้าใจโครงสร้างภายในของแบบจำลองที่ซับซ้อนได้ แต่ค่า Shapley ช่วยให้เราเห็นคุณลักษณะที่สำคัญที่สุดในการทำนายสำหรับลูกค้าคนนี้ และเข้าใจบางส่วนของเวทมนตร์ การใช้ค่า Shapley平均สำหรับประชากรทั้งหมดช่วยให้เราเห็นคุณลักษณะที่สำคัญที่สุดในการทำนายโดยรวม และเข้าใจแบบจำลองได้ดีขึ้น

เครื่องมือการอธิบายใหม่เหล่านี้เป็นขั้นตอนต่อไปที่จำเป็นในการพัฒนาการเรียนรู้ของเครื่อง สามารถช่วยให้บริษัทประกันภัยและธนาคารเข้าใจและเชื่อใจแบบจำลองการเรียนรู้ของเครื่องได้ และช่วยให้พวกเขาปฏิบัติตามข้อกำหนดด้านกฎระเบียบได้ เราสามารถลดความเสี่ยงในการใช้แบบจำลอง “กล่องดำ” และ享受ประโยชน์ของแบบจำลองการเรียนรู้ของเครื่องที่มีความแม่นยำสูงโดยไม่ต้องกังวลเกี่ยวกับความไม่แน่นอน

ในโลกที่เปลี่ยนแปลงอย่างรวดเร็ว การเป็นธุรกิจที่มีการวิเคราะห์ข้อมูลอย่างเต็มที่เป็นเกณฑ์ฐานในการอยู่รอดสำหรับบริษัทประกันภัยและธนาคาร ความสามารถนี้มีความสำคัญเสมอ แต่กลายเป็นเรื่องจำเป็นเมื่อเผชิญกับสภาวะตลาดที่ไม่แน่นอนในปี 2020 บริษัทประกันภัยและธนาคารต้องการการวิเคราะห์ข้อมูลที่ฉลาดขึ้นเพื่อสร้างแบบจำลองความเป็นจริงที่ซับซ้อนและตัดสินใจทางธุรกิจได้อย่างรวดเร็วและแม่นยำ

เครื่องมือการอธิบายสามารถช่วยให้บริษัทประกันภัยและธนาคารบรรลุเป้าหมายนี้ได้ เมื่อเวลาผ่านไป เราจะถึงจุดที่แบบจำลองการเรียนรู้ของเครื่องไม่ได้รับการพิจารณาว่าเป็น “เวทมนตร์” แต่เป็นเครื่องมือที่จำเป็นในคลังอาวุธหลักของธุรกิจที่ขับเคลื่อนด้วยข้อมูล

แหล่งข้อมูล:

[1] Bärtl, M., & Krummaker, S. (2020). การทำนายการเรียกร้องในด้านการเงินส่งออก: การเปรียบเทียบของเทคนิคการเรียนรู้ของเครื่องสี่แบบ Risks, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). กรณีศึกษา: การเรียกร้องความรับผิดชอบต่อผู้ที่ไม่ใช่ผู้ถือกรมธรรม์ในประเทศฝรั่งเศส Available at SSRN 3164764.

Fauzan, M. A., & Murfi, H. (2018). ความแม่นยำของ XGBoost ในการทำนายการเรียกร้อง Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). การศึกษาเปรียบเทียบของอัลกอริทึมการทำนายการเรียกร้องในด้านการประกันภัย European International Journal of Science and Technology, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). แนวทางที่เป็นเอกภาพในการตีความการทำนายแบบจำลอง ใน Advances in neural information processing systems (pp. 4765-4774).

[3] ดูรายละเอียดเพิ่มเติมที่: https://christophm.github.io/interpretable-ml-book/index.html