ผู้นำทางความคิด
AI ที่อธิบายได้ช่วยเพิ่มความน่าเชื่อถือและความไว้วางใจอย่างไร

ประเด็นสำคัญความสามารถในการอธิบายเป็นสิ่งจำเป็นสำหรับความไว้วางใจของผู้ใช้ใน AI ที่มีความเสี่ยงสูง…
ดูเพิ่มเติม
- ความสามารถในการอธิบายเป็นสิ่งจำเป็นสำหรับความไว้วางใจของผู้ใช้ใน AI ที่มีความเสี่ยงสูง เช่น การตัดสินใจทางการแพทย์และการให้สินเชื่อ
- กฎระเบียบ เช่น GDPR กำหนดสิทธิ์ในการขอคำอธิบายสำหรับความรับผิดชอบในการตัดสินใจแบบอัตโนมัติ
- เทคนิค เช่น LIME และ SHAP สร้างแบบจำลองที่ง่ายขึ้นเพื่อตีความการคาดการณ์ที่ซับซ้อนของ AI
ในขณะที่ปัญญาประดิษฐ์ (AI) ได้รับการนำไปใช้ในองค์กรต่างๆ มันกำลังถูกฝังอยู่ในโครงสร้างของชีวิตประจำวันของเรา ด้านหนึ่งของการนำไปใช้นี้คือผู้ใช้ปลายทางควรจะเข้าใจกระบวนการและกลไกที่ AI ใช้ในการสร้างข้อสรุปหรือดำเนินการเพื่อให้ได้ผลลัพธ์ที่ต้องการ ในฐานะมนุษย์ เรามีความต้องการที่ลึกซึ้งในการค้นหาสาเหตุและวิธีการของปรากฏการณ์ใดๆ ซึ่งได้เร่งความก้าวหน้าทางเทคโนโลยีของเรา ในบริบทของ AI ความเข้าใจนี้เรียกว่า “ความสามารถในการอธิบาย”
ทำไมความสามารถในการอธิบายจึงเป็นสิ่งจำเป็นในขณะนี้?
โดยทั่วไปแล้ว เราเข้าใกล้ AI เป็น “กล่องดำ” โดยที่เรามีความรู้เกี่ยวกับข้อมูลเข้าและข้อมูลออก แต่กระบวนการที่ใช้ในการดำเนินการถูกซ่อนอยู่ การเพิ่มปัญหานี้คือความจริงที่ว่าแอลกอริทึมที่ขับเคลื่อนรูปแบบ AI ที่เป็นที่นิยมส่วนใหญ่ เช่น ระบบการคาดการณ์ที่ซับซ้อนบนพื้นฐานการเรียนรู้เชิงลึกและการประมวลผลภาษาธรรมชาติ (NLP) เป็นนามธรรมมากแม้กระทั่งผู้เชี่ยวชาญที่มีประสบการณ์มากที่สุด
ความไว้วางใจและความโปร่งใส: เพื่อให้ผู้ใช้ไว้วางใจการคาดการณ์ของ AI มันจะต้องมีความสามารถในการอธิบายที่มีอยู่ในตัวมันเอง ตัวอย่างเช่น หากแพทย์จะต้องแนะนำการรักษาโดยอาศัยการคาดการณ์ของ AI เขาจะต้องมั่นใจในผลลัพธ์ ธนาคารจะต้องมั่นใจในการตัดสินใจที่จะปฏิเสธหรืออนุมัติสินเชื่อและสามารถอธิบายได้ต่อผู้มีส่วนได้ส่วนเสียทั้งหมด AI ที่ใช้ในการคัดเลือกและจ้างงานจะต้องแสดงให้เห็นว่ากลไกที่ซ่อนอยู่เป็นธรรมและเท่าเทียมกันสำหรับผู้สมัครทุกคน
ทำให้ AI มีความเป็นมนุษย์และเพิ่มการนำไปใช้: ในรายงาน The state of AI in 2020 ของ Mckinsey เราได้เรียนรู้ว่าผู้ผลิตใช้แบบจำลองที่โปร่งใสมากในการยอมรับจากคนงานในโรงงานที่ต้องเชื่อใจการตัดสินใจของ AI เกี่ยวกับความปลอดภัยของพวกเขา. เพื่อให้ AI ได้รับการนำไปใช้อย่างรวดเร็ว การได้รับการยอมรับจากผู้มีส่วนได้ส่วนเสียเป็นอุปสรรคหลักในการขยายจากโซลูชันจุดเดียวไปสู่ระดับองค์กรและรับผลตอบแทนสูงสุดจากการลงทุน ซึ่งจะช่วยลดลงได้มากหากผลการดำเนินงานสามารถอธิบายได้สำหรับผู้ฟังในวงกว้าง จากมุมมองทางธุรกิจ ความสามารถในการอธิบายจะเพิ่มประสบการณ์ของผู้ใช้โดยรวมและเพิ่มความพึงพอใจของลูกค้า ตามการสำรวจของ IBM Institute for Business Value 68% ของผู้บริหารระดับสูงเชื่อว่าลูกค้าจะเรียกร้องความสามารถในการอธิบาย AI มากขึ้นในสามปีถัดไป
เปิดเผยความลำเอียงและปรับปรุงประสิทธิภาพของแบบจำลอง: นักพัฒนาต้องทราบวิธีการปรับปรุงประสิทธิภาพของแบบจำลองและวิธีการแก้ปัญหาและปรับแต่งมันอย่างไร กรอบความสามารถในการอธิบายที่ชัดเจนเป็นหนึ่งในเครื่องมือที่สำคัญที่สุดสำหรับการวิเคราะห์ที่ครอบคลุมที่จำเป็น
ได้รับข้อมูลเชิงลึกที่คมชัดและครบถ้วน: มุมมองที่สมบูรณ์ 360 องศาเป็นสิ่งจำเป็นสำหรับการทำความเข้าใจอย่างเต็มที่เกี่ยวกับคำแนะนำใดๆ ของ AI ตัวอย่างเช่น หาก AI ใช้ในการตัดสินใจลงทุน คุณจะต้องทราบเหตุผลเบื้องหลังด้วย เพื่อที่จะถ่ายทอดความรู้นี้ไปยังพื้นที่อื่นๆ และเข้าใจถึงอันตรายที่อาจเกิดขึ้นจากการตัดสินใจนั้น ความเข้าใจที่แข็งแกร่งเกี่ยวกับวิธีการทำงานของ AI จะช่วยให้ผู้ตัดสินใจสามารถค้นหาการใช้งานใหม่ๆ ได้
กฎระเบียบและความรับผิดชอบ: กฎระเบียบหลายอย่าง เช่น GDPR กำหนดให้มีสิทธิ์ในความสามารถในการอธิบายเพื่อจัดการกับปัญหาความรับผิดชอบที่เกิดขึ้นจากกระบวนการตัดสินใจโดยอัตโนมัติ ในระบบ เช่น ยานพาหนะอัตโนมัติ หากเกิดเหตุการณ์ที่ทำให้เกิดการเสียชีวิตและความเสียหายต่อทรัพย์สิน จะต้องมีความรู้เกี่ยวกับสาเหตุของเหตุการณ์นั้น ซึ่งจะยากที่จะระบุในระบบ “กล่องดำ”
AI สามารถอธิบายได้อย่างไร?
ระบบ AI ที่สามารถอธิบายได้ (XAI) ถูกพัฒนาโดยใช้เทคนิคต่างๆ ที่เน้นความสามารถในการอธิบายแบบจำลองโดยรวมหรือความสามารถในการอธิบายเหตุผลเบื้องหลังการคาดการณ์แต่ละครั้งโดยใช้แอลกอริทึมบางอย่าง
เทคนิคความสามารถในการอธิบายส่วนใหญ่พึ่งพา:
- การแยกแบบจำลองออกเป็นส่วนประกอบต่างๆ
- การแสดงภาพการคาดการณ์ของแบบจำลอง (เช่น หากแบบจำลองจำแนกรถยนต์เป็นยี่ห้อใดๆ มันจะเน้นย้ำส่วนที่ทำให้มันถูกจำแนกเป็นยี่ห้อนั้น)
- การขุดความสามารถในการอธิบาย (โดยใช้เทคนิคการเรียนรู้ของเครื่องเพื่อค้นหาข้อมูลที่เกี่ยวข้องที่อธิบายการคาดการณ์ของแอลกอริทึม AI)
ในเทคนิคหนึ่งที่เรียกว่า “การสร้างแบบจำลองแทน” ใช้แบบจำลองที่เรียบง่ายและเข้าใจได้ง่าย เช่น ต้นไม้ตัดสินใจ เพื่อแสดงแบบจำลอง AI ที่ซับซ้อนกว่า แบบจำลองที่เรียบง่ายเหล่านี้ให้ภาพรวมที่ดีของแบบจำลองในระดับสูง แต่อาจบดบังรายละเอียดบางอย่าง
แนวทางอื่นคือ “ความสามารถในการอธิบายโดยการออกแบบ” แนวทางนี้วางข้อจำกัดในการออกแบบและฝึกอบรมเครือข่าย AI ในรูปแบบใหม่ที่พยายามสร้างเครือข่ายโดยรวมจากส่วนประกอบที่เล็กและเข้าใจได้ง่ายขึ้น ซึ่งเกี่ยวข้องกับการแลกเปลี่ยนระหว่างระดับความแม่นยำและความสามารถในการอธิบาย และจำกัดแนวทางบางอย่างจากชุดเครื่องมือของนักวิทยาศาสตร์ข้อมูล อาจต้องใช้การประมวลผลที่เข้มข้น
การฝึกอบรมและทดสอบ AI ยังสามารถใช้เทคนิคการตรวจสอบข้อมูลที่ไม่ขึ้นกับชนิดของแบบจำลอง เช่น แบบจำลองที่ตีความได้เฉพาะจุด (LIME) และคำอธิบายแบบบวกเพิ่มของ Shapley (SHAP) และควรปรับให้เหมาะสมเพื่อให้ได้ความแม่นยำสูงโดยใช้เมตริก เช่น F-คะแนน ความแม่นยำ และอื่นๆ และผลลัพธ์ควรได้รับการตรวจสอบและยืนยันโดยใช้ข้อมูลหลากหลาย โดยใช้ LIME ตัวอย่างเช่น องค์กรสามารถสร้างแบบจำลองชั่วคราวที่เลียนแบบการคาดการณ์ของแอลกอริทึมที่ไม่โปร่งใส เช่น การเรียนรู้ของเครื่อง แบบจำลอง LIME เหล่านี้สามารถสร้างการผสมผสานที่หลากหลายตามชุดข้อมูลที่กำหนดและผลลัพธ์ที่เกี่ยวข้อง ซึ่งสามารถใช้ในการฝึกอบรมแบบจำลองที่เข้าใจได้ง่ายขึ้นพร้อมด้วยรายการคำอธิบายครบถ้วนสำหรับการตัดสินใจและ/หรือการคาดการณ์แต่ละครั้ง SHAP ซึ่งมีพื้นฐานมาจากทฤษฎีเกมและทฤษฎีเกมแบบร่วมมือเป็นพิเศษ คือโมเดลที่รวมการจัดสรรส่วนสนับสนุนต่อผลลัพธ์อย่างเหมาะสมที่สุดเข้ากับคำอธิบายเฉพาะจุดโดยใช้ค่า Shapley เดิมจากทฤษฎีเกมและวิธีการที่พัฒนาต่อยอดจากค่านั้น
การดำเนินงานตามหลักการ
ในระดับยุทธศาสตร์มากกว่านั้น อย่างไรก็ตาม แฟรมเวิร์กความน่าเชื่อถือของ AI ควรประกอบด้วยหลักการหลากหลายที่มุ่งเน้นเพื่อให้แน่ใจว่าผลลัพธ์ที่เหมาะสมทั้งในตอนเริ่มต้นและเมื่อเวลาผ่านไปเมื่อแบบจำลองพัฒนาไปตามสถานการณ์ที่เปลี่ยนแปลงไป ในขั้นต่ำ แฟรมเวิร์กเหล่านี้ควรประกอบด้วยสิ่งต่อไปนี้:
- การตรวจจับความลำเอียง – ชุดข้อมูลทั้งหมดควรได้รับการล้างความลำเอียงและคุณลักษณะที่เลือกปฏิบัติ และให้ความสำคัญและความระมัดระวังที่เหมาะสมเมื่อนำไปใช้กับแบบจำลองการฝึกอบรม;
- การมีส่วนร่วมของมนุษย์ – ผู้ดำเนินการควรสามารถตรวจสอบและตีความผลลัพธ์ของแอลกอริทึมได้ทุกเวลา โดยเฉพาะอย่างยิ่งเมื่อแบบจำลองถูกใช้ในการบังคับใช้กฎหมายและรักษาสิทธิพลเรือน;
- การให้เหตุผล – การคาดการณ์ทั้งหมดจะต้องสามารถทนต่อการตรวจสอบ ซึ่งโดยธรรมชาติต้องมีการเปิดเผยข้อมูลในระดับสูงเพื่อให้ผู้สังเกตการณ์ภายนอกสามารถประเมินกระบวนการและเกณฑ์ที่ใช้ในการสร้างผลลัพธ์;
- การทำซ้ำ – แบบจำลอง AI ที่น่าเชื่อถือจะต้องสอดคล้องกันในการคาดการณ์และต้องแสดงระดับความเสถียรที่สูงเมื่อเผชิญกับข้อมูลใหม่
แต่ XAI ไม่ควรได้รับการพิจารณาเพียงวิธีการเพิ่มผลกำไร แต่ยังเป็นวิธีการนำความรับผิดชอบมาใช้เพื่อให้แน่ใจว่าองค์กรสามารถอธิบายและให้เหตุผลผลกระทบของสิ่งประดิษฐ์ของตนต่อสังคมโดยรวม












