การอธิบาย AI ที่ช่วยเพิ่มความน่าเชื่อถือและความไว้วางใจ

ในขณะที่ปัญญาประดิษฐ์ (AI) ได้รับการนำไปใช้ในองค์กรต่างๆ มันกำลังถูกฝังอยู่ในโครงสร้างของชีวิตประจำวันของเรา ด้านหนึ่งของการนำไปใช้นี้คือผู้ใช้ปลายทางควรจะเข้าใจกระบวนการและกลไกที่ AI ใช้ในการสร้างข้อสรุปหรือดำเนินการเพื่อให้ได้ผลลัพธ์ที่ต้องการ ในฐานะมนุษย์ เรามีความต้องการที่ลึกซึ้งในการค้นหาสาเหตุและวิธีการของปรากฏการณ์ใดๆ ซึ่งได้เร่งความก้าวหน้าทางเทคโนโลยีของเรา ในบริบทของ AI ความเข้าใจนี้เรียกว่า “การอธิบาย”

ทำไมการอธิบายจึงเป็นสิ่งจำเป็นในขณะนี้?

โดยทั่วไปแล้ว เราเข้าใกล้ AI เป็น “กล่องดำ” โดยที่เรามีความรู้เกี่ยวกับข้อมูลเข้าและข้อมูลออก แต่กระบวนการที่ใช้ในการดำเนินการถูกซ่อนอยู่ การเพิ่มปัญหานี้คือความจริงที่ว่าแอลกอริทึมที่ขับเคลื่อนรูปแบบ AI ที่เป็นที่นิยมส่วนใหญ่ เช่น ระบบการคาดการณ์ที่ซับซ้อนและประมวลผลภาษาธรรมชาติ (NLP) เป็นนามธรรมมากแม้กระทั่งผู้เชี่ยวชาญที่มีประสบการณ์มากที่สุด

ความไว้วางใจและความโปร่งใส: เพื่อให้ผู้ใช้ไว้วางใจการคาดการณ์ของ AI มันจะต้องมีการอธิบายที่มีอยู่ในตัวมันเอง ตัวอย่างเช่น หากแพทย์จะต้องแนะนำการรักษาโดยอาศัยการคาดการณ์ของ AI เขาจะต้องมั่นใจในผลลัพธ์ ธนาคารจะต้องมั่นใจในการตัดสินใจที่จะปฏิเสธหรืออนุมัติสินเชื่อและสามารถอธิบายได้ kepada ผู้มีส่วนได้ส่วนเสียทั้งหมด AI ที่ใช้ในการคัดเลือกและจ้างงานจะต้องแสดงให้เห็นว่ากลไกที่ซ่อนอยู่เป็นธรรมและเท่าเทียมกันสำหรับผู้สมัครทุกคน

ทำให้ AI มีความเป็นมนุษย์และเพิ่มการนำไปใช้: ในรายงาน “The state of AI in 2020” ของ Mckinsey เราได้เรียนรู้ว่าผู้ผลิตใช้แบบจำลองที่โปร่งใสมากในการยอมรับจากคนงานในโรงงานที่ต้องเชื่อใจการตัดสินใจของ AI เกี่ยวกับความปลอดภัยของพวกเขา เพื่อให้ AI ได้รับการนำไปใช้อย่างรวดเร็ว การได้รับการยอมรับจากผู้มีส่วนได้ส่วนเสียเป็นอุปสรรคหลักในการขยายจากโซลูชันจุดเดียวไปสู่ระดับองค์กรและรับผลตอบแทนสูงสุดจากการลงทุน ซึ่งจะช่วยลดลงได้มากหากผลการดำเนินงานสามารถอธิบายได้สำหรับผู้ฟังในวงกว้าง จากมุมมองทางธุรกิจ การอธิบายจะเพิ่มประสบการณ์ของผู้ใช้โดยรวมและเพิ่มความพึงพอใจของลูกค้า ตามการสำรวจของ IBM Institute for Business Value 68% ของผู้บริหารระดับสูงเชื่อว่าลูกค้าจะเรียกร้องการอธิบาย AI มากขึ้นในสามปีถัดไป

เปิดเผยความลำเอียงและปรับปรุงประสิทธิภาพของแบบจำลอง: นักพัฒนาต้องทราบวิธีการปรับปรุงประสิทธิภาพของแบบจำลองและวิธีการแก้ปัญหาและปรับแต่งมันอย่างไร กรอบการอธิบายที่ชัดเจนเป็นหนึ่งในเครื่องมือที่สำคัญที่สุดสำหรับการวิเคราะห์ที่ครอบคลุมที่จำเป็น

ได้รับข้อมูลเชิงลึกที่คมชัดและครบถ้วน: มุมมองที่สมบูรณ์ 360 องศาเป็น必要สำหรับการทำความเข้าใจอย่างเต็มที่เกี่ยวกับการสั่งซื้อใดๆ ของ AI ตัวอย่างเช่น หาก AI ใช้ในการตัดสินใจลงทุน คุณจะต้องทราบเหตุผลเบื้องหลังด้วย เพื่อที่จะถ่ายทอดความรู้นี้ไปยังพื้นที่อื่นๆ และเข้าใจถึงอันตรายที่อาจเกิดขึ้นจากการตัดสินใจนั้น ความเข้าใจที่แข็งแกร่งเกี่ยวกับวิธีการทำงานของ AI จะช่วยให้ผู้ตัดสินใจสามารถค้นหาการใช้งานใหม่ๆ ได้

กฎระเบียบและความรับผิดชอบ: กฎระเบียบหลายอย่าง เช่น GDPR กำหนดให้มีสิทธิ์ในการอธิบายเพื่อจัดการกับปัญหาความรับผิดชอบที่เกิดขึ้นจากกระบวนการตัดสินใจโดยอัตโนมัติ ในระบบ เช่น ยานพาหนะอัตโนมัติ หากเกิดเหตุการณ์ที่ทำให้เกิดการเสียชีวิตและความเสียหายต่อทรัพย์สิน จะต้องมีความรู้เกี่ยวกับสาเหตุของเหตุการณ์นั้น ซึ่งจะยากที่จะระบุในระบบ “กล่องดำ”

AI สามารถอธิบายได้อย่างไร?

ระบบ AI ที่สามารถอธิบายได้ (XAI) ถูกพัฒนาโดยใช้เทคนิคต่างๆ ที่เน้นการอธิบายแบบจำลองโดยรวมหรือการอธิบายเหตุผลเบื้องหลังการคาดการณ์แต่ละครั้งโดยใช้แอลกอริทึมบางอย่าง

เทคนิคการอธิบายส่วนใหญ่พึ่งพา:

• การแยกแบบจำลองออกเป็นส่วนประกอบต่างๆ
• การแสดงภาพการคาดการณ์ของแบบจำลอง (เช่น หากแบบจำลองจำแนกรถยนต์เป็นยี่ห้อใดๆ มันจะเน้นย้ำส่วนที่ทำให้มันถูกจำแนกเป็นยี่ห้อนั้น)
• การขุดการอธิบาย (โดยใช้เทคนิคการเรียนรู้ของเครื่องเพื่อค้นหาข้อมูลที่เกี่ยวข้องที่อธิบายการคาดการณ์ของแอลกอริทึม AI)

ในเทคนิคหนึ่งที่เรียกว่า “การสร้างแบบจำลองแทน” ใช้แบบจำลองที่เรียบง่ายและเข้าใจได้ง่าย เช่น ต้นการตัดสินใจ เพื่อแสดงแบบจำลอง AI ที่ซับซ้อนกว่า แบบจำลองที่เรียบง่ายเหล่านี้ให้ภาพรวมที่ดีของแบบจำลองในระดับสูง แต่อาจบดบังรายละเอียดบางอย่าง

แนวทางอื่นคือ “การอธิบายโดยการออกแบบ” แนวทางนี้วางข้อจำกัดในการออกแบบและฝึกอบรมเครือข่าย AI ในรูปแบบใหม่ที่พยายามสร้างเครือข่ายโดยรวมจากส่วนประกอบที่เล็กและเข้าใจได้ง่ายขึ้น ซึ่งเกี่ยวข้องกับการแลกเปลี่ยนระหว่างระดับความแม่นยำและความสามารถในการอธิบาย และจำกัดแนวทางบางอย่างจากชุดเครื่องมือของนักวิทยาศาสตร์ข้อมูล อาจต้องใช้การประมวลผลที่เข้มข้น

การฝึกอบรมและทดสอบ AI ยังสามารถใช้เทคนิคการยืนยันข้อมูลที่เป็นกลาง เช่น โมเดลที่สามารถอธิบายได้ในท้องถิ่น (LIME) และการอธิบายแบบเพิ่มเติมของ Shapley (SHAP) และควรปรับให้เหมาะสมเพื่อให้ได้ความแม่นยำสูงโดยใช้เมตริก เช่น F-คะแนน ความแม่นยำ และอื่นๆ และผลลัพธ์ควรได้รับการตรวจสอบและยืนยันโดยใช้ข้อมูลหลากหลาย โดยใช้ LIME ตัวอย่างเช่น องค์กรสามารถสร้างแบบจำลองชั่วคราวที่เลียนแบบการคาดการณ์ของแอลกอริทึมที่ไม่โปร่งใส เช่น การเรียนรู้ของเครื่อง แบบจำลอง LIME เหล่านี้สามารถสร้างการผสมผสานที่หลากหลายตามชุดข้อมูลที่กำหนดและผลลัพธ์ที่เกี่ยวข้อง ซึ่งสามารถใช้ในการฝึกอบรมแบบจำลองที่เข้าใจได้ง่ายขึ้นพร้อมด้วยรายการส่วนประกอบที่อธิบายการคาดการณ์แต่ละครั้ง SHAP ซึ่งมีพื้นฐานมาจากทฤษฎีเกมและทฤษฎีเกมร่วมเป็นพิเศษ คือโมเดลที่รวมการกระจายเครดิตที่เหมาะสมที่สุดเข้ากับการอธิบายท้องถิ่นโดยใช้ค่า Shapley เดิมจากทฤษฎีเกมและทายาทของมัน

การดำเนินงานตามหลักการ

ในระดับยุทธศาสตร์มากกว่านั้น อย่างไรก็ตาม แฟรมเวิร์กความน่าเชื่อถือของ AI ควรประกอบด้วยหลักการหลากหลายที่มุ่งเน้นเพื่อให้แน่ใจว่าผลลัพธ์ที่เหมาะสมทั้งในตอนเริ่มต้นและเมื่อเวลาผ่านไปเมื่อแบบจำลองพัฒนาไปตามสถานการณ์ที่เปลี่ยนแปลงไป ในขั้นต่ำ แฟรมเวิร์กเหล่านี้ควรประกอบด้วยสิ่งต่อไปนี้:

• การตรวจจับความลำเอียง – ชุดข้อมูลทั้งหมดควรได้รับการล้างความลำเอียงและคุณลักษณะที่เลือกปฏิบัติ และให้ความสำคัญและความระมัดระวังที่เหมาะสมเมื่อนำไปใช้กับแบบจำลองการฝึกอบรม;
• การมีส่วนร่วมของมนุษย์ – ผู้ดำเนินการควรสามารถตรวจสอบและตีความผลลัพธ์ของแอลกอริทึมได้ทุกเวลา โดยเฉพาะอย่างยิ่งเมื่อแบบจำลองถูกใช้ในการบังคับใช้กฎหมายและรักษาสิทธิพลเรือน;
• การให้เหตุผล – การคาดการณ์ทั้งหมดจะต้องสามารถทนต่อการตรวจสอบ ซึ่งโดยธรรมชาติต้องมีการเปิดเผยข้อมูลในระดับสูงเพื่อให้ผู้สังเกตการณ์ภายนอกสามารถประเมินกระบวนการและเกณฑ์ที่ใช้ในการสร้างผลลัพธ์;
• การทำซ้ำ – แบบจำลอง AI ที่น่าเชื่อถือจะต้องสอดคล้องกันในการคาดการณ์และต้องแสดงระดับความเสถียรที่สูงเมื่อเผชิญกับข้อมูลใหม่

แต่ XAI ไม่ควรได้รับการพิจารณาเพียงวิธีการเพิ่มผลกำไร แต่ยังเป็นวิธีการนำความรับผิดชอบมาใช้เพื่อให้แน่ใจว่าองค์กรสามารถอธิบายและให้เหตุผลผลกระทบของสิ่งประดิษฐ์ของตนต่อสังคมโดยรวม