ผู้นำทางความคิด

AI ที่อธิบายได้ช่วยเพิ่มความน่าเชื่อถือและความไว้วางใจอย่างไร

Balakrishna D R
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญความสามารถในการอธิบายเป็นสิ่งจำเป็นสำหรับความไว้วางใจของผู้ใช้ใน AI ที่มีความเสี่ยงสูง…
ดูเพิ่มเติม
  • ความสามารถในการอธิบายเป็นสิ่งจำเป็นสำหรับความไว้วางใจของผู้ใช้ใน AI ที่มีความเสี่ยงสูง เช่น การตัดสินใจทางการแพทย์และการให้สินเชื่อ
  • กฎระเบียบ เช่น GDPR กำหนดสิทธิ์ในการขอคำอธิบายสำหรับความรับผิดชอบในการตัดสินใจแบบอัตโนมัติ
  • เทคนิค เช่น LIME และ SHAP สร้างแบบจำลองที่ง่ายขึ้นเพื่อตีความการคาดการณ์ที่ซับซ้อนของ AI

ในขณะที่ปัญญาประดิษฐ์ (AI) ได้รับการนำไปใช้ในองค์กรต่างๆ มันกำลังถูกฝังอยู่ในโครงสร้างของชีวิตประจำวันของเรา ด้านหนึ่งของการนำไปใช้นี้คือผู้ใช้ปลายทางควรจะเข้าใจกระบวนการและกลไกที่ AI ใช้ในการสร้างข้อสรุปหรือดำเนินการเพื่อให้ได้ผลลัพธ์ที่ต้องการ ในฐานะมนุษย์ เรามีความต้องการที่ลึกซึ้งในการค้นหาสาเหตุและวิธีการของปรากฏการณ์ใดๆ ซึ่งได้เร่งความก้าวหน้าทางเทคโนโลยีของเรา ในบริบทของ AI ความเข้าใจนี้เรียกว่า “ความสามารถในการอธิบาย”

ทำไมความสามารถในการอธิบายจึงเป็นสิ่งจำเป็นในขณะนี้?

โดยทั่วไปแล้ว เราเข้าใกล้ AI เป็น “กล่องดำ” โดยที่เรามีความรู้เกี่ยวกับข้อมูลเข้าและข้อมูลออก แต่กระบวนการที่ใช้ในการดำเนินการถูกซ่อนอยู่ การเพิ่มปัญหานี้คือความจริงที่ว่าแอลกอริทึมที่ขับเคลื่อนรูปแบบ AI ที่เป็นที่นิยมส่วนใหญ่ เช่น ระบบการคาดการณ์ที่ซับซ้อนบนพื้นฐานการเรียนรู้เชิงลึกและการประมวลผลภาษาธรรมชาติ (NLP) เป็นนามธรรมมากแม้กระทั่งผู้เชี่ยวชาญที่มีประสบการณ์มากที่สุด

ความไว้วางใจและความโปร่งใส: เพื่อให้ผู้ใช้ไว้วางใจการคาดการณ์ของ AI มันจะต้องมีความสามารถในการอธิบายที่มีอยู่ในตัวมันเอง ตัวอย่างเช่น หากแพทย์จะต้องแนะนำการรักษาโดยอาศัยการคาดการณ์ของ AI เขาจะต้องมั่นใจในผลลัพธ์ ธนาคารจะต้องมั่นใจในการตัดสินใจที่จะปฏิเสธหรืออนุมัติสินเชื่อและสามารถอธิบายได้ต่อผู้มีส่วนได้ส่วนเสียทั้งหมด AI ที่ใช้ในการคัดเลือกและจ้างงานจะต้องแสดงให้เห็นว่ากลไกที่ซ่อนอยู่เป็นธรรมและเท่าเทียมกันสำหรับผู้สมัครทุกคน

ทำให้ AI มีความเป็นมนุษย์และเพิ่มการนำไปใช้: ในรายงาน The state of AI in 2020 ของ Mckinsey เราได้เรียนรู้ว่าผู้ผลิตใช้แบบจำลองที่โปร่งใสมากในการยอมรับจากคนงานในโรงงานที่ต้องเชื่อใจการตัดสินใจของ AI เกี่ยวกับความปลอดภัยของพวกเขา. เพื่อให้ AI ได้รับการนำไปใช้อย่างรวดเร็ว การได้รับการยอมรับจากผู้มีส่วนได้ส่วนเสียเป็นอุปสรรคหลักในการขยายจากโซลูชันจุดเดียวไปสู่ระดับองค์กรและรับผลตอบแทนสูงสุดจากการลงทุน ซึ่งจะช่วยลดลงได้มากหากผลการดำเนินงานสามารถอธิบายได้สำหรับผู้ฟังในวงกว้าง จากมุมมองทางธุรกิจ ความสามารถในการอธิบายจะเพิ่มประสบการณ์ของผู้ใช้โดยรวมและเพิ่มความพึงพอใจของลูกค้า ตามการสำรวจของ IBM Institute for Business Value 68% ของผู้บริหารระดับสูงเชื่อว่าลูกค้าจะเรียกร้องความสามารถในการอธิบาย AI มากขึ้นในสามปีถัดไป

เปิดเผยความลำเอียงและปรับปรุงประสิทธิภาพของแบบจำลอง: นักพัฒนาต้องทราบวิธีการปรับปรุงประสิทธิภาพของแบบจำลองและวิธีการแก้ปัญหาและปรับแต่งมันอย่างไร กรอบความสามารถในการอธิบายที่ชัดเจนเป็นหนึ่งในเครื่องมือที่สำคัญที่สุดสำหรับการวิเคราะห์ที่ครอบคลุมที่จำเป็น

ได้รับข้อมูลเชิงลึกที่คมชัดและครบถ้วน: มุมมองที่สมบูรณ์ 360 องศาเป็นสิ่งจำเป็นสำหรับการทำความเข้าใจอย่างเต็มที่เกี่ยวกับคำแนะนำใดๆ ของ AI ตัวอย่างเช่น หาก AI ใช้ในการตัดสินใจลงทุน คุณจะต้องทราบเหตุผลเบื้องหลังด้วย เพื่อที่จะถ่ายทอดความรู้นี้ไปยังพื้นที่อื่นๆ และเข้าใจถึงอันตรายที่อาจเกิดขึ้นจากการตัดสินใจนั้น ความเข้าใจที่แข็งแกร่งเกี่ยวกับวิธีการทำงานของ AI จะช่วยให้ผู้ตัดสินใจสามารถค้นหาการใช้งานใหม่ๆ ได้

กฎระเบียบและความรับผิดชอบ: กฎระเบียบหลายอย่าง เช่น GDPR กำหนดให้มีสิทธิ์ในความสามารถในการอธิบายเพื่อจัดการกับปัญหาความรับผิดชอบที่เกิดขึ้นจากกระบวนการตัดสินใจโดยอัตโนมัติ ในระบบ เช่น ยานพาหนะอัตโนมัติ หากเกิดเหตุการณ์ที่ทำให้เกิดการเสียชีวิตและความเสียหายต่อทรัพย์สิน จะต้องมีความรู้เกี่ยวกับสาเหตุของเหตุการณ์นั้น ซึ่งจะยากที่จะระบุในระบบ “กล่องดำ”

AI สามารถอธิบายได้อย่างไร?

ระบบ AI ที่สามารถอธิบายได้ (XAI) ถูกพัฒนาโดยใช้เทคนิคต่างๆ ที่เน้นความสามารถในการอธิบายแบบจำลองโดยรวมหรือความสามารถในการอธิบายเหตุผลเบื้องหลังการคาดการณ์แต่ละครั้งโดยใช้แอลกอริทึมบางอย่าง

เทคนิคความสามารถในการอธิบายส่วนใหญ่พึ่งพา:

  • การแยกแบบจำลองออกเป็นส่วนประกอบต่างๆ
  • การแสดงภาพการคาดการณ์ของแบบจำลอง (เช่น หากแบบจำลองจำแนกรถยนต์เป็นยี่ห้อใดๆ มันจะเน้นย้ำส่วนที่ทำให้มันถูกจำแนกเป็นยี่ห้อนั้น)
  • การขุดความสามารถในการอธิบาย (โดยใช้เทคนิคการเรียนรู้ของเครื่องเพื่อค้นหาข้อมูลที่เกี่ยวข้องที่อธิบายการคาดการณ์ของแอลกอริทึม AI)

ในเทคนิคหนึ่งที่เรียกว่า “การสร้างแบบจำลองแทน” ใช้แบบจำลองที่เรียบง่ายและเข้าใจได้ง่าย เช่น ต้นไม้ตัดสินใจ เพื่อแสดงแบบจำลอง AI ที่ซับซ้อนกว่า แบบจำลองที่เรียบง่ายเหล่านี้ให้ภาพรวมที่ดีของแบบจำลองในระดับสูง แต่อาจบดบังรายละเอียดบางอย่าง

แนวทางอื่นคือ “ความสามารถในการอธิบายโดยการออกแบบ” แนวทางนี้วางข้อจำกัดในการออกแบบและฝึกอบรมเครือข่าย AI ในรูปแบบใหม่ที่พยายามสร้างเครือข่ายโดยรวมจากส่วนประกอบที่เล็กและเข้าใจได้ง่ายขึ้น ซึ่งเกี่ยวข้องกับการแลกเปลี่ยนระหว่างระดับความแม่นยำและความสามารถในการอธิบาย และจำกัดแนวทางบางอย่างจากชุดเครื่องมือของนักวิทยาศาสตร์ข้อมูล อาจต้องใช้การประมวลผลที่เข้มข้น

การฝึกอบรมและทดสอบ AI ยังสามารถใช้เทคนิคการตรวจสอบข้อมูลที่ไม่ขึ้นกับชนิดของแบบจำลอง เช่น แบบจำลองที่ตีความได้เฉพาะจุด (LIME) และคำอธิบายแบบบวกเพิ่มของ Shapley (SHAP) และควรปรับให้เหมาะสมเพื่อให้ได้ความแม่นยำสูงโดยใช้เมตริก เช่น F-คะแนน ความแม่นยำ และอื่นๆ และผลลัพธ์ควรได้รับการตรวจสอบและยืนยันโดยใช้ข้อมูลหลากหลาย โดยใช้ LIME ตัวอย่างเช่น องค์กรสามารถสร้างแบบจำลองชั่วคราวที่เลียนแบบการคาดการณ์ของแอลกอริทึมที่ไม่โปร่งใส เช่น การเรียนรู้ของเครื่อง แบบจำลอง LIME เหล่านี้สามารถสร้างการผสมผสานที่หลากหลายตามชุดข้อมูลที่กำหนดและผลลัพธ์ที่เกี่ยวข้อง ซึ่งสามารถใช้ในการฝึกอบรมแบบจำลองที่เข้าใจได้ง่ายขึ้นพร้อมด้วยรายการคำอธิบายครบถ้วนสำหรับการตัดสินใจและ/หรือการคาดการณ์แต่ละครั้ง SHAP ซึ่งมีพื้นฐานมาจากทฤษฎีเกมและทฤษฎีเกมแบบร่วมมือเป็นพิเศษ คือโมเดลที่รวมการจัดสรรส่วนสนับสนุนต่อผลลัพธ์อย่างเหมาะสมที่สุดเข้ากับคำอธิบายเฉพาะจุดโดยใช้ค่า Shapley เดิมจากทฤษฎีเกมและวิธีการที่พัฒนาต่อยอดจากค่านั้น

การดำเนินงานตามหลักการ

ในระดับยุทธศาสตร์มากกว่านั้น อย่างไรก็ตาม แฟรมเวิร์กความน่าเชื่อถือของ AI ควรประกอบด้วยหลักการหลากหลายที่มุ่งเน้นเพื่อให้แน่ใจว่าผลลัพธ์ที่เหมาะสมทั้งในตอนเริ่มต้นและเมื่อเวลาผ่านไปเมื่อแบบจำลองพัฒนาไปตามสถานการณ์ที่เปลี่ยนแปลงไป ในขั้นต่ำ แฟรมเวิร์กเหล่านี้ควรประกอบด้วยสิ่งต่อไปนี้:

  • การตรวจจับความลำเอียง – ชุดข้อมูลทั้งหมดควรได้รับการล้างความลำเอียงและคุณลักษณะที่เลือกปฏิบัติ และให้ความสำคัญและความระมัดระวังที่เหมาะสมเมื่อนำไปใช้กับแบบจำลองการฝึกอบรม;
  • การมีส่วนร่วมของมนุษย์ – ผู้ดำเนินการควรสามารถตรวจสอบและตีความผลลัพธ์ของแอลกอริทึมได้ทุกเวลา โดยเฉพาะอย่างยิ่งเมื่อแบบจำลองถูกใช้ในการบังคับใช้กฎหมายและรักษาสิทธิพลเรือน;
  • การให้เหตุผล – การคาดการณ์ทั้งหมดจะต้องสามารถทนต่อการตรวจสอบ ซึ่งโดยธรรมชาติต้องมีการเปิดเผยข้อมูลในระดับสูงเพื่อให้ผู้สังเกตการณ์ภายนอกสามารถประเมินกระบวนการและเกณฑ์ที่ใช้ในการสร้างผลลัพธ์;
  • การทำซ้ำ – แบบจำลอง AI ที่น่าเชื่อถือจะต้องสอดคล้องกันในการคาดการณ์และต้องแสดงระดับความเสถียรที่สูงเมื่อเผชิญกับข้อมูลใหม่

แต่ XAI ไม่ควรได้รับการพิจารณาเพียงวิธีการเพิ่มผลกำไร แต่ยังเป็นวิธีการนำความรับผิดชอบมาใช้เพื่อให้แน่ใจว่าองค์กรสามารถอธิบายและให้เหตุผลผลกระทบของสิ่งประดิษฐ์ของตนต่อสังคมโดยรวม

Balakrishna ซึ่งเป็นที่รู้จักในชื่อ Bali D.R. เป็นหัวหน้าฝ่าย AI และระบบอัตโนมัติที่ Infosys โดยขับเคลื่อนการใช้ระบบอัตโนมัติภายใน Infosys และให้บริการระบบอัตโนมัติแบบอิสระแก่ลูกค้าโดยใช้ประโยชน์จากผลิตภัณฑ์ต่างๆ Bali ทำงานที่ Infosys มานานกว่า 25 ปี และเคยรับผิดชอบงานด้านการขาย การบริหารโครงการแบบแผนงาน และการส่งมอบบริการในหลากหลายภูมิภาคและภาคอุตสาหกรรม