อะไรคือ Explainable AI?

เมื่อความซับซ้อนและความแพร่หลายของปัญญาประดิษฐ์ (AI) เพิ่มขึ้นในหลายๆ ด้านของสังคม วิธีการและกระบวนการสำคัญที่สุดคือความสามารถในการอธิบาย (AI) หรือที่เรียกว่า XAI

Explainable AI สามารถอธิบายได้ว่าเป็น:

• ชุดของกระบวนการและวิธีการที่ช่วยให้ผู้ใช้เข้าใจและเชื่อถือผลลัพธ์ของอัลกอริทึมการเรียนรู้ของเครื่อง

เมื่อ AI เข้าควบคุมหลายๆ ด้าน มีความเสี่ยงต่อความลำเอียง อัลกอริทึมที่ไม่ถูกต้อง และปัญหาอื่นๆ ด้วยการบรรลุความโปร่งใสผ่านความสามารถในการอธิบาย จะช่วยให้โลกสามารถใช้ประโยชน์จาก AI ได้อย่างแท้จริง

Explainable AI ช่วยอธิบายแบบจำลอง AI ผลกระทบ และความลำเอียงที่อาจเกิดขึ้น นอกจากนี้ยังช่วยอธิบายความถูกต้อง ความยุติธรรม ความโปร่งใส และผลลัพธ์ของกระบวนการตัดสินใจที่ใช้ AI

องค์กรที่ขับเคลื่อนด้วย AI ในปัจจุบันควรใช้กระบวนการ Explainable AI เพื่อสร้างความไว้วางใจและความมั่นใจในแบบจำลอง AI ที่ใช้ในการผลิต Explainable AI เป็นกุญแจสำคัญในการเป็นองค์กรที่รับผิดชอบในยุค AI ของปัจจุบัน

เนื่องจากระบบ AI ในปัจจุบันมีความซับซ้อนมาก ผู้คนจึงต้องทำการคำนวณเพื่อทำความเข้าใจว่าอัลกอริทึมได้มาถึงผลลัพธ์อย่างไร ซึ่งทำให้เกิด “กล่องดำ” ที่ไม่สามารถเข้าใจได้ เมื่อแบบจำลองที่ไม่สามารถอธิบายได้ถูกพัฒนาขึ้นโดยตรงจากข้อมูล ไม่มีใครเข้าใจสิ่งที่เกิดขึ้นภายในพวกมัน

ด้วยการเข้าใจว่าระบบ AI ทำงานอย่างไรผ่าน Explainable AI นักพัฒนาสามารถรับประกันว่าระบบทำงานตามที่ควร นอกจากนี้ยังช่วยให้แน่ใจว่าแบบจำลองตรงตามมาตรฐานด้านกฎระเบียบ และให้โอกาสในการท้าทายหรือเปลี่ยนแปลงแบบจำลอง

ภาพ: Dr. Matt Turek/DARPA

ความแตกต่างระหว่าง AI และ XAI

มีความแตกต่างที่ชัดเจนระหว่าง AI “ปกติ” และ Explainable AI แต่สิ่งสำคัญที่สุดคือ XAI นำเทคนิคและวิธีการที่ช่วยให้การตัดสินใจในกระบวนการ ML สามารถติดตามและอธิบายได้ ในทางกลับกัน AI “ปกติ” มักจะมาถึงผลลัพธ์โดยใช้อัลกอริทึม ML แต่ไม่สามารถเข้าใจได้ว่าอัลกอริทึมมาถึงผลลัพธ์อย่างไร ในกรณีของ AI “ปกติ” มัน非常ยากที่จะตรวจสอบความถูกต้อง ซึ่งนำไปสู่การขาดการควบคุม ความรับผิดชอบ และการตรวจสอบ

ประโยชน์ของ Explainable AI

มีประโยชน์มากมายสำหรับองค์กรที่ต้องการใช้ Explainable AI เช่น:

• ผลลัพธ์ที่เร็วขึ้น: Explainable AI ช่วยให้องค์กรสามารถติดตามและจัดการแบบจำลองเพื่อเพิ่มผลลัพธ์ทางธุรกิจได้อย่างมีระบบ มันช่วยให้สามารถประเมินและปรับปรุงประสิทธิภาพของแบบจำลอง และปรับพัฒนาการของแบบจำลองให้เหมาะสม
• ลดความเสี่ยง: ด้วยการนำ Explainable AI มาใช้ องค์กรสามารถรับประกันว่าแบบจำลอง AI ของตนสามารถอธิบายและโปร่งใสได้ องค์กรสามารถจัดการความเสี่ยงด้านกฎระเบียบ ความเสี่ยง และข้อกำหนดอื่นๆ ได้โดยไม่ต้องมีการตรวจสอบด้วยมือ ซึ่งช่วยลดความเสี่ยงของความลำเอียงที่ไม่ได้ตั้งใจ
• สร้างความไว้วางใจ: Explainable AI ช่วยสร้างความไว้วางใจในแบบจำลอง AI ที่ใช้ในการผลิต แบบจำลอง AI สามารถนำไปใช้ในการผลิตได้อย่างรวดเร็ว องค์กรสามารถรับประกันความสามารถในการอธิบายและความโปร่งใสของแบบจำลอง และกระบวนการประเมินแบบจำลองสามารถทำให้ง่ายขึ้นและโปร่งใสขึ้น

เทคนิคสำหรับ Explainable AI

มีเทคนิค XAI ที่องค์กรควรพิจารณา และเทคนิคเหล่านี้ประกอบด้วยสามวิธีหลัก: ความแม่นยำในการทำนาย, การติดตาม, และ ความเข้าใจการตัดสินใจ

เทคนิคแรกคือ ความแม่นยำในการทำนาย ซึ่งเป็นสิ่งจำเป็นสำหรับการใช้ AI ในการดำเนินงานประจำวัน การจำลองสามารถทำได้ และผลลัพธ์ของ XAI สามารถเปรียบเทียบกับผลลัพธ์ในเซตข้อมูลการฝึกซึ่งช่วยในการกำหนดความแม่นยำในการทำนาย เทคนิคที่ได้รับความนิยมในการบรรลุเป้าหมายนี้คือ Local Interpretable Model-Agnostic Explanations (LIME) ซึ่งเป็นเทคนิคที่อธิบายการทำนายของเครื่องจำลองโดยอัลกอริทึมการเรียนรู้ของเครื่อง

เทคนิคที่สองคือ การติดตาม ซึ่งสามารถทำได้โดยการจำกัดวิธีการตัดสินใจ และกำหนดขอบเขตที่แคบลงสำหรับกฎและคุณลักษณะของการเรียนรู้ของเครื่อง เทคนิคการติดตามที่พบบ่อยที่สุดคือ DeepLIFT หรือ Deep Learning Important FeaTures DeepLIFT เปรียบเทียบการกระตุ้นของแต่ละนิวรอนกับนิวรอนอ้างอิง และแสดงการเชื่อมโยงที่ติดตามได้ระหว่างนิวรอนแต่ละตัว

เทคนิคที่สามและเทคนิคสุดท้ายคือ ความเข้าใจการตัดสินใจ ซึ่งมุ่งเน้นไปที่มนุษย์ ไม่เหมือนเทคนิคอื่นๆ ความเข้าใจการตัดสินใจเกี่ยวข้องกับการศึกษาองค์กร โดยเฉพาะทีมที่ทำงานกับ AI เพื่อให้พวกเขาสามารถเข้าใจว่าและทำไม AI ตัดสินใจได้อย่างไร เทคนิคนี้มีความสำคัญต่อการสร้างความไว้วางใจในระบบ

หลักการของ Explainable AI

เพื่อให้เข้าใจ XAI และหลักการของมัน สถาบันมาตรฐานแห่งชาติ (NIST) ซึ่งเป็นส่วนหนึ่งของกระทรวงพาณิชย์ของสหรัฐอเมริกา ให้คำจำกัดความสำหรับหลักการของ Explainable AI สี่ประการ:

1. ระบบ AI ควรให้หลักฐาน การสนับสนุน หรือเหตุผลสำหรับการออกผลลัพธ์แต่ละครั้ง
2. ระบบ AI ควรให้คำอธิบายที่ผู้ใช้สามารถเข้าใจได้
3. คำอธิบายควรสะท้อนถึงกระบวนการที่ระบบใช้ในการมาถึงผลลัพธ์อย่างถูกต้อง
4. ระบบ AI ควรทำงานเฉพาะภายใต้เงื่อนไขที่ถูกออกแบบมา และไม่ควรให้ผลลัพธ์เมื่อไม่มีความมั่นใจในผลลัพธ์

หลักการเหล่านี้สามารถจัดกลุ่มได้อีกเป็น:

• ความหมาย: เพื่อให้บรรลุหลักการของความหมาย ผู้ใช้ควรเข้าใจคำอธิบายที่ให้มา ซึ่งอาจหมายถึงการมีคำอธิบายหลายแบบสำหรับผู้ใช้ประเภทต่างๆ ในกรณีของรถยนต์ขับเคลื่อนอัตโนมัติ คำอธิบายหนึ่งอาจเป็น “AI จัดหมวดหมู่ถุงพลาสติกบนถนนเป็นหิน และดำเนินการหลีกเลี่ยงการชน” ซึ่งจะทำงานสำหรับผู้ขับขี่ แต่จะไม่มีประโยชน์สำหรับนักพัฒนาที่ต้องการแก้ไขปัญหา ในกรณีนั้น นักพัฒนาต้องเข้าใจว่าทำไมจึงมีการจัดหมวดหมู่ผิด
• ความแม่นยำของคำอธิบาย: ไม่เหมือนกับความแม่นยำของผลลัพธ์ ความแม่นยำของคำอธิบายเกี่ยวข้องกับอัลกอริทึม AI ที่อธิบายวิธีการมาถึงผลลัพธ์อย่างถูกต้อง ตัวอย่างเช่น หากอัลกอริทึมการอนุมัติสินเชื่ออธิบายการตัดสินใจตามรายได้ของใบสมัคร แต่จริงๆ แล้วตัดสินใจตามที่อยู่ของผู้สมัคร คำอธิบายจะไม่ถูกต้อง
• ขอบเขตความรู้: ขอบเขตความรู้ของ AI สามารถถูกเข้าถึงได้สองวิธี และเกี่ยวข้องกับข้อมูลเข้าที่อยู่นอกเหนือความเชี่ยวชาญของระบบ ตัวอย่างเช่น หากระบบถูกสร้างขึ้นเพื่อจัดหมวดหมู่สปีชีส์ของนก และได้รับภาพของแอปเปิ้ล ระบบควรสามารถอธิบายได้ว่าข้อมูลเข้าไม่ใช่นก หากระบบได้รับภาพที่模糊 ระบบควรสามารถรายงานได้ว่าไม่สามารถระบุชนิดนกในภาพหรือมีความมั่นใจต่ำในการระบุ

บทบาทของข้อมูลใน Explainable AI

ส่วนประกอบที่สำคัญที่สุดของ Explainable AI คือข้อมูล

ตาม Google (GOOGL ) เกี่ยวกับข้อมูลและ Explainable AI “ระบบ AI สามารถเข้าใจได้ดีที่สุดโดยข้อมูลการฝึกอบรมและกระบวนการฝึกอบรม รวมถึงแบบจำลอง AI ที่ได้มา” ความเข้าใจนี้ขึ้นอยู่กับความสามารถในการแมปแบบจำลอง AI ที่ฝึกอบรมแล้วไปยังเซตข้อมูลที่ใช้ในการฝึกอบรม และสามารถตรวจสอบข้อมูลได้อย่างใกล้ชิด

เพื่อเพิ่มความสามารถในการอธิบายของแบบจำลอง องค์กรควรให้ความสนใจกับข้อมูลฝึกอบรม ควรระบุแหล่งที่มาของข้อมูลที่ใช้ในการฝึกอบรม อาจมีข้อกังวลด้านกฎหมายและจริยธรรมในการได้มา และมีข้อกังวลด้านความลำเอียงในข้อมูล และสามารถทำอะไรเพื่อลดความลำเอียงได้บ้าง

ส่วนสำคัญอีกส่วนหนึ่งของข้อมูลและ XAI คือการไม่รวมข้อมูลที่ไม่เกี่ยวข้องในระบบ การทำเช่นนี้ต้องไม่รวมข้อมูลที่ไม่เกี่ยวข้องในเซตข้อมูลฝึกอบรมหรือข้อมูลเข้า

Google ได้แนะนำชุดแนวปฏิบัติเพื่อให้บรรลุความสามารถในการอธิบายและความรับผิดชอบ:

• วางแผนเพื่อความสามารถในการอธิบาย
• พิจารณาความสามารถในการอธิบายเป็นส่วนสำคัญของประสบการณ์ผู้ใช้
• ออกแบบแบบจำลองให้สามารถอธิบายได้
• เลือกเมตริกที่สะท้อนถึงเป้าหมายและงานสิ้นสุด
• เข้าใจแบบจำลองที่ฝึกอบรมแล้ว
• สื่อสารคำอธิบายให้กับผู้ใช้แบบจำลอง
• ทำการทดสอบอย่างมากเพื่อให้แน่ใจว่าระบบ AI ทำงานตามที่ตั้งใจ

ด้วยการปฏิบัติตามแนวปฏิบัติที่แนะนำเหล่านี้ องค์กรของคุณสามารถรับประกันว่าจะบรรลุความสามารถในการอธิบาย AI ซึ่งเป็นกุญแจสำคัญสำหรับองค์กรที่ขับเคลื่อนด้วย AI ในสภาพแวดล้อมปัจจุบัน