การแนะนำระดับใหม่ของความโปร่งใสด้วย AI – ผู้นำความคิด

โดย Balakrishna D R, รองประธานอาวุโส, หัวหน้าบริการ – Energy, Communications, Services, และ AI และ Automation services, ที่ Infosys.

เมื่อวันที่ 9 มกราคม 2020 องค์การอนามัยโลกได้แจ้งให้สาธารณชนทราบเกี่ยวกับการระบาดของโควิด-19 ในประเทศจีน สามวันก่อนหน้านั้น ศูนย์ควบคุมและป้องกันโรคแห่งสหรัฐอเมริกาได้แจ้งข้อมูลนี้แล้ว แต่มีแพลตฟอร์มติดตามสุขภาพของแคนาดาที่สามารถแจ้งข้อมูลนี้ให้กับลูกค้าได้เร็วที่สุดในวันที่ 31 ธันวาคม 2019 แพลตฟอร์ม BlueDot ใช้แอลกอริทึมที่ขับเคลื่อนด้วย AI เพื่อตรวจสอบรายงานข่าวภาษาต่างประเทศ เครือข่ายโรคสัตว์และพืช และประกาศอย่างเป็นทางการเพื่อให้ลูกค้าได้รับการเตือนล่วงหน้าเกี่ยวกับพื้นที่อันตราย เช่น Wuhan

ในช่วงหลายปีที่ผ่านมา AI ได้กลายเป็นแหล่งที่มาของการเปลี่ยนแปลง การหยุดชะงัก และความได้เปรียบในการแข่งขันในเศรษฐกิจที่เปลี่ยนแปลงอย่างรวดเร็วในปัจจุบัน ตั้งแต่การติดตามการระบาดของโรค ไปจนถึงการป้องกัน การดูแลสุขภาพ ยานพาหนะอัตโนมัติ และทุกสิ่งที่อยู่ระหว่างนั้น AI ได้รับการยอมรับอย่างกว้างขวาง PwC คาดการณ์ว่า AI อาจมีส่วนช่วยให้เศรษฐกิจโลกมีมูลค่าสูงถึง 15.7 ล้านล้านดอลลาร์สหรัฐฯ ในปี 2030 ในอัตราการเติบโตปัจจุบัน

อย่างไรก็ตาม สำหรับทุกความหวังที่ AI นำมา AI ยังคงทำให้เกิดคำถามที่ไม่มีคำตอบเกี่ยวกับความโปร่งใสและความน่าเชื่อถือ ความจำเป็นในการเข้าใจ คาดการณ์ และเชื่อถือความสามารถในการตัดสินใจของระบบ AI เป็นสิ่งสำคัญ โดยเฉพาะในพื้นที่ที่สำคัญต่อชีวิต ความตาย และสุขภาพส่วนบุคคล

เข้าสู่ความไม่ทราบ

เมื่อระบบการให้เหตุผลอัตโนมัติได้รับการแนะนำเพื่อสนับสนุนการตัดสินใจ พวกมันพึ่งพากฎที่สร้างขึ้นด้วยมือ ซึ่งทำให้ง่ายต่อการวิเคราะห์และแก้ไขพฤติกรรม แต่ไม่สามารถขยายขนาดได้ โมเดลที่ใช้การเรียนรู้ของเครื่องได้มาเพื่อตอบสนองความต้องการดังกล่าว โมเดลเหล่านี้ไม่ต้องการการแทรกแซงจากมนุษย์และสามารถฝึกฝนจากข้อมูลได้ – และยิ่งได้รับข้อมูลมากเท่าไหร่ ก็ยิ่งดีเท่านั้น โมเดลการเรียนรู้ลึกมีความสามารถในการสร้างแบบจำลองและขอบเขตการประยุกต์ใช้ที่ไม่เคยปรากฏมาก่อน แต่ความจริงที่ว่าโมเดลเหล่านี้เป็นกล่องดำส่วนใหญ่ ทำให้เกิดคำถามที่น่าห่วงใยเกี่ยวกับความถูกต้อง ความน่าเชื่อถือ และความเอนเอียงในบริบทของการใช้งานอย่างกว้างขวาง

ปัจจุบันไม่มีกลไกโดยตรงในการติดตามการให้เหตุผลที่ใช้โดยโมเดลการเรียนรู้ลึก ด้วยโมเดลการเรียนรู้ของเครื่องที่มีลักษณะกล่องดำ ประเภทของความสามารถในการอธิบายที่รู้จักกันคือความสามารถในการอธิบายหลังเหตุการณ์ ซึ่งหมายความว่าคำอธิบายจะถูกอนุมานจากลักษณะและคุณสมบัติของผลลัพธ์ที่สร้างโดยโมเดล การพยายามแรกๆ ในการดึงกฎจากเครือข่ายประสาทเทียม (ซึ่งรู้จักกันในชื่อการเรียนรู้ลึกในสมัยก่อน) ไม่ได้รับการติดตามอยู่ในขณะนี้ เนื่องจากเครือข่ายได้กลายเป็นใหญ่และหลากหลายเกินกว่าที่จะดึงกฎได้ ดังนั้นจึงมีความจำเป็นเร่งด่วนในการนำความสามารถในการอธิบายและความโปร่งใสเข้ามาในโมเดล AI

ออกจากความมืดเข้าสู่แสงสว่าง

ความกังวลนี้ได้สร้างความจำเป็นในการมีความโปร่งใสในกระบวนการเรียนรู้ของเครื่อง ซึ่งนำไปสู่การเติบโตของ AI ที่สามารถอธิบายได้ หรือ XAI XAI มุ่งหวังที่จะแก้ไขปัญหาที่สำคัญที่ขัดขวางความสามารถของเราในการเชื่อถือการตัดสินใจของ AI อย่างเต็มที่ รวมถึงความเอนเอียงและความโปร่งใส สาขาใหม่นี้ของ AI นำความรับผิดชอบมาให้เพื่อให้แน่ใจว่า AI มีประโยชน์ต่อสังคมด้วยผลลัพธ์ที่ดีกว่าสำหรับทุกฝ่ายที่เกี่ยวข้อง

XAI จะมีความสำคัญในการช่วยแก้ไขปัญหาความเอนเอียงที่อยู่ในระบบและอัลกอริทึม AI ซึ่งถูกเขียนโดยผู้ที่มีภูมิหลังและประสบการณ์ที่ไม่ได้ตั้งใจนำไปสู่การสร้างระบบ AI ที่แสดงความเอนเอียง ความเอนเอียงที่ไม่พึงประสงค์ เช่น การเลือกปฏิบัติต่อเชื้อชาติหรือชาติพันธุ์ อาจเกิดขึ้นได้เนื่องจากระบบมอบค่าให้กับพวกเขาโดยอิงจากข้อมูลจริง ตัวอย่างเช่น อาจพบว่าผู้ที่ผิดนัดชำระเงินส่วนใหญ่มาจากภูมิหลังเชื้อชาติใดเชื้อชาติหนึ่ง แต่การนำนโยบายที่จำกัดตามข้อมูลนี้อาจไม่เหมาะสม ข้อมูลที่ผิดพลาดเป็นอีกสาเหตุหนึ่งของความเอนเอียง ตัวอย่างเช่น หากเครื่องสแกนใบหน้าที่ไม่แม่นยำ 5% ของเวลาเนื่องจากสีผิวหรือแสงบนใบหน้า อาจนำไปสู่ความเอนเอียงได้ สุดท้าย หากข้อมูลตัวอย่างของคุณไม่เป็นตัวแทนของประชากรทั้งหมด ความเอนเอียงก็จะไม่สามารถหลีกเลี่ยงได้

XAI มุ่งหวังที่จะแก้ไขวิธีการตัดสินใจของระบบ AI ที่เป็นกล่องดำ XAI ตรวจสอบและพยายามเข้าใจขั้นตอนและโมเดลที่เกี่ยวข้องกับการตัดสินใจ XAI ตอบคำถามที่สำคัญ เช่น ทำไมระบบ AI จึงทำการคาดการณ์หรือการตัดสินใจเฉพาะเจาะจง? ทำไมระบบ AI จึงไม่ทำสิ่งอื่น? เมื่อไหร่ระบบ AI จะประสบความสำเร็จหรือล้มเหลว? เมื่อไหร่ระบบ AI จะให้ความมั่นใจในการตัดสินใจที่คุณสามารถเชื่อถือได้ และระบบ AI จะแก้ไขข้อผิดพลาดได้อย่างไร?

AI ที่สามารถอธิบายได้ คาดการณ์ได้ และติดตามได้

วิธีหนึ่งในการได้รับความสามารถในการอธิบายในระบบ AI คือการใช้อัลกอริทึมการเรียนรู้ของเครื่องที่สามารถอธิบายได้โดยธรรมชาติ ตัวอย่างเช่น รูปแบบการเรียนรู้ของเครื่องที่ง่ายกว่า เช่น ต้นไม้ตัดสินใจ คุณลักษณะเบย์ และอัลกอริทึมอื่นๆ ที่มีการติดตามและความโปร่งใสในการตัดสินใจ พวกเขาสามารถให้ความสามารถในการมองเห็นที่จำเป็นสำหรับระบบ AI ที่สำคัญโดยไม่ต้องเสียสละประสิทธิภาพหรือความแม่นยำมากเกินไป

การรับรู้ถึงความจำเป็นในการให้ความสามารถในการอธิบายสำหรับการเรียนรู้ลึกและแนวทางอัลกอริทึมที่ซับซ้อนกว่า สำนักงานการวิจัยและพัฒนากองทัพเรือสหรัฐฯ (DARPA) กำลังดำเนินความพยายามในการผลิตโซลูชัน AI ที่สามารถอธิบายได้ผ่านโครงการวิจัยที่ได้รับทุนหลายโครงการ DARPA อธิบายความสามารถในการอธิบาย AI ในสามส่วน ได้แก่ ความแม่นยำในการคาดการณ์ ซึ่งหมายความว่าโมเดลจะอธิบายว่าได้ข้อสรุปมาอย่างไรเพื่อปรับปรุงการตัดสินใจในอนาคต ความเข้าใจและการเชื่อถือ จากผู้ใช้และผู้ดำเนินการมนุษย์ เช่นเดียวกับ การตรวจสอบและติดตามการดำเนินการ ที่ดำเนินการโดยระบบ AI

การตรวจสอบจะทำให้ผู้คนสามารถเข้าไปในวงจรการตัดสินใจของ AI และมีความสามารถในการหยุดหรือควบคุมงานได้เมื่อจำเป็น ระบบ AI ไม่เพียงแต่คาดหวังให้ทำงานหรือตัดสินใจเท่านั้น แต่ยังต้องให้รายงานที่โปร่งใสเกี่ยวกับเหตุผลที่อยู่เบื้องหลังการตัดสินใจด้วย

การกำหนดมาตรฐานของอัลกอริทึมหรือแม้แต่แนวทาง XAI ในปัจจุบันไม่สามารถทำได้ แต่อาจเป็นไปได้ที่จะกำหนดมาตรฐานระดับความโปร่งใสหรือระดับความสามารถในการอธิบายได้ องค์กรกำหนดมาตรฐานกำลังพยายามสร้างความเข้าใจทั่วไปเกี่ยวกับระดับความโปร่งใสเหล่านี้เพื่ออำนวยความสะดวกในการสื่อสารระหว่างผู้ใช้ปลายทางและผู้ให้บริการเทคโนโลยี

เมื่อรัฐบาล สถาบัน องค์กร และสาธารณชนต่างๆ พึ่งพาระบบ AI มากขึ้น การชนะความไว้วางใจผ่านความโปร่งใสที่ชัดเจนยิ่งขึ้นของกระบวนการตัดสินใจจะเป็นเรื่องพื้นฐาน การเปิดตัวการประชุมระดับโลกครั้งแรกที่อุทิศให้กับ XAI โดยเฉพาะ คือ การประชุมร่วมระหว่างประเทศเกี่ยวกับ AI: การประชุมเชิงปฏิบัติการเกี่ยวกับ AI ที่สามารถอธิบายได้ เป็นหลักฐานเพิ่มเติมที่แสดงให้เห็นว่ายุคของ XAI ได้มาถึงแล้ว