AI ที่อธิบายได้โดยใช้สูตรบูลีนที่แสดงออก

แอปพลิเคชั่นปัญญาประดิษฐ์ (AI) และแมชชีนเลิร์นนิงที่ขยายตัวอย่างรวดเร็วกำลังแพร่กระจายไปในเกือบทุกอุตสาหกรรมและทุกส่วนของชีวิต

แต่การเติบโตของมันไม่ได้มาโดยปราศจากการประชดประชัน แม้ว่า AI จะมีอยู่เพื่อลดความซับซ้อนและ/หรือเร่งการตัดสินใจหรือเวิร์กโฟลว์ แต่วิธีการในการทำเช่นนั้นมักจะซับซ้อนมาก อัลกอริธึมการเรียนรู้ของเครื่อง “กล่องดำ” บางตัวนั้นซับซ้อนและมีหลายแง่มุมจนไม่สามารถโต้แย้งคำอธิบายง่ายๆ แม้กระทั่งโดยนักวิทยาศาสตร์คอมพิวเตอร์ที่สร้างสิ่งเหล่านี้ขึ้นมา

ซึ่งอาจเป็นปัญหาได้เมื่อกรณีการใช้งานบางกรณี เช่น ในด้านการเงินและการแพทย์ ถูกกำหนดโดยแนวทางปฏิบัติที่ดีที่สุดในอุตสาหกรรมหรือข้อบังคับของรัฐบาล ซึ่งต้องการคำอธิบายที่โปร่งใสเกี่ยวกับการทำงานภายในของโซลูชัน AI และหากแอปพลิเคชันเหล่านี้ไม่แสดงออกเพียงพอที่จะตอบสนองความต้องการในการอธิบายได้ แอปพลิเคชันเหล่านี้อาจใช้งานไม่ได้โดยไม่คำนึงถึงประสิทธิภาพโดยรวม

เพื่อแก้ไขปัญหานี้ ทีมงานของเราที่ ศูนย์ความเที่ยงตรงสำหรับเทคโนโลยีประยุกต์ (FCAT) — โดยความร่วมมือกับ Amazon Quantum Solutions Lab — ได้เสนอและนำโมเดลแมชชีนเลิร์นนิงที่ตีความได้มาใช้สำหรับ Descriptionable AI (XAI) ตามสูตรบูลีนที่แสดงออกมา วิธีการดังกล่าวสามารถรวมโอเปอเรเตอร์ใดๆ ที่สามารถใช้กับตัวแปรบูลีนตั้งแต่หนึ่งตัวขึ้นไป ดังนั้นจึงให้การแสดงออกที่สูงกว่าเมื่อเทียบกับวิธีการที่อิงตามกฎและแบบต้นไม้ที่เข้มงวดมากขึ้น

คุณสามารถอ่านไฟล์ กระดาษเต็มรูปแบบ ที่นี่สำหรับรายละเอียดที่ครอบคลุมเกี่ยวกับโครงการนี้

สมมติฐานของเราคือ เนื่องจากแบบจำลองต่างๆ เช่น ต้นไม้การตัดสินใจ อาจมีความลึกซึ้งและตีความได้ยาก ความจำเป็นในการค้นหากฎที่แสดงออกซึ่งมีความซับซ้อนต่ำแต่มีความแม่นยำสูง จึงเป็นปัญหาการปรับให้เหมาะสมที่แก้ไขได้ยากซึ่งจำเป็นต้องแก้ไข นอกจากนี้ ด้วยการลดความซับซ้อนของแบบจำลองด้วยวิธี XAI ขั้นสูงนี้ เราสามารถได้รับประโยชน์เพิ่มเติม เช่น การเปิดเผยอคติที่สำคัญในบริบทของการใช้ ML อย่างมีจริยธรรมและมีความรับผิดชอบ ในขณะที่ยังทำให้ง่ายต่อการบำรุงรักษาและปรับปรุงโมเดล

เราเสนอวิธีการตามสูตรบูลีนที่แสดงออกมา เนื่องจากกฎเหล่านี้กำหนดกฎด้วยความซับซ้อนที่ปรับได้ (หรือความสามารถในการตีความ) ตามข้อมูลอินพุตที่ถูกจัดประเภท สูตรดังกล่าวสามารถรวมโอเปอเรเตอร์ใดๆ ที่สามารถใช้กับตัวแปรบูลีนตั้งแต่หนึ่งตัวขึ้นไป (เช่น And หรือ AtLeast) ดังนั้นจึงให้การแสดงออกที่สูงกว่าเมื่อเทียบกับวิธีการตามกฎที่เข้มงวดมากขึ้นและอิงตามต้นไม้

ในปัญหานี้ เรามีวัตถุประสงค์ในการแข่งขันสองประการ: เพิ่มประสิทธิภาพของอัลกอริทึมให้สูงสุด ในขณะที่ลดความซับซ้อนให้เหลือน้อยที่สุด ดังนั้น แทนที่จะใช้วิธีทั่วไปในการใช้วิธีการเพิ่มประสิทธิภาพหนึ่งในสองวิธี – การรวมหลายวัตถุประสงค์เป็นหนึ่งเดียวหรือจำกัดวัตถุประสงค์อย่างใดอย่างหนึ่ง – เราเลือกที่จะรวมทั้งสองไว้ในการกำหนดของเรา ในการทำเช่นนั้นโดยไม่สูญเสียความเป็นส่วนรวม เราใช้ความแม่นยำที่สมดุลเป็นหลักในการวัดประสิทธิภาพโดยรวมของเรา

นอกจากนี้ การรวมผู้ดำเนินการเช่น AtLeast ทำให้เราได้รับแรงบันดาลใจจากแนวคิดในการตอบสนองความต้องการรายการตรวจสอบที่สามารถตีความได้สูง เช่น รายการอาการทางการแพทย์ที่บ่งบอกถึงสภาวะเฉพาะ มีความเป็นไปได้ที่การตัดสินใจจะทำโดยใช้รายการตรวจสอบอาการในลักษณะที่จะต้องมีจำนวนขั้นต่ำสำหรับการวินิจฉัยในเชิงบวก ในทำนองเดียวกัน ในด้านการเงิน ธนาคารอาจตัดสินใจว่าจะให้สินเชื่อแก่ลูกค้าหรือไม่โดยพิจารณาจากปัจจัยจำนวนหนึ่งจากรายการที่ใหญ่กว่า

เราประสบความสำเร็จในการนำโมเดล XAI ไปใช้ และทำการเปรียบเทียบกับชุดข้อมูลสาธารณะสำหรับสินเชื่อ พฤติกรรมของลูกค้า และเงื่อนไขทางการแพทย์ เราพบว่าโดยทั่วไปโมเดลของเราสามารถแข่งขันกับทางเลือกอื่นๆ ที่มีชื่อเสียงได้ นอกจากนี้ เรายังพบว่าโมเดล XAI ของเราอาจใช้พลังงานจากฮาร์ดแวร์สำหรับวัตถุประสงค์พิเศษหรืออุปกรณ์ควอนตัมเพื่อแก้ปัญหา Integer Linear Programming (ILP) ที่รวดเร็ว หรือ Quadratic Unconstrained Binary Optimization (QUBO) การเพิ่มตัวแก้ปัญหา QUBO ช่วยลดจำนวนการวนซ้ำ ซึ่งนำไปสู่การเร่งความเร็วโดยข้อเสนอที่รวดเร็วสำหรับการย้ายที่ไม่ใช่ในท้องถิ่น

ตามที่ระบุไว้ แบบจำลอง AI ที่อธิบายได้โดยใช้สูตรบูลีนสามารถมีแอปพลิเคชันมากมายในการดูแลสุขภาพและในด้านการเงินของ Fidelity (เช่น การให้คะแนนเครดิต หรือเพื่อประเมินว่าเหตุใดลูกค้าบางรายอาจเลือกผลิตภัณฑ์ในขณะที่บางรายไม่ได้เลือก) การสร้างกฎที่สามารถตีความได้เหล่านี้ทำให้เราได้รับข้อมูลเชิงลึกในระดับที่สูงขึ้น ซึ่งสามารถนำไปสู่การปรับปรุงในอนาคตในการพัฒนาหรือปรับปรุงผลิตภัณฑ์ ตลอดจนการเพิ่มประสิทธิภาพแคมเปญการตลาด

จากการค้นพบของเรา เราได้พิจารณาแล้วว่า AI ที่อธิบายได้โดยใช้สูตรบูลีนแบบแสดงความรู้สึกนั้นเหมาะสมและเป็นที่ต้องการสำหรับกรณีการใช้งานเหล่านั้นที่ต้องอธิบายเพิ่มเติมได้ นอกจากนี้ ในขณะที่ควอนตัมคอมพิวเตอร์ยังคงพัฒนาอย่างต่อเนื่อง เรามองเห็นโอกาสที่จะได้รับการเพิ่มความเร็วที่อาจเกิดขึ้นจากการใช้มันและตัวเร่งความเร็วฮาร์ดแวร์เพื่อวัตถุประสงค์พิเศษอื่นๆ

งานในอนาคตอาจมุ่งเน้นไปที่การใช้ตัวแยกประเภทเหล่านี้กับชุดข้อมูลอื่นๆ การแนะนำตัวดำเนินการใหม่ หรือการนำแนวคิดเหล่านี้ไปใช้กับกรณีการใช้งานอื่นๆ