อธิบายได้ AI โดยใช้สูตรบูลีนแบบแสดงออก

การระเบิดของปัญญาประดิษฐ์ (AI) และการเรียนรู้ของเครื่องจักรกำลังแพร่กระจายไปทั่วทุกอุตสาหกรรมและทุกด้านของชีวิต

แต่การเติบโตนี้ไม่ได้มาโดยไม่มีความขัดแย้ง ในขณะที่ AI มีอยู่เพื่อทำให้การตัดสินใจหรือกระบวนการทำงานง่ายขึ้นหรือเร็วขึ้น วิธีการทำเช่นนั้นมักจะซับซ้อนมาก บางอัลกอริทึมการเรียนรู้ของเครื่องจักร “กล่องดำ” มีความซับซ้อนและหลาย面จนสามารถที่จะอธิบายได้ง่ายๆ แม้แต่โดยนักวิทยาศาสตร์เครื่องจักรที่สร้างมันขึ้นมา

สิ่งนี้อาจเป็นปัญหาเมื่อใช้กรณีบางอย่าง เช่น ในสาขาเงินและการแพทย์ ซึ่งถูกกำหนดโดยแนวปฏิบัติที่ดีที่สุดในอุตสาหกรรมหรือกฎระเบียบของรัฐบาลที่ต้องการการอธิบายที่ชัดเจนเกี่ยวกับวิธีการทำงานของ AI หากการประยุกต์ใช้เหล่านี้ไม่สามารถแสดงออกได้เพียงพอเพื่อ đáp ứngข้อกำหนดการอธิบายได้ อาจจะไม่มีประโยชน์ไม่ว่าจะมีประสิทธิภาพโดยรวมเท่าใด

เพื่อแก้ไขปัญหานี้ ทีมของเรา tại Fidelity Center for Applied Technology (FCAT) — ในการร่วมมือกับ Amazon Quantum Solutions Lab — ได้เสนอและนำไปใช้แบบจำลองการเรียนรู้ของเครื่องจักรที่สามารถอธิบายได้สำหรับ AI ที่ใช้สูตรบูลีนแบบแสดงออก วิธีการนี้สามารถรวมตัวดำเนินการใดๆ ที่สามารถใช้กับตัวแปรบูลีนหนึ่งหรือหลายตัว ทำให้มีการแสดงออกที่สูงกว่าวิธีการอื่นๆ ที่มีกฎและต้นไม้ที่ตายตัว

คุณสามารถอ่าน เอกสารฉบับเต็ม ที่นี่เพื่อข้อมูลเชิงลึกเกี่ยวกับโครงการนี้

สมมติฐานของเราคือ เนื่องจากแบบจำลอง เช่น ต้นไม้ตัดสินใจ สามารถลึกและยากต่อการอธิบายได้ ความจำเป็นในการค้นหากฎที่แสดงออกด้วยความซับซ้อนต่ำแต่มีความแม่นยำสูงเป็นปัญหาการเพิ่มประสิทธิภาพที่ไม่สามารถแก้ไขได้ นอกจากนี้ โดยการทำให้แบบจำลองง่ายขึ้นผ่านวิธีการ AI ที่สามารถอธิบายได้ขั้นสูงนี้ เราสามารถบรรลุประโยชน์เสริม เช่น การเปิดเผยความลำเอียงที่สำคัญในบริบทของการใช้ AI อย่างมีจริยธรรมและรับผิดชอบ ในขณะเดียวกันก็ทำให้ง่ายต่อการบำรุงรักษาและปรับปรุงแบบจำลอง

เร提案วิธีการที่ใช้สูตรบูลีนแบบแสดงออก เพราะว่าสูตรเหล่านี้สามารถกำหนดกฎที่มีความซับซ้อนที่สามารถปรับได้ (หรือการอธิบายได้) ตามข้อมูลนำเข้าที่กำลังถูกจัดประเภท สูตรดังกล่าวสามารถรวมตัวดำเนินการใดๆ ที่สามารถใช้กับตัวแปรบูลีนหนึ่งหรือหลายตัว ทำให้มีการแสดงออกที่สูงกว่าวิธีการอื่นๆ ที่มีกฎและต้นไม้ที่ตายตัว

ในเรื่องนี้ เรามีเป้าหมายสองประการที่ขัดแย้งกัน: การเพิ่มประสิทธิภาพของอัลกอริทึม ในขณะเดียวกันก็ลดความซับซ้อนของมัน ดังนั้น แทนที่จะใช้วิธีการเพิ่มประสิทธิภาพแบบเดิมๆ โดยการรวมวัตถุประสงค์หลายประการเข้าด้วยกันหรือจำกัดวัตถุประสงค์หนึ่งๆ เราเลือกที่จะรวมทั้งสองอย่างเข้าด้วยกันในแบบจำลองของเรา และโดยไม่สูญเสียความทั่วไป เราใช้ความแม่นยำที่สมดุลเป็นมาตรการแสดงผลโดยรวม

นอกจากนี้ โดยการรวมตัวดำเนินการ เช่น AtLeast เราได้รับแรงบันดาลใจจากความคิดที่จะตอบสนองความต้องการของการตรวจสอบที่มีการอธิบายได้สูง เช่น รายการอาการทางการแพทย์ที่บ่งบอกถึงภาวะเฉพาะหนึ่งๆ มันสมเหตุสมผลที่การตัดสินใจจะถูกทำโดยใช้เชคคลิสต์ของอาการดังกล่าวในลักษณะที่ต้องมีอาการอย่างน้อยหนึ่งอาการสำหรับการวินิจฉัยที่เป็นบวก ในทำนองเดียวกัน ในด้านการเงิน ธนาคารอาจตัดสินใจว่าจะให้เครดิตกับลูกค้าหรือไม่โดยพิจารณาจากปัจจัยหลายประการจากรายการใหญ่

เราทำการนำแบบจำลอง XAI ของเราไปใช้และทดสอบบนชุดข้อมูลสาธารณะสำหรับการให้เครดิต พฤติกรรมของลูกค้า และภาวะทางการแพทย์ เราพบว่าแบบจำลองของเรามีการแข่งขันที่ดีกับวิธีการอื่นๆ ที่รู้จักกันดี นอกจากนี้ เรายังพบว่าแบบจำลอง XAI ของเราสามารถทำงานได้ด้วยฮาร์ดแวร์พิเศษหรืออุปกรณ์ควอนตัมสำหรับการแก้ปัญหา Integer Linear Programming (ILP) หรือ Quadratic Unconstrained Binary Optimization (QUBO) ได้ การเพิ่ม QUBO solvers ลดจำนวนการวนซ้ำ ทำให้เกิดการเร่งความเร็วโดยการเสนอการเคลื่อนไหวที่ไม่ใช่ท้องถิ่นอย่างรวดเร็ว

ตามที่กล่าวไว้แล้ว โมเดล AI ที่สามารถอธิบายได้โดยใช้สูตรบูลีนแบบแสดงออกสามารถมีการใช้งานหลายอย่างในด้านการแพทย์และการเงิน (เช่น การให้เครดิตหรือการประเมินว่าทำไมลูกค้าบางคนจึงเลือกผลิตภัณฑ์หนึ่งๆ ในขณะที่คนอื่นๆ ไม่เลือก) โดยการสร้างกฎที่สามารถอธิบายได้เหล่านี้ เราสามารถบรรลุระดับการเข้าใจที่สูงขึ้นซึ่งสามารถนำไปสู่การปรับปรุงผลิตภัณฑ์ในอนาคตหรือการปรับให้เหมาะสมในการตลาด

ตามผลการวิจัยของเรา เราได้สรุปว่า AI ที่สามารถอธิบายได้โดยใช้สูตรบูลีนแบบแสดงออกนั้นเหมาะสมและต้องการสำหรับกรณีการใช้งานที่กำหนดให้ต้องมีการอธิบายเพิ่มเติม นอกจากนี้ เมื่อการคำนวณควอนตัมยังคงพัฒนาไปเรื่อยๆ เราเห็นโอกาสที่จะเพิ่มความเร็วโดยใช้การคำนวณควอนตัมและฮาร์ดแวร์พิเศษอื่นๆ

งานในอนาคตอาจมุ่งเน้นไปที่การนำแบบจำลองเหล่านี้ไปใช้กับชุดข้อมูลอื่นๆ การแนะนำตัวดำเนินการใหม่ๆ หรือการนำแนวคิดเหล่านี้ไปใช้ในกรณีการใช้งานอื่นๆ