การจัดลำดับความสำคัญของความน่าเชื่อถือใน AI

การพึ่งพาเทคโนโลยีสมองกลฝังตัว (AI) และการเรียนรู้ของเครื่อง (ML) ของสังคมยังคงเพิ่มขึ้นอย่างต่อเนื่อง โดยที่เทคโนโลยีเหล่านี้เปลี่ยนแปลงวิธีการที่เรารับข้อมูล ตั้งแต่แชทบอทที่ได้รับการสนับสนุนจาก AI ไปจนถึงการวิเคราะห์ข้อมูลที่ผลิตโดยโมเดลภาษาขนาดใหญ่ (LLM) สังคมมีการเข้าถึงข้อมูลและข้อมูลเชิงลึกมากกว่าที่เคยเป็นมา อย่างไรก็ตาม เมื่อบริษัทเทคโนโลยีแข่งขันกันเพื่อนำ AI ไปใช้ในห่วงโซ่คุณค่าของตนเอง คำถามที่สำคัญก็เกิดขึ้น นั่นคือ เราจะสามารถเชื่อถือผลลัพธ์ของโซลูชัน AI ได้จริงหรือไม่

เราจะสามารถเชื่อถือผลลัพธ์ของ AI ได้จริงหรือไม่ โดยไม่มีการ量ความไม่แน่นอน

สำหรับอินพุตที่กำหนด โมเดลอาจสร้างผลลัพธ์ที่เป็นไปได้หลายแบบ ซึ่งอาจเกิดจากข้อมูลการฝึกที่ไม่เพียงพอ การเปลี่ยนแปลงของข้อมูลการฝึก หรือสาเหตุอื่น เมื่อนำโมเดลไปใช้ องค์กรสามารถใช้ การ量ความไม่แน่นอน เพื่อให้ผู้ใช้สุดท้ายเข้าใจผลลัพธ์ของโมเดล AI/ML ได้ดีขึ้น การ量ความไม่แน่นอนคือกระบวนการประมาณการผลลัพธ์ที่เป็นไปได้อื่น

ลองนึกภาพโมเดลที่คาดการณ์อุณหภูมิสูงสุดของวันพรุ่งนี้ โมเดลอาจสร้างผลลัพธ์ 21 องศาเซลเซียส แต่การ量ความไม่แน่นอนของผลลัพธ์นั้นอาจบ่งชี้ว่าโมเดลอาจสร้างผลลัพธ์ 12 องศาเซลเซียส 15 องศาเซลเซียส หรือ 16 องศาเซลเซียส ได้เช่นกัน เมื่อรู้สิ่งนี้แล้ว เราจะเชื่อถือการคาดการณ์อุณหภูมิ 20 องศาเซลเซียส ได้มากน้อยเพียงใด ถึงแม้ว่าการ量ความไม่แน่นอนจะมีศักยภาพในการสร้างความน่าเชื่อถือหรือให้คำแนะนำในการใช้ความระมัดระวัง แต่หลายองค์กรเลือกที่จะข้ามการ量ความไม่แน่นอนเนื่องจากต้องทำการเพิ่มเติมเพื่อนำไปใช้ และเนื่องจากต้องการทรัพยากรการคำนวณและความเร็วในการอนุมาน

ระบบที่มีมนุษย์เป็นส่วนหนึ่ง เช่น ระบบวินิจฉัยและพยากรณ์โรคที่มีมนุษย์เป็นส่วนหนึ่งของกระบวนการตัดสินใจ โดยการเชื่อถือข้อมูลของโซลูชัน AI/ML ของสุขภาพโดยไม่มีการตรวจสอบ อาจทำให้เกิดการวินิจฉัยที่ไม่ถูกต้องหรือผลลัพธ์ด้านสุขภาพที่ไม่ดี การ量ความไม่แน่นอนสามารถช่วยให้แพทย์เห็นได้อย่างชัดเจนเมื่อใดที่ควรเชื่อถือผลลัพธ์ของ AI และเมื่อใดที่ควรใช้ความระมัดระวัง ในระบบอัตโนมัติ เช่น รถยนต์ขับอัตโนมัติ ผลลัพธ์ของโมเดลที่ใช้ในการประมาณระยะห่างของอุปสรรคอาจทำให้เกิดอุบัติเหตุได้ ซึ่งอาจหลีกเลี่ยงได้หากมีการใช้การ量ความไม่แน่นอน

ความท้าทายในการใช้วิธีการมอนติคาร์โลเพื่อสร้างความน่าเชื่อถือในโมเดล AI/ML

วิธีการมอนติคาร์โล ซึ่งพัฒนาขึ้นระหว่างโครงการแมนฮัตตัน เป็นวิธีการที่มั่นคงในการทำการ量ความไม่แน่นอน วิธีการเหล่านี้เกี่ยวข้องกับการรันแบบจำลองซ้ำๆ ด้วยอินพุตที่แตกต่างกันเล็กน้อยจนกว่าการวนซ้ำจะไม่ให้ข้อมูลเพิ่มเติมในผลลัพธ์ เมื่อกระบวนการถึงจุดนี้แล้ว จะถือว่ากระบวนการได้ ลู่เข้า แล้ว ข้อเสียของวิธีการมอนติคาร์โลคือมักจะช้าและต้องการทรัพยากรการคำนวณสูง ซึ่งต้องใช้การวนซ้ำหลายครั้งเพื่อให้ได้ผลลัพธ์ที่ลู่เข้า และมีความแปรผันตามธรรมชาติของผลลัพธ์เหล่านั้น เนื่องจากวิธีการมอนติคาร์โลใช้ผลลัพธ์ของตัวสร้างตัวเลขสุ่มเป็นหนึ่งในบล็อกหลักของการสร้าง จึงทำให้ผลลัพธ์ที่ได้แตกต่างกันเมื่อรันซ้ำด้วยพารามิเตอร์ที่เหมือนกัน

เส้นทางไปสู่ความน่าเชื่อถือในโมเดล AI/ML

ไม่เหมือนกับเซิร์ฟเวอร์แบบดั้งเดิมและเครื่องเร่งความเร็ว AI พ랫ฟอร์มการคำนวณใหม่กำลังถูกพัฒนาขึ้นเพื่อประมวลผลการกระจายความน่าจะเป็นเชิงประจักษ์โดยตรง เช่นเดียวกับที่พ랫ฟอร์มการคำนวณแบบดั้งเดิมประมวลผลจำนวนเต็มและค่าลอยตัว โดยการนำโมเดล AI ของตนไปใช้บนพัทฟอร์มเหล่านี้ องค์กรสามารถทำให้การนำการ量ความไม่แน่นอนไปใช้กับโมเดลที่ได้รับการฝึกฝนแล้วเป็นแบบอัตโนมัติ และสามารถเร่งการประมวลผลประเภทอื่นๆ ที่ใช้วิธีการมอนติคาร์โล เช่น การคำนวณ VaR ในด้านการเงิน โดยเฉพาะอย่างยิ่งสำหรับสถานการณ์ VaR พัทฟอร์มใหม่เหล่านี้ช่วยให้องค์กรสามารถทำงานกับการกระจายความน่าจะเป็นเชิงประจักษ์ที่สร้างขึ้นโดยตรงจากข้อมูลตลาดจริง แทนที่จะใช้ตัวอย่างที่สร้างขึ้นโดยตัวสร้างตัวเลขสุ่ม เพื่อให้ได้ผลลัพธ์ที่แม่นยำและเร็วขึ้น

ความก้าวหน้าล่าสุดในการคำนวณได้ลดข้อจำกัดในการนำการ量ความไม่แน่นอนไปใช้อย่างมาก บทความวิจัยที่เพื่อนร่วมงานและฉันเผยแพร่ใน การประชุม Machine Learning With New Compute Paradigms ที่ NeurIPS 2024 เน้นย้ำถึงพัทฟอร์มการคำนวณรุ่นต่อไปที่เราได้พัฒนาขึ้น ซึ่งช่วยให้การวิเคราะห์การ量ความไม่แน่นอนสามารถทำงานได้เร็วกว่าการวิเคราะห์แบบดั้งเดิมที่ใช้วิธีการมอนติคาร์โลบนเซิร์ฟเวอร์ Intel-Xeon สูงกว่า 100 เท่า ความก้าวหน้าเหล่านี้ช่วยให้องค์กรที่นำโซลูชัน AI ไปใช้สามารถนำการ量ความไม่แน่นอนไปใช้ได้ง่ายและทำงานด้วยค่าใช้จ่ายต่ำ

อนาคตของความน่าเชื่อถือใน AI/ML ขึ้นอยู่กับการคำนวณรุ่นต่อไป

เมื่อองค์กรรวมโซลูชัน AI มากขึ้นเข้ากับสังคม ความน่าเชื่อถือใน AI/ML จะกลายเป็นลำดับความสำคัญอันดับหนึ่ง องค์กรไม่สามารถเลือกที่จะไม่นำการ量ความไม่แน่นอนไปใช้เพื่อให้ผู้บริโภคทราบเมื่อใดที่ควรใช้ความระมัดระวังในการรับผลลัพธ์ของ AI การต้องการความสามารถในการอธิบายและความไม่แน่นอนนี้ชัดเจน โดยมีคนประมาณ สามในสี่คน ที่แสดงความเต็มใจที่จะเชื่อถือระบบ AI หากมีกลไกการรับรองความเหมาะสม

เทคโนโลยีการคำนวณใหม่ๆ ทำให้ง่ายต่อการนำการ量ความไม่แน่นอนไปใช้ ในขณะที่อุตสาหกรรมและหน่วยงานกำกับดูแลต้องเผชิญกับความท้าทายอื่นๆ ที่เกี่ยวข้องกับการนำ AI ไปใช้ในสังคม มีโอกาสที่จะสร้างความน่าเชื่อถือที่มนุษย์ต้องการโดยการทำให้การ量ความไม่แน่นอนเป็นมาตรฐานในการใช้งาน AI