โมเดลและแพลตฟอร์ม AI
นักวิจัยพัฒนาเครื่องมือ “DeepTrust” เพื่อเพิ่มความน่าเชื่อถือของ AI
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ความปลอดภัยและความน่าเชื่อถือของปัญญาประดิษฐ์ (AI) เป็นหนึ่งในด้านที่สำคัญที่สุดของเทคโนโลยีนี้ มันถูกปรับปรุงและพัฒนาโดยผู้เชี่ยวชาญชั้นนำในหลายสาขา และจะเป็นกุญแจสำคัญในการนำ AI ไปใช้ในทุกด้านของสังคม
งานวิจัยใหม่บางส่วนมาจากมหาวิทยาลัยเซาเทิร์นแคลิฟอร์เนีย โดยที่นักวิจัยจาก USC Viterbi Engineering ได้พัฒนาเครื่องมือใหม่ที่สามารถสร้างตัวบ่งชี้อัตโนมัติสำหรับการพิจารณาว่าアルゴリ즘 AI นั้นเชื่อถือได้หรือไม่ในข้อมูลและผลการคาดการณ์ของมัน
งานวิจัยนี้ได้รับการตีพิมพ์ใน Frontiers in Artificial Intelligence โดยมีชื่อเรื่องว่า “มีความหวังหลังจากทั้งหมด: การ量化ความคิดเห็นและความน่าเชื่อถือในเครือข่ายประสาทเทียม” ผู้เขียนของบทความนี้รวมถึง Mingxi Cheng, Shahin Nazarian และ Paul Bogdan จาก USC Cyber Physical Systems Group
ความน่าเชื่อถือของเครือข่ายประสาทเทียม
หนึ่งในงานที่สำคัญที่สุดในด้านนี้คือการทำให้เครือข่ายประสาทเทียมสร้างผลการคาดการณ์ที่เชื่อถือได้ ในหลายกรณี นี่คือสิ่งที่หยุดการนำเทคโนโลยีที่พึ่งพา AI ไปใช้เต็มที่
ตัวอย่างเช่น ยานพาหนะที่ขับเคลื่อนอัตโนมัติต้องสามารถทำงานอิสระและตัดสินใจได้อย่างแม่นยำโดยไม่ต้องมีการควบคุมจากมนุษย์ มันต้องสามารถตัดสินใจได้อย่างรวดเร็วมากในขณะเดียวกันก็ต้องสามารถแยกและรับรู้วัตถุบนถนนได้ สิ่งนี้มีความสำคัญอย่างยิ่ง โดยเฉพาะในสถานการณ์ที่เทคโนโลยีต้องแยกความแตกต่างระหว่างปุ่มความเร็ว วัตถุอื่น ๆ หรือสิ่งมีชีวิต
สถานการณ์อื่น ๆ รวมถึงการ决定ว่ายานพาหนะที่ขับเคลื่อนอัตโนมัติต้องทำอะไรเมื่อมียานพาหนะอื่นเผชิญหน้ากับมัน และการตัดสินใจที่ซับซ้อนมากที่สุดคือการตัดสินใจว่ายานพาหนะที่ขับเคลื่อนอัตโนมัติต้องทำอะไรเมื่อมันต้องเลือกว่าจะชนกับวัตถุอื่น ๆ หรือสิ่งมีชีวิต
สิ่งนี้หมายความว่าเรากำลังวางใจมากเกินไปในความสามารถของซอฟต์แวร์ของยานพาหนะที่ขับเคลื่อนอัตโนมัติในการตัดสินใจที่ถูกต้องในเวลาเพียงเศษเสี้ยวของวินาที มันจะยิ่งซับซ้อนมากขึ้นเมื่อมีข้อมูลที่ขัดแย้งกันจากเซ็นเซอร์ต่าง ๆ เช่น การมองเห็นจากกล้องและ Lidar
ผู้เขียนบทความหลัก Minxi Cheng ตัดสินใจที่จะรับโครงการนี้หลังจากคิดว่า “แม้แต่มนุษย์ก็สามารถไม่แน่ใจในสถานการณ์การตัดสินใจบางอย่าง ในกรณีที่มีข้อมูลที่ขัดแย้งกัน ทำไมเครื่องจักรไม่สามารถบอกเราว่ามันไม่แน่ใจ?”
DeepTrust
เครื่องมือที่ถูกสร้างโดยนักวิจัยนี้เรียกว่า DeepTrust และมันสามารถ量化ความไม่แน่นอนได้ ตามที่ Paul Bogdan ผู้ช่วยศาสตราจารย์ในภาควิชาวิศวกรรมไฟฟ้าและคอมพิวเตอร์ของ USC Ming Hsieh
ทีมงานใช้เวลาเกือบสองปีในการพัฒนา DeepTrust โดยใช้ตรรกะเชิงวัตถุเพื่อประเมินเครือข่ายประสาทเทียม ในตัวอย่างหนึ่งของเครื่องมือที่ทำงาน มันสามารถดูผลการสำรวจการเลือกตั้งประธานาธิบดีสหรัฐอเมริกาในปี 2016 และคาดการณ์ว่ามีข้อผิดพลาดมากกว่าที่ฮิลลารี คลินตันจะชนะ
เครื่องมือ DeepTrust ยังช่วยให้การทดสอบความน่าเชื่อถือของอัลกอริทึม AI ที่ได้รับการฝึกฝนจากข้อมูลหลายล้านจุดได้ง่ายขึ้น วิธีอื่นที่จะทำเช่นนี้คือการตรวจสอบข้อมูลแต่ละจุดเพื่อทดสอบความแม่นยำ ซึ่งเป็นงานที่ใช้เวลานานมาก
ตามนักวิจัย สถาปัตยกรรมของระบบเครือข่ายประสาทเทียมเหล่านี้มีความแม่นยำมากขึ้น และความแม่นยำและความน่าเชื่อถือสามารถเพิ่มขึ้นพร้อมกัน
“ตามความรู้ของเรา ไม่มีแบบจำลองหรือเครื่องมือในการ量化ความน่าเชื่อถือสำหรับการเรียนรู้ลึก AI และการเรียนรู้ของเครื่อง มันเป็นแนวทางแรกและเปิดโอกาสให้มีการวิจัยใหม่ ๆ” Bogdan กล่าว
Bogdan ยังเชื่อว่า DeepTrust สามารถช่วยผลักดัน AI ไปสู่จุดที่มัน “ตระหนักและปรับตัว” ได้
