ความเข้าใจทั่วไปเกี่ยวกับการทำงานผิดปกติของ Machine Learning อาจเป็นความผิด

เครือข่ายประสาทเทียมลึกเป็นหนึ่งในส่วนพื้นฐานที่สุดของปัญญาประดิษฐ์ (AI) เนื่องจากพวกมันถูกใช้ในการประมวลผลภาพและข้อมูลผ่านการสร้างแบบจำลองทางคณิตศาสตร์ พวกมันรับผิดชอบต่อความก้าวหน้าบางอย่างที่ยิ่งใหญ่ที่สุดในด้านนี้ แต่พวกมันก็ทำงานผิดปกติในหลายวิธี การทำงานผิดปกติเหล่านี้อาจมีผลกระทบเล็กน้อยหรือไม่มีผลกระทบเลย เช่น การระบุผิดหรืออาจมีผลกระทบร้ายแรงและ致命 เช่น การทำงานผิดปกติของรถยนต์ไร้คนขับ

การวิจัยใหม่จากมหาวิทยาลัยฮูสตันชี้ให้เห็นว่าความเข้าใจทั่วไปเกี่ยวกับการทำงานผิดปกติเหล่านี้อาจผิด ซึ่งอาจช่วยประเมินความน่าเชื่อถือของเครือข่ายในอนาคต

บทความนี้ตีพิมพ์ใน Nature Machine Intelligence ในเดือนพฤศจิกายน

“ตัวอย่างที่เป็นปฏิปักษ์”

ปัญญาประดิษฐ์และประเภทอื่นๆ ของ AI มีความสำคัญในหลายภาคส่วนและงาน เช่น ระบบธนาคารและระบบความปลอดภัยไซเบอร์ ตามคำกล่าวของ Cameron Buckner ผู้ช่วยศาสตราจารย์ด้านปรัชญาแห่ง UH จะต้องมีความเข้าใจเกี่ยวกับการล้มเหลวที่เกิดจาก “ตัวอย่างที่เป็นปฏิปักษ์” ตัวอย่างที่เป็นปฏิปักษ์เหล่านี้เกิดขึ้นเมื่อระบบเครือข่ายประสาทเทียมลึกตัดสินผิดพลาดเกี่ยวกับภาพและข้อมูลอื่นๆ เมื่อพบกับข้อมูลภายนอกที่ไม่ได้ใช้ในการฝึกอบรมเครือข่าย

ตัวอย่างที่เป็นปฏิปักษ์เป็นเรื่องหายาก เนื่องจากหลายครั้งถูกสร้างหรือค้นพบโดยเครือข่ายการเรียนรู้ของเครื่องอื่น

“บางส่วนของเหตุการณ์ที่เป็นปฏิปักษ์อาจเป็นเรื่องของสิ่งประดิษฐ์ และเราต้องรู้ว่าสิ่งเหล่านี้คืออะไรเพื่อให้รู้ว่าเครือข่ายเหล่านี้น่าเชื่อถือแค่ไหน” Buckner กล่าว

Buckner กล่าวว่าการทำงานผิดปกติอาจเกิดจากปฏิสัมพันธ์ระหว่างรูปแบบที่แท้จริงและรูปแบบที่เครือข่ายตั้งใจจะประมวลผล ซึ่งหมายความว่าไม่ใช่ความผิดพลาดที่สมบูรณ์

รูปแบบเป็นสิ่งประดิษฐ์

“การทำความเข้าใจผลกระทบของตัวอย่างที่เป็นปฏิปักษ์ต้องสำรวจความเป็นไปได้ของสิ่งประดิษฐ์” Buckner กล่าว “ดังนั้น จึงมีค่าใช้จ่ายในการทิ้งรูปแบบเหล่านี้และอันตรายในการใช้พวกมันโดยไม่ระมัดระวัง”

แม้ว่าจะไม่ใช่กรณีที่เกิดขึ้นทุกครั้ง แต่การกระทำที่ตั้งใจทำความผิดเป็นความเสี่ยงที่สูงที่สุดเกี่ยวกับเหตุการณ์ที่เป็นปฏิปักษ์ที่ทำให้การเรียนรู้ของเครื่องทำงานผิดปกติ

“มันหมายความว่าผู้กระทำความผิดสามารถหลอกลวงระบบที่พึ่งพาเครือข่ายที่น่าเชื่อถือ” Buckner กล่าว “มันเกี่ยวข้องกับการรักษาความปลอดภัย”

สิ่งนี้อาจเป็นการโจมตีของแฮกเกอร์ที่เข้าถึงระบบความปลอดภัยที่ใช้เทคโนโลยีการจดจำใบหน้า หรือสัญญาณจราจรที่มีป้ายกำกับไม่ถูกต้องเพื่อทำให้ยานพาหนะอัตโนมัติสับสน

การวิจัยก่อนหน้านี้ได้แสดงให้เห็นว่าบางส่วนของตัวอย่างที่เป็นปฏิปักษ์เกิดขึ้นตามธรรมชาติ เมื่อระบบการเรียนรู้ของเครื่องตีความข้อมูลผิดพลาดผ่านปฏิสัมพันธ์ที่ไม่คาดคิด ซึ่งไม่เหมือนกับการเกิดขึ้นจากข้อผิดพลาดในข้อมูล ตัวอย่างที่เกิดขึ้นตามธรรมชาติเหล่านี้เป็นเรื่องหายาก และวิธีเดียวที่จะค้นพบพวกมันในปัจจุบันคือการใช้ AI

อย่างไรก็ตาม Buckner กล่าวว่านักวิจัยต้องคิดใหม่เกี่ยวกับวิธีการที่พวกเขาจัดการกับความผิดปกติ

ความผิดปกติเหล่านี้หรือสิ่งประดิษฐ์ถูกอธิบายโดย Buckner ผ่านการเปรียบเทียบกับเลนส์แฟลร์ในภาพถ่าย ซึ่งไม่ได้เกิดจากความบกพร่องของเลนส์ แต่จากปฏิสัมพันธ์ระหว่างแสงและกล้อง

หากเรารู้วิธีการตีความเลนส์แฟลร์ เราสามารถ추출ข้อมูลที่สำคัญ เช่น ตำแหน่งของดวงอาทิตย์ออกมาได้ ด้วยเหตุนี้ Buckner จึงคิดว่ามันอาจเป็นไปได้ที่จะ추출ข้อมูลที่มีค่าจากเหตุการณ์ที่ไม่พึงประสงค์ในการเรียนรู้ของเครื่องซึ่งเกิดจากสิ่งประดิษฐ์

Buckner ยังบอกด้วยว่าสิ่งนี้ไม่ได้หมายความว่าการเรียนรู้ลึกไม่น่าเชื่อถือ

“บางส่วนของเหตุการณ์ที่เป็นปฏิปักษ์อาจเป็นสิ่งประดิษฐ์” เขากล่าว “เราต้องรู้ว่าสิ่งเหล่านี้คืออะไรเพื่อให้รู้ว่าเครือข่ายเหล่านี้น่าเชื่อถือแค่ไหน”