ทีมพัฒนาวิธีการสำหรับการเปรียบเทียบเครือข่ายประสาทเทียม

ทีมนักวิจัยที่ Los Alamos National Laboratory ได้พัฒนาวิธีการใหม่สำหรับการเปรียบเทียบเครือข่ายประสาทเทียม ตามทีมนี้ วิธีการใหม่นี้มองเข้าไปใน “กล่องดำ” ของปัญญาประดิษฐ์ (AI) และช่วยให้พวกเขาเข้าใจพฤติกรรมของเครือข่ายประสาทเทียม เครือข่ายประสาทเทียมซึ่งรับรูปแบบภายในชุดข้อมูลถูกใช้ในหลาย ๆ แอปพลิเคชัน เช่น ระบบการรู้จำใบหน้าและยานพาหนะอัตโนมัติ

ทีมนี้ได้นำเสนอผลงานวิจัยของพวกเขาในเอกสาร “If You’ve Trained One You’ve Trained Them All: Inter-Architecture Similarity Increases With Robustness” ในการประชุมเกี่ยวกับความไม่แน่นอนในปัญญาประดิษฐ์

Haydn Jones เป็นนักวิจัยในกลุ่ม Advanced Research in Cyber Systems ที่ Los Alamos และเป็นผู้เขียนเอกสารวิจัยหลัก

การเข้าใจเครือข่ายประสาทเทียมที่ดีขึ้น

“ชุมชนการวิจัยปัญญาประดิษฐ์ไม่จำเป็นต้องมีความเข้าใจที่สมบูรณ์เกี่ยวกับสิ่งที่เครือข่ายประสาทเทียมทำ พวกมันให้ผลลัพธ์ที่ดี แต่เราไม่ทราบว่าทำไมหรือวิธีการ” Jones กล่าว “วิธีการใหม่ของเราทำงานได้ดีกว่าในการเปรียบเทียบเครือข่ายประสาทเทียม ซึ่งเป็นขั้นตอนที่สำคัญในการเข้าใจคณิตศาสตร์เบื้องหลัง AI

การวิจัยใหม่นี้จะช่วยให้เชี่ยวชาญสามารถเข้าใจพฤติกรรมของเครือข่ายประสาทเทียมที่มีความแข็งแกร่ง

ในขณะที่เครือข่ายประสาทเทียมมีประสิทธิภาพสูง แต่ก็ยังอ่อนแอ การเปลี่ยนแปลงเล็กน้อยในเงื่อนไข เช่น สัญญาณหยุดชั่วคราวที่ถูกปิดบังบางส่วนซึ่งถูกประมวลผลโดยยานพาหนะอัตโนมัติ อาจทำให้เครือข่ายประสาทเทียมสับสนสัญญาณนั้น ซึ่งอาจทำให้ไม่หยุดและเป็นอันตราย

การฝึกอบรมเครือข่ายประสาทเทียมแบบ Adversarial

นักวิจัยได้พยายามปรับปรุงเครือข่ายประสาทเทียมเหล่านี้โดยการดูวิธีการปรับปรุงความแข็งแกร่งของเครือข่าย วิธีการหนึ่งคือการ “โจมตี” เครือข่ายระหว่างกระบวนการฝึกอบรม โดยที่นักวิจัยจงใจแนะนำความผิดปกติระหว่างการฝึกอบรม AI เพื่อให้ AI หยุดสนใจสิ่งเหล่านั้น กระบวนการนี้เรียกว่าการฝึกอบรมแบบ Adversarial ทำให้เครือข่ายเหล่านี้ยากต่อการหลอกลวง

ทีมนี้ได้ใช้มาตรวัดความคล้ายคลึงกันของเครือข่ายใหม่สำหรับเครือข่ายประสาทเทียมที่ฝึกอบรมแบบ Adversarial พวกเขาประหลาดใจที่พบว่าการฝึกอบรมแบบ Adversarial ทำให้เครือข่ายประสาทเทียมในโดเมนการมองเห็นรวมกันเป็นตัวแทนข้อมูลที่คล้ายคลึงกัน ไม่ว่าโครงสร้างเครือข่ายจะเป็นอย่างไร เมื่อขนาดของการโจมตีเพิ่มขึ้น

“เราพบว่าเมื่อเราฝึกเครือข่ายประสาทเทียมให้แข็งแกร่งต่อการโจมตีแบบ Adversarial พวกมันเริ่มทำสิ่งเดียวกัน” Jones กล่าว

นี่ไม่ใช่ครั้งแรกที่ผู้เชี่ยวชาญพยายามหาสถาปัตยกรรมที่สมบูรณ์แบบสำหรับเครือข่ายประสาทเทียม อย่างไรก็ตาม การค้นพบใหม่นี้แสดงให้เห็นว่าการแนะนำการฝึกอบรมแบบ Adversarial ลดช่องว่างอย่างมีนัยสำคัญ ซึ่งหมายความว่าชุมชนการวิจัย AI อาจไม่ต้องสำรวจสถาปัตยกรรมใหม่ ๆ มากนัก เนื่องจากตอนนี้ทราบแล้วว่าการฝึกอบรมแบบ Adversarial ทำให้สถาปัตยกรรมที่หลากหลายรวมกันเป็นโซลูชันที่คล้ายคลึงกัน

“โดยการค้นพบว่าเครือข่ายประสาทเทียมที่มีความแข็งแกร่งคล้ายคลึงกัน เรากำลังทำให้เข้าใจว่า AI ที่มีความแข็งแกร่งทำงานอย่างไร” Jones กล่าว “เราอาจจะค้นพบสิ่งที่ชี้ให้เห็นว่าการรับรู้เกิดขึ้นในมนุษย์และสัตว์อื่น ๆ อย่างไร”