ทีมวิจัย MIT ออกแบบเครือข่าย AI เพื่อต่อต้านตัวอย่างที่เป็นอันตราย

ทีมนักวิจัยจาก MIT ได้พัฒนา อัลกอริทึมการเรียนรู้ลึก ที่มีจุดมุ่งหมายเพื่อช่วยให้ AI สามารถรับมือกับ “ตัวอย่างที่เป็นอันตราย” ซึ่งสามารถทำให้ AI ตัดสินใจผิดและกระทำการผิดได้ อัลกอริทึมที่ออกแบบโดยทีม MIT สามารถช่วยให้ระบบ AI รักษาความแม่นยำและหลีกเลี่ยงการทำผิดพลาดเมื่อเผชิญกับข้อมูลที่ทำให้เข้าใจผิด

ระบบ AI วิเคราะห์คุณลักษณะของการเกิดขึ้นเพื่อตัดสินใจว่าจะตอบสนองต่อเหตุการณ์นั้นอย่างไร AI ที่รับผิดชอบในการควบคุมรถยนต์ไร้คนขับจะต้องใช้ข้อมูลจากกล้องของรถยนต์และตัดสินใจว่าจะทำอะไรตามข้อมูลที่อยู่ในภาพเหล่านั้น อย่างไรก็ตาม มีโอกาสที่ข้อมูลภาพที่ AI วิเคราะห์ไม่ใช่การแสดงภาพที่ถูกต้องของโลกแห่งความเป็นจริง ข้อผิดพลาดในระบบกล้องสามารถเปลี่ยนแปลงพิกเซลบางส่วน ทำให้ AI ตัดสินใจผิดเกี่ยวกับแนวทางปฏิบัติที่เหมาะสม

“ข้อมูลที่เป็นอันตราย” เป็นเหมือนภาพหลอกลวงสำหรับระบบ AI นั่นคือข้อมูลที่ทำให้ AI สับสนในบางรูปแบบ ข้อมูลที่เป็นอันตรายสามารถสร้างขึ้นโดยมีจุดมุ่งหมายเพื่อให้ AI ทำผิดพลาดโดยการแสดงข้อมูลในลักษณะที่ทำให้ AI เชื่อว่าเนื้อหาของตัวอย่างคือสิ่งหนึ่งแทนที่จะเป็นอีกสิ่งหนึ่ง ตัวอย่างเช่น สามารถสร้างตัวอย่างที่เป็นอันตรายสำหรับระบบการมองเห็นของคอมพิวเตอร์ได้โดยการเปลี่ยนแปลงภาพของแมวเล็กน้อย ทำให้ AI ผิดพลาดในการจำแนกภาพเหล่านั้นเป็นหน้าจอคอมพิวเตอร์ ทีมวิจัย MIT ได้ออกแบบอัลกอริทึมเพื่อช่วยป้องกันตัวอย่างที่เป็นอันตรายโดยให้โมเดลรักษาระดับ “ความกังขา” เกี่ยวกับข้อมูลที่ได้รับ

นักวิจัย MIT เรียกแนวทางของตนเองว่า “Certified Adversarial Robustness for Deep Reinforcement Learning” หรือ CARRL CARRL ประกอบด้วยเครือข่ายการเรียนรู้แบบเสริมและเครือข่ายประสาทลึกแบบดั้งเดิมที่เชื่อมต่อกัน การเรียนรู้แบบเสริมใช้แนวคิด “รางวัล” เพื่อฝึกโมเดล โดยให้รางวัลแก่โมเดลมากขึ้นเมื่อโมเดลเข้าใกล้การบรรลุเป้าหมายมากขึ้น โมเดลการเรียนรู้แบบเสริมใช้ในการฝึก DQN DQN ทำงานเหมือนเครือข่ายประสาทลึกแบบดั้งเดิม แต่ยังเชื่อมโยงค่าข้อมูลเข้ากับระดับรางวัล เช่นเดียวกับระบบการเรียนรู้แบบเสริม

CARRL ทำงานโดยสร้างแบบจำลองค่าข้อมูลที่แตกต่างกันหลายแบบ

สมมติว่า AI พยายามติดตามตำแหน่งของจุดในภาพที่ใหญ่กว่า AI จะพิจารณาว่าตำแหน่งของจุดอาจเป็นผลมาจากอิทธิพลที่เป็นอันตราย และพิจารณาพื้นที่ที่จุดอาจอยู่แทน จากนั้นเครือข่ายจะตัดสินใจตามสถานการณ์ที่เลวร้ายที่สุดสำหรับตำแหน่งของจุด โดยตัดสินใจที่จะให้รางวัลสูงสุดในสถานการณ์ที่เลวร้ายที่สุด

วิธีการป้องกันตัวอย่างที่เป็นอันตรายทั่วไปคือการวิ่งรูปแบบที่เปลี่ยนแปลงเล็กน้อยของภาพข้อมูลเข้าไปในเครือข่าย AI เพื่อดูว่าการตัดสินใจจะเหมือนเดิมหรือไม่ หากการเปลี่ยนแปลงภาพไม่ส่งผลกระทบต่อผลลัพธ์ ก็มีโอกาสที่เครือข่ายจะทนต่อตัวอย่างที่เป็นอันตรายได้ อย่างไรก็ตาม นี่ไม่ใช่กลยุทธ์ที่ใช้ได้ในการตัดสินใจอย่างรวดเร็ว เนื่องจากเป็นวิธีการที่ใช้เวลานานและใช้การคำนวณมาก ด้วยเหตุนี้ ทีม MIT จึงพยายามสร้างเครือข่ายประสาทที่สามารถตัดสินใจตามสมมติฐานที่เลวร้ายที่สุด ซึ่งสามารถทำงานได้ในสถานการณ์ที่ความปลอดภัยถือเป็นสิ่งสำคัญ

นักวิจัย MIT ทดสอบอัลกอริทึมของตนโดยให้ AI เล่นเกม Pong พวกเขาได้เพิ่มตัวอย่างที่เป็นอันตรายโดยการให้ AI ตัวอย่างที่ลูกบอลแสดงอยู่ต่ำกว่าหน้าจูเล็กน้อย เมื่ออิทธิพลของตัวอย่างที่เป็นอันตรายเพิ่มขึ้น เทคนิคการแก้ไขมาตรฐานเริ่มล้มเหลว ในขณะที่ CARRL สามารถชนะเกมได้มากกว่าเมื่อเทียบกัน CARRL ยังถูกทดสอบในงานหลีกเลี่ยงการชนกัน ซึ่งเกิดขึ้นใน环境เสมือนจริงที่มีเอเย่นต์สองตัวพยายามเปลี่ยนตำแหน่งโดยไม่ชนกัน ทีมวิจัยเปลี่ยนการรับรู้ของเอเย่นต์แรกเกี่ยวกับเอเย่นต์ที่สอง และ CARRL สามารถช่วยให้เอเย่นต์แรกหลบเลี่ยงเอเย่นต์ที่สองได้แม้ในสถานการณ์ที่ไม่แน่นอน แม้ว่าจะมีจุดหนึ่งที่ CARRL กลายเป็นระมัดระวังมากเกินไปและหลีกเลี่ยงจุดหมายปลายทางทั้งหมด

ไม่ว่าในกรณีใด ทีมวิจัย MIT หัวหน้าโดย Michael Everett อธิบายว่าการวิจัยอาจมีผลกระทบต่อความสามารถของหุ่นยนต์ในการจัดการกับสถานการณ์ที่ไม่คาดคิด Everett อธิบายผ่าน MIT News

“คนสามารถเป็นอันตราย เช่น การยืนอยู่หน้าหุ่นยนต์เพื่อขัดขวางเซ็นเซอร์ หรือโต้ตอบกับพวกมัน ไม่จำเป็นต้องมีเจตนา tốtเสมอ” Everett กล่าว “หุ่นยนต์จะคิดถึงสิ่งที่คนอาจพยายามทำ และพยายามหลีกเลี่ยงพวกมันอย่างไร? เรากำลังคิดว่าจะทำอย่างไรเพื่อป้องกันตัวแบบที่เป็นอันตรายเหล่านั้น”