Đội Ngũ Chuyên Gia Đa Dạng Phát Triển Hệ Thống Phòng Thủ Cho Mạng Nơ-Ron

Một đội ngũ chuyên gia đa dạng gồm các kỹ sư, nhà sinh vật học và toán học tại Đại học Michigan đã phát triển một hệ thống phòng thủ cho mạng nơ-ron dựa trên hệ thống miễn dịch thích ứng. Hệ thống này có thể bảo vệ mạng nơ-ron khỏi các loại tấn công khác nhau.

Các nhóm độc hại có thể điều chỉnh đầu vào của một thuật toán học sâu để chỉ đạo nó theo hướng sai, điều này có thể trở thành một vấn đề lớn đối với các ứng dụng như nhận dạng, tầm nhìn máy tính, xử lý ngôn ngữ tự nhiên (NLP), dịch ngôn ngữ, phát hiện đối thủ và nhiều hơn nữa.

Hệ Thống Học Lập Tích Hợp Miễn Dịch Robust

Hệ thống phòng thủ mới được xây dựng này được gọi là Hệ Thống Học Lập Tích Hợp Miễn Dịch Robust. Công việc này đã được xuất bản trên IEEE Access.

Alfred Hero là giáo sư danh dự John H. Holland. Ông đã lãnh đạo công việc này.

“Hệ Thống Học Lập Tích Hợp Miễn Dịch Robust đại diện cho cách tiếp cận đầu tiên đối với học tập đối thủ được mô hình hóa theo hệ thống miễn dịch thích ứng, hoạt động khác với hệ thống miễn dịch bẩm sinh,” Hero nói.

Đội ngũ đã phát hiện ra rằng mạng nơ-ron sâu, vốn đã được lấy cảm hứng từ não bộ, cũng có thể bắt chước quá trình sinh học của hệ thống miễn dịch của động vật có vú. Hệ thống miễn dịch này tạo ra các tế bào mới được thiết kế để bảo vệ chống lại các tác nhân gây bệnh cụ thể.

Indika Rajapakse là giáo sư phụ tá về y học tính toán và sinh học thông tin, cũng như là người lãnh đạo nghiên cứu.

“Hệ thống miễn dịch được xây dựng để đối phó với những điều bất ngờ. Nó có một thiết kế tuyệt vời và sẽ luôn tìm ra giải pháp,” Rajapakse nói.

Nhái lại Hệ Thống Miễn Dịch

Hệ Thống Học Lập Tích Hợp Miễn Dịch Robust nhái lại các cơ chế phòng thủ tự nhiên của hệ thống miễn dịch, cho phép nó xác định và giải quyết các đầu vào đáng ngờ của mạng nơ-ron. Đội ngũ sinh học đầu tiên đã nghiên cứu cách hệ thống miễn dịch thích ứng của chuột phản ứng với một kháng nguyên trước khi tạo ra một mô hình của hệ thống miễn dịch.

Phân tích dữ liệu về thông tin này sau đó được thực hiện bởi Stephen Lindsly, người từng là sinh viên tiến sĩ về sinh học thông tin tại thời điểm đó. Lindsly đã giúp dịch thông tin này giữa các nhà sinh vật học và kỹ sư, cho phép đội ngũ của Hero mô hình hóa quá trình sinh học trên máy tính. Để làm điều này, đội ngũ đã kết hợp các cơ chế sinh học vào mã.

Các cơ chế phòng thủ của Hệ Thống Học Lập Tích Hợp Miễn Dịch Robust đã được thử nghiệm với các đầu vào đối thủ.

“Chúng tôi không chắc chắn rằng chúng tôi đã thực sự nắm bắt được quá trình sinh học cho đến khi chúng tôi so sánh các đường học của Hệ Thống Học Lập Tích Hợp Miễn Dịch Robust với những đường học được trích xuất từ các thí nghiệm,” Hero nói. “Họ hoàn toàn giống nhau.”

Hệ Thống Học Lập Tích Hợp Miễn Dịch Robust đã vượt qua hai quá trình học máy phổ biến nhất hiện đang được sử dụng để chống lại các cuộc tấn công đối thủ. Hai quá trình này là Roust Deep k-Nearest Neighbor và mạng nơ-ron tích chập.

Ren Wang là một nghiên cứu viên tại khoa kỹ thuật điện và máy tính. Ông đã chịu trách nhiệm chính trong việc phát triển và triển khai phần mềm.

“Một phần rất hứa hẹn của công việc này là rằng khuôn khổ tổng quát của chúng tôi có thể bảo vệ chống lại các loại tấn công khác nhau,” Wang nói.

Các nhà nghiên cứu sau đó đã sử dụng nhận dạng hình ảnh làm một trường hợp thử nghiệm để đánh giá Hệ Thống Học Lập Tích Hợp Miễn Dịch Robust chống lại tám loại tấn công đối thủ trong các tập dữ liệu khác nhau. Nó đã thể hiện sự cải thiện trong tất cả các trường hợp và thậm chí còn bảo vệ chống lại cuộc tấn công Projected Gradient Descent, loại tấn công đối thủ gây hại nhất. Hệ Thống Học Lập Tích Hợp Miễn Dịch Robust cũng đã cải thiện độ chính xác tổng thể.

“Đây là một ví dụ tuyệt vời về việc sử dụng toán học để hiểu hệ thống động này đẹp đẽ,” Rajapakse nói. “Chúng tôi có thể lấy những gì chúng tôi đã học được từ Hệ Thống Học Lập Tích Hợp Miễn Dịch Robust và giúp tái lập trình hệ thống miễn dịch để hoạt động nhanh hơn.”