Đội ngũ chuyên gia đa dạng phát triển hệ thống phòng thủ cho mạng nơ-ron nhân tạo

Một đội ngũ chuyên gia đa dạng gồm các kỹ sư, nhà sinh vật học và nhà toán học tại Đại học Michigan đã phát triển một hệ thống phòng thủ cho mạng nơ-ron nhân tạo dựa trên hệ thống miễn dịch thích nghi. Hệ thống này có thể bảo vệ mạng nơ-ron khỏi các loại tấn công khác nhau.

Các nhóm độc hại có thể điều chỉnh đầu vào của một thuật toán học sâu để chỉ đạo nó theo hướng sai, điều này có thể gây ra vấn đề lớn cho các ứng dụng như nhận dạng, tầm nhìn máy, xử lý ngôn ngữ tự nhiên (NLP), dịch ngôn ngữ, phát hiện đối thủ và nhiều hơn. 

Hệ thống học tập miễn dịch đối thủ mạnh mẽ

Hệ thống phòng thủ mới được xây dựng được gọi là Hệ thống học tập miễn dịch đối thủ mạnh mẽ. Công việc này được xuất bản trong IEEE Access. 

Alfred Hero là giáo sư danh dự John H. Holland. Ông đã đồng lãnh đạo công việc này. 

“RAILS đại diện cho cách tiếp cận đầu tiên đối với học tập đối thủ được mô hình hóa theo hệ thống miễn dịch thích nghi, hoạt động khác với hệ thống miễn dịch bẩm sinh,” Hero nói. 

Đội ngũ đã phát hiện ra rằng mạng nơ-ron sâu, vốn đã được lấy cảm hứng từ não, cũng có thể bắt chước quá trình sinh học của hệ thống miễn dịch của động vật có vú. Hệ thống miễn dịch này tạo ra các tế bào mới được thiết kế để bảo vệ chống lại các tác nhân gây bệnh cụ thể. 

Indika Rajapakse là giáo sư liên kết về y học tính toán và sinh học thông tin, cũng như đồng lãnh đạo của nghiên cứu.

“Hệ thống miễn dịch được xây dựng để đối phó với những điều bất ngờ. Nó có một thiết kế tuyệt vời và luôn tìm ra giải pháp,” Rajapakse nói. 

Nhái lại hệ thống miễn dịch

RAILS nhái lại các cơ chế phòng thủ tự nhiên của hệ thống miễn dịch, cho phép nó xác định và giải quyết các đầu vào đáng ngờ cho mạng nơ-ron. Đội ngũ sinh học đầu tiên đã nghiên cứu cách hệ thống miễn dịch thích nghi của chuột phản ứng với một kháng nguyên trước khi tạo ra một mô hình của hệ thống miễn dịch. 

Phân tích dữ liệu về thông tin này sau đó được thực hiện bởi Stephen Lindsly, người từng là sinh viên tiến sĩ về sinh học thông tin tại thời điểm đó. Lindsly đã giúp dịch thông tin này giữa các nhà sinh học và kỹ sư, cho phép đội ngũ của Hero mô hình hóa quá trình sinh học trên máy tính. Để làm điều này, đội ngũ đã kết hợp các cơ chế sinh học vào mã. 

Các cơ chế phòng thủ của RAILS đã được thử nghiệm với các đầu vào đối thủ.

“Chúng tôi không chắc chắn rằng chúng tôi đã thực sự nắm bắt được quá trình sinh học cho đến khi chúng tôi so sánh các đường học tập của RAILS với những đường được trích xuất từ các thí nghiệm,” Hero nói. “Chúng hoàn toàn giống nhau.” 

RAILS đã vượt trội so với hai quá trình học máy phổ biến nhất hiện đang được sử dụng để chống lại các cuộc tấn công đối thủ. Hai quá trình này là Roust Deep k-Nearest Neighbor và mạng nơ-ron tích chập. 

Ren Wang là một nghiên cứu viên tại khoa kỹ thuật điện và máy tính. Ông đã chịu trách nhiệm chính cho việc phát triển và triển khai phần mềm. 

“Một phần rất hứa hẹn của công việc này là khuôn khổ chung của chúng tôi có thể bảo vệ chống lại các loại tấn công khác nhau,” Wang nói. 

Sau đó, các nhà nghiên cứu đã sử dụng nhận dạng hình ảnh làm một trường hợp thử nghiệm để đánh giá RAILS chống lại tám loại tấn công đối thủ trong các tập dữ liệu khác nhau. Nó đã chứng minh sự cải thiện trong tất cả các trường hợp và thậm chí còn bảo vệ chống lại cuộc tấn công Projected Gradient Descent, loại tấn công đối thủ gây hại nhất. RAILS cũng đã cải thiện độ chính xác tổng thể.

“Đây là một ví dụ tuyệt vời về việc sử dụng toán học để hiểu hệ thống động lực học đẹp này,” Rajapakse nói. “Chúng tôi có thể sử dụng những gì chúng tôi đã học được từ RAILS để giúp tái lập trình hệ thống miễn dịch để hoạt động nhanh hơn.”