Tim yang Diverse dari Ahli Mengembangkan Sistem Pertahanan untuk Jaringan Saraf

Sebuah tim yang diverse dari insinyur, ahli biologi, dan matematikawan di Universitas Michigan telah mengembangkan sistem pertahanan untuk jaringan saraf berdasarkan sistem imun adaptif. Sistem ini dapat membela jaringan saraf melawan berbagai jenis serangan.

Grup-grup yang berniat jahat dapat menyesuaikan input algoritma pembelajaran dalam untuk mengarahkannya ke arah yang salah, yang dapat menjadi masalah besar untuk aplikasi seperti identifikasi, visi mesin, pemrosesan bahasa alami (NLP), terjemahan bahasa, deteksi perselisihan, dan lain-lain.

Sistem Pembelajaran Imun-Inspirasi yang Kuat dan Tahan Serangan

Sistem pertahanan baru yang dibangun disebut Sistem Pembelajaran Imun-Inspirasi yang Kuat dan Tahan Serangan. Karya ini diterbitkan di IEEE Access.

Alfred Hero adalah profesor universitas yang terkenal. Ia memimpin pekerjaan ini.

“Sistem Pembelajaran Imun-Inspirasi yang Kuat dan Tahan Serangan merupakan pendekatan pertama untuk pembelajaran lawan yang dimodelkan setelah sistem imun adaptif, yang beroperasi secara berbeda dari sistem imun bawaan,” kata Hero.

Tim menemukan bahwa jaringan saraf dalam, yang sudah terinspirasi oleh otak, juga dapat meniru proses biologis sistem imun mamalia. Sistem imun ini menghasilkan sel baru yang dirancang untuk membela melawan patogen tertentu.

Indika Rajapakse adalah profesor associate di bidang kedokteran komputasi dan bioinformatika, serta pemimpin bersama studi ini.

“Sistem imun dibangun untuk kejutan. Ini memiliki desain yang luar biasa dan akan selalu menemukan solusi,” kata Rajapakse.

Meniru Sistem Imun

Sistem Pembelajaran Imun-Inspirasi yang Kuat dan Tahan Serangan meniru pertahanan alami sistem imun, yang memungkinkan untuk mengidentifikasi dan menangani input mencurigakan ke jaringan saraf. Tim biologi pertama kali mempelajari bagaimana sistem imun adaptif tikus menanggapi antigen sebelum membuat model sistem imun.

Analisis data pada informasi tersebut kemudian dilakukan oleh Stephen Lindsly, yang saat itu merupakan mahasiswa doktoral di bidang bioinformatika. Lindsly membantu menerjemahkan informasi antara ahli biologi dan insinyur, yang memungkinkan tim Hero untuk memodelkan proses biologis di komputer. Untuk melakukan ini, tim menggabungkan mekanisme biologis ke dalam kode.

Pertahanan Sistem Pembelajaran Imun-Inspirasi yang Kuat dan Tahan Serangan diuji dengan input lawan.

“Kami tidak yakin bahwa kami telah benar-benar menangkap proses biologis sampai kami membandingkan kurva pembelajaran Sistem Pembelajaran Imun-Inspirasi yang Kuat dan Tahan Serangan dengan yang diekstrak dari eksperimen,” kata Hero. “Mereka persis sama.”

Sistem Pembelajaran Imun-Inspirasi yang Kuat dan Tahan Serangan outperformed dua proses pembelajaran mesin yang paling umum yang saat ini digunakan untuk melawan serangan lawan. Dua proses tersebut adalah Roust Deep k-Nearest Neighbor dan jaringan saraf konvolusional.

Ren Wang adalah rekan peneliti di bidang teknik elektro dan komputer. Ia banyak bertanggung jawab atas pengembangan dan implementasi perangkat lunak.

“Satu bagian yang sangat menjanjikan dari pekerjaan ini adalah bahwa kerangka kerja umum kami dapat membela melawan berbagai jenis serangan,” kata Ren Wang.

Peneliti kemudian menggunakan identifikasi gambar sebagai kasus uji untuk mengevaluasi Sistem Pembelajaran Imun-Inspirasi yang Kuat dan Tahan Serangan melawan delapan jenis serangan lawan di berbagai dataset. Ini menunjukkan perbaikan dalam semua kasus, dan bahkan melindungi melawan serangan Projected Gradient Descent, yang merupakan jenis serangan lawan yang paling merusak. Sistem Pembelajaran Imun-Inspirasi yang Kuat dan Tahan Serangan juga memperbaiki akurasi keseluruhan.

“Ini adalah contoh yang luar biasa dari menggunakan matematika untuk memahami sistem dinamis yang indah ini,” kata Rajapakse. “Kami mungkin dapat mengambil apa yang kami pelajari dari Sistem Pembelajaran Imun-Inspirasi yang Kuat dan Tahan Serangan dan membantu memprogram ulang sistem imun untuk bekerja lebih cepat.”