신경망을 위한 방어 시스템 개발에 전문가 팀 투입

미시간 대학교의 다양한 엔지니어, 생물학자, 수학자 팀은 적응성 면역계에 기반한 신경망 방어 시스템을 개발했습니다. 이 시스템은 다양한 유형의 공격으로부터 신경망을 방어할 수 있습니다.

악의적인 집단은 깊은 학습 알고리즘의 입력을 조작하여 잘못된 방향으로 направить할 수 있습니다. 이는 식별, 기계 시각, 자연어 처리(NLP), 언어 번역, 분쟁 감지 등과 같은 응용 프로그램에서 주요 문제가 될 수 있습니다.

강력한 적대적 면역계 기반 학습 시스템

새로 개발된 방어 시스템은 강력한 적대적 면역계 기반 학습 시스템(RAILS)이라고 합니다. 이 연구는 IEEE Access에 발표되었습니다.

알프레드 히어로(Alfred Hero)는 존 H. 홀란드 존 DISTINGUISHED 대학교 교수입니다. 그는 이 연구를 공동으로领导했습니다.

“RAILS는 적응성 면역계를 모델로 하는 최초의 적대적 학습 접근법입니다. 이는 선천적 면역계와 다르게 작동합니다.” 히어로教授는 말했습니다.

연구 팀은 이미 뇌를 모델로 하는 깊은 신경망이 또한 포유류의 면역계의 생물학적 과정을 모방할 수 있음을 발견했습니다. 이 면역계는 특정 병원체에 대항하기 위한 새로운 세포를 생성합니다.

인디카 라자파크세(Indika Rajapakse)는 계산 생물학 및 생물 정보학의 부교수입니다. 그는 또한 이 연구의 공동 리더입니다.

“면역계는驚異的な 설계를 가지고 있으며 항상 解決策을 찾을 것입니다.” 라자파크세는 말했습니다.

면역계를 모방하기

RAILS는 면역계의 자연적 방어를 모방하여 신경망에 대한 의심스러운 입력을 식별하고 처리할 수 있습니다. 생물학 팀은 먼저 마우스의 적응성 면역계가 항원에 반응하는 방식을 연구하여 면역계의 모델을 생성했습니다.

데이터 분석은 당시 생물 정보학 박사 과정 학생이었던 스티븐 린즈리(Stephen Lindsly)에 의해 수행되었습니다. 린즈리는 생물학자와 엔지니어 간의 정보를 번역하여 히어로의 팀이 컴퓨터에서 생물학적 과정을 모델링할 수 있도록 도왔습니다. 이를 위해 팀은 생물학적 메커니즘을 코드에 통합했습니다.

RAILS의 방어는 적대적 입력으로 테스트되었습니다.

“우리는 생물학적 과정을真正로 포착했다는 것을 확신하지 못했지만, RAILS의 학습 곡선과 실험에서 추출한 곡선을 비교한 후에야 확신할 수 있었습니다. 두 곡선은 정확히 동일했습니다.” 히어로教授는 말했습니다.

RAILS는 현재 적대적 공격에 대항하기 위해 사용되는 두 가지 가장 일반적인 기계 학습 프로세스보다 성능이 뛰었습니다. 이러한 두 프로세스는 Roust Deep k-Nearest Neighbor와畳み込み 신경망입니다.

렌 왕(Ren Wang)은 전기 및 컴퓨터 공학의 연구원입니다. 그는 소프트웨어의 개발과 구현에 크게 기여했습니다.

“이 연구의 가장 약속하는 부분은 우리의 일반적인 프레임워크가 다양한 유형의 공격에 대항할 수 있다는 것입니다.” 렌 왕은 말했습니다.

연구자들은 이미지 식별을 테스트 케이스로 사용하여 RAILS를 8가지 유형의 적대적 공격에 대한 다양한 데이터 세트에서 평가했습니다. 모든 경우에서 성능이 향상되었으며, 가장 유해한 유형의 적대적 공격인 Projected Gradient Descent 공격에도 대항할 수 있었습니다. RAILS는 또한 전체적인 정확도를 향상시켰습니다.

“이것은 美しい 동적 시스템을 이해하기 위해 수학을 사용하는驚異的な 예입니다. 우리는 RAILS에서 배운 것을 사용하여 면역계를 더 빠르게 작동하도록 재프로그래밍할 수 있을 것입니다.” 라자파크세는 말했습니다.