์ธ๊ณต์ง๋ฅ
์ ๊ฒฝ๋ง์ ์ํ ์ ๋ฌธ๊ฐ ํ์ ๋ค์ํ ๋ฐฉ์ด ์์คํ ๊ฐ๋ฐ
미시간 대학교의 다양한 엔지니어, 생물학자, 수학자 팀은 적응형 면역 시스템을 기반으로 신경망을 위한 방어 시스템을 개발했습니다. 이 시스템은 다양한 유형의 공격으로부터 신경망을 방어할 수 있습니다.
나쁨의 집단은 깊은 학습 알고리즘의 입력을 조정하여 잘못된 방향으로 направить할 수 있습니다. 이는 식별, 기계 비전, 자연어 처리(NLP), 언어 번역, 분쟁 감지 등과 같은 응용 프로그램에서 주요 문제가 될 수 있습니다.
강력한 적대적 면역 기반 학습 시스템
새로 구축된 방어 시스템은 강력한 적대적 면역 기반 학습 시스템(Robust Adversarial Immune-Inspired Learning System)이라고 불립니다. 이 연구는 IEEE Access에 발표되었습니다.
알프레드 히어로(Alfred Hero)는 존 H. 홀란드 존경받는 대학교 교수입니다. 그는 이 연구를 공동으로 주도했습니다.
“RAILS는 적응형 면역 시스템을 모델로 한 최초의 접근 방식입니다. 이는 선천적 면역 시스템과 다르게 작동합니다.” 히어로는 말했다.
팀은 이미 뇌에서 영감을 받은 깊은 신경망이 또한 포유류의 면역 시스템의 생물학적 과정을 모방할 수 있음을 발견했습니다. 이 면역 시스템은 특정 병원체에 대한 방어를 위해 설계된 새로운 세포를 생성합니다.
인디카 라자파크세(Indika Rajapakse)는 계산 의학 및 생물 정보학의 부교수이자 연구의 공동 책임자입니다.
“면역 시스템은 놀라움을 위해 설계되었습니다. 그것은 놀라운 디자인을 가지고 있으며 항상 해결책을 찾을 것입니다.” 라자파크세는 말했다.
면역 시스템 모방
RAILS는 면역 시스템의 자연스러운 방어를 모방하여 신경망의 의심스러운 입력을 식별하고 해결할 수 있습니다. 생물학 팀은 먼저 마우스의 적응형 면역 시스템이 항원에 어떻게 반응하는지 연구한 후 면역 시스템의 모델을 생성했습니다.
당시 생물 정보학 박사 과정 학생이었던 스티븐 린즈리(Stephen Lindsly)는 이 정보에 대한 데이터 분석을 수행했습니다. 린즈리는 생물학자와 엔지니어 사이에서 정보를 번역하여 히어로의 팀이 컴퓨터에서 생물학적 과정을 모델링할 수 있도록 도왔습니다. 이를 위해 팀은 코드에 생물학적 메커니즘을 결합했습니다.
RAILS 방어는 적대적 입력으로 테스트되었습니다.
“우리는 실제로 생물학적 과정을 포착하지 못했다고 생각했습니다. 그러나 RAILS의 학습 곡선을 실험에서 추출한 것과 비교했을 때, 그것들은 정확히 같았습니다.” 히어로가 말했다.
RAILS는 현재 적대적 공격을 방어하는 데 사용되는 두 가지 가장 일반적인 기계 학습 프로세스인 Roust Deep k-Nearest Neighbor와 합성 신경망을 능가했습니다.
렌 왕(Ren Wang)은 전기 및 컴퓨터 공학의 연구원입니다. 그는 소프트웨어의 개발과 구현에 크게 기여했습니다.
“이 연구의 가장 유망한 부분은 우리의 일반적인 프레임워크가 다양한 유형의 공격을 방어할 수 있다는 것입니다.” 렌 왕이 말했다.
연구자들은 이미지 식별을 테스트 케이스로 사용하여 RAILS를 다양한 데이터 세트에서 8가지 유형의 적대적 공격에 대해 평가했습니다. 모든 경우에서 개선되었으며, 가장 유해한 유형의 적대적 공격인 Projected Gradient Descent 공격에 대해서도 보호되었습니다. RAILS는 또한 전체 정확도를 향상시켰습니다.
“이것은 이 아름다운 동적 시스템을 이해하기 위해 수학을 사용하는 놀라운 예입니다. 우리는 RAILS에서 배운 것을 사용하여 면역 시스템을 더 빠르게 작동하도록 재프로그래밍할 수 있을 것입니다.” 라자파크세는 말했다.
