뉴럴 네트워크 비교를 위한 접근법 개발

로스 알라모스 국립 연구소의 연구자 팀은 뉴럴 네트워크를 비교하기 위한 새로운 접근법을 개발했습니다. 팀에 따르면, 이 새로운 접근법은 인공 지능(AI)의 “블랙 박스” 안으로 들어가서 뉴럴 네트워크의 동작을 이해하는 데 도움이 됩니다. 패턴을 인식하는 뉴럴 네트워크는 얼굴 인식 시스템 및 자율 주행 자동차와 같은 다양한 응용 분야에서 사용됩니다.

팀은 그들의 논문, “If You’ve Trained One You’ve Trained Them All: Inter-Architecture Similarity Increases With Robustness,”를 불확실성 인공 지능 회의에서 발표했습니다.

헤이든 존스는 로스 알라모스 국립 연구소의 사이버 시스템 연구 그룹에서 연구원으로 일하며, 연구 논문의 제1저자입니다.

뉴럴 네트워크에 대한 더 나은 이해

“인공 지능 연구 커뮤니티는 뉴럴 네트워크가 하는 일을 완전히 이해하지 못합니다. 그들은 좋은 결과를 제공하지만, 우리는 어떻게 그리고 왜 그런 결과가 나왔는지 모릅니다,” 존스는 말했다. “우리의 새로운 방법은 뉴럴 네트워크를 비교하는 데 더 나은 일을 합니다. 이는 인공 지능背后的 수학을 더 잘 이해하는 데 중요한 단계입니다.

새로운 연구는 또한 강건한 뉴럴 네트워크의 동작을 이해하는 데 도움이 될 것입니다.

뉴럴 네트워크는 높은 성능을 가지고 있지만, 또한 취약합니다. 작은 조건의 변화, 예를 들어 자율 주행 자동차가 처리하는 부분적으로 가려진 정지 표지,는 뉴럴 네트워크가 표지를 잘못 식별하게 할 수 있습니다. 이는 정지하지 않을 수 있으며, 이는 위험할 수 있습니다.

적대적 훈련 뉴럴 네트워크

연구자들은 이러한 유형의 뉴럴 네트워크를 개선하기 위해 네트워크의 강건성을 향상시키는 방법을 조사했습니다. 접근법 중 하나는 네트워크를 훈련하는 동안 “공격”하는 것입니다. 여기서 연구자들은 의도적으로 훈련 중에 비정상성을 도입하여 AI가 이를 무시하도록 합니다. 이 과정은 적대적 훈련이라고 하며, 네트워크를 속이는 것을 더 어렵게 만듭니다.

팀은 새로운 네트워크 유사성 지표를 적대적 훈련을 받은 뉴럴 네트워크에 적용했습니다. 그들은 네트워크 구조와 상관없이, 공격의 크기가 증가함에 따라 적대적 훈련이 뉴럴 네트워크를 유사한 데이터 표현으로 수렴하게 만든다는 것을 발견했을 때 놀랐습니다.

“우리는 뉴럴 네트워크를 강건하게 만들기 위해 훈련할 때,它们이 같은 일을 시작한다는 것을 발견했습니다,” 존스는 말했다.

이번이 처음이 아니라는 것은 전문가들이 뉴럴 네트워크의 완벽한 아키텍처를 찾으려고 시도했다는 것입니다. 그러나 새로운 발견은 적대적 훈련이 갭을 크게 줄인다는 것을 보여줍니다. 이는 인공 지능 연구 커뮤니티가 더 많은 새로운 아키텍처를 탐索할 필요가 없을 수 있다는 것을 의미합니다. 왜냐하면 적대적 훈련이 다양한 아키텍처를 유사한 솔루션으로 수렴시키기 때문입니다.

“우리는 강건한 뉴럴 네트워크가 서로 비슷하다는 것을 발견했을 때, 우리는 강건한 인공 지능이 실제로 어떻게 작동하는지 이해하기가 더 쉬워졌습니다,” 존스는 말했다. “우리는 인간과 다른 동물에서 지각이 어떻게 발생하는지에 대한 힌트를 발견할 수도 있습니다.”