연구자들은 AI가 개인의 프라이버시를 보호하는 데 사용될 수 있다고 믿는다

정보 과학 교수인 Zhiyuan Chen과 Aryya Gangopadhyay는 최근 The Conversation에 기고한 글에서 AI가 개인의 프라이버시를 보호하는 데 사용될 수 있다고 주장했다. Chen과 Gangopadhyay는 AI 알고리즘이 개인의 프라이버시를 보호하는 데 사용될 수 있으며, AI의 다른 용도에서 발생하는 많은 프라이버시 문제를 해결하는 데 도움이 될 수 있다고 믿는다.

Chen과 Gangopadhyay는 많은 AI 기반 제품이 사용자에게 편의를 제공하기 위해大量의 데이터에 접근해야 하므로, 처음에는 프라이버시를 보호하는 것과 모순되는 것처럼 보인다고 인정한다. 또한, AI가 더 많은 산업과 애플리케이션에 확산됨에 따라 더 많은 데이터가 수집되고 데이터베이스에 저장되므로, 이러한 데이터베이스의 보안 위협이 증가할 수 있다. 그러나 Chen과 Gangopadhyay는 AI를 올바르게 사용하면 이러한 문제를 완화할 수 있다고 믿는다.

Chen과 Gangopadhyay는 AI와 관련된 프라이버시 위험은至少 두 가지 원천에서 발생한다고 설명한다. 첫 번째 원천은 신경망 모델을 훈련하기 위해 수집된大量의 데이터이며, 두 번째 원천은 모델 자체이다. 데이터는 이러한 모델에서 “누설”될 수 있으며, 모델의 행동은 훈련 데이터에 대한 정보를 제공할 수 있다.

딥 뉴럴 네트워크는 여러 개의 뉴런 레이어로 구성되며, 각 레이어는 주변 레이어에 연결된다. 개별 뉴런과 뉴런 사이의 링크는 훈련 데이터의 다양한 부분을 인코딩한다. 모델은 훈련 데이터의 패턴을 기억하는 데 너무 хорош을 수 있으며, 모델이 과적합되지 않더라도 훈련 데이터의 흔적이 네트워크 내에 남아 있을 수 있다. 악의적인 행위자는 이러한 흔적을 통해 훈련 데이터에 대한 정보를 알아낼 수 있다. 콘넬 대학교의 연구자들은 얼굴 인식 알고리즘이 공격자에 의해 활용되어 훈련에 사용된 이미지와 해당 사람의 정보를 공개할 수 있다고 발견했다.

일부 AI 모델은 현재 데이터 침해를 방지하고 개인의 프라이버시를 보호하는 데 사용되고 있다. AI 모델은 해커가 보안 방법을 침투하기 위해 사용하는 행동 패턴을 인식하여 해킹 시도를 탐지하는 데 자주 사용된다. 그러나 해커는 패턴을 변경하여 패턴을 감지하는 AI를 속이려고 시도한다.

새로운 AI 훈련과 개발 방법은 AI 모델과 애플리케이션이 해킹 방법과 보안 회피 전략에 취약하지 않도록 하는 것을 목표로 한다. 적대적 학습은 악의적인 입력 시뮬레이션에 대한 모델 훈련을 시도하여 모델을 악용에 더 강건하게 만든다. Chen과 Gangopadhyay는 연구를 통해 악의적인 코드를 방지하는 방법을 발견했다고 설명한다. 두 연구자는 모델에 불확실성을 도입하는 것이 가장 효과적인 방법이라고 설명한다. 목표는 악의적인 행위자가 모델이 특정 입력에 반응하는 방식을 예측하기 더 어려워지도록 하는 것이다.

프라이버시를 보호하는 또 다른 방법은 모델을 생성하고 훈련할 때 데이터 노출을 최소화하는 것이다. 또한 네트워크의 취약점을 발견하기 위한 탐색이 포함된다. 데이터 프라이버시를 보호하는 데 있어 분산 학습은 데이터가 로컬 장치에 남아 있는 동안 모델을 훈련할 수 있으므로, 데이터와 모델의 많은 부분을 스파이링으로부터 보호하는 데 도움이 될 수 있다.

최종적으로, Chen과 Gangopadhyay는 AI의 확산이 개인의 프라이버시에 대한 새로운 위협을 생성했지만, AI를 신중하게 설계하고 고려한다면 프라이버시를 보호하는 데 도움이 될 수 있다고 주장한다. 또한, AI를 사용하여 데이터를 로컬 장치에 남겨 두고, 데이터와 모델의 많은 부분을 스파이링으로부터 보호할 수 있다.