์ธ๊ณต์ง๋ฅ
์ฐ๊ตฌ์๋ค์ AI๊ฐ ์ฌ๋๋ค์ ํ๋ผ์ด๋ฒ์๋ฅผ ๋ณดํธํ๋ ๋ฐ ์ฌ์ฉ๋ ์ ์๋ค๊ณ ๋ฏฟ๋๋ค
정보 과학을 가르치는 두 명의 교수는 최근 The Conversation에 기사를 발표하여 AI가 사람들의 프라이버시를 보존하는 데 도움이 될 수 있다고 주장했다. 즉, AI는 자체적으로 생성한 일부 문제를 해결하는 데 사용될 수 있다.
Zhiyuan Chen과 Aryya Gangopadhyay는 인공 지능 알고리즘이 사람들의 프라이버시를 방어하는 데 사용될 수 있다고 주장한다. 즉, AI의 다른 용도로 인해 생성된 많은 프라이버시 문제를 상쇄하는 데 사용될 수 있다. Chen과 Gangopadhyay는 우리가 편의를 위해 사용하는 많은 AI 기반 제품이大量의 데이터에 접근하지 않으면 작동하지 않는다는 것을 인정한다. 이는 처음에는 프라이버시를 보존하려는 시도와 모순되는 것으로 보인다. 또한, AI가 더 많은 산업과 응용 프로그램으로 확장됨에 따라 더 많은 데이터가 수집되고 데이터베이스에 저장되므로 이러한 데이터베이스의 보안 위반이 유혹적으로 될 수 있다. 그러나 Chen과 Gangopadhyay는 AI를 올바르게 사용하면 이러한 문제를 완화하는 데 도움이 될 수 있다고 믿는다.
Chen과 Gangopadhyay는 포스트에서 AI와 관련된 프라이버시 위험이 적어도 두 가지 다른 출처에서 발생한다고 설명한다. 첫 번째 출처는 신경망 모델을 훈련하기 위해 수집된大量의 데이터 세트이며, 두 번째 프라이버시 위협은 모델 자체이다. 이러한 모델에서 데이터가 “누출”될 수 있으며, 모델의 동작이 모델을 훈련하기 위해 사용된 데이터에 대한 세부 정보를 보여줄 수 있다.
딥 뉴럴 네트워크는 여러 개의 뉴런 레이어로 구성되며, 각 레이어는 주변 레이어에 연결된다. 개별 뉴런 및 뉴런 간의 연결은 훈련 데이터의 다른 비트를 인코딩한다. 모델은 훈련 데이터의 패턴을 기억하는 데 너무 좋을 수 있으며, 모델이 과적합되지 않더라도如此이다. 네트워크 내에 훈련 데이터의 흔적이 존재하며, 악의적인 행위자는 훈련 데이터의 일부를 알아낼 수 있다. 코넬 대학교의 연구에서 이러한 사실을 발견했다. 코넬 연구진은 얼굴 인식 알고리즘이 공격자에 의해 모델을 훈련하기 위해 사용된 이미지, 즉 얼굴 인식 모델을 훈련하기 위해 사용된 사람들을 드러내는 데 악용될 수 있다는 것을 발견했다. 코넬 연구진은 공격자가 원래 모델에 접근하지 못하더라도 공격자가 네트워크를 프로빙하여 특정人が 훈련 데이터에 포함되었는지 여부를 결정할 수 있다는 것을 발견했다. 이는 모델이 매우 유사한 데이터로 훈련된 경우에 가능하다.
일부 AI 모델은 현재 데이터 침해를 보호하고 사람들의 프라이버시를 보장하기 위해 사용되고 있다. AI 모델은 해커가 보안 방법을 침투하기 위해 사용하는 행동 패턴을 인식하여 해킹 시도를 감지하는 데 자주 사용된다. 그러나 해커는 패턴을 감지하는 AI를 속이기 위해 종종 행동을 변경한다.
새로운 AI 훈련 및 개발 방법은 AI 모델과 응용 프로그램이 해킹 방법 및 보안 회피 전략에 취약하지 않도록 하는 것을 목표로 한다. 적대적 학습은 악의적이거나 유해한 입력의 시뮬레이션에 AI 모델을 훈련시켜 모델을 악용에 더 강력하게 만드는 것을 시도한다. 따라서 “적대적”이라는 용어가 이름에 사용된다. Chen과 Gangopadhyay에 따르면, 그들의 연구는 사람들의 사적인 정보를 훔치기 위한 악성 코드와 맞서기 위한 방법을 발견했다. 두 연구자는 모델에 불확실성을 도입하는 것이 악성 코드에 가장 효과적으로 저항하는 방법 중 하나였다고 설명했다. 목표는 악의적인 행위자가 모델이 특정 입력에 반응하는 방식을 예측하기 더 어려운 모델을 만드는 것이다.
AI를 사용하여 프라이버시를 보호하는 다른 방법에는 모델을 생성하고 훈련할 때 데이터 노출을 최소화하는 것이 포함된다. 또한 네트워크의 취약성을 발견하기 위해 프로빙을 사용할 수 있다. 데이터 프라이버시를 보존할 때, 연합 학습은 민감한 데이터의 프라이버시를 보호하는 데 도움이 될 수 있다. 이는 모델을 훈련하는 데 사용되는 데이터가 로컬 장치에서 कभ이라도 떠나지 않기 때문이다. 따라서 데이터와 모델의 많은 매개 변수가 감청으로부터 격리된다.
궁극적으로, Chen과 Gangopadhyay는 AI의 보급이 사람들의 프라이버시에 새로운 위협을 창조했지만, AI는 신중하게 설계되고 고려될 때 프라이버시를 보호하는 데 도움이 될 수 있다고 주장한다.
