‘딥페이크’는 곧 지리학 분야에 침투할 수 있다

딥페이크에 대한 우려는 지리정보과학(GIS)와 같은 다른 분야로 확장되기 시작하고 있다. 빙엄턴 대학교의 연구자들은 이 잠재적인 문제를 해결하기 위해 노력하고 있다.

연구팀은 지리학 부교수인 Chengbin Deng와 워싱턴 대학교의 Bo Zhao와 Yifan Sun, 오리건 주립 대학교의 Shaozeng Zhang와 Chunxue Xu 등 4명의 동료들로 구성되어 있다.

새로운 연구는 Cartography and Geographic Information Science에 발표되었으며, “지리학적인 딥페이크? 지리공간 데이터가 인공지능을 만나다”라는 제목을 가지고 있다.

연구에서 팀은 허위 위성 이미지를 생성하고 검출하는 방법을 탐구하였다.

“정말로 우리는 이 잠재적인 문제를 처음으로 인식한 것일 것이다.”라고 Deng는 말했다.

지리정보과학(GIS)와 지오인공지능(GeoAI)

지리정보과학(GIS)은 국가 방위와 자율 주행 자동차와 같은 다양한 응용 분야에서 사용된다. 지오인공지능(GeoAI)의 개발을 통해 인공지능 기술이 이 분야에 영향을 미치고 있다.

지오인공지능(GeoAI)은 기계 학습을 사용하여 지리공간 데이터를 추출하고 분석한다. 그러나 지오인공지능(GeoAI)은 또한 GPS 신호를 위조하거나, 소셜 미디어의 위치 정보를 조작하거나, 지리적 환경의 사진을 위조하거나, 다른 많은 위험한 응용 분야에서 사용될 수 있다.

“우리는 모든 것을 윤리적으로 일치시켜야 한다. 그러나同時에 우리는 연구자로서도 위조된 이미지들을 식별하고 차별화하는 방법을 찾아야 한다.”라고 Deng는 말했다. “많은 데이터 세트로 인해 이러한 이미지들은 인간의 눈으로 보아도 실제처럼 보인다.”

가짜 이미지 생성

인공적으로 생성된 이미지를 검출하는 첫 번째 단계는 가짜 이미지를 생성하는 것이다. 따라서 팀은 사이클 일관성 적대적 네트워크(Cycle-Consistent Adversarial Networks, CycleGAN)라는 기술을 사용하였다. CycleGAN은 비지도 深학습 알고리즘이며 합성 미디어를 시뮬레이션할 수 있다.

생성 적대 네트워크(Generative Adversarial Networks, GAN)는 특정 콘텐츠를 생성하기 위해 훈련 샘플이 필요하다. 예를 들어, GAN은 빈 지도의 일부를 채우기 위해 다양한 가능성을 결정할 수 있다.

연구자들은 워싱턴 주 타코마의 위성 이미지를 변경하고 시애틀과 베이징의 요소를 결합하여 실제처럼 보이도록 하였다. 그러나 연구자들은 이러한 작업에 대해 경고한다.

“이것은 기술 자체가 아니라 인간이 기술을 어떻게 사용하는지에 관한 문제이다. 우리는 기술을 악의적인 목적으로 사용하지 말고 좋은 목적으로 사용해야 한다.”라고 Deng는 말했다.

이미지를 생성한 후, 팀은 26개의 다른 이미지 지표를 비교하여 실제와 가짜 이미지 사이에 통계적으로 차이가 있는지 확인하였다. 26개의 지표 중 20개(80%)에서 차이를 발견하였다.

차이점에는 지붕의 색상이 포함되어 있었다. 실제 이미지에서는 색상이 균일하였지만, 합성된 이미지에서는 색상이 불규칙하였다. 팀은 또한 가짜 위성 이미지가 실제 이미지보다 색상이 덜鮮하고 어둡지만, 경계가 더 뚜렷하다는 것을 발견하였다. Deng에 따르면, 이러한 차이점은 가짜 이미지를 생성하기 위해 사용된 입력에 의존하였다.

이 연구는 지리학자들이 다양한 유형의 신경 네트워크를 추적하여 가짜 이미지를 생성하는 방법을 더 잘 이해할 수 있도록 하여, 더 나은 검출을 가능하게 할 수 있는 기초를 마련한다. 팀은 딥페이크를 검출하고 이 분야에서 신뢰할 수 있는 정보를 검증하기 위해 체계적인 방법이 개발되어야 한다고 말한다.

“우리는 모두 진실을 원한다.”라고 Deng는 말했다.