딥페이크는 무엇인가?

딥페이크가 더 쉽게 만들어지고 더 많이 사용됨에 따라, 더 많은 주목을 받고 있다. 딥페이크는 AI 윤리, 잘못된 정보, 정보의 개방성과 인터넷, 그리고 규제와 관련된 논의의 중심이 되었다. 딥페이크에 대해 잘 알고, 딥페이크가 무엇인지 직관적으로 이해하는 것이 중요하다. 이 기사는 딥페이크의 정의를 설명하고, 사용 사례를 살펴보고, 딥페이크를 감지하는 방법을 논의하고, 딥페이크가 사회에 미치는 영향을 살펴본다.

딥페이크는 무엇인가?

딥페이크에 대해 더 자세히 논의하기 전에, 먼저 딥페이크가 실제로 무엇인지 정의하는 것이 도움이 될 것이다. 딥페이크라는 용어가 잘못 사용되는 경우가 많으며, 실제 딥페이크가 아닌 가짜 미디어에도 이 용어가 사용되는 경우가 있다. 딥페이크로 인정받기 위해서는, 가짜 미디어가 기계 학습 시스템, 특히 深層 신경망을 사용하여 생성되어야 한다.

딥페이크의 핵심은 기계 학습이다. 기계 학습은 컴퓨터가 자동으로 비디오와 오디오를 상대적으로 빠르고 쉽게 생성할 수 있게 해주었다. 深層 신경망은 실제 사람의 영상을 학습하여 네트워크가 사람의 외모와 동작을 학습할 수 있게 한다. 학습된 네트워크는 다른 사람의 이미지에 적용되고, 컴퓨터 그래픽스 기술을 사용하여 새로운 사람을 원래 영상을 결합한다. 인코더 알고리즘은 원래 얼굴과 대상 얼굴 사이의 유사성을 결정한다. 일단 얼굴의 공통 특징이 분리되면, 디코더 알고리즘이 사용된다. 디코더는 인코딩된 이미지(압축된 이미지)를 재구성하고, 원래 이미지의 특징을 기반으로 재구성한다. 두 개의 디코더가 사용되며, 하나는 원래 주제의 얼굴에 사용되고, 다른 하나는 대상 사람의 얼굴에 사용된다. 교체를 위해, 대상 사람의 얼굴을 원래 사람의 얼굴에 적용한다. 결과는 대상 사람의 얼굴이 원래 사람의 얼굴 표현과 방향으로 재구성되는 것이다.

현재, 딥페이크를 만들기 위해서는 여전히 상당한 시간이 필요하다. 가짜를 만드는 사람은 모델의 매개변수를 수동으로 조정해야 하며, 최적화되지 않은 매개변수는 가짜의 진정한 성격을 나타내는 현시점과 이미지 글리치로 이어진다.

대부분의 딥페이크가 생성적 적대적 신경망(GAN)이라고 가정하지만, 실제로 많은 딥페이크는 GAN을 사용하지 않는다. GAN은 초기 딥페이크의 생성에 중요한 역할을 했지만, 대부분의 딥페이크 비디오는 대체 방법을 통해 생성된다. SUNY 버펄로의 Siwei Lyu에 따르면, GAN을 사용하여 딥페이크를 생성하는 데 필요한 훈련 데이터가 많고, GAN은 다른 이미지 생성 기술보다 이미지 렌더링에 더 오래 걸린다. 또한 GAN은 정적 이미지 생성에 더 적합하다.

딥페이크는 무엇을 위해 사용되는가?

인터넷에서 발견되는 대부분의 딥페이크는 음란물이다. Deeptrace라는 AI 회사에서 수행한 연구에 따르면, 2019년 9월에 수집된 약 15,000개의 딥페이크 비디오 중 약 95%가 음란물이었다. 이는 기술이 더 쉽게 사용됨에 따라 가짜 복수 음란물의 사례가 증가할 수 있다는 것을 의미한다.

그러나 모든 딥페이크가 음란물은 아니다. 딥페이크 기술에는 더 합법적인 용도가 있다. 오디오 딥페이크 기술은 사람들의 정상적인 목소리를 방송할 수 있게 해줄 수 있다. 딥페이크는 사람들의 얼굴을 감추면서도 입과 표정을 읽을 수 있게 해줄 수 있다. 딥페이크 기술은 외국어 영화의 더빙을 개선하고, 오래된 미디어를 수리하고, 새로운 예술 스타일을 생성하는 데 사용될 수 있다.

비디오가 아닌 딥페이크

대부분의 사람들이 딥페이크를 들으면 가짜 비디오를 생각하지만, 가짜 비디오는 딥페이크 기술로 생성되는 유일한 종류의 가짜 미디어가 아니다. 딥페이크 기술은 사진과 오디오 가짜를 생성하는 데 사용된다. GAN은 가짜 이미지를 생성하는 데 자주 사용된다. 딥페이크 알고리즘으로 생성된 프로필 이미지를 가진 가짜 LinkedIn과 Facebook (META ) 프로필이 많을 수 있다.

오디오 딥페이크도 생성할 수 있다. 深層 신경망은 다른 사람들의 목소리 클론/보이스 스킨을 생성하는 데 사용된다. 오디오 딥페이크의 유명한 예는 AI 회사 Dessa가 AI 모델을 사용하여 팟캐스트 호스트 Joe Rogan의 목소리를 재현한 경우이다.

딥페이크를 어떻게 식별하는가?

딥페이크가 더 발전하고 복잡해짐에 따라, 실제 미디어와 구분하기가 더 어려워질 것이다. 현재, 딥페이크를 식별하는 몇 가지 방법이 있다. 가짜 비디오의 경우, 입과 동작의 불일치, 얼굴周りの 깜빡임, 미세한 세부 사항의 왜곡 등이 있다.

이러한 징조는 현재 딥페이크를 식별하는 데 도움이 될 수 있지만, 딥페이크 기술이 발전하면, 딥페이크를 식별하는 유일한 방법은 실제 미디어와 가짜 미디어를 구분하는 데 훈련된 다른 유형의 AI일 수 있다.

인공 지능 회사와 많은 대형 기술 회사들은 딥페이크를 감지하는 방법을 연구하고 있다. 지난 12월, 세 개의 기술巨頭(아마존, 페이스북, 마이크로소프트)이 지원하는 딥페이크 감지 챌린지가 시작되었다. 세계 각지의 연구 팀이 딥페이크를 감지하는 방법을 개발하기 위해 경쟁했다. 다른 연구자들은 구글과 Jigsaw의 연구자들이 함께 작업하여, 가짜 비디오를 감지하는 “얼굴 포렌식”을 개발하고 있다.

딥페이크를 식별하는 또 다른 전략은 정보의 일관성을 확인하는 것이다. 다른 각도에서 촬영된 비디오나 배경 정보를 확인하여 불일치를 찾을 수 있다. 또한, 블록체인 온라인 원장 시스템을 사용하여 비디오를最初에 생성될 때 등록하고, 원래 오디오와 이미지를 보관하여, 파생된 비디오를 항상 조작 여부를 확인할 수 있다.

딥페이크의 영향

딥페이크가 미치는 영향은 무엇인가?

딥페이크가 현재 가장 큰 문제를 일으키는 것은 음란물이다. 딥페이크는 사람들의 얼굴을 음란물과 결합하여 생성할 수 있다. AI 윤리학자들은 딥페이크가 가짜 복수 음란물의 생성에 사용될 수 있다고 우려한다. 또한, 딥페이크는 사람들을 괴롭히고 명성을 손상시키는 데 사용될 수 있다.

회사와 사이버 보안 전문가들은 딥페이크가 사기, 사기, 그리고 강도에 사용될 수 있다고 우려한다. 가짜 오디오가 회사 직원에게 돈을 이전하도록 속이는 데 사용된 경우가 있다.

딥페이크는 더 심각한 영향을 미칠 수 있다. 딥페이크는 사람들이 미디어를 신뢰하지 못하게 만들 수 있다. 가짜 비디오가 많으면, 정부, 회사, 그리고 다른 기관이 합법적인 논쟁과 비윤리적인 관행에 대해 의문을 제기하기 쉽다.

정부의 경우, 딥페이크는 민주주의의 운영에 위협을 가할 수 있다. 민주주의는 시민들이 정치인에 대해 정보를 얻고, 결정할 수 있어야 한다. 잘못된 정보는 민주주의를 약화시킨다. 예를 들어, 가봉의 대통령 Ali Bongo가 가봉 시민들에게 메시지를 전하는 비디오가 나타났다. 대통령은 오랜 시간 동안 병이 있었으며, 그의突然한 등장은 쿠데타를 일으켰다. 도날드 트럼프 대통령은 자신이 여성의 성기について 말하는 오디오 녹음을 가짜라고 주장했다.

최종적으로, 딥페이크 기술에는 합법적인 용도가 있지만, 기술의 오남용으로 인해 많은 문제가 발생할 수 있다. 그러므로, 미디어의 진위를 확인하는 방법을 개발하고 유지하는 것이 매우 중요하다.