딥페이크는 무엇인가?

딥페이크가 더 쉽게 만들고 더 많이 사용됨에 따라, 더 많은 관심이 집중되고 있다. 딥페이크는 AI 윤리, 잘못된 정보, 정보의 공개성과 인터넷, 그리고 규제와 관련된 논의의 중심이 되었다. 딥페이크에 대해 알고 있고 딥페이크가 무엇인지 직관적으로 이해하는 것이 중요하다. 이 기사는 딥페이크의 정의를 명확히 하고, 그 사용 사례를 조사하고, 딥페이크를 어떻게 감지할 수 있는지 обс论하고, 딥페이크가 사회에 미치는 영향을 조사할 것이다.

딥페이크는 무엇인가?

딥페이크에 대해 더 자세히 논의하기 전에, 어떤 것이 “딥페이크”인지에 대해 시간을 들여 명확히 하는 것이 도움이 될 것이다. 딥페이크라는 용어에 대한 많은 혼란이 존재하며, 종종 이 용어가 실제 딥페이크인지 여부에 관계없이 모든 가짜 미디어에 잘못 적용된다. 딥페이크로 자격을 얻으려면, 가짜 미디어는 반드시 기계 학습 시스템, 즉 딥 뉴럴 네트워크를 사용하여 생성되어야 한다.
딥페이크의 핵심 성분은 기계 학습이다. 기계 학습은 컴퓨터가 비디오와 오디오를 자동으로 빠르고 쉽게 생성할 수 있도록 했다. 딥 뉴럴 네트워크는 실제 사람의 영상을 학습하여 네트워크가 대상 환경 조건에서 사람들의 외모와 움직임을 학습할 수 있도록 한다. 학습된 네트워크는 затем 다른 사람의 이미지에 적용되고 추가 컴퓨터 그래픽스 기술과 결합하여 새로운 사람을 원래 영사와 결합한다. 인코더 알고리즘은 원래 얼굴과 대상 얼굴 사이의 유사성을 결정한다. 한 번 얼굴의 공통 특징이 분리되면, 두 번째 AI 알고리즘인 디코더가 사용된다. 디코더는 인코딩된(압축된) 이미지들을 조사하고 원래 이미지의 특징에 따라 재구성한다. 두 개의 디코더가 사용되는데, 하나는 원래 주체의 얼굴에 있고 다른 하나는 대상 사람의 얼굴에 있다. 교체를 위해, 사람 X의 얼굴에 대한 디코더가 사람 Y의 이미지에 공급된다. 그 결과, 사람 Y의 얼굴이 사람 X의 얼굴 표정과 방향으로 재구성된다.
현재, 딥페이크를 만들기 위해서는 여전히 상당한 시간이 걸린다. 가짜를 만든 사람은 모델의 매개 변수를 수동으로 조정해야 하는데, 최적화되지 않은 매개 변수는 가짜의 진정한 성질을 나타내는 현저한 결함과 이미지 글리치로 이어진다.
종종 대부분의 딥페이크가 생성적 적대적 네트워크(GAN)라는 유형의 뉴럴 네트워크를 사용하여 만들어진다고 가정하지만, 현재 만들어지는 많은(아마도 대부분의) 딥페이크는 GAN을 사용하지 않는다. GAN은 초기 딥페이크의 생성에서 중요한 역할을 했지만, SUNY 버펄로의 Siwei Lyu에 따르면, 대부분의 딥페이크 비디오는 대체 방법을 통해 생성된다.
GAN을 학습시키기 위해서는大量의 훈련 데이터가 필요하며, GAN은 다른 이미지 생성 기술보다 이미지 렌더링에 훨씬 더 오래 걸린다. 또한 GAN은 정적 이미지보다 비디오를 생성하는 데 더 적합하지 않으며, GAN은 프레임 간 일관성을 유지하는 데 어려움을 겪는다. 인코더와 여러 디코더를 사용하여 딥페이크를 생성하는 것이 훨씬 더 일반적이다.

딥페이크는 무엇을 위해 사용되는가?

인터넷에서 발견되는 많은 딥페이크는 음란물이다. AI 회사인 Deeptrace의 연구에 따르면, 2019년 9월에 약 15,000개의 딥페이크 비디오 샘플 중 약 95%가 음란물이었다. 이 사실의 문제는 기술이 사용하기 쉬워짐에 따라 가짜 복수 음란물의 사건이 증가할 수 있다.
그러나 모든 딥페이크가 음란물은 아니다. 딥페이크 기술에는 더 합법적인 사용법이 있다. 오디오 딥페이크 기술은 질병이나 부상으로เสียง이 손상되거나 손실된 사람들에게 정상적인 목소리를 방송할 수 있도록 도와줄 수 있다. 딥페이크는 민감하고 잠재적으로 위험한 상황에 있는 사람들의 얼굴을 가리면서도 입과 표정을 읽을 수 있도록 할 수 있다. 딥페이크 기술은 외국어 영화의 더빙을 개선하고, 오래된 손상된 미디어를 복원하고,甚至 새로운 예술 스타일을 생성하는 데 사용될 수 있다.

비디오가 아닌 딥페이크

대부분의 사람들이 “딥페이크”라는 용어를 들었을 때 가짜 비디오를 생각하지만, 가짜 비디오는 딥페이크 기술로 생성되는 유일한 종류의 가짜 미디어는 아니다. 딥페이크 기술은 사진과 오디오 가짜도 생성한다. 이전에 언급했듯이, GAN은 가짜 이미지를 생성하는 데 자주 사용된다. LinkedIn과 Facebook의 가짜 프로필이 딥페이크 알고리즘으로 생성된 프로필 이미지로 생각된다.
오디오 딥페이크도 생성할 수 있다. 딥 뉴럴 네트워크는 다른 사람들의 목소리 클론/보이스 스킨을 생성하기 위해 훈련된다. 오디오 딥페이크의 유명한 예는 AI 회사 Dessa가 AI 모델을 사용하여 포드캐스트 호스트 Joe Rogan의 목소리를 재현한 경우이다.

딥페이크를 어떻게 감지할 수 있는가?

딥페이크가 더 발전함에 따라, 실제 미디어와의 차이를 구분하는 것이 더 어려워질 것이다. 현재, 사람들은 가짜 비디오인지 확인하기 위해 몇 가지 명백한 징후를 찾을 수 있다. 예를 들어, 입과 губ의 동기화가不好하거나, 움직임이 자연스럽지 않거나, 얼굴 주변에 깜빡거림이 있거나, 머리카락, 이, 또는 반사와 같은 세부 사항이 왜곡되는 경우가 있다. 다른 잠재적인 딥페이크의 징후로는 비디오의 다른 부분에서 낮은 품질이나 눈 깜빡임의 불규칙성이 있다.
이러한 징후는 현재 딥페이크를 감지하는 데 도움이 될 수 있지만, 딥페이크 기술이 발전함에 따라, 딥페이크를 감지하는唯一한 방법은 가짜 미디어와 실제 미디어를 구분하는 다른 유형의 AI일 수 있다.
인공 지능 회사,包括 많은 대형 기술 회사,는 딥페이크를 감지하는 방법을 연구하고 있다. 지난 12월, 세 개의 기술 거인(아마존, 페이스북, 마이크로소프트)이 지원하는 딥페이크 감지 챌린지가 시작되었다. 전 세계의 연구 팀이 딥페이크를 감지하는 방법을 개발하기 위해 경쟁했다. 다른 연구자 그룹, 예를 들어 Google과 Jigsaw의 공동 연구자들은, 가짜 영상을 감지할 수 있는 “얼굴 포렌식”을 개발하고 있다. 데이터셋을 공개하고 다른 사람들에게 딥페이크 감지 방법을 개발하도록鼓励하고 있다. 앞서 언급한 Dessa는 딥페이크 감지 기술을 개선하기 위해 노력하고 있으며, 감지 모델이 인터넷에서 발견되는 딥페이크 비디오에서 작동하도록 하기 위해 노력하고 있다.
딥페이크의 확산에 대처하기 위한 다른 전략도 조사되고 있다. 예를 들어, 비디오를 다른 정보源과 일치시키는 것을 확인하는 것이 하나의 전략이다. 다른 각도에서 촬영된 비디오 또는 비디오의 배경 세부 사항(예: 날씨 패턴 및 위치)을 확인하여 불일치를 확인할 수 있다. 또한 블록체인 온라인 원장 시스템을 사용하여 비디오를最初에 생성될 때 등록하여 원래 오디오와 이미지를 보관할 수 있다.这样하면 파생된 비디오가 언제든지 조작을 위해 확인할 수 있다.
궁극적으로, 딥페이크를 감지하는 신뢰할 수 있는 방법이 개발되고 이러한 감지 방법이 최신의 딥페이크 기술과 함께 발전하는 것이 중요하다. 딥페이크의 영향이 정확히 무엇인지 알 수는 없지만, 딥페이크(및 기타 가짜 미디어)를 감지하는 신뢰할 수 있는 방법이 없다면, 잘못된 정보가 퍼져서 사회와 기관에 대한 사람들의 신뢰를 손상시킬 수 있다.

딥페이크의 영향

딥페이크를 제어하지 않고 퍼지게 하는 것이 어떤 위험을 초래하는가?
딥페이크가 현재 만들어내는 가장 큰 문제 중 하나는 음란물이다. AI 윤리학자들은 딥페이크가 가짜 복수 음란물을 생성하는 데 더 많이 사용될 수 있다고 우려한다. 그 외에도 딥페이크는 거의 누구에게나 괴롭힘과 명예 훼손을 가할 수 있다. 딥페이크는 사람들이 논란의 여지가 있는 상황에 놓이도록 할 수 있다.
회사와 사이버 보안 전문가들은 딥페이크를 사용하여 사기, 사기, 및 협박을 조장하는 것을 우려한다. 가짜 오디오가 사기꾼이 회사 직원에게 돈을 이체하도록 설득하는 데 사용된 것으로 알려졌다.
딥페이크가 위에 열거된 것 이상의 유해한 영향을 미칠 가능성이 있다. 딥페이크는 일반적으로 미디어에 대한 사람들의 신뢰를 손상시키고, 사람들에게 실제 뉴스와 가짜 뉴스를 구분하는 것이 어려워질 수 있다. 인터넷에 많은 비디오가 가짜라면, 정부, 회사, 및 기타 단체가 합법적인 논란과 비윤리적인 관행에 대한 의문을 제기하는 것이 더 쉬워질 수 있다.
민주주의의 운영에 대해, 딥페이크는 민주주의에 위협을 가할 수 있다. 민주주의는 시민들이 정치인에 대한 신뢰할 수 있는 정보에 따라 결정할 수 있도록 요구한다. 잘못된 정보는 민주주의 과정을 손상시킨다. 예를 들어, 가봉의 대통령 Ali Bongo는 건강 상태가 좋지 않아 오랜 시간 동안 보이지 않다가突然으로 가짜 비디오에 나타나 쿠데타를 일으켰다. 도날드 트럼프 대통령은 자신이 여성의 성기 را 잡는다는 내용의 오디오 녹음을 가짜라고 주장했지만,同時에 “락커룸 토크”라고도 말했다. 앤드류 왕자는 Emily Maitilis의 변호사가 제공한 이미지가 가짜라고 주장했지만, 변호사는 그 이미지의 진실성을 주장했다.
궁극적으로, 딥페이크 기술에는 합법적인 사용법이 있지만, 그 기술의 오남용으로 인해 많은 잠재적인 위험들이 있다. 따라서 미디어의 진위를 확인하는 방법을 개발하고 유지하는 것이 매우 중요하다.