AI 모델 및 플랫폼
전문가 “완벽하게 실제적인” DeepFakes는 6개월 내에 나타날 것이라고 말합니다
Unite.AI를 Google의 선호 소스에 추가
인상적인데 논란의 여지가 있는 DeepFakes, 즉 깊은 신경망에 의해 조작되거나 생성된 이미지와 비디오는 가까운 미래에 더욱 인상적이고 논란의 여지가 될 가능성이 높습니다. 남가주 대학교의 Vision and Graphics Lab의 디렉터인 Hao Li는 컴퓨터 비전과 DeepFakes 전문가입니다. 그는 최근 CNBC와의 인터뷰에서 “완벽하게 실제적인” DeepFakes는 반년 내에 도착할 것이라고 말했습니다.
Li는 대부분의 DeepFakes는 아직 실제 눈으로 볼 때 가짜로 식별될 수 있으며, 더욱 설득력 있는 DeepFakes는 제작자가 실제적으로 보이게 하기 위해 상당한 노력을 기울여야 한다고 설명했습니다. 그러나 Li는 6개월 내에 완벽하게 실제적인 DeepFakes가 나타날 것이라고 믿고 있습니다. 알고리즘이 더욱 정교해지면서 이러한 기술이 발전할 것입니다.
Li는 처음에 극적으로 설득력 있는 DeepFakes가 2년에서 3년 사이에 더 일반적으로 나타날 것이라고 예상했습니다. 그는 최근 매사추세츠 공과대학교에서 개최된 회의에서 이러한 예상을 했습니다. 그러나 Li는 최근 중국 앱 Zao와 DeepFakes 기술에 관한 최근 개발을 계기로 그의 타임라인을 수정했습니다. Li는 CNBC와의 인터뷰에서 실제적인 DeepFakes를 생성하는 데 필요한 방법은 현재 사용 중인 방법과 거의 동일하다고 설명했습니다. 실제적인 DeepFakes를 생성하는 데 필요한 주요 재료는 더 많은 훈련 데이터입니다.
Li와 그의 연구진은 극적으로 설득력 있는 DeepFakes의 도착을 예상하면서 DeepFake 감지 기술에 열심히 일해왔습니다. Li와 그의 동료们, 예를 들어 캘리포니아 버클리 대학교의 Hany Farid,는 최신 DeepFake 알고리즘을 실험하여 이러한 기술이 어떻게 작동하는지 이해했습니다.
Li는 CNBC와의 인터뷰에서 다음과 같이 말했습니다:
“DeepFakes를 감지하려면 그 한계를 보아야 합니다. 극적으로 실제적인 것을 감지할 수 있는 AI 프레임워크를 구축하려면 이러한 기술을 사용하여 훈련해야 합니다. 따라서 이러한 기술을 알지 못한다면 감지할 수 없습니다.”
Li와 그의 동료들은 DeepFakes 기술이 가지는 잠재적인 문제와 위험을 인식하면서 DeepFakes를 감지하는 도구를 생성하고 있습니다. Li와 그의 동료들은 DeepFakes의 가능한 영향에 대해 우려하는 AI 연구자들의 단 하나의 그룹이 아닙니다.
최근에 Facebook은 MIT, Microsoft (MSFT ), 옥스포드 대학교와 함께 DeepFake Detection Challenge를 시작했습니다. 이 도전은 이미지나 비디오가 변경되었는지 감지할 수 있는 도구를 생성하는 것을 목표로 합니다. 이러한 도구는 오픈 소스이며 기업, 미디어 기관, 정부에서 사용할 수 있습니다. 한편, 남가주 대학교의 Information Sciences Institute의 연구자들은 약 96%의 정확도로 가짜 비디오를 구별할 수 있는 알고리즘을 생성했습니다.
그러나 Li는 DeepFakes의 문제는 기술 자체가 아니라 기술을 잘못 사용하는 것이라고 설명했습니다. Li는 DeepFake 기술의 합법적인 사용 가능성을 언급했습니다. 예를 들어 엔터테인먼트와 패션 산업에서 이러한 기술을 사용할 수 있습니다.
DeepFake 기술은 또한 사람들의 얼굴을 가린 이미지에서 얼굴 표정을 복제하는 데 사용되었습니다. 연구자들은 생성적 적대 신경망을 사용하여 원본 이미지의 주제와 동일한 표정을 가진 완전히 새로운 얼굴을 생성했습니다. 노르웨이 과학 기술 대학교에서 개발된 이러한 기술은 민감한 사람들, 예를 들어 내부 고발자와의 인터뷰에서 얼굴 표정을 읽을 수 있도록 도와줄 수 있습니다. 누군가는 자신의 얼굴을 대신 사용할 수 있지만 그 사람의 얼굴 표정은 여전히 읽을 수 있습니다.
DeepFake 기술의 정교함이 증가함에 따라 DeepFakes의 합법적인 사용 사례도 증가할 것입니다. 그러나 위험도 증가할 것입니다. 이러한 이유로 Li와 다른 사람들이 수행하는 DeepFakes 감지 작업은 더욱 중요해집니다.
