์ธ๊ณต์ง๋ฅ
์ ๋ฌธ๊ฐ “์๋ฒฝํ๊ฒ ์ค์ ์ ์ธ” DeepFakes๋ 6๊ฐ์ ๋ด์ ๋์ฐฉํ ๊ฒ์ด๋ผ๊ณ ๋งํฉ๋๋ค
인상적인데 논란이 있는 DeepFakes, 즉 깊은 신경망에 의해 조작되거나 생성된 이미지와 비디오는 가까운 미래에 더 인상적이고 더 논란이 될 가능성이 있습니다. 남가주 대학교의 Vision and Graphics Lab의 디렉터인 Hao Li에 따르면, Li는 컴퓨터 비전과 DeepFakes 전문가이며, 최근 CNBC와의 인터뷰에서 “완벽하게 실제적인” DeepFakes는 반년 내에 도착할 가능성이 있다고 말했습니다.
Li는 대부분의 DeepFakes는 여전히 실제 눈으로 보아도 가짜로 식별할 수 있으며, 더 설득력 있는 DeepFakes도 실제적으로 보이기 위해 제작자의 상당한 노력이 필요하다고 설명했습니다. 그러나 Li는 6개월 내에 알고리즘이 더 정교해짐에 따라 완벽하게 실제적인 DeepFakes가 나타날 것이라고 확신합니다.
Li는 처음에 매우 설득력 있는 DeepFakes가 보다 일반적으로 될 때까지 2년에서 3년이 걸릴 것으로 예상했으며, 이는 매사추세츠 공과 대학에서 개최한 최근 컨퍼런스에서 예측했습니다. 그러나 Li는 최근 중국 앱 Zao와 DeepFakes 기술에 관한 최근 개발을 계기로 그의 타임라인을 수정했습니다. Li는 CNBC에 설명했습니다 bahwa 실제적인 DeepFakes를 생성하는 데 필요한 방법은 현재 사용 중인 방법과 거의 동일하며, 실제적인 DeepFakes를 생성하는 주요 성분은 더 많은 훈련 데이터입니다.
Li와 그의 연구원들은 매우 설득력 있는 DeepFakes의 도착을 예상하면서 DeepFake 감지 기술에 열심히 작업하고 있습니다. Li와 그의 동료们, chẳng hạn như Hany Farid from the University of California Berkely,는 상태-of-the-art DeepFake 알고리즘을 실험하여 이들을 생성하는 기술이 어떻게 작동하는지 이해하기 위해 노력했습니다.
Li는 CNBC에 다음과 같이 설명했습니다:
“만약 당신이 DeepFakes를 감지할 수 있으려면, 당신은 또한 그 한계를 보아야 합니다. 만약 당신이 매우 실제적인 것을 감지할 수 있는 AI 프레임워크를 구축해야 한다면, 그것들은 이러한 유형의 기술을 사용하여 훈련되어야 합니다. 그래서 어떤 방식으로든, 그것들을 알지 못한다면 그것들을 감지할 수 없습니다.”
Li와 그의 동료们은 기술이 초래하는 잠재적인 문제와 위험을 인정하면서 DeepFakes를 감지하는 도구를 생성하는 데 투자하고 있습니다. Li와 그의 동료们은 DeepFakes의 가능한 영향에 대해 우려하는 AI 연구자들 중 하나의 그룹만이 아닙니다.
최근에 Facebook MIT, Microsoft 및 옥스포드 대학교와 함께 DeepFake Detection Challenge를 시작했습니다. 이는 이미지 또는 비디오가 변경되었는지 감지할 수 있는 도구를 생성하는 것을 목표로 합니다. 이러한 도구는 오픈 소스이며 회사, 미디어 기관 및 정부에서 사용할 수 있습니다. 한편, 남가주 대학교의 정보 과학 연구소의 연구자들은 약 96%의 정확도로 가짜 비디오를 구별할 수 있는 일련의 알고리즘을 최근에 생성했습니다.
그러나 Li는 DeepFakes의 문제는 기술 자체가 아니라 기술이 악용될 수 있는 방식이라고 설명했습니다. Li는 엔터테인먼트 및 패션 산업을 포함한 DeepFake 기술의 몇 가지 합법적인 사용 가능한 경우를 언급했습니다.
DeepFake 기술은 또한 사람들의 얼굴이 가려진 이미지에서 얼굴 표정을 복제하는 데 사용되었습니다. 연구자들은 생성적 적대 네트워크를 사용하여 원본 이미지의 주체와 동일한 표정을 가진 완전히 새로운 얼굴을 생성했습니다. 노르웨이 과학 기술 대학교에서 개발된 기술은 민감한 사람들, 즉 고발자와 같은 사람들의 인터뷰 중에 얼굴 표정을 렌더링하는 데 도움이 될 수 있습니다. 누군가가 匿名으로 필요한 사람의 대리인으로 얼굴을 사용할 수 있지만, 사람의 얼굴 표정은 여전히 읽을 수 있습니다.
DeepFake 기술의 정교함이 증가함에 따라, DeepFakes의 합법적인 사용 사례도 증가할 것입니다. 그러나 위험도 증가할 것입니다. 이러한 이유로, Li와 다른 사람들에 의해 수행되는 DeepFakes 감지 작업은 더욱 중요해집니다.
