전문가는 "완벽한 진짜" DeepFakes가 6개월 안에 여기에 있을 것이라고 말합니다.

인상적이기는 하지만 논란의 여지가 있는 DeepFakes, 즉 심층 신경망에 의해 조작되거나 생성된 이미지와 비디오는 가까운 미래에 더욱 인상적이고 논란의 여지가 더 커질 가능성이 있다고 University of Southern University의 비전 및 그래픽 연구소 소장인 Hao Li가 말했습니다. 캘리포니아. Li는 컴퓨터 비전 및 DeepFakes 전문가입니다. 최근 CNBC와의 인터뷰에서 그는 "완전히 진짜"인 Deepfakes가 반년 이내에 도착할 것 같다고 말했습니다.

Li는 대부분의 DeepFakes가 실제 눈에는 여전히 가짜로 인식될 수 있으며 더 설득력 있는 DeepFakes조차도 사실적으로 보이도록 제작자 측에서 상당한 노력이 필요하다고 설명했습니다. 그러나 Li는 알고리즘이 더욱 정교해짐에 따라 XNUMX개월 이내에 완전히 실제처럼 보이는 DeepFakes가 나타날 가능성이 있다고 확신합니다.

Li는 처음에 DeepFakes가 보다 보편화되려면 XNUMX~XNUMX년이 걸릴 것이라고 생각했으며 최근 Massachusetts Institute of Technology에서 주최한 회의에서 그러한 예측을 내놓았습니다. 그러나 Li는 최근 중국 앱 Zao 및 DeepFakes 기술과 관련된 기타 최근 개발 내용이 공개된 후 타임라인을 수정했습니다. 리 CNBC에 설명 사실적인 DeepFakes를 만드는 데 필요한 방법은 현재 사용 중인 방법과 비슷하며 사실적인 DeepFakes를 만드는 주요 요소는 더 많은 교육 데이터입니다.

Li와 그의 동료 연구원들은 매우 설득력 있는 DeepFakes의 도래를 예상하면서 DeepFake 탐지 기술에 대해 열심히 연구해 왔습니다. Li와 University fo California Berkely의 Hany Farid와 같은 그의 동료들은 최첨단 DeepFake 알고리즘을 실험하여 이를 생성하는 기술이 작동하는 방식을 이해했습니다.

리는 CNBC에 다음과 같이 설명했습니다.

“딥페이크를 감지하려면 한계가 무엇인지도 확인해야 합니다. 매우 실제적인 것을 감지할 수 있는 AI 프레임워크를 구축해야 하는 경우 이러한 유형의 기술을 사용하여 교육을 받아야 하므로 어떤 면에서는 작동 방식을 모르면 감지하는 것이 불가능합니다.”

Li와 그의 동료들은 기술이 제기하는 잠재적인 문제와 위험을 인식하여 DeepFakes를 탐지하는 도구를 만드는 데 투자하고 있습니다. Li와 동료들은 DeepFakes의 가능한 영향에 대해 우려하고 이에 대한 대책을 만드는 데 관심이 있는 유일한 AI 연구자 그룹과는 거리가 멀다.

최근 페이스북 공동 파트너십을 시작했습니다 MIT, Microsoft 및 옥스퍼드 대학과 함께 DeepFake Detection Challenge를 만들었습니다. DeepFake Detection Challenge는 이미지나 동영상이 변경된 시점을 감지하는 데 사용할 수 있는 도구를 만드는 것을 목표로 합니다. 이러한 도구는 오픈 소스이며 회사, 미디어 조직 및 정부에서 사용할 수 있습니다. 한편 서던캘리포니아대학교 정보과학연구소 연구원들은 최근 약 96%의 정확도로 가짜 동영상을 구별할 수 있는 일련의 알고리즘을 만들었다.

그러나 Li는 또한 DeepFakes의 문제는 기술 자체가 아니라 오용될 수 있는 방식이라고 설명했습니다. Li는 엔터테인먼트 및 패션 산업을 포함하여 DeepFake 기술에 대한 몇 가지 합법적인 사용 가능성을 언급했습니다.

DeepFake 기술도 사용되었습니다. 표정을 재현하다 이미지에 얼굴이 가려진 사람들. 연구원들은 Generative Adnversail Networks를 사용하여 원본 이미지에서 피사체와 동일한 표정을 가진 완전히 새로운 얼굴을 만들었습니다. 노르웨이 과학 기술 대학에서 개발한 기술은 내부 고발자와 같이 프라이버시가 필요한 민감한 사람들과의 인터뷰에서 얼굴 표정을 렌더링하는 데 도움이 될 수 있습니다. 다른 사람은 자신의 얼굴을 익명이 필요한 사람의 대리로 사용할 수 있지만 그 사람의 표정은 여전히 ​​읽을 수 있습니다.

Deepfake 기술의 정교함이 증가함에 따라 Deepfakes의 합법적 사용 사례도 증가할 것입니다. 그러나 위험도 증가할 것이며 이러한 이유로 Li와 다른 사람들이 수행한 DeepFake 탐지 작업이 더욱 중요해집니다.