Anderson의 관점

유럽과 영국의 딥페이크 규제 제안은 놀라울 정도로 제한적이다

Martin Anderson
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트EU의 딥페이크 규제는 광고를 대상으로 하지만, 비동의 포르노그래피는 전혀 다루지 않는다.
더 보기
  • EU의 딥페이크 규제는 광고를 대상으로 하지만, 비동의 포르노그래피는 전혀 다루지 않는다.
  • 영국 법은 피해자가 제작자로부터 직접 괴롭힘을 당하지 않는 한 딥페이크 포르노를 기소할 수 없다.
  • 캘리포니아와 뉴욕 같은 미국 주들은 딥페이크 포르노를 금지하지만, 대부분의 주에는 여전히 관련 법이 없다.

분석 2022년이 딥페이크 이미지에 더 엄격한 법적 통제가 적용되는 해가 되기를 바라는 활동가들에게 초기 징후는 희망적이지 않다.

지난 목요일 유럽의회는 딥페이크 유포와 관련한 디지털서비스법(수정안 승인; DSA, 2023년 시행 예정)을 통과시켰다. 수정안은 온라인 광고와 직접 관련된 두 부분에서 딥페이크를 다룬다. 하나는 제30조에 관한 수정안 1709이며, 다른 하나는 제63조에 관한 관련 수정안이다.

첫 번째는 딥페이크라는 제목의 새 제30a조를 제안하며, 내용은 다음과 같다.

“초대형 온라인 플랫폼이 어떤 콘텐츠가 생성되거나 조작된 이미지·음성·영상으로서 실제 인물, 사물, 장소, 기타 실체나 사건과 상당히 유사하고, 사람에게 진짜이거나 사실인 것처럼 오인하게 만든다는 점을 알게 되는 경우(딥페이크), 제공자는 해당 콘텐츠가 진짜가 아님을 알리고 서비스 이용자가 명확히 볼 수 있는 방식으로 표시해야 한다.”

두 번째는 대형 광고 플랫폼의 투명성 제고를 주로 다루는 기존 제63조에 문구를 추가한다. 관련 내용은 다음과 같다.

“아울러 초대형 온라인 플랫폼은 딥페이크라고 알려진 영상, 음성 또는 기타 파일을 표시해야 한다.”

사실상 이 법은 홍보나 광고 자료의 얼굴 교체에 대해 허락을 받고 권리도 확보한 ‘정당한 딥페이크’의 확산에 대비하는 것으로 보인다. 러시아 통신사 Telefon이 최근 광고 캠페인에서 브루스 윌리스의 정체성을 허가받아 사용한 사례가 그 예다.

입법을 망설이는 이유

지금까지 DSA는 딥페이크 기술이 가장 흔히 사용되는 방식, 즉 음란 영상의 출연자 얼굴을 바꾸는 행위에 대한 활동가들의 우려를 다루지 않는 듯하다. 또한 영화와 TV에서 앞으로 사용될 딥페이크에 대해, 적어도 EU에서 2023년부터 광고 속 딥페이크에 적용될 방식처럼 시청자에게 고지해야 하는지, 그렇다면 어느 정도인지도 다루지 않는다.

DSA 비준 과정은 이제 EU 회원국과의 협상으로 넘어가며, 더 광범위한 디지털시장법(DMA)도 함께 논의된다.

유로폴의 2020년 12월 보고서 인공지능의 악의적 이용과 남용은 EU가 DeepFaceLive 같은 특정 현행 딥페이크 기술을 겨냥하는 것은 잘못이라고 주장했다. 그러면 EU 법이 최신 프레임워크나 방법을 계속 뒤쫓아야 할 수 있기 때문이다.

보고서는 다음과 같이 밝혔다.

“특히 이러한 정책은 장기적으로 효과를 내고, 딥페이크 생성과 남용의 기반 기술이 발전할 때마다 정기적으로 검토하고 교체할 필요가 없도록 기술 중립적이어야 한다.”

“그렇더라도 이러한 조치는 GAN의 긍정적 활용을 방해하지 않아야 한다.”

위 인용의 생성적 적대 신경망(GAN)에 관한 마지막 문장은, 이미 아시아에 뒤처진다고 인식되는 신흥 AI 연구 부문을 제약할 법 적용을 유럽과 북미가 주저하는 태도를 전반적으로 보여준다. 아시아의 보다 지시적인 국가들은 딥페이크 입법을 신속하게 추진할 수 있었다.

예를 들어 영국 상원 AI 특별위원회의 2018년 보고서는 소극적인 태도가 국내 AI 발전을 가로막도록 두는 위험을 여러 차례 강조한다. 이는 영국의 AI: 준비되어 있고, 의지가 있으며, 역량이 있는가?라는 제목에도 드러난다. 지난해 4월 영국은 고속도로에서 자율주행차 운행을 허용한 첫 국가가 되기도 했다.

미국도 열의가 덜하지 않다. 미국 브루킹스연구소는 AI에 대한 입법을 늘릴 필요성을 촉구하며, 머신러닝 기술의 여파에 관해 ‘기다려 보자’는 태도를 보이는 입법자들을 비판했다.

딥페이크에 관한 정치적 우려가 아닌 사회적 우려에 대응하는 DSA의 미온적인 접근 외에도, 2021년 4월 발표된 EU의 AI 규제체계 제안 역시 이 주제를 회피한다는 이유로 즉각 비판받았다.

영국의 미미한 딥페이크 규제

동의 없이 음란 딥페이크 영상에 등장한 뒤 2021년 새 영국 법률을 위해 적극적으로 운동한 작가 헬렌 모트 같은 반딥페이크 활동가들에게 또 다른 실망이 생겼다. 오늘 영국 의회 디지털·문화·미디어·스포츠위원회가 발표한 보고서는 정부가 딥페이크에 대응하지 못했다고 비판했다. 대상은 온라인안전법 초안이다.

보고서는 초안의 딥페이크 남용에 대한 현행 법적 구제를 ‘불명확하고 비현실적’이라고 평가하며, AI 보조 음란 영상·이미지 조작 기술의 ‘합법적이지만 유해한’ 상태에 제안된 법이 아무런 대응도 하지 않는다고 지적했다.

“[우리는] 정부가 기술적으로 합법인 콘텐츠 유형에 선제적으로 대응할 것을 권고한다. 예를 들어 아동학대 연속물의 은밀한 일부인 단서를 조금씩 남기는 행위(breadcrumbing), 그리고 기술로 여성의 이미지를 ‘벗기기’나 딥페이크 음란물처럼 여성과 소녀에 대한 온라인 폭력이 있다. 이를 기본 법률을 통해 규제 범위에 넣거나 주의의무가 적용되는 유해 콘텐츠 유형으로 포함해야 한다.”

현재 적용되는 영국 법은 ‘실제’ 이미지의 유포에 한정된다. 예를 들면 전 연인이 기밀이며 사적인 노골적 성적 자료를 공개하는 보복성 음란물 사건이다. 가해자가 표적의 정체성을 음란 콘텐츠에 덧씌운 딥페이크 자료를 만들고 공개한다면, 이를 표적에게 직접 보내 괴롭히는 경우나 저작권 관련 법률에 근거하는 경우에만 기소할 수 있다.

첫 번째 경우, 새 딥페이크가 쉽게 관심과 시청자를 모으기 때문에 피해자는 이를 만든 사람보다 걱정하는 친구나 무관한 제삼자에게서 거의 필연적으로 소식을 듣는다. 따라서 자료의 확산이 제작자를 보호하면서도 그 작업은 여전히 ‘표적에 도달’한다.

두 번째 경우, 이후 피해자의 정체성을 덧씌우는 조작되지 않은 제삼자의 음란 영상이 전문적으로 제작되고 영국 저작권법상 정당하게 보호될 때에만 기소가 가능할 것으로 보인다. 적합한 영상은 세계 어느 합법적 관할권에서든 자유롭게 구할 수 있더라도 그렇다. 어느 관할권의 ‘아마추어’ 영상이든 저작권 지위가 명확하지 않다. 제작자가 피해자의 정체성을 덧씌우려고 특별히 촬영한 맞춤 영상은, 다른 법을 준수하는 한, 역설적으로 그 자체가 저작권법의 보호를 받는다.

변화를 뒤따르는 법

2021년 12월 영국 법률위원회는 성별에 근거한 적대감까지 포괄하도록 혐오표현법을 확대하자고 제안했다. 그러나 이 범주에 딥페이크를 포함하자는 제안은 하지 않았다. 특히 인도를 비롯해 전 세계에서 여성 정치인과 여성 활동가를 공격하는 무기로 쓰인 사례가 많았는데도 그랬다. 불법 딥페이크 콘텐츠의 표적은 압도적으로 여성이다. 동기가 모욕, 플랫폼 배제와 권한 박탈 같은 공개적인 사회적 목적이든 단순히 호색적, 즉 음란한 목적이든 마찬가지다.

2021년 3월 일리노이 소재 National Law Review는 영국 법체계를 당시 딥페이크에 대응하기에 ‘완전히 불충분’하다고 비판했으며, 개인의 초상을 보호하는 기본적인 법적 장치마저 없다고 지적했다.

미국의 딥페이크 법률

반면 미국은 시민의 정체성에 대한 상업적 이용을 통제하는 권리인 퍼블리시티권을 어느 정도 보호하지만, 연방 차원은 아니다. 현재 이러한 법률은 미국 주의 약 절반에 존재하며 법적 장치의 차이는 매우 크다.

영국의 딥페이크 입법보다는 낫지만, 미국도 주별로 산발적인 보호만 제공한다. 또한 기술의 정치적 조작 가능성을 먼저 다룬 뒤에야 개인에 대한 영향을 다루려는 듯하다.

2019년 텍사스주는 텍사스 상원 법안 751(금지 조치; SB751)로 정치적 딥페이크 제작·유포를 금지했지만 딥페이크 음란물에 관한 언급은 빠졌다. 같은 해 버지니아주는 개정을 통해 타인 이미지의 불법 유포·판매에 관한 기존 법에 ‘거짓으로 만들어진 영상 또는 정지 이미지’라는 폭넓은 용어를 추가했다.

2020년 캘리포니아주는 캘리포니아 하원 법안 602(AB 602)를 시행해 딥페이크 음란물의 생성·유포를 금지했다. 자동 효력 종료 조항은 없지만 3년의 소멸시효가 있고, 정치적 딥페이크를 다루는 별도 조항이 함께 있다.

2020년 말 뉴욕주는 상원 법안 S5959D를 통과시켰다. 딥페이크 음란물의 생성·재게시를 금지할 뿐 아니라 딥페이크, CGI나 다른 방식으로 컴퓨터가 생성한 초상에 관한 개인의 퍼블리시티권을 적극 보호한다. 사망 시 뉴욕주 거주자였다면 사망 후에도 적용된다.

마지막으로 메릴랜드주는 아동 음란물 관련 법을 개정해 딥페이크 사용을 포함하고 범죄화했지만, 성인 표적에 미치는 영향은 다루지 않았다.

‘DeepfakeGate’를 기다리며

역사는 새로운 기술의 피해가 한 국가에 직접적인 일이 되어야 입법 대응이 빨라진다는 점을 보여준다. 자신의 딥페이크 음란물로 협박받았다는 의혹이 있는 이집트 십대 소녀의 최근 사망은 서방 언론에서 제한적으로 다뤄졌다.* 2021년에 알려진 아랍에미리트의 3,500만 달러 절도 사건도 ‘먼 곳의 사건’이라서 상원을 서두르게 하거나 아직 딥페이크 법이 없는 나머지 45개 주를 자극하기는 어려울 듯하다.

미국이 딥페이크 남용에 더 통일된 대응을 한다면, 광범위한 법률이 통신과 데이터 인프라 및 저장의 관리에 영향을 미쳐 전 세계 사업 파트너에게 빠른 후속 정책 변화를 강제할 수 있다. 유럽의 GDPR 도입이 결국 북미의 데이터 수집·보관 정책으로 옮겨 가지 않았다고 해서, EU가 더 단호하게 딥페이크 음란물의 생성·저장·보관을 입법할 경우 규정 준수가 미흡한 교역 상대국에 영향력을 행사할 수 없다는 뜻은 아니다.

하지만 우선 이 주요 국가군 중 한 곳의 ‘현장’에서 뭔가가 일어나야 한다. 우리는 여전히 당국이 다크넷에서 아동 성적 학대 자료(CSAM)를 대규모로 압수하거나, 음성·영상 딥페이크로 미국 기업 임원을 속여 거액을 잘못 송금하게 하는 대형 절도 사건, 또는 더 가부장적인 나라에서 여성을 해치는 딥페이크 사용 증가에 대응하는 미국의 사례를 기다린다. 미국 문화가 정말 그런 사건을 똑같이 반영할 수 있는지는 의문이다. 이런 일은 바라기 어렵고, 모래에 머리를 묻거나 ‘도화선이 될’ 사건을 기다리는 대신 어떤 다른 방법으로든 피하는 것이 좋다.

EU가 영리하고 정당한 딥페이크를 홍보하기 원하는 광고회사에 입법 역량을 집중하며 비켜 가는 핵심 문제는 딥페이크가 여전히 알고리즘으로 탐지하기 어렵다는 점이다. 매달 arXiv에 등장하는 수많은 탐지법은 대부분 워터마킹, 블록체인 검증, 또는 영상을 자유롭게 보는 데 쓰는 기반시설 전체의 어떤 변화를 전제로 한다. 이는 영상을 ‘진실’의 대리물로 보는 개념을 근본적으로 법적으로 재검토해야 한다는 뜻이다. 나머지는 인기 있는 오픈소스 딥페이크 프로젝트의 지속적 발전에 일상적으로 뒤처진다.

다른 문제는 서방 주요 국가들이 수많은 새로운 AI 기술 중 문제가 되는 한 갈래에 반사적으로 반응하지 않는 데에는 어느 정도 이유가 있다는 것이다. 많은 기술이 사회와 산업에 큰 혜택을 약속하고, 대형 사건과 그에 따른 항의에 반응해 이미지 합성 체계의 성급한 금지와 규제가 본격화되면 이들 중 상당수가 어떤 식으로든 피해를 입을 수 있다.

그래도 딥페이크 규제를 향한 느리고 때로는 목적 없는 걸음을 적어도 조금은 재촉하고, 나중의 사건에 떠밀려 덜 숙고한 대응을 하기보다는 중간 지점에서 우리 조건에 맞게 잠재적 문제를 다루는 편이 좋을 것이다.

* 혐의를 받는 가해자들은 협박 혐의로 기소되고 있다. 이집트에는 딥페이크 음란물을 다루는 법이 없다.

최초 게시: 2022년 1월 24일.

머신러닝 분야 작가이자 인간 이미지 합성 도메인 전문가. Metaphysic.ai에서 연구 콘텐츠 책임자를 역임했으며, DNEG의 Brahma.ai로 통합될 때까지 근무했습니다.
웹사이트: martinanderson.ai
연락처: martin@martinanderson.ai