유럽과 영국의 디프페이크 규제 제안은 놀랍도록 제한적입니다

분석 2022년이 디프페이크 이미지가 더 엄격한 법적 관할하에 들어갈 수 있는 해가 될 것이라는 희망을 가진 캠페인 활동가들에게는 초기 지표가 आश황하지 못합니다.

지난 목요일 유럽 의회는 승인한 디지털 서비스법(DSA, 2023년부터 시행 예정)에 대한 수정안을 승인했습니다. 이 수정안은 두 가지 섹션에서 디프페이크에 대해 다루고 있습니다. 하나는 수정안 1709에 해당하는 제30조와 관련된 것으로, 다른 하나는 제63조와 관련된 것입니다.

첫 번째 수정안은 완전히 새로운 제30조(a)를 제안합니다. 이 조항은 디프페이크라고 제목이 붙여져 있으며, 다음과 같이 규정합니다:

‘대형 온라인 플랫폼이 생성되거나 조작된 이미지, 오디오 또는 비디오 콘텐츠가 실제 사람, 물체, 장소 또는 기타 엔터티 또는 이벤트와 유사하며, 실제로 진실한 것으로 보이는 경우(디프페이크), 제공자는 콘텐츠가 비정통임을 알리는 방식으로 콘텐츠를 레이블링해야 하며, 수신자가 명확하게 볼 수 있어야 합니다.’

두 번째 수정안은 기존의 제63조에 텍스트를 추가하며, 주로 대형 광고 플랫폼의 투명성을 높이는 것과 관련되어 있습니다. 관련된 텍스트는 다음과 같습니다:

‘또한 대형 온라인 플랫폼은 알려진 디프페이크 비디오, 오디오 또는 기타 파일을 레이블링해야 합니다.’

효과적으로 법률은 합법적인 디프페이크의 증가하는 관행을 준비하는 것처럼 보입니다. 여기서 허가가 부여되고 광고 또는 홍보 자료에서 얼굴 교환을 위한 권리가 확보됩니다. 예를 들어, 러시아의 통신사 텔레폰의 브루스 윌리스의 정체성을 라이선스한 광고 캠페인과 같은 경우입니다.

입법을 주저하는 이유

DSA는 현재까지 디프페이크 기술의 사용에 대한 캠페인 활동가들의 우려를 다루지 못합니다. 특히 디프페이크가 가장 많이 사용되는 경우, 즉 음란한 비디오를 재CAST하는 경우를 다루지 못합니다. 또한 디프페이크를 영화와 텔레비전에 사용하는 경우에 대한 고지를 어떻게 할지에 대한 내용도 다루지 못합니다.

DSA의 승인 과정은 이제 EU 회원국과의 협상과 더广い 디지털 시장법(DMA)의 범위로 넘어갑니다.

Europol의 2020년 12월 보고서 인공 지능의 악의적 사용과 남용은 EU가 현재의 디프페이크 기술(예: DeepFaceLive)을 해결하는 것은 실수일 수 있다고 주장했습니다. 이는 EU 법이 최신 프레임워크 또는 방법과不断하게 đuổi逐하는 상황이 연출될 수 있기 때문입니다.

보고서는 다음과 같이 말합니다:

‘특히, 이러한 정책은 기술에 중립적이어야 하며, 효과적으로 유지되기 위해 정기적으로 검토하고 대체할 필요가 없습니다. 디프페이크의 생성과 남용을 위한 기술이 발전함에 따라 ‘

‘그러나 이러한 조치는 또한 생성적 적대적 네트워크(GANs)의 긍정적인 적용을 방해하지 않도록 해야 합니다.’

위의 인용문의 마지막 문장은 GANs에 대해 광범위하게 설명하며, 유럽과 북미의 입법을 주저하는 이유를 설명합니다. 이는 이미 아시아에 뒤처진 것으로 인식되는 새로운 인공 지능 연구 분야를 더 뒤처지게 할 수 있는 법을 적용하는 것을 주저하는 이유입니다.

예를 들어, 2018년 영국의 인공 지능에 관한 상원 특별위원회 보고서는 영국에서 인공 지능 개발을 방해하는 것을 두려워하며, 여러 번 이러한 위험을 강조합니다. 제목은 영국에서 인공 지능: 준비, 의지, 능력?입니다. 지난 4월, 영국은 또한 자율 주행 자동차를 고속도로에 배치하는 것을 최초로 승인했습니다.

미국도 마찬가지입니다. 브루킹스 연구소는 미국에서 인공 지능에 대한 입법을 강화해야 한다고 주장하며, 기계 학습 기술의 결과에 대해 ‘기다리고 보기’하는 입법자의 입장을 비난했습니다.

DSA가 사회적(다음과 같은) 문제에 대한 우려를 다루지 못하는 것 외에도, EU의 인공 지능에 대한 제안된 규제 프레임워크는 2021년 4월에 발표되었으며, 디프페이크 문제를 피한 것으로 비판을 받았습니다.

영국에서의 디프페이크 규제 부족

반디프페이크 캠페인 활동가인 헬렌 모트(Helen Mort)에게 추가적인 실망이 찾아왔습니다. 그녀는 2021년에 음란한 디프페이크 비디오에 비공개로 등장한 후 영국에서 새로운 법을 제정하기 위해 캠페인을 벌였습니다. 영국 의회의 디지털, 문화, 미디어 및 스포츠위원회(Digital, Culture, Media and Sport Committee)가 오늘 발표한 보고서는 영국 정부가 온라인 안전법 초안에서 디프페이크를 다루지 못한 것을 비판합니다.

보고서는 다음과 같이 말합니다:

‘우리는 정부가 적극적으로 기술적으로 합법하지만 유해한 콘텐츠를 다루기 위해 법을 제정해야 한다고 권고합니다. 이는 디프페이크 음란물과 같은 경우입니다.’

현재 영국의適用법은 실제 이미지의 배포에만 국한됩니다. 예를 들어, 복수적인 경우에 개인의 기밀 및 사적인 명시적 자료가 공개적으로 공유되는 경우입니다. 디프페이크 자료를 제작하여 공개하는 경우, 이는 직접적으로 피해자를 괴롭히는 경우에만 기소될 수 있습니다. 또는 저작권 관련 법률에 따라 기소될 수 있습니다.

첫 번째 경우, 새로운 디프페이크 콘텐츠가 트랙션을 얻고 시청자가 모이는 속도는 거의 대부분 피해자가 직접 디프페이크를 한 사람에게서가 아니라, 우려하는 친구나 관련이 없는 제3자로부터 알게 될 것입니다. 이는 디프페이크가 피해자에게 도달하기 전에 이미 바이럴이 된 경우입니다.

두 번째 경우, 기소는 오직 원본이 전문적으로 제작되고 합법적으로 저작권으로 보호되는 경우에만 가능합니다. 그러나 원본이 무료로 제공되거나, 디프페이크를 위해 특별히 촬영된 경우에는 명확한 저작권 상태가 없으며, 이는 아이러니하게도 저작권법에 의해 보호됩니다.

뒤처지는 이유

2021년 12월, 영국의 법률위원회는 성 기반 적대감을 포함한 증오 言論법을 확대하기로 제안했습니다. 그러나 디프페이크를 이러한 범주에 포함시키지 않았습니다. 이는 전 세계적으로, 특히 인도에서, 여성 정치인과 여성 활동가를 대상으로 디프페이크 기술이 사용된 많은 사례에도 불구하고如此입니다.

여성은 불법적인 디프페이크 콘텐츠의 대상이 되는 경우가 압도적으로 많습니다. 이러한 동기는 사회적(예: 여성의 명예를 훼손하고, 여성의 발언권을 박탈하고, 여성의 권력을 박탈하는 것) 또는 음란한(예: 음란한) 것일 수 있습니다.

미국의 디프페이크 법률

반면에, 미국은 시민의 ‘공개권’을 어느 정도 보호하고 있습니다. 그러나 이는 연방 수준에서 이루어지지 않습니다(현재, 이러한 법은 약 절반의 미국 주에서 존재하며, 법적 메커니즘은 크게 다릅니다).

영국의 성과보다 조금 나은 미국은, 주별로 산재한 규제를 보이고 있으며, 디프페이크 기술의 정치적 조작 가능성을 먼저 해결하려고 합니다. 그러나 사적인 개인에 대한 디프페이크의 영향은 나중에 해결할 것입니다.

2019년, 텍사스 주는 정치적인 디프페이크의 생성이나 확산을 금지했습니다. 그러나 음란한 디프페이크에 대한 언급은 없었습니다. 같은 해, 버지니아 주는 기존 법률에 대한 수정안을 추가하여, 가짜로 생성된 비디오 또는 정지 이미지라는 용어를 포함했습니다.

2020년, 캘리포니아 주는 음란한 디프페이크의 생성이나 확산을 금지하는 캘리포니아 주회 비лл 602을 제정했습니다. 이 법은 3년의 소멸시효가 있으며, 정치적인 디프페이크에 대한 별도의 조항이 있습니다.

2020년 말, 뉴욕 주는 음란한 디프페이크의 생성이나 재배포를 금지하는 법을 제정했습니다. 또한, 사용자의 정체성에 대한 권리를 디프페이크, CGI 또는 기타 수단을 통해 보호합니다. 이는 사망한 사람의 경우에도 적용되며, 사망 당시 뉴욕 주에 거주했다면 사망 후에도 적용됩니다.

마지막으로, 메릴랜드 주는 아동 음란물에 대한 법을 수정하여 디프페이크의 사용을 포함하고 범죄화했습니다. 그러나 성인에 대한 디프페이크의 영향을 다루지 못했습니다.

디프페이크ゲ이트를 기다리며

역사는 새로운 기술이 국가에 개인적으로 영향을 미칠 때까지 입법 반응이 느리게 유지된다는 것을 보여줍니다. 최근 이집트에서 디프페이크 음란물로 협박을 받던 10대 소녀가 자살한 사건은 서방 언론에서 제한적으로 보도되었습니다. 2021년에 밝혀진 2020년의 3,500만 달러의 은행 강도 사건도 디프페이크 음성 기술을 사용한 것으로 나타났습니다. 이러한 사건은 미국 상원이나 45개 주에서 아직 디프페이크 법을 제정하지 않은 국가에서 입법을 가속화하지는 못할 것입니다.

미국이 디프페이크 기술의 남용에 대한 더 단결된 입장을 취한다면, 이는 통신 및 데이터 인프라와 저장소의 거버넌스 측면에서 광범위한 입법적 영향을 미칠 것입니다. 이는 미국의 비즈니스 파트너들에게 전 세계적으로 빠른 정책적 조정을 강요할 것입니다. 유럽의 GDPR을 채택했음에도 불구하고, 이는 북미의 데이터 수집 및 보관 정책에 영향을 미치지 않았습니다. 그러나 유럽은 디프페이크 음란물의 생성, 저장, 보관에 대한 더 확고한 입장을 취한다면, 비준수 국가에 대한 영향력을 얻을 수 있을 것입니다.

그러나 먼저 이러한 국가 중 하나에서何か가 발생해야 합니다. 즉, 미국 회사 책임자가大量한 금액의 돈을 잘못된 방향으로 이동시키도록 속이는 디프페이크 오디오 및/또는 비디오 기술을 사용하는 주요 사례, 또는 미국에서 여성들을 피해자로 하는 디프페이크의 사용이 증가하는 등입니다. 이러한 사건은 труд한 일이며,避ける 것이 좋습니다. 그러나 이러한 사건이 발생하지 않는다면, 우리는 아직도 디프페이크ゲ이트를 기다리고 있습니다.

한 가지 중심 문제는 디프페이크가 알고리즘적으로 difícil로 발견된다는 것입니다. 대부분의 탐지 방법은 워터마크, 블록체인 기반 검증 또는 현재 사용하는 비디오 인프라의 변경을 필요로 합니다. 이러한 해결책은 비디오가 ‘진실’의 대리물로서의 개념을 재정의하는 근본적인 법적 개정을 의미합니다. 나머지는 인기 있는 오픈 소스 디프페이크 저장소의 지속적인 발전에 의해 정기적으로 추월됩니다.

또 다른 문제는 주요 서방 국가가 디프페이크 기술의 남용에 대한 반응으로 인공 지능 기술을 규제하는 것에 대해 과도한 반응을 보이지 않는다는 것입니다. 이는 많은 기술이 사회와 산업에 막대한 이익을 약속하며, 일부 기술은 규제의 대상이 될 수 있습니다. 그러나 이러한 기술은 아직 아시아에 뒤처져 있으며, 더디게 규제를 강화하는 것은 이러한 기술의 발전을 방해할 수 있습니다.

그러나 디프페이크 규제를 향한 느린 걸음을 조금이라도 가속화하는 것이 좋을 것입니다. 그리고 미래의 사건에 의해 강제적으로 반응하지 않고, 우리가 스스로 문제를 해결할 수 있습니다.

* 디프페이크 음란물을 제작한 것으로 의심되는 자들은 협박 혐의로 기소되고 있습니다. 이집트에는 디프페이크 음란물에 대한 법이 없습니다.

최초로 게시된 날짜: 2022년 1월 24일.