오픈오리진스(OpenOrigins)의 Mathilde Pavis 박사 인터뷰 – AI 및 디지털 미디어 거버넌스 전문가

Mathilde Pavis 박사는 오픈오리진스의 법률 담당자로, AI 규제 및 디지털 미디어 거버넌스 분야의 선도적인 전문가입니다. 그녀는 딥페이크, 합성 미디어, 콘텐츠 출처에 전문성을 가지고 있으며, 기업, 정부, 노동조합에 규제, 라이선스, 리스크에 대한 자문을 제공합니다. 또한 마이크로소프트와 ElevenLabs와 함께 AI 정책 및 전략에 대해 협력했으며, 유네스코에 AI 및 지적 재산권에 대한 자문을 제공했습니다.

OpenOrigins는 디지털 콘텐츠의 출처를 확인하여 허위 정보와 딥페이크를 방지하는 기술을 개발합니다. 이 플랫폼은 콘텐츠의 명확한 출처를 확립하여 미디어, 크리에이터, 플랫폼이 콘텐츠가 생성, 편집, 배포된 시점과 방법을 증명할 수 있도록 합니다. 이는 합성 미디어가 더 발전하고 감지하기 어려워지는 상황에서 점점 더 중요한 능력입니다.

정부, 글로벌 기관, 기업에 대한 AI 규제에 대한 자문을 제공한 경험이 있습니다. 딥페이크, 디지털 복제, 합성 미디어에 집중한 이유와 Replique를 설립한 결정은 무엇입니까?

딥페이크에 대한 연구는 기술에서 시작되지 않았습니다. 2013년 박사 학위 논문을 위해 지적 재산권을 연구하기 시작했을 때, 연기자, 음악가, 영화 제작자의 권리가 저작권법에서 얼마나 보호받지 못하는지에 대해 놀랐습니다. 실제로 법률에서는 말, 음악이 더 잘 보호되고, 얼굴, 목소리, 몸은 그렇지 않습니다. 이는 이상하게 느껴졌고, 얼굴, 목소리, 몸의 가치를 문화적, 법적으로 어떻게 평가하는지에 대한 더 깊은 질문을 제기했습니다.

이 질문은 연기자 권리와 데이터로 이어졌습니다. 당시에는 이 분야가 상업적으로 관련이 없다고 생각되었고, 특허나 전통적인 저작권과 같은 더 수익성 있는 분야로 이동하라는 조언을 받았습니다. 그러나 저는 그 빈칸을 연구를 계속해야 하는 이유로 생각했습니다.

오늘날 거의 모든 사람이 연기자입니다. 카메라를 통해 삶을 살고, 스마트폰, 노트북, 비디오 통화, 소셜 플랫폼을 통해 자신의 모습을 녹화하고 공유합니다. 이전에는 주로 배우나 음악가에게 적용되던 법적 질문이 이제 누구에게나 적용됩니다.

딥페이크는 이러한 문제를 창조하지 않았지만, 노출하고 가속화했습니다. 2017년과 2018년, MIT와 UC 버클리에서 나온 신경망의 발전은 얼굴, 목소리, 몸의 디지털 조작이 얼마나 설득력 있는지 보여주었습니다. 1년 내에, 이 기술은 딥페이크로 알려지게 되었고, 특히 여성과 어린이에게 대한 비동의 성적 콘텐츠를 통해 유해한 방식으로 처음으로 주목을 받았습니다.

나중에 창의 산업이 합성 미디어를 채택하기 시작했을 때, 저는 계약과 경제적 질문에 대해 연구했습니다. 거의 밤새도록 법학적, 상업적으로 중요한 분야가 되었습니다.

법적 도전은 변하지 않았습니다. 사람들은 자신을 공유하고 싶지만, 여전히 의미 있는 통제를 유지하고 싶습니다. 기존 프레임워크는 이 뉴앙스를 어려워합니다. 개인을 완전히 사적 또는 완전히 공적으로 취급하는 경향이 있습니다. 그러나 대부분의 사람들은 그 사이 어딘가에 존재합니다. 이 긴장은 이제 전문 연기자뿐만 아니라 디지털 생활에 참여하는 모든 사람에게 중심이 되었습니다.

저는 이 분야에서 연구하고 일한 결과, 정부와 기업이 딥페이크에 대비하기 위해 저를 자문하기 시작했습니다. Replique에서 저는 디지털 클로닝 또는 디지털 복제 기술을 책임감 있게, 안전하게 사용하려는 사람들과 기업들에게 전문적인 법률 자문을 제공합니다. 기본적으로 저는 블루 스카이 연구를 창의 산업을 위한 전문 법률 자문 사업으로 전환했습니다.

OpenOrigins의 법률 담당자로서, 콘텐츠 출처를 확인하여 딥페이크를 방지하는 기술을 개발하고 있습니다. 전통적인 딥페이크 탐지 접근 방식과 비교하여 출처 기반 시스템의 중요성은 무엇입니까?

딥페이크 탐지 도구를 비교하는 것은 사과와 오렌지를 비교하는 것과 같습니다. 효과는 상황과 목적에 따라 다르기 때문입니다. 정책적으로 우리는 보완적인 도구가 필요합니다. OpenOrigins는 더 넓은 생태계의 일부입니다. 콘텐츠 생성자 또는 정보 기관이 콘텐츠의 진위를 증명해야 하는 상황에서 OpenOrigins의 기술이 돋보입니다.

콘텐츠 생성 시점에 검증 가능한 출처와 수신을 제공함으로써, 이는 콘텐츠가 딥페이크가 아니라는 강력한 형태의 예방을 제공합니다. 그러나 이는 일반적인 인터넷 사용자가 온라인에서 콘텐츠를 빠르게 평가하려는 경우에는 덜 유용합니다. 그러한 경우, 탐지는 출처 기반 검증보다 확률적이고 콘텐츠 분석 방법에 더 의존합니다. 우리는 서로 다른 요구에 따라 서로 다른 도구가 필요하며, 딥페이크에 대한 은탄환이 없다는 것을 인정해야 합니다.

AI 생성 또는 복제 콘텐츠의 동의와 소유권을 다루는 데 있어 현재 가장 큰 격차는 무엇입니까?

오, 얼마나 오래 기다리실 수 있나요? 답은 AI 생성 또는 복제 콘텐츠의 의미에 따라 다릅니다. 딥페이크와 디지털 복제의 맥락에서 답변하겠습니다.

동의에 대한 핵심 문제는 대부분의 계약, 즉 고용 계약 또는 플랫폼 약관이 광범위하고 모호한 조항을 포함한다는 것입니다. 이러한 조항은 사용자 콘텐츠에 대한 광범위한 권리를 부여할 수 있으며, 이는 클로닝과 같은 사용에 대한 동의로 해석될 수 있습니다. 이는 법적 해석과 사용자 기대 사이에 상당한 격차를 생성하며, 이는 현재 기업에 유리합니다.

소유권에 대해서는 디지털 클론에 대한 명확한 법적 해답이 없습니다. 기존 프레임워크, 즉 데이터 보호, 저작권, 인격권은 이러한 기술에 대해 설계되지 않았습니다. 오늘날 대부분의 사람들은 직장에서, 고용주 또는 클라이언트의 요청과 자금으로 스캔되고 클로닝됩니다. 이러한 엔티티는 일반적으로 이 자산에 대한 높은 수준의 통제를 기대하지만, 이는 문제가 될 수 있습니다. 왜냐하면 이 자산은 얼굴 또는 목소리의 디지털 모방이기 때문입니다.

누가 디지털 클론을 소유하는지에 대한 질문은 매우 중요하지만, 현재 법적으로 답변되지 않았습니다.

음성 클로닝 기술에 대해 작업했습니다. 합성 음성의 경우 기업과 개인 모두에게 가장 오해되는 법적 위험은 무엇입니까?

가장 오해되는 문제는 기업의 상업적 이익과 개인의 사적 권리 및 디지털 존엄 사이의 균형입니다. 이는 지적 재산권, 데이터 보호, 사적 권리와 같은 여러 법적 체계에 걸쳐 있으며, 클로닝을 근본적으로 다르게 해석합니다. 따라서 이를 비즈니스 친화적인 관행으로 번역하는 것은 복잡하고 종종 불분명합니다. 따라서 기업은 주요 위험을 무시하거나 이를 적절하게 탐색하기 위해 상당한 비용을 부담합니다. 이는 책임 있는 준수를 더 어려운, 더 비싼 경로로 만듭니다.

AI 시스템에서 동의 아키텍처에 대해 기업은 어떻게 생각해야 합니까? 특히 외모, 신원, 훈련 데이터의 경우에는?

기업은 세 가지 핵심 능력을 설계해야 합니다. 첫째, 온보딩 시 정보를 제공하고, 상황에 맞게 동의를 얻어야 합니다. 둘째, 사용자가 동의를 철회하고 데이터를 삭제할 수 있도록 해야 합니다. 이는 기술적으로 어려울 수 있지만, GDPR와 같은 법률을 준수하기 위해 필수적입니다. 동의를 유지하는 것은 사업 모델과 일치하는 운영상 원활한 철회 절차를 구축하는 것을 의미합니다.

동의는 세분화되어야 합니다. 셋째, 사용자는 개별 파일 수준에서 권한을 관리하고, 유사성 데이터를 업데이트하고, 이를 사용하는 방법을 이해할 수 있어야 합니다. 이는 투명성과 통제를 필요로 합니다. 디지털 클론을 배포하는 방법을 사용자에게 모니터링, 검토 및 조정할 수 있는 도구를 제공해야 합니다. 이러한 유연성은 아직 드물지만, 이는 점점 더 경쟁력 있게 됩니다.

스타트업과 정부에 대한 자문을 통해, AI 개발과 규제 사이에서 가장 큰 불일치는 어디입니까?

AI 개발과 규제 사이의 불일치는 근본적으로 다른 임무에서 비롯됩니다. 정부는 공공의 이익을 위해 규제하지만, AI 기업은 성장, 수익, 이익을 위해 주도됩니다. 이러한 우선순위가 항상 충돌하는 것은 아니지만, 종종 다른 방향으로 작용합니다. 규제는 제약으로 간주되며, 지원으로 간주되지 않습니다.

이로 인해 구조적인 긴장이 발생합니다. 규제자와 혁신가는 다른 인센티브, 가치, 언어를 사용합니다. 이는 실제적으로 조정을 어렵게 만듭니다. 우리는 기술 기업이 공공의 이익과 더 긴밀하게 일치하는 새로운 물결을 보기 시작했습니다. 그러나 이는 예외이며, 특히 성공적으로 확장하는 경우에는 규칙이 아닙니다.

OpenOrigins는 콘텐츠 생성 시점에 암호화된 출처를 사용하여 콘텐츠를 확인합니다. 이는 배포 후 보안과 비교하여 얼마나 중요합니까?

이것은 이전의 답변으로 돌아갑니다. 콘텐츠를 생성 시점에 인증하는 것은, 즉 ‘상류’에서 인증하는 것이, 배포 또는 소비 시점에 인증하는 것보다 훨씬 더 효과적입니다. 콘텐츠를 생성 시점에 인증하는 것은 농장에서 재배된 음식을 추적하는 것과 같습니다. 음식이 어떻게 처리되고, 공급망을 통해 어떻게 이동했는지 알 수 있습니다. 만약 음식을 먹기 전에 음식의 출처를 알 수 있다면, 그것을 신뢰할 수 있습니다. 그러나 음식을 먹은 후에 음식의 출처를 추측하려는 경우, 그것은 추측에 의존하는 것입니다. 온라인에서 인간이 생성한 콘텐츠와 AI 생성 콘텐츠를 구별하는 것도 마찬가지입니다. 출처를 확인하면 검증 가능한 보증을 제공하지만, 하류에서 탐지는 본질적으로 더 불확실하고 반응적입니다.

C2PA와 같은 표준은 미디어의 미래에 어떤 역할을 할 것이라고 생각합니까? 또한 온라인에서 신뢰를 회복하는 데 충분한가요?

C2PA는 환영할 만한 이니셔티브이며, 콘텐츠의 진위를 위해 오픈오리진스와 같은 운동을 지원합니다. 콘텐츠 안전성과 콘텐츠 진위성 생태계의 중요한 부분입니다. 그러나 모든 사이버 보안 도구와 마찬가지로, 은탄환이 없습니다.

영화, 음악, 게임 산업의 크리에이터와 탤런트를 위해, 오늘날 디지털 복제로부터 자신을 보호하기 위한 실제 단계는 무엇입니까?

아티스트들은 두 가지 종류의 위험에 직면합니다. 첫째, 자신의 작품, 즉 음악, 이미지, 글쓰기의 복제입니다. 둘째, 자신의 모습, 즉 얼굴, 목소리, 몸의 복제입니다. AI 시스템은 거의 아무런 입력 없이도 높은 수준의 충실도로 이러한 것을 재현할 수 있습니다. 실제로, 보호는 온라인에서 무엇을 공유하는지에 대해 의도적으로 생각하는 것으로 시작됩니다. 온라인에 게시된 모든 콘텐츠는 명확한 동의 또는 가시성 없이 훈련 데이터 세트에 스크래핑되고 사용될 수 있음을 인식해야 합니다.

이러한 위험은 온라인에서 운영하는 기본적인 현실입니다. 그러나 더 즉각적이고 통제 가능한 위험은 종종 계약서에 있습니다. 아티스트가 협력자, 배급사 또는 플랫폼과 맺은 계약에는 AI 사용, 재사용 또는 재판매를 허용하는 조항이 포함될 수 있으며, 이는 의미 있는 참여나 하위 수익 없이 이루어질 수 있습니다.

아티스트를 위해, 이는 계약을 면밀히 검토하는 것이 중요합니다. 자신의 작품과 모습이 어떻게 사용되고, 라이선스되고, 재사용될 수 있는지 이해하는 것은 창의적 과정 자체만큼 중요합니다. 현재의 대부분의 논의는 창작자, 산업 단체, 플랫폼을 통해 이러한 불균형을 수정하고 창작자가 통제와 공정한 보상을 유지하는 것을 중심으로 진행되고 있습니다.

따라서 두 가지 주요 조언이 있습니다. 온라인에서 무엇을 공유하는지에 대해 주의하십시오. 그리고 AI 조항이 포함된 계약을 읽고 서명하기 전에 검토하십시오.

3~5년 후, 모든 디지털 콘텐츠가 검증 가능한 출처를 가져야 하는 시점에 도달할 것이라고 생각합니까? 아니면 신뢰는 플랫폼과 관할 지역에 걸쳐 분산될 것입니까?

그렇게 말하고 싶지만, 현실적으로는 아니오. 5년은 기술적으로는 오래지만, 사용자 행동과 습관을 변경하는 데는 짧은 시간입니다. 대부분의 소비자는 검증된 출처가 있는 콘텐츠인지에 따라 결정하지 않을 것입니다. 플랫폼은 사용자 수요를 따라가며, 참여도보다 출처를 최적화합니다.

규제가 개입하면 상황이 달라질 수 있습니다. 이미 캘리포니아와 같은 지역에서 레이블링 및 모더레이션 요구 사항이 등장하고 있지만, 이를 글로벌하게 확대하는 것은 시간이 걸릴 것입니다. 5년보다는 10년이 더 걸릴 것입니다.

또 다른 변화는 산업별입니다. 저널리즘, 금융, 보험, 의료와 같은 산업은 신뢰가 그들의 운영에 기본적이기 때문에 출처와 인증을 요구하기 시작할 것입니다.

마지막으로, 소비자는 단기적으로 출처 정보에 관심이 없을 수 있지만, 콘텐츠의 품질과 정보의 품질에 관심이 있을 것입니다. AI 생성 콘텐츠가 너무 동질적이거나 “무미”해지면, 관객은 인간이 생성한 콘텐츠를 더 높이 평가할 수 있습니다. 이는 시장의 분할을 유도할 수 있습니다. 일부 플랫폼은 규모와 AI 생성 콘텐츠를 우선시할 수 있지만, 다른 플랫폼은 출처, 신뢰도, 높은 신뢰도의 인간 중심 콘텐츠를 큐레이션할 것입니다. 그러나 이러한 변화는 아직 미지의 영역입니다.

감사합니다. 더 많은 정보를 원하는 독자는 OpenOrigins를 방문하십시오.