Anderson의 관점

구글, Colab에서 딥페이크 훈련 금지

Martin Anderson
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트Google Colab의 새로운 약관은 딥페이크 학습을 금지하며, 특히 DeepFaceLab을 겨냥하고 있습니다.
더 보기
  • Google Colab의 새로운 약관은 딥페이크 학습을 금지하며, 특히 DeepFaceLab을 겨냥하고 있습니다.
  • 이 금지는 윤리적 이유보다는 교육용 사용자를 위한 GPU 자원을 보존하기 위한 목적일 가능성이 높습니다.
  • 무료 및 유료 Colab 등급 모두 딥페이크를 금지하여, 사용자들이 규제 적용 범위에 대해 혼란을 겪고 있습니다.

구글은 지난 2주 동안 Colab 사용자들을 위한 서비스 약관을 변경하여 Colab 서비스를 사용하여 딥페이크를 훈련할 수 없도록 했습니다.

5월 업데이트로 Colab에서 딥페이크 금지

5월 업데이트로 Colab에서 딥페이크 금지 출처: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

인터넷 아카이브에서 딥페이크 금지 조항을 포함한 첫 웹 보관 버전은 지난 화요일인 5월 24일에 캡처되었습니다. 금지 조항을 언급하지 않은 마지막 Colab FAQ 보관 버전은 5월 14일 것입니다.

널리 쓰이는 두 딥페이크 제작 소프트웨어인 DeepFaceLab(DFL)과 FaceSwap 은 모두 2017년 Reddit에 익명으로 게시된 논란의 코드에서 갈라져 나온 포크입니다. 이 가운데 더 악명 높은 DFL만이 금지 조항의 직접적인 대상이 된 것으로 보입니다. DFL 디스코드의 딥페이크 개발자 ‘chervonij’는 DFL 디스코드에서 구글 Colab에서 소프트웨어를 실행하면 경고 메시지가 나타난다고 말했습니다.

‘허용되지 않는 코드를 실행 중일 수 있으며, 이로 인해 향후 Colab 사용이 제한될 수 있습니다. FAQ에 명시된 금지 행위를 확인하세요.’

그러나 사용자는 현재 코드 실행을 계속할 수 있습니다.

구글 Colab에서 DFL 딥페이크를 실행할 때 나타나는 새로운 경고

구글 Colab에서 DFL 딥페이크를 실행할 때 나타나는 새로운 경고 출처: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

경쟁 소프트웨어인 FaceSwap의 디스코드 사용자에 따르면 이 프로젝트의 코드는 아직 경고를 띄우지 않는 것으로 보입니다. 이는 가장 지배적인 딥페이크 제작 방식인 DeepFaceLab의 코드가 Colab의 구체적인 제한 대상이 되었음을 시사합니다. 이 코드는 실시간 딥페이크 스트리밍 구현인 DeepFaceLive의 기반 아키텍처이기도 합니다.

FaceSwap의 공동 수석 개발자 중 한 명인 Matt Tora는 다음과 같이 말했습니다*:

‘구글이 특별한 윤리적 이유로 이 일을 한다고는 생각하기 어렵습니다. 오히려 Colab은 학생, 데이터 과학자, 연구자가 계산 비용이 큰 GPU 코드를 쉽고 접근하기 편한 방식으로 무료 실행하도록 하기 위해 존재합니다. 하지만 적지 않은 사용자가 이 자원을 활용해 딥페이크 모델을 대규모로 만드는 것으로 의심됩니다. 이는 계산 비용도 크고 결과를 내기까지 상당한 훈련 시간이 필요합니다.’

‘Colab은 AI의 교육·연구 측면에 더 무게를 둔다고 할 수 있습니다. 사용자 입력이나 이해가 거의 필요 없는 스크립트를 실행하는 것은 그 취지에 어긋납니다. FaceSwap에서는 진입 장벽을 낮추면서 사용자에게 AI와 그 작동 원리를 교육하려고 합니다. 소프트웨어의 윤리적 사용을 강력히 권장하며, 이런 도구를 소수에게만 숨겨 두기보다 더 넓은 대중에게 제공하면 오늘날 무엇이 가능한지 사람들이 이해하는 데 도움이 된다고 생각합니다.’

‘안타깝게도 도구가 최종적으로 어떻게 사용되고 어디서 실행되는지는 통제할 수 없습니다. 사람들이 우리 코드를 실험할 수 있는 길 하나가 닫힌 것은 유감입니다. 다만 이 특정 자원을 보호해 본래 대상 이용자가 계속 쓸 수 있게 한다는 점에서는 이해할 수 있습니다.’

새 제한이 Colab의 무료 티어에만 적용된다는 증거는 없습니다. 딥페이크가 추가된 금지 행위 목록 아래에는 ‘유료 사용자에게는 추가 제한이 적용됩니다’라는 문구가 있어 이 목록이 기본 규칙임을 나타냅니다. 하지만 ‘암호화폐 채굴’과 ‘P2P 파일 공유 참여’가 무료 및 Pro 제한 항목 모두에 포함되어 있어 일부 이용자는 혼란을 느꼈습니다.

이 논리대로 해석하면 무료 제한 목록에서 금지된 행위도 Pro에서 명시적으로 금지하지 않는 한 Pro에서는 허용되는 셈입니다. 여기에는 ‘서비스 거부 공격 실행’과 ‘암호 해독’도 포함됩니다. Pro의 추가 제한은 주로 Colab Pro 접근 권한을 재임대하지 못하게 하는 내용이지만, 금지 항목의 중복은 여전히 혼란스럽고 선택적입니다.

구글 Colab은 Jupyter 노트북 환경을 전용으로 구현한 서비스입니다. 많은 사용자가 직접 구매하기 어려운 강력한 GPU에서 머신 러닝 프로젝트를 원격 훈련할 수 있게 합니다.

딥페이크 훈련은 많은 VRAM을 요구합니다. GPU 부족이 시작된 이후 많은 제작자가 집에서 훈련하는 대신 Colab 원격 훈련으로 옮겨 갔습니다. 여기서는 운과 요금제에 따라 Tesla T4 (TSLA ) (VRAM 16GB, 당시 약 2,000달러), V100(VRAM 32GB, 약 4,000달러), A100(VRAM 80GB, 권장 소매가 32,097.00달러) 같은 강력한 카드로 모델을 훈련할 수 있습니다.

Colab 훈련 금지는 고해상도 모델을 훈련할 수 있는 딥페이크 제작자의 수를 줄일 가능성이 큽니다. 이런 모델은 입력·출력 이미지가 더 커서 고해상도 결과에 적합하며 더 많은 얼굴 세부 정보를 추출하고 재현할 수 있습니다.

디스코드와 포럼 게시물에 따르면 가장 열성적인 딥페이크 취미 제작자와 애호가 일부는 GPU 가격이 높았음에도 지난 몇 년간 로컬 하드웨어에 상당한 돈을 투자했습니다.

하지만 높은 비용 때문에 Colab에서 딥페이크를 훈련할 때의 어려움을 다루는 하위 커뮤니티가 생겨났습니다. Colab이 무료 사용자의 고급 GPU 접근을 제한한 이후 무작위 GPU 할당이 가장 흔한 불만입니다.

 

* 디스코드 개인 메시지에서

최초 게시: 2022년 5월 28일.
수정됨: 2022년 5월 28일 7:28 EST, 인용구 타이포 수정.
수정됨: 2022년 5월 28일 12:40 EST – 무료 및 유료 티어의 딥페이크 금지에 대한 설명 추가. 무료·Pro 금지 목록에서 파악할 수 있는 범위에 따른 설명입니다.

머신러닝 분야 작가이자 인간 이미지 합성 도메인 전문가. Metaphysic.ai에서 연구 콘텐츠 책임자를 역임했으며, DNEG의 Brahma.ai로 통합될 때까지 근무했습니다.
웹사이트: martinanderson.ai
연락처: martin@martinanderson.ai