Google Colab에서 Deepfakes 훈련 금지

지난 2주 동안某时, Google은 Colab 사용자들을 위한 서비스 약관을 조용히 변경하여 Colab 서비스가 더 이상 Deepfakes 훈련에 사용될 수 없다는 규정을 추가했습니다.

5월 업데이트에서 Colab에 Deepfake 금지 Source: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

인터넷 아카이브에서 웹 아카이브 버전 중 Deepfake 금지規定을 포함하는 첫 번째 버전은 지난 24일 화요일에 캡처되었습니다. Colab FAQ의 마지막 캡처 버전은 5월 14일에 캡처되었습니다.

두 가지 인기 있는 Deepfakes 생성 배포판인 DeepFaceLab(DFL)과 FaceSwap 중에서, 두 가지 모두 2017년에 Reddit에 게시된 논란의 여지가 있고 익명 코드의 포크입니다. DFL은 더 유명한 것으로 보이며 금지의 직접적인 대상이 된 것으로 보입니다. DFL Discord의 개발자 ‘chervonij’에 따르면, 현재 Google Colab에서 소프트웨어를 실행하면 경고가 나타납니다:

‘금지된 코드를 실행하고 있을 수 있으며, 이는 Colab을 사용하는您的 능력을 제한할 수 있습니다. FAQ에 지정된 금지된 동작을 주의해 주십시오.’

그러나 흥미롭게도, 사용자는 현재 코드 실행을 계속할 수 있습니다.

DFL Deepfakers가 Colab에서 코드를 실행하려고 할 때 나타나는 새로운 경고 Source: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

FaceSwap의 공동 리드 개발자 Matt Tora는 다음과 같이 말했습니다*:

‘Google이 이것을 특정한 윤리적 이유로 하는 것은 매우 малоят적입니다. Colab의 존재 이유는 학생们과 데이터 과학자们, 연구자们이 무료로 Powerful한 GPU 코드를 쉽고 접근하기 쉽게 실행할 수 있도록 하는 것입니다. 그러나 많은 사용자들이 이 자원을 이용하여 대규모로 Deepfake 모델을 생성하고 있는데, 이는 계산적으로 비용이 많이 들고 결과를 얻기 위해 상당한 훈련 시간이 필요합니다.’

‘Colab은 교육, 연구 측면에 더 치우쳐 있습니다. 사용자 입력이나 이해가 거의 필요하지 않은 스크립트를 실행하는 것은 이에 반대됩니다. FaceSwap에서는 사용자에게 AI와 관련 메커니즘을 교육하고, 진입 장벽을 낮추는 것을 목표로 합니다. 우리는 소프트웨어의 윤리적 사용을 권장하며, 이러한 도구를 더 많은 사람들에게 제공함으로써 오늘날 가능한 것을 교육하는 데 도움이 됩니다. 일부 사람들만이 사용할 수 있도록 숨기지 않고 말입니다.’

‘불幸히도, 우리는 우리의 도구가 궁극적으로 어떻게 사용되는지, 어디에서 실행되는지 통제할 수 없습니다. 우리의 코드를 실험하기 위해 사람들이 이용할 수 있는 경로가 하나 닫혔는데, 이것은 슬픈 일입니다. 그러나 실제 대상 사용자에게 이 자원을 보호하고 이용 가능하게 하기 위해, 이것은 이해할 수 있습니다.’

새로운 제한이 무료 티어의 Google Colab에만 국한되지 않는다는 증거는 없습니다. 금지된 동작 목록의 하단에 추가된 Deepfakes에 대한 주목할 점은 ‘유료 사용자에게 추가 제한이 있습니다’라는 것입니다. 이것은 기준 규정입니다. Deepfakes 금지와 관련하여, 이것은 일부 사람들을 혼동하게 만들었습니다. ‘암호화폐 채굴’과 ‘피어투피어 파일 공유에 참여’가 무료와 프로 ‘제한’ 섹션에 모두 포함되어 있기 때문입니다.

이 논리에 따르면, 무료 ‘제한’ 섹션에서 금지된 모든 것은 프로 버전에서 허용됩니다. 프로 버전에서 명시적으로 금지되지 않는 한, ‘서비스 거부 공격 실행’과 ‘암호 크래킹’을 포함하여 모든 것이 허용됩니다. 프로 티어의 추가 제한은 주로 프로 Colab 액세스를 ‘하위 임대’하지 않는 것과 관련되어 있습니다. 혼동을 일으키는 선택적 중복 금지 사항에도 불구하고 말입니다.

Google Colab은 원격에서 더 Powerful한 GPU에서 머신 러닝 프로젝트를 훈련할 수 있는 Jupyter 노트북 환경의 전용 구현입니다.

Deepfake 훈련은 VRAM이 많이 필요한 작업이며, GPU 부족의 출현 이후, 많은 Deepfakers는 최근 몇 년 동안 홈 훈련을 포기하고 Colab에서 원격 훈련을 선택했습니다. 여기에서는 Powerful한 카드인 Tesla T4(16GB VRAM, 현재 약 2,000달러), V100(32GB VRAM, 약 4,000달러), 그리고 강력한 A100(80GB VRAM, MSRP 32,097.00달러) 등에서 Deepfake 모델을 훈련할 수 있습니다.

Colab 훈련 금지는 더 높은 해상도의 모델을 훈련할 수 있는 Deepfakers의 수를 줄일 가능성이 있습니다. 여기서 입력 및 출력 이미지는 더 크고, 높은 해상도 결과에 더 적합하며, 더 많은 얼굴 세부 사항을 추출하고 재생성할 수 있습니다.

일부 가장 헌신적인 Deepfake 취미愛好者와 애호가들은, Discord와 포럼 게시물에 따르면, 최근 몇 년 동안 높은 가격에도 불구하고 로컬 하드웨어에大量으로 투자했습니다.

그러나 높은 비용으로 인해, Colab의 난이도에 대한 가장 일반적인 불만인 무작위 GPU 할당과 관련된 Deepfakes를 훈련하는 데 도전하는 하위 커뮤니티가 나타났습니다.

* Discord의 개인 메시지에서

처음 게시됨: 2022년 5월 28일.
수정됨: EST 7:28, 인용구 타입오의 수정.
수정됨: EST 12:40 – 무료 및 프로 티어 Deepfake 금지에 대한澄明 추가, ‘무료’ 및 ‘프로’ 금지 목록에서 이해할 수 있는대로.