Anderson의 관점
구글, Colab에서 딥페이크 훈련 금지
Unite.AI를 Google의 선호 소스에 추가
구글은 지난 2주 동안 Colab 사용자들을 위한 서비스 약관을 변경하여 Colab 서비스를 사용하여 딥페이크를 훈련할 수 없도록 했습니다.
5월 업데이트로 Colab에서 딥페이크 금지 출처: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions
인터넷 아카이브에서 웹 아카이브 버전을 확인한 결과, 딥페이크 금지 조항이 포함된 첫 번째 버전은 지난 24일 수요일에 캡처되었습니다. Colab FAQ에서 딥페이크 금지 조항이 언급되지 않은 마지막 버전은 5월 14일에 캡처되었습니다.
딥페이크 생성 배포 중 두 가지 인기 있는 배포인 DeepFaceLab(DFL)과 FaceSwap 중에서 DFL만이 금지 조항의 대상이 된 것으로 보입니다. DFL은 2017년 Reddit에 익명으로 게시된 논란의 코드의 포크입니다. DFL의 개발자 ‘chervonij’는 DFL 디스코드에서 구글 Colab에서 소프트웨어를 실행하면 경고 메시지가 나타난다고 말했습니다.
‘금지된 코드를 실행하고 있는 것 같습니다. Colab을 사용하는 것을 제한할 수 있습니다. FAQ에서 금지된 동작을 확인하세요.’
그러나 사용자는 현재 코드 실행을 계속할 수 있습니다.
구글 Colab에서 DFL 딥페이크를 실행할 때 나타나는 새로운 경고 출처: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136
FaceSwap의 디스코드에서 한 사용자는 FaceSwap의 코드가 아직 경고 메시지를 트리거하지 않는다고 말했습니다. 이는 Colab이 DFL의 코드를 특정적으로 대상으로 삼았음을 시사합니다.
FaceSwap의 공동 개발자 Matt Tora는 다음과 같이 말했습니다*:
‘구글이 딥페이크를 금지한 이유가 특정한 윤리적인 이유라고 생각하지 않습니다. Colab의 목적은 학생们과 데이터 과학자们이 무료로 강력한 GPU 코드를 실행할 수 있도록 하는 것입니다. 그러나 많은 사용자들이 이 자원을 이용하여 대규모로 딥페이크 모델을 생성하고 있습니다. 이는 계산적으로 비용이 많이 들고 시간도 많이 걸립니다.’
‘Colab은 교육과 연구를 위한 것입니다. 사용자 입력이나 이해가 거의 필요 없는 스크립트를 실행하는 것은 이에 반합니다. 우리는 사용자에게 AI와 관련된 기초를 교육하고 장벽을 낮추는 것을 목표로 합니다. 우리는 이 툴을 이용하여 윤리적인 사용을 장려하고 있습니다. 그러나 우리가 이 툴을 이용하여 어떤 결과를 얻을 수 있는지 사람들에게 교육하는 것이 더 중요합니다.’
‘불행히도 우리는 우리의 툴이 어떻게 사용되는지 통제할 수 없습니다. 그러나 이 자원을 보호하여 실제 대상 사용자에게 이용할 수 있도록 하는 것은 이해할 수 있습니다.’
딥페이크 금지 조항이 무료 티어에만 적용되는지 여부는 명확하지 않습니다. 금지된 동작 목록의 하단에는 ‘유료 사용자에게 추가 제한이 있습니다’라는 메모가 있습니다. 이는 이 규정이 기본 규정임을 시사합니다. 그러나 일부 사용자들은 혼란을 겪고 있습니다. ‘암호화폐 채굴’과 ‘피어 투 피어 파일 공유’가 무료와 유료 사용자 모두에게 적용되는 규정입니다.
이 논리에 따르면, 무료 사용자에게 적용되는 규정은 유료 사용자에게도 적용됩니다. 그러나 유료 사용자에게는 추가적인 규정이 있습니다. 이러한 규정은 주로 Colab 프로 사용자에게 적용됩니다.
구글 Colab은 Jupyter 노트북 환경의 구현입니다. 이는 사용자들이 원격으로 강력한 GPU에서 머신 러닝 프로젝트를 훈련할 수 있도록 합니다.
딥페이크 훈련은 VRAM이 많이 필요한 작업입니다. GPU 부족으로 인해 많은 딥페이크 사용자들은 최근 몇 년 동안 Colab에서 원격으로 훈련을 수행하고 있습니다. Colab에서는 강력한 카드인 Tesla T4, V100, A100 등을 이용하여 딥페이크 모델을 훈련할 수 있습니다.
Colab에서 딥페이크 훈련을 금지하면 더 높은 해상도의 모델을 훈련할 수 있는 딥페이크 사용자의 수를 줄일 것입니다.
일부 딥페이크 사용자들은 높은 비용에도 불구하고 로컬 하드웨어에大量 투자했습니다.
그러나 높은 비용으로 인해 Colab에서 딥페이크를 훈련하는 것을 도와주는 서브 커뮤니티가 생겨났습니다. 랜덤한 GPU 할당이 가장 일반적인 불만입니다. 구글은 이미 무료 사용자에게 높은 끝 GPU의 사용을 제한했습니다.
* 디스코드 개인 메시지에서
最初에 게시됨: 2022년 5월 28일.
수정됨: 2022년 5월 28일 7:28 EST, 인용구 타이포 수정.
수정됨: 2022년 5월 28일 12:40 EST – 무료 및 유료 티어의 딥페이크 금지에 대한澄明 추가.
