Google ได้ห้ามการฝึกอบรม Deepfakes ใน Colab

ในช่วงสองสัปดาห์ที่ผ่านมา Google ได้เปลี่ยนแปลงเงื่อนไขการให้บริการสำหรับผู้ใช้ Colab โดยเพิ่มข้อกำหนดที่ห้ามใช้บริการ Colab เพื่อฝึกอบรม Deepfakes

การอัปเดตในเดือนพฤษภาคมมีการห้ามการฝึกอบรม Deepfakes ใน Colab Source: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

เวอร์ชันแรกที่ถูกเก็บไว้ในอินเทอร์เน็ตอาร์ไคฟ์โดยมีการห้ามการฝึกอบรม Deepfakes ถูกบันทึกเมื่อวันที่ 24 พฤษภาคมที่ผ่านมา เวอร์ชันสุดท้ายของ Colab FAQ ที่ไม่มีการห้ามการฝึกอบรม Deepfakes คือเมื่อวันที่ 14 พฤษภาคม

ในบรรดาการกระจายตัวของการสร้าง Deepfakes ที่ได้รับความนิยมสองแบบคือ DeepFaceLab (DFL) และ FaceSwap ซึ่งทั้งสองแบบเป็นฟอร์กของโค้ดที่ไม่ทราบตัวตนซึ่งถูกโพสต์บน Reddit ในปี 2017 มีเพียง DFL เท่านั้นที่ดูเหมือนจะถูกเป้าหมายโดยการห้าม

ตามที่ผู้พัฒนา Deepfake ‘chervonij’ ใน DFL Discord การรันซอฟต์แวร์ใน Google Colab จะทำให้เกิดการเตือน:

‘คุณอาจกำลังรันโค้ดที่ไม่ได้รับอนุญาต ซึ่งอาจจำกัดความสามารถในการใช้ Colab ในอนาคต โปรดทราบการกระทำที่ห้ามใน FAQ ของเรา’

อย่างไรก็ตาม ผู้ใช้สามารถดำเนินการต่อได้

การเตือนใหม่ที่พบโดยผู้ใช้ DFL ที่พยายามรันโค้ดใน Google Colab Source: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

ตามที่ผู้ใช้ใน Discord ของ FaceSwap โค้ดของ FaceSwap ไม่ได้ทำให้เกิดการเตือน ซึ่งบ่งชี้ว่าโค้ดของ DeepFaceLab ได้ถูกเป้าหมายโดย Colab

Matt Tora ผู้พัฒนา FaceSwap กล่าวว่า*:

‘ฉันคิดว่ามันไม่น่าจะเป็นไปได้ที่ Google จะทำเช่นนี้ด้วยเหตุผลทางจริยธรรม แต่เนื่องจาก Colab มีจุดมุ่งหมายเพื่อให้นักศึกษา นักวิทยาศาสตร์ข้อมูล และนักวิจัยสามารถรันโค้ด GPU ที่มีค่าใช้จ่ายสูงได้อย่างง่ายดายและฟรี อย่างไรก็ตาม ฉันคิดว่าผู้ใช้จำนวนไม่น้อยกำลังใช้ทรัพยากรนี้เพื่อสร้างโมเดล Deepfake ซึ่งเป็นเรื่องที่มีค่าใช้จ่ายสูงและต้องใช้เวลาในการฝึกอบรม’

‘คุณอาจพูดได้ว่า Colab มุ่งเน้นไปที่ด้านการศึกษาและวิจัย การรันสคริปต์ที่ต้องการการเข้าถึงและการทำความเข้าใจของมนุษย์น้อยมาก มันไม่สอดคล้องกับเป้าหมายนี้ ที่ FaceSwap เราพยายามเน้นไปที่การให้ความรู้แก่ผู้ใช้เกี่ยวกับ AI และกลไกที่เกี่ยวข้อง ในขณะเดียวกันก็ลดความยากในการเข้าถึง เรากระตุ้นให้ใช้ซอฟต์แวร์อย่างมีจริยธรรมและรู้สึกว่าการทำให้เครื่องมือเหล่านี้มีให้สำหรับผู้คนจำนวนมากขึ้นจะช่วยให้ผู้คนเข้าใจสิ่งที่สามารถทำได้ในโลกปัจจุบันมากกว่าการเก็บมันไว้สำหรับคนเลือกๆ’

‘อย่างไม่น่าเสียดาย เราไม่สามารถควบคุมได้ว่าเครื่องมือของเราจะถูกใช้อย่างไร หรือที่ไหน มันทำให้ฉันเสียใจที่ว่าช่องทางหนึ่งถูกปิดสำหรับผู้ที่ต้องการทดลองกับโค้ดของเรา แต่ในแง่ของการปกป้องทรัพยากรนี้เพื่อให้แน่ใจว่ามันจะพร้อมใช้งานสำหรับผู้ใช้ที่เป็นเป้าหมาย ฉันพบว่ามันเข้าใจได้’

ไม่มีหลักฐานที่บ่งชี้ว่าการห้ามใหม่นี้มีเพียงสำหรับระดับฟรีของ Google Colab เท่านั้น – ที่ด้านล่างของรายการกิจกรรมที่ห้ามซึ่ง Deepfakes ได้ถูกเพิ่มเข้ามาแล้ว มีคำว่า ‘ข้อจำกัดเพิ่มเติมสำหรับผู้ใช้แบบเสียเงิน’ ซึ่งบ่งชี้ว่านี่คือข้อกำหนดพื้นฐาน

การห้ามการฝึกอบรม Deepfakes ดูเหมือนจะไม่จำกัดเฉพาะผู้ใช้ฟรีเท่านั้น แต่การห้าม ‘การทำเหมืองคริปโทเคอร์เรนซี’ และ ‘การเข้าร่วมในการแชร์ไฟล์แบบพีธูพี’ ถูกกล่าวถึงในทั้งสองส่วน ‘ข้อจำกัด’ สำหรับผู้ใช้ฟรีและผู้ใช้แบบเสียเงิน

Google Colab เป็นการจัดทำ Jupyter notebook ที่มุ่งเน้นไปที่การฝึกอบรมโครงการ Machine Learning ใน GPU ที่มีพลังมากกว่าที่ผู้ใช้หลายคนสามารถจ่ายได้

เนื่องจากการฝึกอบรม Deepfakes ต้องการ VRAM สูง และเนื่องจากการขาด GPU ในช่วงไม่กี่ปีที่ผ่านมา ผู้สร้าง Deepfakes หลายคนได้เลิกฝึกอบรมที่บ้านและหันมาใช้ Colab โดยที่พวกเขาสามารถฝึกโมเดล Deepfakes บนการ์ด GPU ที่มีพลังมาก เช่น Tesla T4 (16GB VRAM, ปัจจุบันราคาประมาณ 2,000 ดอลลาร์สหรัฐฯ), V100 (32GB VRAM, ราคาประมาณ 4,000 ดอลลาร์สหรัฐฯ) และ A100 (80GB VRAM, ราคา 32,097.00 ดอลลาร์สหรัฐฯ)

การห้ามการฝึกอบรม Deepfakes ใน Colab ดูเหมือนจะลดจำนวนผู้สร้าง Deepfakes ที่สามารถฝึกโมเดลที่มีความละเอียดสูงได้

บางคนในกลุ่มผู้สร้าง Deepfakes ที่มีความมุ่งมั่นสูงได้ลงทุนในฮาร์ดแวร์ท้องถิ่นในช่วงสองสามปีที่ผ่านมา แม้ว่าจะมีราคาสูงก็ตาม

อย่างไรก็ตาม เนื่องจากราคาที่สูง มีการเกิดชุมชนย่อยที่ต้องเผชิญกับความท้าทายในการฝึกอบรม Deepfakes ใน Colab โดยมีการจัดสรร GPU แบบสุ่มเป็นข้อร้องเรียนที่พบบ่อยที่สุดนับตั้งแต่ Colab จำกัดการใช้ GPU สูงสำหรับผู้ใช้ฟรี

* ในข้อความส่วนตัวบน Discord

เผยแพร่ครั้งแรกเมื่อวันที่ 28 พฤษภาคม 2022
แก้ไขเมื่อ 7:28 น. ตามเวลา EST การแก้ไขข้อผิดพลาดคำพูด
แก้ไขเมื่อ 12:40 น. ตามเวลา EST – เพิ่มคำชี้แจงเกี่ยวกับการห้าม Deepfakes ระดับฟรีและระดับเสียเงิน ตามที่เข้าใจได้จาก ‘รายการสิ่งที่ห้าม’ ของ ‘ฟรี’ และ ‘โปร’