Google Cấm Đào Tạo Deepfakes Trên Colab

Vào một thời điểm nào đó trong hai tuần qua, Google đã thay đổiเงื่อนไข dịch vụ cho người dùng Colab, thêm một điều khoản rằng dịch vụ Colab không còn được sử dụng để đào tạo deepfakes.

Cập nhật tháng 5 đưa ra lệnh cấm deepfake trên Colab. Nguồn: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Phiên bản đầu tiên được lưu trữ trên Internet Archive có lệnh cấm deepfake được lưu trữ vào thứ ba, ngày 24 tháng 5. Phiên bản cuối cùng của FAQ Colab không đề cập đến lệnh cấm là vào ngày 14 tháng 5.

Trong hai phân phối tạo deepfake phổ biến, DeepFaceLab (DFL) và FaceSwap, cả hai đều là fork của mã nguồn ẩn danh được đăng trên Reddit vào năm 2017, chỉ có DFL nổi tiếng hơn dường như bị nhắm mục tiêu trực tiếp bởi lệnh cấm. Theo nhà phát triển deepfake ‘chervonij’ tại DFL Discord, chạy phần mềm trên Google Colab hiện tại tạo ra một cảnh báo:

‘Bạn có thể đang thực hiện mã không được phép, và điều này có thể hạn chế khả năng sử dụng Colab trong tương lai. Vui lòng lưu ý các hành động bị cấm được quy định trong FAQ của chúng tôi.’

Tuy nhiên, thú vị là, người dùng hiện tại vẫn được phép tiếp tục thực hiện mã.

Cảnh báo mới xuất hiện khi các nhà tạo deepfake DFL cố gắng chạy mã trên Google Colab. Nguồn: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Theo một người dùng trong Discord của phân phối đối thủ FaceSwap, mã của dự án này dường như không kích hoạt cảnh báo, cho thấy rằng mã của DeepFaceLab (cũng là kiến trúc cho triển khai streaming deepfake thời gian thực DeepFaceLive), là phương pháp deepfake thống trị, đã bị nhắm mục tiêu cụ thể bởi Colab.

Nhà phát triển chính của FaceSwap, Matt Tora, đã bình luận*:

‘Tôi nghĩ rằng rất khó có khả năng Google làm điều này vì lý do đạo đức, mà là vì Colab được thiết kế cho sinh viên, nhà khoa học dữ liệu, nhà nghiên cứu để có thể chạy mã GPU tốn kém một cách dễ dàng và miễn phí. Tuy nhiên, tôi nghi ngờ rằng một số lượng không nhỏ người dùng đang khai thác tài nguyên này để tạo mô hình deepfake, điều này tốn kém về mặt tính toán và mất nhiều thời gian để sản xuất kết quả.’

‘Bạn có thể nói rằng Colab nghiêng về phía giáo dục, nghiên cứu. Thực hiện các tập lệnh yêu cầu ít đầu vào từ người dùng, cũng như hiểu biết, đi ngược lại với điều này. Tại FaceSwap, chúng tôi cố gắng tập trung vào việc giáo dục người dùng về AI và các cơ chế liên quan, đồng thời giảm thiểu rào cản gia nhập. Chúng tôi khuyến khích việc sử dụng phần mềm một cách có trách nhiệm và cảm thấy rằng việc cung cấp các công cụ này cho một đối tượng rộng lớn hơn sẽ giúp mọi người hiểu về những gì có thể đạt được trong thế giới ngày nay, thay vì giữ nó ẩn khỏi một số ít người.’

‘Thật không may, chúng tôi không thể kiểm soát cách thức sử dụng cuối cùng của các công cụ của mình, cũng như nơi chúng được chạy. Điều này làm tôi buồn khi một con đường đã bị đóng lại cho những người muốn thử nghiệm với mã của chúng tôi, tuy nhiên, về việc bảo vệ tài nguyên này để đảm bảo sự sẵn có của nó cho đối tượng mục tiêu thực sự, tôi thấy điều này là hợp lý.’

Không có bằng chứng cho thấy hạn chế mới này chỉ áp dụng cho phiên bản miễn phí của Google Colab – ở cuối danh sách các hoạt động bị cấm, bao gồm cả deepfakes, có lưu ý ‘Các hạn chế bổ sung tồn tại cho người dùng trả phí’, cho thấy đây là các quy định cơ bản. Về lệnh cấm deepfakes, điều này đã gây nhầm lẫn cho một số người, vì ‘khai thác tiền điện tử’ và ‘tham gia chia sẻ tệp peer-to-peer’ được bao gồm trong cả phần ‘Hạn chế’ miễn phí và trả phí.

Theo logic đó, mọi thứ bị cấm trong phần ‘Hạn chế’ miễn phí sẽ được phép trong phiên bản Pro, miễn là phiên bản Pro không cấm rõ ràng, bao gồm ‘thực hiện các cuộc tấn công từ chối dịch vụ’ và ‘crack mật khẩu’. Các hạn chế bổ sung cho cấp độ Pro chủ yếu liên quan đến việc không ‘cho thuê lại’ quyền truy cập Colab Pro, mặc dù có sự lặp lại hạn chế một cách chọn lọc.

Google Colab là một triển khai chuyên dụng của môi trường Jupyter notebook, cho phép đào tạo dự án học máy từ xa trên các GPU mạnh hơn nhiều so với những gì nhiều người dùng có thể sở hữu.

Kể từ khi đào tạo deepfake là một hoạt động đòi hỏi VRAM, và kể từ khi sự kiện khan hiếm GPU, nhiều nhà tạo deepfake trong những năm gần đây đã từ bỏ việc đào tạo tại nhà để chuyển sang đào tạo từ xa trong Colab, nơi mà, tùy thuộc vào may mắn và cấp độ, có thể đào tạo mô hình deepfake trên các thẻ mạnh như Tesla T4 (16GB VRAM, hiện khoảng 2.000 USD), V100 (32GB VRAM, khoảng 4.000 USD), và A100 (80GB VRAM, giá niêm yết 32.097,00 USD), cùng với một số khác.

Lệnh cấm đào tạo trên Colab có vẻ sẽ giảm số lượng nhà tạo deepfake có thể đào tạo mô hình độ phân giải cao, nơi các hình ảnh đầu vào và đầu ra lớn hơn, phù hợp hơn với kết quả độ phân giải cao và có khả năng trích xuất và tái tạo chi tiết khuôn mặt tốt hơn.

Một số nhà tạo deepfake chuyên nghiệp và nhiệt tình nhất, theo các bài đăng trên Discord và diễn đàn, đã đầu tư mạnh vào phần cứng địa phương trong vài năm qua, mặc dù giá GPU cao.

Tuy nhiên, do chi phí cao, các cộng đồng con đã xuất hiện để đối phó với thách thức của việc đào tạo deepfakes trên Colab, với việc phân bổ GPU ngẫu nhiên là khiếu nại phổ biến nhất kể từ khi Colab limited the use of higher-end GPUs to free users. * Trong các tin nhắn riêng trên Discord

Được xuất bản lần đầu vào ngày 28 tháng 5 năm 2022.
Đã sửa đổi vào lúc 7:28 sáng EST, sửa lỗi đánh máy.
Đã sửa đổi vào lúc 12:40 chiều EST – thêm làm rõ về lệnh cấm deepfake cấp miễn phí và cấp Pro, theo như có thể hiểu được từ danh sách ‘miễn phí’ và ‘trả phí’ của các hạn chế.