Google Zabronił Szkolenia Deepfake’ów w Colab

Jakiś czas temu, w ciągu ostatnich dwóch tygodni, Google zmienił cicho warunki korzystania z usługi Colab, dodając postanowienie, że usługi Colab nie mogą być już wykorzystywane do szkolenia deepfake’ów.

Aktualizacja z maja wprowadza zakaz deepfake’ów w Colab. Źródło: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Pierwsza wersja zarchiwizowana w Internet Archive, zawierająca zakaz deepfake’ów, została zarchiwizowana w zeszłym tygodniu, 24 maja. Ostatnia zarchiwizowana wersja FAQ Colab, która nie wspomina o zakazie, pochodzi z 14 maja.

Z dwóch popularnych dystrybucji do tworzenia deepfake’ów, DeepFaceLab (DFL) i FaceSwap, obie są forkami kontrowersyjnego i anonimowego kodu opublikowanego na Reddit w 2017 roku, tylko bardziej znany DFL wydaje się być bezpośrednio objęty zakazem. Według twórcy deepfake’ów ‘chervonij’ na Discordzie DFL, uruchomienie oprogramowania w Google Colab powoduje teraz wyświetlenie ostrzeżenia:

‘Możesz wykonywać kod, który jest zabroniony, co może ograniczyć Twoją możliwość korzystania z Colab w przyszłości. Zwróć uwagę na zakazane działania określone w naszym FAQ.’

Jednak interesujące jest to, że użytkownik jest obecnie dopuszczony do kontynuowania wykonywania kodu.

Nowe ostrzeżenie, które spotkało twórców deepfake’ów DFL, próbujących uruchomić kod w Google Colab. Źródło: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Według użytkownika na Discordzie rywalizującej dystrybucji FaceSwap, kod tego projektu nie wywołuje jeszcze ostrzeżenia, co sugeruje, że kod DeepFaceLab (również architektura do strumieniowania deepfake’ów w czasie rzeczywistym DeepFaceLive), najbardziej dominujący sposób tworzenia deepfake’ów, został celowo objęty zakazem Colab.

Współtwórca FaceSwap, Matt Tora, skomentował*:

‘Uważam, że jest to bardzo nieprawdopodobne, aby Google robiło to z powodów etycznych, bardziej dlatego, że Colab jest przeznaczony dla studentów, naukowców i badaczy, aby mogli wykonywać obliczenia na potężnych kartach graficznych w łatwy i dostępny sposób, bezpłatnie. Jednak podejrzewam, że znaczna liczba użytkowników wykorzystuje tę usługę do tworzenia modeli deepfake’ów na dużą skalę, co jest kosztowne i wymaga znacznej ilości czasu szkolenia, aby osiągnąć wyniki.

‘Można powiedzieć, że Colab jest bardziej ukierunkowany na edukację, badania i stronę AI. Wykonywanie skryptów, które wymagają niewielkiego wkładu użytkownika, ani zrozumienia, jest sprzeczne z tym. W FaceSwap staramy się edukować użytkownika w zakresie AI i mechanizmów, jednocześnie obniżając barierę wejścia. Zachęcamy do etycznego korzystania z oprogramowania i uważamy, że udostępnianie tych narzędzi szerszemu gronu ludzi pomaga edukować ich w zakresie tego, co jest możliwe we współczesnym świecie, zamiast ukrywać to dla wybranych.

‘Niestety, nie możemy kontrolować, jak nasze narzędzia są ostatecznie wykorzystywane, ani gdzie są uruchamiane. Smuci mnie, że została zamknięta droga dla ludzi, aby eksperymentować z naszym kodem, jednak w kwestii ochrony tego zasobu, aby zapewnić jego dostępność dla rzeczywistej grupy docelowej, uważam to za zrozumiałe.’

Nie ma dowodów na to, że nowy zakaz dotyczy tylko bezpłatnego poziomu Google Colab – na dole listy zabronionych działań, do których dodano deepfake’i, znajduje się adnotacja ‘Dodatkowe ograniczenia obowiązują dla płatnych użytkowników’, co wskazuje, że są to podstawowe przepisy. W odniesieniu do zakazu deepfake’ów jest to mylące, ponieważ ‘wydobywanie kryptowalut’ i ‘uczestniczenie w peer-to-peer file-sharing’ są wymienione w sekcjach ‘Ograniczenia’ zarówno dla wersji bezpłatnej, jak i płatnej.

Według tej logiki, wszystko, co jest zabronione w sekcji ‘Ograniczenia’ wersji bezpłatnej, jest dozwolone w wersji Pro, o ile wersja Pro nie wyraźnie tego zabrania, w tym ‘przeprowadzanie ataków typu denial-of-service’ i ‘łamanie haseł’. Dodatkowe ograniczenia dla poziomu Pro dotyczą głównie nie ‘podnajmowania’ dostępu do Colab Pro, pomimo mylących i wybiórczych powtórzeń zakazów.

Google Colab to dedykowana implementacja środowisk Jupyter notebook, które umożliwiają zdalne szkolenie projektów związanych z uczeniem maszynowym na znacznie potężniejszych kartach graficznych, niż te, które większość użytkowników może sobie pozwolić.

Ponieważ szkolenie deepfake’ów jest zajęciem, które wymaga dużej ilości pamięci VRAM, a od czasu wystąpienia głodu kart graficznych, wielu twórców deepfake’ów w ostatnich latach zrezygnowało z szkolenia w domu na rzecz szkolenia zdalnego w Colab, gdzie, w zależności od szansy i poziomu, można szkolić model deepfake’a na potężnych kartach takich jak Tesla T4 (16 GB VRAM, obecnie około 2000 USD), V100 (32 GB VRAM, około 4000 USD) i potężny A100 (80 GB VRAM, cena detaliczna 32 097,00 USD), wśród innych.

Zakaz szkolenia w Colab wydaje się prawdopodobnie zmniejszyć pulę twórców deepfake’ów, którzy mogą szkolić modele o wyższej rozdzielczości, gdzie obraz wejściowy i wyjściowy są większe, bardziej odpowiednie do wyników o wysokiej rozdzielczości i zdolne do wyodrębniania i odtwarzania większych szczegółów twarzy.

Niektórzy z najbardziej zaangażowanych hobbystów i entuzjastów deepfake’ów, według postów na Discordzie i forach, zainwestowali znacznie w sprzęt lokalny w ciągu ostatnich dwóch lat, pomimo wysokich cen kart graficznych.

Jednakże, ze względu na wysokie koszty, powstały subkultury, które zajmują się wyzwaniami związanymi z szkoleniem deepfake’ów w Colab, przy czym losowa alokacja GPU jest najczęstszą skargą od czasu, gdy Colab ograniczył użycie kart graficznych o wyższej klasie dla użytkowników bezpłatnych.

* W wiadomościach prywatnych na Discord

Pierwotnie opublikowano 28 maja 2022.
Zmieniono 7:28 rano EST, poprawiono błąd w cytacie.
Zmieniono 12:40 po południu EST – dodano wyjaśnienie dotyczące zakazu deepfake’ów w wersjach bezpłatnej i płatnej, w najlepszym możliwym zrozumieniu na podstawie listy zabronionych działań ‘bezpłatnych’ i ‘płatnych’.