Google hat das Training von Deepfakes in Colab verboten

Irgendwann in den letzten zwei Wochen hat Google die Nutzungsbedingungen für seine Colab-Nutzer stillschweigend geändert und eine Klausel hinzugefügt, die es Colab-Nutzern nicht mehr erlaubt, Deepfakes zu trainieren.

Das Update im Mai bringt ein Deepfake-Verbot für Colab. Quelle: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Die erste archivierte Version aus dem Internet-Archiv, die das Deepfake-Verbot enthält, wurde am letzten Dienstag, dem 24. Mai, aufgenommen. Die letzte aufgenommene Version der Colab-FAQ, die das Verbot nicht erwähnt, stammt vom 14. Mai.

Von den beiden beliebten Deepfake-Erstellungsverteilungen, DeepFaceLab (DFL) und FaceSwap, die beide Forks des umstrittenen und anonymen Codes sind, der 2017 auf Reddit veröffentlicht wurde, scheint nur die bekanntere DFL direkt von dem Verbot betroffen zu sein. Laut dem Deepfake-Entwickler “chervonij” im DFL-Discord produziert die Ausführung der Software in Google Colab jetzt eine Warnung:

‘Sie können Code ausführen, der nicht erlaubt ist, und dies kann Ihre Fähigkeit, Colab in Zukunft zu verwenden, einschränken. Bitte beachten Sie die verbotenen Aktionen, die in unserer FAQ aufgeführt sind.’

Allerdings ist es interessant, dass der Benutzer derzeit immer noch die Ausführung des Codes fortsetzen kann.

Die neue Warnung, die den DFL-Deepfakers bei dem Versuch, den Code auf Google Colab auszuführen, entgegengesetzt wurde. Quelle: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Laut einem Benutzer im Discord für die konkurrierende Verteilung FaceSwap löst der Code dieses Projekts die Warnung anscheinend noch nicht aus, was darauf hindeutet, dass der Code für DeepFaceLab (auch die Architektur für die Echtzeit-Deepfake-Streaming-Implementierung DeepFaceLive) speziell von Colab gezielt wurde.

Der Co-Lead-Entwickler von FaceSwap, Matt Tora, kommentierte*:

‘Ich halte es für sehr unwahrscheinlich, dass Google dies aus bestimmten ethischen Gründen tut, sondern eher, weil Colabs Ziel darin besteht, es Studenten, Datenwissenschaftlern und Forschern zu ermöglichen, rechenintensive GPU-Code in einer einfachen und zugänglichen Weise kostenlos auszuführen. Allerdings vermute ich, dass eine nicht unerhebliche Anzahl von Benutzern diese Ressource ausnutzt, um Deepfake-Modelle in großem Umfang zu erstellen, was sowohl rechenintensiv als auch zeitaufwändig ist, um Ergebnisse zu erzielen.

‘Man könnte sagen, dass Colab mehr auf die Bildungs-, Forschungsseite von KI ausgerichtet ist. Die Ausführung von Skripten, die wenig Benutzereingabe oder Verständnis erfordern, widerspricht diesem Ziel. Bei FaceSwap versuchen wir, den Benutzer in KI und die beteiligten Mechanismen zu unterrichten, während wir die Einstiegshürde senken. Wir ermutigen sehr zur ethischen Nutzung der Software und glauben, dass die Verfügbarkeit dieser Werkzeuge für ein breiteres Publikum dazu beiträgt, Menschen über das zu informieren, was in der heutigen Welt möglich ist, anstatt es für eine ausgewählte Gruppe zu verstecken.

‘Leider können wir nicht kontrollieren, wie unsere Werkzeuge letztendlich verwendet werden oder wo sie ausgeführt werden. Es betrübt mich, dass ein Weg für Menschen, mit unserem Code zu experimentieren, geschlossen wurde, aber im Hinblick auf den Schutz dieser Ressource, um ihre Verfügbarkeit für das eigentliche Zielpublikum zu gewährleisten, finde ich es verständlich.’

Es gibt keinen Hinweis darauf, dass die neue Einschränkung nur auf die kostenlose Ebene von Google Colab beschränkt ist – am Ende der Liste der verbotenen Aktivitäten, zu denen Deepfakes jetzt hinzugefügt wurden, befindet sich die Anmerkung ‘Zusätzliche Einschränkungen bestehen für bezahlte Benutzer’, was darauf hindeutet, dass dies Basisregulierungen sind. In Bezug auf das Deepfake-Verbot hat dies einige verwirrt, da ‘Kryptowährungs-Mining’ und ‘Beteiligung an Peer-to-Peer-Dateiaustausch’ in beiden Abschnitten “Einschränkungen” für die kostenlose und Pro-Version aufgeführt sind.

Nach dieser Logik ist alles, was in der kostenlosen “Einschränkungen”-Sektion verboten ist, in der Pro-Version erlaubt, solange die Pro-Version es nicht explizit verbietet, einschließlich ‘Ausführen von Denial-of-Service-Angriffen’ und ‘Passwort-Knacken’. Die zusätzlichen Einschränkungen für die Pro-Ebene befassen sich hauptsächlich damit, dass Pro-Colab-Zugriff nicht “untervermietet” werden darf, trotz der verwirrenden und selektiven doppelten Verbote.

Google Colab ist eine spezielle Implementierung von Jupyter-Notebook-Umgebungen, die es ermöglichen, maschinelles Lernen auf weit leistungsfähigeren GPUs als vielen Benutzern zur Verfügung stehen, remote zu trainieren.

Da die Deepfake-Ausbildung ein VRAM-hungriges Unterfangen ist und seit dem Beginn der GPU-Flaute viele Deepfakers in den letzten Jahren die lokale Ausbildung zugunsten der Remote-Ausbildung in Colab aufgegeben haben, wo es je nach Zufall und Ebene möglich ist, ein Deepfake-Modell auf leistungsstarken Karten wie der Tesla T4 (16 GB VRAM, derzeit etwa 2.000 USD), der V100 (32 GB VRAM, etwa 4.000 USD) und der mächtigen A100 (80 GB VRAM, UVP von 32.097,00 USD) und anderen, auszubilden.

Das Verbot der Colab-Ausbildung scheint wahrscheinlich, die Anzahl der Deepfakers, die in der Lage sind, höher auflösende Modelle auszubilden, zu reduzieren, bei denen die Eingabe- und Ausgabebilder größer sind, besser geeignet für hochauflösende Ergebnisse und in der Lage sind, mehr Gesichtsdetails zu extrahieren und wiederzugeben.

Einige der engagiertesten Deepfake-Hobbyisten und -Enthusiasten haben, laut Discord- und Foren-Beiträgen, in den letzten beiden Jahren stark in lokale Hardware investiert, trotz der hohen Preise für GPUs.

Es sind jedoch Sub-Communities entstanden, um die Herausforderungen der Deepfake-Ausbildung auf Colabs zu bewältigen, wobei die zufällige GPU-Zuweisung der häufigste Klage seit Colab die Nutzung höherer End-GPUs für kostenlose Benutzer begrenzt hat.

* In privaten Nachrichten auf Discord

Erstveröffentlicht am 28. Mai 2022.
Geändert am 7:28 Uhr EST, Korrektur eines Zitat-Typs.
Geändert am 12:40 Uhr EST – Klarstellung hinzugefügt bezüglich der Deepfake-Verbote in den kostenlosen und Pro-Ebenen, soweit aus den “kostenlosen” und “Pro”-Listen der Verbote verständlich.