Η Google Απαγόρευσε την Εκπαίδευση των Deepfakes στο Colab

Κάποια στιγμή τις τελευταίες δύο εβδομάδες, η Google έχει σιωπηλά αλλάξει τους όρους υπηρεσίας για τους χρήστες του Colab, προσθέτοντας μια προϋπόθεση ότι οι υπηρεσίες Colab δεν μπορούν πλέον να χρησιμοποιηθούν για την εκπαίδευση deepfakes.

Η ενημέρωση του Μαΐου φέρνει απαγόρευση deepfake στο Colab. Source: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Η πρώτη ιστοσελίδα-αρχείο από το Internet Archive που περιλαμβάνει την απαγόρευση deepfake ήταν καταγεγραμμένη την περασμένη Τρίτη, 24 Μαΐου. Η τελευταία καταγεγραμμένη έκδοση του Colab FAQ που δεν αναφέρει την απαγόρευση ήταν στις 14 Μαΐου.

Από τις δύο δημοφιλείς διανομές δημιουργίας deepfake, DeepFaceLab (DFL) και FaceSwap, και οι δύο από τις οποίες είναι forks του αμφιλεγόμενου και ανώνυμου κώδικα που δημοσιεύθηκε στο Reddit το 2017, μόνο η πιο αμφιλεγόμενη DFL φαίνεται να έχει στοχευτεί trực tiếp από την απαγόρευση. Σύμφωνα με τον développer deepfake ‘chervonij’ στο DFL Discord, η εκτέλεση του λογισμικού στο Google Colab τώρα παράγει μια προειδοποίηση:

‘Μπορεί να εκτελείτε κώδικα που απαγορεύεται και αυτό μπορεί να περιορίσει την ικανότητά σας να χρησιμοποιήσετε το Colab στο μέλλον. Παρακαλώ σημειώστε τις απαγορευμένες ενέργειες που ορίζονται στο FAQ μας.’

Ωστόσο, ενδιαφέρον είναι ότι ο χρήστης επιτρέπεται να συνεχίσει με την εκτέλεση του κώδικα.

Η νέα προειδοποίηση που迎εισε τους DFL deepfakers που προσπάθησαν να εκτελέσουν τον κώδικα στο Google Colab. Source: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Σύμφωνα με einen χρήστη στο Discord για την αντίπαλη διανομή FaceSwap, ο κώδικας του project δεν προκαλεί ακόμη την προειδοποίηση, υποδηλώνοντας ότι ο κώδικας για το DeepFaceLab (επίσης η αρχιτεκτονική για την υλοποίηση πραγματικού χρόνου deepfake streaming DeepFaceLive), από μακράν η πιο κυρίαρχη μέθοδος deepfakes, έχει στοχευτεί ειδικά από το Colab.

Ο συν-δημιουργός του FaceSwap Matt Tora σχολίασε*:

‘Βρίσκω πολύ απίθανο ότι η Google κάνει αυτό για οποιοδήποτε ιδιαίτερο ηθικό λόγο, mais ότι το Colab’s raison d’être είναι για φοιτητές/επιστήμονες/ερευνητές να μπορούν να εκτελέσουν υπολογιστικά εκτενείς GPU κώδικες σε ένα εύκολο και προσιτό τρόπο, δωρεάν. Ωστόσο, υποψιάζομαι ότι ένα μη αμελητέο ποσοστό χρηστών εκμεταλλεύονται αυτή την πηγή για να δημιουργήσουν μοντέλα deepfake, σε κλίμακα, τα οποία είναι και υπολογιστικά εκτενείς και χρειάζονται σημαντικό χρόνο εκπαίδευσης για να παράγουν αποτελέσματα.’

‘Θα μπορούσατε να πείτε ότι το Colab eğilει περισσότερο στην εκπαιδευτική, ερευνητική πλευρά του AI. Η εκτέλεση script που απαιτεί λίγη εισαγωγή χρήστη, ούτε κατανόηση, τείνει να αντιτίθεται σε αυτό. Στο Faceswap προσπαθούμε να εστιάσουμε στην εκπαίδευση του χρήστη στο AI και τις μηχανισμούς που εμπλέκονται, ενώ μειώνουμε το εμπόδιο εισόδου. Ενθαρρύνουμε πολύ την ηθική χρήση του λογισμικού και πιστεύουμε ότι η διάθεση αυτών των εργαλείων σε ένα ευρύτερο κοινό βοηθά στην εκπαίδευση των ανθρώπων σε σχέση με τα επιτεύξιμα στον κόσμο σήμερα, αντί να τα κρατάει κρυφά για quelques επιλεγμένους.’

‘Δυστυχώς, δεν μπορούμε να ελέγξουμε πώς θα χρησιμοποιηθούν τελικά τα εργαλεία μας, ούτε πού θα εκτελεστούν. Με λυπεί που μια οδός έχει κλείσει για τους ανθρώπους να πειραματιστούν με τον κώδικα μας, ωστόσο, σε σχέση με την προστασία αυτής της πηγής για να διασφαλιστεί η διαθεσιμότητά της στο πραγματικό κοινό, το βρίσκω κατανοητό.’

Δεν υπάρχει απόδειξη ότι η νέα περιορισμός ισχύει μόνο για το δωρεάν επίπεδο του Google Colab – στο κάτω μέρος της λίστας των απαγορευμένων ενεργειών στις οποίες έχουν προστεθεί τα deepfakes, υπάρχει η σημείωση ‘Υπάρχουν πρόσθετες περιορισμοί για πληρωμένους χρήστες’, που υποδηλώνει ότι αυτά είναι βασικές κανονισμοί. Σε σχέση με την απαγόρευση deepfakes, αυτό έχει προκαλέσει σύγχυση σε quelques,既然 ‘cryptocurrency mining’ και ‘peer-to-peer file-sharing’ περιλαμβάνονται και στις δύο ελεύθερες και Pro ‘Περιορισμοί’ ενότητες.

Με αυτή τη λογική, όλα τα απαγορευμένα στην ελεύθερη ενότητα ‘Περιορισμοί’ επιτρέπονται στην Pro έκδοση, εφόσον η Pro έκδοση δεν απαγορεύει ρητά, συμπεριλαμβανομένων ‘εκτέλεση επιθέσεων απόρριψης υπηρεσιών’ και ‘σπάσιμο κωδικών’. Οι πρόσθετες περιορισμοί για την Pro ενότητα ασχολούνται κυρίως με το να μην ‘υπονοικιάζουν’ την πρόσβαση Pro Colab, παρά την προκαλούμενη σύγχυση και την επιλεκτική διπλή απαγόρευση.

Το Google Colab είναι μια αφοσιωμένη υλοποίηση Jupyter notebook περιβαλλόντων, τα οποία επιτρέπουν την απομακρυσμένη εκπαίδευση προτζεκτών μηχανικής μάθησης σε πολύ πιο ισχυρά GPU από αυτά που μπορούν να αντέξουν πολλοί χρήστες.

Καθώς η εκπαίδευση deepfake είναι μια πείνα VRAM, και από την εποχή της GPU λιμού, πολλοί deepfakers τα τελευταία χρόνια έχουν εγκαταλείψει την εκπαίδευση στο σπίτι προς όφελος της απομακρυσμένης εκπαίδευσης στο Colab, όπου είναι δυνατό, ανάλογα με την τύχη και το επίπεδο, να εκπαιδεύσετε ένα μοντέλο deepfake σε ισχυρά κάρτα όπως η Tesla T4 (16GB VRAM,目前 γύρω στα $2k USD), η V100 (32GB VRAM, γύρω στα $4k USD), και η ισχυρή A100 (80GB VRAM, MSRP των $32,097.00), μεταξύ άλλων.

Η απαγόρευση εκπαίδευσης στο Colab φαίνεται ότι θα μειώσει τη λίμνη των deepfakers που μπορούν να εκπαιδεύσουν μοντέλα υψηλής ανάλυσης, όπου οι είσοδοι και οι έξοδοι εικόνων είναι μεγαλύτερες, πιο κατάλληλες για υψηλής ανάλυσης αποτελέσματα, και ικανές να εξάγουν και να αναπαράγουν μεγαλύτερη λεπτομέρεια προσώπου.

Κάποιοι από τους πιο αφοσιωμένους χόμπι deepfake και τους ενθουσιώδεις, σύμφωνα με δημοσιεύσεις στο Discord και τα φόρουμ, έχουν επενδύσει πολύ σε τοπικό υλικό τα τελευταία δύο χρόνια, παρά τις υψηλές τιμές των GPU.

Ωστόσο, δεδομένων των υψηλών εξόδων, έχουν εμφανιστεί υπο-κοινότητες για να αντιμετωπίσουν τις προκλήσεις της εκπαίδευσης deepfakes στο Colab, με την τυχαία κατανομή GPU να είναι η πιο συνηθισμένη καταγγελία από την εποχή που το Colab περιόρισε τη χρήση υψηλών GPU για τους δωρεάν χρήστες.

* Σε ιδιωτικά μηνύματα στο Discord

Πρώτη δημοσίευση 28ης Μαΐου 2022.
Επανεξετάστηκε 7:28 π.μ. EST, διόρθωση τυπογραφικού λάθους.
Επανεξετάστηκε 12:40 μ.μ. EST – πρόσθεσε διευκρίνιση σχετικά με την απαγόρευση deepfake για το δωρεάν και το Pro επίπεδο, όπως μπορεί να κατανοηθεί από τις ‘ελεύθερες’ και ‘Pro’ λίστες απαγορεύσεων.