Η Google Απαγόρευσε την Εκπαίδευση των Deepfakes στο Colab

Κάποια στιγμή τις τελευταίες δύο εβδομάδες, η Google έχει ήσυχα αλλάξει τους όρους υπηρεσίας για τους χρήστες του Colab, προσθέτοντας μια προϋπόθεση ότι οι υπηρεσίες Colab δεν μπορούν πλέον να χρησιμοποιηθούν για την εκπαίδευση deepfakes.

Η ενημέρωση του Μαΐου φέρνει απαγόρευση deepfake στο Colab. Πηγή: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Η πρώτη ιστοσελίδα που αρχειοθετήθηκε από το Internet Archive που περιλαμβάνει την απαγόρευση deepfake ήταν καταγεγραμμένη την περασμένη Τρίτη, 24 Μαΐου. Η τελευταία καταγεγραμμένη έκδοση του Colab FAQ που δεν αναφέρει την απαγόρευση ήταν στις 14 Μαΐου.

Από τις δύο δημοφιλείς διανομές δημιουργίας deepfakes, DeepFaceLab (DFL) και FaceSwap, και οι δύο από τις οποίες είναι forks του αμφιλεγόμενου και ανώνυμου κώδικα που δημοσιεύθηκε στο Reddit το 2017, μόνο το πιο διαβόητο DFL φαίνεται να έχει στοχευθεί trực tiếp από την απαγόρευση. Σύμφωνα με τον développer deepfake ‘chervonij’ στο DFL Discord, η εκτέλεση του λογισμικού στο Google Colab τώρα παράγει μια προειδοποίηση:

‘Μπορεί να εκτελείτε κώδικα που απαγορεύεται και αυτό μπορεί να περιορίσει την ικανότητά σας να χρησιμοποιήσετε το Colab στο μέλλον. Παρακαλώ σημειώστε τις απαγορευμένες ενέργειες που αναφέρονται στο FAQ μας.’

Ωστόσο, ενδιαφέρον είναι ότι ο χρήστης επιτρέπεται目前 να συνεχίσει την εκτέλεση του κώδικα.

Η νέα προειδοποίηση που迎εισε τους DFL deepfakers που προσπάθησαν να εκτελέσουν τον κώδικα στο Google Colab. Πηγή: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Σύμφωνα με einen χρήστη στο Discord για την αντίπαλη διανομή FaceSwap, ο κώδικας του project δεν προκαλεί ακόμη την προειδοποίηση, υποδεικνύοντας ότι ο κώδικας για το DeepFaceLab (η αρχιτεκτονική που τροφοδοτεί την εφαρμογή πραγματικού χρόνου deepfake streaming DeepFaceLive), από μακράν η πιο κυρίαρχη μέθοδος deepfakes, έχει στοχευθεί ειδικά από το Colab.

Ο συν-δημιουργός του FaceSwap Matt Tora σχολίασε*:

‘Βρίσκω πολύ απίθανο ότι η Google κάνει αυτό για οποιοδήποτε ιδιαίτερο ηθικό λόγο, mais ότι το Colab έχει ως στόχο να επιτρέψει στους μαθητές/επιστήμονες/ερευνητές να εκτελέσουν υπολογιστικά εκτενείς κώδικες GPU με εύκολη και προσιτή manière, δωρεάν. Ωστόσο, υποψιάζομαι ότι ένας μη αμελητέος αριθμός χρηστών εκμεταλλεύονται αυτήν την πηγή για να δημιουργήσουν μοντέλα deepfake, σε κλίμακα, το οποίο είναι και υπολογιστικά εκτενές και χρειάζεται σημαντικό χρόνο εκπαίδευσης για να παράγει αποτελέσματα.’

‘Θα μπορούσατε να πείτε ότι το Colab κλίνει περισσότερο στην εκπαιδευτική, ερευνητική πλευρά του AI. Η εκτέλεση script που απαιτεί λίγη εισαγωγή χρήστη, ούτε κατανόηση, τείνει να πάει αντίθετα σε αυτό. Στο Faceswap προσπαθούμε να εστιάσετε στην εκπαίδευση του χρήστη στο AI και τις μηχανισμούς που εμπλέκονται, ενώ μειώνουμε τον εμπόδιο εισόδου. Ενθαρρύνουμε πολύ την ηθική χρήση του λογισμικού και πιστεύουμε ότι η διάθεση αυτών των εργαλείων σε ένα ευρύτερο κοινό βοηθά στην εκπαίδευση των ανθρώπων σχετικά με αυτό που είναι δυνατό σήμερα, αντί να το κρατήσουμε κρυφό για quelques επιλεγμένους.’

‘Δυστυχώς, δεν μπορούμε να ελέγξουμε πώς θα χρησιμοποιηθούν τελικά τα εργαλεία μας, ούτε πού θα τρέξουν. Με λυπεί που μια οδός έχει κλείσει για τους ανθρώπους να πειραματιστούν με τον κώδικα μας, ωστόσο, όσον αφορά την προστασία αυτής της πηγής για να διασφαλιστεί η διαθεσιμότητά της στο πραγματικό κοινό, το βρίσκω κατανοητό.’

Δεν υπάρχει απόδειξη ότι η νέα περιορισμός είναι περιορισμένη μόνο στην δωρεάν εκδοχή του Google Colab – στο κάτω μέρος της λίστας των απαγορευμένων ενεργειών στις οποίες έχουν προστεθεί τα deepfakes, υπάρχει η σημείωση ‘Υπάρχουν πρόσθετες περιορισμοί για τους πληρωμένους χρήστες’, που υποδηλώνει ότι αυτοί είναι βασικοί κανονισμοί. Όσον αφορά την απαγόρευση deepfakes, αυτό έχει confounded κάποιους,既然 ‘κρυπτονομιστική εξόρυξη’ και ‘συμμετοχή σε peer-to-peer ανταλλαγή αρχείων’ περιλαμβάνονται και στις δωρεάν και στις πληρωμένες ‘Περιορισμοί’ ενότητες.

Με αυτήν τη λογική, όλα τα απαγορευμένα στην δωρεάν ενότητα ‘Περιορισμοί’ επιτρέπονται στην εκδοχή Pro,只要 η εκδοχή Pro δεν απαγορεύει ρητά, συμπεριλαμβανομένων ‘εκτέλεση επιθέσεων απόρριψης υπηρεσίας’ και ‘σπασίματος κωδικών’. Οι πρόσθετοι περιορισμοί για την εκδοχή Pro ασχολούνται κυρίως με το να μην ‘υπονοικιάζουν’ πρόσβαση Pro Colab, παρά τις confounding και επιλεκτικές διπλότυπες απαγορεύσεις.

Το Google Colab είναι μια αφιερωμένη εφαρμογή του Jupyter notebook περιβαλλόντων, που επιτρέπουν την απομακρυσμένη εκπαίδευση προτζεκτών machine learning σε πολύ πιο ισχυρά GPU από αυτά που μπορούν να αντέξουν πολλοί χρήστες.

Από τότε που η εκπαίδευση deepfake είναι μια πείνα VRAM, και από τότε που η έλλειψη GPU, πολλοί deepfakers τα τελευταία χρόνια έχουν εγκαταλείψει την εκπαίδευση στο σπίτι υπέρ της απομακρυσμένης εκπαίδευσης στο Colab, όπου είναι δυνατό, ανάλογα με την τύχη και την εκδοχή, να εκπαιδεύσετε ένα μοντέλο deepfake σε ισχυρά κάρτα όπως η Tesla T4 (16GB VRAM, περίπου 2.000 δολάρια ΗΠΑ), η V100 (32GB VRAM, περίπου 4.000 δολάρια ΗΠΑ), και η ισχυρή A100 (80GB VRAM, MSRP των 32.097,00 δολαρίων ΗΠΑ), μεταξύ άλλων.

Η απαγόρευση της εκπαίδευσης στο Colab φαίνεται να μειώνει τη λίμνη των deepfakers που μπορούν να εκπαιδεύσουν μοντέλα υψηλότερης ανάλυσης, όπου οι είσοδοι και έξοδοι εικόνων είναι μεγαλύτερες, πιο κατάλληλες για υψηλής ανάλυσης αποτελέσματα, και ικανές να εξάγουν και να αναπαράγουν μεγαλύτερη λεπτομέρεια προσώπου.

Κάποιοι από τους πιο αφοσιωμένους εραστές και ενθουσιώδεις deepfakers, σύμφωνα με δημοσιεύσεις στο Discord και τα φόρουμ, έχουν επενδύσει πολύ σε τοπικό υλικό τα τελευταία δύο χρόνια, παρά τις υψηλές τιμές των GPU.

Ωστόσο, δεδομένων των υψηλών εξόδων, έχουν εμφανιστεί υπο-κοινότητες για να αντιμετωπίσουν τις προκλήσεις της εκπαίδευσης deepfakes στο Colab, με τυχαία ανάθεση GPU την πιο κοινή καταγγελία από τότε που το Colab περιόρισε τη χρήση υψηλότερων GPU για τους δωρεάν χρήστες.

* Σε ιδιωτικά μηνύματα στο Discord

Πρώτη δημοσίευση 28ης Μαΐου 2022.
Τροποποιήθηκε 7:28 π.μ. EST, διόρθωση τυπογραφικού λάθους.
Τροποποιήθηκε 12:40 μ.μ. EST – προστέθηκε διευκρίνηση σχετικά με την απαγόρευση deepfake για τις δωρεάν και Pro εκδοχές, όπως μπορεί να κατανοηθεί από τις λίστες ‘δωρεάν’ και ‘Pro’ απαγορεύσεων.