Για την Ηθική των Hollywood Deepfakes

Γιατί έχει υπάρξει μια τέτοια πτώση τελευταία στην τηλεοπτική και κινηματογραφική περιεχόμενο deepfake; Ο συγγραφέας εργάστηκε για την εταιρεία οπτικών εφέ Metaphysic.ai για πάνω από δύο και μισό χρόνια, συμπεριλαμβανομένων 20 μηνών ως πλήρης απασχόλησης.

Γνώμη/Χαρακτηριστικό Jako παιδί, ήμουν μαγευμένος από ιστορίες για την ίδρυση της Industrial Light and Magic (ILM), που λειτουργούσε από ένα βασικό αποθήκη στο Van Nuys, και με την επίμονη κατασκευή των νέων μεθόδων ελέγχου κίνησης που θα κυριαρχούσαν στις περισσότερες από τις δεκαετίες του 1980, μέχρι την έλευση του CGI.

Εξοδεύοντας κομμάτια του Death Star στο αυλή του ILM στο Van Nuys στη μέση της δεκαετίας του 1970. Πηγή

Είναι μια εξαιρετική ιστορία προέλευσης, και σας συνιστώ τα πολλά βιβλία και άρθρα που ξαναδιηγούνται πώς τα εφέ για Star Wars (1977) ήταν – μετά από πολλή μόχθηση, κατηγορίες και καθυστέρηση – τελικά παραδόθηκαν.

Η νεοσύστατη ILM αργότερα μετακόμισε στο Σαν Φρανσίσκο και συνέχισε να βιομηχανοποιεί την παραγωγή φωτοχημικών εφέ. Ακόμη και την εποχή της εργασίας για τα οπτικά εφέ του The Empire Strikes Back το 1978/9, η ILM, ενώ ήταν ακόμη một πρωτοπόρος και καινοτόμος εταιρεία εφέ, ήταν ήδη γεμάτη με τμήματα λογιστικής και ανθρώπινου δυναμικού.

But στην περίοδο αυτή, και από τότε, η φαντασία μου είχε συλλάβει το τι θα ήταν αυτά τα πρώτα ‘αγνά’ χρόνια στο Van Nuys, κανιβαλίζοντας μοντέλα και μεθόδους οπτικών του 1960 μαζί, και практически εφευρίσκοντας μια βιομηχανία που είχε_once ήταν η προστασία των ατόμων αuteur VFX ειδικών.

Το Πρόσωπο της Επανάστασης

Στις σχεδόν τρεις χρόνια που εργάστηκα στην πλέον διαλυμένη εταιρεία οπτικών εφέ Metaphysic.ai, νομίζω ότι ήμουν όσο πιο κοντά μπορούσα να είμαι στην εμπειρία του Van Nuys του 1970.

Σε αυτή την περίοδο, η Metaphysic παρήγαγε AI-κίνητα, ID-ειδικά εφέ για einige από τις μεγαλύτερες франχίσες, συμπεριλαμβανομένων των Mad Max και Alien франχίσες, καθώς και την πρωτοπόρο (αν και πολύ κριτική) εργασία de-aging deepfake για την ταινία του Robert Zemeckis Here (2024), και πολλά άλλα έργα:

Υπήρχαν περισσότερες συναντήσεις “dailies” (η παρουσίαση του τελευταίου υλικού που παράχθηκε, σε συνωστισμένες συναντήσεις Zoom) από ό,τι θα μπορούσε να συμμετάσχει κανείς και να κάνει τη δουλειά του, καθώς και συναντήσεις τύπου skunkworks, όπου επιλεγμένες ομάδες θα εργάζονταν μαζί σε mini-moonshots, αναζητώντας να προωθήσουν την εταιρεία στο επίπεδο της τεχνολογίας.

Πολλοί από το προσωπικό ήρθαν στην εταιρεία είτε直接 από την ILM, είτε είχαν εργαστεί στην ILM στο παρελθόν*; και mặc dù ήταν σαφές, από ανέκδοτα, ότι ο πνεύμονας του Van Nuys είχε μακράν δώσει τη θέση του στη μαζική ρατσιοναλιστική στην ILM, και στις διάφορες άλλες μεγάλες εταιρείες οπτικών εφέ από τις οποίες προέρχονταν ορισμένα μέλη του προσωπικού, η σύνδεση παρέμεινε ηλεκτρική για μένα.

Ο George Lucas αναθεωρεί εφέ με τον John Dykstra, Richard Edlund, Joe Johnston, και Rose Duignan κατά την παραγωγή του Star Wars. Πηγή

Δεν ξέρω αν θα μπορούσε κανείς να ισχυριστεί ότι η Metaphysic θα εφεύρει ένα AI ισοδύναμο με το DykstraFlex motion-control ριγ, που προήλθε από το Van Nuys sweatshop; αλλά τοποθέτησε τα AI-driven VFX στο χάρτη, και ήταν υπεύθυνη για περισσότερες επαγγελματικές-level AI face-replacement και altering από οποιαδήποτε άλλη εταιρεία εφέ ή đơnά project που αναλήφθηκε στην περίοδο, ή έχει αναληφθεί από τότε.

Αργήση

Και πρέπει να σημειώσω ότι από τότε που η εταιρεία ενσωματώθηκε στην Brahma AI θυγατρική εταιρεία της DNEG, αυτή η σταθερή ροή AI-κίνητων οπτικών εφέ φαίνεται να έχει επιβραδύνει σε ένα κούρδισμα.

Παρά τους τίτλους όπως η συνεργασία AI VFX της Netflix με τον Ben Affleck, και μια δέσμευση για AI από τους σκηνοθέτες Soderbergh και Aronofsky, δεν έχω δει πολλά deepfake πρόσωπα σε ταινίες και τηλεόραση τελευταία (εξαιρουμένων The Capture‘s simulation της τεχνολογίας deepfake), σε σύγκριση με το “πικ Metaphysic”.

Δεδομένου του βαθμού της AI backlash σε πολλούς τομείς και κλάδους, αναρωτιέμαι αν δεν αρχίζουμε όλοι να “διαβάζουμε το δωμάτιο” για τις AI-τροποποιημένες ταυτότητες; και αν οι AI-βοηθούμενες προσπάθειες όπως η αναβίωση του Ian Holm, η νεότητα του Harrison Ford, και η αναβίωση του Rat Pack για να πουλήσει γιν μπορεί να προκαλέσουν σύντομα το τώρα-κλασικό meme ‘Ήταν μια διαφορετική εποχή’.

Αρνητικές Συνδέσεις

Σε πολλές περιπτώσεις, είναι ένα πρόβλημα σύνδεσης; αλλά δεν είναι το ίδιο πρόβλημα σύνδεσης που ήταν πίσω στο 2021, όταν η Metaphysic σχηματίστηκε.

Τότε, το deepfake πορνό είχε γίνει ένα ιογενές φαινόμενο, με όλα τα SFW και NSFW output να προέρχονται από ένα από τα δύο ανοιχτά λογισμικά repos^† . Σε αντίθεση με σήμερα, δεν υπήρχε “gatekept” ή censored τρόπος παραγωγής φωτορεαλιστικού AI περιεχομένου.

Τότε, η μεγαλύτερη ιστοσελίδα deepfake πορνό στον κόσμο (που προοριζόταν να κατεβεί από μια έρευνα το 2025) ήταν όπου οι επίσημες οδηγίες ήταν για το μεγαλύτερο deepfake λογισμικό repo, DeepFaceLab, το οποίο ήταν η ομολογουμένη βάση των αρχικών προσεγγίσεων της Metaphysic:

Ο αρχικός οδηγός για το DeepFaceLab, την εποχή που ήταν το πιο δημοφιλές deepfake λογισμικό – φιλοξενείται στην μεγαλύτερη ιστοσελίδα deepfake πορνό. Από τότε, το λογισμικό έχει αρχειοθετηθεί και η ιστοσελίδα έχει κατεβεί. Πηγή

Από τότε, οι développers λογισμικού δεν φαίνονταν να απομακρύνονται από τη σύνδεση μεταξύ πορνό και deepfakes, αυτό θα επηρέαζε αναπόφευκτα οποιαδήποτε εταιρεία που προσπαθούσε να υιοθετήσει νομίμως αυτή τη τεχνολογία.

Συνεπώς (ίσως όχι λιγότερο επειδή ο ιδρυτής της εταιρείας ήταν συμπεριλαμβανόμενος με τον ιδρυτή του DeepFaceLab στη συγγραφή ενός Arxiv position paper για τα deepfakes το 2020, και ήταν υπόκειται σε πολλή κριτική για αυτές τις συνδέσεις) η Metaphysic είχε ένα αφιερωμένο τμήμα ηθικής, και η εταιρεία ήταν φωνητική και πολύ δημόσια σε αυτό το θέμα.

Αυτές τις μέρες, με την εκτεταμένη και αυξανόμενη σειρά.global νομοθεσίας που ποινικοποιεί το περιεχόμενο deepfake, αυτή η “ατυχής” σύνδεση σχετικά με τις AI-δημιουργημένες ταυτότητες έχει μεταφερθεί από το πορνό στη φτώχεια, καθώς οι παγκόσμιες δυνάμεις εργασίας που απειλούνται直接 από διαφορετικά είδη AI (συνήθως Large Language Models, ή LLMs) αρχίζουν να δαιμονοποιούν τον όρο σε όλο τον κόσμο.

Οι Χωρικοί Επαναστατούν

Σε κάποιο σημείο, ίσως στο μέσο του 2023, συμμετέχοντας σε διάφορες εταιρικές συναντήσεις, άρχισα να νιώθω, αναμφισβήτητα σε δεύτερο χέρι, μια αυξανόμενη κύμα εύκολης ad hoc αντίσταση στις υπηρεσίες που παρείχε η εταιρεία, ταυτόχρονα με τις πρώτες κοινωνικές αναταραχές γύρω από την AI ως μια υπαρξιακή απειλή για τους εργαζόμενους (αν και πρέπει να σημειωθεί ότι οι συνδικάτοι του Χόλιγουντ ήταν στον πρωτοπόρο σε αυτόν τον τομέα).

Η AI φαινόταν να θεωρείται σε ορισμένες περιοχές ως “δεν αξίζει τον κίνδυνο”. Επιπλέον, στην περίοδο αιχμής της Metaphysic, δεν είχε ποτέ μια αδιαμφισβήτητη επιτυχία μετά την αξία του να βάλει (ένα κάπως αργό) νεαρό Ελβίς Πρίσλεϊ στο America’s Got Talent. Στην πραγματικότητα, καμία εταιρεία που παρήγαγε AI-γεννημένο περιεχόμενο σε mainstream ταινίες και τηλεόραση δεν είχε μια αδιαμφισβήτητη επιτυχία.

Υπήρχε πάντα κάποιος λόγος για να μισήσει: η πάντα παρουσία uncanny valley; η σύνδεση με το πορνό; και τότε, η σύνδεση με μια απειλούμενη AI-κίνητη οικονομική αποκάλυψη.

Το ‘Tyrannosaur Moment’ της AI

Φαινόταν ότι μου, για πολύ καιρό, ότι η αναδημιουργία ανθρώπων με 100% πιστότητα σε ένα περιβάλλον VFX που είχε αποτύχει από το CGI για πολύ καιρό, ήταν ένα αξιοθρήνητο, αν όχι αναπόφευστο, στόχο.

Φανταζόμουν ότι η εξέλιξη της AI στα οπτικά εφέ θα οδηγούσε σε μια τρίτη “epochal change” στιγμή για την βιομηχανία, προς χαρά των θεατών. Η πρώτη ήταν η πρώτη εμφάνιση του star-destroyer που θύμισε πάνω από το Star Wars το 1977, και η δεύτερη, ο θυμωμένος Tyrannosaur που δραπέτευσε από το πάρκο του Jurassic Park, το 1993.

Κάθε μια από αυτές οδήγησε σε ριζικές αλλαγές στην βιομηχανία, και κάθε μια είχε προηγηθεί από τους πρώτους που υιοθέτησαν τις νέες τεχνολογίες ή μεθόδους.

Έτσι φαινόταν ότι η Metaphysic’s ροή κυκλοφορίας, ενώ δεν παρείχε ακριβώς αυτή τη “Tyrannosaur moment”, θα οδηγούσε σε αυτή; ότι μια μέρα, θα δούμε κάτι αδύνατο σε μια ταινία; κάτι θεμελιωδώς δημιουργημένο από την AI (αντί παρτιτούρα με CGI), που θα μας σπάσει τα παπούτσια.

Τώρα… δεν ξέρω. Δεν είναι απαραίτητα ότι δεν πιστεύω ότι αυτή η στιγμή θα έρθει, για την AI στο σινεμά; ούτε ότι υπάρχουν πολλά κρίσιμα ζητήματα για την AI βίντεο να ξεπεράσει πριν να ενταχθεί στους επαγγελματίες στο τραπέζι.

Είναι ότι έχω αρχίσει να μοιράζομαι, με έναν αόριστο (και ίσως ηθικά δειλό) τρόπο, αυτή τη ναυαγισμένη και αυξανόμενη δημόσια αίσθηση της αρνητικής σύνδεσης μεταξύ AI στα VFX, και τις αρνητικές επιπτώσεις της AI σε άλλους τομείς, σε αυτή την περίοδο.

Εκτός από αυτό, δεν είμαι σίγουρος ότι η ιστορική επιρροή των μη πληρωμένων και μη ελεύθερων dataset όπως Common Crawl έχει πραγματικά λογιστεί ακόμη, και θεωρώ ότι πολλές από τις πολύ διαφημιζόμενες “AI licensing” συμφωνίες που έχουν κάνει τους τίτλους τα τελευταία 18 μήνες ή περίπου αντιπροσωπεύουν κάποιο βαθμό IP-washing.

Επομένως, η στιγμή που ένας τέλειος και μη ακαδημαϊκός AI-regenerated Marilyn Monroe ή Humphrey Bogart βήμα στο σcreen, νομίζω ότι τα δίδυμα συναισθήματα θαυμασμού και αμηχανίας είναι πιθανό να αναδυθούν σε μένα, επειδή η AI μαγεία έχει αρχίσει να με βαραίνει.

Συμπέρασμα

Οι δύο προηγούμενες τεχνολογικές επαναστάσεις ήρθαν με κανένα από αυτά τα προειδοποιητικά σημάδια: η έλευση της ILM και των motion control ριγ effectively εφευρέθηκε μια βιομηχανία που είχε μέχρι τότε ήταν μια σειρά από σποραδικές παραγγελίες που καλύπτονται από μια σπάνια ελίτ ad hoc ελεύθερων επαγγελματιών; και η έλευση του CGI αυξήθηκε δραματικά τον αριθμό των εργασιών στην βιομηχανία VFX, και δημιούργησε αξία σε γειτονικές υπηρεσίες λογισμικού, καθώς και σε διάφορες υποστηρικτικές υπηρεσίες.

Το ενδιαφέρον μου για την υπολογιστική όραση παραμένει άθικτο, μαζί με το ενδιαφέρον μου για το δυναμικό της AI σε eine σειρά από πιθανές audiovisual εφαρμογές; και το ενθουσιασμό μου για ευρύτερες εφαρμογές της μηχανικής μάθησης, σε μια σειρά από άλλους τομείς, είναι αμείωτο.

Μόνο ευχήθω να μπορούσα να συνεχίσω να αναμένω αυτή τη στιγμή “wow” της AI στο σινεμά.

Για το λόγο που υπάρχει μια απότομη έλλειψη AI-γεννημένων προσώπων σε ταινίες και τηλεόραση, σε σύγκριση με τα πιο ενεργά χρόνια της Metaphysic – μια πιθανότητα είναι ότι οι AI-βοηθούμενες διορθώσεις εφαρμόζονται τώρα από τις εταιρείες παραγωγής με μικρή ή καθόλου δημοσιότητα (σε σύγκριση με τις φανταχτερές δημόσιες ανακοινώσεις της περιόδου 2022-23), δεδομένου ότι η δημόσια αντίδραση στην καινοτομία της AI στην ψυχαγωγία έχει γίνει τόσο εχθρική τελευταία.

Δεύτερον, για να επαναλάβω: μετά το AGT, όπου η εταιρεία έκανε το ντεμπούτο της, η Metaphysic δεν είχε ποτέ μια αδιαμφισβήτητη επιτυχία σε σχέση με τη δική της συνεισφορά σε οποιαδήποτε ταινία ή τηλεοπτική εκπομπή; και ούτε η Indiana Jones 4 deepfake ούτε κανένα άλλο έργο από άλλες εταιρείες παραγωγής ήταν αρκετά καλά για να ξεκινήσει μια ρίψη αντιγράφων, ή να δώσει στην AI στα VFX πραγματική αξιοπιστία και φιλικότητα προς τους επενδυτές.

* Αυτό είναι εύκολα επιβεβαιώσιμο με απλή έρευνα των δημόσια διαθέσιμων προφίλ LinkedIn και πιστών IMDB.

^† DeepFaceLab, και το λιγότερο συνδεδεμένο με πορνό FaceSwap.

Πρώτη δημοσίευση την Δευτέρα, 27 Απριλίου 2026