Γιατί η Εμπλεξότητα Εννοιών Σημαίνει Ότι Δεν Μπορείτε Να Έχετε Βίντεο ‘Σύμφωνα Με Τον Τρόπο Σας’

Τα εργαλεία βίντεο AI υπόσχονται πλήρη έλεγχο, αλλά η κρυφή ‘εμπλεξότητα εννοιών’ κολλάει ταυτότητες, εκφράσεις και συμπεριφορές μαζί, αναγκάζοντας τους χάκερ και τα template tricks να σπάσουν τον μύθο της άνετης μαγικής GenAI.

Γνώμη Από τότε που τελευταία μίλησα για το θέμα αυτό πέντε χρόνια πριν, το πρόβλημα της εμπλεξότητας εννοιών σε εκπαιδευμένα συστήματα AI έχει επεκταθεί σε ένα πολύ ευρύτερο φάσμα χρηστών, χωρίς να κατανοηθεί πραγματικά καλύτερα με τους δικούς του όρους.

Τότε, autoencoder συστήματα deepfake (δηλαδή, το πλέον μη λειτουργικό DeepFaceLab και το λιγότερο πορνογραφικό FaceSwap, και τα δύο προέρχονται από την καταδικασμένη και σχεδόν αμέσως απαγορευμένη εκδοση κώδικα του Reddit του 2017) ήταν το μόνο παιχνίδι στην πόλη για τη δημιουργία σχετικά φωτορεαλιστικών deepfake ανθρώπων.

Αυτά τα συστήματα βασίζονταν σε εκτεταμένα δεδομένα προσωπικής εκπαίδευσης που προορίζονταν να παρέχουν στο μοντέλο AI πληροφορίες για A) πώς φαινόταν ο άνθρωπος σε ηρεμία (ένα κανωνικό αναφοράς ενσωμάτωση) και B) πώς φαινόταν σε διάφορες καταστάσεις που μπορεί να αντανακλούν ένα πρόσωπο, από ύπνο μέχρι γέλιο, φόβο, βαρεμάρα, κυνισμό, λυπή, κ.λπ.

Η ταυτότητα δεν έρχεται μόνη της, αλλά μαζί με εκφράσεις προσώπου. Επιπλέον, ορισμένα συναισθήματα μπορεί να έχουν διαθέσιμα δεδομένα προσώπου μόνο από συγκεκριμένες, ακραίες γωνίες, οι οποίες θα συνδέσουν τη γωνία με το συναισθήμα και αντίστροφα.

Το πρόβλημα ήταν ότι η κανονική ταυτότητα συνήθως έπρεπε να υποτεθεί από λήψεις προσώπου που δεν ήταν από μόνα τους ‘ουδέτερες’, οπότε η πλεονεξία των χαμόγελων και των γελιών που αποκτήθηκαν όταν σαρώθηκαν τα δεδομένα stock θα μετατόπιζαν την κατανομή προς ένα ‘χαμογελώντας προεπιλογή’. Αυτό οφείλονταν στο υψηλό όγκο των λήψεων από το κόκκινο χαλί των φωτογράφων στο διαδικτυακό σαρωμένο εκπαιδευτικό δεδομένο που πληροφορούσε αυτά τα μοντέλα, καθώς και σε οποιοδήποτε άλλο εξίσου αμφίβολο λόγο για τον οποίο ένα σύνολο δεδομένων θα μπορούσε να είναι偏向μένο προς ένα είδος εικόνας.

Με άλλα λόγια, το σύστημα autoencoder θα έπρεπε να προσπαθήσει να εξαγάγει μια ‘ουδέτερη’ έννοια ταυτότητας από χιλιάδες εικόνες όπου τα χαρακτηριστικά του προσώπου были παραμορφωμένα από κανονικές εκφράσεις προσώπου.

Επίσης, έπρεπε να προσπαθήσει να αποσυνδέσει τις σημασιολογικές έννοιες του προσώπου διαφορετικών συναισθημάτων από τις γωνίες που τραβήχτηκαν τα πρόσωπα. Αυτό σήμαινε ότι αν οι μόνο ‘τρομαγμένες’ εκφράσεις προσώπου που ήταν διαθέσιμες είχαν τραβηχτεί από μια προφίλ θέα, το εκπαιδευμένο σύστημα θα μπορούσε να αναπαράγει μόνο αυτήν την εκφραση βέλτιστα από αυτήν τη θέα.

Κοιτάζοντας Μπροστά

Όπως διαχύτη-βασισμένες προσεγγίσεις ανέλαβαν τη σκηνή Gen AI εικόνας (και αργότερα, βίντεο) από το 2022 και μετά, τα γεννητικά συστήματα έγιναν πολύ καλύτερα στην εξαγωγή ακριβών εκφράσεων προσώπου όταν τους παρέχονταν περιορισμένα δεδομένα προσώπου.

Ακόμη και η πολύ δυσχερής πρόκληση της δημιουργίας πειστικών προφίλ προβολών έχει σχεδόν κατακτηθεί, στην τρέχουσα κατάσταση-of-the-art, ενώ τα δεδομένα εκφράσεων έχουν απομακρυνθεί αποτελεσματικά από την ταυτότητα – μέχρι το σημείο που το είδος των ζωντανών deepfake κукλοθέατρου που πρωτοπορήθηκε από το autoencoder-ωθούμενο DeepFaceLive σύστημα έχει πολλές αποτελεσματικές εκτός σύνδεσης εφαρμογές διαχύτη, με την ενεργοποίηση σε πραγματικό χρόνο μια πιθανή μελλοντική ανάπτυξη:

Πατήστε για αναπαραγωγή. Από το έργο ‘FlashPortrait’, διάφορα παραδείγματα οδήγησης अवταράκων μέσω πηγαίων βίντεο. Σε αυτήν την περίπτωση, δεν έχει σημασία ποια πλευρά βρίσκεται το ‘ρεαλιστικό’ domaine, αν υπάρχει. Πηγή 

Ωστόσο, καθώς η καμβάς της GenAI έχει επεκταθεί και η έξοδος έχει γίνει πιο περίπλοκη, το πρόβλημα της εμπλεξότητας έχει απλώς εξαπλωθεί σε πολλές άλλες περιοχές – και τώρα ‘λύνεται’ με κάποιες αρκετά φτηνές και παλιές τεχνικές. Αν δεν ξέρετε τι είναι αυτές οι τεχνικές, μπορεί να έχετε μια πιο θετική άποψη για το πόσο γρήγορα εξελίσσεται και υπερβαίνει τα παλιά προβλήματα η εικόνα και το βίντεο AI.

Ομιλητές Γάτες

Ελπίζω ότι είναι σαφές γιατί η ταυτότητα και το συναισθήμα αποδείχθηκαν δύσκολο να διαχωριστούν για τα παλιά συστήματα autoencoder του 2017. Ήταν επειδή α) Υπήρχε πολύ δεδομένα ενός είδους, Ή β) το μοντέλο αρχιτεκτονικής δεν ήταν ικανό να διαχωρίσει αυτές τις ποιότητες και είχε την τάση να τις ‘κολλάει μαζί’ κατά την時間 inference, trừ khi ο χρήστης έπαιρνε μια εξαιρετική ποσότητα φροντίδας για να διασφαλίσει την ισορροπία στο σύνολο δεδομένων.

Για τον ίδιο ακριβώς λόγο, παρόμοια προβλήματα έχουν εμφανιστεί σε eine σειρά από ανοιχτά και ιδιωτικά μοντέλα βίντεο τα τελευταία χρόνια, αν και έχουν επισκιαστεί από μεγαλύτερα επίπεδα κριτικής γύρω από hallucination, έλλειψη цензуры, και διάφορα άλλα θέματα.

Για παράδειγμα, στο Wan2.+ σύστημα, πολλοί χρήστες έχουν βρει ότι είναι πολύ δύσκολο να σταματήσουν τους γεννημένους χαρακτήρες από ομιλία, και συχνά επίσης δύσκολο να σταματήσουν να κοιτάζουν στην κάμερα.

Το τελευταίο ζήτημα (κοιτάζοντας στην κάμερα, ή σπάζοντας τον τέταρτο τοίχο) προηγήθηκε της ανάπτυξης συστημάτων διαχύτη μόνο εικόνας,由于 την επικράτηση ‘κοιτάζοντας στην κάμερα’ φωτογραφιών σε διαδικτυακά σαρωμένα σύνολα δεδομένων όπως LAION.

Το ζήτημα γύρω από ‘ομιλητές’ χαρακτήρες προέρχεται από την εύκολη αφθονία ‘εμπνευστών’ βίντεο στο YouTube, τα οποία φυσικά προσφέρουν χιλιάδες ώρες ομιλίας απευθείας στη λεία, συχνά επιμελημένα σε σύνολα δεδομένων όπου ερευνητές μπορούν να καθαρίσουν το διαδικτυακό σαρωμένο δεδομένο παρέχοντας einen ακαδημαϊκό контекст.

Αλλά trừśli οι αρχικοί ή μεταγενέστεροι επιμελητές δεν φροντίζουν να περιορίσουν τον αριθμό των βίντεο αυτού του είδους και να ισορροπήσουν τα δεδομένα τους με διαφορετικά είδη βίντεο, μια σοβαρή προκατάληψη αναπτύσσεται στο μοντέλο βίντεο, η οποία θα χρειαστεί διόρθωση μέσω προrompt-βασισμένων λύσεων και διαφορετικών τρίτων συστημάτων.

Αντιμετωπίζοντας το ζήτημα ‘ομιλίας’ του Wan, ο χρήστης Reddit u/Several-Estimate-681 βρήκε μια περίστροφή που αξιοποιεί μια ρύθμιση στο σύστημα Wan 2.1 Infinite Talk V2V – ένα πλαίσιο που σχεδιάστηκε για να ενθαρρύνει την ομιλία τύπου influencer – που επιτρέπει στον χρήστη να σιγάζει τον αποδομένο χαρακτήρα:

Πατήστε για αναπαραγωγή: Απλά ακούστε – μια περίστροφή για να επιτύχετε την προσοχή του χαρακτήρα στο Wan2.+. Πηγή 

Είναι σαφές ότι οι περίστροφες αυτού του είδους δεν αντιπροσωπεύουν χαμηλού επιπέδου αρχιτεκτονικές λύσεις, και, στην απουσία αληθινών λύσεων που βρέθηκαν και εφαρμόστηκαν από τους δημιουργούς των μοντέλων θεμελίωσης (επειδή οι χόμπι δεν έχουν συνήθως εκατομμύρια δολάρια για να αναπαράγουν ή να tinh chỉnh τέτοιο έργο), αυτό σημαίνει ότι το παιχνίδι της εμπλεξότητας ‘whack a mole’ είναι πιθανό να επαναρχίσει από το μηδέν στην επόμενη έκδοση.

Φτηνά και Ευπαθή

Δεν υπάρχει τίποτα στην αρχιτεκτονική διαχύτη που κάνει αυτά τα προβλήματα αναπόφευκτα. Πράγματι, αν υπήρχε ένας τρόπος να εφαρμοστεί πραγματικά αποτελεσματική επιμέλεια, τριβή και υψηλής ποιότητας λεπτομέρειες και αναnotations σε υπερκλίμακα σύνολα δεδομένων με εκατομμύρια σημεία δεδομένων, σχεδόν όλα αυτά τα προβλήματα θα εξαφανίζονταν.

Ωστόσο, αυτό το επίπεδο προσοχής στη λεπτομέρεια θα ήταν παρόμοιο με το πρότζεκτ Μανχάταν όσον αφορά τη λογιστική, το εύρος, τις απαιτούμενες πόρους και τη μακροχρόνια προσπάθεια. Σε ένα κλίμα όπου μια νέα αρχιτεκτονική, ή ακόμη και μια νέα αρχιτεκτονική έκδοση θα μπορούσε να ανατρέψει το μέγεθος τέτοιου είδους προσπάθειας, δεν υπάρχει τρέχουσα βούληση να κάνει τέτοιο δεσμεύσιμο.

Συνεπώς, όσο είναι σύμφωνο με την απόκτηση χρηστικών μοντέλων, οι φθηνότερες προσεγγίσεις παραμένουν προτιμότερες. Ένα παράδειγμα τέτοιας ‘λιγνότητας’ είναι η αύξηση δεδομένων, η οποία, όταν εφαρμόζεται ασεβώς και σε λάθος είδη βίντεο, μπορεί να έχει γέλοια αποτελέσματα:

Επειδή η αύξηση δεδομένων συχνά αντιστρέφει την κατεύθυνση των πηγαίων βίντεο στο σύνολο δεδομένων, το μοντέλο AI μπορεί να μάθει μερικές ‘αδύνατες’ κινήσεις. – Πηγή

Ωστόσο, στο σύνολο, οι βράχοι που κυλάνε προς τα πάνω και οι άνθρωποι που σπάζουν τον χαρακτήρα τους στρέφοντας τον ‘τροπικό τρόπο’ θεωρούνται συνήθως περιπτώσεις παραπτώματος σε γεννητικά συστήματα που μπορούν, παρά τις συνεχείς γκούνιες και τα αδύνατα σημεία, να ωθηθούν να παράγουν εντυπωσιακά αποτελέσματα και αρκετά εντυπωσιακά заголовια.

Προκατασκευασμένες Λύσεις

Στην τρέχουσα περίοδο, εκατοντάδες γεννητικά βίντεο domain, σχεδόν όλα από τα οποία σε κάποιο βαθμό σπάζουν το νέο κύμα νόμων και αντίδρασης ενάντια στη GenAI, απολαμβάνουν τον καιρό τους στο τραπέζι πριν η νομική επιβολή, οι λίστες αποκλεισμού ή άλλα είδη αποσύνδεσης αφαιρέσουν αυτές τις εμπορικές υπηρεσίες.

Οι μεγαλύτερες και πιο γνωστές ιστοσελίδες αυτού του είδους, όπως το Kling και το Grok, τείνουν να ακολουθούν είτε κάποιο είδος αυτο-цензуρας (τελικά), είτε να ανταποκρίνονται στην κριτική με την αλλαγή του είδους περιεχομένου που οι πλατφόρμες τους διευκολύνουν για τους χρήστες.

Αλλά πίσω από αυτές τις μεγάλες ονόματα υπάρχουν εκατοντάδες άλλες εφήμερες επιχειρήσεις, που προσφέρουν συνεχώς νέα και πιο ακραία περιεχόμενο.

Είδος προμήθειας προϋποθέτει την εξαιρετικά υψηλή κόστος και την προσπάθεια της εκπαίδευσης των μοντέλων θεμελίωσης από την αρχή. Πολύ συχνά, ακόμη και η tinh chỉnh, η οποία κοστίζει σημαντικά λιγότερο, προϋποθέτει.

Επομένως, αυτές οι ιστοσελίδες προσφέρουν ‘προκατασκευασμένα’, τα οποία συμπεριφέρονται 100% ιδιαίτερα στην πράξη με custom-εκπαιδευμένα LoRAs, τα οποία έχουν χρησιμοποιηθεί από χόμπι AI για πάνω από τέσσερα χρόνια τώρα, για να εκπαιδεύσουν οποιαδήποτε επιθυμητή ταυτότητα, στυλ, αντικείμενο και (στη περίπτωση βίντεο LoRAs) κίνηση ή δράση σε ένα αφιερωμένο LoRA βοηθό.

Με το LoRA τοποθετημένο μεταξύ του χρήστη και του μοντέλου θεμελίωσης, τα αποτελέσματα που λαμβάνονται θα είναι πολύ συγκεκριμένα σε αυτό που το LoRA εκπαιδεύτηκε, και, συνήθως, η ευρύτερη απόδοση του μοντέλου υπονίκηται από την επηρεαστική επιρροή του LoRA, η οποία θα αναπαράγει το δικό της αντικείμενο πολύ καλά, αλλά θα τοποθετήσει επίσης αυτό το υλικό σε οποιαδήποτε αίτηση οποιουδήποτε είδους (αν οι εφήμερες ιστοσελίδες GenAI βίντεο επιτρέψουν αυτό το επίπεδο ελέγχου – δεν το κάνουν, απλώς προσφέρουν ένα ΑΝΤΙΚΕΙΜΕΝΟ ΤΟΥ ΕΠΙΛΟΓΗΣ ΣΑΣ πρότυπο, και ερμηνεύουν την είσοδο κειμένου/εικόνων/βίντεο με τον τρόπο που πιθανότατα θα οδηγήσει σε μια επιτυχημένη εφαρμογή του προτύπου).

Για φανερά λόγους, δεν μπορώ να ενσωματώσω δείγματα ιστοσελίδων σε αυτό το άρθρο, αλλά η ερευνητική βιβλιογραφία έχει πρόσφατα προσφέρει κάποια ανάλογα παραδείγματα. Εδώ, για παράδειγμα, το EffectMaker project δείχνει την αρχή σε δράση, όπου μια συγκεκριμένη δράση εφαρμόζεται σε μια εικόνα που παρέχεται από τον χρήστη:

Πατήστε για αναπαραγωγή. Στο EffectMaker, μπορείτε να εφαρμόσετε συγκεκριμένες επιδράσεις σε προσαρμοσμένη είσοδο. Πηγή 

Ακόμη και σε αυτές τις εξαιρετικά επιμελημένες και στοχευμένες περιπτώσεις, οι χρήστες συχνά παραπονιούνται ότι πρέπει να κάνουν πολλές, token-καπνισμένες προσπάθειες για να πάρουν ένα καλό αποτέλεσμα, και δεν πρέπει να αποδίδουμε στην προμηθευτή αβαρία ή δόλια πρακτικά αυτό που είναι πιο πιθανό το λάθος των congenitally ‘hit-and-miss’ DiT GenAI πλαισίων.

Η ευρύτερη κοινότητα, θα μπορούσε να υποστηριχθεί, παίρνει την εντύπωση για τις ικανότητες της GenAI από επιλεγμένα παραδείγματα που δεν είναι αντιπροσωπευτικά του τι θα πάρει ένας τυχαίος, αρχάριος χρήστης.  Αν ένας χρήστης καίει έξι προσπάθειες για ένα πρότυπο (δηλαδή, ένα LoRA που παρέχεται από την ιστοσελίδα AI), θα τείνει να δημοσιεύσει και να επαινεθεί το καλύτερο από αυτά, μεταφέροντας την εντύπωση ότι θα μπορούσε να πάρει τέτοια αποτελέσματα απευθείας από το βασικό μοντέλο – και μεταφέροντας την εντύπωση ότι τα γεννητικά μοντέλα θεμελίωσης είναι πολύ πιο αποσυνδεμένα από ό,τι πραγματικά είναι.

Συμπέρασμα

Η βιβλιογραφία συνεχίζει να εξετάζει το πρόβλημα της εμπλεξότητας, το οποίο πρώτα εμφανίστηκε σοβαρά γύρω στο 2020, στη συνεργασία Max Planck/Google A Sober Look at the Unsupervised Learning of Disentangled Representations and their Evaluation.

Επιπλέον, διάφοροι διάδοχοι του Disentanglement via Contrast (DisCo) εμφανίζονται περιοδικά, και η σκηνή παραμένει ζωντανή με μια επίγνωση του προβλήματος που υπερβαίνει σημαντικά την δημόσια επίγνωση του τι δεν μπορεί να κάνει η AI, σε σχέση με αυτό.

Μια Κινέζικη μελέτη από το 2024 προτείνει ότι μια λύση στην εμπλεξότητα μπορεί να μην είναι απαραίτητη για να λυθούν τα προβλήματα που προκαλεί. Ιστορικά, αυτό δείχνει αλήθεια,既然 πολλά ανεπίλυτα ζητήματα στην οπτική αναγνώριση υπερκεράστηκαν όχι λύνοντας τα, αλλά υπερβαίνοντας τα μέσω εντελώς νέων τεχνικών και προσεγγίσεων.

Μέχρι να εμφανιστεί ένας ξεχωριστός ανταγωνιστής, φαίνεται ότι θα συνεχίσουμε να χρειαζόμαστε να εφαρμόζουμε γρήγορες λύσεις και επιθέσεις στα ελαττώματα και τις περιορισμοί της GenAI, και να αντέχουμε την υπερεκτίμηση της ευελιξίας και της δυσκόλειας των μοντέλων θεμελίωσης.

Πρώτη δημοσίευση Δευτέρα, 23 Μαρτίου 2026