Η γωνία του Anderson

Τα «ανεξέλεγκτα» δεδομένα που μολύνουν την απόδοση της παραγωγικής AI

Martin Anderson
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Flux Dev, Firefly.
Βασικά σημείαΗ ευρεία διαρροή δεδομένων σε μεγάλα σύνολα εκπαίδευσης ΤΝ διογκώνει τεχνητά τα…
Δείτε περισσότερα
  • Η ευρεία διαρροή δεδομένων σε μεγάλα σύνολα εκπαίδευσης ΤΝ διογκώνει τεχνητά τα αποτελέσματα απόδοσης των μοντέλων.
  • Μολυσμένα σύνολα δεδομένων υπονομεύουν την εγκυρότητα των προτύπων αξιολόγησης ΤΝ και των ισχυρισμών γενίκευσης στον πραγματικό κόσμο.
  • Οι ερευνητές προτρέπουν τους σχεδιαστές συνόλων δεδομένων να εφαρμόσουν ανίχνευση διπλοτύπων για να διασφαλιστεί δίκαιη αξιολόγηση των μοντέλων.

Μια νέα μελέτη βρίσκει ότι πολλά δημοφιλή σύνολα εικόνων που χρησιμοποιούνται για την εκπαίδευση μοντέλων AI είναι μολυσμένα με εικόνες δοκιμών ή σχεδόν διπλότυπα, επιτρέποντας στα μοντέλα να απάτησαν απομνημονεύοντας απαντήσεις αντί να μάθουν. Η διαρροή είναι ευρεία αλλά γενικά δεν ανιχνεύεται, σιωπηλά φουσκώνοντας τα σκορ και δίνοντας άδικη πλεονέκτημα στα μοντέλα που εκπαιδεύονται σε δεδομένα κλίμακας web.

 

Όταν περνάτε μια εξέταση οδήγησης, συνήθως δεν σας λένε εκ των προτέρων ποια ακριβώς δρόμοι θα χρησιμοποιηθούν για την εξέταση. Αν σας το έλεγαν (και έλειπε λίγο η ακεραιότητα), μπορείτε να «βελτιώσετε» για την εξέταση πρακτική στην συγκεκριμένη διαδρομή, αντί να αναπτύξετε ευρύτερες ικανότητες οδήγησης που μπορούν να χειριστούν οποιαδήποτε διαδρομή λογικά.

Στην εκπαίδευση μοντέλων μηχανικής μάθησης, αυτό είναι ένα εύλογη αναλογία για ένα διαχωρισμό δοκιμών – ένα διαχωρισμό του συνόλου δεδομένων εκπαίδευσης μεταξύ (συνήθως) ενός 70% διαχωρισμού για τα δεδομένα που θα χρησιμοποιηθούν για την εκπαίδευση του μοντέλου, με τα υπόλοιπα 30% να χρησιμοποιούνται ως «στο πεδίο» δεδομένα.

Καθώς το μοντέλο δεν έχει δει ποτέ τα δεδομένα «του πραγματικού κόσμου», αν αποδίδει καλά σε αυτά, μπορεί να θεωρηθεί αποτελεσματικό και αποδοτικό· αν όχι, το μοντέλο μπορεί να υπερπροσαρμοστεί σε ένα καλά ισορροπημένο σύνολο – ή αλλιώς τα δεδομένα χρειάζονταν επιπλέον επιμέλεια και ορισμό.

Είτε τρόπος, όχι η αξιολόγηση μοντέλων στα δεδομένα εκπαίδευσής τους είναι ο ακρογωνιαίος λίθος της τρέχουσας μεθόδου στην έρευνα και ανάπτυξη AI.

Το Ίδιο Ξανά, Παρακαλώ

Σύμφωνα με μια νέα έρευνα από την Ιαπωνία, ο τομέας της υπολογιστικής όρασης και της γεννητικής AI δεν έχει προσεγγίσει ούτε κοντά τις προσπάθειες των ερευνητών LLM για να διασφαλίσει ότι τα δεδομένα δοκιμών δεν μολύνουν τα δεδομένα εκπαίδευσης· στις δοκιμές, οι ερευνητές βρήκαν ότι κάθε υπερκλίμακα σύνολο όρασης που μελετήθηκε, συμπεριλαμβανομένων εκείνων που τροφοδοτούν ορισμένα από τα μεγαλύτερα τρέχοντα γεννητικά συστήματα AI, έχει σε κάποιο βαθμό επιτρέψει στα δεδομένα δοκιμών να διασχίσουν τα δεδομένα εκπαίδευσης – σημαίνοντας ότι τα μετρήσεις αναφοράς και οι αναφορές απόδοσης για μοντέλα που εκπαιδεύονται σε αυτά τα διαχωρίσματα δεν θα είναι πιο ακριβή από ένα αποτέλεσμα εξέτασης από κάποιον που έφερε κρυφά ένα σκονάκι στην αίθουσα εξετάσεων, και δεν θα αντανακλούν την πραγματική απόδοση σε πραγματικά καινούργια δεδομένα.

Παραδείγματα διαρροής δεδομένων που βρέθηκαν από τους ερευνητές, όπου υπάρχουν διπλότυπα ή σχεδόν διπλότυπα σημεία δεδομένων και στα δεδομένα εκπαίδευσης και στα δεδομένα δοκιμών. Πηγή: https://arxiv.org/pdf/2508.17416

Παραδείγματα διαρροής δεδομένων που βρέθηκαν από τους ερευνητές, όπου υπάρχουν διπλότυπα ή σχεδόν διπλότυπα σημεία δεδομένων και στα δεδομένα εκπαίδευσης και στα δεδομένα δοκιμών. Πηγή: https://arxiv.org/pdf/2508.17416

Στην εικόνα παραπάνω, από τη νέα εργασία, βλέπουμε παραδείγματα είτε διπλότυπων είτε σχεδόν διπλότυπων σημείων δεδομένων που βρέθηκαν και στα δεδομένα εκπαίδευσης και στα δεδομένα δοκιμών πολλών μοντέλων – αρκετά για να ακυρώσουν την απόδοση του μοντέλου σε αυτά τα δεδομένα, και να φουσκώσουν ελαφρά τα γενικά σκορ, διευκολύνοντας την εμφάνιση ενός επιπέδου γενίκευσης που το μοντέλο μπορεί να μην έχει στην πραγματικότητα.

Για να κάνουν τα πράγματα πιο περίπλοκα, η μόλυνση φαίνεται να συμβαίνει σε μια ποικιλία σεναρίων, συμπεριλαμβανομένης της ‘προ-εκπαίδευσης‘, όπου τα βάρη των παλαιότερων προγονικών μοντέλων χρησιμοποιούνται για να «ξεκινήσουν» ένα νέο μοντέλο. Αν το ανώτερο, παλαιότερο μοντέλο έχει κάποια από τα ίδια δεδομένα όπως το νέο σύνολο δεδομένων που προ-εκπαιδεύεται, τότε η διαρροή μπορεί να συμβεί ακόμη και αν ο διαχωρισμός 70/30 ή 80/20 είναι καθαρός.

Συσσωρευτική επίδραση

Αυτό είναι σχεδόν βέβαιο ότι θα συμβεί ακόμη και στα πιο πρόσφατα σύνολα δεδομένων· το εύρος των συνόλων δεδομένων όρασης/γλώσσας έχει αυξηθεί τεράστια τα τελευταία πέντε χρόνια,λαμβάνοντας όχι μόνο τα πιο πρόσφατα δεδομένα εικόνων στο web, αλλά και ξανα-καλλιεργώντας πολύ από τα ίδια δεδομένα που κατοικούσαν αυτά τα παλαιότερα, ιστορικά σύνολα δεδομένων.

Επιπλέον, αυτοματοποιημένες διαδικασίες που έχουν σχεδιαστεί για να ψάξουν και να φιλτράρουν δισεκατομμύρια εικόνων για διπλότυπα και σχεδόν διπλότυπα αντιμετωπίζονται τώρα με τόσο δυσχερή εργασία που η επιμέλεια – το κόστος της σε όρους χρόνου και χρημάτων – πρέπει τώρα να θεωρηθεί στο πλαίσιο των προϋπολογιστικών περιορισμών

Εν τω μεταξύ, η διπλοποίηση εικόνων είναι μια αναπόφευκτη συνέπεια του είδους ad hoc web-ψαρέματος που βρίσκεται πίσω από τεράστια συλλογές όπως η Common Crawl, λόγω της κοινής πρακτικής της επαναδημοσίευσης και της επανασυμπίεσης εικόνων, και της εφαρμογής επεξεργασιών όπως οι περικοπές, και ακόμη και αναστροφές (για να αποφευχθεί η ανίχνευση, όταν η εικόνα μπορεί να έχει χρησιμοποιηθεί χωρίς άδεια, για παράδειγμα).

Οι συγγραφείς παρατηρούν*:

‘Η διαρροή δεδομένων είναι ένα ευρεία πρόβλημα, που επικρατεί στα περισσότερα οπτικά σύνολα. Η διαρροή μπορεί να σκεπάσει την ικανότητα γενίκευσης των μοντέλων, που είναι ιδιαίτερα προβληματικό όταν συγκρίνουμε μοντέλα που εκπαιδεύονται σε διαφορετικά σύνολα, οδηγώντας σε άδικές συγκρίσεις.

‘Συστήνουμε στους σχεδιαστές συνόλων δεδομένων να σκεφτούν προσεκτικά τις επιπτώσεις αυτών των αξιολογήσεων. Για μια δίκαιη αξιολόγηση μοντέλων, συνιστούμε τη χρήση ανιχνευτών διπλότυπων που λαμβάνουν υπόψη και τη σκληρή και τη μαλακή διαρροή.

‘Ιδανικά, οι διαρρεύσεις εικόνων πρέπει να αφαιρεθούν από το σύνολο εκπαίδευσης, και αν αυτό δεν είναι δυνατό, πρέπει τουλάχιστον να αφαιρεθούν από το σύνολο δοκιμών.’

Η εργασία επεκτείνει σε μια σειρά από δοκιμές που διεξήγαγαν οι ερευνητές σε τεράστια και δημοφιλή σύνολα δεδομένων – κάθε ένα από τα οποία έδειξε κάποιο επίπεδο μόλυνσης.

Η νέα εργασία έχει τον τίτλο Διαρροή Δεδομένων σε Οπτικά Σύνολα, και προέρχεται από τρεις ερευνητές στο Πανεπιστήμιο της Οσάκα.

Μέθοδος

Οι συγγραφείς της εργασίας ορίζουν τη διαρροή σε σχέση με τρεις διαστάσεις: τροπικότητα, κάλυψη, και βαθμός.

Τροπικότητα διακρίνει εάν μόνο εικόνες διαρρέουν ή εάν και εικόνες και ετικέτες εκτίθενται· κάλυψη αναγνωρίζει εάν η επικάλυψη συμβαίνει μέσα στο ίδιο σύνολο ή μεταξύ διαφορετικών συνόλων· και βαθμός ορίζει εάν το διπλότυπο περιεχόμενο είναι ακριβώς το ίδιο ή απλά γειτονικό.

Σχετικά με τη διαρροή, τα δύο σενάρια που εξετάζονται στην εργασία είναι εσωτερική διαρροή (όπου οι εικόνες αξιολόγησης επανεμφανίζονται στο διαχωρισμό εκπαίδευσης του ίδιου συνόλου), και δια-συνόλου διαρροή (όπου οι εικόνες αξιολόγησης από ένα σύνολο είναι παρόντες σε ένα διαφορετικό σύνολο που χρησιμοποιείται για εκπαίδευση).

Σχετικά με τον βαθμό, οι δύο επίπεδα που ορίζονται είναι μαλακή διαρροή (όπου οι εικόνες δεν είναι πανομοιότυπες αλλά εμφανίζουν μικρές παραλλαγές), και σκληρή διαρροή (όπου οι εικόνες είναι ακριβώς οι ίδιες σε εκπαίδευση και αξιολόγηση).

Οι ερευνητές αντιμετωπίζουν την ανίχνευση της διαρροής σε σχέση με την ανάκτηση εικόνων, χρησιμοποιώντας κωδικοποιητές εικόνων για να αντιπροσωπεύσουν κάθε εικόνα ως ένα διάνυσμα χαρακτηριστικών. Το σύνολο ερωτημάτων είναι τα δεδομένα αξιολόγησης, ενώ το σύνολο συλλογής είναι το σύνολο εκπαίδευσης.

Για μικρότερα σύνολα, κάθε διάνυσμα χαρακτηριστικών ερωτήματος συγκρίνεται απευθείας με όλα τα διανύσματα εκπαίδευσης χρησιμοποιώντας ομοιότητα συνημιτόνου. Για μεγαλύτερα σύνολα, ένας δείκτης Faiss κατασκευάζεται για να επιτρέψει ταχύτερη, K-Nearest Neighbors (KNN) αναζήτηση.

Καθώς ο κωδικοποιητής χρειάζεται να συλλάβει αρκετές οπτικές πληροφορίες για να ανιχνεύσει λεπτές ομοιότητες, αλλά να παραμείνει αποτελεσματικός αντιμετωπίζοντας πολύ υψηλά όγκους δεδομένων, οι συγγραφείς βασίστηκαν σε προ-υπολογισμένα CLIP χαρακτηριστικά που παρέχονται από τους δημιουργούς του συνόλου, στην περίπτωση της συλλογής LAION που υποστηρίζει τη Stable Diffusion, και αργότερα έργα.

Οι συγγραφείς σημειώνουν ότι η άδεια CLIP να χρησιμοποιήσει τη συμπυκνωμένη κατανόησή του για το σύνολο (αντί να ρωτήσει τα πραγματικά αρχεία σε κλίμακα) επιτάχυνε τη διαδικασία σημαντικά, και προσέφερε βελτιωμένη συνεπήτητα στις συγκρίσεις.

Δεδομένα και Δοκιμές

Ο κωδικοποιητής εικόνων CLIP που χρησιμοποιήθηκε στις δοκιμές για τη νέα εργασία ήταν ο προεπιλεγμένος CLIP ViT-B/32 που χρησιμοποιήθηκε αρχικά για να διακρίνει τη LAION. Για να καθορίσουν εάν διάφορα σημεία δεδομένων ήταν συναφής, χρησιμοποιήθηκε KNN υπό AutoFaiss.

Τα σύνολα δεδομένων ομαδοποιήθηκαν σε τρεις τύπους: προ-εκπαίδευση – μεγάλες, συλλεγμένες από τον ιστό συλλογές που χρησιμοποιούνται για την εκπαίδευση γενικευμένων μοντέλων· εκπαίδευση – μικρότερα, συχνά επισημειωμένα σύνολα, που προορίζονται για άμεση εκπαίδευση μοντέλων· και σύνολο αναφοράς – επισημειωμένα χειροκίνητα, και χρησιμοποιούνται αποκλειστικά για αξιολόγηση.

Η ανάλυση κάλυψε είκοσι διαχωρισμούς σε επτά σύνολα δεδομένων: Microsoft COCO χρησιμοποιήθηκε και ως σύνολο εκπαίδευσης και ως σύνολο αξιολόγησης, ενσωματώνοντας τα train, validation, test, και unlabeled διαχωρισμούς· Flickr30k χρησιμοποιήθηκε αποκλειστικά ως σύνολο αναφοράς· και η Google Conceptual Captions (GCC) συλλογή χρησιμοποιήθηκε ως πηγή προ-εκπαίδευσης, με το τμήμα validation να χρησιμοποιείται επίσης για αξιολόγηση.

Επιπλέον, ImageNet χρησιμοποιήθηκε και για εκπαίδευση και για σύνολο αναφοράς, ενώ το LAION-400M σύνολο δεδομένων χρησιμοποιήθηκε αποκλειστικά για προ-εκπαίδευση.

OpenImages v4 συνεισέφερε δεδομένα εκπαίδευσης και σύνολο αναφοράς, και TextCaps παρείχε και δεδομένα εκπαίδευσης και δεδομένα δοκιμών για αξιολόγηση.

Παραδείγματα επισημειώσεων εικόνων από το σύνολο δεδομένων Open Images της Google, που εξετάζονται στην νέα εργασία. Πηγή: https://arxiv.org/pdf/1811.00982

Παραδείγματα επισημειώσεων εικόνων από το σύνολο δεδομένων Open Images της Google, που εξετάζονται στην νέα εργασία. Πηγή: https://arxiv.org/pdf/1811.00982

Για να αξιολογήσουν πώς η μέθοδος μπορεί να ανιχνεύσει διαρροή όταν οι εικόνες έχουν υποστεί λεπτές αλλαγές μέσω αναδιαμόρφωσης, περικοπής ή παρόμοιων μη σημασιολογικών μετασχηματισμών, οι συγγραφείς έκαναν δοκιμές στο Flickr30k, τυχαία επιλέγοντας 5.000 εικόνες ως ερωτήματα, και χρησιμοποιώντας το σύνολο δεδομένων ως σύνολο συλλογής.

Κάθε εικόνα ερωτήματος μετατράπηκε πριν από την κωδικοποίηση (δηλ. υποβεβλημένη σε μια μη σημασιολογική τροποποίηση όπως αναδιαμόρφωση ή περικοπή), και στη συνέχεια αντιστοιχίστηκε στο πιο παρόμοιο στοιχείο στη συλλογή χρησιμοποιώντας ομοιότητα συνημιτόνου· μια αντιστοίχηση μετρήθηκε μόνο εάν η αρχική εικόνα ανακτήθηκε ως το πρώτο αποτέλεσμα.

Οι τρεις κωδικοποιητές που συγκρίθηκαν ήταν ResNet-152; DINOv2 ViT-B/14; και CLIP ViT-B/32.

Τέσσερις τύποι μη σημασιολογικών μετασχηματισμών εικόνων χρησιμοποιήθηκαν: γεωμετρικοί (αντιστροφές και περιστροφές); περικοπή (αφαίρεση 20, 50, ή 100 pixel από κάθε άκρο); pixelization (Γκαουσιανή θόλωση, πρόσθετο θόρυβο, ή downsampling σε 128 ή 256 pixel); και χρώμα (κλίμακα του γκρι, αντιστροφή, ή κόκκινα, πράσινα, ή μπλε επικάλυψη).

Από το συμπληρωματικό υλικό, παραδείγματα των μετασχηματισμών που εφαρμόστηκαν στα δεδομένα – τυπικές διαδικασίες που χρησιμοποιούνται επίσης στην προεπεξεργασία για επαύξηση δεδομένων.

Από το συμπληρωματικό υλικό, παραδείγματα των μετασχηματισμών που εφαρμόστηκαν στα δεδομένα – τυπικές διαδικασίες που χρησιμοποιούνται επίσης στην προεπεξεργασία για επαύξηση δεδομένων.

Οι συγγραφείς τότε έκαναν δοκιμές για διαρροή στην ανάκτηση εικόνων:

Ακρίβεια ανίχνευσης διαρροής σε 5.000 εικόνες ερωτημάτων Flickr30k που υποβεβληθηκαν σε διάφορους μη σημασιολογικούς μετασχηματισμούς.

Ακρίβεια ανίχνευσης διαρροής σε 5.000 εικόνες ερωτημάτων Flickr30k που υποβεβληθηκαν σε διάφορους μη σημασιολογικούς μετασχηματισμούς.

Όλοι οι τρεις κωδικοποιητές πέτυχαν τέλεια απόδοση σε αμεταβλητές εικόνες, και το CLIP παρέμεινε αξιόπιστο σε περικοπές, οριζόντιες αντιστροφές, θόρυβο, και αναδιαμόρφωση, ξεπερνώντας το ResNet στις αλλαγές pixel και χρώματος.

Το DINOv2 έδειξε ισχυρή ανθεκτικότητα σε μετασχηματισμούς χρώματος (πιθανότατα λόγω του αυτο-επιτηρημένου σχεδιασμού του, όπως υποστηρίζουν οι συγγραφείς), αλλά ήταν αξιοσημείωτα πιο αδύναμο σε γεωμετρικές επεξεργασίες και περικοπές – και οι δύο είναι κοινές σε διπλότυπα σύνολα δεδομένων.

Καθώς η LAION ήδη περιλαμβάνει CLIP ενσωματώσεις, και δεδομένου του συνεπή ρυθμό και ταχύτητά του, το CLIP επιλέχθηκε ως ο προεπιλεγμένος κωδικοποιητής για την κύρια ανάλυση.

Σκληρή και Μαλακή Διαρροή

Η απόδοση αξιολογήθηκε σε διάφορες τιμές ομοιότητας συνημιτόνου για να διακρίνει μεταξύ πανομοιότυπων και σχεδόν πανομοιότυπων εικόνων (σκληρή και μαλακή διαρροή).

Μια ομοιότητα συνημιτόνου 0,98 επιλέχθηκε για να ορίσει τη σκληρή διαρροή, με αποτέλεσμα κανένα ψευδές θετικό και τέλεια ανίχνευση ακριβών εικόνων.

Για τη μαλακή διαρροή, μια ομοιότητα συνημιτόνου 0,95 επιλέχθηκε, επιτρέποντας περισσότερα σχεδόν διπλότυπα να ανακτηθούν ενώ διατηρούσε μια σχεδόν μηδενική ψευδώς θετική ταξινόμηση. Προτεραιότητα δόθηκε στην ακρίβεια έναντι της ανακάλυψης, και τα ευρήματα ήταν συντηρητικά υπολογισμένα:

Καμπύλες χαρακτηριστικών λειτουργίας δέκτη (ROC) χρησιμοποιήθηκαν για να οδηγήσουν την επιλογή των σκληρών και μαλακών κατωφλιών για ανίχνευση διαρροής. Υψηλά σκορ AUC τόσο υπό τις μετασχηματισμένες και αμεταβλητές συνθήκες δείχνουν ότι σχεδόν διπλότυπα μπορούν να διακρίνουν από μη σχετιζόμενα εικόνες, ακόμη και όταν υπάρχουν ελάχιστες αλλαγές.

Καμπύλες χαρακτηριστικών λειτουργίας δέκτη (ROC) χρησιμοποιήθηκαν για να οδηγήσουν την επιλογή των σκληρών και μαλακών κατωφλιών για ανίχνευση διαρροής. Υψηλά σκορ AUC τόσο υπό τις μετασχηματισμένες και αμεταβλητές συνθήκες δείχνουν ότι σχεδόν διπλότυπα μπορούν να διακρίνουν από μη σχετιζόμενα εικόνες, ακόμη και όταν υπάρχουν ελάχιστες αλλαγές.

Εσωτερική Διαρροή

Η εσωτερική διαρροή υπολογίστηκε με την ανίχνευση της επικάλυψης εικόνων μεταξύ των διαχωρισμών εκπαίδευσης και αξιολόγησης μέσα στο ίδιο σύνολο. Μόνο τα σύνολα με και σύνολο αναφοράς και εκπαίδευση ή προ-εκπαίδευση διαχωρισμούς ήταν επιλέξιμα, στενεύοντας την ανάλυση στο COCO, GCC, ImageNet, OpenImages, και TextCaps.

Για το COCO, το σύνολο δοκιμών συγκρίθηκε με το σύνολο εκπαίδευσης, το σύνολο αξιολόγησης, και το σύνολο unlabeled, και το σύνολο validation με το σύνολο εκπαίδευσης και το σύνολο unlabeled.

Οι υψηλότερες ποσοστίες εσωτερικής διαρροής παρατηρήθηκαν στο ImageNet test και validation διαχωρισμούς, με τη σκληρή διαρροή να φτάνει μέχρι 1,58% και τη μαλακή διαρροή λίγο κάτω από 2%. GCC και COCO ακολούθησαν, με το COCO val2017 να δείχνει μια μαλακή διαρροή 3% και τα διαχωρισμούς δοκιμών να κυμαίνονται μεταξύ 1,35% και 1,38%. OpenImages έδειξε χαμηλή σκληρή διαρροή 0,05%, αλλά η μαλακή διαρροή ξεπέρασε 1,3% και στα δύο διαχωρισμούς δοκιμών και αξιολόγησης. TextCaps έδειξε την χαμηλότερη συνολική διαρροή, στο 0,69%, με κανένα σκληρή διαρροή να ανιχνευτεί:

Ποσοστά εσωτερικής διαρροής, δείχνοντας το ποσοστό κάθε διαχωρισμού αξιολόγησης που επικαλύπτεται με τα δεδομένα εκπαίδευσης.

Ποσοστά εσωτερικής διαρροής, δείχνοντας το ποσοστό κάθε διαχωρισμού αξιολόγησης που επικαλύπτεται με τα δεδομένα εκπαίδευσης.

Σχετικά με αυτά τα αποτελέσματα, οι συγγραφείς δηλώνουν†:

‘Αυτά τα αποτελέσματα δείχνουν ότι η εσωτερική διαρροή συμβαίνει σε όλα τα αναλυμένα σύνολα, είτε σε σκληρή είτε σε μαλακή μορφή.

‘Καθώς η διαρροή δεδομένων μπορεί να βλάψει την αξιολόγηση του μοντέλου και τα σύνολα δεδομένων είναι ειδικά σχεδιασμένα για αυτόν τον σκοπό, η εσωτερική διαρροή είναι ένα ρίσκο που κατά σχέδιο δεν πρέπει να υπάρχει.

‘Ωστόσο, εντοπίσαμε πολλαπλά παραδείγματα σε όλα τα σύνολα.’

Δια-Συνόλου Διαρροή

Για να μετρήσουν τη δια-συνόλου διαρροή (όπου ένα μοντέλο εκπαιδεύεται σε ένα σύνολο και αξιολογείται σε ένα άλλο), τέσσερα σύνολα δεδομένων χρησιμοποιήθηκαν ως πηγές δεδομένων εκπαίδευσης: GCC train, ImageNet train, OpenImages train, και LAION.

Αυτά αντιστοιχίστηκαν με δεδομένα αξιολόγησης από το COCO 2014 test και validation διαχωρισμό, Flickr30K, TextCaps test, το OpenImages test και validation διαχωρισμό, και το ImageNet test και validation διαχωρισμό.

CLIP ViT-B/32 ενσωματώσεις εξαγωγής για όλα τα σύνολα δεδομένων εκτός από το LAION, το οποίο παρέχει τις δικές του προ-υπολογισμένες ενσωματώσεις. Ωστόσο, δεδομένου ότι αυτές οι ενσωματώσεις διαφέρουν ελαφρά από αυτές που παράγονται χρησιμοποιώντας την επίσημη υλοποίηση CLIP, τα ερωτήματα εικόνων αναπροσαρμόστηκαν σύμφωνα με τη μέθοδο που χρησιμοποιείται στο clip-retrieval repository για να διασφαλιστεί η συμβατότητα.

Η ανάκτηση πραγματοποιήθηκε χρησιμοποιώντας μια KNN αναζήτηση, αν και η κλίμακα του LAION απαιτούσε διαίρεση σε τμήματα ενός εκατομμυρίου εικόνων, με κάθε ένα να ευρετηριάζεται ξεχωριστά:

Δια-συνόλου διαρροή μεταξύ συνόλων δεδομένων αξιολόγησης (στήλες) και συνόλων δεδομένων προ-εκπαίδευσης (σειρές). Στο αριστερό μέρος βλέπουμε 'σκληρή' διαρροή (πανομοιότυπες εικόνες), και στο δεξί μέρος 'μαλακή' διαρροή (σχεδόν διπλότυπα).

Δια-συνόλου διαρροή μεταξύ συνόλων δεδομένων αξιολόγησης (στήλες) και συνόλων δεδομένων προ-εκπαίδευσης (σειρές). Στο αριστερό μέρος βλέπουμε ‘σκληρή’ διαρροή (πανομοιότυπες εικόνες), και στο δεξί μέρος ‘μαλακή’ διαρροή (σχεδόν διπλότυπα).

Η δια-συνόλου διαρροή ανιχνεύθηκε σε όλα τα σύνολα δεδομένων αξιολόγησης, με διάφορα επίπεδα σοβαρότητας. Το LAION έδειξε τις υψηλότερες ποσοστίες σκληρής διαρροής (πανομοιότυπες εικόνες), ιδιαίτερα για τα OpenImages και TextCaps δεδομένα δοκιμών, τα οποία ξεπέρασαν 3%. OpenImages συνεισέφερε μια μικρότερη ποσότητα σκληρής διαρροής στο COCO.

Αν και λιγότερο σοβαρή, το ImageNet περιείχε ακόμη σκληρές διπλότυπες εικόνες από όλα τα εξεταζόμενα σύνολο αναφοράς· και το GCC έδειξε τη χαμηλότερη συνολική σκληρή διαρροή, παραμένοντας κάτω από 1%.

Η μαλακή διαρροή (σχεδόν διπλότυπα) ήταν πιο εκτεταμένη: το LAION παρήγαγε τις υψηλότερες ποσοστίες, με μέχρι 7,9% επικάλυψη για ορισμένα σύνολο αναφοράς· OpenImages και TextCaps ήταν τα πιο επηρεασμένα σύνολο αναφοράς συνολικά· και το Flickr30k έδειξε την ελάχιστη διαρροή.

Αν και τέτοιες επικαλύψεις μπορεί να αντιπροσωπεύουν μόνο ένα μικρό μέρος των συνόλων αξιολόγησης, οι συγγραφείς σημειώνουν ότι η παρουσία τους μπορεί να επιτρέψει απομνημόνευση και να βλάψει την εγκυρότητα των δοκιμών:

Παραδείγματα διαρρεουσών εικόνων. Στο αριστερό μέρος είναι περιπτώσεις 'σκληρής' διαρροής, όπου οι εικόνες είναι πανομοιότυπες μέσα σε ένα σύνολο (πάνω) ή μεταξύ συνόλων (κάτω)· στο δεξί μέρος, περιπτώσεις 'μαλακής' διαρροής, όπου οι εικόνες είναι οπτικά σχεδόν διπλότυπα.

Παραδείγματα διαρρεουσών εικόνων. Στο αριστερό μέρος είναι περιπτώσεις ‘σκληρής’ διαρροής, όπου οι εικόνες είναι πανομοιότυπες μέσα σε ένα σύνολο (πάνω) ή μεταξύ συνόλων (κάτω)· στο δεξί μέρος, περιπτώσεις ‘μαλακής’ διαρροής, όπου οι εικόνες είναι οπτικά σχεδόν διπλότυπα.

Επίδραση στην Αξιολόγηση σε μεταγενέστερες εργασίες

Η εργασία εξετάζει στη συνέχεια πώς η διαρροή δεδομένων επηρεάζει τις αξιολογήσεις σε μεταγενέστερες εργασίες (δηλ. την απόδοση σε τυπικές εργασίες όταν προ-εκπαιδευμένα μοντέλα δοκιμάζονται σε σύνολο αναφοράς που περιέχουν διπλότυπα δεδομένα εκπαίδευσης).

Τρεις εργασίες εξετάστηκαν: zero-shot ταξινόμηση; επιβλεπόμενη ταξινόμηση; και ανάκτηση εικόνας-κειμένου.

Για κάθε εργασία, η απόδοση του μοντέλου αξιολογήθηκε σε ένα σύνολο αναφοράς σύνολο δεδομένων για το οποίο είχαν ήδη αναγνωριστεί διαρρεύσεις στο σύνολο δεδομένων προ-εκπαίδευσης. Τα αποτελέσματα συγκρίθηκαν σε τέσσερις υπο-συνόλους: το πλήρες σύνολο αναφοράς· ένα υπο-σύνολο διαρρεουσών δειγμάτων· ένα υπο-σύνολο μη-διαρρεουσών δειγμάτων· και ένα τυχαία επιλεγμένο υπο-σύνολο του ίδιου μεγέθους με το την ομάδα δειγμάτων με διαρροή (χρησιμοποιημένο ως έλεγχος).

Η επίδραση της διαρροής δεδομένων στις τρεις μεταγενέστερες εργασίες μετρήθηκε χρησιμοποιώντας υπο-συνόλους σύνολο αναφοράς που ήταν γνωστό ότι περιέχουν διαρρεουσές δείγματα. Στη zero-shot ταξινόμηση, ένα μοντέλο προ-εκπαιδευμένο στο LAION έφτασε σε αξιοσημείωτα υψηλότερη ακρίβεια στις διαρρεουσές εικόνες από το σύνολο αξιολόγησης ImageNet, επιβεβαιώνοντας ότι η έκθεση ακόμη και σε σχεδόν διπλότυπα κατά την εκπαίδευση παρέχει ένα μετρήσιμο πλεονέκτημα:

Ακρίβεια zero-shot ταξινόμησης στο σύνολο επικύρωσης ImageNet σε υπο-συνόλους με και χωρίς διαρροή. Η τελευταία στήλη αναφέρει κέρδη ακρίβειας σχετικά με το πλήρες σύνολο, και οι επισημασμένες γραμμές αντιστοιχούν σε υποσύνολα με διαρροή.

Ακρίβεια zero-shot ταξινόμησης στο σύνολο επικύρωσης ImageNet σε υπο-συνόλους με και χωρίς διαρροή. Η τελευταία στήλη αναφέρει κέρδη ακρίβειας σχετικά με το πλήρες σύνολο, και οι επισημασμένες γραμμές αντιστοιχούν σε υποσύνολα με διαρροή.

Για την επιβλεπόμενη ταξινόμηση, η διαρροή στο ImageNet προκάλεσε δραματική πτώση της απόδοσης – εκτός εάν η εικόνα με διαρροή είχε το ίδια ετικέτα κατηγορίας και στα δύο διαχωρισμούς, σε περίπτωση που το μοντέλο έφτασε σε σχεδόν τέλεια ακρίβεια, αποκαλύπτοντας μια ισχυρή επίδραση απομνημόνευσης:

Ακρίβεια επιβλεπόμενης ταξινόμησης στο σύνολο επικύρωσης ImageNet για υπο-συνόλους με και χωρίς διαρροή. Οι στήλες κέρδους δείχνουν την αλλαγή σχετικά με το πλήρες σύνολο. Τα υποσύνολα με διαρροή είναι επισημασμένα.

Ακρίβεια επιβλεπόμενης ταξινόμησης στο σύνολο επικύρωσης ImageNet για υπο-συνόλους με και χωρίς διαρροή. Οι στήλες κέρδους δείχνουν την αλλαγή σχετικά με το πλήρες σύνολο. Τα υποσύνολα με διαρροή είναι επισημασμένα.

Στην ανάκτηση εικόνας-κειμένου, η απόδοση βελτιώθηκε ξανά για τις διαρρεουσές εικόνες, με και τη σκληρή και τη μαλακή διαρροή να οδηγούν σε υψηλότερη ανακλήσεις, και με τα υποσύνολα με διαρροή να δίνουν επίσης πιο σταθερά αποτελέσματα σε διαφορετικές εκτελέσεις:

Ακρίβεια ανάκτησης εικόνας-κειμένου στο Flickr30k σε υπο-συνόλους με και χωρίς διαρροή, με υποσύνολα με διαρροή επισημασμένα.

Ακρίβεια ανάκτησης εικόνας-κειμένου στο Flickr30k σε υπο-συνόλους με και χωρίς διαρροή, με υποσύνολα με διαρροή επισημασμένα.

Οι συγγραφείς συνεχίζουν:

‘Συνολικά, δείχνουμε συνεπή αποδεικτικά στοιχεία ότι η διαρροή αποτελεί ένα σοβαρό κίνδυνο για την δίκαιη αξιολόγηση μοντέλων σε οπτικά σύνολα, βλάπτει μία από τις πιο θεμελιώδεις αρχές της μηχανικής μάθησης: να μην αξιολογούνται μοντέλα στα δεδομένα εκπαίδευσής τους.’

Συμπέρασμα

Ένα σοκαριστικό σημείο της εργασίας, αν και δεν είναι καινούργιο, είναι ο λόγος για την ανάγκη να χρησιμοποιηθεί το CLIP για να ληφθούν ενσωματώσεις για το τεράστιο βουνό δεδομένων εικόνων στη LAION, αντιπροσωπεύοντας μια κλίμακα που δεν μπορεί πλέον να αντιμετωπιστεί με κανέναν άλλο τρόπο παρά με συγκεντρωτική επεξεργασία μεταδεδομένων μετατρεπόμενων σε tokens αντί για τις πιο λεπτομερείς ιδιότητες που μπορούν να ελεγχθούν όταν ένα σύνολο είναι πιο διαχειρίσιμο.

Είναι μια σκληρή εικονογράφηση του βαθμού στον οποίο η εκπαίδευση των μοντέλων όρασης-γλώσσας έχει οριστικά ξεπεράσει τα όρια και τις δυνατότητες της ανθρώπινης επιτήρησης, ή οποιαδήποτε είδους χειροκίνητης επιμέλειας πέρα από αντιπροσωπευτικά υπο-δείγματα.

 

* Πιθανότατα κάπως συγχυσμένα, το πρόβλημα της διπλοποίησης ορίζεται στην εργασία ως ‘διαρροή’.

† Τονισμός των συγγραφέων.

Πρώτη δημοσίευση Τρίτη, 26 Αυγούστου 2025

Συγγραφέας στον τομέα της μηχανικής μάθησης, ειδικός σε συνθετικές ανθρώπινες εικόνες. Πρώην επικεφαλής του τμήματος περιεχομένου έρευνας στην Metaphysic.ai, μέχρι τη διάλυσή της στην Brahma.ai της DNEG.
Ιστοσελίδα: martinanderson.ai
Επικοινωνία: martin@martinanderson.ai