Οι Κίνδυνοι της Αναγνώρισης Εικόνων με Βάση το «Βίβλο»

Ακόμη και αν πληρώνονται μόνο quelques δολάρια (ή ακόμη και τίποτα), οι άγνωστοι άνθρωποι που αξιολογούν εικόνες για «επιβλαβή» περιεχόμενο μπορούν να αλλάξουν τη ζωή σας με τις επιλογές τους. Τώρα, μια μεγάλη νέα εργασία από τη Google φαίνεται να προτείνει ότι αυτοί οι αναλυτές δημιουργούν τους δικούς τους κανόνες για το τι είναι ή δεν είναι «επιβλαβές» ή προσβλητικό – ανεξάρτητα από το πόσο περίεργες ή προσωπικές οι αντιδράσεις τους σε οποιαδήποτε εικόνα μπορεί να είναι. Τι μπορεί να πάει λάθος;

Γνώμη Αυτή την εβδομάδα, μια νέα συνεργασία μεταξύ του Google Research και του Google Mind έφερε μαζί 13 συντελεστές σε μια νέα εργασία που εξετάζει αν οι «ενστικτικές αισθήσεις» των αναλυτών εικόνων πρέπει να λαμβάνονται υπόψη όταν οι άνθρωποι αξιολογούν εικόνες για αλγορίθμους, ακόμη και αν οι αντιδράσεις τους δεν συμφωνούν με καθιερωμένα πρότυπα αξιολόγησης.

Αυτό είναι σημαντικό για σας, επειδή ό,τι οι αξιολογητές και αναλυτές βρίσκουν προσβλητικό με κανόνα συναίνεσης θα تم τάξει να ενσωματωθεί σε αυτόματα συστήματα λογοκρισίας και επιτήρησης, και στα κριτήρια για «ασελγές» ή «αποδεκτό» υλικό, σε νομοθεσία όπως το νέο NSFW τείχος* του Ηνωμένου Βασιλείου (μια έκδοση του οποίου ερχεται στην Αυστραλία σύντομα), και σε συστήματα αξιολόγησης περιεχομένου σε πλατφόρμες κοινωνικών μέσων, μεταξύ άλλων περιβαλλόντων.

Ούτω, το ευρύτερο τα κριτήρια για προσβολή, το ευρύτερο το πιθανό επίπεδο λογοκρισίας.

Λογοκρισία Βίβλου

Αυτό δεν είναι η μόνη άποψη που έχει η νέα εργασία να προσφέρει· επίσης, βρίσκει ότι οι άνθρωποι που αξιολογούν εικόνες είναι συχνά πιο λογοκριτικοί σε ότι πιστεύουν ότι θα προσβάλει άλλους ανθρώπους εκτός από τον εαυτό τους· και ότι οι εικόνες χαμηλής ποιότητας συχνά προκαλούν προβλήματα ασφαλείας, αν και η ποιότητα της εικόνας δεν έχει καμία σχέση με το περιεχόμενο της εικόνας.

Στο συμπέρασμά της, η εργασία τονίζει αυτά τα δύο ευρήματα, σαν να είχε αποτύχει η κεντρική θέση της εργασίας, αλλά οι ερευνητές ήταν υποχρεωμένοι να δημοσιεύσουν ούτως ή άλλως.

Αν και αυτό δεν είναι ένα ασυνήθιστο σενάριο, η εργασία αποκαλύπτει, μετά από προσεκτική ανάγνωση, μια πιο险ρή υποκείμενη ροή· ότι οι πρακτικές αναγνώρισης εικόνων θα μπορούσαν να υιοθετήσουν αυτό που μπορώ μόνο να περιγράψω ως αναγνώριση βίβλου·

‘Τα ευρήματά μας δείχνουν ότι τα υπάρχοντα πλαίσια πρέπει να λαμβάνουν υπόψη τις υποκειμενικές και περιβαλλοντικές διαστάσεις, όπως οι συναισθηματικές αντιδράσεις, οι άδηλες κρίσεις και οι πολιτιστικές ερμηνείες του κινδύνου. Η συχνή χρήση συναισθηματικής γλώσσας από τους αναλυτές και η απόκλιση από τις προκαθορισμένες ετικέτες βλάβης υπογραμμίζουν τα κενά στις τρέχουσες πρακτικές αξιολόγησης.’

‘Η επέκταση των οδηγιών αναγνώρισης για να περιλαμβάνουν εικονογραφικές παραδείγματα διαφορετικών πολιτιστικών και συναισθηματικών ερμηνειών μπορεί να βοηθήσει στην αντιμετώπιση αυτών των κενών.’

Η ελάσσοντα εικονογραφημένη νέα εργασία αρχίζει με παραδείγματα που είναι ασαφή και συμπαθητικά προς τον μέσο αναγνώστη, αν και το πραγματικό βασικό υλικό προκαλεί πολλές περισσότερες ερωτήσεις. Εδώ, κάτω από κάθε εικόνα, βλέπουμε τις συναισθηματικές αντιδράσεις των αναλυτών που σημειώνονται για τις αντίστοιχες εικόνες. Πηγή: https://arxiv.org/pdf/2507.16033

Στην αρχή, αυτό ακούγεται σαν μια πρόταση να επεκτείνει και να ποιοτικοποιήσει τι συνιστά «βλάβη» σε μια εικόνα – ένα αξιοσημείωτο σκοπό· αλλά η εργασία επαναλαμβάνει πολλές φορές ότι αυτό δεν είναι ούτε επιθυμητό ούτε (αναγκαία) εφικτό·

Διπλή Κρίση

Το βαθμό στον οποίο οι εικόνες και ο κείμενος μπορούν να προκαλέσουν βλάβη είναι πραγματικά δύσκολο να ποσοτικοποιηθεί, όχι τουλάχιστον επειδή ο υψηλός πολιτισμός συχνά διασταυρώνεται με «χαμηλό» πολιτισμό (για παράδειγμα με τέχνη και μυθιστορήματα), οδηγώντας στα πρώτα «βίβλο-βασισμένα» κριτήρια λογοκρισίας· ότι ακόμη και αν το ασελγές υλικό ξεφεύγει από την ακριβή ορισμό, θα το γνωρίσετε όταν το δείτε.

Κάτω από την εκτεταμένη και εξερευνητική συζήτηση της εργασίας για την ευσπλαχνία και την ποιοτική νюάνς, η εργασία φαίνεται να επιτίθεται σιωπηλά στην εξουσία των κεντρικών, стандαρδικών ταξονομιών («βία», «γυμνό», «μίσος», κ.λπ.) που επιτρέπουν στις πλατφόρμες να εφαρμόσουν και να κλιμακώσουν την επιτήρηση με ανεκτά περιθώρια λάθους (συνήθως).

Η论 που αναδύεται είναι ότι μόνο η αποκεντρωμένη, υποκειμενική, контекστο-ευαίσθητη ανθρώπινη ανατροφοδότηση μπορεί να κρίνει σωστά την έξοδο του GenAI.

Ωστόσο, αυτό είναι σαφώς μη κλιμακώσιμο,既然 δεν μπορείτε να τρέξετε ένα φίλτρο εικόνων τρισεκατομμυρίων με «βίβλο» και ζωντανούς εμπειρίες. Πρέπει να ποσοτικοποιήσετε τη βλάβη σε διάφορες ιδιότητες· να ορίσετε ένα όριο στο εύρος του συστήματος φιλτραρίσματος· και να περιμένετε για νέες οδηγίες σε «περιπτώσεις άκρου» (όπως και οι θιγμένοι πρέπει να περιμένουν τη θέσπιση νέων νόμων που αντιμετωπίζουν τις ιδιαίτερες περιπτώσεις τους).

Ηθική Επέκταση

Αν και η εργασία προκαλεί περισσότερο την εξερεύνηση παρά την ανάπτυξη μιας σταθερής θέσης, ενσωματώνει στοιχεία επιστημονικής μεθόδου· οι συγγραφείς ανέπτυξαν ένα πλαίσιο για να αναγνωρίσουν (αν και όχι να μετρήσουν αυστηρά) ένα ευρύτερο φάσμα αντιδράσεων των αναλυτών σε εικόνες, και να εξετάσουν πώς αυτές οι αντιδράσεις ποικίλλουν σε διάφορα φύλα και άλλους δημογραφικούς παράγοντες.

Εκτός από την ανάλυση του εστιασμού στη βλάβη^†, η διαδικασία ανάλυσε την «ηθική σκέψη» στις επικουρικές σχόλια των συμμετεχόντων, οι οποίοι ζητήθηκαν να αναλύσουν μια τροποποιημένη δοκιμαστική βάση δεδομένων που περιείχε εικόνες και κείμενο/σχετικές προτροπές.

Αυτή η «αυτο-αναλυτής ηθικής» σχεδιάστηκε για να καταγράψει τις ηθικές αξίες Φροντίδα, Ισότητα, Αναλογικότητα, Πιστότητα, Εξουσία, και Καθαρότητα, όπως ορίζονται στη Θεωρία Ηθικών Θεμελίων – μια ψυχολογική θεωρία η οποία, λόγω της ρευστής και εξελισσόμενης φύσης της, είναι αντίθετη στη δημιουργία των συγκεκριμένων ορισμών που απαιτούνται για μεγάλης κλίμακας συστήματα αξιολόγησης ανθρώπων.

Ενημερωμένοι από αυτή τη θεωρία, οι συγγραφείς κατηγοριοποίησαν επιπλέον διαστάσεις ασφαλείας, συμπεριλαμβανομένων φόβου, θυμού, λυπής, απωθήσεως, συγχύσεως, και παραξενιάς.

Οι συγγραφείς επεκτείνουν για πρώτη φορά το φόβο:

‘Πολλοί αναλυτές χρησιμοποίησαν όρους όπως “τρομακτικό” (π.χ. για παραμορφωμένα πρόσωπα ή εικόνες που υποδηλώνουν βία όπως ένα πιστόλι που στρέφεται σε ένα παιδί), “ενοχλητικό” (π.χ. “Απόλυτα ασελγές να δεις κάποιον να περπατάει, πολύ ενοχλητικό και ενοχλητικό”, ή “Ενοχλητικό και φαίνεται ότι έχει αίμα” για κόκκινο χρώμα), ή “ενοχλητικό” (π.χ. “Η εικόνα του αγοριού έχει πολλές παραμορφώσεις… το βρίσκω ασελγές επειδή φαίνεται ότι παίζει στην λάθος πλευρά των ραγών”).

Κατανομή όρων που σχετίζονται με συναισθήματα σε κατηγορίες βλάβης, με ύψη μπαρ που υποδηλώνουν αναλογίες σχολίων, μετρήσεις που εμφανίζονται μέσα στα μπαρ, και συνολικοί αριθμοί σχολίων που εμφανίζονται πάνω από κάθε κατηγορία.

Σχετικά με την ένταξη αυτών των νέων διαστάσεων ασφαλείας, οι συγγραφείς δηλώνουν:

‘Αυτά τα αναδυόμενα θέματα υπογραμμίζουν μια κρίσιμη ανάγκη να εμπλουτίσουμε τα πλαίσια αξιολόγησης εικόνων του GenAI με την ενσωμάτωση υποκειμενικών, συναισθηματικών και αισθητηριακών στοιχείων.’

Αυτό μπορεί να είναι ένας επικίνδυνος δρόμος να ακολουθήσει,既然 φαίνεται να επιτρέπει στις διαδικασίες αναγνώρισης να προσθέτουν αυθαίρετα κανόνες με βάση τις αντιδράσεις που το υλικό μπορεί να προκαλέσει σε οποιοδήποτε αναλυτή, αντί να απαιτούν όλους τους αναλυτές να ακολουθούν καθιερωμένα πρότυπα και αναφορές.

Κρίσεις Rorschach

Η πρόθεση της αναγνώρισης είναι να φτάσει σε μια ακριβή περιγραφή ή ορισμό είτε μέσω της εποπτείας εμπειρογνωμόνων, είτε μέσω της συναίνεσης μεταξύ πολλών αναλυτών, είτε (ιδανικά) και των δύο. Αντίθετα, η επέκταση ενός περιορισμένου αλλά καλά ορισμένου ιεραρχίας βλαβών σε μια «ευαίσθητη» και πολύ προσωπική ερμηνευτική στάση, είναι ισοδύναμη με την αναγνώριση ενός τεστ Rorschach.

Για παράδειγμα, ορισμένοι αναλυτές, όπως σημειώνει η εργασία, ερμηνεύουν την κακή ποιότητα εικόνας (όπως JPEG artifacts, καθώς και άσχετες τεχνικές ελαττώματα σε μια εικόνα) ως «ενοχλητικό» ή «παραδεικτικό βλάβης»:

‘Αυτό συνέβη παρά το γεγονός ότι η εργασία παρέλειψε τις οδηγίες σχετικά με την ποιότητα της εικόνας. Επιπλέον, οι αναλυτές ερμηνεύουν αυτά τα τεχνικά ελαττώματα ως σημασιολογικά σημαντικά.’

‘Ένας αναλυτής σχολίασε, “Η εικόνα δεν είναι επιβλαβής καθόλου· έχει απλώς μια peu παραμορφωμένο πρόσωπο.” Με την ίδια λογική, ορισμένοι αναλυτές ερμηνεύουν τα ελαττώματα ποιότητας εικόνας ως εσκεμμένη βλάβη, αποδίδοντας συναισθηματική σημασία σε σφάλματα. Για παράδειγμα, ένας άλλος αναλυτής ερμηνεύει ένα παραμορφωμένο πρόσωπο σε μια διαφορετική εικόνα ως “παραδεικτικό πόνου”’

Αυτή η αναβάθμιση των υποκειμενικών, συναισθηματικών ή περιβαλλοντικών αντιδράσεων πάνω από τις προκαθορισμένες κατηγορίες ασφαλείας ανοίγει την πόρτα σε ένα καθεστώς όπου οτιδήποτε μπορεί να σημαδέψει αυθαίρετα ως επιβλαβές, και όπου ένας «ψυχρός» αποτρεπτικός efekt των ad hoc λήψεων ή αρνητικών ανακατηγοριοποιήσεων του υλικού (δηλαδή, υλικού που μπορεί να «προσβάλει» μια ειδική ομάδα συμφερόντων) γίνεται μια πραγματική προοπτική.

Η εργασία “Just a strange pic”: Evaluating ‘safety’ in GenAI Image safety annotation tasks from diverse annotators’ perspectives είναι διαθέσιμη στο Arxiv.

* Μια συντόμευση,既然 δεν είναι το κεντρικό θέμα εδώ· υπό τη νέα νομοθεσία, οι παραβάτες ιστοσελίδες αναμένεται να είτε αυτο-επιτηρούν· είτε να επιβάλλουν σύνθετα και ακριβά συστήματα αναθεώρησης και ελέγχου ηλικίας που είναι εκτός φάσματος για όλες τις ιστοσελίδες εκτός από τις μεγαλύτερες· ή else να αποκλείουν τους τομείς τους από το Ηνωμένο Βασίλειο (ξανά, με δικά τους έξοδα).

† Απλά εκφρασμένο στο meme «σκέψου στα παιδιά», το οποίο σατιρίζει την κατάχρηση της ηθικής agency κάποιου άλλου για φαινομενικά αλτρουιστικούς σκοπούς.

Πρώτη δημοσίευση Παρασκευή, 25 Ιουλίου 2025