Οι εντυπωσιακές διαγράμματα μπορούν να κάνουν ακόμη και την «κακή» έρευνα να φαίνεται αξιόπιστη

Νέα έρευνα διαπιστώνει ότι η συσσώρευση περίπλοκων και περίπλοκων διαγραμμάτων μπορεί να κάνει τους ανθρώπους να εμπιστεύονται προκατειλημμένες αποφάσεις του AI, ακόμη και όταν είναι σαφώς άδικες.

Αν και η πρακτική του ‘να τυφλώνεις κάποιον με την επιστήμη’ προηγείται σημαντικά της σημερινής εποχής του AI, είναι απίστευτο ότι αυτή η πρακτική τελειοποιείται σε αυτή την εποχή – όχι τουλάχιστον επειδή η πρόσφατη αύξηση των επιστημονικών εργασιών έχει κάνει το λόγο σήματος προς θόρυβο να είναι μη ευνοϊκός, και τα «φθηνά κόλπα» είναι πιθανότατα πιο συχνά.

Πιστός στο παλιό ρητό ‘ψέματα, καταραμένα ψέματα και στατιστικά‘, το κεντρικό εργαλείο που χρησιμοποιείται για να εξαπατήσει ή να παραπλανήσει τους αναγνώστες, όταν παρουσιάζονται νέα συστήματα και επιστημονικά στοιχεία που εξηγούν ή δικαιολογούν τις αξίες γύρω από αυτά, είναι διάγραμμα και οπτικοποίηση δεδομένων.

Σε μια μελέτη του 2019 μελέτη της επίδρασης των διαγραμμάτων στους συμμετέχοντες σε μια αγροτική περιοχή της Πενσυλβάνια, οι συγγραφείς της εργασίας παρατήρησαν:

‘Οι άνθρωποι που επηρεάστηκαν από κακοποίηση ή εθισμό έτρεξαν προς τα διάγραμμα που απεικόνιζε αυτές τις ουσίες. Οι άνθρωποι συχνά καθόριζαν την ποιότητα ενός διαγράμματος που περιείχε γεωγραφικές πληροφορίες με βάση το πόσο εύκολο ή δύσκολο ήταν να βρουν την πολιτεία τους.

‘Άλλοι άνθρωποι τάχθηκαν να αξιολογήσουν τα διάγραμμα όχι με βάση τη δική τους κατανόηση, αλλά με βάση την αντίληψη της αποτελεσματικότητας του διαγράμματος στην επικοινωνία με άλλους ανθρώπους.

‘Τέλος, ένας συμμετέχων πρότεινε ότι θα προσεχθεί περισσότερο στις οπτικοποιήσεις από τοπικές πηγές ειδήσεων παρά από εθνικές.’

Μερικά από τα διάγραμμα που παρουσιάστηκαν στους κατοίκους της αγροτικής Πενσυλβάνια σε μια μελέτη του 2019. Πηγή

Η υπνωτική επίδραση των διαγραμμάτων δεδομένων γίνεται ιδιαίτερα σχετική στην καινούργια εποχή του machine learning, όπου η εμπιστοσύνη είναι κρίσιμη για τη διατήρηση της οικονομίας του AI (και, πιθανότατα, την αποφυγή ενός κράσης).

Η συνεργασία του 2024 μεταξύ ΗΠΑ και Ηνωμένου Βασιλείου Trust Junk and Evil Knobs: Calibrating Trust in AI Visualization εισήγαγε την ιδέα του Trust Junk: μιας οπτικοποίησης XAI που δεν έχει κανένα σημαντικό σύνδεσμο με το υποκείμενο μοντέλο ή δεδομένα [και] χρησιμοποιείται για να ενισχύσει την εμπιστοσύνη:

Από το έγγραφο ‘Trust Junk and Evil Knobs: Calibrating Trust in AI Visualization’, ένα παράδειγμα δεδομένων που έχουν στρεβλωθεί για να εξυπηρετήσουν ένα προηγούμενο σκοπό (δεξιά), αντί να παρουσιάζονται ρητά (αριστερά). Αυτός ο τύπος προσεγγίσεων ‘ενθαρρύνει την υπερ-εξάρτηση και καταπνίγει τον χρήστη ενώ παρέχει μια ψευδή αίσθηση ελέγχου’, σύμφωνα με το έγγραφο. Πηγή

Μια Γρήγορη Μελέτη

Από τότε που προτάθηκε η έννοια του Trust Junk, δεν έχει δοκιμαστεί – μια παράλειψη που διορθώνεται από μια νέα μελέτη από τις ΗΠΑ, όπου οι συμμετέχοντες παρουσιάστηκαν με αποτελέσματα από μια υποτιθέμενη μελέτη του AI, σχετικά με το ποιοι από μια ομάδα υποψηφίων ήταν πιθανό να περάσουν ένα νομικό εξέταση σε ΗΠΑ.

Εάν κάποιος έβλεπε προσεκτικά, θα μπορούσε να διαπιστώσει ότι τα κριτήρια επιλογής ήταν α) όλοι οι μαύροι άνδρες και β) όλοι οι άλλοι – με την πρόβλεψη ότι όλοι οι μαύροι άνδρες θα αποτύχουν στο εξέταση:

Από τη νέα μελέτη: ένα σχολιασμένο ερέθισμα που χρησιμοποιήθηκε στα πειράματα των συγγραφέων, που δείχνει μια απόφαση μοντέλου (C) για το αν ένας υποψήφιος (B) θα περάσει το εξέταση, μαζί με εξηγητικές συνιστώσες που λειτουργούν ως ‘trust junk’ (A, D, E, F). Το μοντέλο είναι διακριτικό, αλλά η αύξηση των ποσοστών άσχετων εξηγητικών πληροφοριών οδηγεί τους συμμετέχοντες να συμφωνούν περισσότερο με τις εξόδους του και να το κρίνουν ως δίκαιο. Πηγή

Οι περισσότεροι συμμετέχοντες συμφώνησαν με τις προβλέψεις του μοντέλου και το αξιολόγησαν ως δίκαιο και αξιόπιστο, με τη συμφωνία, την εμπιστοσύνη και την αντίληψη της δικαίωσης να αυξάνονται όσο προστίθεντο περισσότερα άσχετα διάγραμμα και λεπτομέρειες – ακόμη και όταν λιγότεροι άνθρωποι ένιωθαν την προφανή και ξεκάθαρη ρατσιστική προκατάληψη.

Ορισμένοι χρήστες αντέδρασαν στην μελέτη, αλλά όχι για λόγους που φαίνονται να σχετίζονται με το κεντρικό ζήτημα:

‘Σημείωσα 19 περιπτώσεις όπου οι συμμετέχοντες περιέγραψαν το μοντέλο ως δίκαιο (π.χ., [ένας συμμετέχων] είπε, “Είναι δίκαιο επειδή δεν έχει φυλετική ή φυλετική προκατάληψη.”). Παρόλα αυτά, οι συμμετέχοντες εκφράζουν περιστασιακά ανησυχίες για το μοντέλο. [Ένας συμμετέχων] είπε ότι ήταν ανήσυχος για “τι είδους σκοτάδι οι άνθρωποι θα μπορούσαν να το χρησιμοποιήσουν για.”

Παρόλα αυτά, σε τρεις ομάδες μελέτης εντός των συμμετεχόντων, από τις οποίες κάθε ομάδα υποβεβληθήκε σε διαφορετικά ποσά Trust Junk, κανείς δεν αναγνώρισε το πραγματικό πρόβλημα.

Οι συγγραφείς καταλήγουν*:

‘Συντομότερα, βρήκαμε ότι το trust junk λειτουργούσε: οι συμμετέχοντες ήταν είτε “γαλήνευτοι” από τις άσχετες πληροφορίες ή “νεκρωμένοι” από την ποσότητα των δεδομένων στις εξηγήσεις.

‘Όλα αυτά τα μανιπούλ και πείθω xảyθηκαν στο πλαίσιο ενός μοντέλου που ήταν επιφανειακό και βαθιά άδικο, ακριβώς η περίπτωση όπου θα ήθελα να δω την XAI να ενδυναμώνει τους μη ειδικούς να κάνουν ακριβείς κρίσεις.’

Αφού μας λένε όλο και περισσότερο να ελέγξουμε τι μας λέει το AI (είτε για υποψίες αυτοεξυπηρέτησης, είτε через σφαλμένα αποτελέσματα), μπορεί να είμαστε προκατειλημμένοι να ψάξουμε πιο sâu και να αναλύσουμε το υλικό των ερευνών, των εταιρικών τριμηνιαίων και άλλων μη ουδέτερων μορφών για την παράδοση πληροφοριών.

Αλλά είμαστε προετοιμασμένοι να δώσουμε μεγαλύτερη προσοχή στα ‘γαλήνευτα’ διάγραμμα που μας διαβεβαιώνουν για την ακρίβεια – ή τουλάχιστον να μηδενίσουμε την ‘ατμόσφαιρα της εγκυρότητας’ που μια βροχή διαγραμμάτων μπορεί να προκαλέσει;

Η νέα μελέτη έχει τον τίτλο “Trust Junk” Leads to Unjustified Support for Highly Discriminatory Predictive Models, και προέρχεται από τρεις ερευνητές στο Northeastern University στη Βοστώνη, Μασαχουσέτη. Ένα συμπληρωματικό site έχει επίσης δημιουργηθεί.

Μέθοδος

Οι συγγραφείς διεξήγαγαν ένα πείραμα μεταξύ των συμμετεχόντων (δηλαδή, διαφορετικοί συμμετέχοντες ανατέθηκαν σε διαφορετικές συνθήκες) σχετικά με το ‘trust junk’ στις εξηγήσεις XAI, δοκιμάζοντας εάν η αύξηση των ποσοστών άσχετων λεπτομερειών θα μπορούσε να πείσει τους χρήστες ότι ένα προκατειλημμένο μοντέλο ήταν δίκαιο και χρήσιμο.

Τα ερεθίσματα βασίζονταν σε προηγούμενη εργασία, με τα αποτελέσματα XAI να συνδυάζουν πολλές τεχνικές εξήγησης σε μια seule διεπαφή.

Για την προαναφερθείσα πολύ ‘προκατειλημμένη’ έξοδο, οι ερευνητές ανέπτυξαν ‘junk’ εξηγήσεις για τη μελέτη, με τις εξηγήσεις να έχουν σκόπιμα θεματικές ‘εξαπατήσεων’ τεχνικών παρουσίασης δεδομένων:

‘Παρείχαμε μια υπερβολική ποσότητα πληροφοριών για την δυαδική ταξινόμηση του μοντέλου μας. Η ένταξη μεγάλων ποσοστών πολύπλοκων-εμφανιζόμενων αλλά ουσιαστικά άσχετων λεπτομερειών είχε ως στόχο να καταπνίξει τους συμμετέχοντες της μελέτης μας παρά να παρέχει πραγματικά χρήσιμα δεδομένα.

‘Αυτή η τεχνική [μεταφορικά] νεκρώνει τον χρήστη να αποδεχθεί την αδυναμία του να κατανοήσει πλήρως τα δεδομένα […].’

Η μελέτη βασίζεται σε πρότερη διαμάχη γύρω από την αξιολόγηση του AI στις εξετάσεις του Διεθνούς Βακχαλάου και του Γενικού Πιστοποιητικού Εκπαίδευσης Advanced Level, χρησιμοποιώντας το Law School Admissions Bar Passage dataset, το οποίο περιέχει δημογραφικά, ακαδημαϊκά και αποτελέσματα δεδομένα για 20.000 υποψηφίους από το 1991-1997.

Αυτά τα δεδομένα χρησιμοποιήθηκαν για να κατασκευαστεί ένα σκόπιμα προκατειλημμένο μοντέλο, που προβλέπει αποτυχία για μαύρους άνδρες υποψηφίους, ενώ περνάει όλους τους άλλους: το μοντέλο επιτυγχάνει ακόμη 93,7% ακρίβεια, λόγω αンバλάνς τάξης σε φυλή και φύλο.

Μια ‘επίκληση στην εξουσία’ στρατηγική cũng δοκιμάστηκε, με επιφανειακά εντυπωσιακές ενδείξεις όπως μια prestigiose πανεπιστημιακή σύνδεση, μέγεθος dataset και παραπλανητική ακρίβεια που προστέθηκαν.

Επιπλέον, μέτρα που θα μπορούσαν να αποκαλύψουν την εξάρτηση του μοντέλου από φυλή και φύλο παραλείφθηκαν, και μόνο ευνοϊκές αποτελέσματα παρουσιάστηκαν. Ένα μικρό σύνολο παρόμοιων υποψηφίων παρουσιάστηκε μαζί με τα πραγματικά αποτελέσματα των εξετάσεων τους, αντί για τις προβλέψεις του μοντέλου – και αυτό βοήθησε να.mask την σταθερή τάση της αποτυχίας που ανατέθηκε στους μαύρους άνδρες υποψηφίους.

Για να διαμορφώσουν πώς οι συμμετέχοντες ερμήνευσαν το σύστημα, οι πληροφορίες παρουσιάστηκαν με έναν τρόπο που τους οδήγησε να σχηματίσουν απλές αλλά παραπλανητικές εξηγήσεις για το πώς λειτουργούσε το μοντέλο. Λεπτομέρειες για όλα τα διαθέσιμα χαρακτηριστικά παρουσιάστηκαν, δημιουργώντας την εντύπωση ότι πολλά παράγοντες επηρέαζαν την απόφαση, ακόμη και όταν μόνο η φυλή και το φύλο χρησιμοποιήθηκαν. Μια cinετική έμφαση στις ατομικές ιδιότητες επίσης οδήγησε τους συμμετέχοντες να κατασκευάσουν πιθανές αλλά λανθασμένες ιστορίες για το γιατί ένας υποψήφιος προβλεπόταν να περάσει ή να αποτύχει.

Οι ‘Θύματα’

Στην ομάδα δοκιμής, κάθε εξήγηση ανατέθηκε σε ένα από τα τρία επίπεδα Trust Junk σε τρεις συνθήκες μελέτης: οι συμμετέχοντες στην Baseline συνθήκη είδαν μόνο βασική προέλευση, ένα προφίλ υποψηφίου και την απόφαση του μοντέλου: εκείνοι στην Model συνθήκη είδαν επίσης στατιστικά ακρίβειας&#58: και εκείνοι στην Everything συνθήκη είδαν επιπλέον ιστογράμματα χαρακτηριστικών και προφίλ παρόμοιων υποψηφίων από τα δεδομένα εκπαίδευσης.

Η μελέτη εγκρίθηκε από μια επιτροπή αναθεώρησης και διεξήχθη στο Prolific, με τους συμμετέχοντες να πληρώνονται 15 δολάρια την ώρα και να ανατίθενται τυχαία στις συνθήκες.

Κάθε συμμετέχων αναθεώρησε οκτώ προφίλ υποψηφίων για εξέταση σε τυχαία σειρά και κρίθηκε εάν θα περνούσαν, με συμφωνία να χρησιμοποιείται ως μετρήσιμοs της εξάρτησης, ακολουθούμενη από ερωτηματολόγια για να αξιολογήσουν την εμπιστοσύνη και μια τελική δείγμα 28, 27 και 28 συμμετεχόντων στις Baseline, Model και Everything συνθήκες.

Οι συγγραφείς υποθέτουν ότι η προσθήκη περισσότερων φαινομενικά πλούσιων αλλά ουσιαστικά άσχετων λεπτομερειών θα μπορούσε να fairwash το μοντέλο, δημιουργώντας αδικαιολόγητη εμπιστοσύνη στις εξόδους του. Họ περίμεναν ότι οι συμμετέχοντες στις Model και Everything συνθήκες θα έδειξαν υψηλότερη συμφωνία και ισχυρότερη αντίληψη της δικαίωσης, της αξιοπιστίας, της χρησιμότητας και της δίκαιης απόδοσης από εκείνους στην Baseline συνθήκη. Họ ανάλυzed επίσης τις γραπτές εξηγήσεις των συμμετεχόντων, για να δουν πώς οι συνεισφέροντες κατανόησαν τις αποφάσεις του μοντέλου, εστιάζοντας στο εάν ένιωθαν την προκατάληψη ή τα κενά στις πληροφορίες που παρέχονταν.

Αποτελέσματα

Σε όρους συμφωνίας του μοντέλου, οι ανθρώπινοι συμμετέχοντες της μελέτης αναγνώρισαν το σωστό αποτέλεσμα 66,6% του χρόνου, αλλά συμφώνησαν με το μοντέλο 73,9% του χρόνου – δείχνοντας μια τάση να ακολουθούν τις αποφάσεις του μοντέλου ακόμη και όταν ήταν λάθος. Αυτό το αποτέλεσμα ενισχύθηκε όσο προστίθεντο περισσότερες εξηγητικές λεπτομέρειες, με την πιο περίπλοκη συνθήκη να αυξάνει τη συμφωνία στο 82,6%, και να αυξάνει την πιθανότητα των συμμετεχόντων να συμφωνούν λανθασμένα με το μοντέλο:

Συνολικές βαθμολογίες για συμφωνία (αριστερά), εμπιστοσύνη (κέντρο) και ικανοποίηση (δεξιά): οι συμμετέχοντες στην ‘Everything’ συνθήκη, που εκτέθηκαν σε πρόσθετο εξηγητικό περιεχόμενο που δεν σχετίζεται με τη δικαίωση, ανέφεραν σημαντικά υψηλότερες βαθμολογίες σε όλες τις μετρήσεις, παρά το γεγονός ότι το μοντέλο παρέμεινε ταυτόχρονο και προφανώς άδικο.

Οι βαθμολογίες εμπιστοσύνης ποικίλλουν σημαντικά ανά συνθήκη, με τους συμμετέχοντες στην Everything συνθήκη να αναφέρουν υψηλότερη εμπιστοσύνη (M = 25,3) από εκείνους στην Baseline συνθήκη (M = 16,8), ενώ η Model συνθήκη (M = 20,1) δεν διέφερε σημαντικά από καμία από τις δύο.

Η ικανοποίηση από την εξήγηση διέφερε σημαντικά ανά συνθήκη, με τους συμμετέχοντες στην Everything συνθήκη να αναφέρουν υψηλότερη ικανοποίηση (M = 34,2) από εκείνους στις άλλες δύο συνθήκες (M = 26,4).

Οι συμμετέχοντες αξιολόγησαν την δικαίωση χρησιμοποιώντας τέσσερις ερωτήσεις σε μια κλίμακα επτά σημείων, που καλύπτουν φυλετική προκατάληψη, γενική προκατάληψη και ηθική, με keine σημαντικές διαφορές μεταξύ των συνθηκών σε αυτές τις μετρήσεις:

Κατανομή των βαθμολογιών των συμμετεχόντων ανά συνθήκη για την αντιλαμβανόμενη δικαίωση σε φυλή και φύλο, απουσία προκατάληψης και γενική ηθική. Υψηλότερα επίπεδα εξηγητικών λεπτομερειών σχετίζονται με ελαφρώς υψηλότερες βαθμολογίες δικαίωσης και προκατάληψης, παρά το γεγονός ότι το υποκείμενο μοντέλο παραμένει αμετάβλητο και άδικο.

Μια διαφορά εμφανίστηκε για την δικαίωση σε φυλή, όπου η Baseline ομάδα αξιολόγησε το μοντέλο ως λιγότερο δίκαιο (M = 3,9), ενώ και οι Model και Everything ομάδες το αξιολόγησαν υψηλότερα (M = 4,8). Από μεγαλύτερη ανησυχία είναι ότι η μεγαλύτερη μερίδα των συμμετεχόντων που αξιολόγησαν το προφανώς άδικο μοντέλο ως δίκαιο προήλθε από τις δύο ομάδες που έδειξαν τις περισσότερες εξηγητικές λεπτομέρειες – οι οποίες ήταν επίσης οι λιγότερο πιθανές να αναγνωρίσουν την προκατάληψη.

Επιτήρηση Ποιότητας

Οι ποιοτικές απαντήσεις έδειξαν ότι οι συμμετέχοντες που έλαβαν τις λιγότερες πληροφορίες ήταν πιο πιθανό να αναγνωρίσουν προβλήματα με το μοντέλο – ιδιαίτερα την εξάρτησή του από φυλή και φύλο. Ήταν επίσης πιο πιθανό να πουν ότι σημαντικές λεπτομέρειες λείπουν.

Αντίθετα, εκείνοι που έδειξαν πιο περίπλοκες εξηγήσεις ανέφεραν αυτές τις ανησυχίες λιγότερο συχνά. Παρόλα αυτά, μόνο τρεις συμμετέχοντες σε όλες τις συνθήκες έδειξαν ακόμη και μια μερική κατανόηση των κλειδιών παραγόντων που οδηγούσαν τις αποφάσεις του μοντέλου&#58: και κανείς δεν ταυτοποίησε πλήρως πώς λειτουργούσε.

Γράφοι που δείχνουν πόσο συχνά οι συμμετέχοντες ανέφεραν πιθανή φυλετική ή φυλετική προκατάληψη και λείπουσες εξηγητικές πληροφορίες ανά συνθήκη, με υψηλότερα επίπεδα εξηγητικών λεπτομερειών να σχετίζονται με λιγότερους συμμετέχοντες που αναγνώρισαν προκατάληψη ή ανέφεραν λείπουσες πληροφορίες – παρά το γεγονός ότι το μοντέλο βασίζεται μόνο σε φυλή και φύλο.

Πολλοί συμμετέχοντες περιέγραψαν ρητά το μοντέλο ως δίκαιο, με 19 τέτοιες απαντήσεις καταγεγραμμένες, παρά την προφανή προκατάληψη.

Ταυτόχρονα, κάποια ανησυχία εμφανίστηκε, με αρκετούς συμμετέχοντες να εκφράζουν ανησυχίες για το πώς ένα τέτοιο σύστημα θα μπορούσε να χρησιμοποιηθεί, και 15 απαντήσεις που αμφισβήτησαν εάν το μοντέλο θα μπορούσε να καταγράψει την πολυπλοκότητα των ατομικών υποψηφίων.

Οι συγγραφείς αναφέρουν:

‘Μόνο μια μειοψηφία των συμμετεχόντων περιέγραψε το μοντέλο ως άδικο ή προκατειλημμένο. Οι λίγοι συμμετέχοντες που ανέφεραν ανησυχίες για το μοντέλο δεν μπόρεσαν να εξηγήσουν σωστά γιατί το μοντέλο ήταν ελαττωματικό, και, στην απουσία κρίσιμων πληροφοριών του μοντέλου, έφτασαν σε ανεπίσημες, συχνά λανθασμένες λογικές για να εξηγήσουν γιατί το μοντέλο θα μπορούσε να είναι λάθος ή άδικο.’

Το έγγραφο καταλήγει*^†:

‘Ενώ κάποια από τα ζητήματα που ανακαλύπτουμε μπορούν να αντιμετωπιστούν με αυξημένη γνώση δεδομένων στους ακροατές, η εκπαίδευση μόνο δεν είναι αρκετή (ακόμη και οι αυτοαποκαλούμενοι εμπειρογνώμονες του AI συχνά παρερμηνεύουν ή δεν κατανοούν τεχνικές XAI).

‘Επαναλαμβάνουμε την δήλωση του Hullman et al.: η επιτυχία των εξηγήσεων του AI μπορεί να αξιολογηθεί δίκαια μόνο όταν λαμβάνονται υπόψη οι στόχοι τέτοιων εξηγήσεων.

‘Συστήνουμε στην κοινότητα να προσεχθεί τους ρητορικούς στόχους των εξηγήσεων XAI και την πειστική δύναμη τους ως εύγλωττα πειστικά αντικείμενα.’

Συμπέρασμα

Όσο η έκταση στην οποία τα μοντέλα του AI είναι προκατειλημμένα να ‘διακοσμούν’ τις δηλώσεις με ψευδή διάγραμμα γίνεται πιο σαφής, είναι όλο και πιο προφανές ότι δεν πρέπει να βασίζουμε την εξουσία μας στα γραφικά που παράγονται από το AI, αλλά και ότι η γενική ‘ατμόσφαιρα’ των συνοδευτικών οπτικοποιήσεων είναι κάτι που πρέπει να αρχίσουμε να διακρίνουμε – όπως και η πίστη στη φωτογραφία έχει ερωτηθεί από την εμφάνιση των deepfakes.

Αυτή είναι μια προφανώς ανησυχητική εξέλιξη, επειδή συνιστά άλλη μια ‘κοπτική’ στη διαθεσιμότητα του κοινού να αξιολογεί αυστηρά τι βλέπει και ακούει στα μέσα ενημέρωσης, και κινδυνεύει να οδηγήσει σε ένα είδος ‘τερματικής υποταγής’ στη λανθασμένη πληροφόρηση.

* Η αντικατάσταση των ενσωματωμένων παραπομπών των συγγραφέων με υπερσύνδεσμους.

^† Η αρχική μορφοποίηση των συγγραφέων, όχι δική μου.

Πρώτη δημοσίευση Δευτέρα, 20 Ιουλίου 2026