Ηγέτες σκέψης
Ο Ρόλος του AI στην Επιμέλεια της Μνήμης, της Ταυτότητας και της Κληρονομιάς

Βασικά σημείαΗ τεχνητή νοημοσύνη που επιμελείται προσωπικές φωτογραφίες πρέπει να δίνει…
Δείτε περισσότερα
- Η τεχνητή νοημοσύνη που επιμελείται προσωπικές φωτογραφίες πρέπει να δίνει προτεραιότητα στη συναισθηματική ευαισθησία έναντι της απλής αποδοτικότητας.
- Η επεξεργασία στη συσκευή διατηρεί τον έλεγχο του χρήστη πάνω στις βαθιά ιδιωτικές συλλογές αναμνήσεων.
- Η αυτοματοποιημένη επιμέλεια φωτογραφιών μπορεί να αναδιαμορφώσει απαλά τον τρόπο που οι άνθρωποι αφηγούνται τις δικές τους ζωές.
Η ανθρωπότητα τραβά περισσότερες φωτογραφίες κάθε δύο λεπτά από όσες είχαν τραβηχθεί στη διάρκεια ολόκληρου του 19ου αιώνα. Δισεκατομμύρια δημιουργούνται καθημερινά. Για πολλούς ανθρώπους, ένα μόνο smartphone περιέχει 10.000, 20.000, μερικές φορές και 50.000 εικόνες, και ο αριθμός αυτός συνεχίζει να αυξάνεται. Για μια μηχανή, αυτό είναι ένα σύνολο εικόνων εξαιρετικής κλίμακας. Για έναν άνθρωπο, είναι κάτι εντελώς διαφορετικό.
Είναι ένα αρχείο νέων αφίξεων και γενεθλίων, επισκέψεων στο νοσοκομείο και διακοπών, γάμων και κηδειών. Περιέχει την τελευταία φωτογραφία ενός παππού, την πρώτη εικόνα ενός νεογέννητου παιδιού, την θολή φωτογραφία που τραβήχθηκε λίγα δευτερόλεπτα πριν από ένα ατύχημα. Αυτές οι εικόνες δεν είναι απλά αρχεία που πρέπει να ταξινομηθούν, αλλά θραύσματα προσωπικής ταυτότητας.
Για εκείνους από εμάς που κατασκευάζουμε AI που εργάζεται απευθείας με τις φωτογραφικές βιβλιοθήκες των ανθρώπων, αυτή η κλίμακα δημιουργεί μια πολύ ιδιαίτερη πρόκληση. Δεν κατασκευάζουμε πλέον εργαλεία που διαχειρίζονται βιβλιοθήκες μέσων. Σχεδιάζουμε συστήματα που επηρεάζουν τον τρόπο με τον οποίο οι άνθρωποι επισκέπτονται και θυμούνται τις ζωές τους. Και αυτή η αλλαγή, σε συνδυασμό με την απρόσμενα μεγάλη κλίμακα δεδομένων, απαιτεί ένα θεμελιωδώς διαφορετικό μοντέλο εμπιστοσύνης.
Ευαίσθητο περιεχόμενο είναι μέρος της καθημερινής ζωής
Η τεχνολογία υπολογιστικής όρασης χρησιμοποιείται συχνά για την ανίχνευση προσώπων, χαμόγελων, ορόσημων και δραστηριοτήτων. Όταν εφαρμόζουμε αυτές τις τεχνικές σε προσωπικές φωτογραφικές βιβλιοθήκες, μπορούν να ομαδοποιήσουν παρόμοιες φωτογραφίες, να προτείνουν στιγμές και να δημιουργήσουν “μνήμες” για να τις ξαναδούμε και να σκεφτούμε.
Οι προσωπικές φωτογραφικές βιβλιοθήκες γίνονται όλο και περισσότερο ημερολογιακά. Πολλοί από εμάς φθάνουμε να πιάσουμε τα τηλέφωνα μας για να καταγράψουμε τις καθημερινές στιγμές, γνωρίζοντας ότι θα αποθηκευτούν – ακόμη και αν δεν τις ξαναδούμε ποτέ. Σε αυτό το σημείο, οι φωτογραφικές μας βιβλιοθήκες γίνονται ακατέργαστες καταγραφές της ζωής όπως αναπτύσσεται, περιέχοντας στιγμές που είναι χαρούμενες, πονεμένες ή καθημερινές.
Σε μικρή κλίμακα, η αυτόματη οργάνωση φωτογραφιών μοιάζει απλή και χρήσιμη. Αλλά οι προσωπικές βιβλιοθήκες τώρα συχνά περιέχουν δεκάδες χιλιάδες εικόνες. Στην πράξη, συστήματα όπως αυτά πρέπει να λάβουν χιλιάδες μικρές αποφάσεις για λογαριασμό του χρήστη: ποια πρόσωπα να προτεραιοποιήσει, ποίες φωτογραφίες αντιπροσωπεύουν καλύτερα ένα έτος, και ποιες στιγμές αξίζουν να αναβιώσουν. Σε αυτή την κλίμακα, ακόμη και ένας μικρός ρυθμός σφάλματος γίνεται συναισθηματικά σημαντικός. Ένας ρυθμός λάθους 1% σε μια βιβλιοθήκη 20.000 φωτογραφιών θα μπορούσε να οδηγήσει σε εκατοντάδες εικόνες που εμφανίζονται στην λάθος στιγμή ή να ερμηνεύονται λανθασμένα.
Ένα πράγμα που μαθαίνεις γρήγορα όταν εργάζεσαι με πραγματικές φωτογραφικές βιβλιοθήκες είναι πόσο συχνά εμφανίζονται ευαίσθητες στιγμές μαζί με τις καθημερινές. Νοσοκομεία, κηδείες, στιγμές αγωνίας – μαζί με επιλογές προϊόντων που ευνοούν την αυτοσυγκράτηση. Αλλά εξίσου σημαντικό είναι το να αναγνωρίσουμε τα όρια της αυτόματης ερμηνείας.
Η πλήρης κατανόηση του νόηματος που μια εικόνα έχει για ένα συγκεκριμένο άτομο είναι σπάνια δυνατή. Ο ρόλος του AI δεν είναι να καθορίσει το νόημα για λογαριασμό κάποιου, αλλά να βοηθήσει να εμφανιστούν στιγμές που οι άνθρωποι μπορεί να θέλουν να ξαναδουν και να σκεφτούν με τρόπο που φαίνεται κατάλληλος για αυτούς. Σε ένα κόσμο όπου τα ψηφιακά εργαλεία διαμορφώνουν όλο και περισσότερο τον τρόπο με τον οποίο οργανώνουμε τις ζωές μας, τα άλμπουμ φωτογραφιών παραμένουν βαθιά προσωπικά.
Πού συμβαίνει η επεξεργασία έχει σημασία
Υπάρχει επίσης ένα δομικό ερώτημα σχετικά με το πώς και πού επεξεργάζονται οι εικόνες. Τα συστήματα AI που βασίζονται στο cloud συλλέγουν και αναλύουν τεράστιες ποσότητες δεδομένων σε απομακρυσμένη τοποθεσία – ένα μοντέλο που έχει επιτρέψει εξαιρετικές προόδους στην ικανότητα.
Όταν έχεις να κάνεις με ιδιωτικές φωτογραφικές βιβλιοθήκες, ωστόσο, η συναισθηματική ευαισθησία είναι πολύ μεγαλύτερη. Εικόνες παιδιών, ιδιωτικών οικογενειακών στιγμών και ακόμη και εμπειριών τέλους ζωής είναι μεταξύ των πιο προσωπικών εγγραφών που κατέχουν οι άνθρωποι. Όποιος κατασκευάζει τεχνολογία που αλληλεπιδρά με αυτό το είδος δεδομένων γρήγορα συνειδητοποιεί ότι οι αρχιτεκτονικές αποφάσεις δεν είναι καθαρώς τεχνικές. Η αποστολή εικόνων σε απομακρυσμένους διακομιστές για ανάλυση μπορεί να μοιάζει παρεμβατική, ακόμη και όταν υπάρχουν ισχυρά μέτρα ασφαλείας.
Οι πρόοδοι στο υλικό των κινητών συσκευών καθιστούν όλο και πιο εφικτή την επεξεργασία μεγάλων φωτογραφικών βιβλιοθηκών απευθείας στη συσκευή. Αυτό επιτρέπει μια εξειδικευμένη κατανόηση εικόνων χωρίς να εξαγάγει ολόκληρες συλλογές στο cloud. Σε αυτό το πλαίσιο, η τεχνική αρχιτεκτονική γίνεται μια αντανάκλαση των αξιών. Η απόφαση σχετικά με το πού συμβαίνει η επεξεργασία μπορεί να επηρεάσει απευθείας πόσο έλεγχο διατηρούν οι άνθρωποι πάνω στις δικές τους μνήμες.
Η ηθική της αυτόματης μνήμης
Όταν το AI επιμελείται φωτογραφίες, επηρεάζει τον τρόπο με τον οποίο οι άνθρωποι θυμούνται τις ζωές τους. Ένα σύστημα που επιλέγει “τις καλύτερες εικόνες του έτους” έμμεσα αποφασίζει ποιες στιγμές έχουν τη μεγαλύτερη σημασία. Ένα χαρακτηριστικό που υπογραμμίζει ορισμένα πρόσωπα πιο συχνά μπορεί να διαμορφώσει σιωπηλά τον τρόπο με τον οποίο οι σχέσεις προτεραιοποιούνται οπτικά.
Σε αντίθεση με τα λάθη στη βελτιστοποίηση διαφημίσεων ή στις προβλέψεις εφοδιαστικής, τα λάθη στη διατήρηση της μνήμης είναι προσωπικά. Μια κακώς χρονισμένη αναβίωση μιας εικόνας μπορεί να αναβιώσει απροσδόκητα τον πόνο. Μια σημαντική σχέση μπορεί να υποεκπροσωπηθεί απλά και μόνο επειδή ένας αλγόριθμος απέτυχε να αναγνωρίσει την σημασία της. Με τον καιρό, αυτές οι αυτόματες επιλογές μπορούν να επηρεάσουν σιωπηλά τον τρόπο με τον οποίο οι άνθρωποι αφηγούνται τις δικές τους ζωές.
Αυτό εγείρει δύσκολα ερωτήματα. Πρέπει ένας αλγόριθμος να αποφασίσει ποιες φωτογραφίες αντιπροσωπεύουν καλύτερα κάποιον που έχει πεθάνει; Πρέπει να καταστέλλει εικόνες που θεωρεί ταραχώδεις, ή να αφήσει αυτή την επιλογή εξ ολοκλήρου στην κρίση του χρήστη; Πώς πρέπει να συμπεριφερθεί όταν δεν μπορεί να καθορίσει με βεβαιότητα αν μια σκηνή είναι εορταστική ή σοβαρή;
Η ηθική σχεδίαση σε αυτό το χώρο εξαρτάται από την ταπείνωση. Τα συστήματα πρέπει να είναι διαφανή σχετικά με το πότε το AI λαμβάνει επιλογές και να κάνουν εύκολη την ανασκόπηση, την επεξεργασία και την αναίρεση αυτομάτων επιλογών. Τα όρια βεβαιότητας για την εμφάνιση πιθανώς ευαίσθητου περιεχομένου πρέπει να οριστούν με ιδιαίτερη προσοχή.
Η εμπιστοσύνη ως ανθρώπινη απαίτηση
Οι δημόσιες συζητήσεις γύρω από την ηθική του AI συχνά επικεντρώνονται στην παραπληροφόρηση, την προκατάληψη ή την εκπαίδευση μεγάλης κλίμακας. Αυτές οι συζητήσεις είναι φυσικά απαραίτητες και σημαντικές. Αλλά πέρα από τις επικεφαλίδες, υπάρχει μια άλλη, λιγότερο ορατή διάσταση της ηθικής του AI που αναπτύσσεται σε οικογενειακές κατοικίες κάθε μέρα.
Μόνο ένας μικρός αριθμός ομάδων κατασκευάζει σήμερα AI συστήματα που επιμελούνται προσωπικές φωτογραφικές βιβλιοθήκες σε παγκόσμια κλίμακα. Λαμβάνουμε αποφάσεις που επηρεάζουν τον τρόπο με τον οποίο εκατομμύρια προσωπικών ιστοριών οργανώνονται και θυμάνονται.
Όταν κάποιος ανοίγει την φωτογραφική του βιβλιοθήκη, αλληλεπιδρά με την δική του ιστορία. Αν τα συστήματα AI χειρίζονται αυτή την ιστορία αμελέτητα, η επίδραση μπορεί να είναι έντονα προσωπική. Μια κακώς χρονισμένη ειδοποίηση ή ένα αναίσθητο αυτόματο μοντάζ μπορεί να ξανανοίξει πληγές που έχουν πάρει χρόνια να θεραπεύσουν.
Η εργασία σε αυτό το χώρο κάνει αυτή την ευθύνη να μοιάζει ασυνήθιστα απτή. Η σχεδίαση του AI για προσωπικές φωτογραφίες απαιτεί επομένως μια διαφορετική στάση – ειδικά καθώς η κλίμακα της φωτογραφικής λήψης συνεχίζει να αυξάνεται. Η συναισθηματική ευαισθησία δεν μπορεί να προσαρμοστεί μετά την έναρξη λειτουργίας, και η ιδιωτικότητα δεν μπορεί να αντιμετωπίζεται ως μια ρύθμιση παρασκηνίου. Αυτές οι σκέψεις πρέπει να διαμορφώσουν το σύστημα από την αρχή.
Όσο συνεχίζουν να επεκτείνονται οι ικανότητες του AI, η πίεση θα είναι να αυτοματοποιήσουμε περισσότερο τις ψηφιακές μας ζωές. Στο χώρο των προσωπικών φωτογραφιών, ωστόσο, η πρόοδος πρέπει να μετράται διαφορετικά. Όχι η αποτελεσματικότητα ή η βελτιστοποίηση, αλλά η επιτυχία έγκειται στην κατασκευή συστημάτων που αναγνωρίζουν το συναισθηματικό βάρος που φέρουν οι εικόνες που αγγίζουν.
Οι φωτογραφίες μας καταγράφουν ποιοι είμαστε και ποιοι ήμασταν. Κάθε AI στο οποίο εμπιστευόμαστε αυτές τις φωτογραφίες πρέπει να αναγνωρίσει ότι λειτουργεί σε έναν από τους πιο ανθρώπινους χώρους που μπορεί να εισέλθει η τεχνολογία.












