Ανδρέας Πέρι, Ευαγγελιστής Ηθικής, ABBYY – Σειρά Συνεντεύξεων

Ο Ανδρέας Πέρι, είναι ο Ευαγγελιστής Ηθικής στην ABBYY, μια εταιρεία ψηφιακής νοημοσύνης. Βοηθούν τις οργανώσεις να αποκτήσουν πρόσβαση σε πολύτιμες, αλλά συχνά δύσκολα προσιτές, πληροφορίες σχετικά με τις επιχειρήσεις τους, που επιτρέπουν την αληθινή μεταμόρφωση των επιχειρήσεων.

Η ABBYY δημοσίευσε πρόσφατα μια Παγκόσμια Πρωτοβουλία για την Προώθηση της Ανάπτυξης Αξιόπιστου Τεχνητού Νοημοσύνης. Αποφασίσαμε να ζητήσουμε από τον Ανδρέα ερωτήσεις σχετικά με την ηθική του AI, τις κακοποιήσεις του AI και τι μπορεί να κάνει η βιομηχανία του AI για αυτές τις ανησυχίες στο μέλλον.

Τι είναι αυτό που αρχικά σας ενέπνευσε να ενδιαφερθείτε για την ηθική του AI;

Αυτό που αρχικά με ενέπνευσε να ενδιαφερθώ για την ηθική του AI ήταν ένα βαθύ ενδιαφέρον για το σημείο τομής του δικαίου και της τεχνολογίας του AI. Ξεκίνησα την καριέρα μου στο εύθυνο σύστημα, αντιπροσωπεύοντας φτωχούς ενάγοντες που δεν είχαν τα οικονομικά μέσα να αντέξουν τις νομικές υπηρεσίες. Στη συνέχεια, μεταπήδησα στην τεχνολογία, εστιάζοντας στην εφαρμογή της προηγμένης αναζήτησης και του AI στην πρακτική του δικαίου. Ως Πιστοποιημένος Επαγγελματίας Προστασίας Δεδομένων, είμαι ιδιαίτερα ενθουσιασμένος με το δίκαιο της προστασίας δεδομένων και τη σωστή χρήση της τεχνολογίας του AI που συμμορφώνεται με και ενισχύει τα δικαιώματα προστασίας δεδομένων.

Η τεχνολογία αναγνώρισης προσώπου συχνά κακοποιείται από πηγές εξουσίας, συμπεριλαμβανομένης της κυβέρνησης των ΗΠΑ. Πόσο μεγάλη κοινωνική ανησυχία πρέπει να είναι αυτό;

Οι επιπτώσεις της τεχνολογίας αναγνώρισης προσώπου πρέπει να είναι μια σημαντική κοινωνική ανησυχία, καθώς αυτή η τεχνολογία μπορεί να επηρεάσει πολλά θεμελιώδη δικαιώματα, συμπεριλαμβανομένων των οικονομικών, κοινωνικών και ασφαλιστικών δικαιωμάτων.

Υπάρχουν σαφείς και πειστικές ενδείξεις ότι οι αλγόριθμοι αναγνώρισης προσώπου είναι αξιόπιστοι. Μια μελέτη του NIST για τους αλγόριθμους αναγνώρισης προσώπου βρήκε ότι οι Αφροαμερικανοί ήταν μέχρι 100 φορές πιο πιθανό να αναγνωριστούν λανθασμένα. Μια παρόμοια μελέτη από το Πανεπιστήμιο του Georgetown βρήκε ότι οι αλγόριθμοι αναγνώρισης προσώπου που βασίζονται σε φωτογραφίες αναγνώρισης προέβησαν σε υψηλό ποσοστό ψευδών θετικών μεμονωμένων ατόμων, και μια μελέτη του MIT το 2018 για το λογισμικό αναγνώρισης προσώπου της Amazon (AMZN ) βρήκε ότι ενώ οι λευκοί άνδρες αναγνωρίστηκαν σωστά το 99% της φοράς, τα σκούρα δέρματα παρήγαγαν μέχρι 35% ψευδείς θετικούς.

Για τους λόγους αυτούς, οι ρυθμιστές αρχίζουν να λαμβάνουν μέτρα για να απαγορεύσουν τη χρήση της τεχνολογίας αναγνώρισης προσώπου, ιδιαίτερα στον τομέα της επιτήρησης και του προφίλ. Για παράδειγμα, η Γερουσία της Καλιφόρνιας ψήφισε ένα νόμο που απαγορεύει τη χρήση της τεχνολογίας αναγνώρισης προσώπου και άλλων μεθόδων βιομετρικής επιτήρησης.

Υπάρχει επίσης μια κίνηση μέσα στην τεχνολογική κοινότητα να αποσυρθεί από την αγορά του λογισμικού αναγνώρισης προσώπου. Η IBM ανακοίνωσε ότι θα σταματήσει να πουλάει λογισμικό αναγνώρισης προσώπου, επικαλούμενη ότι παραβιάζει τα βασικά ανθρώπινα δικαιώματα και τις ελευθερίες. Η Microsoft (MSFT ) ανακοίνωσε μια παρόμοια απόφαση να διακόψει την πώληση της τεχνολογίας αναγνώρισης προσώπου, επικαλούμενη επίσης τα θεμελιώδη ανθρώπινα δικαιώματα.

Το λογισμικό COMPAS, το οποίο έχει χρησιμοποιηθεί από τα δικαστήρια των ΗΠΑ για την αξιολόγηση του κινδύνου εγκλήματος, έχει λανθασμένα χαρακτηρίσει τους ορατούς μειονοτικούς εγκληματίες ως πιο πιθανό να επαναληφθούν από τους λευκούς εγκληματίες. Γνωρίζοντας αυτό, πρέπει να χρησιμοποιηθεί το AI στα δικαστήρια ακόμη;

Μελέτες του COMPAS βρήκαν ότι δεν είναι καλύτερο στην πρόβλεψη εγκλήματος από τυχαίους ανθρώπους. Ενώ η προγνωστική ανάλυση παρέχει σημαντική αξία σε εμπορικό контέκст, έχει αποδειχθεί ότι οδηγεί σε ανισότητες στην εφαρμογή της στην ποινική δικαιοσύνη. Αυτό είναι εμφανές σε μια αναφορά που δημοσιεύθηκε από το Pro Publica, η οποία βρήκε ότι το COMPAS, το πιο δημοφιλές λογισμικό που χρησιμοποιείται από τα δικαστήρια των ΗΠΑ για την αξιολόγηση του κινδύνου εγκλήματος, λανθασμένα χαρακτήρισε τους ορατούς μειονοτικούς εγκληματίες ως πιο πιθανό να επαναληφθούν στο διπλάσιο ποσοστό από τους λευκούς εγκληματίες.

Αυτές οι ανισότητες προκάλεσαν τον τότε Γενικό Εισαγγελέα Έρικ Χόλντερ να αμφισβητήσει την αξιοπιστία και να εκφράσει ανησυχίες σχετικά με τις πιθανές ανισότητες που προκύπτουν από την εφαρμογή της τεχνολογίας του AI για την πρόβλεψη των ποσοστών επαναληπτικής συμπεριφοράς внутри του πληθυσμού των εγκληματιών.

Πώς μπορεί η κοινωνία να αποφύγει το να προγραμματίζει ακούσια αρνητικά προκαταλήψεις στα συστήματα του AI;

Πρώτον, πρέπει να υπάρχει μια αναγνώριση ότι το AI μπορεί να έχει την τάση να παράγει ακούσια προκαταλήψεις. Η μείωση της αρνητικής επίδρασής της απαιτεί μια ολιστική προσέγγιση που αποτελείται από την ανάπτυξη ηθικών οδηγιών για το AI, όπως προτείνονται από το Ethical Frameworks του OECD. Αυτό βασίζεται σε επτά θεμελιώδεις αρχές, συμπεριλαμβανομένης της ανθρώπινης एजεντίας και εποπτείας, της τεχνικής ανθεκτικότητας και ασφάλειας, της προστασίας δεδομένων και διακυβέρνησης, της διαφάνειας, της多μορφίας και της μη διακρίσεως, του κοινωνικού ευημερίου και της ευθύνης.

Δεύτερον, η συμμόρφωση με νομικά πλαίσια που προστατεύουν από την αυτοματοποιημένη προφίλωση είναι κρίσιμη. Για παράδειγμα, η ΕΕ έχει μια μακρά ιστορία σεβασμού και προστασίας των δικαιωμάτων προστασίας δεδομένων, με την πιο πρόσφατη και ισχυρή έκφραση να είναι η Γενική Κανονιστική Προστασίας Δεδομένων (GDPR), η οποία προστατεύει ειδικά από την αυτοματοποιημένη λήψη αποφάσεων.

Τρίτον, πρέπει να υπάρχει μια βιομηχανική ευθύνη για τον τρόπο με τον οποίο αναπτύσσεται και χρησιμοποιείται η τεχνολογία του AI. Υπάρχουν θετικές εξελίξεις εδώ. Για παράδειγμα, το Partnership on AI είναι μια οργάνωση με περισσότερους από 80 μέλη σε 13 χώρες, αφιερωμένη στην έρευνα και συζήτηση για κρίσιμα ζητήματα του AI.

Τέλος, οι τεχνολογικές οργανώσεις πρέπει να τηρήσουν μια δέσμευση να αναλάβουν μια αξιολόγηση επίδρασης προκαταλήψεων πριν από την εμπορική κυκλοφορία των αλγορίθμων του AI, ιδιαίτερα όταν οι εφαρμογές τους επηρεάζουν δικαιώματα προστασίας δεδομένων και ασφάλειας. Ερωτήσεις που οι τεχνολογικοί ηγέτες πρέπει να λάβουν υπόψη πριν από την κυκλοφορία νέων εφαρμογών του AI περιλαμβάνουν: Είναι τα δεδομένα στα οποία αυτή η τεχνολογία εκπαιδεύτηκε αρκετά διαφορετικά; Πώς θα ανιχνευθεί η προκατάληψη; Πώς θα δοκιμαστεί και από ποιον; Ποια είναι οι ενισχύσεις των dévelopers; Ποιος θα ωφεληθεί εμπορικά από αυτό;

Είναι σημαντικό να θυμόμαστε ότι οι λύσεις του AI αντανακλούν τα υποκείμενα δεδομένα στα οποία εκπαιδεύονται αυτές οι εφαρμογές, οπότε η διασφάλιση ότι αυτά τα δεδομένα δεν είναι προκατειλημμένα και αντανακλούν σωστά τη đaμορφία των συνιστωσών που θα εξυπηρετήσει αυτή η λύση είναι κρίσιμη. Με τα λόγια της ερευνήτριας του AI, καθηγήτρια Τζοάννα Μπράισον, «αν τα υποκείμενα δεδομένα αντανακλούν στερεότυπα, ή αν εκπαιδεύσετε το AI από την ανθρώπινη κουλτούρα, θα βρείτε προκατάληψη. Και αν δεν είμαστε προσεκτικοί, κινδυνεύουμε να ενσωματώσουμε αυτή τη προκατάληψη στα προγράμματα υπολογιστή που είναι γρήγορα να αναλάβουν τον έλεγχο του ελέγχου από τα νοσοκομεία μέχρι τα σχολεία μέχρι τις φυλακές – προγράμματα που υποτίθεται ότι θα εξαλείψουν αυτές τις προκαταλήψεις από την αρχή».

Η ABBYY πρόσφατα έλαunched μια Παγκόσμια Πρωτοβουλία για την Προώθηση της Ανάπτυξης Αξιόπιστου Τεχνητού Νοημοσύνης. Πόσο σημαντική είναι αυτή η πρωτοβουλία για το μέλλον της ABBYY;

Η απόφαση να αναπτύξουμε την παγκόσμια πρωτοβουλία για το αξιόπιστο AI είναι μια σημαντική απόφαση που οδηγείται από την πεποίθησή μας ότι ως οργανισμός των τεχνολογιών μας επηρεάζουν επιχειρήσεις σε όλο τον κόσμο και εξυπηρετούν δεκάδες χιλιάδες ατόμων, έχουμε την υποχρέωση να είμαστε καλοί εταιρικοί πολίτες με κοινωνική συνείδηση. Όχι μόνο αυτό βοηθά να ενισχύσει την εμπιστοσύνη από τους παγκόσμιους πελάτες και συνεργάτες μας, αλλά cũng βοηθά να διασφαλίσει ότι οι τεχνολογίες μας θα συνεχίσουν να έχουν μια βαθιά επίδραση με τρόπο που ωφελεί το κοινό καλό.

Αυτό cũng έχει καλό επιχειρηματικό νόημα να προωθήσει και να υποστηρίξει την αξιόπιστη χρήση του AI. Ενισχύει την εταιρική μας ταυτότητα, δημιουργεί εμπιστοσύνη με τους πελάτες και τους συνεργάτες μας. Η εμπιστοσύνη μεταφράζεται σε επαναλαμβανόμενη επιχείρηση και στη βιώσιμη ανάπτυξη.

Μέρος αυτής της πρωτοβουλίας είναι η ABBYY να δεσμευτεί να καλλιεργήσει μια κουλτούρα που προάγει την ηθική χρήση του AI και τη κοινωνική του उपयσιμότητα. Τι πρέπει να γίνει για άλλες εταιρείες να καλλιεργήσουν μια παρόμοια κουλτούρα;

Οι τεχνολογικές εταιρείες πρέπει να κατασκευάσουν ένα πλαίσιο για την ηθική χρήση του AI. Το μέγεθος του τέτοιας δέσμευσης εξαρτάται από τις προβλεπόμενες εφαρμογές των αλγορίθμων του AI. Ο καλύτερος τρόπος για να αξιολογηθεί η επίδρασή του είναι να εφαρμοστεί η αρχή “μην κάνεις κακό” και να υπάρχει μια δέσμευση από την κορυφή προς τα κάτω για την αξιόπιστη χρήση του AI.

Ισότιμα σημαντική είναι μια δέσμευση στη διαφάνεια. Ενώ τα δικαιώματα IP πρέπει να ισορροπούν με την αρχή του αξιόπιστου AI, η σημασία της διαφάνειας και της ευθύνης για την υπεύθυνη χρήση του AI πρέπει να εξαγγεληθεί και να επικοινωνηθεί καθ’ όλη τη διάρκεια της οργάνωσης.

Μια από τις πρωτοβουλίες που έχει δεσμευτεί η ABBYY είναι να παραδώσει τεχνολογίες του AI που είναι κοινωνικά και οικονομικά ωφέλιμες. Αυτό μπορεί να είναι một δύσκολο ισορρόπημα να επιτευχθεί. Πώς μπορούν οι εταιρείες να εφαρμόσουν αυτό;

Οι ηγέτες μπορούν να επιτύχουν αυτό το ισορρόπημα λαμβάνοντας υπόψη τις συστάσεις που προτείνονται από το Deloitte: Η σχεδίαση της ηθικής στο AI αρχίζει με τον καθορισμό του τι έχει σημασία για τους ενδιαφερόμενους, chẳng hạn ως πελάτες, εργαζόμενοι, ρυθμιστές και το ευρύ κοινό. Οι εταιρείες πρέπει να εγκαταστήσουν μια αφιερωμένη επιτροπή διακυβέρνησης και συμβουλευτικής για το AI από διαλειτουργικούς ηγέτες και εξωτερικούς συμβούλους που θα ασχοληθούν με ομάδες εργασίας και θα καθορίσουν και θα επιβλέψουν τη διακυβέρνηση των λύσεων του AI, συμπεριλαμβανομένης της σχεδίασης, ανάπτυξης, ανάπτυξης και χρήσης.

Πώς ισορροπούμε τα εμπορικά μας ενδιαφέροντα και το κοινωνικό καλό ήταν πιο πρόσφατα εξετασμένο κατά τη διάρκεια της πανδημίας του Κοροναϊού. Καταφέραμε να κάνουμε πολλές από τις τεχνολογίες μας διαθέσιμες δωρεάν ή με μειωμένες τιμές για να βοηθήσουμε τα άτομα και τις οργανώσεις να διαπεράσουν την κρίση, να διατηρήσουν την επιχειρηματική συνέχεια και να υποστηρίξουν τους πελάτες τους εν μέσω απρόβλεπτων περιστάσεων.

Πρόσφατα, καναμε τις τεχνολογικές μας πλαισίες διαθέσιμες μέσω του NeoML, της ανοικτής βιβλιοθήκης μηχανικής μάθησης που επιτρέπει στους dévelopers να αξιοποιήσουν δοκιμασμένα και αξιόπιστα μοντέλα για να προωθήσουν την καινοτομία του AI.

Μπορείτε να μοιραστείτε απόψεις για τη χρήση του AI για εφαρμογές επαφής και τις ανάγκες για ισορρόπηση του δικαιώματος προστασίας δεδομένων;

Αυτό είναι ένα ιδιαίτερα δυσχερές ζήτημα. Υπάρχουν εκείνοι που υποστηρίζουν ότι η εφαρμογή των εφαρμογών παρακολούθησης αντιπροσωπεύει μια ανεπιθύμητη εισβολή στα δικαιώματα προστασίας δεδομένων. Από την άλλη πλευρά, όταν πρόκειται για δημόσια ασφάλεια, υπάρχουν πάντα όρια στα δικαιώματα γενικά. Είναι μια ανταλλαγή μεταξύ δικαιωμάτων και ευθυνών. Ωστόσο, τα δικαιώματα δεν είναι απόλυτα. Η περιέγκλειση μιας παγκόσμιας πανδημίας απαιτεί συντονισμένη δράση και εφαρμογή πόρων και τεχνολογιών που μπορούν να χρησιμοποιηθούν υπεύθυνα για την προστασία του πληθυσμού εν γένει.

Αυτή η ισορρόπηση μεταξύ των ατομικών δικαιωμάτων προστασίας δεδομένων και του κοινού καλού αναγνωρίζεται σε ένα νομικό πλαίσιο. Για παράδειγμα, η GDPR αναφέρει έξι λόγους για τη νόμιμη επεξεργασία προσωπικών δεδομένων, συμπεριλαμβανομένης μιας πρόβλεψης που όταν η επεξεργασία είναι απαραίτητη για το δημόσιο συμφέρον, τέτοια επεξεργασία των προσωπικών δεδομένων είναι δικαιολογημένη χωρίς να ζητηθεί η συγκατάθεση του υποκειμένου των δεδομένων.

Επιπλέον, το άρθρο 46 της GDPR ορίζει ρητά ότι η επεξεργασία προσωπικών δεδομένων είναι δικαιολογημένη χωρίς να ζητηθεί η συγκατάθεση του υποκειμένου των δεδομένων σε ανθρωπιστικές εκτάκτες, συμπεριλαμβανομένων των επιδημιών. Ωστόσο, είναι σημαντικό να σημειωθεί ότι το άρθρο 46 ερμηνεύει την εφαρμογή της πρόβλεψης του δημόσιου συμφέροντος πολύ στενά, σημειώνοντας ότι πρέπει να ληφθεί χώρα μόνο όταν δεν μπορεί να βασιστεί σε άλλη νομική βάση.

Εκτός από την ισορρόπηση των δικαιωμάτων προστασίας δεδομένων με το δημόσιο συμφέρον, είναι επίσης επιβεβλημένο για τον τεχνολογικό τομέα και τους νομοθέτες να εφαρμόσουν ηθικά ακριβείς, διαφανείς και δίκαιες οδηγίες σχετικά με τη χρήση του AI-κίνησης και τη διακοπή υψηλά ευαίσθητων υγείας. Μεγάλοι τεχνολογικοί όμιλοι, συμπεριλαμβανομένων της Google (GOOGL ) και της Facebook (META ), έχουν ήδη ξεκινήσει πρωτοβουλίες για να παρακολουθήσουν τις κινήσεις των χρηστών για να αναγνωρίσουν πώς εξαπλώνεται το ιό και να αξιολογήσουν την αποτελεσματικότητα των μέτρων κοινωνικής απόστασης.

Πιστεύω ότι όσο τα δεδομένα είναι ανώνυμα, η χρήση τους έχει κοινωνική उपयσιμότητα.

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστεί σχετικά με την नई Παγκόσμια Πρωτοβουλία της ABBYY για την Προώθηση της Ανάπτυξης Αξιόπιστου Τεχνητού Νοημοσύνης;

Οι ρυθμιστές τείνουν να μείνουν πίσω από την τεχνολογική καινοτομία, επομένως, οι εταιρείες πρέπει να παίξουν einen προενεργό ρόλο στην προώθηση της διαφάνειας και της ευθύνης με τις τεχνολογίες του AI και τον τρόπο με τον οποίο επηρεάζουν τα δικαιώματα προστασίας δεδομένων και ασφάλειας. Η πρωτοβουλία μας αντανακλά την δέσμευσή μας σε αυτή την προσπάθεια. Από την ίδρυση μας, έχουμε δημιουργήσει καινοτόμες τεχνολογίες που διατηρούν την πολύτιμη πληροφορία και τη μετατρέπουν σε ενεργό γνώση.

Επιπλέον, η ηθική χρήση των τεχνολογιών του AI δεν πρέπει να θεωρείται μόνο σε νομική βάση, αλλά και ως ηθική υποχρέωση και επιχειρηματική απαιτούμενη. Αν οι λύσεις σας έχουν μια μεγάλη εμβέλεια και επηρεάζουν επιχειρηματικά κρίσιμες λειτουργίες, πρέπει να είναι βιομηχανικός κανονισμός να είναι διαφανείς στην εφαρμογή των τεχνολογιών του AI.

Ευχαριστούμε πολύ για τις απαντήσεις σε αυτά τα σημαντικά ερωτήματα. Για να δείτε τις οδηγίες και την προσέγγιση της ABBYY για την τήρηση και την προώθηση των αξιόπιστων αρχών του AI, κάντε κλικ εδώ. Όποιος επιθυμεί να μάθει περισσότερα για την ABBYY γενικά μπορεί να επισκεφθεί την ιστοσελίδα της ABBYY.