Ηθική
Τι σημαίνει η διακήρυξη δικαιωμάτων του Λευκού Οίκου για την εποχή της AI για την Αμερική και τον υπόλοιπο κόσμο

Βασικά σημείαΤο Λευκό Οίκο AI Bill of Rights δεν είναι δεσμευτικό και δεν αποτελεί πολιτική της…
Δείτε περισσότερα
- Το Λευκό Οίκο AI Bill of Rights δεν είναι δεσμευτικό και δεν αποτελεί πολιτική της κυβέρνησης των ΗΠΑ.
- Η επεξηγήσιμη τεχνητή νοημοσύνη είναι απαραίτητη για τη συμμόρφωση λόγω του προβλήματος του μαύρου κουτιού της βαθιάς μάθησης.
- Το νομοσχέδιο έρχεται σε αντίθεση με την προσέγγιση της Κίνας δίνοντας προτεραιότητα στη διαφάνεια και την προστασία του κοινού.
Το Γραφείο Επιστημών και Τεχνολογίας του Λευκού Οίκου (OSTP) εξέδωσε πρόσφατα ένα λευκό βιβλίο με τον τίτλο “Το Σχέδιο για έναν Διακήρυξη Δικαιωμάτων για την Τεχνητή Νοημοσύνη: Κάνετε τα Αυτοματοποιημένα Συστήματα να Λειτουργούν για τον Αμερικανικό Λαό”. Αυτό το πλαίσιο εξεδόθη ένα χρόνο μετά την ανακοίνωση του OSTP για την έναρξη μιας διαδικασίας για την ανάπτυξη “ενός νόμου δικαιωμάτων για έναν κόσμο που βασίζεται στην τεχνητή νοημοσύνη”.
Ο πρόλογος σε αυτό το νόμο δείχνει σαφώς ότι ο Λευκός Οίκος κατανοεί τις επικείμενες απειλές για την κοινωνία που δημιουργούνται από την τεχνητή νοημοσύνη. Αυτό είναι αυτό που αναφέρεται στο προλόγο:
“Μια από τις μεγάλες προκλήσεις που αντιμετωπίζει η δημοκρατία σήμερα είναι η χρήση της τεχνολογίας, των δεδομένων και των αυτοματοποιημένων συστημάτων με τρόπους που απειλούν τα δικαιώματα του Αμερικανικού κοινού. Πολύ συχνά, αυτά τα εργαλεία χρησιμοποιούνται για να περιορίσουν τις ευκαιρίες μας και να εμποδίσουν την πρόσβασή μας σε κρίσιμους πόρους ή υπηρεσίες. Αυτά τα προβλήματα είναι καλά τεκμηριωμένα. Στην Αμερική και στον κόσμο, τα συστήματα που υποτίθεται ότι βοηθούν στην φροντίδα των ασθενών έχουν αποδειχθεί μη ασφαλή, αναποτελεσματικά ή προκατειλημμένα. Οι αλγόριθμοι που χρησιμοποιούνται στις αποφάσειςπρόσληψης και πίστωσης έχουν βρεθεί να αντανακλούν και να αναπαράγουν τις μη επιθυμητές ανισότητες ή να ενσωματώνουννέες επιβλαβείς προκαταλήψεις και διακρίσεις. Η ανεξέλεγκτη συλλογή δεδομένων από τα μέσα κοινωνικής δικτύωσης έχει χρησιμοποιηθεί για να απειλήσει τις ευκαιρίες των ανθρώπων, να υπονομεύσει την ιδιωτικότητά τους ή να παρακολουθήσει την δραστηριότητά τους – συχνά χωρίς τη γνώση ή τη συναίνεσή τους.”
Αυτό που θα σημαίνει αυτό το Δικαίωμα και το πλαίσιο που προτείνει για το μέλλον της τεχνητής νοημοσύνης παραμένει να δειχθεί. Αυτό που γνωρίζουμε είναι ότι νέες εξελίξεις εμφανίζονται με εκθετική ταχύτητα. Αυτό που ήταν κάποτε αδύνατο, η άμεση μετάφραση γλώσσας, είναι τώρα πραγματικότητα, και ταυτόχρονα έχουμε μια επανάσταση στην κατανόηση της φυσικής γλώσσας (NLU) που οδηγείται από την OpenAI και τη διάσημη πλατφόρμα GPT-3.
Από τότε έχουμε δει άμεση δημιουργία εικόνων μέσω μιας τεχνικής που ονομάζεται Stable Diffusion που μπορεί να γίνει σύντομα καταναλωτικό προϊόν. Ουσιαστικά, με αυτή τη τεχνολογία, ένας χρήστης μπορεί να εισαγάγει οποιαδήποτε ερώτηση που μπορεί να φανταστεί, και σαν μαγία, η τεχνητή νοημοσύνη θα γεννήσει μια εικόνα που ταιριάζει στην ερώτηση.
Όταν λαμβάνουμε υπόψη την εκθετική αύξηση και τον Νόμο της Επιταχυνόμενης Επιστροφής, θα έρθει μια στιγμή όταν η τεχνητή νοημοσύνη θα έχει καταλάβει κάθε πτυχή της καθημερινής ζωής. Τα άτομα και οι εταιρείες που γνωρίζουν αυτό και επωφελούνται από αυτή τη μετατόπιση παραδείγματος θα κερδίσουν. Δυστυχώς, ένα μεγάλο τμήμα της κοινωνίας μπορεί να πέσει θύμα των κακόβουλων και των ακούσιων συνεπειών της τεχνητής νοημοσύνης.
Το Δικαίωμα της Τεχνητής Νοημοσύνης έχει ως στόχο να υποστηρίξει την ανάπτυξη πολιτικών και πρακτικών που προστατεύουν τα ατομικά δικαιώματα και προάγουν τις δημοκρατικές αξίες στην κατασκευή, την ανάπτυξη και τη διακυβέρνηση των αυτοματοποιημένων συστημάτων. Πώς αυτό το δικαίωμα θα συγκριθεί με την προσέγγιση της Κίνας παραμένει να δειχθεί, αλλά είναι ένα δικαίωμα που έχει τη δυνατότητα να μετατοπίσει το τοπίο της τεχνητής νοημοσύνης και είναι πιθανό να υιοθετηθεί από συμμάχους όπως η Αυστραλία, ο Καναδάς και η ΕΕ.
Αυτό που πρέπει να αναφερθεί είναι ότι το Δικαίωμα της Τεχνητής Νοημοσύνης δεν είναι δεσμευτικό και δεν συνιστά πολιτική της αμερικανικής κυβέρνησης. Δεν αντικαθιστά ούτε τροποποιεί και δεν καθοδηγεί την ερμηνεία κανένα υπάρχον νόμο, κανονισμό, πολιτική ή διεθνές όργανο. Αυτό σημαίνει ότι θα είναι στις επιχειρήσεις και τις κυβερνήσεις να τηρήσουν τις πολιτικές που περιγράφονται σε αυτό το λευκό βιβλίο.
Αυτό το δικαίωμα έχει αναγνωρίσει πέντε αρχές που πρέπει να οδηγήσουν το σχεδιασμό, τη χρήση και την ανάπτυξη των αυτοματοποιημένων συστημάτων για την προστασία του Αμερικανικού κοινού στην εποχή της τεχνητής νοημοσύνης, κάτω από τις οποίες θα περιγράψουμε τις 5 αρχές:
1. Ασφαλή και Αποτελεσματικά Συστήματα
Υπάρχει ένα σαφές και επικείμενο κίνδυνο για την κοινωνία από τα κακόβουλα συστήματα της τεχνητής νοημοσύνης, ιδιαίτερα αυτά που βασίζονται στη βαθιά μάθηση. Αυτό προσπαθεί να αντιμετωπιστεί με αυτές τις αρχές:
“Πρέπει να προστατευτείτε από μη ασφαλή ή αναποτελεσματικά συστήματα. Τα αυτοματοποιημένα συστήματα πρέπει να αναπτυχθούν με διαβούλευση από διαφορετικές κοινότητες, ενδιαφερόμενους και εμπειρογνώμονες για να αναγνωρίσουν τις ανησυχίες, τους κινδύνους και τις πιθανές επιπτώσεις του συστήματος. Τα συστήματα πρέπει να υποβληθούν σε δοκιμές πριν από την ανάπτυξή τους, αναγνώριση και μείωση του κινδύνου και συνεχής παρακολούθηση που να δείχνει ότι είναι ασφαλή και αποτελεσματικά βάσει της προτεινόμενης χρήσης, μείωση των μη ασφαλών αποτελεσμάτων, συμπεριλαμβανομένων εκείνων πέρα από την προτεινόμενη χρήση, και συμμόρφωση με τα πρότυπα του κλάδου. Τα αποτελέσματα αυτών των προστατευτικών μέτρων πρέπει να περιλαμβάνουν τη δυνατότητα να μην αναπτύξουν το σύστημα ή να το αφαιρέσουν από χρήση. Τα αυτοματοποιημένα συστήματα δεν πρέπει να σχεδιαστούν με σκοπό ή προβλέψιμη πιθανότητα να θέσουν σε κίνδυνο την ασφάλειά σας ή την ασφάλεια της κοινότητας σας. Πρέπει να σχεδιαστούν για να προστατεύουν ενεργά από τις βλάβες που προέρχονται από μη προβλεπόμενες, αλλά προβλέψιμες, χρήσεις ή επιπτώσεις των αυτοματοποιημένων συστημάτων. Πρέπει να προστατευτείτε από την ακατάλληλη ή μη σχετική χρήση δεδομένων στο σχεδιασμό, την ανάπτυξη και την ανάπτυξη των αυτοματοποιημένων συστημάτων, και από την ενισχυμένη βλάβη της επαναχρήσης. Η ανεξάρτητη αξιολόγηση και αναφορά που να επιβεβαιώνει ότι το σύστημα είναι ασφαλές και αποτελεσματικό, συμπεριλαμβανομένης της αναφοράς των βημάτων που λαμβάνονται για την μείωση των πιθανών βλαβών, πρέπει να πραγματοποιούνται και τα αποτελέσματα να δημοσιευθούν όποτε είναι δυνατόν.
2. Προστασία από την Αλγοριθμική Διάκριση
Αυτές οι πολιτικές αντιμετωπίζουν κάποια από τα ελέφαντα στο δωμάτιο όταν πρόκειται για τις επιχειρήσεις που εκμεταλλεύονται τα άτομα.
Ένα συνηθισμένο πρόβλημα όταν προσλαμβάνονται εργαζόμενοι με τη χρήση συστημάτων της τεχνητής νοημοσύνης είναι ότι το σύστημα βαθιάς μάθησης θα συχνά εκπαιδευτεί με προκατειλημμένα δεδομένα για να φθάσει σε συμπεράσματα για την πρόσληψη. Αυτό ουσιαστικά σημαίνει ότι οι κακές πρακτικές πρόσληψης στο παρελθόν θα οδηγήσουν σε διακρίσεις φύλου ή φυλής από τον υπεύθυνο πρόσληψης. Μια μελέτη έδειξε τη δυσκολία της απόπειρας να αφαιρεθεί το φύλο από τα δεδομένα εκπαίδευσης.
Ένα άλλο κεντρικό πρόβλημα με τα προκατειλημμένα δεδομένα από τις κυβερνήσεις είναι ο κίνδυνος για λανθασμένη κράτηση, ή ακόμη και χειρότερα αλγόριθμοι πρόβλεψης εγκληματικότητας που προσφέρουν μεγαλύτερες ποινές σε μειονότητες.
“Δεν πρέπει να αντιμετωπίζετε διακρίσεις από αλγόριθμους και τα συστήματα πρέπει να χρησιμοποιούνται και να σχεδιάζονται με ισότητα. Η αλγοριθμική διάκριση συμβαίνει όταν τα αυτοματοποιημένα συστήματα συμβάλλουν στην αδικαιολόγητη διαφορετική μεταχείριση ή τις επιπτώσεις που δεν ευνοούν τους ανθρώπους με βάση τη φυλή, το χρώμα, την εθνοτική καταγωγή, το φύλο (συμπεριλαμβανομένης της εγκυμοσύνης, του τοκετού και συναφών ιατρικών καταστάσεων, της ταυτότητας φύλου, της μεσοφυλικής κατάστασης και του σεξουαλικού προσανατολισμού), τη θρησκεία, την ηλικία, την εθνική προέλευση, την αναπηρία, την ιδιότητα βετεράνου, τις γενετικές πληροφορίες ή οποιαδήποτε άλλη κατηγορία που προστατεύεται από το νόμο. Εξαρτάται από τις συγκεκριμένες περιστάσεις, η αλγοριθμική διάκριση μπορεί να παραβιάσει τις νομικές προστασίες. Οι σχεδιαστές, οι προγραμματιστές και οι χρήστες των αυτοματοποιημένων συστημάτων πρέπει να λάβουν προληπτικά και συνεχείς μέτρα για να προστατεύσουν τα άτομα και τις κοινότητες από την αλγοριθμική διάκριση και να χρησιμοποιούν και να σχεδιάζουν τα συστήματα με ισότητα. Αυτή η προστασία πρέπει να περιλαμβάνει προληπτικές αξιολογήσεις ισότητας ως μέρος του σχεδιασμού του συστήματος, χρήση αντιπροσωπευτικών δεδομένων και προστασία από υποκατάστατες μεταβλητές δημογραφικών χαρακτηριστικών, διασφάλιση της προσβασιμότητας για άτομα με αναπηρίες στο σχεδιασμό και την ανάπτυξη, δοκιμές και μείωση της ανισότητας πριν από την ανάπτυξη και συνεχή έλεγχο και μείωση των ανισοτήτων, καθώς και σαφή οργανωτική εποπτεία. Η ανεξάρτητη αξιολόγηση και αναφορά σε απλή γλώσσα με τη μορφή αξιολόγησης αλγοριθμικού αντίκτυπου, συμπεριλαμβανομένης της αναφοράς των αποτελεσμάτων της ανισότητας και της μείωσης, πρέπει να πραγματοποιηθεί και να δημοσιευθεί όποτε είναι δυνατόν για να επιβεβαιώσει αυτές τις προστασίες.
Οι ΗΠΑ έχουν ακολουθήσει μια ιδιαίτερα διαφανή προσέγγιση στην τεχνητή νοημοσύνη. Οι πολιτικές αυτές αποσκοπούν στην προστασία του κοινού, σε σαφή αντίθεση με τις προσεγγίσεις της Κίνας.
3. Προστασία Δεδομένων
Αυτή η αρχή προστασίας δεδομένων είναι αυτή που πιθανότατα να επηρεάσει το μεγαλύτερο τμήμα του πληθυσμού. Το πρώτο μισό της αρχής φαίνεται να ασχολείται με τη συλλογή δεδομένων, ιδιαίτερα με δεδομένα που συλλέγονται μέσω του διαδικτύου, ένα γνωστό πρόβλημα ειδικά για τις πλατφόρμες κοινωνικών μέσων. Αυτά τα δεδομένα μπορούν να χρησιμοποιηθούν για να πουλήσουν διαφημίσεις ή ακόμη και να μανιπουλάρουν την κοινή γνώμη και να επηρεάσουν τις εκλογές.
“Πρέπει να προστατευτείτε από τις κακόβουλες πρακτικές δεδομένων μέσω ενσωματωμένων προστασιών και πρέπει να έχετε τον έλεγχο του πώς χρησιμοποιούνται τα δεδομένα σας. Πρέπει να προστατευτείτε από τις παραβιάσεις της ιδιωτικότητας μέσω επιλογών σχεδιασμού που διασφαλίζουν ότι αυτές οι προστασίες περιλαμβάνονται από προεπιλογή, συμπεριλαμβανομένης της διασφάλισης ότι η συλλογή δεδομένων συμμορφώνεται με τις εύλογες προσδοκίες, και ότι μόνο τα δεδομένα που είναι αυστηρά απαραίτητα για το συγκεκριμένο πλαίσιο συλλέγονται. Οι σχεδιαστές, προγραμματιστές και χρήστες των αυτοματοποιημένων συστημάτων πρέπει να ζητήσουν τη συναίνεσή σας και να σεβαστούν τις αποφάσεις σας σχετικά με τη συλλογή, χρήση, πρόσβαση, μεταφορά και διαγραφή των δεδομένων σας με κατάλληλους τρόπους και στο μέγιστο δυνατό βαθμό. Όπου δεν είναι δυνατό, πρέπει να χρησιμοποιούνται εναλλακτικά μέτρα προστασίας της ιδιωτικότητας ήδη από τον σχεδιασμό. Τα συστήματα δεν πρέπει να χρησιμοποιούν επιλογές σχεδιασμού που να αποκρύπτουν την επιλογή του χρήστη ή να βαρύνουν τους χρήστες με προεπιλογές που είναι παρεμβατικές στην ιδιωτικότητα. Η συναίνεση πρέπει να χρησιμοποιείται μόνο για να δικαιολογήσει τη συλλογή δεδομένων σε περιπτώσεις όπου μπορεί να δοθεί σωστά και με νόημα. Οι αιτήσεις συναίνεσης πρέπει να είναι σύντομες, να είναι κατανοητές σε απλή γλώσσα και να σας δίνουν τον έλεγχο της συλλογής δεδομένων και του συγκεκριμένου πλαίσιο της χρήσης. Οι τρέχουσες πρακτικές ενημέρωσης και επιλογής για ευρεία χρήση δεδομένων πρέπει να αλλάξουν.
Το δεύτερο μισό της αρχής προστασίας δεδομένων φαίνεται να αφορά την επιτήρηση από κυβερνήσεις και επιχειρήσεις.
Οι επιχειρήσεις μπορούν σήμερα να παρακολουθούν και να κατασκοπεύουν εργαζομένους, σε ορισμένες περιπτώσεις για να βελτιώσουν την ασφάλεια στον χώρο εργασίας. Κατά την πανδημία COVID-19 αυτό γινόταν για την επιβολή μάσκας, αλλά συχνότερα απλώς για τον έλεγχο της αξιοποίησης του χρόνου εργασίας. Πολλοί εργαζόμενοι αισθάνονται ότι η παρακολούθηση και ο έλεγχος υπερβαίνουν το αποδεκτό όριο.
«Οι ενισχυμένες προστασίες και περιορισμοί για δεδομένα και συμπεράσματα σε ευαίσθητους τομείς, όπως η υγεία, η εργασία, η εκπαίδευση, η ποινική δικαιοσύνη και τα χρηματοοικονομικά, καθώς και για δεδομένα νέων, πρέπει να θέτουν εσάς σε προτεραιότητα. Στους ευαίσθητους τομείς, τα δεδομένα σας και τα σχετικά συμπεράσματα πρέπει να χρησιμοποιούνται μόνο για αναγκαίες λειτουργίες, με προστασία μέσω δεοντολογικής αξιολόγησης και απαγορεύσεων χρήσης. Εσείς και οι κοινότητές σας πρέπει να είστε ελεύθεροι από ανεξέλεγκτη επιτήρηση. Οι τεχνολογίες επιτήρησης πρέπει να υπόκεινται σε αυξημένη εποπτεία, που περιλαμβάνει τουλάχιστον αξιολόγηση πιθανών βλαβών πριν από την εφαρμογή και περιορισμούς εμβέλειας για την προστασία της ιδιωτικότητας και των ατομικών ελευθεριών. Η συνεχής επιτήρηση και παρακολούθηση δεν πρέπει να χρησιμοποιούνται στην εκπαίδευση, στην εργασία, στη στέγαση ή αλλού όπου είναι πιθανό να περιορίζουν δικαιώματα, ευκαιρίες ή πρόσβαση. Όποτε είναι δυνατόν, πρέπει να έχετε πρόσβαση σε αναφορές που επιβεβαιώνουν ότι οι αποφάσεις σας για τα δεδομένα έγιναν σεβαστές και αξιολογούν τις πιθανές επιπτώσεις των τεχνολογιών επιτήρησης στα δικαιώματα, στις ευκαιρίες ή στην πρόσβασή σας.»
Πρέπει να σημειωθεί ότι η τεχνητή νοημοσύνη μπορεί να αξιοποιηθεί για την προστασία της ιδιωτικότητας.
4. Ενημέρωση και Εξήγηση
Αυτό πρέπει να είναι η κλήση στα όπλα για τις επιχειρήσεις να αναπτύξουν ένα Συμβούλιο Ηθικής της Τεχνητής Νοημοσύνης, καθώς και να επιταχύνουν την ανάπτυξη εξηγήσιμης τεχνητής νοημοσύνης. Η εξηγήσιμη τεχνητή νοημοσύνη είναι απαραίτητη σε περίπτωση που ένα μοντέλο της τεχνητής νοημοσύνης κάνει ένα λάθος, η κατανόηση του πώς λειτουργεί η τεχνητή νοημοσύνη επιτρέπει την εύκολη διάγνωση ενός προβλήματος.
Η εξηγήσιμη τεχνητή νοημοσύνη θα επιτρέψει επίσης την διαφανή κοινή χρήση πληροφοριών σχετικά με τον τρόπο που χρησιμοποιούνται τα δεδομένα και γιατί μια απόφαση λήφθηκε από την τεχνητή νοημοσύνη. Χωρίς εξηγήσιμη τεχνητή νοημοσύνη, θα είναι αδύνατο να συμμορφωθούν με αυτές τις πολιτικές λόγω του πρόβληματος του μαύρου κουτιού της βαθιάς μάθησης.
Οι επιχειρήσεις που βελτιώνουν αυτά τα συστήματα ωφελούνται επίσης κατανοώντας τις λεπτές διαφορές και την πολυπλοκότητα πίσω από μια συγκεκριμένη απόφαση αλγορίθμου βαθιάς μάθησης.
«Πρέπει να γνωρίζετε ότι χρησιμοποιείται ένα αυτοματοποιημένο σύστημα και να κατανοείτε πώς και γιατί συμβάλλει σε αποτελέσματα που σας επηρεάζουν. Οι σχεδιαστές, προγραμματιστές και φορείς εφαρμογής πρέπει να παρέχουν γενικά προσβάσιμη τεκμηρίωση σε απλή γλώσσα, με σαφή περιγραφή της συνολικής λειτουργίας και του ρόλου της αυτοματοποίησης, γνωστοποίηση της χρήσης τέτοιων συστημάτων, στοιχεία του υπεύθυνου προσώπου ή οργανισμού και εξηγήσεις αποτελεσμάτων σαφείς, έγκαιρες και προσβάσιμες. Η ενημέρωση πρέπει να διατηρείται επίκαιρη και οι επηρεαζόμενοι να ειδοποιούνται για σημαντικές αλλαγές στη χρήση ή στις βασικές λειτουργίες. Πρέπει να γνωρίζετε πώς και γιατί καθορίστηκε ένα αποτέλεσμα που σας επηρεάζει, ακόμη και όταν το αυτοματοποιημένο σύστημα δεν είναι η μοναδική εισροή. Τα συστήματα πρέπει να παρέχουν τεχνικά έγκυρες, ουσιαστικές και χρήσιμες εξηγήσεις σε εσάς, στους χειριστές και σε όσους χρειάζονται να τα κατανοήσουν, προσαρμοσμένες στο επίπεδο κινδύνου ανάλογα με το πλαίσιο. Αναφορές με συνοπτικές πληροφορίες σε απλή γλώσσα και αξιολογήσεις της σαφήνειας και ποιότητας των ενημερώσεων και εξηγήσεων πρέπει να δημοσιοποιούνται όποτε είναι δυνατόν.»
5. Ανθρώπινες εναλλακτικές, αξιολόγηση και εφεδρικές λύσεις
Αυτή η αρχή είναι πιο εφαρμόσιμη για τις κυβερνητικές οντότητες ή τις ιδιωτικές εταιρείες που εργάζονται για λογαριασμό της κυβέρνησης.
Ακόμη και με ένα Συμβούλιο Ηθικής της Τεχνητής Νοημοσύνης και εξηγήσιμη τεχνητή νοημοσύνη, είναι σημαντικό να επαναλάβουμε την ανθρώπινη επανεξέταση όταν είναι σε κίνδυνο η ζωή. Υπάρχει πάντα η πιθανότητα λάθους, και η ύπαρξη μιας ανθρώπινης επανεξέτασης μιας περίπτωσης όταν ζητηθεί μπορεί να αποτρέψει μια περίπτωση όπως η τεχνητή νοημοσύνη που στέλνει τους λάθος ανθρώπους στη φυλακή.
Το δικαστικό και ποινικό σύστημα έχει το μεγαλύτερο περιθώριο να προκαλέσει ανεπανόρθωτη βλάβη σε περιθωριοποιημένα μέλη της κοινωνίας και πρέπει να δώσει ιδιαίτερη προσοχή σε αυτή την αρχή.
«Πρέπει να μπορείτε, όπου ενδείκνυται, να επιλέγετε τη μη χρήση του συστήματος και να έχετε πρόσβαση σε άνθρωπο που μπορεί γρήγορα να εξετάσει και να διορθώσει τα προβλήματα που συναντάτε. Πρέπει να μπορείτε να επιλέγετε ανθρώπινη εναλλακτική αντί αυτοματοποιημένου συστήματος, όπου αυτό είναι κατάλληλο. Η καταλληλότητα πρέπει να βασίζεται σε εύλογες προσδοκίες στο συγκεκριμένο πλαίσιο, με έμφαση στην ευρεία προσβασιμότητα και στην προστασία του κοινού από ιδιαίτερα επιβλαβείς επιπτώσεις. Σε ορισμένες περιπτώσεις, ο νόμος μπορεί να απαιτεί ανθρώπινη ή άλλη εναλλακτική. Πρέπει να έχετε έγκαιρη ανθρώπινη αξιολόγηση και αποκατάσταση μέσω εφεδρικής λύσης και διαδικασίας κλιμάκωσης του προβλήματος, αν το σύστημα αποτύχει, κάνει λάθος ή θέλετε να ασκήσετε προσφυγή ή να αμφισβητήσετε την επίδρασή του. Η ανθρώπινη αξιολόγηση και οι εφεδρικές λύσεις πρέπει να είναι προσβάσιμες, δίκαιες, αποτελεσματικές, συντηρούμενες, με κατάλληλη εκπαίδευση χειριστών, χωρίς παράλογη επιβάρυνση του κοινού. Συστήματα σε ευαίσθητους τομείς, ενδεικτικά το ποινικό σύστημα, η απασχόληση, η εκπαίδευση και η υγεία, πρέπει επιπλέον να προσαρμόζονται στον σκοπό, να προσφέρουν ουσιαστική πρόσβαση σε εποπτεία, να εκπαιδεύουν όσους αλληλεπιδρούν μαζί τους και να περιλαμβάνουν ανθρώπινη αξιολόγηση δυσμενών αποφάσεων ή αποφάσεων υψηλού κινδύνου. Αναφορές που περιγράφουν αυτές τις διαδικασίες ανθρώπινης διακυβέρνησης και αξιολογούν την έγκαιρη λειτουργία, την προσβασιμότητα, τα αποτελέσματα και την αποτελεσματικότητά τους πρέπει να δημοσιοποιούνται όποτε είναι δυνατόν.»
Σύνοψη
Το OSTP πρέπει να λάβει πίστωση για την προσπάθεια να εισαγάγει ένα πλαίσιο που συνδέει τις δικλίδες ασφαλείας που χρειάζονται για την κοινωνία, χωρίς να εισαγάγει δρακόντειες πολιτικές που θα μπορούσαν να εμποδίσουν την πρόοδο στην ανάπτυξη της μηχανικής μάθησης.
Μετά την περιγραφή των αρχών, το δικαίωμα συνεχίζει με την παροχή ενός συνοδευτικού τεχνικού κειμένου στα ζητήματα που συζητούνται, καθώς και λεπτομερείς πληροφορίες σχετικά με κάθε αρχή και τους καλύτερους τρόπους για να προχωρήσει στην εφαρμογή αυτών των αρχών.
Οι έξυπνοι ιδιοκτήτες επιχειρήσεων και οι επιχειρήσεις πρέπει να σημειώσουν να μελετήσουν αυτό το δικαίωμα, καθώς μπορεί να είναι μόνο προς το συμφέρον τους να εφαρμόσουν αυτές τις πολιτικές όσο το δυνατόν συντομότερα.
Η εξηγήσιμη τεχνητή νοημοσύνη θα συνεχίσει να κυριαρχεί στην σημασία, όπως φαίνεται από αυτήν την αναφορά στο δικαίωμα.
“Σε όλη τη διάρκεια της ομοσπονδιακής κυβέρνησης, οι υπηρεσίες πραγματοποιούν και υποστηρίζουν έρευνα για συστήματα εξηγήσιμης τεχνητής νοημοσύνης. Το NIST πραγματοποιεί θεμελιώδη έρευνα για την εξηγήσιμη τεχνητή νοημοσύνη. Μια διεπιστημονική ομάδα ερευνητών έχει ως στόχο να αναπτύξει μεθόδους μέτρησης και τις καλύτερες πρακτικές για την εφαρμογή των βασικών αρχών της εξηγήσιμης τεχνητής νοημοσύνης. Το Defense Advanced Research Projects Agency έχει ένα πρόγραμμα για την Εξηγήσιμη Τεχνητή Νοημοσύνη που έχει ως στόχο να δημιουργήσει μια σειρά τεχνικών μηχανικής μάθησης που παράγουν πιο εξηγήσιμα μοντέλα, ενώ διατηρούν υψηλό επίπεδο μάθησης (ακρίβεια πρόβλεψης), και να επιτρέψουν στους ανθρώπινους χρήστες να κατανοούν, να εμπιστεύονται κατάλληλα και να διαχειρίζονται αποτελεσματικά την αναδυόμενη γενιά ευφυών τεχνητών συνεργατών. Το πρόγραμμα της Εθνικής Επιστημονικής Ιδρύματος για την Ισότητα στην Τεχνητή Νοημοσύνη περιλαμβάνει επίσης ένα συγκεκριμένο ενδιαφέρον για την έρευνα των θεμελίων για την εξηγήσιμη τεχνητή νοημοσύνη.”
Αυτό που δεν πρέπει να παραβλεφθεί είναι ότι τελικά οι αρχές που περιγράφονται εδώ θα γίνουν το νέο πρότυπο.












