Τι σημαίνει το Δικαίωμα του Λευκού Οίκου για την Τεχνητή Νοημοσύνη για την Αμερική και τον υπόλοιπο κόσμο

Το Γραφείο Επιστημών και Τεχνολογίας του Λευκού Οίκου (OSTP) εξέδωσε πρόσφατα ένα λευκό βιβλίο με τον τίτλο “Το Σχέδιο για einen Νόμο Δικαιωμάτων για την Τεχνητή Νοημοσύνη: Κάνετε τα Αυτοματοποιημένα Συστήματα να Λειτουργούν για τον Αμερικανικό Λαό”. Αυτό το πλαίσιο εξεδόθη ένα χρόνο μετά την ανακοίνωση του OSTP για την έναρξη μιας διαδικασίας για την ανάπτυξη “ενός νόμου δικαιωμάτων για έναν κόσμο που βασίζεται στην τεχνητή νοημοσύνη”.

Το προλόγος σε αυτό το νόμο δείχνει σαφώς ότι ο Λευκός Οίκος κατανοεί τις επικείμενες απειλές για την κοινωνία που δημιουργούνται από την τεχνητή νοημοσύνη. Αυτό είναι αυτό που αναφέρεται στο προλόγο:

“Μια από τις μεγάλες προκλήσεις που αντιμετωπίζει η δημοκρατία σήμερα είναι η χρήση της τεχνολογίας, των δεδομένων και των αυτοματοποιημένων συστημάτων με τρόπους που απειλούν τα δικαιώματα του Αμερικανικού κοινού. Πολύ συχνά, αυτά τα εργαλεία χρησιμοποιούνται για να περιορίσουν τις ευκαιρίες μας και να εμποδίσουν την πρόσβασή μας σε κρίσιμους πόρους ή υπηρεσίες. Αυτά τα προβλήματα είναι καλά τεκμηριωμένα. Στην Αμερική και στον κόσμο, τα συστήματα που υποτίθεται ότι βοηθούν στην φροντίδα των ασθενών έχουν αποδειχθεί ασφαλή, αναποτελεσματικά ή προκατειλημμένα. Οι αλγόριθμοι που χρησιμοποιούνται στις αποφάσεις雇用 και πίστωσης έχουν βρεθεί να αντανακλούν και να αναπαράγουν τις μη επιθυμητές ανισότητες ή να ενσωματώνουν新的 επιβλαβείς προκαταλήψεις και διακρίσεις. Η ανεξέλεγκτη συλλογή δεδομένων από τα μέσα κοινωνικής δικτύωσης έχει χρησιμοποιηθεί για να απειλήσει τις ευκαιρίες των ανθρώπων, να υπονομεύσει την ιδιωτικότητά τους ή να παρακολουθήσει την δραστηριότητά τους – συχνά χωρίς τη γνώση ή τη συναίνεσή τους.”

Αυτό που θα σημαίνει αυτό το Δικαίωμα και το πλαίσιο που προτείνει για το μέλλον της τεχνητής νοημοσύνης παραμένει να δειχθεί. Αυτό που γνωρίζουμε είναι ότι νέες εξελίξεις εμφανίζονται με εκθετική ταχύτητα. Αυτό που ήταν κάποτε αδύνατο, η άμεση μετάφραση γλώσσας, είναι τώρα πραγματικότητα, και ταυτόχρονα έχουμε μια επανάσταση στην κατανόηση της φυσικής γλώσσας (NLU) που οδηγείται από την OpenAI και τη διάσημη πλατφόρμα GPT-3.

Από τότε έχουμε δει αυτόματη γεννήτρια εικόνων μέσω μιας τεχνικής που ονομάζεται Stable Diffusion που μπορεί να γίνει σύντομα καταναλωτικό προϊόν. Ουσιαστικά, με αυτή τη τεχνολογία, ένας χρήστης μπορεί να εισαγάγει οποιαδήποτε ερώτηση που μπορεί να φανταστεί, και σαν μαγία, η τεχνητή νοημοσύνη θα γεννήσει μια εικόνα που ταιριάζει στην ερώτηση.

Όταν λαμβάνουμε υπόψη την εκθετική αύξηση και τον Νόμο της Επιταχυνόμενης Επιστροφής, θα έρθει μια στιγμή όταν η τεχνητή νοημοσύνη θα έχει καταλάβει κάθε аспέκτ της καθημερινής ζωής. Οι άτομα και οι εταιρείες που γνωρίζουν αυτό και επωφελούνται από αυτή τη μετατόπιση παραδείγματος θα κερδίσουν. Δυστυχώς, ένα μεγάλο τμήμα της κοινωνίας μπορεί να πέσει θύμα των κακόβουλων και των μη προθέσεων συνεπειών της τεχνητής νοημοσύνης.

Το Δικαίωμα της Τεχνητής Νοημοσύνης έχει ως στόχο να υποστηρίξει την ανάπτυξη πολιτικών και πρακτικών που προστατεύουν τα ατομικά δικαιώματα και προάγουν τις δημοκρατικές αξίες στην κατασκευή, την ανάπτυξη και τη διακυβέρνηση των αυτοματοποιημένων συστημάτων. Πώς αυτό το δικαίωμα θα συγκριθεί με την προσέγγιση της Κίνας παραμένει να δειχθεί, αλλά είναι ένα δικαίωμα που έχει τη δυνατότητα να μετατοπίσει το τοπίο της τεχνητής νοημοσύνης και είναι πιθανό να υιοθετηθεί από συμμάχους όπως η Αυστραλία, ο Καναδάς και η ΕΕ.

Αυτό που πρέπει να αναφερθεί είναι ότι το Δικαίωμα της Τεχνητής Νοημοσύνης δεν είναι δεσμευτικό και δεν συνιστά πολιτική της αμερικανικής κυβέρνησης. Δεν αντικαθιστά, τροποποιεί ή διερμηνεύει κανένα υπάρχον νόμο, κανονισμό, πολιτική ή διεθνές όργανο. Αυτό σημαίνει ότι θα είναι στους επιχειρήσεις και τις κυβερνήσεις να τηρήσουν τις πολιτικές που περιγράφονται σε αυτό το λευκό βιβλίο.

Αυτό το δικαίωμα έχει αναγνωρίσει πέντε αρχές που πρέπει να οδηγήσουν το σχεδιασμό, τη χρήση και την ανάπτυξη των αυτοματοποιημένων συστημάτων για την προστασία του Αμερικανικού κοινού στην εποχή της τεχνητής νοημοσύνης, κάτω από τις οποίες θα περιγράψουμε τις 5 αρχές:

1. Ασφαλή και Αποτελεσματικά Συστήματα

Υπάρχει ένα σαφές και επικείμενο κίνδυνο για την κοινωνία από τα κακόβουλα συστήματα της τεχνητής νοημοσύνης, ιδιαίτερα αυτά που βασίζονται στη βαθιά μάθηση. Αυτό προσπαθεί να αντιμετωπιστεί με αυτές τις αρχές:

“Πρέπει να προστατευτείτε από μη ασφαλή ή αναποτελεσματικά συστήματα. Τα αυτοματοποιημένα συστήματα πρέπει να αναπτυχθούν με διαβούλευση από διαφορετικές κοινότητες, ενδιαφερόμενους και εμπειρογνώμονες για να αναγνωρίσουν τις ανησυχίες, τους κινδύνους και τις πιθανές επιπτώσεις του συστήματος. Τα συστήματα πρέπει να υποβληθούν σε δοκιμές πριν από την ανάπτυξή τους, αναγνώριση και μείωση του κινδύνου και συνεχής παρακολούθηση που να δείχνει ότι είναι ασφαλή και αποτελεσματικά βάσει της προτεινόμενης χρήσης, μείωση των μη ασφαλών αποτελεσμάτων, συμπεριλαμβανομένων εκείνων πέρα από την προτεινόμενη χρήση, και συμμόρφωση με τα πρότυπα του κλάδου. Τα αποτελέσματα αυτών των προστατευτικών μέτρων πρέπει να περιλαμβάνουν τη δυνατότητα να μην αναπτύξουν το σύστημα ή να το αφαιρέσουν από χρήση. Τα αυτοματοποιημένα συστήματα δεν πρέπει να σχεδιαστούν με σκοπό ή προβλέψιμη πιθανότητα να θέσουν σε κίνδυνο την ασφάλειά σας ή την ασφάλεια της κοινότητας σας. Πρέπει να σχεδιαστούν για να προστατεύουν ενεργά από τις βλάβες που προέρχονται από μη προβλεπόμενες, αλλά προβλέψιμες, χρήσεις ή επιπτώσεις των αυτοματοποιημένων συστημάτων. Πρέπει να προστατευτείτε από την ακατάλληλη ή μη σχετική χρήση δεδομένων στο σχεδιασμό, την ανάπτυξη και την ανάπτυξη των αυτοματοποιημένων συστημάτων, και από την ενισχυμένη βλάβη της επαναχρήσης. Η ανεξάρτητη αξιολόγηση και αναφορά που να επιβεβαιώνει ότι το σύστημα είναι ασφαλές και αποτελεσματικό, συμπεριλαμβανομένης της αναφοράς των βημάτων που λαμβάνονται για την μείωση των πιθανών βλαβών, πρέπει να thựcτούν και τα αποτελέσματα να δημοσιευθούν όποτε είναι δυνατόν.

2. Προστασία από την Αλγοριθμική Διακρίνηση

Αυτές οι πολιτικές αντιμετωπίζουν κάποια από τα ελέφαντα στο δωμάτιο όταν πρόκειται για τις επιχειρήσεις που εκμεταλλεύονται τα άτομα.

Ένα συνηθισμένο πρόβλημα όταν προσλαμβάνονται εργαζόμενοι με τη χρήση συστημάτων της τεχνητής νοημοσύνης είναι ότι το σύστημα βαθιάς μάθησης θα συχνά εκπαιδευτεί με προκατειλημμένα δεδομένα για να φθάσει σε συμπεράσματα για την πρόσληψη. Αυτό ουσιαστικά σημαίνει ότι οι κακές πρακτικές πρόσληψης στο παρελθόν θα οδηγήσουν σε διακρίσεις φύλου ή φυλής από τον एजέντα πρόσληψης. Μια μελέτη έδειξε τη δυσκολία της απόπειρας να αφαιρεθεί το φύλο από τα δεδομένα εκπαίδευσης.

Ένα άλλο κεντρικό πρόβλημα με τα προκατειλημμένα δεδομένα από τις κυβερνήσεις είναι ο κίνδυνος για λανθασμένη κράτηση, ή ακόμη και χειρότερα αλγόριθμοι πρόβλεψης εγκληματικότητας που προσφέρουν μεγαλύτερες ποινές σε μειονότητες.

“Δεν πρέπει να αντιμετωπίζετε διακρίσεις από αλγόριθμους και τα συστήματα πρέπει να χρησιμοποιούνται και να σχεδιάζονται με ισότητα. Η αλγοριθμική διακρίνηση συμβαίνει όταν τα αυτοματοποιημένα συστήματα συμβάλλουν στην αδικαιολόγητη διαφορετική μεταχείριση ή τις επιπτώσεις που δεν ευνοούν τους ανθρώπους με βάση το φύλο, την ηλικία, την εθνικότητα, τη θρησκεία, την αναπηρία, την εθνική προέλευση, τη γενετική πληροφορία ή οποιαδήποτε άλλη κατηγορία που προστατεύεται από το νόμο. Εξαρτάται από τις συγκεκριμένες περιστάσεις, η αλγοριθμική διακρίνηση μπορεί να παραβιάσει τις νομικές προστασίες. Οι σχεδιαστές, οι dévelopers και οι χρήστες των αυτοματοποιημένων συστημάτων πρέπει να λάβουν προληπτικά και συνεχείς μέτρα για να προστατεύσουν τα άτομα και τις κοινότητες από την αλγοριθμική διακρίνηση και να χρησιμοποιούν και να σχεδιάζουν τα συστήματα με ισότητα. Αυτή η προστασία πρέπει να περιλαμβάνει προληπτικές αξιολογήσεις ισότητας ως μέρος του σχεδιασμού του συστήματος, χρήση αντιπροσωπευτικών δεδομένων και προστασία απόproxies για δημογραφικές λειτουργίες, διασφάλιση της προσβασιμότητας για άτομα με αναπηρίες στο σχεδιασμό και την ανάπτυξη, δοκιμές και μείωση της ανισότητας πριν από την ανάπτυξη και συνεχής παρακολούθηση. Η ανεξάρτητη αξιολόγηση και αναφορά σε απλή γλώσσα, συμπεριλαμβανομένης της αναφοράς των αποτελεσμάτων της ανισότητας και της μείωσης, πρέπει να πραγματοποιηθεί και να δημοσιευθεί όποτε είναι δυνατόν για να επιβεβαιώσει αυτές τις προστασίες.

3. Προστασία Δεδομένων

Αυτή η αρχή προστασίας δεδομένων είναι αυτή που πιθανότατα να επηρεάσει το μεγαλύτερο τμήμα του πληθυσμού. Το πρώτο μισό της αρχής φαίνεται να ασχολείται με τη συλλογή δεδομένων, ιδιαίτερα με δεδομένα που συλλέγονται μέσω του διαδικτύου, ένα γνωστό πρόβλημα ειδικά για τις πλατφόρμες κοινωνικών μέσων. Αυτά τα δεδομένα μπορούν να χρησιμοποιηθούν για να πουλήσουν διαφημίσεις ή ακόμη και να μανιπουλάρουν την κοινή γνώμη και να επηρεάσουν τις εκλογές.

“Πρέπει να προστατευτείτε από τις κακόβουλες πρακτικές δεδομένων μέσω ενσωματωμένων προστασιών και πρέπει να έχετε τον έλεγχο του πώς χρησιμοποιούνται τα δεδομένα σας. Πρέπει να προστατευτείτε από τις παραβιάσεις της ιδιωτικότητας μέσω επιλογών σχεδιασμού που διασφαλίζουν ότι αυτές οι προστασίες περιλαμβάνονται από προεπιλογή, συμπεριλαμβανομένης της διασφάλισης ότι η συλλογή δεδομένων συμμορφώνεται με τις εύλογες προσδοκίες, και ότι μόνο τα δεδομένα που είναι αυστηρά απαραίτητα για το συγκεκριμένο контέκστ συλλέγονται. Οι σχεδιαστές, dévelopers και χρήστες των αυτοματοποιημένων συστημάτων πρέπει να ζητήσουν τη συναίνεσή σας και να σεβαστούν τις αποφάσεις σας σχετικά με τη συλλογή, χρήση, πρόσβαση, μεταφορά και διαγραφή των δεδομένων σας με κατάλληλους τρόπους και στο μέγιστο δυνατό βαθμό. Όπου δεν είναι δυνατό, πρέπει να χρησιμοποιούνται εναλλακτικά μέτρα προστασίας της ιδιωτικότητας. Τα συστήματα δεν πρέπει να χρησιμοποιούν επιλογές σχεδιασμού που να αποκρύπτουν την επιλογή του χρήστη ή να βαρύνουν τους χρήστες με προεπιλογές που είναι εισβάθμιες. Η συναίνεση πρέπει να χρησιμοποιείται μόνο για να δικαιολογήσει τη συλλογή δεδομένων σε περιπτώσεις όπου μπορεί να δοθεί σωστά και με νόημα. Οι αιτήσεις συναίνεσης πρέπει να είναι σύντομες, να είναι κατανοητές σε απλή γλώσσα και να σας δίνουν τον έλεγχο της συλλογής δεδομένων και του συγκεκριμένου контέκστ της χρήσης. Οι τρέχουσες πρακτικές ενημέρωσης και επιλογής για ευρεία χρήση δεδομένων πρέπει να αλλάξουν.

4. Ενημέρωση και Εξήγηση

Αυτό πρέπει να είναι η κλήση στα όπλα για τις επιχειρήσεις να αναπτύξουν ένα Συμβούλιο Ηθικής της Τεχνητής Νοημοσύνης, καθώς και να推 đẩy την ανάπτυξη εξηγήσιμης τεχνητής νοημοσύνης. Η εξηγήσιμη τεχνητή νοημοσύνη είναι απαραίτητη σε περίπτωση που ένα μοντέλο της τεχνητής νοημοσύνης κάνει ένα λάθος, η κατανόηση του πώς λειτουργεί η τεχνητή νοημοσύνη επιτρέπει την εύκολη διάγνωση ενός προβλήματος.

Η εξηγήσιμη τεχνητή νοημοσύνη θα επιτρέψει επίσης την διαφανή κοινή χρήση πληροφοριών σχετικά με τον τρόπο που χρησιμοποιούνται τα δεδομένα και γιατί μια απόφαση λήφθηκε από την τεχνητή νοημοσύνη. Χωρίς εξηγήσιμη τεχνητή νοημοσύνη, θα είναι αδύνατο να συμμορφωθούν με αυτές τις πολιτικές λόγω του πρόβληματος του μαύρου κουτιού της βαθιάς μάθησης.

5. Ανθρώπινες Εναλλακτικές, Σκέψη και Επίλυση

Αυτή η αρχή είναι πιο εφαρμόσιμη για τις κυβερνητικές οντότητες ή τις ιδιωτικές εταιρείες που εργάζονται για λογαριασμό της κυβέρνησης.

Ακόμη και με ένα Συμβούλιο Ηθικής της Τεχνητής Νοημοσύνης και εξηγήσιμη τεχνητή νοημοσύνη, είναι σημαντικό να επαναλάβουμε την ανθρώπινη επανεξέταση όταν είναι σε κίνδυνο η ζωή. Υπάρχει πάντα η πιθανότητα λάθους, και η έχεια μιας ανθρώπινης επανεξέτασης μιας περίπτωσης όταν ζητηθεί μπορεί να αποτρέψει μια περίπτωση όπως η τεχνητή νοημοσύνη που στέλνει τους λάθος ανθρώπους στη φυλακή.

Σύνοψη

Το OSTP πρέπει να λάβει πίστωση για την προσπάθεια να εισαγάγει ένα πλαίσιο που γέμιζε τα πρωτόκολλα ασφαλείας που χρειάζονται για την κοινωνία, χωρίς να εισαγάγει δρακόντεια πολιτικές που θα μπορούσαν να εμποδίσουν την πρόοδο στην ανάπτυξη της μηχανικής μάθησης.

Μετά την περιγραφή των αρχών, το δικαίωμα συνεχίζει με την παροχή eines τεχνικού συντρόφου στα ζητήματα που συζητούνται, καθώς και λεπτομερείς πληροφορίες σχετικά με κάθε αρχή και τους καλύτερους τρόπους για να προχωρήσει στην εφαρμογή αυτών των αρχών.

Οι έξυπνοι ιδιοκτήτες επιχειρήσεων και οι επιχειρήσεις πρέπει να σημειώσουν να μελετήσουν αυτό το δικαίωμα, καθώς μπορεί να είναι μόνο προς το συμφέρον τους να εφαρμόσουν αυτές τις πολιτικές όσο το δυνατόν συντομότερα.

Η εξηγήσιμη τεχνητή νοημοσύνη θα συνεχίσει να κυριαρχεί στην σημασία, όπως φαίνεται από αυτήν την αναφορά στο δικαίωμα.

“Σε όλη τη διάρκεια της ομοσπονδιακής κυβέρνησης, οι υπηρεσίες πραγματοποιούν και υποστηρίζουν έρευνα για συστήματα εξηγήσιμης τεχνητής νοημοσύνης. Το NIST πραγματοποιεί θεμελιώδη έρευνα για την εξηγήσιμη τεχνητή νοημοσύνη. Μια διεπιστημονική ομάδα ερευνητών έχει ως στόχο να αναπτύξει μεθόδους μέτρησης και τις καλύτερες πρακτικές για την εφαρμογή των βασικών αρχών της εξηγήσιμης τεχνητής νοημοσύνης. Το Defense Advanced Research Projects Agency έχει ένα πρόγραμμα για την Εξηγήσιμη Τεχνητή Νοημοσύνη που έχει ως στόχο να δημιουργήσει μια σειρά τεχνικών μηχανικής μάθησης που παράγουν πιο εξηγήσιμα μοντέλα, ενώ διατηρούν υψηλό επίπεδο μάθησης (ακρίβεια πρόβλεψης), και να επιτρέψουν στους ανθρώπινους χρήστες να κατανοήσουν, να εμπιστευτούν και να διαχειριστούν την αναδυόμενη γενιά των τεχνητών συνεργατών. Το πρόγραμμα της Εθνικής Επιστημονικής Ιδρύματος για την Ισότητα στην Τεχνητή Νοημοσύνη περιλαμβάνει επίσης ένα συγκεκριμένο ενδιαφέρον για την έρευνα των θεμελίων για την εξηγήσιμη τεχνητή νοημοσύνη.”

Αυτό που δεν πρέπει να παραβλεφθεί είναι ότι τελικά οι αρχές που περιγράφονται εδώ θα γίνουν το νέο πρότυπο.