Προηγμένες Τεχνολογίες Τεχνητής Νοημοσύνης Παρουσιάζουν Ηθικές Προκλήσεις – Ηγετικά Πρόσωπα

Από τον Alfred Crews, Jr τον Αντιπρόεδρο & Αρχικό Σύμβουλο για τον Τομέα Πληροφοριών & Ασφάλειας της BAE Systems Inc.

Νωρίτερα αυτό το έτος, πριν από την πανδημία, παρακολούθησα τη Διάσκεψη Ηθικής Πληροφοριών του The Citadel στη Σαρλόττα, όπου συζητήσαμε το θέμα της ηθικής στις συλλογές πληροφοριών σε σχέση με την προστασία της εθνικής ασφάλειας. Στο αμυντικό βιομηχανικό τομέα, βλέπουμε την εξάπλωση της γνώσης, της υπολογιστικής ισχύος και των προηγμένων τεχνολογιών, ιδιαίτερα στον τομέα της τεχνητής νοημοσύνης (AI) και της μηχανικής μάθησης (ML). Ωστόσο, μπορεί να υπάρχουν σημαντικά προβλήματα όταν αναπτύσσουμε την τεχνητή νοημοσύνη στο контέκστ της συλλογής πληροφοριών ή των πραγματικών μαχών.

Η τεχνητή νοημοσύνη σε συνδυασμό με την κβαντική υπολογιστική παρουσιάζει κινδύνους

Τι πρέπει να αναρωτηθούμε, να αναλύσουμε και να καθορίσουμε einen δρόμο προς τα εμπρός είναι όταν χρησιμοποιούμε την τεχνητή νοημοσύνη σε συνδυασμό με την κβαντική υπολογιστική στις αποφάσεις του πολέμου. Για παράδειγμα, θυμάστε τον Terminator; Όπως η τεχνολογία μας κάνει άλματα και προόδους, η πραγματικότητα του Skynet είναι μπροστά μας. Θα μπορούσαμε να αναρωτηθούμε, «Είναι το Skynet έτοιμο να μας πάρει;» Κάντε μια βόλτα με μένα στο παρελθόν; οι μηχανές πήραν τον έλεγχο γιατί είχαν τη δυνατότητα να σκέφτονται και να λαμβάνουν αποφάσεις μόνοι τους, χωρίς έναν άνθρωπο να τις κατευθύνει. Όταν οι μηχανές κατέληξαν στο συμπέρασμα ότι οι άνθρωποι ήταν ένα σφάλμα, ξεκίνησαν να καταστρέφουν την ανθρωπότητα. Μη με λάβετε λάθος, η τεχνητή νοημοσύνη έχει τεράστιο δυναμικό, αλλά πιστεύω ότι πρέπει να έχει παραμέτρους ελέγχου λόγω του παράγοντα κινδύνου που εμπλέκει.

Οι ηθικές αμφιβολίες και το φιλοσοφικό δίλημμα της τεχνητής νοημοσύνης

Πιστεύω ότι αυτό είναι ακριβώς το λόγο για τον οποίο το Υπουργείο Άμυνας των ΗΠΑ (DoD) εξέδωσε τις δικές του Ηθικές Αρχές για την Τεχνητή Νοημοσύνη, γιατί η χρήση της τεχνητής νοημοσύνης δημιουργεί νέες ηθικές αμφιβολίες και κινδύνους. Όταν συνδυάζουμε την τεχνητή νοημοσύνη με την κβαντική υπολογιστική, η ικανότητα λήψης αποφάσεων αλλάζει και ο κίνδυνος απώλειας ελέγχου αυξάνεται -περισσότερο από ό,τι θα μπορούσαμε να αντιλαμβανόμαστε σήμερα. Η κβαντική υπολογιστική θέτει το λειτουργικό σύστημα του ανθρώπινου εγκεφάλου σε αμηχανία, γιατί οι υπερυπολογιστές μπορούν να κάνουν εκθετικά περισσότερες υπολογιστικές πράξεις γρηγορότερα και με μεγαλύτερη ακρίβεια από ό,τι θα μπορούσε ποτέ να κάνει ο ανθρώπινος εγκέφαλος.

Επιπλέον, η χρήση της τεχνητής νοημοσύνης σε συνδυασμό με την υπολογιστική παρουσιάζει ένα φιλοσοφικό δίλημμα. Σε ποιο σημείο θα επιτρέψουμε στις μηχανές να έχουν τη δική τους βούληση; και, αν οι μηχανές επιτρέπεται να σκέφτονται μόνοι τους, σημαίνει ότι η μηχανή έχει γίνει αυτοσυνειδητή; Σημαίνει η αυτοσυνειδησία ζωή; Jako κοινωνία, δεν έχουμε ακόμη καθορίσει πώς να ορίσουμε αυτή τη κατάσταση. Έτσι, όπως στέκεται σήμερα, οι μηχανές που λαμβάνουν δράση μόνοι τους χωρίς έναν άνθρωπο να τις ελέγχει, θα μπορούσαν να οδηγήσουν σε επιπτώσεις. Θα μπορούσε μια μηχανή να αντικαταστήσει την παρέμβαση ενός ανθρώπου για να σταματήσει το πυρ; Αν η μηχανή λειτουργεί μόνη της, θα είμαστε σε θέση να σβήσουμε τη σύνδεση;

Όπως το βλέπω, η χρήση της τεχνητής νοημοσύνης από άμυνα είναι εύκολη. Ωστόσο, πόσο εύκολη θα ήταν να μεταφερθεί στην επίθεση; Στην επίθεση, οι μηχανές θα έκαναν αποφάσεις για πυροβόλα σε πραγματικό χρόνο. Θα συνιστούσε μια μηχανή που πυροβολεί έναν εχθρό παραβίαση της Συμβάσεων της Γενεύης και των νόμων του πολέμου; Κινώντας σε αυτό το χώρο με γρήγορο ρυθμό, ο κόσμος πρέπει να συμφωνήσει ότι η χρήση της τεχνητής νοημοσύνης και της κβαντικής υπολογιστικής σε μάχες πρέπει να ταιριάζει με τους νόμους που έχουμε σήμερα.

Το DoD έχει μια θέση όταν χρησιμοποιεί την τεχνητή νοημοσύνη με αυτονομούς συστήματα και δηλώνει ότι θα υπάρχει πάντα ένας άνθρωπος που εμπλέκεται στη διαδικασία λήψης αποφάσεων. Ένας άνθρωπος θα έκανε την τελική κλήση για να πυροβολήσει ένα όπλο. Αυτός είναι ο κανόνας μας, αλλά τι συμβαίνει αν ένας αντίπαλος αποφασίσει να ακολουθήσει διαφορετικό δρόμο και να έχει μια μηχανή με τεχνητή νοημοσύνη να λαμβάνει όλες τις τελικές αποφάσεις; Τότε η μηχανή, η οποία, όπως συζητήσαμε, είναι ήδη γρηγορότερη, πιο έξυπνη και πιο ακριβής, θα είχε το πλεονέκτημα.

Ας δούμε ένα drone εξοπλισμένο με τεχνητή νοημοσύνη και αναγνώριση προσώπου: Το drone πυροβολεί μόνος του λόγω ενός προκαθορισμένου στόχου που έχει οριστεί ως τρομοκράτης. Ποιος είναι πραγματικά υπεύθυνος για το πυροβόλο; Υπάρχει ευθύνη αν υπάρχει μια προκατειλημμένη λάθος;

Προκατασκευασμένος προκαταβολισμός στην Τεχνητή Νοημοσύνη/Μηχανική Μάθηση

Η έρευνα δείχνει ότι μια μηχανή είναι λιγότερο πιθανό να κάνει λάθη από έναν άνθρωπο. Ωστόσο, η έρευνα αποδεικνύει ότι υπάρχουν προκαταβολισμοί στη μηχανική μάθηση με βάση τον «δάσκαλο» που διδάσκει τη μηχανή. Οι Πέντε Ηθικές Αρχές της Τεχνητής Νοημοσύνης του DoD αναφέρουν τις υφιστάμενες προκαταβολισμούς όταν δηλώνει, «Το Τμήμα θα λάβει σκόπιμες medidas για να ελαττώσει τους ανεπιθύμητους προκαταβολισμούς στις ικανότητες της τεχνητής νοημοσύνης». Ήδη γνωρίζουμε μέσω αποδεικτικών μελετών ότι στην उपयोग της αναγνώρισης προσώπου υπάρχουν προκαταβολισμοί προς τους ανθρώπους του χρώματος με ψευδείς θετικούς. Όταν ένας άνθρωπος δημιουργεί τον κώδικα που διδάσκει τη μηχανή πώς να λαμβάνει αποφάσεις, θα υπάρχουν προκαταβολισμοί. Αυτό θα μπορούσε να είναι μη εσκεμμένο, γιατί ο άνθρωπος που δημιουργεί την τεχνητή νοημοσύνη δεν ήταν επίγνωστος του προκαταβολισμού που υπήρχε μέσα του.

Επίσης, πώς θα εξαλείψουμε τους προκαταβολισμούς; Η έξοδος της τεχνητής νοημοσύνης είναι τόσο καλή όσο η είσοδος. Γι’ αυτό, πρέπει να υπάρχουν έλεγχοι. Πρέπει να ελέγχετε τα δεδομένα που ρέουν, γιατί αυτά θα μπορούσαν να κάνουν τα αποτελέσματα της τεχνητής νοημοσύνης λιγότερο έγκυρα. Οι προγραμματιστές θα πρέπει να ξαναγράψουν τον κώδικα για να εξαλείψουν τους προκαταβολισμούς.

Ο κόσμος να ορίσει την καλύτερη χρήση της τεχνολογίας

Η τεχνολογία από μόνη της δεν είναι καλή ή κακή. Είναι πώς μια χώρα τη χρησιμοποιεί που θα μπορούσε να πάρει τις καλύτερες προθέσεις και να τις κάνει λάθος. Όσο η τεχνολογία προχωράει με τρόπους που επηρεάζουν τις ζωές των ανθρώπων, ο κόσμος πρέπει να εργαστεί μαζί για να ορίσει την κατάλληλη δράση. Αν βγάλουμε τον άνθρωπο από την εξίσωση στις εφαρμογές της τεχνητής νοημοσύνης, επίσης βγάζουμε αυτή τη στάση πριν πυροβολήσουμε – αυτή τη ηθική πυξίδα που μας καθοδηγεί; αυτή τη στάση όταν σταματάμε και αναρωτηθούμε, «Είναι σωστό;» Eine μηχανή που διδάσκεται να εμπλακεί δεν θα έχει αυτή τη στάση. Έτσι, το ερώτημα είναι, στο μέλλον, θα σταθεί ο κόσμος για αυτό; Πόσο μακριά θα πάει ο κόσμος για να επιτρέψει στις μηχανές να λαμβάνουν αποφάσεις μάχης;