Τεχνική Συμβουλευτική Ομάδα Προωθεί Όρια για τη Χρήση του AI από το Υπουργείο Άμυνας

Το Υπουργείο Άμυνας έχει κάνει σαφείς τις προθέσεις του να επενδύσει πολύ σε τεχνητή νοημοσύνη, δηλώνοντας ότι η ΤΝ θα κάνει τον αμερικανικό στρατό πιο ισχυρό και ανθεκτικό σε πιθανές απειλές για την εθνική ασφάλεια. Όπως αναφέρει το Engadget, την περασμένη Πέμπτη η Επιτροπή Καινοτομίας Άμυνας προώθησε một σειρά προτεινόμενων ηθικών οδηγιών για τη χρήση της ΤΝ στο στρατό. Η λίστα των προτάσεων περιλαμβάνει στρατηγικές για την αποφυγή μη προβλεπόμενης προκατάληψης και κυβερνήσιμης ΤΝ που θα έχουν διαδικασίες έκτακτης ανάσχεσης που θα αποτρέψουν την ΤΝ από το να προκαλέσει άσκοπη ζημία.

Το Wired αναφέρει ότι η Επιτροπή Καινοτομίας Άμυνας δημιουργήθηκε από την διακυβέρνηση του Ομπάμα για να οδηγήσει το Υπουργείο Άμυνας στην απόκτηση εμπειρίας και ταλέντου από την τεχνολογική βιομηχανία. Η επιτροπή είναι目前 προεδρεύεται από τον πρώην διευθύνοντα σύμβουλο της Google (GOOGL ), Έρικ Σμίτ. Το τμήμα ήταν πρόσφατα εντεταλμένο με την καθορισμό οδηγιών για την ηθική εφαρμογή της ΤΝ σε στρατιωτικά έργα. Την Πέμπτη η επιτροπή εξέδωσε τις οδηγίες και τις συστάσεις της για αναθεώρηση. Η αναφορά σημειώνει ότι ο καιρός για σοβαρές συζητήσεις σχετικά με τη χρήση της ΤΝ σε στρατιωτικό контέκστ είναι τώρα, πριν από κάποιο σοβαρό περιστατικό που απαιτεί ότι πρέπει να υπάρχει ένας.

Σύμφωνα με το Artificial Intelligence News, ένας πρώην στρατιωτικός αξιωματούχος δήλωσε πρόσφατα ότι το Υπουργείο Άμυνας ήταν πίσω όταν πρόκειται για τη χρήση της ΤΝ. Το Υπουργείο Άμυνας στοχεύει να κλείσει αυτή τη διαφορά και έχει δηλώσει ότι η ανάπτυξη και η επέκταση της ΤΝ στο στρατό είναι εθνική προτεραιότητα. Οι ηθικοί της ΤΝ είναι ανήσυχοι ότι στην спешη του Υπουργείου Άμυνας για να γίνει ηγέτης στην ΤΝ, τα συστήματα ΤΝ μπορεί να χρησιμοποιηθούν με αήθικους τρόπους. Ενώ διάφορες ανεξάρτητες ηθικές επιτροπές ΤΝ έχουν κάνει τις δικές τους προτάσεις, η Επιτροπή Καινοτομίας Άμυνας έχει προτείνει τουλάχιστον πέντε αρχές που ο στρατός πρέπει να ακολουθήσει πάντα όταν αναπτύσσει και εφαρμόζει συστήματα ΤΝ.

Η πρώτη αρχή που προτείνεται από την επιτροπή είναι ότι οι άνθρωποι πρέπει πάντα να είναι υπεύθυνοι για τη χρήση, την ανάπτυξη και τα αποτελέσματα οποιασδήποτε πλατφόρμας ΤΝ που χρησιμοποιείται σε στρατιωτικό контέκστ. Αυτό θυμίζει μια πολιτική του 2012 που απαιτούσε ότι οι άνθρωποι πρέπει να είναι μέρος της διαδικασίας λήψης αποφάσεων όταν χρησιμοποιείται θανάσιμη δύναμη. Υπάρχουν πολλές άλλες αρχές στη λίστα που παρέχουν γενικές συμβουλές, όπως η βεβαίωση ότι τα συστήματα ΤΝ είναι πάντα κατασκευασμένα από μηχανικούς που κατανοούν και τεκμηριώνουν πλήρως τα προγράμματά τους. Μια άλλη αρχή συμβουλεύει ότι τα στρατιωτικά συστήματα ΤΝ πρέπει πάντα να ελέγχονται για την αξιοπιστία τους. Αυτές οι οδηγίες φαίνονται να είναι κοινός σENSE, αλλά η επιτροπή θέλει να τονίσει τη σημασία τους.

Οι άλλες αρχές στη λίστα ασχολούνται με τον έλεγχο της προκατάληψης για τους αλγόριθμους ΤΝ και την ικανότητα των ΤΝ να ανιχνεύουν εάν μπορεί να προκληθεί μη προβλεπόμενη ζημία και να αποσυνδεθούν αυτόματα. Οι οδηγίες καθορίζουν ότι εάν θα προκληθεί άσκοπη ζημία, η ΤΝ πρέπει να μπορεί να αποσυνδεθεί και να έχει έναν ανθρώπινο χειριστή να αναλάβει. Το σχέδιο των αρχών συνιστά επίσης ότι η έξοδος των ΤΝ πρέπει να είναι αναλυτική, ώστε οι αναλυτές να μπορούν να δουν τι οδήγησε την ΤΝ να λάβει μια συγκεκριμένη απόφαση.

Το σύνολο των συστάσεων που προωθούνται από την επιτροπή υπογραμμίζουν δύο διαφορετικές ιδέες. Οι αρχές αντανακλούν το γεγονός ότι η ΤΝ θα είναι ουσιαστική για το μέλλον των στρατιωτικών επιχειρήσεων, αλλά ότι πολλά από τα συστήματα ΤΝ εξακολουθούν να βασίζονται στην ανθρώπινη διαχείριση και λήψη αποφάσεων.

Ενώ το Υπουργείο Άμυνας δεν πρέπει να υιοθετήσει τις συστάσεις της επιτροπής, φαίνεται ότι το Υπουργείο Άμυνας λαμβάνει τις συστάσεις σοβαρά. Όπως αναφέρει το Wired, ο διευθυντής του Κέντρου Συνδυασμένης ΤΝ, Λοχαγός Τζακ Σανάχαν, δήλωσε ότι οι συστάσεις της επιτροπής θα βοηθήσουν το Υπουργείο Άμυνας να «τηρεί τις υψηλότερες ηθικές προδιαγραφές όπως καθορίζονται στην στρατηγική ΤΝ του Υπουργείου Άμυνας, ενώ ενσωματώνει την ισχυρή ιστορία του αμερικανικού στρατού στην εφαρμογή αυστηρών δοκιμών και προτύπων για τις τεχνολογικές καινοτομίες».

Η τεχνολογική βιομηχανία ως σύνολο παραμένει επιφυλακτική σχετικά με τη χρήση της ΤΝ στη δημιουργία στρατιωτικού υλικού και λογισμικού. Οι υπαλληλοι της Microsoft (MSFT ) και της Google έχουν διαμαρτυρηθεί για συνεργασίες με στρατιωτικές οντότητες, και η Google έχει πρόσφατα αποφασίσει να μην ανανεώσει τη σύμβαση που την είχε συμβάλλει στο Πρόγραμμα Maven. Ένας αριθμός διευθυντών, επιστημόνων και μηχανικών έχουν επίσης υπογράψει μια δέσμευση ότι δεν θα «συμμετάσχουν ούτε θα υποστηρίξουν την ανάπτυξη, την κατασκευή, το εμπόριο ή τη χρήση θανάσιμων αυτόνομων όπλων». Εάν το Υπουργείο Άμυνας υιοθετήσει τις οδηγίες που προτείνει η επιτροπή, αυτό μπορεί να κάνει τη τεχνολογική βιομηχανία πιο πρόθυμη να συνεργαστεί σε έργα, αν και μόνο ο χρόνος θα δείξει.