Ερευνητική Ομάδα Σκοπεύει να Δημιουργήσει Εξηγήσιμη Τεχνητή Νοημοσύνη για την Αντιπυρηνική Επέκταση και την Πυρηνική Ασφάλεια

Ερευνητές από το Pacific Northwest National Laboratory (PNNL) προσπαθούν να κάνουν την τεχνητή νοημοσύνη εξηγήσιμη για τους σκοπούς της αντιπυρηνικής επέκτασης και της εθνικής ασφάλειας. Ο στόχος είναι να κάνουν τις αποφάσεις που επιστρέφονται από τα μοντέλα της τεχνητής νοημοσύνης διαφανείς για οποιαδήποτε απόφαση που αφορά την πυρηνική ασφάλεια.

Περισσότερη προσοχή παρά ποτέ δίνεται στην σημασία των εξηγήσιμων μοντέλων της τεχνητής νοημοσύνης, σε μια προσπάθεια να λυθεί το πρόβλημα του “μαύρου κουτιού” της μηχανικής μάθησης. Τα μοντέλα της τεχνητής νοημοσύνης συχνά εμπιστεύονται να λάβουν σύνθετες αποφάσεις ακόμη και όταν εκείνοι που είναι υπεύθυνοι για την εκτέλεση αυτών των αποφάσεων δεν κατανοούν τη λογική πίσω από αυτές τις αποφάσεις. Όσο μεγαλύτερος είναι ο потенτικός κίνδυνος και η καταστροφή που συνεπάγονται αυτές οι αποφάσεις, τόσο πιο σημαντικό είναι να είναι διαφανείς οι λόγοι πίσω από αυτές τις αποφάσεις.

Μожет να μην είναι αναγκαίο να κατανοήσουμε τη λογική πίσω από τις ταξινομήσεις εάν μια εφαρμογή της τεχνητής νοημοσύνης κάνει κάτι τόσο απλό όσο την ταξινόμηση εικόνων φρούτων, αλλά για περιπτώσεις που αφορούν πυρηνικά όπλα ή την παραγωγή πυρηνικού υλικού, είναι καλύτερο να ανοίξουμε το “μαύρο κουτί” που υποκρύπτει την τεχνητή νοημοσύνη που χρησιμοποιείται σε αυτές τις περιπτώσεις.

Οι επιστήμονες του PNNL εργάζονται για να κάνουν την τεχνητή νοημοσύνη εξηγήσιμη χρησιμοποιώντας eine ποικιλία νέων τεχνικών. Αυτοί οι ερευνητές εργάζονται μαζί με το Γραφείο Άμυνας Πυρηνικής Μη Επέκτασης και Έρευνας και Ανάπτυξης (DNN R&D) του Υπουργείου Ενέργειας. Το DNN R&D είναι υπεύθυνο για την εποπτεία της ικανότητας των Ηνωμένων Πολιτειών να παρακολουθεί και να ανιχνεύει την παραγωγή πυρηνικού υλικού, την ανάπτυξη πυρηνικών όπλων και την έκρηξη πυρηνικών όπλων σε όλο τον κόσμο.

Δεδομένου του πόσο υψηλών είναι οι κίνδυνοι όταν πρόκειται για ζητήματα που σχετίζονται με την αντιπυρηνική επέκταση, είναι κρίσιμο να γνωρίζουμε πώς μια система της τεχνητής νοημοσύνης φτάνει στα συμπεράσματά της για αυτά τα ζητήματα. Η Angie Sheffield είναι υπεύθυνη προγράμματος στο DNN R&D. Σύμφωνα με την Sheffield, μπορεί να είναι δύσκολο να ενσωματωθούν νέες τεχνολογίες όπως τα μοντέλα της τεχνητής νοημοσύνης σε παραδοσιακές επιστημονικές τεχνικές και πλαισιά, αλλά η διαδικασία της ενσωμάτωσης της τεχνητής νοημοσύνης σε αυτά τα συστήματα μπορεί να γίνει πιο εύκολη με τη σχεδίαση νέων τρόπων αλληλεπίδρασης με αυτά τα συστήματα. Η Sheffield υποστηρίζει ότι οι ερευνητές πρέπει να δημιουργήσουν εργαλεία που να επιτρέπουν στους développers να κατανοήσουν πώς λειτουργούν αυτές οι σύνθετες τεχνικές.

Η σχετική σπανιότητα των δεδομένων που αφορούν τις πυρηνικές εκρήξεις και την ανάπτυξη πυρηνικών όπλων σημαίνει ότι η εξηγήσιμη τεχνητή νοημοσύνη είναι ακόμη πιο σημαντική. Η εκπαίδευση των μοντέλων της τεχνητής νοημοσύνης σε αυτόν τον χώρο οδηγεί σε μοντέλα που μπορεί να είναι λιγότερο αξιόπιστα λόγω της σχετικά μικρής ποσότητας δεδομένων που υπάρχουν σε σύγκριση με μια εργασία όπως η αναγνώριση προσώπου. Ως αποτέλεσμα, κάθε βήμα της διαδικασίας που χρησιμοποιεί το μοντέλο για να λάβει μια απόφαση πρέπει να είναι ελέγξιμο.

Ο Mark Greaves, ερευνητής στο PNNL, εξήγησε ότι οι κίνδυνοι που είναι εγγενείς στην πυρηνική επέκταση απαιτούν ένα σύστημα που να μπορεί να ενημερώνει τους ανθρώπους για το γιατί μια δεδομένη απάντηση έχει επιλεγεί.

Όπως εξήγησε ο Greaves μέσω του EurekaAlert:

“Εάν ένα σύστημα της τεχνητής νοημοσύνης δώσει μια λανθασμένη πιθανότητα για το αν ένα έθνος κατέχει πυρηνικά όπλα, αυτό είναι ένα πρόβλημα διαφορετικής κλίμακας. Έτσι, το σύστημά μας πρέπει τουλάχιστον να παράγει εξηγήσεις ώστε οι άνθρωποι να μπορέσουν να ελέγξουν τα συμπεράσματά του και να χρησιμοποιήσουν την εμπειρία τους για να διορθώσουν τα κενά της εκπαίδευσης της τεχνητής νοημοσύνης που προκαλούνται από τη σπανιότητα των δεδομένων.”

Όπως εξήγησε η Sheffield, το PNNL έχει δύο ισχύους που θα βοηθήσουν να λυθεί αυτό το πρόβλημα. Πρώτον, το PNNL έχει σημαντική εμπειρία στον τομέα της τεχνητής νοημοσύνης. Επιπλέον, η ομάδα έχει σημαντικές γνώσεις στον τομέα των πυρηνικών υλικών και όπλων. Η ομάδα του PNNL κατανοεί ζητήματα όπως η επεξεργασία του πλουτωνίου και οι τύποι σημάτων που είναι μοναδικοί για την ανάπτυξη πυρηνικών όπλων. Η συνδυασμένη εμπειρία της τεχνητής νοημοσύνης, της εθνικής ασφάλειας και της γνώσης του πυρηνικού τομέα σημαίνει ότι το PNNL είναι μοναδικά κατάλληλο για την αντιμετώπιση ζητημάτων πυρηνικής εθνικής ασφάλειας και τεχνητής νοημοσύνης.