Ερευνητική Ομάδα Σκοπεύει να Δημιουργήσει Εξηγητή AI για Πυρηνική Μη Εκμετάλλευση και Πυρηνική Ασφάλεια

Ερευνητές από το Pacific Northwest National Laboratory (PNNL) προσπαθούν να κάνουν την τεχνητή νοημοσύνη (AI) εξηγητή για τους σκοπούς της πυρηνικής μη εκμετάλλευσης και της εθνικής ασφάλειας. Ο στόχος είναι να κάνουν τις αποφάσεις που επιστρέφονται από τα μοντέλα AI διαφανείς για οποιαδήποτε απόφαση που αφορά την πυρηνική ασφάλεια.

Περισσότερη προσοχή παρά ποτέ δίνεται στην σημασία των εξηγητών μοντέλων AI, σε μια προσπάθεια να λυθεί το πρόβλημα του “μαύρου κουτιού” της μηχανικής μάθησης. Τα μοντέλα AI συχνά εμπιστεύονται να λάβουν σύνθετες αποφάσεις ακόμη και όταν εκείνοι που είναι υπεύθυνοι για την εκτέλεση αυτών των αποφάσεων δεν κατανοούν τη λογική πίσω από αυτές τις αποφάσεις. Όσο υψηλότερος είναι ο πιθανός κίνδυνος και η καταστροφή που συνδέονται με αυτές τις αποφάσεις, τόσο πιο σημαντικό είναι να είναι διαφανής η λογική πίσω από αυτές τις αποφάσεις.

Μожет να μην είναι απαραίτητο να κατανοηθεί η λογική πίσω από τις ταξινομήσεις εάν μια εφαρμογή AI κάνει κάτι τόσο απλό όπως η ταξινόμηση εικόνων φρούτων, αλλά για περιπτώσεις που αφορούν πυρηνικά όπλα ή την παραγωγή πυρηνικού υλικού, είναι καλύτερο να ανοίξουμε το μαύρο κουτί που υποκρύπτει την τεχνητή νοημοσύνη που χρησιμοποιείται σε αυτές τις περιπτώσεις.

Οι επιστήμονες του PNNL εργάζονται για να κάνουν την τεχνητή νοημοσύνη εξηγητή χρησιμοποιώντας eine ποικιλία νέων τεχνικών. Αυτοί οι ερευνητές εργάζονται μαζί με το Γραφείο Άμυνας Πυρηνικής Μη Εκμετάλλευσης Έρευνας και Ανάπτυξης (DNN R&D) της Εθνικής Υπηρεσίας Πυρηνικής Ασφάλειας (NNSA) του Υπουργείου Ενέργειας. Το DNN R&D είναι υπεύθυνο για την εποπτεία της ικανότητας των Ηνωμένων Πολιτειών να παρακολουθεί και να ανιχνεύει την παραγωγή πυρηνικού υλικού, την ανάπτυξη πυρηνικών όπλων και την έκρηξη πυρηνικών όπλων σε όλο τον κόσμο.

Δεδομένου του πόσο υψηλό είναι ο κίνδυνος όταν πρόκειται για ζητήματα που σχετίζονται με την πυρηνική μη εκμετάλλευση, είναι κρίσιμο να γνωρίζουμε ακριβώς πώς ένα σύστημα AI φτάνει στα συμπεράσματά του για αυτά τα ζητήματα. Η Angie Sheffield είναι ανώτερη διευθύντρια προγράμματος στο DNN R&D. Σύμφωνα με την Sheffield, μπορεί συχνά να είναι δύσκολο να ενσωματωθούν νέες τεχνολογίες όπως τα μοντέλα AI στις παραδοσιακές επιστημονικές τεχνικές και πλαισιά, αλλά η διαδικασία της ενσωμάτωσης της τεχνητής νοημοσύνης σε αυτά τα συστήματα μπορεί να γίνει πιο εύκολη με τη σχεδίαση νέων τρόπων για να αλληλεπιδράσει πιο αποτελεσματικά με αυτά τα συστήματα. Η Sheffield υποστηρίζει ότι οι ερευνητές πρέπει να δημιουργήσουν εργαλεία που να επιτρέπουν στους développers να κατανοήσουν πώς λειτουργούν αυτές οι σύνθετες τεχνικές.

Η σχετική σπανιότητα των δεδομένων που αφορούν πυρηνικές εκρήξεις και την ανάπτυξη πυρηνικών όπλων σημαίνει ότι η εξηγητή AI είναι ακόμη πιο σημαντική. Η εκπαίδευση μοντέλων AI σε αυτόν τον χώρο οδηγεί σε μοντέλα που μπορεί να είναι λιγότερο αξιόπιστα λόγω της σχετικά μικρής ποσότητας δεδομένων που υπάρχουν σε σύγκριση με μια εργασία όπως η αναγνώριση προσώπου. Ως αποτέλεσμα, κάθε βήμα της διαδικασίας που χρησιμοποιείται από το μοντέλο για να ληφθεί μια απόφαση πρέπει να είναι ελέγξιμο.

Ο Mark Greaves, ερευνητής στο PNNL, εξήγησε ότι οι κίνδυνοι που είναι εγγενείς στην πυρηνική μη εκμετάλλευση απαιτούν ένα σύστημα που μπορεί να ενημερώσει τους ανθρώπους για το γιατί μια δεδομένη απάντηση έχει επιλεγεί.

Όπως εξήγησε ο Greaves μέσω EurekaAlert:

“Εάν ένα σύστημα AI δώσει μια λανθασμένη πιθανότητα για το αν ένα έθνος κατέχει πυρηνικά όπλα, αυτό είναι ένα πρόβλημα διαφορετικής κλίμακας. Έτσι, το σύστημά μας πρέπει να παράγει τουλάχιστον εξηγήσεις ώστε οι άνθρωποι να μπορούν να ελέγξουν τα συμπεράσματά του και να χρησιμοποιήσουν τη δική τους εμπειρογνωσία για να διορθώσουν τα κενά της εκπαίδευσης AI που προκαλούνται από τη σπανιότητα των δεδομένων.”

Όπως εξήγησε η Sheffield, το PNNL έχει δύο δυνατά σημεία που θα βοηθήσουν να λυθεί αυτό το πρόβλημα. Πρώτον, το PNNL έχει σημαντική εμπειρία στον τομέα της τεχνητής νοημοσύνης. Επιπλέον, η ομάδα έχει σημαντικές γνώσεις στον τομέα των πυρηνικών υλικών και όπλων. Η ομάδα του PNNL κατανοεί ζητήματα όπως η επεξεργασία του πλουτωνίου και οι τύποι σημάτων που είναι ιδιαίτεροι για την ανάπτυξη πυρηνικών όπλων. Η συνδυασμένη εμπειρία της τεχνητής νοημοσύνης, της εθνικής ασφάλειας και της γνώσης του πυρηνικού τομέα σημαίνει ότι το PNNL είναι μοναδικά κατάλληλο για την αντιμετώπιση ζητημάτων πυρηνικής εθνικής ασφάλειας και τεχνητής νοημοσύνης.