Ερευνητές Αναπτύσσουν Εργαλείο “DeepTrust” για την Αύξηση της Αξιοπιστίας του AI

Η ασφάλεια και η αξιοπιστία του τεχνητού νοημοσύνη (AI) είναι ένας από τους μεγαλύτερους τομείς της τεχνολογίας. Βελτιώνεται συνεχώς και εργάζονται πάνω της οι κορυφαίοι εμπειρογνώμονες των διαφόρων τομέων, και θα είναι καθοριστική για την πλήρη εφαρμογή του AI στην κοινωνία.

Μερικά από τα νέα έργα προέρχονται από το Πανεπιστήμιο της Νότιας Καλιφόρνιας, όπου ερευνητές του USC Viterbi Engineering έχουν αναπτύξει ένα νέο εργαλείο που μπορεί να παράγει αυτόματα δείκτες για το αν τα αλγόριθμοι του AI είναι αξιόπιστοι στα δεδομένα και τις προβλέψεις τους.

Η έρευνα δημοσιεύθηκε στο Frontiers in Artificial Intelligence, με τίτλο “Υπάρχει Ελπίδα Μετά Από Όλα: Ποσοτική Ανάλυση της Γνώμης και της Αξιοπιστίας στα Νευρωνικά Δίκτυα“. Οι συγγραφείς του άρθρου περιλαμβάνουν τους Mingxi Cheng, Shahin Nazarian και Paul Bogdan του USC Cyber Physical Systems Group.

Αξιοπιστία των Νευρωνικών Δικτύων

Ένας από τους μεγαλύτερους τομείς σε αυτόν τον τομέα είναι η απόκτηση νευρωνικών δικτύων που παράγουν προβλέψεις που μπορούν να θεωρηθούν αξιόπιστες. Σε πολλές περιπτώσεις, αυτό είναι το που σταματά την πλήρη υιοθέτηση της τεχνολογίας που βασίζεται στο AI.

Για παράδειγμα, τα αυτονομικά οχήματα απαιτούν να ενεργούν ανεξάρτητα και να λαμβάνουν ακριβείς αποφάσεις σε αυτόματο πιλότο. Χρειάζονται να είναι ικανά να λαμβάνουν αυτές τις αποφάσεις εξαιρετικά γρήγορα, ενώ αποκρυπτογραφούν και αναγνωρίζουν αντικείμενα στο δρόμο. Αυτό είναι κρίσιμο, ιδιαίτερα σε σενάρια όπου η τεχνολογία θα έπρεπε να διακρίνει τη διαφορά μεταξύ ενός σpeed bump, ενός άλλου αντικειμένου ή ενός ζωντανού όντος.

Άλλα σενάρια περιλαμβάνουν το αυτονομικό όχημα να αποφασίζει τι να κάνει όταν ένα άλλο όχημα το αντιμετωπίζει mặt προς πρόσωπο, και η πιο σύνθετη απόφαση όλων είναι αν το αυτονομικό όχημα πρέπει να αποφασίσει μεταξύ της πρόσκρουσης σε αυτό που αντιλαμβάνεται ως άλλο όχημα, κάποιο αντικείμενο ή ζωντανό όν.

Αυτό σημαίνει ότι βάζουμε μια εξαιρετικά μεγάλη αξιοπιστία στην ικανότητα του λογισμικού του αυτονομικού οχήματος να λαμβάνει την σωστή απόφαση σε μόλις δευτερόλεπτα. Γίνεται ακόμη πιο δύσκολο όταν υπάρχει αντικρουόμενη πληροφορία από διαφορετικά αισθητήρες, όπως η υπολογιστική όραση από κάμερες και Lidar.

Ο κύριος συγγραφέας Minxi Cheng αποφάσισε να αναλάβει αυτό το έργο μετά από σκέψη, “Ακόμη και οι άνθρωποι μπορούν να είναι αμφίβολοι σε ορισμένες αποφάσεις. Σε περιπτώσεις που εμπλέκονται αντικρουόμενες πληροφορίες, γιατί δεν μπορούν οι μηχανές να μας πουν όταν δεν ξέρουν;”

DeepTrust

Το εργαλείο που δημιουργήθηκε από τους ερευνητές ονομάζεται DeepTrust, και είναι ικανό να ποσοτικοποιήσει την ποσότητα της αβεβαιότητας, σύμφωνα με τον Paul Bogdan, αναπληρωτή καθηγητή στο τμήμα Ηλεκτρολόγων Μηχανικών και Πληροφορικής του USC.

Η ομάδα έPassed σχεδόν δύο χρόνια αναπτύσσοντας το DeepTrust, χρησιμοποιώντας κυρίως υποκειμενική λογική για να αξιολογήσει τα νευρωνικά δίκτυα. Σε ένα παράδειγμα της λειτουργίας του εργαλείου, ήταν ικανό να εξετάσει τις δημοσκοπήσεις των προεδρικών εκλογών του 2016 και να προβλέψει ότι υπήρχε μεγαλύτερος περιθώριος σφάλματος για την νίκη της Hillary Clinton.

Το εργαλείο DeepTrust καθιστά επίσης πιο εύκολο να δοκιμαστεί η αξιοπιστία των αλγορίθμων του AI που εκπαιδεύονται συνήθως σε έως και εκατομμύρια δεδομένα. Ο άλλος τρόπος για να γίνει αυτό είναι να ελέγχεται ανεξάρτητα κάθε ένα από τα δεδομένα για να δοκιμαστεί η ακρίβεια, το οποίο είναι một εξαιρετικά χρονοβόρο έργο.

Σύμφωνα με τους ερευνητές, η αρχιτεκτονική αυτών των συστημάτων νευρωνικών δικτύων είναι πιο ακριβής, και η ακρίβεια και η αξιοπιστία μπορούν να μεγιστοποιηθούν ταυτόχρονα.

“Σε ότι γνωρίζουμε, δεν υπάρχει μοντέλο ποσοτικής αξιολόγησης ή εργαλείο για το βαθύ μάθηση, την τεχνητή νοημοσύνη και το μηχανικό μάθηση. Αυτή είναι η πρώτη προσέγγιση και ανοίγει νέες ερευνητικές κατευθύνσεις,” λέει ο Bogdan.

Ο Bogdan πιστεύει επίσης ότι το DeepTrust θα μπορούσε να βοηθήσει να ωθήσει το AI προς την κατεύθυνση όπου θα είναι “ενήμερο και προσαρμοζόμενο”.