Προτεραιότητα στην Αξιοπιστία του AI

Η εξάρτηση της κοινωνίας από τις εφαρμογές της τεχνητής νοημοσύνης (AI) και του μηχανικού μάθησης (ML) συνεχίζει να αυξάνεται, επαναπροσδιορίζοντας τον τρόπο με τον οποίο καταναλώνεται η πληροφορία. Από τα chatbot που τροφοδοτούνται από το AI έως τις συνθέσεις πληροφοριών που παράγονται από τα Μεγάλα Μοντέλα Γλώσσας (LLM), η κοινωνία έχει πρόσβαση σε περισσότερες πληροφορίες και βαθύτερες εποπτικές από ποτέ trước. Ωστόσο, καθώς οι εταιρείες τεχνολογίας αγωνίζονται να εφαρμόσουν το AI σε όλη την αλυσίδα αξίας τους, μια κρίσιμη ερώτηση υφίσταται. Μπορούμε πραγματικά να εμπιστευθούμε τις εξόδους των λύσεων του AI;

Μπορούμε πραγματικά να εμπιστευθούμε τις εξόδους του AI χωρίς ποσοτική αβεβαιότητα

Για μια δεδομένη είσοδο, ένα μοντέλο μπορεί να έχει παράγει πολλές άλλες εξόδους που είναι εξίσου πιθανές. Αυτό μπορεί να οφείλεται σε ανεπαρκή δεδομένα εκπαίδευσης, διακυμάνσεις στα δεδομένα εκπαίδευσης ή άλλους λόγους. Όταν αναπτύσσουν μοντέλα, οι οργανισμοί μπορούν να χρησιμοποιήσουν ποσοτική αβεβαιότητα για να παρέχουν στους τελικούς χρήστες μια σαφέστερη κατανόηση του πόσο μπορούν να εμπιστευθούν την έξοδο ενός μοντέλου AI/ML. Η ποσοτική αβεβαιότητα είναι η διαδικασία εκτίμησης των άλλων εξόδων που θα μπορούσαν να έχουν παραχθεί.

Φανταστείτε ένα μοντέλο που προβλέπει τη μέγιστη θερμοκρασία της αύριο. Το μοντέλο μπορεί να παράγει την έξοδο 21ºC, αλλά η ποσοτική αβεβαιότητα που εφαρμόζεται σε αυτή την έξοδο μπορεί να υποδείξει ότι το μοντέλο θα μπορούσε να έχει παράγει εξόδους 12 ºC, 15 ºC ή 16 ºC· γνωρίζοντας αυτό, πόσο εμπιστευόμαστε τώρα την απλή πρόβλεψη 20 ºC; Παρά το потенシャル της να εμπνεύσει εμπιστοσύνη ή να συμβουλεύσει προσοχή, πολλές οργανισμοί επιλέγουν να παραλείψουν την ποσοτική αβεβαιότητα λόγω του επιπλέον έργου που πρέπει να κάνουν για να την εφαρμόσουν, καθώς και λόγω των απαιτήσεων της σε υπολογιστικούς πόρους και ταχύτητα συλλογισμού.

Συστήματα ανθρώπου-στη-βρόχου, όπως τα συστήματα ιατρικής διάγνωσης και πρόγνωσης, εμπλέκουν ανθρώπους ως μέρος της διαδικασίας λήψης αποφάσεων. Μπλοκάροντας την εμπιστοσύνη στα δεδομένα των λύσεων AI/ML της υγείας, οι επαγγελματίες υγείας κινδυνεύουν να διαγνώσουν λανθασμένα einen ασθενή, που μπορεί να οδηγήσει σε κακές υγειονομικές επιπτώσεις – ή χειρότερα. Η ποσοτική αβεβαιότητα μπορεί να επιτρέψει στους επαγγελματίες υγείας να δουν, ποσοτικά, πότε μπορούν να τοποθετήσουν περισσότερη εμπιστοσύνη στις εξόδους του AI και πότε πρέπει να αντιμετωπίσουν συγκεκριμένες προβλέψεις με προσοχή. Παρόμοια, σε ένα πλήρως αυτοματοποιημένο σύστημα όπως ένα αυτοκινούμενο αυτοκίνητο, η έξοδος ενός μοντέλου για την εκτίμηση της απόστασης ενός εμποδίου θα μπορούσε να οδηγήσει σε einen συντριβή που θα μπορούσε να είχε αποφευχθεί με την παρουσία ποσοτικής αβεβαιότητας στην εκτίμηση της απόστασης.

Η πρόκληση της αξιοποίησης μεθόδων Monte Carlo για να建立 εμπιστοσύνη στα μοντέλα AI/ML

Μέθοδοι Monte Carlo, που αναπτύχθηκαν κατά τη διάρκεια του Προγράμματος Μανχάταν, είναι ένας ροβούστος τρόπος για την εκτέλεση ποσοτικής αβεβαιότητας. Περιλαμβάνουν την επανεκτέλεση αλγορίθμων επανειλημμένα με ελαφρώς διαφορετικές εισόδους μέχρι οι περαιτέρω επαναλήψεις να μην παρέχουν πολύ περισσότερες πληροφορίες στις εξόδους· όταν η διαδικασία φτάσει σε τέτοια κατάσταση, λέγεται ότι έχει συγχρονιστεί. Ένας μειονέκτης των μεθόδων Monte Carlo είναι ότι είναι συνήθως αργές και υπολογιστικά εντατικές, απαιτώντας πολλές επαναλήψεις των συντελεστών τους για να ληφθεί μια συγχρονισμένη έξοδος και έχουν μια εγγενή μεταβλητότητα μεταξύ των εξόδων. Επειδή οι μέθοδοι Monte Carlo χρησιμοποιούν τις εξόδους γεννητριών τυχαίων αριθμών ως einen από τους βασικούς οικοδομικούς λίθους, ακόμη και όταν εκτελείτε einen Monte Carlo με πολλές εσωτερικές επαναλήψεις, τα αποτελέσματα που λαμβάνετε θα αλλάξουν όταν επαναλάβετε τη διαδικασία με ταυτόσημους παραμέτρους.

Η οδός προς την αξιοπιστία στα μοντέλα AI/ML

Σε αντίθεση με τους παραδοσιακούς 서버 και τους επιταχυντές AI, ένας νέος τύπος πλατφορμών υπολογισμού αναπτύσσεται για να επεξεργαστεί απευθείας τις εμπειρικές κατανομές πιθανότητας με τον ίδιο τρόπο που οι παραδοσιακές πλατφόρμες υπολογισμού επεξεργάζονται τους ακέραιους και τους αριθμούς κινητής υποδιαστολής. Αναπτύσσοντας τα μοντέλα AI τους σε αυτές τις πλατφόρμες, οι οργανισμοί μπορούν να αυτοματοποιήσουν την εφαρμογή της ποσοτικής αβεβαιότητας στα προ-εκπαιδευμένα μοντέλα τους και μπορούν επίσης να επιταχύνουν άλλους τύπους υπολογιστικών εργασιών που έχουν παραδοσιακά χρησιμοποιήσει μέθοδοι Monte Carlo, όπως υπολογισμοί VaR στις финансиες. Συγκεκριμένα, για το σενάριο VaR, αυτός ο νέος τύπος πλατφορμών επιτρέπει στους οργανισμούς να εργάζονται με εμπειρικές κατανομές που κατασκευάζονται απευθείας από πραγματικά δεδομένα αγοράς, αντί να προσεγγίζουν αυτές τις κατανομές με δείγματα που παράγονται από γεννήτριες τυχαίων αριθμών, για πιο ακριβείς αναλύσεις και ταχύτερα αποτελέσματα.

Πρόσφατες прорωμές στον υπολογισμό έχουν μειώσει σημαντικά τα εμπόδια στην ποσοτική αβεβαιότητα. Ένα πρόσφατο ερευνητικό άρθρο που δημοσιεύθηκε από τους συναδέλφους μου και εμένα, στο Εργαστήριο Μηχανικού Μάθησης με Νέους Παραδείγματα Υπολογισμού στο NeurIPS 2024, υπογραμμίζει πώς μια πλατφόρμα υπολογισμού της επόμενης γενιάς που αναπτύξαμε επέτρεψε την ανάλυση της ποσοτικής αβεβαιότητας να εκτελεστεί πάνω από 100 φορές ταχύτερα σε σύγκριση με την εκτέλεση παραδοσιακών αναλύσεων Monte-Carlo σε einen υψηλού επιπέδου сервер Intel-Xeon. Προόδους όπως αυτές επιτρέπουν στους οργανισμούς που αναπτύσσουν λύσεις AI να εφαρμόσουν την ποσοτική αβεβαιότητα με ευκολία και να την εκτελέσουν με χαμηλή επιβάρυνση.

Το μέλλον της αξιοπιστίας του AI/ML εξαρτάται από την προηγμένη υπολογιστική της επόμενης γενιάς

Καθώς οι οργανισμοί ενσωματώνουν περισσότερες λύσεις AI στην κοινωνία, η αξιοπιστία του AI/ML θα γίνει μια από τις principales προτεραιότητες. Οι επιχειρήσεις δεν μπορούν πλέον να αντέξουν να παραλείψουν την εφαρμογή εγκαταστάσεων στις αναπτύξεις μοντέλων AI τους για να επιτρέψουν στους καταναλωτές να γνωρίζουν πότε να αντιμετωπίσουν συγκεκριμένες εξόδους μοντέλων AI με σκεπτικισμό. Η ζήτηση για τέτοιου είδους ερμηνευσιμότητα και ποσοτική αβεβαιότητα είναι σαφής, με περίπου τρεις στους τέσσερις ανθρώπους να υποδεικνύουν ότι θα ήταν πιο πρόθυμοι να εμπιστευθούν ένα σύστημα AI εάν ήταν παρόντα τα κατάλληλα μηχανισμοί εγγύησης.

Νέες τεχνολογίες υπολογισμού κάνουν όλο και πιο εύκολο να εφαρμόσουν και να αναπτύξουν την ποσοτική αβεβαιότητα. Ενώ η βιομηχανία και οι ρυθμιστικές αρχές παλέουν με άλλες προκλήσεις που σχετίζονται με την ανάπτυξη του AI στην κοινωνία, υπάρχει τουλάχιστον μια ευκαιρία να ενισχύσουν την εμπιστοσύνη που απαιτούν οι άνθρωποι, κάνωντας την ποσοτική αβεβαιότητα το πρότυπο στις αναπτύξεις του AI.