Σταματώντας τον AI από το να δημιουργεί ιστορίες: Ένας οδηγός για την πρόληψη των ψευδαισθήσεων

Ο AI επαναedefinει τον τρόπο με τον οποίο λειτουργεί σχεδόν κάθε βιομηχανία. Κάνει τους ανθρώπους πιο αποτελεσματικούς, πιο παραγωγικούς και, όταν εφαρμόζεται σωστά, καλύτερους στις δουλειές τους. Αλλά καθώς η εξάρτησή μας από αυτή τη νέα τεχνολογία αυξάνεται γρήγορα, πρέπει να θυμόμαστε ένα απλό γεγονός: ο AI δεν είναι αλάνθαστος. Τα εξόδους του δεν πρέπει να λαμβάνονται ως αυταπόδεικτα, γιατί, όπως και οι άνθρωποι, ο AI μπορεί να κάνει λάθη.

Τα λάθη αυτά τα ονομάζουμε “ψευδαισθήσεις του AI”. Τα λάθη αυτά κυμαίνονται από την απάντηση σε ένα μαθηματικό πρόβλημα λανθασμένα μέχρι την παροχή ανεπαρκούς πληροφόρησης σχετικά με τις κυβερνητικές πολιτικές. Σε υψηλά ρυθμιζόμενες βιομηχανίες, οι ψευδαισθήσεις μπορεί να οδηγήσουν σε ακριβές πρόστιμα και νομικά προβλήματα, όχι μόνο σε μη ικανοποιημένους πελάτες.

Η συχνότητα των ψευδαισθήσεων του AI πρέπει να είναι αιτία ανησυχίας: εκτιμάται ότι τα σύγχρονα μεγάλου μεγέθους γλωσσικά μοντέλα (LLM) ψευδαισθάνονται σε ποσοστό που κυμαίνεται από 1% έως 30%. Αυτό οδηγεί σε εκατοντάδες ψευδείς απαντήσεις που παράγονται καθημερινά, γεγονός που σημαίνει ότι οι επιχειρήσεις που επιδιώκουν να αξιοποιήσουν αυτή τη τεχνολογία πρέπει να είναι εξαιρετικά επιλεκτικές όταν επιλέγουν ποια εργαλεία θα εφαρμόσουν.

Ας εξετάσουμε γιατί συμβαίνουν οι ψευδαισθήσεις του AI, τι επικείμενο κίνδυνο υπάρχει και πώς μπορούμε να τις αναγνωρίσουμε και να τις διορθώσουμε.

Σκουπίδια μέσα, σκουπίδια έξω

Θυμάσαι το παιχνίδι “τηλέφωνο” που παίζαμε όταν ήμασταν παιδιά; Πώς η αρχική φράση μετατρεπόταν καθώς περνούσε από παίκτη σε παίκτη, οδηγώντας σε μια τελικά διαφορετική πρόταση όταν έφτασε στο τέλος του κύκλου;

Ο τρόπος με τον οποίο ο AI μαθαίνει από τις εισόδους του είναι παρόμοιος. Οι απαντήσεις που παράγουν τα LLM είναι τόσο καλές όσο και οι πληροφορίες που λαμβάνουν, γεγονός που σημαίνει ότι λανθασμένος контέκστας μπορεί να οδηγήσει στη δημιουργία και διάδοση ψευδών πληροφοριών. Αν ένα σύστημα AI κατασκευαστεί με βάση δεδομένα που είναι ανακριβή, παλιά ή μεροληπτικά, τότε τα εξόδους του θα αντανακλούν αυτά.

Ως εκ τούτου, ένα LLM είναι τόσο καλό όσο και οι εισόδους του, ιδιαίτερα όταν υπάρχει έλλειψη ανθρώπινης παρέμβασης ή εποπτείας. Όσο περισσότερα αυτόνομα λύσεις AI προσφέρονται, είναι κρίσιμο να παρέχουμε εργαλεία με το σωστό контέκστας δεδομένων για να αποφευχθούν οι ψευδαισθήσεις. Χρειαζόμαστε αυστηρή εκπαίδευση αυτών των δεδομένων και/ή τη δυνατότητα να οδηγούμε τα LLM ώστε να απαντούν μόνο από το контέκστας που παρέχεται, αντί να αναζητούν πληροφορίες από οπουδήποτε στο διαδίκτυο.

Γιατί οι ψευδαισθήσεις έχουν σημασία;

Για τις επιχειρήσεις που ασχολούνται με πελάτες, η ακρίβεια είναι τα πάντα. Αν οι υπάλληλοι βασίζονται στον AI για εργασίες όπως η σύνθεση δεδομένων πελάτη ή η απάντηση σε ερωτήσεις πελάτη, πρέπει να εμπιστεύονται ότι οι απαντήσεις που παράγουν αυτά τα εργαλεία είναι ακριβείς.

Αλλιώς, οι επιχειρήσεις κινδυνεύουν να υποστούν ζημιά στη φήμη τους και στην πίστη των πελάτών. Αν οι πελάτες λαμβάνουν ανεπαρκείς ή ψευδείς απαντήσεις από ένα chatbot, ή αν πρέπει να περιμένουν ενώ οι υπάλληλοι ελέγχουν τις απαντήσεις του chatbot, μπορεί να μεταφέρουν την επιχείρησή τους αλλού. Οι άνθρωποι δεν πρέπει να ανησυχούν για το αν οι επιχειρήσεις με τις οποίες αλληλεπιδρούν τους παρέχουν ψευδείς πληροφορίες – θέλουν γρήγορη και αξιόπιστη υποστήριξη, γεγονός που σημαίνει ότι η σωστή διεξαγωγή αυτών των συναλλαγών είναι της υψίστης σημασίας.

Οι ηγέτες των επιχειρήσεων πρέπει να κάνουν τη δουλειά τους όταν επιλέγουν το σωστό εργαλείο AI για τους υπαλλήλους τους. Ο AI πρέπει να απελευθερώσει χρόνο και ενέργεια για το προσωπικό να εστιάσει σε υψηλότερης αξίας εργασίες. Η επένδυση σε ένα chatbot που απαιτεί συνεχή ανθρώπινη επιτήρηση καταστρέφει τον σκοπό της υιοθέτησης. Αλλά είναι η ύπαρξη ψευδαισθήσεων πραγματικά इतनή προεξέχουσα ή το όρο χρησιμοποιείται απλώς για να ταυτιστεί με οποιαδήποτε απάντηση που θεωρούμε λανθασμένη;

Αντιμετώπιση των ψευδαισθήσεων του AI

Σκεφτείτε το εξής: Θεωρία Δυναμικής Σημασίας (DMT), η έννοια ότι μια κατανόηση μεταξύ δύο ατόμων – σε αυτή την περίπτωση του χρήστη και του AI – ανταλλάσσεται. Αλλά, οι περιορισμοί της γλώσσας και της γνώσης των θεμάτων προκαλούν μια αποσύνδεση στην ερμηνεία της απάντησης.

Στην περίπτωση των απαντήσεων που παράγονται από τον AI, είναι πιθανό ότι οι υποκείμενοι αλγόριθμοι δεν είναι ακόμη πλήρως εξοπλισμένοι για να ερμηνεύσουν ή να παράγουν κείμενο με τρόπο που να συμμορφώνεται με τις προσδοκίες μας ως ανθρώπων. Αυτή η ανεπάρκεια μπορεί να οδηγήσει σε απαντήσεις που μπορεί να φαίνονται ακριβείς στην επιφάνεια αλλά τελικά λείπουν του βάθους ή της νюάνς που απαιτείται για πραγματική κατανόηση.

Επιπλέον, τα περισσότερα γενικής χρήσης LLMs λαμβάνουν πληροφορίες μόνο από περιεχόμενο που είναι δημόσια διαθέσιμο στο διαδίκτυο. Οι επιχειρηματικές εφαρμογές του AI λειτουργούν καλύτερα όταν ενημερώνονται από δεδομένα και πολιτικές που είναι συγκεκριμένες για từng βιομηχανία και επιχείρηση. Τα μοντέλα μπορούν επίσης να βελτιωθούν με άμεση ανθρώπινη ανάδραση – ιδιαίτερα αγεντικά λύσεις που σχεδιάζονται για να ανταποκρίνονται σε τόνο και σύνταξη.

Τέτοια εργαλεία πρέπει επίσης να ελέγχονται αυστηρά πριν γίνουν καταναλωτικά. Αυτό είναι ένα κρίσιμο μέρος της πρόληψης των ψευδαισθήσεων του AI. Ολόκληρη η ροή πρέπει να ελέγχεται χρησιμοποιώντας συζητήσεις με βάση τα γύρους με το LLM να παίζει το ρόλο ενός προσώπου. Αυτό επιτρέπει στις επιχειρήσεις να υποθέσουν καλύτερα την γενική επιτυχία των συζητήσεων με ένα μοντέλο AI πριν το κυκλοφορήσουν στον κόσμο.

Είναι απαραίτητο και για τους dévelopτερ και για τους χρήστες της τεχνολογίας AI να παραμείνουν ενήμεροι για τη θεωρία δυναμικής σημασίας στις απαντήσεις που λαμβάνουν, καθώς και για τη δυναμική της γλώσσας που χρησιμοποιείται στη εισαγωγή. Θυμήσου, το контέκστας είναι το κλειδί. Και, ως άνθρωποι, το μεγαλύτερο μέρος του контέκστα μας κατανοείται με άρρητους τρόπους, είτε μέσω σώματος γλώσσας, κοινωνικών τάσεων – ακόμη και τον τόνο μας. Jako άνθρωποι, έχουμε τη δυνατότητα να ψευδαισθανόμαστε ως απάντηση σε ερωτήσεις. Αλλά, στην τρέχουσα μας εκδοχή του AI, η ανθρώπινη κατανόηση μεταξύ ανθρώπων δεν είναι τόσο εύκολα контεκστοποιημένη, οπότε πρέπει να είμαστε πιο κριτικοί για το контέκστας που παρέχουμε στη γραφή.

Αρκεί να πούμε ότι όχι όλα τα μοντέλα AI είναι-created ίσα. Όσο η τεχνολογία εξελίσσεται για να ολοκληρώσει ολοένα και πιο σύνθετες εργασίες, είναι κρίσιμο για τις επιχειρήσεις που σκέφτονται την εφαρμογή να αναγνωρίσουν εργαλεία που θα βελτιώσουν τις αλληλεπιδράσεις και τις εμπειρίες των πελάτών αντί να τις απομακρύνουν.

Η ευθύνη δεν είναι μόνο στους παρόχους λύσεων να διαβεβαιώσουν ότι έχουν κάνει ό,τι είναι δυνατό για να ελαττώσουν την πιθανότητα ψευδαισθήσεων να συμβούν. Οι πιθανικοί αγοραστές έχουν το δικό τους ρόλο να παίξουν. Prioritizing λύσεις που έχουν εκπαιδευτεί και ελεγχθεί αυστηρά και μπορούν να μάθουν από ιδιόκτητα δεδομένα (αντί από ο,τιδήποτε και ό,τι στο διαδίκτυο), οι επιχειρήσεις μπορούν να κάνουν το μέγιστο από τις επενδύσεις τους σε AI για να ρυθμίσουν τους υπαλλήλους και τους πελάτες για επιτυχία.