Αν ο AI σας παρουσιάζει ψευδαισθήσεις, μην κατηγορείτε τον AI

Οι «ψευδαισθήσεις» του AI – αυτές οι πειστικές αλλά ψευδείς απαντήσεις – προσελκύουν πολλή προσοχή από τα μέσα ενημέρωσης, όπως στο πρόσφατο άρθρο της New York Times, Το AI Γίνεται Πιο Ισχυρό, Αλλά Οι Ψευδαισθήσεις Του Χειρότερες. Οι ψευδαισθήσεις είναι πραγματικός κίνδυνος όταν αντιμετωπίζετε ένα καταναλωτικό chatbot. Στο πλαίσιο των επιχειρηματικών εφαρμογών του AI, είναι ένα ακόμη πιο σοβαρό ζήτημα. Ευτυχώς, ως ηγέτης της επιχειρηματικής τεχνολογίας, έχω περισσότερο έλεγχο πάνω του. Μπορώ να διασφαλίσω ότι ο πράκτορας έχει τα σωστά δεδομένα για να παράγει μια σημαντική απάντηση.

Διότι αυτό είναι το πραγματικό πρόβλημα. Στις επιχειρήσεις, δεν υπάρχει εξήγηση για τις ψευδαισθήσεις του AI. Σταματήστε να κατηγορείτε το AI. Κατηγορείτε τον εαυτό σας που δεν χρησιμοποιείτε το AI σωστά.

Όταν τα γεννητικά εργαλεία AI παρουσιάζουν ψευδαισθήσεις, κάνουν αυτό που έχουν σχεδιαστεί να κάνουν – να παρέχουν την καλύτερη απάντηση που μπορούν με βάση τα διαθέσιμα δεδομένα. Όταν λένε ψέματα, παράγοντας μια απάντηση που δεν βασίζεται στη πραγματικότητα, αυτό συμβαίνει επειδή λείπουν τα σχετικά δεδομένα, δεν μπορούν να τα βρουν ή δεν κατανοούν την ερώτηση. Ναι, τα νέα μοντέλα όπως το o3 και το o4-mini του OpenAI παρουσιάζουν περισσότερες ψευδαισθήσεις, ενεργώντας ακόμη πιο «δημιουργικά» όταν δεν έχουν μια καλή απάντηση στην ερώτηση που τους έχει τεθεί. Ναι, τα πιο ισχυρά εργαλεία μπορούν να παρουσιάσουν περισσότερες ψευδαισθήσεις – αλλά μπορούν επίσης να παράγουν πιο ισχυρά και πολύτιμα αποτελέσματα αν τα ρυθμίσουμε για επιτυχία.

Αν δεν θέλετε το AI σας να παρουσιάσει ψευδαισθήσεις, μην το λιμοκτονήσετε με δεδομένα. Δώστε στο AI τα καλύτερα, πιο σχετικά δεδομένα για το πρόβλημα που θέλετε να λύσει, και δεν θα έχει την τάση να παρεκκλίνει.

Ακόμη και τότε, όταν εργάζεστε με οποιοδήποτε εργαλείο AI, σας συνιστώ να διατηρείτε τις κριτικές σκέψεις σας. Τα αποτελέσματα που παρέχουν οι πράκτορες AI μπορούν να είναι παραγωγικά και ευχάριστα, αλλά το σημείο δεν είναι να αποσυνδεθείτε από το μυαλό σας και να αφήσετε το λογισμικό να κάνει όλη τη σκέψη για σας. Συνεχίστε να κάνετε ερωτήσεις. Όταν ένας πράκτορας AI σας δίνει μια απάντηση, αμφισβητήστε αυτή την απάντηση για να βεβαιωθείτε ότι έχει νόημα και βασίζεται σε δεδομένα. Αν ναι, αυτό πρέπει να είναι ένα ενθαρρυντικό σημάδι ότι αξίζει να αφιερώσετε χρόνο για να κάνετε ερωτήσεις.

Όσο περισσότερες ερωτήσεις κάνετε, τόσο καλύτερες επινοήσεις θα λάβετε.

Γιατί συμβαίνουν οι ψευδαισθήσεις

Δεν είναι κάποιο μυστήριο. Το AI δεν προσπαθεί να ψεύδει. Κάθε μεγάλο γλωσσικό μοντέλο (LLM) AI είναι ουσιαστικά μια πρόβλεψη της επόμενης λέξης ή αριθμού με βάση την πιθανότητα.

Σε υψηλό επίπεδο, αυτό που συμβαίνει εδώ είναι ότι τα LLM συνθέτουν προτάσεις και παραγράφους μια λέξη τη φορά, προβλέποντας την επόμενη λέξη που πρέπει να εμφανιστεί στην πρόταση με βάση δισεκατομμύρια άλλες περιπτώσεις στα δεδομένα εκπαίδευσής του. Οι πρόγονοι των LLM (εκτός από το Clippy) ήταν αυτόματα προτάσεις για μηνύματα κειμένου και κώδικα υπολογιστή, αυτόματα εργαλεία μετάφρασης ανθρώπινης γλώσσας και άλλα προβλεπτικά γλωσσικά συστήματα. Με την αύξηση της υπολογιστικής ισχύος και την εκπαίδευση σε διαδικτυακά δεδομένα, αυτά τα συστήματα έγιναν «έξυπνα» enough για ναสามารถ διεξάγουν μια πλήρη συνομιλία μέσω chat, όπως το κόσμος έμαθε με την εισαγωγή του ChatGPT.

Οι否ικοί του AI επισημαίνουν ότι αυτό δεν είναι το ίδιο με την «πραγματική» νοημοσύνη, αλλά μόνο λογισμικό που μπορεί να απορροφήσει και να αναπαράγει την ανθρώπινη νοημοσύνη που έχει εισαχθεί σε αυτό. Ρωτήστε το να συνοψίσει δεδομένα σε μια γραπτή αναφορά, και μιμείται τον τρόπο με τον οποίο άλλοι συγγραφείς έχουν συνοψίσει παρόμοια δεδομένα.

Αυτό μου φαίνεται ως μια ακαδημαϊκή διαμάχη, όσο τα δεδομένα είναι σωστά και η ανάλυση είναι χρήσιμη.

Τι συμβαίνει αν το AI δεν έχει τα δεδομένα; Γεμίζει τα κενά. Κάποιες φορές είναι αστείο. Κάποιες φορές είναι ένα πλήρες χάος.

Όταν κατασκευάζουμε πράκτορες AI, αυτό είναι 10 φορές μεγαλύτερο κίνδυνος. Οι πράκτορες πρέπει να παρέχουν δράσιμες επινοήσεις, αλλά λαμβάνουν περισσότερες αποφάσεις κατά μήκος του δρόμου. Εκτελούν πολύπλοκες εργασίες, όπου το αποτέλεσμα του βήματος 1 ενημερώνει τα βήματα 2, 3, 4, 5, … 10 … 20. Αν τα αποτελέσματα του βήματος 1 είναι λανθασμένα, το σφάλμα θα ενισχυθεί, καθιστώντας το αποτέλεσμα στο βήμα 20 ακόμη χειρότερο. Ιδιαίτερα,既然 οι πράκτορες μπορούν να λαμβάνουν αποφάσεις και να παραλείπουν βήματα.

Κάνετε σωστά, οι πράκτορες επιτυγχάνουν περισσότερα για την επιχείρηση που τους αναθέτει. Ωστόσο, ως διαχειριστές προϊόντων AI, πρέπει να αναγνωρίσουμε τον μεγαλύτερο κίνδυνο που συνοδεύει την μεγαλύτερη ανταμοιβή.

Ποιος είναι ο κίνδυνος; Αυτό που κάναμε. Είδαμε τον κίνδυνο και τον αντιμετωπίσαμε. Δεν κατασκευάσαμε μόνο ένα φανταστικό ρομπότ· βεβαιωθήκαμε ότι λειτουργεί με τα σωστά δεδομένα. Αυτό που νομίζω ότι κάναμε σωστά:

• Κατασκευάστε τον πράκτορα να κάνει τις σωστές ερωτήσεις και να επιβεβαιώσετε ότι έχει τα σωστά δεδομένα. Βεβαιωθείτε ότι η αρχική διαδικασία εισαγωγής δεδομένων του πράκτορα είναι πραγματικά πιο детерμινιστική, λιγότερο «δημιουργική». Θέλετε ο πράκτορας να πει όταν δεν έχει τα σωστά δεδομένα και να μην συνεχίσει στο επόμενο βήμα, αντί να λένε ψέματα.
• Δομήστε ένα βιβλίο οδηγιών για τον πράκτορα – βεβαιωθείτε ότι δεν εφευρίσκει ένα νέο σχέδιο κάθε φορά, αλλά έχει μια ημι-δομημένη προσέγγιση. Δομή και контекστ είναι εξαιρετικά σημαντικά στη διαδικασία συλλογής και ανάλυσης δεδομένων. Μπορείτε να αφήσετε τον πράκτορα να χαλαρώσει και να ενεργεί πιο «δημιουργικά» όταν έχει τα γεγονότα και είναι έτοιμος να γράψει το σύνοψη, αλλά πρώτα βεβαιωθείτε ότι τα γεγονότα είναι σωστά.
• Κατασκευάστε ένα εργαλείο υψηλής ποιότητας για την εξαγωγή δεδομένων. Αυτό πρέπει να είναι περισσότερο από μια απλή κλήση API. Αφιερώστε χρόνο για να γράψετε τον κώδικα (οι άνθρωποι ακόμη το κάνουν) που δημιουργεί την σωστή ποσότητα και ποικιλία δεδομένων που θα συλλεχθούν, ενσωματώνοντας ελέγχους ποιότητας στη διαδικασία.
• Κάντε τον πράκτορα να δείξει το έργο του. Ο πράκτορας πρέπει να αναφέρει τις πηγές του και να συνδέεται με το μέρος όπου ο χρήστης μπορεί να επιβεβαιώσει τα δεδομένα, από την αρχική πηγή, και να τα εξερευνήσει περαιτέρω. Δεν επιτρέπεται καμία απάτη!
• Φρουροί: Σκεφτείτε τι μπορεί να πάει στραβά και κατασκευάστε προστασίες ενάντια στα λάθη που δεν μπορείτε να επιτρέψετε. Στην περίπτωσή μας, αυτό σημαίνει ότι όταν ο πράκτορας που έχει ανατεθεί να αναλύσει μια αγορά δεν έχει τα δεδομένα – με την έννοια ότι τα δεδομένα μας Similarweb, όχι κάποια τυχαία πηγή δεδομένων που έχει ανακτηθεί από το διαδίκτυο – βεβαιωθείτε ότι δεν λένε ψέματα είναι một απαραίτητος φρουρός. Καλύτερα για τον πράκτορα να μην μπορεί να απαντήσει παρά να παρέχει μια ψευδή ή παραπλανητική απάντηση.

Έχουμε ενσωματώσει αυτές τις αρχές στην πρόσφατη κυκλοφορία των τριών νέων πρακτόρων μας, με περισσότερους να ακολουθούν. Για παράδειγμα, ο πράκτορας μας AI για την προετοιμασία συνεδριών για πωλητές δεν ζητά μόνο το όνομα της εταιρείας-στόχου, αλλά και λεπτομέρειες για το στόχο της συνάντησης και με ποιον είναι, προετοιμάζοντάς τον να παρέχει μια καλύτερη απάντηση. Δεν πρέπει να μαντέψει, επειδή χρησιμοποιεί μια πλούσια ποικιλία δεδομένων εταιρείας, ψηφιακών δεδομένων και προφίλ εκτελεστών για να ενημερώσει τις συστάσεις του.

Είναι οι πράκτορες μας τέλειοι; Όχι. Κανείς δεν δημιουργεί ακόμη τέλειο AI, ούτε καν οι μεγαλύτερες εταιρείες στον κόσμο. Αλλά η αντιμετώπιση του προβλήματος είναι πολύ καλύτερη από το να το αγνοήσετε.

Θέλετε λιγότερες ψευδαισθήσεις; Δώστε στο AI σας ένα ωραίο κομμάτι υψηλής ποιότητας δεδομένων.

Αν παρουσιάζει ψευδαισθήσεις, μπορεί να μην είναι το AI που χρειάζεται διόρθωση. Μπορεί να είναι η προσέγγισή σας για να επωφεληθείτε από αυτές τις ισχυρές νέες ικανότητες χωρίς να αφιερώσετε χρόνο και προσπάθεια για να τις κάνετε σωστά.