Είναι τα RAGs η Λύση για τις Hallucinations του AI;

Το AI, από τη φύση του, έχει einen “δικό του νου”. Ένα μειονέκτημα αυτού είναι ότι τα μοντέλα Γενικής AI θα κατασκευάζουν偶τικά πληροφορίες σε ένα φαινόμενο που ονομάζεται “hallucinations του AI”, ένα από τα πρώτα παραδείγματα του οποίου ήρθε στο προσκήνιο όταν ένας δικαστής της Νέας Υόρκης κατηγόρησε δικηγόρους για τη χρήση μιας νομικής έκθεσης γραμμένης από το ChatGPT που αναφερόταν σε μη υπάρχουσες δικαστικές υποθέσεις. Πιο πρόσφατα, υπήρξαν περιπτώσεις όπου AI-γεννήτριες μηχανές αναζήτησης έλεγαν στους χρήστες να καταναλώσουν βράχους για υγεία ή να χρησιμοποιήσουν μη τοξική κόλλα για να βοηθήσουν το τυρί να κολλήσει στο πίτσα.

Καθώς η GenAI γίνεται ολοένα και πιο πανταχού παρούσα, είναι σημαντικό για τους χρήστες να αναγνωρίσουν ότι οι hallucinations είναι, για την ώρα, ένα απαραίτητο χαρακτηριστικό των λύσεων GenAI. Χτισμένες σε μεγάλες γλωσσικές μοντέλα (LLM), αυτές οι λύσεις ενημερώνονται συχνά από τεράστιες ποσότητες διαφορετικών πηγών που είναι πιθανό να περιέχουν τουλάχιστον κάποιες ανακριβείς ή παλαιές πληροφορίες – αυτές οι κατασκευασμένες απαντήσεις αποτελούν μεταξύ 3% και 10% των απαντήσεων που παράγονται από το AI chatbot σε προτροπές χρηστών. Στο φως της “μαύρης κούκλας” της AI – στην οποία, ως άνθρωποι, έχουμε εξαιρετική δυσκολία να εξετάσουμε ακριβώς πώς το AI παράγει τα αποτελέσματά του, – αυτές οι hallucinations μπορούν να είναι σχεδόν αδύνατο για τους προγραμματιστές να τις ανακαλύψουν και να τις κατανοήσουν.

Απαραίτητες ή όχι, οι hallucinations του AI είναι ενοχλητικές στην καλύτερη περίπτωση, επικίνδυνες και αήθικες στην χειρότερη.

Σε διάφορους τομείς, συμπεριλαμβανομένης της υγείας, της οικονομίας και της δημόσιας ασφάλειας, οι επιπτώσεις των hallucinations περιλαμβάνουν όλα, από τη διάδοση ψευδών πληροφοριών και την υπονόμευση ευαίσθητων δεδομένων μέχρι και ζωηράσφαλες ατυχήματα. Αν οι hallucinations συνεχίσουν να παραμελούνται, η ευημερία των χρηστών και η εμπιστοσύνη της κοινωνίας στα συστήματα AI θα υπονομευτούν και τα δύο.

Ως τέτοιο, είναι απαραίτητο ότι οι κηδεμόνες αυτής της ισχυρής τεχνολογίας αναγνωρίσουν και αντιμετωπίσουν τους κινδύνους των hallucinations του AI, προκειμένου να διασφαλίσουν την αξιοπιστία των LLM-παραγόμενων εξόδων.

Τα RAGs ως αφετηρία για την επίλυση των Hallucinations

Μια μέθοδος που έχει αναδυθεί για την μείωση των hallucinations είναι η επεξεργασία με τη βοήθεια αναζήτησης, ή RAG. Αυτή η λύση ενισχύει την αξιοπιστία των LLM μέσω της ενσωμάτωσης εξωτερικών αποθηκών πληροφοριών – εξάγοντας σχετικές πληροφορίες από μια αξιόπιστη βάση δεδομένων που επιλέγεται σύμφωνα με τη φύση της ερώτησης – για να διασφαλίσει πιο αξιόπιστες απαντήσεις σε συγκεκριμένες ερωτήσεις.

Κάποιοι βιομηχανικοί ειδικοί έχουν υποστηρίξει ότι τα RAG μπορούν να λύσουν μόνο του τις hallucinations. Αλλά τα RAG-ενσωματωμένα δεδομένα μπορούν ακόμη να περιέχουν παλαιές πληροφορίες, οι οποίες θα μπορούσαν να παράγουν ψευδείς ή παραπλανητικές πληροφορίες. Σε ορισμένες περιπτώσεις, η ενσωμάτωση εξωτερικών δεδομένων μέσω RAG μπορεί ακόμη και να αυξήσει την πιθανότητα hallucinations σε μεγάλα γλωσσικά μοντέλα: Αν ένα μοντέλο AI βασιστεί υπερβολικά σε μια παλαιά βάση δεδομένων που την αντιλαμβάνεται ως πλήρως ενημερωμένη, το μέγεθος των hallucinations μπορεί να γίνει ακόμη πιο σοβαρό.

Φρουροί του AI – Γέφυρα των κενών των RAG

Όπως μπορείτε να δείτε, τα RAG έχουν υποσχέσεις για την μείωση των hallucinations του AI. Ωστόσο, οι βιομηχανίες και οι επιχειρήσεις που στρέφονται σε αυτές τις λύσεις πρέπει επίσης να κατανοήσουν τις εγγενείς τους περιορισμούς. Πράγματι, όταν χρησιμοποιούνται σε συνδυασμό με RAG, υπάρχουν συμπληρωματικές μεθοδολογίες που πρέπει να χρησιμοποιούνται όταν αντιμετωπίζονται οι hallucinations των LLM.

Για παράδειγμα, οι επιχειρήσεις μπορούν να χρησιμοποιήσουν φρουρούς AI σε πραγματικό χρόνο για να ασφαλίσουν τις απαντήσεις των LLM και να μετριάσουν τις hallucinations του AI. Οι φρουροί λειτουργούν ως δίχτυ που ελέγχει όλες τις εξόδους των LLM για κατασκευασμένο, ασεβές ή εκτός θέματος περιεχόμενο πριν φτάσει στους χρήστες. Αυτή η προενεργειακή μεθοδολογία middleware διασφαλίζει την αξιοπιστία και την επικαιρότητα της αναζήτησης στα συστήματα RAG, ενισχύοντας τελικά την εμπιστοσύνη μεταξύ των χρηστών και διασφαλίζοντας ασφαλείς αλληλεπιδράσεις που συμμορφώνονται με το brand της εταιρείας.

Εναλλακτικά, υπάρχει η προσέγγιση της “μηχανικής προτροπής”, η οποία απαιτεί από τον μηχανικό να αλλάξει την προτροπή master. Προσθέτοντας προκαθορισμένα περιορισμοί στις αποδεκτές προτροπές – με άλλα λόγια, παρακολουθώντας όχι μόνο από πού το LLM λαμβάνει πληροφορίες, αλλά και πώς οι χρήστες ζητούν απαντήσεις – οι μηχανικοί προτροπές μπορούν να οδηγήσουν τα LLM σε πιο αξιόπιστα αποτελέσματα. Το κύριο μειονέκτημα αυτής της προσέγγισης είναι ότι η μηχανική προτροπή μπορεί να είναι ένα εξαιρετικά χρονοβόρο έργο για τους προγραμματιστές, οι οποίοι είναι συχνά ήδη απασχολημένοι με τον χρόνο και τους πόρους.

Η “λεπτή ρύθμιση” προσέγγιση περιλαμβάνει την εκπαίδευση των LLM σε εξειδικευμένα σύνολα δεδομένων για να βελτιώσει την απόδοση και να μετριάσει τον κίνδυνο των hallucinations. Αυτή η μέθοδος εκπαιδεύει τα LLM να τραβούν από συγκεκριμένα, αξιόπιστα домένια, βελτιώνοντας την ακρίβεια και την αξιοπιστία των εξόδων.

Είναι επίσης σημαντικό να ληφθεί υπόψη ο αντίκτυπος του μήκους της εισόδου στην απόδοση της λογικής των LLM – πράγματι, πολλοί χρήστες έχουν την τάση να σκέφτονται ότι όσο πιο εκτενής και παραμετρο-γεμάτη είναι η προτροπή τους, τόσο πιο ακριβή θα είναι τα αποτελέσματα. Ωστόσο, μια πρόσφατη μελέτη αποκάλυψε ότι η ακρίβεια των εξόδων των LLM στην πραγματικότητα μειώνεται καθώς αυξάνεται το μήκος της εισόδου. Συνεπώς, η αύξηση του αριθμού των οδηγιών που ανατίθενται σε οποιαδήποτε προτροπή δεν εγγυάται συνεπή αξιοπιστία στην παραγωγή αξιόπιστων εφαρμογών γενικής AI.

Αυτό το φαινόμενο, γνωστό ως υπερφόρτωση προτροπής, υπογραμμίζει τους εγγενείς κινδύνους των υπερβολικά σύνθετων σχεδίων προτροπής – όσο πιο ευρύ είναι η φράση μιας προτροπής, τόσο περισσότερες πόρτες ανοίγονται σε ανακριβείς πληροφορίες και hallucinations καθώς το LLM αγωνίζεται να ικανοποιήσει κάθε παράμετρο.

Μηχανική προτροπής απαιτεί συνεχείς ενημερώσεις και λεπτές ρυθμίσεις και ακόμη παλεύει να αποτρέψει αποτελεσματικά τις hallucinations ή τις ανοησίες. Οι φρουροί, από την άλλη πλευρά, δεν θα δημιουργήσουν πρόσθετο κίνδυνο κατασκευασμένων εξόδων, καθιστώντας τους μια ελκυστική επιλογή για την προστασία του AI. Σε αντίθεση με τη μηχανική προτροπής, οι φρουροί προσφέρουν μια ολιστική λύση σε πραγματικό χρόνο που διασφαλίζει ότι η γενική AI θα δημιουργήσει μόνο εξόδους από μέσα σε προκαθορισμένα όρια.

Ενώ δεν είναι μια λύση από μόνη της, η ανάδραση του χρήστη μπορεί επίσης να βοηθήσει στην μείωση των hallucinations με ενέργειες όπως οι ψήφοι και οι κατεβάσεις που βοηθούν στην βελτίωση των μοντέλων, την ενίσχυση της ακρίβειας των εξόδων και την μείωση του κινδύνου των hallucinations.

Μόνα τους, οι λύσεις RAG απαιτούν εκτεταμένα πειράματα για να επιτύχουν ακριβή αποτελέσματα. Αλλά όταν συνδυαστούν με λεπτή ρύθμιση, μηχανική προτροπής και φρουρούς, μπορούν να προσφέρουν πιο στοχευμένες και αποτελεσματικές λύσεις για την αντιμετώπιση των hallucinations. Η εξέταση αυτών των συμπληρωματικών στρατηγικών θα συνεχίσει να βελτιώνει την μείωση των hallucinations στα LLM, συμβάλλοντας στην ανάπτυξη πιο αξιόπιστων και αξιόπιστων μοντέλων σε διάφορες εφαρμογές.

Τα RAGs δεν είναι η Λύση για τις Hallucinations του AI

Οι λύσεις RAG προσθέτουν τεράστια αξία στα LLM, εμπλουτίζοντάς τα με εξωτερικές γνώσεις. Αλλά με τόσο πολλά ακόμη άγνωστα για τη γενική AI, οι hallucinations παραμένουν μια εγγενής πρόκληση. Ο κλειδί για την αντιμετώπιση τους δεν βρίσκεται στη προσπάθεια να τους εξαλείψουμε, αλλά μάλλον στην μείωση της επιρροής τους με συνδυασμό στρατηγικών φρουρών, διαδικασιών ελέγχου και λεπτών ρυθμίσεων.

Όσο περισσότερο μπορούμε να εμπιστευθούμε αυτά που μας λέει η GenAI, τόσο πιο αποτελεσματικά και αποτελεσματικά θα μπορούμε να εκμεταλλευθούμε το ισχυρό της δυναμικό.