Η νέα λύση ανοικτού κώδικα της Vianai αντιμετωπίζει τις παραισθήσεις της AI

Δεν είναι μυστικό ότι το AI, ιδιαίτερα τα Μεγάλα Γλωσσικά Μοντέλα (LLMs), μπορεί να παράγει περιστασιακά ανακριβείς ή ακόμη και δυνητικά επιβλαβείς εξόδους. Οι ανωμαλίες αυτές, που ονομάζονται “παραισθήσεις της AI”, έχουν αποτελέσει ένα σημαντικό εμπόδιο για τις επιχειρήσεις που σκέφτονται να ενσωματώσουν τα LLMs, λόγω των εγγενών κινδύνων οικονομικών, νομικών συνεπειών και βλάβης της φήμης.

Για να αντιμετωπιστούν αυτές οι κρίσιμες ανησυχίες, η Vianai Systems, ένας πρωτοπόρος στην επιχειρησιακή ανθρωποκεντρική τεχνητή νοημοσύνη, παρουσίασε την νέα της προσφορά: το veryLLM toolkit. Αυτή η εργαλειοθήκη ανοικτού κώδικα έχει ως στόχο να διασφαλίσει πιο αξιόπιστες, διαφανείς και μετασχηματιστικά συστήματα AI για επιχειρηματική χρήση.

Η Πρόκληση των Hallucinations του AI

Αυτές οι παραισθήσεις, που βλέπουν τα LLMs να παράγουν ψευδές ή προσβλητικό περιεχόμενο, έχουν αποτελέσει ένα μόνιμο πρόβλημα. Πολλές εταιρείες, φοβούμενες τις πιθανές επιπτώσεις, έχουν αποτραβηχθεί από την ενσωμάτωση των LLMs στα κεντρικά επιχειρηματικά συστήματα. Ωστόσο, με την εισαγωγή του veryLLM, με την άδεια ανοικτού κώδικα Apache 2.0, η Vianai ελπίζει να κατασκευάσει εμπιστοσύνη και να προωθήσει την υιοθέτηση του AI, παρέχοντας μια λύση σε αυτά τα ζητήματα.

Αναλύοντας το veryLLM Toolkit

Στην καρδιά του, το veryLLM toolkit επιτρέπει μια βαθύτερη κατανόηση κάθε πρότασης που παράγει ένα LLM. Αυτό επιτυγχάνεται μέσω διαφόρων λειτουργιών που κατηγοριοποιούν τις δηλώσεις με βάση τις πηγές περιεχομένου στις οποίες εκπαιδεύονται τα LLM, όπως η Βικιπαίδεια, ο Common Crawl και το Books3. Με την εναρκτήρια κυκλοφορία του veryLLM να βασίζεται σε μια επιλογή άρθρων της Βικιπαίδειας, αυτή η μέθοδος διασφαλίζει μια στερεή βάση για τη διαδικασία επαλήθευσης του toolkit.

Το toolkit έχει σχεδιαστεί για να είναι προσαρμόσιμο, αρθρωτό και συμβατό με όλα τα LLMs, διευκολύνοντας τη χρήση του σε οποιαδήποτε εφαρμογή που χρησιμοποιεί LLMs. Αυτό θα βελτιώσει τη διαφάνεια στις απαντήσεις που παράγονται από το AI και θα υποστηρίξει τόσο τα τρέχοντα όσο και τα επερχόμενα γλωσσικά μοντέλα.

Ο Δρ. Vishal Sikka, Ιδρυτής και Διευθύνων Σύμβουλος της Vianai Systems και επίσης σύμβουλος του Κέντρου Ανθρωποκεντρικής Τεχνητής Νοημοσύνης του Πανεπιστημίου Στάνφορντ, τόνισε τη βαρύτητα του ζητήματος των παραισθήσεις της AI. Είπε, “Οι παραισθήσεις της AI αποτελούν σοβαρές απειλές για τις επιχειρήσεις, κρατώντας πίσω την υιοθέτησή τους του AI. Ως μαθητής του AI για πολλά χρόνια, είναι επίσης γνωστό ότι δεν μπορούμε να επιτρέψουμε σε αυτά τα ισχυρά συστήματα να είναι αδιαφανή σχετικά με τη βάση των εξόδων τους, και πρέπει να λύσουμε αυτό το πρόβλημα επειγόντως. Η βιβλιοθήκη μας veryLLM είναι ένα μικρό πρώτο βήμα για να φέρει διαφάνεια και εμπιστοσύνη στις εξόδους οποιουδήποτε LLM – διαφάνεια που οποιοσδήποτε προγραμματιστής, επιστήμονας δεδομένων ή πάροχος LLM μπορεί να χρησιμοποιήσει στις εφαρμογές AI. Είμαστε ενθουσιασμένοι να φέρουμε αυτές τις ικανότητες, και πολλές άλλες τεχνικές κατά των παραισθήσεων, σε επιχειρήσεις παγκοσμίως, και πιστεύω ότι αυτό είναι ο λόγος για τον οποίο βλέπουμε μια άνευ προηγουμένου υιοθέτηση των λύσεων μας.”

Ενσωματώνοντας το veryLLM στο hila™ Enterprise

Το hila™ Enterprise, ένα άλλο εξαιρετικό προϊόν της Vianai, επικεντρώνεται στην ακριβή και διαφανή ανάπτυξη επιχειρησιακών λύσεων μεγάλων γλωσσικών μοντέλων σε τομείς όπως οι χρηματοοικονομικές υπηρεσίες, οι συμβάσεις και το δίκαιο. Αυτή η πλατφόρμα ενσωματώνει τον κώδικα veryLLM, σε συνδυασμό με άλλες προηγμένες τεχνικές AI, για να ελαττώσει τους κινδύνους που σχετίζονται με το AI, επιτρέποντας στις επιχειρήσεις να αξιοποιήσουν πλήρως τη μετασχηματιστική δύναμη των αξιόπιστων συστημάτων AI.

Μια Καλύτερη Ματιά στα Vianai Systems

Η Vianai Systems είναι ένας πρωτοπόρος στον τομέα της Ανθρωποκεντρικής Τεχνητής Νοημοσύνης. Η εταιρεία διαθέτει ένα πελατολόγιο που περιλαμβάνει μερικές από τις πιο εξαιρετικές επιχειρήσεις του κόσμου. Η ομάδα της Vianai έχει μια ασύγκριτη ικανότητα στη δημιουργία επιχειρηματικών πλατφορμών και καινοτόμων εφαρμογών, η οποία την ξεχωρίζει. Επίσης, έχουν την υποστήριξη ορισμένων από τους πιο οραματιστές επενδυτές παγκοσμίως.