La nouvelle solution open-source de Vianai pour résoudre le problème des hallucinations de l’IA

Il n’est un secret pour personne que l’IA, en particulier les Large Language Models (LLM), peut occasionnellement produire des sorties inexactes ou même potentiellement nuisibles. Ces anomalies, surnommées “hallucinations de l’IA”, ont constitué un obstacle important pour les entreprises qui envisagent d’intégrer les LLM en raison des risques inhérents de conséquences financières, de réputation et même juridiques.

En réponse à cette préoccupation cruciale, Vianai Systems, un leader dans le domaine de l’IA centrée sur l’humain, a présenté sa nouvelle offre : le toolkit veryLLM. Ce toolkit open-source vise à garantir des systèmes d’IA plus fiables, transparents et transformateurs pour une utilisation commerciale.

Le défi des hallucinations de l’IA

De telles hallucinations, qui voient les LLM générer du contenu faux ou offensant, ont été un problème persistant. De nombreuses entreprises, craignant les conséquences potentielles, ont hésité à intégrer les LLM dans leurs systèmes d’entreprise centraux. Cependant, avec l’introduction de veryLLM sous la licence open-source Apache 2.0, Vianai espère établir la confiance et promouvoir l’adoption de l’IA en fournissant une solution à ces problèmes.

Décryptage du toolkit veryLLM

Au cœur du toolkit veryLLM se trouve la possibilité d’une compréhension plus approfondie de chaque phrase générée par les LLM. Il atteint cet objectif grâce à diverses fonctions qui classifient les déclarations en fonction des pools de contexte sur lesquels les LLM sont formés, tels que Wikipedia, Common Crawl et Books3. Avec la sortie inaugurale de veryLLM s’appuyant fortement sur une sélection d’articles de Wikipedia, cette méthode assure une base solide pour la procédure de vérification du toolkit.

Le toolkit est conçu pour être adaptable, modulaire et compatible avec tous les LLM, facilitant ainsi son utilisation dans n’importe quelle application qui utilise les LLM. Cela améliorera la transparence des réponses générées par l’IA et soutiendra à la fois les modèles de langage actuels et futurs.

Dr. Vishal Sikka, fondateur et PDG de Vianai Systems et également conseiller du Center for Human-Centered Artificial Intelligence de l’Université de Stanford, a souligné la gravité du problème des hallucinations de l’IA. Il a déclaré : “Les hallucinations de l’IA posent des risques graves pour les entreprises, freinant leur adoption de l’IA. En tant qu’étudiant en IA depuis de nombreuses années, il est également bien connu que nous ne pouvons pas permettre à ces systèmes puissants d’être opaques sur la base de leurs sorties, et nous devons résoudre ce problème avec urgence. Notre bibliothèque veryLLM est un premier pas modeste pour apporter de la transparence et de la confiance aux sorties de n’importe quel LLM – une transparence que tout développeur, scientifique des données ou fournisseur de LLM peut utiliser dans ses applications d’IA. Nous sommes enthousiastes à l’idée d’apporter ces capacités, ainsi que d’autres techniques anti-hallucinations, aux entreprises du monde entier, et je crois que c’est pourquoi nous voyons une adoption sans précédent de nos solutions.”

Intégration de veryLLM dans hila™ Enterprise

hila™ Enterprise, un autre produit exceptionnel de Vianai, se concentre sur le déploiement précis et transparent de solutions linguistiques d’entreprise à grande échelle dans des secteurs tels que la finance, les contrats et le juridique. Cette plate-forme intègre le code veryLLM, combiné avec d’autres techniques d’IA avancées, pour minimiser les risques associés à l’IA, permettant ainsi aux entreprises de tirer pleinement parti du pouvoir transformateur des systèmes d’IA fiables.

Un regard plus approfondi sur Vianai Systems

Vianai Systems se distingue comme un pionnier dans le domaine de l’IA centrée sur l’humain. L’entreprise compte parmi ses clients certaines des entreprises les plus prestigieuses du monde. L’équipe de Vianai possède une expertise inégalée dans la création de plateformes d’entreprise et d’applications innovantes, ce qui la différencie. Elle bénéficie également du soutien de certains des investisseurs les plus visionnaires au monde, dans le domaine de l’IA centrée sur l’humain. L’entreprise se targue d’une équipe exceptionnelle et d’un soutien financier solide, lui permettant de se positionner comme un leader dans son secteur.