La nouvelle solution open-source de Vianai traite du problème d’hallucination de l’IA

Il n’est un secret pour personne que l’IA, en particulier les Large Language Models (LLM), peuvent occasionnellement produire des sorties inexactes ou même potentiellement nuisibles. Appelés “hallucinations IA”, ces anomalies ont été un obstacle important pour les entreprises qui envisagent d’intégrer les LLM en raison des risques inhérents de conséquences financières, de réputation et même juridiques.

En réponse à cette préoccupation cruciale, Vianai Systems, un leader en matière d’IA centrée sur l’humain pour les entreprises, a présenté son nouvel outil : le kit d’outils veryLLM. Ce kit d’outils open-source vise à garantir des systèmes d’IA plus fiables, transparents et transformateurs pour une utilisation commerciale.

Le défi des hallucinations IA

De telles hallucinations, qui voient les LLM générer du contenu faux ou offensant, ont été un problème persistant. De nombreuses entreprises, craignant les conséquences potentielles, se sont abstenues d’intégrer les LLM dans leurs systèmes d’entreprise centraux. Cependant, avec l’introduction de veryLLM sous licence open-source Apache 2.0, Vianai espère établir la confiance et promouvoir l’adoption de l’IA en fournissant une solution à ces problèmes.

Présentation du kit d’outils veryLLM

Au cœur du kit d’outils veryLLM se trouve la possibilité d’une compréhension plus approfondie de chaque phrase générée par les LLM. Il atteint cet objectif grâce à diverses fonctions qui classifient les énoncés en fonction des pools de contexte sur lesquels les LLM sont formés, tels que Wikipedia, Common Crawl et Books3. Avec la sortie inaugurale de veryLLM s’appuyant fortement sur une sélection d’articles de Wikipedia, cette méthode assure une base solide pour la procédure de vérification du kit d’outils.

Le kit d’outils est conçu pour être adaptable, modulaire et compatible avec tous les LLM, facilitant son utilisation dans n’importe quelle application qui utilise des LLM. Cela améliorera la transparence des réponses générées par l’IA et soutiendra à la fois les modèles de langage actuels et futurs.

Dr. Vishal Sikka, fondateur et PDG de Vianai Systems et également conseiller du Centre pour l’IA centrée sur l’humain de l’Université de Stanford, a souligné la gravité du problème d’hallucination de l’IA. Il a déclaré : “Les hallucinations IA posent des risques graves pour les entreprises, freinant leur adoption de l’IA. En tant qu’étudiant en IA depuis de nombreuses années, il est également bien connu que nous ne pouvons pas permettre à ces systèmes puissants d’être opaques sur la base de leurs sorties, et nous devons résoudre ce problème de manière urgente. Notre bibliothèque veryLLM est un petit premier pas pour apporter de la transparence et de la confiance aux sorties de n’importe quel LLM – une transparence que tout développeur, scientifique de données ou fournisseur de LLM peut utiliser dans ses applications d’IA. Nous sommes ravis d’apporter ces capacités, ainsi que d’autres techniques anti-hallucination, aux entreprises du monde entier, et je crois que c’est pourquoi nous voyons une adoption sans précédent de nos solutions.”

Intégration de veryLLM dans hila™ Enterprise

hila™ Enterprise, un autre produit exceptionnel de Vianai, se concentre sur le déploiement précis et transparent de solutions de langage d’entreprise importantes dans des secteurs tels que la finance, les contrats et le juridique. Cette plate-forme intègre le code veryLLM, combiné avec d’autres techniques d’IA avancées, pour minimiser les risques associés à l’IA, permettant aux entreprises de tirer pleinement parti du pouvoir transformateur des systèmes d’IA fiables.

Présentation de Vianai Systems

Vianai Systems se distingue comme un pionnier dans le domaine de l’IA centrée sur l’humain. L’entreprise compte parmi ses clients certaines des entreprises les plus prestigieuses au monde. L’expertise inégalée de son équipe dans la création de plateformes d’entreprise et d’applications innovantes les distingue. Ils ont également la chance de bénéficier du soutien de certains des investisseurs les plus visionnaires au monde.