Vianais nye open-source-løsning løser AI’s hallucinationsproblem

Det er ingen hemmelighed, at AI, specifikt Large Language Models (LLM’er), kan producere uakkurate eller endda potentielt skadelige outputs. Disse anomali’er, der kaldes “AI-hallucinationer”, har været en betydelig barriere for virksomheder, der overvejer at integrere LLM’er på grund af de indbyggede risici for økonomiske, reputationsmæssige og endda juridiske konsekvenser.

For at imødekomme denne afgørende bekymring har Vianai Systems, en frontløber inden for enterprise Human-Centered AI, afsløret sin nye tilbud: veryLLM-værktøjet. Dette open-source-værktøj er designet til at sikre mere pålidelige, gennemsigtige og transformative AI-systemer til virksomhedsbrug.

Udfordringen med AI-hallucinationer

Disse hallucinationer, der får LLM’er til at generere falsk eller stødende indhold, har været et vedvarende problem. Mange virksomheder, der frygter potentielle konsekvenser, har holdt sig tilbage fra at integrere LLM’er i deres centrale virksomhedssystemer. Men med introduktionen af veryLLM under Apache 2.0 open-source-licensen håber Vianai at opbygge tillid og fremme AI-adopteringsgraden ved at tilbyde en løsning på disse problemer.

At pakke veryLLM-værktøjet ud

Værktøjet tillader en dybere forståelse af hver LLM-genereret sætning. Det opnås gennem forskellige funktioner, der kategoriserer udsagn baseret på kontekst-puller, LLM’er er trænet på, såsom Wikipedia, Common Crawl og Books3. Med den første udgave af veryLLM, der stærkt afhænger af en udvalgt række Wikipedia-artikler, sikrer denne metode en solid grund for værkets verificeringsprocedure.

Værktøjet er designet til at være adaptivt, modulært og kompatibelt med alle LLM’er, hvilket faciliterer dets brug i enhver applikation, der anvender LLM’er. Dette vil forbedre gennemsigtigheden i AI-genererede svar og understøtte både nuværende og kommende sprogmodeller.

Dr. Vishal Sikka, grundlægger og administrerende direktør for Vianai Systems og også rådgiver for Stanford University’s Center for Human-Centered Artificial Intelligence, understregede alvoren af AI-hallucinationsproblemet. Han sagde: “AI-hallucinationer udgør alvorlige risici for virksomheder, hvilket holder dem tilbage fra at adoptere AI. Som studerende af AI i mange år er det også blot velkendt, at vi ikke kan tillade, at disse kraftfulde systemer er uigennemsigtige om grundlaget for deres outputs, og vi må løse dette med det samme. Vores veryLLM-bibliotek er et lille første skridt til at bringe gennemsigtighed og tillid til outputtet af enhver LLM – gennemsigtighed, som enhver udvikler, datavidenskabsmand eller LLM-leverandør kan bruge i deres AI-applikationer. Vi er begejstrede for at bringe disse funktioner og mange andre anti-hallucinations-teknikker til virksomheder verden over, og jeg tror, det er derfor, vi oplever en hidtil uset adoption af vores løsninger.”

At integrere veryLLM i hila™ Enterprise

hila™ Enterprise, et andet stjerneprodukt fra Vianai, fokuserer på den nøjagtige og gennemsigtige implementering af betydelige sprogvirksomhedsløsninger på tværs af sektorer som finans, kontrakter og ret. Denne platform integrerer veryLLM-koden sammen med andre avancerede AI-teknikker for at minimere AI-relaterede risici, så virksomheder kan fuldt ud udnytte den transformative kraft af pålidelige AI-systemer.

En nærmere kig på Vianai Systems

Vianai Systems står som en pioner inden for Human-Centered AI. Virksomheden har en kundeportefølje, der består af nogle af verdens mest anerkendte virksomheder. Teamets unikke kompetence i udvikling af virksomhedsplatforme og innovative applikationer adskiller dem. De er også heldige at have støtte fra nogle af verdens mest visionære investorer. i området Human-Centered AI. Virksomheden har en kundeportefølje, der består af nogle af verdens mest anerkendte virksomheder. Teamets unikke kompetence i udvikling af virksomhedsplatforme og innovative applikationer adskiller dem. De er også heldige at have støtte fra nogle af verdens mest visionære investorer.