Vianais nye åpne kildekode-løsning takler AI-hallusinasjonsproblemet

Det er ingen hemmelighet at AI, spesielt Store språkmodeller (LLM), kan av og til produsere uriktige eller til og med potensielt skadelige utdata. Disse anomaliene, som kalles “AI-hallusinasjoner”, har vært en betydelig hindring for bedrifter som vurdere å integrere LLM på grunn av de innebygde risikoene for økonomiske, omdømmesskader og til og med juridiske konsekvenser.

For å møte denne avgjørende bekymringen, har Vianai Systems, en frontløper i Human-Centered AI, lansert sin nye tilbud: veryLLM-verktøyet. Dette åpne kildekode-verktøyet er designet for å sikre mer pålitelige, transparente og transformative AI-systemer for bedriftsbruk.

Utfordringen med AI-hallusinasjoner

Slike hallusinasjoner, som ser LLM generere falske eller offensive innhold, har vært et vedvarende problem. Mange bedrifter, som frykter potensielle konsekvenser, har holdt seg tilbake fra å integrere LLM i sine sentrale bedriftssystemer. Men med introduksjonen av veryLLM under Apache 2.0 åpne kildekode-lisensen, håper Vianai å bygge tillit og fremme AI-adoptsjon ved å tilby en løsning på disse problemene.

Å pakke ut veryLLM-verktøyet

I kjernen tillater veryLLM-verktøyet en dypere forståelse av hver LLM-generert setning. Det oppnås gjennom ulike funksjoner som kategoriserer uttalelser basert på kontekst-pooler LLM er trent på, som Wikipedia, Common Crawl og Bøker3. Med den innledende utgaven av veryLLM som sterkt avhenger av en seleksjon av Wikipedia-artikler, sikrer denne metoden en solid grunn for verktøkets verifiseringsprosess.

Verktøyet er designet for å være adaptivt, modulært og kompatibelt med alle LLM, og det lett å bruke i enhver applikasjon som utnytter LLM. Dette vil forbedre transparensen i AI-genererte svar og støtte både nåværende og fremtidige språkmodeller.

Dr. Vishal Sikka, grunnlegger og CEO av Vianai Systems og også rådgiver for Stanford Universitys Center for Human-Centered Artificial Intelligence, understreket alvoret av AI-hallusinasjonsproblemet. Han sa: “AI-hallusinasjoner utgjør alvorlige risikoer for bedrifter, og holder tilbake deres AI-adoptsjon. Som en student av AI i mange år, er det også bare godt kjent at vi ikke kan tillate disse kraftfulle systemene å være uklare om grunnlaget for deres utdata, og vi må løse dette急. Vår veryLLM-bibliotek er et lite første skritt for å bringe transparens og tillit til utdataene fra enhver LLM – transparens som enhver utvikler, data-vitenskapsmann eller LLM-leverandør kan bruke i sine AI-applikasjoner. Vi er spente på å bringe disse evnene, og mange andre anti-hallusinasjonsteknikker, til bedrifter over hele verden, og jeg tror dette er hvorfor vi ser en utenkelig AI-adoptsjon av våre løsninger.”

Å inkorporere veryLLM i hila™ Enterprise

hila™ Enterprise, et annet stjerneprodukt fra Vianai, fokuserer på nøyaktig og transparent utrulling av betydelige språkbedriftsløsninger over sektorer som finansielle, kontrakter og juridiske. Denne plattformen integrerer veryLLM-koden, kombinert med andre avanserte AI-teknikker, for å minimere AI-assosierte risikoer, og lar bedrifter fullt ut nyte den transformative kraften av pålitelige AI-systemer.

En nærmere titt på Vianai Systems

Vianai Systems står som en pionér i området Human-Centered AI. Bedriften har en kundeportefølje som består av noen av verdens mest anerkjente bedrifter. Deres teams unike evner til å lage bedriftsplattformer og innovative applikasjoner setter dem aparte. De er også heldige å ha støtten fra noen av verdens mest visjonære investorer.