Vianain uusi avoimen lähdekoodin ratkaisu käsittelee AI:n hallucinaatioprobleeman

EI ole salaisuus, että tekoäly, erityisesti suuret kielen mallit (LLM), voivat toisinaan tuottaa epätarkkoja tai jopa haitallisia tuloksia. Nämä anomaliat on kutsuttu “AI-hallusinaatioiksi”, ja ne ovat olleet merkittävä este yrityksille, jotka harkitsevat LLM-integrointia johtuen sisäänrakennetuista riskeistä, kuten taloudellisista, maineeseen liittyvistä ja jopa oikeudellisista seuraamuksista.

Vastatakseen tähän ratkaisevaan huolenaiheeseen, Vianai Systems, joka on edelläkävijä yritysten Ihmiskeskeisessä tekoälyssä, esitteli uuden tarjontansa: veryLLM-työkalupakin. Tämä avoimen lähdekoodin työkalupakki on tarkoitettu varmistamaan luotettavammat, avoimemmat ja muodonmuuttavammat tekoälyjärjestelmät liiketoiminnan käyttöön.

AI-hallusinaatioiden haaste

Nämä hallusinaatiot, joissa LLM:t tuottavat väärää tai loukkaavaa sisältöä, ovat olleet pysyvä ongelma. Monet yritykset, peläten mahdollisia seuraamuksia, ovat karttaneet LLM:ien sisällyttämistä keskeisiin yritysjärjestelmiinsä. Kuitenkin veryLLM:n julkaisemisen myötä Apache 2.0 -avoin lähdekoodi -lisenssin alla, Vianai toivoo rakentavansa luottamusta ja edistävänsä tekoälyn omaksumista tarjoamalla ratkaisun näihin ongelmiin.

VeryLLM-työkalupakin purku

Sen ytimessä veryLLM-työkalupakki mahdollistaa syvemmän ymmärryksen kustakin LLM:n tuottamasta lauseesta. Se saavutetaan erilaisin toimin, jotka luokittelevat lauseet kontekstipohjaisesti, joita LLM:t on koulutettu, kuten Wikipedia, Common Crawl ja Kirjat3. VeryLLM:n aloittavan julkaisun riippuessa vahvasti valikosta Wikipedia-artikkeleista, tämä menetelmä takaa vankkan pohjan työkalupakin vahvistusmenettelylle.

Työkalupakki on suunniteltu sopeutuvaksi, modulaariseksi ja yhteensopivaksi kaikkien LLM:ien kanssa, helpottaen sen käyttöä missä tahansa sovelluksessa, joka hyödyntää LLM:ei. Tämä parantaa avoimuutta tekoälyllisesti tuotetuissa vastauksissa ja tukee sekä nykyisiä että tulevia kielimalleja.

Dr. Vishal Sikka, Vianai Systemsin perustaja ja toimitusjohtaja, ja myös Stanfordin yliopiston Center for Human-Centered Artificial Intelligence -neuvonantaja, korosti AI-hallusinaatioiden vakavuutta. Hän sanoi: “AI-hallusinaatiot aiheuttavat vakavia riskejä yrityksille, jarruttaen heidän tekoälyn omaksumistaan. Tekoälyn opiskelijana useita vuosia, tiedän, ettei voida sallia näiden voimakkaiden järjestelmien olla epäselviä tulostensa perusteista, ja meidän on pakko ratkaista tämä ongelma. VeryLLM-kirjastomme on pieni ensimmäinen askel tekoälyllisten järjestelmien tulosten avoimuuden ja luotettavuuden parantamiseksi – avoimuus, jonka kuka tahansa kehittäjä, data-tieteilijä tai LLM-toimittaja voi käyttää tekoälysovelluksissaan. Olemme innoissamme tuomaan nämä ominaisuudet ja monet muut anti-hallusinaatiotekniikat yrityksille ympäri maailmaa, ja uskon, että tämä on syynä, miksi näemme ennennäkemätöntä hyväksymistä ratkaisuistemme keskuudessa.”

VeryLLM:n sisällyttäminen hila™ Enterpriseen

hila™ Enterprise, toinen loistava tuote Vianailta, keskittyy tarkkaan ja avoimeen kielen ratkaisujen käyttöönottoon eri aloilla, kuten rahoituksessa, sopimuksissa ja oikeudellisissa asioissa. Tämä alusta integroi veryLLM-koodin yhdessä muiden edistyneiden tekoälytekniikoiden kanssa minimoidakseen tekoälyyn liittyvät riskit, jotta yritykset voivat täysimääräisesti hyödyntää luotettavien tekoälyjärjestelmien muodonmuuttavaa voimaa.

Lähemmin Vianai Systemsiä

Vianai Systems on edelläkävijä Ihmiskeskeisen tekoälyn alalla. Yrityksen asiakaskunta koostuu maailman arvostetuimmista yrityksistä. Heidän tiiminsä vaatimaton taituruus yritysten alustojen ja innovatiivisten sovellusten luomisessa erottaa heidät. Heillä on myös tukena jotkut maailman näkemyksellisimmät sijoittajat.