Noua soluție open-source a Vianai abordează problema de “halucinație” a IA

Nu este un secret că IA, în special Modelele de limbaj mari (LLM), pot produce uneori ieșiri inexacte sau chiar potențial dăunătoare. Denumite “halucinații ale IA”, aceste anomalii au fost o barieră semnificativă pentru întreprinderile care contemplează integrarea LLM, din cauza riscurilor inerente de natură financiară, reputațională și chiar legală.

Abordând această preocupare crucială, Vianai Systems, un lider în domeniul Inteligenței Artificiale centrate pe om, a lansat o nouă ofertă: kit-ul de instrumente veryLLM. Acest kit de instrumente open-source are scopul de a asigura sisteme de IA mai fiabile, transparente și transformaționale pentru uz comercial.

Provocarea halucinațiilor IA

Aceste halucinații, care determină LLM-urile să genereze conținut fals sau ofensator, au fost o problemă persistentă. Multe companii, temându-se de eventualele consecințe, s-au ferit să integreze LLM-urile în sistemele lor enterprise centrale. Cu toate acestea, odată cu lansarea veryLLM, sub licența open-source Apache 2.0, Vianai speră să construiască încredere și să promoveze adoptarea IA, oferind o soluție pentru aceste probleme.

Prezentarea kit-ului de instrumente veryLLM

În esență, kit-ul de instrumente veryLLM permite o înțelegere mai profundă a fiecărui propoziții generate de LLM. Acesta realizează acest lucru prin diverse funcții care clasifică afirmațiile pe baza bazelor de date de context pe care LLM-urile sunt antrenate, cum ar fi Wikipedia, Common Crawl și Books3. Cu lansarea inaugurală a veryLLM, care se bazează puternic pe o selecție de articole Wikipedia, această metodă asigură o bază solidă pentru procedura de verificare a kit-ului de instrumente.

Kit-ul de instrumente este proiectat pentru a fi adaptabil, modular și compatibil cu toate LLM-urile, facilitând utilizarea sa în orice aplicație care utilizează LLM-urile. Acesta va îmbunătăți transparența în răspunsurile generate de IA și va sprijini atât modelele de limbaj actuale, cât și pe cele viitoare.

Dr. Vishal Sikka, Fondator și CEO al Vianai Systems și, de asemenea, consilier al Centrului pentru Inteligență Artificială centrată pe om de la Universitatea Stanford, a subliniat gravitatea problemei halucinațiilor IA. El a spus: “Halucinațiile IA reprezintă riscuri serioase pentru întreprinderi, împiedicând adoptarea IA. Ca student al IA de mulți ani, este bine cunoscut că nu putem permite acestor sisteme puternice să fie opace cu privire la baza ieșirilor lor, și trebuie să rezolvăm urgent această problemă. Biblioteca noastră veryLLM este un prim pas mic pentru a aduce transparență și încredere în ieșirile oricărui LLM – transparență pe care orice dezvoltator, specialist în știința datelor sau furnizor de LLM o poate utiliza în aplicațiile sale de IA. Suntem încântați să aducem aceste capacități, și multe alte tehnici anti-halucinație, întreprinderilor din întreaga lume, și cred că acesta este motivul pentru care vedem o adoptare fără precedent a soluțiilor noastre.”

Integrarea veryLLM în hila™ Enterprise

hila™ Enterprise, un alt produs deosebit de la Vianai, se concentrează pe implementarea precisă și transparentă a soluțiilor de limbaj enterprise pe scară largă, în sectoare precum finanțe, contracte și juridic. Această platformă integrează codul veryLLM, combinat cu alte tehnici avansate de IA, pentru a minimiza riscurile asociate IA, permițând companiilor să valorifice pe deplin puterea transformațională a sistemelor de IA fiabile.

O privire mai atentă asupra Vianai Systems

Vianai Systems se remarca ca o pionieră în domeniul Inteligenței Artificiale centrate pe om. Compania are o clientelă care include unele dintre cele mai prestigioase afaceri din lume. Echipa lor are o experiență deosebită în crearea de platforme enterprise și aplicații inovatoare, ceea ce le diferențiază. De asemenea, au sprijinul unor investitori vizionari din întreaga lume.