Nová otevřená řešení Vianai řeší problém halucinací AI

Nejde o žádné tajemství, že umělá inteligence, zejména velké jazykové modely (LLM), mohou občas produkovat nepřesné nebo dokonce potenciálně škodlivé výstupy. Tyto anomálie byly významnou překážkou pro podniky, které zvažují integraci LLM, kvůli vnitřním rizikům finančních, reputačních a dokonce i právních důsledků.

Při řešení této zásadní obavy Vianai Systems, přední hráč v oblasti podnikové Human-Centered AI, představil novou nabídku: nástroj veryLLM. Tento otevřený nástroj je zaměřen na zajištění více spolehlivých, transparentních a transformačních AI systémů pro podnikové použití.

Výzva halucinací AI

Takové halucinace, které vedou k tomu, že LLM generují falešný nebo urážlivý obsah, byly trvalým problémem. Mnoho společností, obávajících se potenciálních následků, se zdráhalo zahrnout LLM do svých centrálních podnikových systémů. Nicméně, s představením veryLLM pod otevřenou licencí Apache 2.0, Vianai doufá, že bude budovat důvěru a podporovat přijetí AI, poskytujíc řešení těchto problémů.

Rozbalení nástroje veryLLM

V jádru nástroj veryLLM umožňuje hlubší pochopení každé LLM-generované věty. Toho dosahuje prostřednictvím různých funkcí, které kategorizují prohlášení na základě kontextových bazénů LLM, jako je Wikipedia, Common Crawl a knihy. S úvodním vydáním veryLLM silně závislým na výběru článků z Wikipedie, tato metoda zajišťuje pevný základ pro ověřovací postup nástroje.

Nástroj je navržen tak, aby byl adaptivní, modulární a kompatibilní se všemi LLM, usnadňujíc jeho použití v jakékoli aplikaci, která využívá LLM. To zvýší transparentnost AI-generovaných odpovědí a podpoří současné i budoucí jazykové modely.

Dr. Vishal Sikka, zakladatel a generální ředitel Vianai Systems a také poradce Stanfordovy univerzity pro Human-Centered Artificial Intelligence, zdůraznil závažnost problému halucinací AI. Řekl: “Halucinace AI představují vážná rizika pro podniky, brzdící jejich přijetí AI. Jako student AI po mnoho let je také známo, že nemůžeme dovolit, aby tyto mocné systémy byly neprůhledné o základně svých výstupů, a musíme naléhavě vyřešit tento problém. Naše knihovna veryLLM je malý první krok k tomu, aby se přinesla transparentnost a důvěra k výstupům libovolného LLM – transparentnost, kterou může použít jakýkoli vývojář, datový vědec nebo poskytovatel LLM ve svých AI aplikacích. Jsme nadšeni, že přinášíme tyto schopnosti a mnoho dalších anti-halucinačních technik podnikům po celém světě, a věřím, že je to důvod, proč vidíme bezprecedentní přijetí našich řešení.”

Integrace veryLLM do hila™ Enterprise

hila™ Enterprise, další vynikající produkt od Vianai, se zaměřuje na přesné a transparentní nasazení rozsáhlých jazykových řešení pro podniky v sektorech, jako je finance, smlouvy a právo. Tato platforma integruje kód veryLLM, kombinovaný s dalšími pokročilými AI technikami, aby minimalizovala rizika spojená s AI, umožňujíc podnikům plně využít transformační sílu spolehlivých AI systémů.

Přibližný pohled na Vianai Systems

Vianai Systems stojí jako průkopník v oblasti Human-Centered AI. Společnost má klientelu složenou z některých z nejuznávanějších podniků na světě. Tým Vianai má nevídanou odbornost v tvorbě podnikových platforem a inovativních aplikací, což je odlišuje. Mají také štěstí, že mají podporu některých z nejvizionářštějších investorů na světě.