Vianai’s New Open-Source Solution Tackles AI’s Hallucination Problem

To není žádným tajemstvím, že AI, zejména Large Language Models (LLMs), mohou občas produkovat nepřesné nebo dokonce potenciálně škodlivé výstupy. Tyto anomálie, nazývané “AI hallucinations”, představovaly významnou překážku pro podniky, které zvažují integraci LLM, kvůli vnitřním rizikům finančních, reputačních a dokonce i právních důsledků.

Při řešení této zásadní otázky Vianai Systems, přední hráč v oblasti Human-Centered AI, představil svou novou nabídku: toolkit veryLLM. Tento open-source toolkit je zaměřen na zajištění spolehlivějších, transparentnějších a transformačních AI systémů pro podnikové použití.

Problém AI Hallucinations

Tyto hallucinations, při kterých LLM generují falešný nebo urážlivý obsah, představovaly trvalý problém. Mnoho společností, obávajících se potenciálních dopadů, se drželo zpět od začleňování LLM do svých centrálních podnikových systémů. Nicméně, s představením veryLLM pod open-source licencí Apache 2.0, Vianai doufá, že bude budovat důvěru a podporovat přijetí AI, poskytujíc řešení pro tyto problémy.

Detailní pohled na veryLLM Toolkit

Ve své podstatě veryLLM toolkit umožňuje hlubší pochopení každé LLM-generované věty. Toho dosahuje prostřednictvím různých funkcí, které kategorizují výroky na základě kontextových bazénů, na kterých jsou LLM trénovány, jako je Wikipedia, Common Crawl a Books3. S úvodním vydáním veryLLM, které silně závisí na výběru článků z Wikipedie, tato metoda zajišťuje pevný základ pro verifikační proceduru toolkitu.

Toolkit je navržen tak, aby byl adaptivní, modulární a kompatibilní se všemi LLM, usnadňující jeho použití v jakékoli aplikaci, která využívá LLM. To zvýší transparentnost AI-generovaných odpovědí a podpoří současné i budoucí jazykové modely.

Dr. Vishal Sikka, zakladatel a CEO Vianai Systems a také poradce Stanford University’s Center for Human-Centered Artificial Intelligence, zdůraznil závažnost problému AI hallucinations. Řekl: “AI hallucinations představují vážná rizika pro podniky, brzdící jejich přijetí AI. Jako student AI po mnoho let je také známo, že nemůžeme dovolit, aby tyto mocné systémy byly neprůhledné o základu svých výstupů, a musíme naléhavě řešit tento problém. Naše knihovna veryLLM je malý první krok k přinesení transparentnosti a důvěryhodnosti do výstupů libovolného LLM – transparentnosti, kterou může použít jakýkoli vývojář, data scientist nebo poskytovatel LLM ve svých AI aplikacích. Jsme nadšeni, že přinášíme tyto schopnosti a mnoho dalších anti-hallucinačních technik podnikům po celém světě, a věřím, že je to důvod, proč vidíme bezprecedentní přijetí našich řešení.”

Integrace veryLLM do hila™ Enterprise

hila™ Enterprise, další vynikající produkt od Vianai, se zaměřuje na přesné a transparentní nasazení rozsáhlých jazykových podnikových řešení napříč sektory, jako je finance, smlouvy a právo. Tato platforma integruje kód veryLLM, spojený s dalšími pokročilými AI technikami, aby minimalizovala rizika spojená s AI, umožňující podnikům plně využít transformační sílu spolehlivých AI systémů.

Příběh Vianai Systems

Vianai Systems stojí jako průkopník v oblasti Human-Centered AI. Společnost má klientelu, která zahrnuje některé z nejuznávanějších podniků na světě. Nepřekonatelná odbornost jejich týmu při vytváření podnikových platforem a inovativních aplikací je výjimečná. Mají také podporu některých z nejvizionářštějších investorů na světě.