Nowe otwarte rozwiązanie Vianai rozwiązuje problem hallucynacji AI

Nie jest żadnym sekretem, że AI, a w szczególności Large Language Models (LLM), mogą czasami generować niedokładne lub nawet potencjalnie szkodliwe dane wyjściowe. Określa się je jako “hallucynacje AI”, te anomalie były znaczącą barierą dla przedsiębiorstw rozważających integrację LLM ze względu na wrodzone ryzyka finansowe, reputacyjne i nawet prawne konsekwencje.

Adresując ten przełomowy problem, Vianai Systems, pionier w dziedzinie Human-Centered AI, przedstawił swoje nowe rozwiązanie: narzędzie veryLLM. To otwarte rozwiązanie jest skierowane do zapewnienia bardziej niezawodnych, przejrzystych i transformacyjnych systemów AI dla użytku biznesowego.

Wyzwanie hallucynacji AI

Takie hallucynacje, które powodują, że LLM generują fałszywe lub obraźliwe treści, były uporczywym problemem. Wiele firm, obawiając się potencjalnych konsekwencji, wycofało się z włączania LLM do centralnych systemów przedsiębiorstwa. Jednak z wprowadzeniem veryLLM na mocy licencji open-source Apache 2.0, Vianai liczy na budowanie zaufania i promowanie adopcji AI, dostarczając rozwiązanie tych problemów.

Analiza narzędzia veryLLM

W swojej istocie, narzędzie veryLLM pozwala na głębsze zrozumienie każdego zdania wygenerowanego przez LLM. Osiąga to poprzez różne funkcje, które kategoryzują oświadczenia na podstawie pul kontekstowych, na których LLM są szkolone, takich jak Wikipedia, Common Crawl i Książki3. Z inauguracyjnym wydaniem veryLLM, które opiera się na wybranej kolekcji artykułów z Wikipedii, ta metoda zapewnia solidne podstawy dla procedury weryfikacji narzędzia.

Narzędzie jest zaprojektowane, aby być adaptacyjne, modułowe i kompatybilne ze wszystkimi LLM, ułatwiając jego użycie w każdej aplikacji, która wykorzystuje LLM. To zwiększy przejrzystość odpowiedzi generowanych przez AI i wesprze zarówno obecne, jak i nadchodzące modele językowe.

Dr. Vishal Sikka, założyciel i dyrektor generalny Vianai Systems oraz doradca w Stanford University’s Center for Human-Centered Artificial Intelligence, podkreślił wagę problemu hallucynacji AI. Powiedział: “Hallucynacje AI stanowią poważne ryzyko dla przedsiębiorstw, utrudniając ich adopcję AI. Jako student AI przez wiele lat, jest również powszechnie wiadome, że nie możemy pozwolić, aby te potężne systemy były nieprzejrzyste co do podstawy ich danych wyjściowych, i musimy pilnie rozwiązać ten problem. Nasza biblioteka veryLLM jest małym pierwszym krokiem, aby przynieść przejrzystość i zaufanie do danych wyjściowych każdego LLM – przejrzystość, której może użyć każdy deweloper, naukowiec danych lub dostawca LLM w swoich aplikacjach AI. Jesteśmy podekscytowani, że możemy wprowadzić te możliwości, oraz wiele innych technik przeciwhallucynacyjnych, do przedsiębiorstw na całym świecie, i wierzę, że to jest powodem, dla którego widzimy bezprecedensową adopcję naszych rozwiązań.”

Włączanie veryLLM w hila™ Enterprise

hila™ Enterprise, kolejny wybitny produkt z Vianai, koncentruje się na dokładnym i przejrzystym wdrożeniu istotnych rozwiązań językowych dla przedsiębiorstw w sektorach takich jak finanse, umowy i prawo. Ta platforma integruje kod veryLLM, połączony z innymi zaawansowanymi technikami AI, aby zminimalizować ryzyko związane z AI, umożliwiając firmom w pełni wykorzystać transformacyjną moc niezawodnych systemów AI.

Szerzej o Vianai Systems

Vianai Systems stoi wysoko jako pionier w dziedzinie Human-Centered AI. Firma posiada klientelę składającą się z niektórych z najbardziej szanowanych firm na świecie. Niezrównana umiejętność ich zespołu w tworzeniu platform przedsiębiorstw i innowacyjnych aplikacji wyróżnia ich. Mają również szczęście mieć wsparcie niektórych z najbardziej wizjonerskich inwestorów na świecie.