Nowe otwarte rozwiązanie Vianai rozwiązuje problem halucynacji AI

Nie jest żadnym sekretem, że sztuczna inteligencja, a w szczególności duże modele językowe (LLM), mogą czasami generować niedokładne lub nawet potencjalnie szkodliwe dane wyjściowe. Określa się je jako “halucynacje AI”, a te anomalie stanowiły znaczącą barierę dla przedsiębiorstw rozważających integrację LLM ze względu na niebezpieczeństwa finansowe, reputacyjne i nawet prawne.

W odpowiedzi na ten kluczowy problem, Vianai Systems, pionier w dziedzinie Human-Centered AI, przedstawił nową ofertę: narzędzie veryLLM. To otwarte narzędzie ma na celu zapewnienie bardziej niezawodnych, przejrzystych i transformacyjnych systemów AI dla użytku biznesowego.

Wyzwanie halucynacji AI

Takie halucynacje, które powodują, że LLM generują fałszywe lub obraźliwe treści, były stałym problemem. Wiele firm, obawiając się potencjalnych konsekwencji, wycofało się z integracji LLM z ich centralnymi systemami przedsiębiorstwa. Jednakże, dzięki wprowadzeniu veryLLM, na licencji open-source Apache 2.0, Vianai Systems liczy na zbudowanie zaufania i promowanie przyjęcia AI, dostarczając rozwiązanie tych problemów.

Rozpakowanie narzędzia veryLLM

W swojej istocie, narzędzie veryLLM pozwala na głębsze zrozumienie każdego zdania wygenerowanego przez LLM. Osiąga to poprzez różne funkcje, które kategoryzują oświadczenia na podstawie pul kontekstowych, na których LLM są szkolone, takich jak Wikipedia, Common Crawl i Książki3. Z uwzględnieniem inauguracyjnego wydania veryLLM, które opiera się na wybranej grupie artykułów z Wikipedii, ta metoda zapewnia solidne podstawy dla procedury weryfikacji narzędzia.

Narzędzie zostało zaprojektowane, aby być adaptacyjne, modułowe i kompatybilne ze wszystkimi LLM, ułatwiając jego użycie w każdej aplikacji, która wykorzystuje LLM. To zwiększy przejrzystość odpowiedzi generowanych przez AI i wesprze zarówno obecne, jak i przyszłe modele językowe.

Dr Vishal Sikka, założyciel i dyrektor generalny Vianai Systems oraz doradca Centrum Sztucznej Inteligencji Skoncentrowanej na Człowieku na Uniwersytecie Stanforda, podkreślił wagę problemu halucynacji AI. Powiedział: “Halucynacje AI stanowią poważne ryzyko dla przedsiębiorstw, powstrzymując ich od przyjęcia AI. Jako student AI przez wiele lat, wiadomo również, że nie możemy pozwolić, aby te potężne systemy były nieprzejrzyste co do podstawy ich danych wyjściowych, i musimy pilnie rozwiązać ten problem. Nasza biblioteka veryLLM jest małym pierwszym krokiem, aby przynieść przejrzystość i zaufanie do danych wyjściowych każdego LLM – przejrzystość, której może użyć każdy deweloper, naukowiec danych lub dostawca LLM w swoich aplikacjach AI. Jesteśmy podekscytowani, aby przynieść te możliwości, a także wiele innych technik przeciwhalucynacyjnych, przedsiębiorstwom na całym świecie, i wierzę, że to jest powód, dla którego widzimy bezprecedensowe przyjęcie naszych rozwiązań.”

Włączanie veryLLM do hila™ Enterprise

hila™ Enterprise, kolejny wybitny produkt Vianai, koncentruje się na dokładnym i przejrzystym wdrożeniu znaczących rozwiązań językowych dla przedsiębiorstw w sektorach takich jak finanse, umowy i prawo. Ta platforma integruje kod veryLLM, połączony z innymi zaawansowanymi technikami AI, aby zminimalizować ryzyko związane z AI, pozwalając firmom w pełni wykorzystać transformacyjną moc niezawodnych systemów AI.

Szczegółowy ogląd Vianai Systems

Vianai Systems stoi jako pionier w dziedzinie Human-Centered AI. Firma posiada klientelę składającą się z niektórych z najbardziej szanowanych firm na świecie. Niezrównana zdolność ich zespołu do tworzenia platform przedsiębiorstw i innowacyjnych aplikacji wyróżnia ich. Mają również szczęście, mając wsparcie niektórych z najbardziej wizjonerskich inwestorów na świecie. w dziedzinie Human-Centered AI. Firma posiada klientelę składającą się z niektórych z najbardziej szanowanych firm na świecie. Ich zespół posiada niezrównaną zdolność do tworzenia platform przedsiębiorstw i innowacyjnych aplikacji, co wyróżnia ich. Mają również szczęście, mając wsparcie niektórych z najbardziej wizjonerskich inwestorów na świecie.