Vianais nya öppen källkods lösning för att tackla AI:s hallucinationsproblem

Det är ingen hemlighet att AI, särskilt Stora språkmodeller (LLM), kan ibland producera felaktiga eller till och med potentiellt skadliga utdata. Dessa anomalierna, som kallas “AI-hallucinationer”, har varit ett betydande hinder för företag som överväger att integrera LLM på grund av de inbyggda riskerna för ekonomiska, ryktesmässiga och till och med rättsliga konsekvenser.

För att tackla denna avgörande fråga har Vianai Systems, en föregångare inom företagsinriktad Human-Centered AI, presenterat sin nya lösning: veryLLM-verktyget. Detta öppna källkodsverktyg syftar till att säkerställa mer tillförlitliga, transparenta och omvandlande AI-system för affärsbruk.

Utmaningen med AI-hallucinationer

Sådana hallucinationer, som ser LLM generera falskt eller stötande innehåll, har varit ett varaktigt problem. Många företag, som fruktar möjliga konsekvenser, har dragit sig för att integrera LLM i sina centrala företagssystem. Men med introduktionen av veryLLM under Apache 2.0-öppen källkodslicens hoppas Vianai på att bygga förtroende och främja AI-antagande genom att tillhandahålla en lösning på dessa problem.

Att packa upp veryLLM-verktyget

Till sin kärna tillåter veryLLM-verktyget en djupare förståelse av varje LLM-genererad mening. Det uppnår detta genom olika funktioner som kategoriserar uttalanden baserat på kontextpooler som LLM tränas på, såsom Wikipedia, Common Crawl och Böcker3. Med den första utgåvan av veryLLM som till stor del förlitar sig på ett urval av Wikipedia-artiklar säkerställer denna metod en solid grund för verktygets verifikationsförfarande.

Verktyget är utformat för att vara anpassningsbart, modulärt och kompatibelt med alla LLM, vilket underlättar dess användning i alla tillämpningar som använder LLM. Detta kommer att förbättra transparensen i AI-genererade svar och stödja både nuvarande och kommande språkmodeller.

Dr. Vishal Sikka, grundare och VD för Vianai Systems och även rådgivare till Stanford Universitys Center for Human-Centered Artificial Intelligence, betonade allvaret i AI-hallucinationsproblemet. Han sa: “AI-hallucinationer utgör allvarliga risker för företag, som hindrar deras antagande av AI. Som student av AI under många år är det också väl känt att vi inte kan tillåta att dessa kraftfulla system är ogenomskinliga om grunderna för deras utdata, och vi måste lösa detta brådskande. Vår veryLLM-bibliotek är ett litet första steg för att bringa transparens och förtroende till utdata från alla LLM – transparens som varje utvecklare, data scientist eller LLM-leverantör kan använda i sina AI-tillämpningar. Vi är glada att bringa dessa funktioner, och många andra anti-hallucinations-tekniker, till företag över hela världen, och jag tror att detta är varför vi ser en utan motstycke antagande av våra lösningar.”

Att integrera veryLLM i hila™ Enterprise

hila™ Enterprise, ett annat lysande produkt från Vianai, fokuserar på den precisa och transparenta distributionen av betydande språk företagslösningar över sektorer som finans, kontrakt och juridik. Denna plattform integrerar veryLLM-koden, kombinerad med andra avancerade AI-tekniker, för att minimera AI-relaterade risker, vilket tillåter företag att fullt ut nyttja den omvandlande kraften i tillförlitliga AI-system.

En närmare titt på Vianai Systems

Vianai Systems står som en pionjär inom området Human-Centered AI. Företaget har en kundkrets som består av några av världens mest ansedda företag. Teamets unika kompetens inom utveckling av företagsplattformar och innovativa tillämpningar särskiljer dem. De är också lyckosamma att ha stöd av några av de mest visionära investerarna globalt, i området Human-Centered AI. Företaget är stolt över sin klientbas som består av några av världens mest ansedda företag. Deras teams unika kompetens inom utveckling av företagsplattformar och innovativa tillämpningar särskiljer dem. De är också lyckosamma att ha stöd av några av de mest visionära investerarna globalt.