Är RAG:er lösningen på AI-hallucinationer?

AI är, som det är utformat, “sin egen” entitet. En nackdel med detta är att generativa AI-modeller ibland fabricerar information i ett fenomen som kallas “AI-hallucinationer”, ett av de tidigaste exemplen på detta var när en domare i New York kritiserade advokater för att ha använt en ChatGPT-skriven rättegångsskrivelse som hänvisade till icke-existerande rättsfall. Mer nyligen har det funnits incidenter där AI-genererade sökmotorer har sagt till användare att konsumera stenar för hälsoskäl, eller att använda icke-toxisk lim för att hjälpa ost fastna på pizza.

Såsom GenAI blir alltmer utbrett, är det viktigt för användare att inse att hallucinationer, för närvarande, är en oundviklig aspekt av GenAI-lösningar. Byggda på stora språkmodeller (LLM), är dessa lösningar ofta informerade av stora mängder disparata källor som sannolikt innehåller minst någon felaktig eller föråldrad information – dessa fabricerade svar utgör mellan 3% och 10% av AI-chattbotsvar på användarfrågor. I ljuset av AI:s “svarta låda“-natur – där vi som människor har extremt svårt att undersöka exakt hur AI genererar sina resultat – kan dessa hallucinationer vara nästan omöjliga för utvecklare att spåra och förstå.

Om de är oundvikliga eller inte, är AI-hallucinationer frustrerande som bäst, farliga och oetiska som sämst.

Över flera sektorer, inklusive hälsovård, finans och allmän säkerhet, inkluderar konsekvenserna av hallucinationer allt från spridning av felaktig information och kompromettering av känsliga data till och med livshotande misstag. Om hallucinationer fortsätter att vara okontrollerade, kommer både användarnas välbefinnande och det sociala förtroendet för AI-system att komprometteras.

Såsom det är, är det av största vikt att de som ansvarar för denna kraftfulla teknik erkänner och hanterar riskerna med AI-hallucinationer för att säkerställa trovärdigheten hos LLM-genererade utdata.

RAG:er som en utgångspunkt för att lösa hallucinationer

En metod som har kommit till framträdande i att mildra hallucinationer är retrieval-augmented generation, eller RAG. Denna lösning förbättrar LLM-tillförlitligheten genom integration av externa informationsbutiker – extraherar relevant information från en tillförlitlig databas vald enligt frågans natur – för att säkerställa mer tillförlitliga svar på specifika frågor.

Vissa bransch experter har hävdat att RAG ensam kan lösa hallucinationer. Men RAG-integrerade databaser kan fortfarande innehålla föråldrad data, vilket kan generera falsk eller vilseledande information. I vissa fall kan integrationen av extern data genom RAG:er till och med öka sannolikheten för hallucinationer i stora språkmodeller: Om en AI-modell förlitar sig oproportionerligt på en föråldrad databas som den uppfattar som helt uppdaterad, kan omfattningen av hallucinationerna bli ännu allvarligare.

AI-säkerhetsstängsel – Att överbrygga RAG:s luckor

Som du kan se, har RAG:er potential för att mildra AI-hallucinationer. Men branscher och företag som vänder sig till dessa lösningar måste också förstå deras inneboende begränsningar. Verkligen, när de används i kombination med RAG:er, finns det kompletterande metoder som bör användas när man hanterar LLM-hallucinationer.

Exempelvis kan företag använda realtids AI-säkerhetsstängsel för att skydda LLM-svar och mildra AI-hallucinationer. Säkerhetsstängsel fungerar som en nät som granskar alla LLM-utdata för fabricerat, stötande eller avvikande innehåll innan det når användare. Denna proaktiva mellanvaruansats säkerställer tillförlitligheten och relevansen för återvinning i RAG-system, vilket slutligen ökar förtroendet bland användare och säkerställer säkra interaktioner som överensstämmer med ett företags varumärke.

Alternativt finns det “prompt-teknik”-tillvägagångssättet, som kräver att ingenjören ändrar bakomliggande huvudprompt. Genom att lägga till förbestämda begränsningar för acceptabla promptrar – med andra ord, övervakar inte bara var LLM hämtar information, utan också hur användare ber om svar – kan konstruerade promptrar vägleda LLM:er mot mer tillförlitliga resultat. Den största nackdelen med detta tillvägagångssätt är att denna typ av prompt-teknik kan vara en extremt tidskrävande uppgift för programmerare, som ofta redan är ansträngda för tid och resurser.

“Finjustering”-tillvägagångssättet innebär att man tränar LLM:er på specialiserade datamängder för att förbättra prestanda och mildra risken för hallucinationer. Denna metod tränar uppgiftsspecialiserade LLM:er att hämta information från specifika, tillförlitliga domäner, vilket förbättrar noggrannhet och tillförlitlighet i utdata.

Det är också viktigt att överväga indata längdens påverkan på LLM:ers resonemangsprestanda – faktum är att många användare tenderar att tro att ju mer omfattande och parameterfylld deras prompt är, desto mer exakt blir utdatat. Men en ny studie visade att noggrannheten i LLM-utdata faktiskt minskar när indata längden ökar. Följaktligen garanterar inte en ökning av antalet riktlinjer för en given prompt konsekvent tillförlitlighet i generering av tillförlitliga generativa AI-applikationer.

Denna fenomen, känd som “prompt-överbelastning”, belyser de inneboende riskerna med alltför komplexa promptrar – ju mer omfattande en prompt är formulerad, desto fler dörrar öppnas till felaktig information och hallucinationer när LLM försöker uppfylla varje parameter.

Prompt-teknik kräver konstanta uppdateringar och finjustering och kämpar fortfarande för att effektivt förhindra hallucinationer eller meningslösa svar. Säkerhetsstängsel, å andra sidan, skapar inte någon ytterligare risk för fabricerade utdata, vilket gör dem till ett attraktivt alternativ för att skydda AI. Till skillnad från prompt-teknik erbjuder säkerhetsstängsel en allomfattande realtidslösning som säkerställer att generativ AI endast skapar utdata inom fördefinierade gränser.

Medan det inte är en lösning i sig, kan användarfeedback också bidra till att mildra hallucinationer genom åtgärder som upprösta och nedrösta hjälper till att förbättra modellerna, förbättra utdatanoggrannhet och minska risken för hallucinationer.

På egen hand kräver RAG-lösningar omfattande experiment för att uppnå exakta resultat. Men när de kombineras med finjustering, prompt-teknik och säkerhetsstängsel, kan de erbjuda mer riktade och effektiva lösningar för att hantera hallucinationer. Att utforska dessa kompletterande strategier kommer att fortsätta att förbättra mildringen av hallucinationer i LLM:er, vilket bidrar till utvecklingen av mer tillförlitliga och trovärdiga modeller över olika tillämpningar.

RAG:er är inte lösningen på AI-hallucinationer

RAG-lösningar tillför enormt värde till LLM:er genom att berika dem med extern kunskap. Men med så mycket som fortfarande är okänt om generativ AI, förblir hallucinationer en inneboende utmaning. Nyckeln till att bekämpa dem ligger inte i att försöka eliminera dem, utan snarare genom att lindra deras inflytande med en kombination av strategiska säkerhetsstängsel, granskningsprocesser och finjusterade promptrar.

Ju mer vi kan lita på vad GenAI berättar för oss, desto mer effektivt och effektivt kommer vi att kunna utnyttja dess kraftfulla potential.