Jsou RAGs řešením pro halucinace AI?

Umělá inteligence je svým designem „svým pánem“. Jednou z nevýhod toho je, že modely generativní umělé inteligence příležitostně vyrábějí informace v jevu nazývaném „halucinace AI“, jeden z prvních příkladů, který se objevil ve světle, když newyorský soudce pokáral právníky za použití právního spisu napsaného ChatGPT, který odkazoval na neexistující soudní případy. Nedávno se objevily případy, kdy vyhledávače generované pomocí AI říkaly uživatelům, aby spotřebovali kameny pro zdravotní výhody, nebo aby používali netoxické lepidlo k tomu, aby sýr lépe držel na pizzu.

Jak se GenAI stává stále více všudypřítomným, je důležité, aby adoptoři uznali, že halucinace jsou, alespoň prozatím, nezbytnou součástí řešení GenAI. Postavené na velkých jazycových modelech (LLM), tato řešení jsou často informována rozsáhlými množství rozličných zdrojů, které pravděpodobně obsahují alespoň一些 nepřesné nebo zastaralé informace – tyto vymyšlené odpovědi tvoří mezi 3% a 10% odpovědí generovaných chatboty AI na uživatelské dotazy. Vzhledem k „černé skříňce“ AI – v níž máme jako lidé mimořádné obtíže při zkoumání toho, jak AI generuje své výsledky, – tyto halucinace mohou být pro vývojáře téměř nemožné stopovat a pochopit.

Nepříjemné nebo nebezpečné, halucinace AI jsou na nejlepší případ frustrující, nebezpečné a neetické.

Příčiny halucinací zahrnují vše od šíření dezinformací a ohrožení citlivých údajů až po život ohrožující nehody. Pokud halucinace zůstanou neošetřené, bude ohroženo blaho uživatelů a důvěra ve systémy AI.

Je proto nezbytné, aby správci této mocné technologie uznali a řešili rizika halucinací AI, aby zajistili důvěryhodnost výstupů generovaných LLM.

RAGs jako výchozí bod pro řešení halucinací

Jedním z metod, které se dostaly do popředí při snižování halucinací, je retrieval-augmented generation, nebo RAG. Toto řešení zvyšuje spolehlivost LLM integrováním externích úložišť informací – extrahováním relevantních informací z důvěryhodné databáze zvolené podle povahy dotazu – aby zajistilo spolehlivější odpovědi na konkrétní dotazy.

Někteří odborníci z oboru odborníci se domnívají, že RAG sám o sobě může vyřešit halucinace. Ale RAG-integrované databáze mohou stále obsahovat zastaralá data, která by mohla generovat falešné nebo zavádějící informace. V určitých případech může integrace externích dat prostřednictvím RAGů dokonce zvýšit pravděpodobnost halucinací v jazycových modelech: Pokud se AI model příliš spoléhá na zastaralou databázi, kterou vnímá jako plně aktuální, rozsah halucinací se může stát ještě závažnějším.

AI Guardrails – most přes mezery RAG

Jak můžete vidět, RAGy mají slib pro snížení halucinací AI. Ale průmysl a podniky, které se obrací na tato řešení, musí také pochopit jejich vnitřní omezení. Skutečně, když se používají ve spojení s RAGy, existují komplementární metody, které by se měly použít při řešení halucinací LLM.

například podniky mohou použít reálné AI guardrails pro zabezpečení odpovědí LLM a snížení halucinací AI. Guardrails fungují jako síť, která prověřuje všechny výstupy LLM na vymyšlený, profánní nebo mimo téma obsah předtím, než se dostanou k uživatelům. Tento proaktivní middleware přístup zajišťuje spolehlivost a relevanci získávání informací v systémech RAG, nakonec zvyšuje důvěru mezi uživateli a zajišťuje bezpečné interakce, které jsou v souladu se značkou společnosti.

Alternativně existuje přístup „prompt engineering“, který vyžaduje, aby inženýr změnil master prompt na pozadí. Přidáním předem stanovených omezení pro přijatelné dotazy – jinými slovy, monitorováním nejen toho, odkud LLM získává informace, ale také toho, jak uživatelé žádají o odpovědi – inženýrské dotazy mohou vést LLM k více spolehlivým výsledkům. Hlavní nevýhodou tohoto přístupu je, že tento typ prompt engineeringu může být nesmírně časově náročným úkolem pro programátory, kteří jsou často již přetížení časem a zdroji.

„Fine-tuning“ přístup zahrnuje školení LLM na specializovaných datech pro vylepšení výkonu a snížení rizika halucinací. Tato metoda trénuje LLM specializované na konkrétní úkoly, aby čerpaly z konkrétních, důvěryhodných domén, zlepšující přesnost a spolehlivost ve výstupech.

Je také důležité vzít v úvahu dopad délky vstupu na výkon LLM – skutečnost, že mnoho uživatelů má tendenci myslet si, že čím je vstup delší a parameterovější, tím jsou výstupy přesnější. Nicméně, jedna nedávná studie odhalila, že přesnost výstupů LLM se sníží, jak se zvyšuje délka vstupu. V důsledku toho nezajišťuje zvýšení počtu pokynů přiřazených k jakémukoli dotazu konzistentní spolehlivost při generování spolehlivých aplikací generativní umělé inteligence.

Tento jev, známý jako „přetížení dotazu“, zdůrazňuje vnitřní rizika příliš komplexních návrhů dotazů – čím je dotaz širší, tím více dveří se otevírá k nepřesným informacím a halucinacím, protože LLM se snaží splnit každý parametr.

Prompt engineering vyžaduje neustálé aktualizace a jemné úpravy a stále bojuje se snížením halucinací nebo nesmyslných odpovědí. Guardrails na druhé straně nebudou vytvářet další riziko vymyšlených výstupů, což je atraktivní možnost pro ochranu AI. Na rozdíl od prompt engineeringu nabízí guardrails komplexní reálné řešení, které zajišťuje, že generativní AI bude generovat pouze výstupy z předem definovaných hranic.

Zatímco to samo o sobě není řešením, zpětná vazba uživatelů může také pomoci snížit halucinace pomocí akcí, jako jsou hodnocení a snižování rizika halucinací.

Sami o sobě RAG řešení vyžadují rozsáhlé experimenty, aby dosáhly přesných výsledků. Ale když jsou kombinovány s fine-tuningem, prompt engineeringem a guardrails, mohou nabízet více cílená a efektivní řešení pro řešení halucinací. Prozkoumání těchto komplementárních strategií bude pokračovat ve zlepšování snižování halucinací v LLM, což pomůže při vývoji více spolehlivých a důvěryhodných modelů napříč různými aplikacemi.

RAGs nejsou řešením pro halucinace AI

RAG řešení přidávají obrovskou hodnotu LLM tím, že je obohacují externími znalostmi. Ale s tolik neznámým o generativní AI, halucinace zůstávají vnitřní výzvou. Klíčem k boji proti nim spočívá nejen ve snaze je eliminovat, ale spíše v tom, aby se jejich vliv zmírnil kombinací strategických guardrails, procesů ověřování a jemně upravených dotazů.

Čím více můžeme důvěřovat tomu, co nám GenAI říká, tím účinněji a efektivněji budeme moci využít jeho mocný potenciál.