Czy RAG to rozwiązanie problemu halucynacji AI?

AI, dzięki swojej konstrukcji, ma „własne zdanie”. Jedną z wad tego jest to, że modele AI generatywnej będą czasem fabrykować informacje w zjawisku zwanym „halucynacjami AI”, jednym z pierwszych przykładów, które pojawiło się w świetle, gdy sędzia z Nowego Jorku ukarał prawników za używanie briefu napisanego przez ChatGPT, który odnosił się do nieistniejących spraw sądowych. Bardziej niedawno, miały miejsce przypadki, gdy wyszukiwarki generowane przez AI mówiły użytkownikom, aby spożywać kamienie dla korzyści zdrowotnych lub używać nietoksycznego kleju, aby pomóc serowi przylegać do pizzy.

Ponieważ GenAI staje się coraz bardziej wszechobecne, ważne jest, aby osoby, które je wdrażają, rozpoznały, że halucynacje są, na razie, nieuniknionym aspektem rozwiązań GenAI. Zbudowane na dużych modelach językowych (LLM), te rozwiązania są często informowane przez ogromne ilości różnorodnych źródeł, które mogą zawierać co najmniej niektóre nieprecyzyjne lub przestarzałe informacje – te sfabrykowane odpowiedzi stanowią między 3% a 10% odpowiedzi generowanych przez AI na podstawie wprowadzonych przez użytkownika danych. W świetle „czarnej skrzynki” AI – w której, jako ludzie, mamy nadzwyczajną trudność w badaniu, jak AI generuje swoje wyniki – te halucynacje mogą być prawie niemożliwe do śledzenia i zrozumienia przez deweloperów.

Nieuniknione czy nie, halucynacje AI są frustrujące, niebezpieczne i nieetyczne.

W różnych sektorach, w tym w ochronie zdrowia, finansach i bezpieczeństwie publicznym, konsekwencje halucynacji obejmują wszystko, od rozpowszechniania dezinformacji i naruszania poufnych danych po nawet zagrażające życiu niepowodzenia. Jeśli halucynacje będą nadal pozostawać niekontrolowane, dobrostan użytkowników i zaufanie społeczne do systemów AI będą oba naruszone.

Jako taki, jest niezbędne, aby opiekunowie tej potężnej technologii rozpoznali i rozwiązali ryzyko halucynacji AI, aby zapewnić wiarygodność wyników generowanych przez LLM.

RAG jako punkt wyjścia do rozwiązania halucynacji

Jedną z metod, która wyszła na pierwszy plan w łagodzeniu halucynacji, jest wzmocniona generacja, czyli RAG. To rozwiązanie zwiększa niezawodność LLM poprzez integrację zewnętrznych źródeł informacji – wyodrębnianie istotnych informacji z zaufanego źródła danych wybranego zgodnie z naturą zapytania – aby zapewnić bardziej niezawodne odpowiedzi na określone zapytania.

Niektórzy eksperci przemysłu sugerowali, że RAG sam w sobie może rozwiązać halucynacje. Ale bazy danych zintegrowane z RAG mogą nadal zawierać przestarzałe dane, co mogłoby generować fałszywe lub mylące informacje. W pewnych przypadkach integracja zewnętrznych danych za pomocą RAG może nawet zwiększyć prawdopodobieństwo halucynacji w dużych modelach językowych: Jeśli model AI opiera się w nadmiarze na przestarzałej bazie danych, którą postrzega jako w pełni aktualną, zakres halucynacji może stać się jeszcze bardziej dotkliwy.

AI Guardrails – most nad luką RAG

Jak widać, RAG obiecują w łagodzeniu halucynacji AI. Niemniej, branże i firmy, które zwracają się ku tym rozwiązaniom, muszą również zrozumieć ich wrodzone ograniczenia. W istocie, gdy używane wraz z RAG, istnieją uzupełniające metody, które powinny być stosowane przy rozwiązywaniu halucynacji LLM.

Na przykład, firmy mogą zastosować w czasie rzeczywistym ochronę AI, aby zabezpieczyć odpowiedzi LLM i złagodzić halucynacje AI. Ochrona działa jak siatka, która sprawdza wszystkie dane wyjściowe LLM pod kątem sfabrykowanych, obscenicznych lub nieodpowiednich treści przed ich dotarciem do użytkowników. Ten proaktywny środek pośredni zapewnia niezawodność i istotność odzyskiwania w systemach RAG, ostatecznie zwiększając zaufanie wśród użytkowników i zapewniając bezpieczne interakcje zgodne z marką firmy.

Alternatywnie, istnieje podejście „inżynierii sugestii”, które wymaga od inżyniera zmiany podstawowego sugestii. Dodając predeterminowane ograniczenia do akceptowalnych sugestii – innymi słowy, monitorując nie tylko, skąd LLM pobiera informacje, ale także, jak użytkownicy proszą o odpowiedzi – inżynieria sugestii może kierować LLM w stronę bardziej niezawodnych wyników. Główną wadą tego podejścia jest to, że tego typu inżynieria sugestii może być niezwykle czasochłonnym zadaniem dla programistów, którzy często już są ograniczeni czasem i zasobami.

Podejście „dokształcania” obejmuje szkolenie LLM na specjalistycznych zestawach danych, aby uzupełnić wydajność i złagodzić ryzyko halucynacji. Ta metoda szkoli LLM specjalizujące się w zadaniach, aby pociągać informacje z konkretnych, zaufanych domen, poprawiając dokładność i niezawodność w danych wyjściowych.

Ważne jest również, aby rozważyć wpływ długości wejścia na wyniki rozumnego działania LLM – w istocie, wiele użytkowników skłonnych jest myśleć, że im bardziej szczegółowe i wypełnione parami jest ich sugestia, tym bardziej dokładne będą dane wyjściowe. Niemniej, jeden niedawny raport ujawnił, że dokładność danych wyjściowych LLM maleje, gdy długość wejścia wzrasta. W związku z tym, zwiększanie liczby wytycznych przypisanych do danej sugestii nie gwarantuje spójnej niezawodności w generowaniu niezawodnych aplikacji AI.

To zjawisko, znane jako przeładowanie sugestii, podkreśla wrodzone ryzyko zbyt złożonych projektów sugestii – im bardziej sugestia jest sformułowana, tym więcej drzwi otwiera się na nieprecyzyjne informacje i halucynacje, gdy LLM stara się spełnić każdy parametr.

Inżynieria sugestii wymaga ciągłych aktualizacji i doskonalenia i nadal ma trudności z efektywnym zapobieganiem halucynacjom lub nonsensownym odpowiedziom. Ochrona, z drugiej strony, nie stworzy dodatkowego ryzyka sfabrykowanych danych wyjściowych, co czyni ją atrakcyjną opcją dla ochrony AI. W przeciwieństwie do inżynierii sugestii, ochrona oferuje wszechobejmujące rozwiązanie w czasie rzeczywistym, które zapewnia, że AI generatywna będzie tworzyła dane wyjściowe tylko w ramach przeddefiniowanych granic.

Ponadto, opinie użytkowników mogą również pomóc w złagodzeniu halucynacji poprzez działania takie jak głosowanie i ocenianie, które pomagają udoskonalić modele, poprawić dokładność danych wyjściowych i obniżyć ryzyko halucynacji.

Samodzielnie, rozwiązania RAG wymagają obszernych eksperymentów, aby osiągnąć dokładne wyniki. Ale gdy są połączone z doskonaleniem, inżynierią sugestii i ochroną, mogą one oferować bardziej ukierunkowane i efektywne rozwiązania problemu halucynacji. Eksplorowanie tych komplementarnych strategii będzie nadal doskonalić łagodzenie halucynacji w LLM, pomagając w rozwoju bardziej niezawodnych i godnych zaufania modeli w różnych aplikacjach.

RAG nie jest rozwiązaniem problemu halucynacji AI

Rozwiązania RAG dodają ogromną wartość LLM, wzbogacając je o zewnętrzną wiedzę. Ale z tak wiele jeszcze nieznanego o AI generatywnej, halucynacje pozostają wrodzonym wyzwaniem. Klucz do walki z nimi nie leży w próbach ich wyeliminowania, ale raczej w złagodzeniu ich wpływu poprzez połączenie strategicznych ochron, procesów weryfikacji i udoskonalonych sugestii.

Im bardziej możemy zaufać temu, co GenAI nam mówi, tym bardziej skutecznie i efektywnie będziemy w stanie wykorzystać jego potężny potencjał.