Zatrzymanie AI przed snuciem historii: Przewodnik po zapobieganiu halucynacjom

AI rewolucjonizuje sposób, w jaki funkcjonuje prawie każda branża. Ułatwia nam pracę, zwiększa wydajność i – gdy jest odpowiednio wdrożony – sprawia, że jesteśmy lepsi w swojej pracy. Jednak w miarę jak nasza zależność od tej nowej technologii rośnie, musimy przypomnieć sobie o jednej prostej rzeczy: AI nie jest niezawodna. Jego dane wyjściowe nie powinny być traktowane jako prawda, ponieważ – podobnie jak ludzie – AI może popełniać błędy.

Nazywamy te błędy “halucynacjami AI”. Takie błędy mogą sięgać od odpowiedzi na problem matematyczny do udzielania nieprawidłowych informacji na temat polityk rządowych. W branżach podlegających ścisłej regulacji halucynacje mogą prowadzić do kosztownych kar i problemów prawnych, nie wspominając o niezadowolonych klientach.

Częstotliwość halucynacji AI powinna być powodem do niepokoju: szacuje się, że nowoczesne duże modele językowe (LLM) halucynują od 1% do 30% czasu. To oznacza setki fałszywych odpowiedzi generowanych każdego dnia, co oznacza, że firmy, które chcą wykorzystać tę technologię, muszą być niezwykle wybiórcze przy wyborze narzędzi do wdrożenia.

Zastanówmy się, dlaczego halucynacje AI występują, co jest na szali i jak możemy je identyfikować i poprawiać.

Śmieci na wejściu, śmieci na wyjściu

Czy pamiętasz grę “telefon” z dzieciństwa? Jak początkowe zdanie było zniekształcane, gdy przechodziło od gracza do gracza, w efekcie kończąc się zupełnie innym zdaniem, gdy dotarło do końca kręgu?

Sposób, w jaki AI uczy się z danych wejściowych, jest podobny. Odpowiedzi generowane przez LLM są tak dobre, jak dane, które otrzymują, co oznacza, że nieprawidłowy kontekst może prowadzić do generowania i rozpowszechniania fałszywych informacji. Jeśli system AI jest zbudowany na danych, które są nieprawidłowe, nieaktualne lub tendencyjne, to jego dane wyjściowe będą odzwierciedlać to.

Jako taki, LLM jest tak dobry, jak dane wejściowe, szczególnie gdy brakuje interwencji lub nadzoru człowieka. W miarę jak rozwijają się bardziej autonomiczne rozwiązania AI, jest kluczowe, aby dostarczać narzędziom odpowiedni kontekst danych, aby uniknąć powodowania halucynacji. Potrzebujemy rygorystycznego szkolenia tych danych i/lub możliwości kierowania LLM, aby odpowiadały tylko na podstawie kontekstu, jaki otrzymują, a nie pobierały informacje z całego internetu.

Dlaczego halucynacje są ważne?

Dla firm, które obsługują klientów, dokładność jest wszystkim. Jeśli pracownicy polegają na AI do zadań, takich jak syntetyzowanie danych klientów lub odpowiadanie na zapytania klientów, muszą ufać, że odpowiedzi generowane przez te narzędzia są dokładne.

W przeciwnym razie firmy ryzykują uszkodzeniem swojej reputacji i lojalności klientów. Jeśli klienci otrzymują niewystarczające lub fałszywe odpowiedzi od czatbota lub jeśli muszą czekać, aż pracownicy zweryfikują dane wyjściowe czatbota, mogą zdecydować się na przeniesienie swojego biznesu w inne miejsce. Ludzie nie powinni martwić się o to, czy firmy, z którymi się kontaktują, dostarczają im fałszywe informacje – chcą szybkiej i niezawodnej pomocy, co oznacza, że uzyskanie tych interakcji jest najważniejsze.

Liderzy biznesu muszą dokładnie wybrać odpowiednie narzędzie AI dla swoich pracowników. AI ma uwolnić czas i energię pracowników, aby mogli się skoncentrować na zadaniach o wyższej wartości; inwestowanie w czatbota, który wymaga stałej kontroli człowieka, podważa cały cel wdrożenia. Ale czy istnienie halucynacji jest naprawdę tak powszechne, czy termin ten jest po prostu nadużywany, aby określić każdą odpowiedź, którą uważamy za nieprawidłową?

Walka z halucynacjami AI

Zastanówmy się: Teoria dynamicznego znaczenia (DMT), pojęcie, że zrozumienie między dwiema osobami – w tym przypadku użytkownikiem i AI – jest wymieniane. Ale ograniczenia języka i wiedzy o przedmiocie powodują niezgodność w interpretacji odpowiedzi.

W przypadku odpowiedzi generowanych przez AI możliwe jest, że podstawowe algorytmy nie są jeszcze w pełni wyposażone w możliwość dokładnej interpretacji lub generowania tekstu w sposób zgodny z naszymi oczekiwaniami jako ludzi. Ta rozbieżność może prowadzić do odpowiedzi, które na powierzchni mogą wydawać się dokładne, ale ostatecznie brakuje im głębi lub nuansów wymaganych do prawdziwego zrozumienia.

Ponadto większość ogólnych LLM pobiera informacje tylko z treści dostępnych publicznie w internecie. Aplikacje biznesowe AI działają lepiej, gdy są poinformowane o danych i politykach specyficznych dla poszczególnych branż i firm. Modele mogą być również ulepszane dzięki bezpośredniej opinii ludzi – szczególnie rozwiązaniom agentywnym, które są zaprojektowane do reagowania na ton i składnię.

Takie narzędzia powinny być również rygorystycznie przetestowane przed tym, jak staną się dostępne dla konsumentów. Jest to kluczowy element zapobiegania halucynacjom AI. Cały przepływ powinien być przetestowany przy użyciu rozmów opartych na turach z LLM odgrywającym rolę osoby. To pozwala firmom lepiej założyć ogólny sukces rozmów z modelem AI przed jego wydaniem na świat.

Jest niezwykle ważne, aby zarówno deweloperzy, jak i użytkownicy technologii AI byli świadomi teorii dynamicznego znaczenia w odpowiedziach, które otrzymują, a także dynamiki języka używanego w danych wejściowych. Pamiętaj, kontekst jest kluczowy. A jako ludzie, większość naszego kontekstu jest rozumiana w sposób nieujawniony, czy to przez język ciała, trendy społeczne – nawet nasz ton. Jako ludzie, mamy potencjał, aby halucynować w odpowiedzi na pytania. Ale w naszej obecnej wersji AI nasze ludzkie zrozumienie nie jest tak łatwo kontekstualizowane, więc musimy być bardziej krytyczni wobec kontekstu, który dostarczamy w piśmie.

Wystarczy powiedzieć – nie wszystkie modele AI są równie dobre. W miarę jak rozwija się technologia do wykonywania coraz bardziej złożonych zadań, jest kluczowe, aby firmy, które planują wdrożenie, identyfikowały narzędzia, które poprawią interakcje i doświadczenia klientów, a nie odwrotnie.

Odpowiedzialność nie spoczywa tylko na dostawcach rozwiązań, aby upewnić się, że zrobili wszystko, co w ich mocy, aby zminimalizować szansę na wystąpienie halucynacji. Potencjalni nabywcy również mają swoją rolę do odegrania. Przez priorytetowanie rozwiązań, które są rygorystycznie przeszkolone i przetestowane i mogą uczyć się z danych własnych (zamiast wszystkiego i wszystkiego w internecie), firmy mogą wykorzystać swoje inwestycje w AI, aby przygotować pracowników i klientów do sukcesu.