Co czym są halucynacje w LLM? Przyczyny, zagadnienia etyczne i zapobieganie

Duże modele językowe (LLM) to systemy sztucznej inteligencji, które mogą analizować i generować teksty podobne do ludzkich. Ale mają one problem – LLM wywołują halucynacje, czyli wymyślają rzeczy. Halucynacje LLM sprawiły, że badacze są zaniepokojeni postępem w tej dziedzinie, ponieważ jeśli badacze nie mogą kontrolować wyników modeli, nie mogą budować krytycznych systemów, które będą służyć ludzkości. Więcej na ten temat później.

LLM zazwyczaj wykorzystują ogromne ilości danych szkoleniowych i złożone algorytmy uczenia, aby generować realistyczne dane wyjściowe. W niektórych przypadkach uczenie w kontekście jest stosowane do szkolenia tych modeli przy użyciu tylko kilku przykładów. LLM stają się coraz bardziej popularne w różnych dziedzinach, od tłumaczeń maszynowych, analizy sentymentu, wirtualnej pomocy AI, adnotacji obrazu, przetwarzania języka naturalnego itd.

Pomimo nowatorskiego charakteru LLM, nadal są one podatne na błędy, uprzedzenia i halucynacje. Yann LeCun, obecny główny naukowiec ds. AI w Meta, niedawno wspomniał o centralnej wadzie LLM, która powoduje halucynacje: “Duże modele językowe nie mają pojęcia o podstawowej rzeczywistości, którą opisuje język. Te systemy generują tekst, który brzmi dobrze, gramatycznie i semantycznie, ale nie mają żadnego obiektywnego celu, poza tym, że tylko spełniają spójność statystyczną z podpowiedzią”.

Halucynacje w LLM

Obrazek Gerd Altmann z Pixabay

Halucynacje odnoszą się do generowania danych wyjściowych, które są składniowo i semantycznie poprawne, ale są odłączone od rzeczywistości i oparte na fałszywych założeniach. Halucynacja jest jednym z głównych zagadnień etycznych LLM, i może mieć szkodliwe konsekwencje, ponieważ użytkownicy bez odpowiedniej wiedzy zaczynają polegać na tych coraz bardziej przekonywujących modelach językowych.

Pewien stopień halucynacji jest nieunikniony we wszystkich autoregresyjnych LLM. Na przykład model może przypisać fałszywą cytaty celebrycie, której nigdy nie powiedziała. Mogą one twierdzić coś na temat określonego tematu, co jest faktograficznie niepoprawne lub cytować nieistniejące źródła w pracach badawczych, rozpowszechniając tym samym dezinformację.

Jednakże, wywoływanie halucynacji u modeli AI nie zawsze ma negatywne skutki. Na przykład nowe badanie sugeruje, że naukowcy odkrywają “nowe białka o nieograniczonej liczbie właściwości” za pomocą halucynujących LLM.

Co powoduje halucynacje w LLM?

LLM mogą wywoływać halucynacje z powodu różnych czynników, od błędów przeszkolenia i błędów kodowania i dekodowania do uprzedzeń szkoleniowych.

Przeszkolenie

Obrazek janjf93 z Pixabay

Przeszkolenie jest problemem, w którym model AI jest zbyt dobrze dopasowany do danych szkoleniowych, ale nie może w pełni reprezentować całego zakresu danych wejściowych, których może napotkać, czyli nie potrafi uogólnić swojej mocy predykcyjnej do nowych, niewidzianych danych. Przeszkolenie może prowadzić do generowania halucynacji przez model.

Błędy kodowania i dekodowania

Obrazek geralt z Pixabay

Jeśli występują błędy w kodowaniu i dekodowaniu tekstu oraz jego następujących reprezentacji, może to również powodować, że model generuje nonsensowne i błędne dane wyjściowe.

Uprzedzenia szkoleniowe

Obrazek Quince Creative z Pixabay

Inny czynnik to obecność pewnych uprzedzeń w danych szkoleniowych, co może powodować, że model daje wyniki, które reprezentują te uprzedzenia, a nie rzeczywistą naturę danych. Jest to podobne do braku różnorodności w danych szkoleniowych, co ogranicza zdolność modelu do uogólnienia do nowych danych.

Złożona struktura LLM sprawia, że jest to dość trudne dla badaczy i praktyków, aby zidentyfikować, zinterpretować i skorygować te podstawowe przyczyny halucynacji.

Zagadnienia etyczne halucynacji LLM

LLM mogą utrwalać i nasilać szkodliwe uprzedzenia za pomocą halucynacji i mogą mieć negatywny wpływ na użytkowników i powodować szkodliwe konsekwencje społeczne. Niektóre z tych najważniejszych zagadnień etycznych są wymienione poniżej:

Treści dyskryminujące i toksyczne

Obrazek ar130405 z Pixabay

Ponieważ dane szkoleniowe LLM często zawierają socjokulturowe stereotypy z powodu wrodzonych uprzedzeń i braku różnorodności. LLM mogą więc wytwarzać i utrwalać te szkodliwe idee przeciwko grupom społecznym.

Mogą one generować te dyskryminujące i nienawistne treści na podstawie rasy, płci, religii, etniczności itd.

Problemy z prywatnością

Obrazek JanBaby z Pixabay

LLM są szkolone na ogromnym korpusie danych szkoleniowych, który często zawiera informacje osobiste osób. Zdarzały się przypadki, w których takie modele naruszały prywatność. Mogą one ujawniać konkretną informację, taką jak numery bezpieczeństwa społecznego, adresy domowe, numery telefonów komórkowych i dane medyczne.

Dezinformacja i fałszywa informacja

Obrazek geralt z Pixabay

Modele językowe mogą wytwarzać treści, które wydają się prawdziwe, ale są w rzeczywistości fałszywe i nie poparte dowodami empirycznymi. Może to być przypadkowe, prowadząc do fałszywej informacji, lub może mieć złośliwy zamiar, aby świadomie rozpowszechniać dezinformację. Jeśli nie zostanie to powstrzymane, może to prowadzić do niekorzystnych trendów społeczno-kulturowo-ekonomiczno-politycznych.

Zapobieganie halucynacjom LLM

Obrazek athree23 z Pixabay

Badacze i praktycy stosują różne podejścia, aby rozwiązać problem halucynacji w LLM. Obejmują one poprawę różnorodności danych szkoleniowych, eliminowanie wrodzonych uprzedzeń, stosowanie lepszych technik regularyzacji oraz zastosowanie szkolenia przeciwnego i uczenia ze wzmocnieniem, między innymi:

• Stworzenie lepszych technik regularyzacji jest kluczem do rozwiązania problemu halucynacji. Pomagają one zapobiegać przeszkoleniu i innym problemom, które powodują halucynacje.
• Wzmacnianie danych może zmniejszyć częstotliwość halucynacji, jak wynika z badania. Wzmacnianie danych polega na dodaniu losowego tokenu w dowolnym miejscu zdania. Podwaja to rozmiar zbioru danych szkoleniowych i powoduje spadek częstotliwości halucynacji.
• OpenAI i Google’s DeepMind opracowali technikę szkolenia ze wzmocnieniem i informacjami zwrotnymi od ludzi (RLHF), aby rozwiązać problem halucynacji w ChatGPT. Polega to na tym, że osoba oceniająca często przegląda odpowiedzi modelu i wybiera najbardziej odpowiednie dla podpowiedzi użytkownika. Następnie informacje zwrotne są wykorzystywane do dostosowania zachowania modelu. Ilya Sutskever, główny naukowiec OpenAI, niedawno stwierdził, że podejście to może potencjalnie rozwiązać problem halucynacji w ChatGPT: “Mam nadzieję, że poprzez einfach poprawienie tego następnego szkolenia ze wzmocnieniem i informacjami zwrotnymi od ludzi, możemy nauczyć je, aby nie wywoływać halucynacji”.
• Identyfikacja halucynowanych treści, aby wykorzystać je jako przykład do przyszłego szkolenia, jest również metodą stosowaną do rozwiązania problemu halucynacji. Nowa technika w tym zakresie wykrywa halucynacje na poziomie tokenu i przewiduje, czy każdy token w danych wyjściowych jest halucynacją. Zawiera również metodę unsupervised learningu detektorów halucynacji.

Wykrywanie halucynacji na poziomie tokenu

Mówiąc prosto, halucynacje LLM są rosnącym problemem. I pomimo wysiłków, nadal wiele pracy musi być zrobione, aby rozwiązać ten problem. Złożoność tych modeli sprawia, że jest to ogólnie trudne, aby poprawnie zidentyfikować i skorygować podstawowe przyczyny halucynacji.

Jednakże, dzięki kontynuowanym badaniom i rozwojowi, jest możliwe złagodzenie halucynacji w LLM i zmniejszenie ich konsekwencji etycznych.

Jeśli chcesz dowiedzieć się więcej o LLM i technice zapobiegania halucynacjom, odwiedź unite.ai, aby poszerzyć swoją wiedzę.