Perplexity AI “odcenzuruje” DeepSeek R1: Kto decyduje o granicach AI?

W ruchu, który przyciągnął uwagę wielu, Perplexity AI wydała nową wersję popularnego modelu językowego open-source, który usuwa wbudowaną cenzurę chińską. Ten zmodyfikowany model, nazwany R1 1776 (nazwa nawiązująca do ducha niezależności), oparty jest na chińskim modelu DeepSeek R1. Oryginalny DeepSeek R1 zrobił falę ze względu na swoje silne zdolności rozumowania – rzekomo rywalizujące z najlepszymi modelami przy ułamku kosztów – ale miał znaczącą ograniczenie: odmawiał zajmowania się pewnymi wrażliwymi tematami.

Dlaczego to ma znaczenie?

To podnosi kluczowe pytania dotyczące nadzoru AI, uprzedzeń, otwartości i roli geopolityki w systemach AI. Artykuł ten opisuje, co dokładnie zrobiła Perplexity, implikacje usunięcia cenzury oraz jak to pasuje do szerszej dyskusji o przejrzystości AI i cenzurze.

Co się stało: DeepSeek R1 traci cenzurę

DeepSeek R1 to model językowy open-weight, który powstał w Chinach i zyskał sławę dzięki swoim doskonałym zdolnościom rozumowania – nawet zbliżając się do poziomu wiodących modeli – wszystko to przy mniejszej efektywności obliczeniowej. Jednak użytkownicy szybko zauważyli dziwność: kiedy pytania dotykały tematów wrażliwych w Chinach (na przykład kontrowersji politycznych lub wydarzeń historycznych uznanych za tabu przez władze), DeepSeek R1 nie odpowiadał bezpośrednio. Zamiast tego, odpowiadał gotowymi, zatwierdzonymi przez państwo oświadczeniami lub wręcz odmowami, odzwierciedlając chińskie przepisy cenzury. Ta wbudowana uprzedzenie ograniczała użyteczność modelu dla tych, którzy szukali otwartych lub nuansowanych dyskusji na te tematy.

Rozwiązanie Perplexity AI polegało na „odcenzurowaniu” modelu za pomocą obszernego procesu szkolenia. Firma zgromadziła duży zestaw 40 000 wielojęzycznych podpowiedzi, obejmujących pytania, które DeepSeek R1 wcześniej cenzurował lub odpowiadał na niejasno. Z pomocą ekspertów ludzkich zidentyfikowali około 300 wrażliwych tematów, w których oryginalny model miał tendencję do przestrzegania linii partyjnej. Dla każdej takiej podpowiedzi zespół opracował faktualne, dobrze uzasadnione odpowiedzi w wielu językach. Te wysiłki zostały wprowadzone do wielojęzycznego systemu wykrywania i korekcji cenzury, podstawowo ucząc model, jak rozpoznać, kiedy stosował cenzurę polityczną, i odpowiadać zamiast tego informacyjną odpowiedzią. Po tym specjalnym dostrajaniu (które Perplexity nazwało „R1 1776”, aby podkreślić motyw wolności), model został udostępniony publicznie. Perplexity twierdzi, że usunęła chińskie filtry cenzury i uprzedzenia z odpowiedzi DeepSeek R1, nie zmieniając jego podstawowych zdolności.

Kluczowo, R1 1776 zachowuje się bardzo inaczej w przypadku pytań, które wcześniej były tabu. Perplexity podała przykład dotyczący pytania o niepodległość Tajwanu i jego potencjalny wpływ na cenę akcji NVIDIA (NVDA ) – politycznie wrażliwy temat, który dotyka relacji chińsko-tajwańskich. Oryginalny DeepSeek R1 unikał pytania, odpowiadając platynowymi frazami zgodnymi z liniami CCP. W przeciwieństwie do tego, R1 1776 dostarcza szczegółową, otwartą ocenę: omawia konkretny ryzyko geopolityczne i ekonomiczne (przerwy w łańcuchu dostaw, zmienność rynku, możliwy konflikt itp.), które mogą wpłynąć na cenę akcji NVIDIA.

Udostępniając R1 1776 jako open-source, Perplexity uczyniła również wagę modelu i zmiany przejrzystymi dla społeczności. Deweloperzy i badacze mogą pobrać go z Hugging Face i nawet zintegrować go za pomocą API, zapewniając, że usunięcie cenzury może być zbadane i rozwinięte przez innych.

(Źródło: Perplexity AI)

Implikacje usunięcia cenzury

Decyzja Perplexity AI o usunięciu chińskiej cenzury z DeepSeek R1 niesie kilka ważnych implikacji dla społeczności AI:

• Wzmożona otwartość i prawdziwość: Użytkownicy R1 1776 mogą teraz otrzymywać niecenzurowane, bezpośrednie odpowiedzi na tematy, które wcześniej były zabronione, co jest zwycięstwem dla otwartej inwigilacji. Mogłoby to uczynić go bardziej godnym zaufania asystentem dla badaczy, studentów lub każdego, kto jest ciekawy wrażliwych kwestii geopolitycznych. Jest to konkretny przykład wykorzystania open-source AI do przeciwdziałania wypaczaniu informacji.
• Utrzymanie wydajności: Istniały obawy, że modyfikacja modelu w celu usunięcia cenzury mogłaby pogorszyć jego wydajność w innych obszarach. Jednak Perplexity raportuje, że R1 1776 zachowuje swoje podstawowe umiejętności – takie jak matematyka i logiczne rozumowanie – na poziomie oryginalnego modelu. W testach na ponad 1000 przykładów obejmujących szeroki zakres wrażliwych pytań model okazał się „w pełni niecenzurowany”, zachowując ten sam poziom dokładności rozumowania, co DeepSeek R1. To sugeruje, że usunięcie uprzedzeń (przynajmniej w tym przypadku) nie nastąpiło kosztem ogólnej inteligencji lub zdolności, co jest zachęcającym znakiem dla podobnych wysiłków w przyszłości.
• Pozytywny odbiór społeczności i współpraca: Udostępniając model open-source, Perplexity zaprasza społeczność AI do zbadania i udoskonalenia ich pracy. Demonstruje to zaangażowanie w przejrzystość – AI odpowiednik pokazywania swojej pracy. Entuzjaści i deweloperzy mogą zweryfikować, że ograniczenia cenzury są naprawdę usunięte i potencjalnie przyczynić się do dalszych udoskonaleń. To buduje zaufanie i innowacyjną współpracę w branży, w której zamknięte modele i ukryte reguły moderacji są powszechne.
• Etyczne i geopolityczne rozważania: Z drugiej strony, całkowite usunięcie cenzury podnosi złożone pytania etyczne. Jednym z natychmiastowych problemów jest to, jak ten niecenzurowany model może być wykorzystany w kontekstach, w których tematy cenzurowane są nielegalne lub niebezpieczne. Na przykład, jeśli ktoś w Chinach kontynentalnych użyłby R1 1776, niecenzurowane odpowiedzi modelu na temat placu Tiananmen lub Tajwanu mogłyby narazić użytkownika na ryzyko. Istnieje również szerszy sygnał geopolityczny: amerykańska firma modyfikująca chiński model, aby przeciwstawić się chińskiej cenzurze, może być postrzegana jako odważne stanowisko ideologiczne. Samo nazwanie „1776” podkreśla motyw wyzwolenia, co nie pozostało niezauważone. Niektórzy krytycy twierdzą, że zastąpienie jednego zestawu uprzedzeń innym jest możliwe – podstawowo kwestionując, czy model mógłby teraz odzwierciedlać zachodni punkt widzenia w wrażliwych obszarach. Debata podkreśla, że cenzura a otwartość w AI to nie tylko kwestia techniczna, ale także polityczna i etyczna. Tam, gdzie jeden człowiek widzi konieczną moderację, inny widzi cenzurę, a znalezienie właściwej równowagi jest trudne.

Usunięcie cenzury jest w dużej mierze celebrowane jako krok w kierunku bardziej przejrzystych i użytecznych globalnie modeli AI, ale także przypomina, że to, co AI powinno powiedzieć, jest wrażliwym pytaniem bez powszechnego porozumienia.

(Źródło: Perplexity AI)

Szerszy obraz: cenzura AI i przejrzystość open-source

Wydanie R1 1776 przez Perplexity następuje w czasie, gdy społeczność AI zmaga się z pytaniami o to, jak modele powinny obsługiwać kontrowersyjne treści. Cenzura w modelach AI może pochodzić z wielu miejsc. W Chinach firmy technologiczne są zobowiązane do budowania w filtrach i nawet twardo zakodowanych odpowiedzi na tematy politycznie wrażliwe. DeepSeek R1 jest przykładem tego – był modelem open-source, ale wyraźnie nosił piętno chińskich norm cenzury w swoim szkoleniu i dostrajaniu. W przeciwieństwie do tego, wiele modeli opracowanych na Zachodzie, takich jak GPT-4 OpenAI lub LLaMA Meta, nie jest związanych z wytycznymi CCP, ale nadal mają warstwy moderacji (dla rzeczy takich jak mowa nienawiści, przemoc lub dezinformacja), które niektórzy użytkownicy nazywają „cenzurą”. Granica między rozumną moderacją a niepożądaną cenzurą może być nieostra i często zależy od perspektywy kulturowej lub politycznej.

To, co zrobiła Perplexity AI z DeepSeek R1, podnosi pomysł, że modele open-source mogą być adaptowane do różnych systemów wartości lub środowisk regulacyjnych. Teoretycznie można stworzyć wiele wersji modelu: jedną, która spełnia chińskie regulacje (do użytku w Chinach), i inną, która jest w pełni otwarta (do użytku gdzie indziej). R1 1776 jest podstawowo przypadkiem drugim – niecenzurowanym forkiem przeznaczonym dla globalnej publiczności, która preferuje niefiltrowane odpowiedzi. Ten rodzaj forkowania jest możliwy tylko dlatego, że wagę DeepSeek R1 udostępniono publicznie. Podkreśla to korzyść open-source w AI: przejrzystość. Każdy może wziąć model i dostosować go, czy to aby dodać zabezpieczenia, czy, jak w tym przypadku, usunąć nałożone ograniczenia. Udostępnianie kodu, danych szkoleniowych lub wag modelu również oznacza, że społeczność może audytować, jak model został zmodyfikowany. (Perplexity nie ujawniła jeszcze wszystkich źródeł danych, które wykorzystała do odcenzurowania, ale udostępniając sam model, umożliwiła innym obserwowanie jego zachowania i nawet ponowne przeszkolenie, jeśli to konieczne.)

To wydarzenie również nawiązuje do szerszych dynamik geopolitycznych rozwoju AI. Widzimy formę dialogu (lub konfrontacji) między różnymi modelami zarządzania AI. Chiński model z pewnymi wbudowanymi punktami widzenia jest pobrany przez zespół amerykański i zmodyfikowany, aby odzwierciedlać bardziej otwarty etos informacyjny. Jest to świadectwem globalnego i bezgranicznego charakteru technologii AI: badacze gdziekolwiek mogą budować na pracy innych, ale nie są zobowiązani do przenoszenia oryginalnych ograniczeń. Z czasem możemy zobaczyć więcej przypadków tego – gdzie modele są „tłumaczone” lub dostosowywane między różnymi kontekstami kulturowymi. To podnosi pytanie, czy AI może kiedykolwiek być naprawdę uniwersalne, czy będziemy mieli wersje regionalne, które przestrzegają lokalnych norm. Przejrzystość i otwartość zapewniają jeden sposób nawigacji w tym: jeśli wszystkie strony mogą zobaczyć modele, to przynajmniej rozmowa o uprzedzeniach i cenzurze jest otwarta, a nie ukryta za korporacyjną lub rządową tajemnicą.

Wreszcie, ruch Perplexity podkreśla kluczowy punkt w debacie o kontroli AI: kto decyduje, co AI może, a co nie może powiedzieć? W projektach open-source ta władza staje się zdecentralizowana. Społeczność – lub poszczególni deweloperzy – mogą decydować o wprowadzeniu surowszych filtrów lub o poluzowaniu ich. W przypadku R1 1776 Perplexity zdecydowała, że korzyści z niecenzurowanego modelu przewyższają ryzyko, i miała swobodę podjęcia tej decyzji i udostępnienia wyniku publicznie. Jest to odważny przykład rodzaju eksperymentowania, które umożliwia rozwój AI open-source.