Perplexity AI “avcensurerar” DeepSeek R1: Vem bestämmer AI:s gränser?

I en rörelse som har fångat mångas uppmärksamhet har Perplexity AI släppt en ny version av en populär öppen källkods-språkmodell som tar bort den inbyggda kinesiska censuren. Denna modifierade modell, som kallas R1 1776 (ett namn som påminner om självständighetens anda), är baserad på den kinesiskt utvecklade DeepSeek R1. Den ursprungliga DeepSeek R1 gjorde vågor för sin starka resonemangsförmåga – som rapporterades vara jämförbar med toppmodeller till en bråkdel av kostnaden – men den hade en betydande begränsning: den vägrade att ta upp vissa känsliga ämnen.

Varför är detta viktigt?

Det väcker avgörande frågor om AI-övervakning, bias, öppenhet och rollen för geopolitik i AI-system. Denna artikel utforskar vad Perplexity gjorde, implikationerna av att avcensurera modellen och hur det passar in i den större diskussionen om AI-transparens och censur.

Vad hände: DeepSeek R1 går avcensurerad

DeepSeek R1 är en öppen stor språkmodell som ursprungligen kommer från Kina och fick uppmärksamhet för sin utmärkta resonemangsförmåga – även närmar sig prestationen hos ledande modeller – allt medan den är mer beräknings-effektiv​. Men användare upptäckte snabbt en egenhet: när frågor berörde ämnen som är känsliga i Kina (t.ex. politiska kontroverser eller historiska händelser som anses vara tabu av myndigheterna), svarade DeepSeek R1 inte direkt. Istället svarade den med förinställda, statligt godkända uttalanden eller rent av vägrade att svara, vilket speglar den kinesiska regeringens censurregler​. Denna inbyggda bias begränsade modellens användbarhet för de som sökte ärliga eller nyanserade diskussioner om dessa ämnen.

Perplexity AI:s lösning var att “avcensurera” modellen genom en omfattande post-träningsprocess. Företaget samlade en stor dataset på 40 000 multilingvistiska frågor som täckte frågor som DeepSeek R1 tidigare censurerade eller svarade undvikande på​. Med hjälp av mänskliga experter identifierade de ungefär 300 känsliga ämnen där den ursprungliga modellen tenderade att följa partilinjen​. För varje sådan fråga curerade teamet faktiska, välmotiverade svar på flera språk. Dessa insatser matades in i ett multilingvistiskt censurupptäckts- och korrektur-system, vilket i princip lärde modellen att känna igen när den tillämpade politisk censur och att svara med ett informativt svar istället​. Efter denna specialfinjustering (som Perplexity kallade “R1 1776” för att betona frihetstemat), gjordes modellen tillgänglig öppet. Perplexity hävdar att de har eliminerat de kinesiska censurfilterna och bias från DeepSeek R1:s svar, utan att förändra dess kärnförmågor​.

Avgörande beter sig R1 1776 mycket annorlunda på tidigare tabufrågor. Perplexity gav ett exempel som involverade en fråga om Taiwans självständighet och dess potentiella påverkan på NVIDIAs aktiekurs – ett politiskt känsligt ämne som berör Kina-Taiwan-relationer. Den ursprungliga DeepSeek R1 undvek frågan och svarade med CCP-anpassade floskler. I kontrast levererar R1 1776 en detaljerad, ärlig bedömning: den diskuterar konkreta geopolitiska och ekonomiska risker (försörjningskedjefördelar, marknadsfluktuationer, möjlig konflikt etc.) som kan påverka NVIDIAs aktiekurs​.

Genom att öppna källkoden för R1 1776 har Perplexity också gjort modellens vikt och ändringar transparenta för samhället. Utvecklare och forskare kan ladda ner den från Hugging Face och till och med integrera den via API, vilket säkerställer att avlägsnandet av censur kan granskas och byggas på av andra.

(Källa: Perplexity AI)

Implikationer av att ta bort censuren

Perplexity AI:s beslut att ta bort den kinesiska censuren från DeepSeek R1 har flera viktiga implikationer för AI-samhället:

• Ökad öppenhet och sanning: Användare av R1 1776 kan nu få avcensurerade, direkta svar på tidigare otillåtna ämnen, vilket är en seger för öppen utfrågning​. Detta kan göra den till en mer tillförlitlig assistent för forskare, studenter eller vem som helst som är nyfiken på känsliga geopolitiska frågor. Det är ett konkret exempel på att använda öppen källkods-AI för att motverka informationsundertryck.
• Bibehållen prestanda: Det fanns farhågor om att justera modellen för att ta bort censur skulle försämra dess prestanda i andra områden. Men Perplexity rapporterar att R1 1776:s kärnförmågor – som matematik och logiskt resonemang – förblir på samma nivå som den ursprungliga modellen​. I tester på över 1 000 exempel som täcker ett brett spektrum av känsliga frågor, befanns modellen vara “fullständigt avcensurerad” samtidigt som den behöll samma nivå av resonemangsprecision som DeepSeek R1​. Detta antyder att biasborttagning (i alla fall i detta fall) inte kom på bekostnad av den totala intelligensen eller förmågan, vilket är ett uppmuntrande tecken för liknande insatser i framtiden.
• Positiv mottagning och samarbete i samhället: Genom att öppna källkoden för den avcensurerade modellen inbjuder Perplexity AI-samhället att granska och förbättra deras arbete. Det visar en vilja till transparens – AI-ekvivalenten av att visa sitt arbete. Enthusiaster och utvecklare kan verifiera att censurreglerna verkligen är borta och potentiellt bidra till ytterligare förbättringar. Det främjar förtroende och innovativt samarbete i en bransch där slutna modeller och dolda modereringsregler är vanliga.
• Ethiska och geopolitiska överväganden: På andra sidan, att helt ta bort censur väcker komplexa etiska frågor. En omedelbar oro är hur denna avcensurerade modell kan användas i sammanhang där de censurerade ämnena är olagliga eller farliga. Till exempel, om någon i Fastlandskina använder R1 1776, kan modellens avcensurerade svar om Tiananmen-torget eller Taiwan sätta användaren i fara. Det finns också det bredare geopolitiska signalen: ett amerikanskt företag som ändrar en kinesiskt ursprunglig modell för att trotsa kinesisk censur kan ses som en djärv ideologisk ståndpunkt. Namnet “1776” understryker ett tema av befrielse, som inte har gått obemärkt. Vissa kritiker hävdar att att ersätta en uppsättning bias med en annan är möjlig – i princip ifrågasätter om modellen nu kan reflektera ett västerländskt perspektiv i känsliga områden​. Debatten betonar att censur kontra öppenhet i AI inte bara är en teknisk fråga, utan en politisk och etisk.

Avlägsnandet av censur firas i stor utsträckning som ett steg mot mer transparenta och globalt användbara AI-modeller, men det fungerar också som en påminnelse om att vad en AI ska säga är en känslig fråga utan universellt samförstånd.

(Källa: Perplexity AI)

Den större bilden: AI-censur och öppen källkodstransparens

Perplexitys lansering av R1 1776 sker vid en tidpunkt då AI-samhället brottas med frågor om hur modeller ska hantera kontroversiellt innehåll. Censur i AI-modeller kan komma från många håll. I Kina krävs det av techföretag att bygga in strikta filter och till och med inbyggda svar för politiskt känsliga ämnen. DeepSeek R1 är ett typexempel på detta – det var en öppen källkodsmodell, men det bar tydligt den kinesiska censurernas avtryck i sin utbildning och finjustering. I kontrast är många västerländskt utvecklade modeller, som OpenAI:s GPT-4 eller Metas LLaMA, inte bundna av CCP-riktlinjer, men de har fortfarande modereringslager (för saker som hatprat, våld eller desinformation) som vissa användare kallar “censur”. Gränsen mellan rimlig moderering och oönskad censur kan vara suddig och ofta beroende på kulturell eller politisk perspektiv.

Vad Perplexity AI gjorde med DeepSeek R1 väcker idén att öppna källkodsmodeller kan anpassas till olika värdesystem eller regulatoriska miljöer. I teorin kunde man skapa flera versioner av en modell: en som följer kinesiska regler (för användning i Kina) och en som är fullständigt öppen (för användning på andra håll). R1 1776 är i princip det senare fallet – en avcensurerad gren som är avsedd för en global publik som föredrar ofiltrerade svar. Detta är möjligt eftersom DeepSeek R1:s vikt var öppet tillgänglig. Det betonar fördelarna med öppen källkod i AI: transparens. Alla kan ta modellen och justera den, antingen för att lägga till skyddsåtgärder eller, som i detta fall, för att ta bort påtvingade begränsningar. Att öppna källkoden för modellens utbildningsdata, kod eller vikt betyder också att samhället kan granska hur modellen modifierades. (Perplexity har inte fullständigt avslöjat alla datakällor de använde för avcensurering, men genom att släppa modellen själv har de möjliggjort för andra att observera dess beteende och till och med omträna den om det behövs.)

Detta evenemang pekar också på de bredare geopolitiska dynamikerna i AI-utveckling. Vi ser en form av dialog (eller konfrontation) mellan olika styrningsmodeller för AI. En kinesiskt utvecklad modell med vissa inbyggda världsbilder tas av ett amerikanskt team och ändras för att reflektera en mer öppen informationsanda. Det är ett bevis på hur global och gränslös AI-teknik är: forskare var som helst kan bygga på varandras arbete, men de är inte skyldiga att föra över de ursprungliga begränsningarna. Över tiden kan vi se fler exempel på detta – där modeller “översätts” eller justeras mellan olika kulturella sammanhang. Det väcker frågan om AI någonsin kan vara riktigt universellt, eller om vi kommer att hamna med regionsspecifika versioner som följer lokala normer. Transparens och öppenhet erbjuder en väg att navigera detta: om alla parter kan granska modellerna, är åtminstone diskussionen om bias och censur öppen istället för dold bakom företags- eller regeringshemligheter.

Slutligen understryker Perplexitys drag en viktig punkt i debatten om AI-kontroll: vem bestämmer vad en AI kan eller inte kan säga? I öppna källkodsprojekt decentraliseras den makten. Samhället – eller enskilda utvecklare – kan bestämma att implementera strängare filter eller att slappna av dem. I fallet med R1 1776 beslutade Perplexity att fördelarna med en avcensurerad modell vägde tyngre än riskerna, och de hade friheten att fatta det beslutet och dela resultaten offentligt. Det är ett djärvt exempel på den typ av experiment som öppen AI-utveckling möjliggör.