Perplexity AI “afsensorer” DeepSeek R1: Hvem bestemmer AI’s grænser?

I et træk, der har fanget mange menneskers opmærksomhed, har Perplexity AI udgivet en ny version af en populær open-source sprogmodel, der fjerner den indbyggede kinesiske censur. Denne modificerede model, kaldet R1 1776 (et navn, der minder om uafhængighedens ånd), er baseret på den kinesisk-udviklede DeepSeek R1. Den originale DeepSeek R1 skabte bølger med sin stærke evne til at forstå sammenhænge – ifølge rapporter var den på niveau med topmodellerne til en brøkdel af prisen – men den havde en betydelig begrænsning: den nægtede at beskæftige sig med visse følsomme emner.

Hvorfor er dette vigtigt?

Det rejser kritiske spørgsmål om AI-overvågning, bias, åbenhed og geopolitikkens rolle i AI-systemer. Denne artikel udforsker, hvad Perplexity præcis gjorde, implikationerne af at fjerne censuren og hvordan det passer ind i den større diskussion om AI-gennemsigtighed og censur.

Hvad skete: DeepSeek R1 går uden censur

DeepSeek R1 er en open-source stor sprogmodel, der stammer fra Kina og er blevet berømt for sin fremragende evne til at forstå sammenhænge – næsten på niveau med de førende modeller – samtidig med, at den er mere computermæssigt effektiv​. Men brugere lagde hurtigt mærke til en underligegenskab: når spørgsmål berørte emner, der er følsomme i Kina (f.eks. politiske kontroverser eller historiske begivenheder, der er forbudt af myndighederne), ville DeepSeek R1 ikke svare direkte. I stedet svarede den med standardiserede, af myndighederne godkendte udtalelser eller direkte afvisninger, der afspejlede kinesiske censurregler​. Denne indbyggede bias begrænsede modellens nyttighed for dem, der søger ærlige eller nuancerede diskussioner om disse emner.

Perplexity AIs løsning var at “afsensorere” modellen gennem en omfattende efter-træning. Virksomheden samlede en stor dataset på 40.000 multilingvale spørgsmål, der dækkede spørgsmål, som DeepSeek R1 tidligere havde censureret eller svaret undvigende​. Med hjælp fra menneskelige eksperter identificerede de ca. 300 følsomme emner, hvor den originale model havde en tendens til at følge partilinjen​. For hvert sådant spørgsmål kuraterede teamet faktuelle, velbegrundede svar på flere sprog. Disse bestræbelser blev ført ind i et multilingvalt censur-detection- og korrektursystem, der i virkeligheden lærte modellen at genkende, når den anvendte politisk censur, og svarede med et informativt svar i stedet​. Efter denne specielle finjustering (som Perplexity kaldte “R1 1776” for at fremhæve frihedstemaet) blev modellen gjort åben tilgængelig. Perplexity hævder at have fjernet de kinesiske censurfilter og bias fra DeepSeek R1s svar uden at ændre dens kernefærdigheder​.

Kritisk set adfærder R1 1776 sig meget anderledes på tidligere tabuiserede spørgsmål. Perplexity gav et eksempel om et spørgsmål om Taiwans uafhængighed og dens potentielle indvirkning på NVIDIAs aktiekurs – et politisk følsomt emne, der berører Kina-Taiwan-forholdene. Den originale DeepSeek R1 undgik spørgsmålet og svarede med CCP-orienterede platitude. I modsætning hertil leverer R1 1776 en detaljeret, ærlig vurdering: den diskuterer konkrete geopolitiske og økonomiske risici (forstyrrelser i forsyningskæden, markedsvolatilitet, mulig konflikt osv.), der kunne påvirke NVIDIAs aktiekurs​. 

Ved at åbne R1 1776 har Perplexity også gjort modellens vægte og ændringer gennemsigtige for fællesskabet. Udviklere og forskere kan downloade den fra Hugging Face og endda integrere den via API, hvilket sikrer, at fjernelsen af censur kan undersøges og bygges videre af andre.

(Kilde: Perplexity AI)

Implikationer af at fjerne censuren

Perplexity AIs beslutning om at fjerne den kinesiske censur fra DeepSeek R1 har flere vigtige implikationer for AI-fællesskabet:

• Forbedret åbenhed og sandhed: Brugere af R1 1776 kan nu få uncensurerede, direkte svar på tidligere forbudte emner, hvilket er en sejr for åben undersøgelse​. Dette kunne gøre det til en mere pålidelig assistent for forskere, studerende eller hvem som helst, der er nysgerrig om følsomme geopolitiske spørgsmål. Det er et konkrekt eksempel på, hvordan åben kilde-AI kan modvirke informationsundertrykkelse.
• Bevaret præstation: Der var bekymringer om, at justeringen af modellen til at fjerne censur kunne forringe dens præstation på andre områder. Men Perplexity rapporterer, at R1 1776s kernefærdigheder – som matematik og logisk resonnering – forbliver på niveau med den originale model​. I tests på over 1.000 eksempler, der dækkede et bredt udvalg af følsomme spørgsmål, blev modellen fundet at være “fuldstændig uncensureret” samtidig med, at den beholdt samme niveau af resonansnøjagtighed som DeepSeek R1​. Dette antyder, at bias-fjernelse (i hvert fald i dette tilfælde) ikke kom på bekostning af den samlede intelligens eller kapacitet, hvilket er et opmuntrende tegn for lignende bestræbelser i fremtiden.
• Positiv fællesskabsmodtagelse og samarbejde: Ved at åbne den afcensurerede model inviterer Perplexity AI-fællesskabet til at inspicere og forbedre deres arbejde. Det demonstrerer en tilgang til gennemsigtighed – AI-ækvivalent til at vise ens arbejde. Enthusiaster og udviklere kan verificere, at censur-begrænsningerne er virkelig fjernet, og potentielt bidrage til yderligere forbedringer. Dette fremmer tillid og innovativt samarbejde i en branche, hvor lukkede modeller og skjulte modereringsregler er almindelige.
• Ethiske og geopolitiske overvejelser: På den anden side rejser den fuldstændige fjernelse af censur komplekse etiske spørgsmål. Et umiddelbart bekymring er, hvordan denne afcensurerede model kan blive brugt i sammenhænge, hvor de censurerede emner er ulovlige eller farlige. For eksempel, hvis nogen i Fastlandskina brugte R1 1776, kunne modellens afcensurerede svar om Tiananmen-pladsen eller Taiwan bringe brugeren i fare. Der er også det bredere geopolitiske signal: en amerikansk virksomhed, der ændrer en kinesisk-udviklet model for at trodse kinesisk censur, kan ses som en dristig ideologisk holdning. Navnet “1776” understreger en tema om befrielse, som ikke er gået upåagtet hen. Nogle kritikere mener, at erstatning af en sæt af bias med en anden er mulig – essentielt spørgende, om modellen nu kan reflektere en vestlig synsvinkel på følsomme områder​. Debatten fremhæver, at censur vs. åbenhed i AI ikke kun er et teknisk spørgsmål, men et politisk og etisk.

Fjernelsen af censur fejres overvejende som et skridt mod mere gennemsigtige og globalt nyttige AI-modeller, men det fungerer også som en påmindelse om, at det, en AI bør sige, er et følsomt spørgsmål uden universel enighed.

(Kilde: Perplexity AI)

Det større billede: AI-censur og åben kilde-gennemsigtighed

Perplexitys R1 1776-lancering kommer på et tidspunkt, hvor AI-fællesskabet kæmper med spørgsmål om, hvordan modeller skal håndtere kontroversielt indhold. Censur i AI-modeller kan komme fra mange steder. I Kina er teknologivirksomheder pålagt at bygge strenge filter og endda hardkodede svar for politisk følsomme emner. DeepSeek R1 er et eksempel på dette – det var en åben kilde-model, men det bar tydeligt præg af Kinas censurnormer i sin træning og finjustering. I modsætning hertil er mange vestligt udviklede modeller, som OpenAIs GPT-4 eller Metas LLaMA, ikke underlagt CCP-retningslinjer, men de har stadig modereringslag (for ting som hadefulde udtalelser, vold eller desinformation) som nogle brugere kalder “censur”. Grænsen mellem rimelig moderering og uønsket censur kan være uklar og ofte afhænger af kulturel eller politisk synsvinkel.

Hvad Perplexity AI gjorde med DeepSeek R1 rejser idéen om, at åben kilde-modeller kan tilpasses til forskellige værdissystemer eller reguleringer. I teorien kunne man oprette multiple versioner af en model: en, der overholder kinesiske regler (til brug i Kina), og en, der er fuldstændig åben (til brug andre steder). R1 1776 er essentielt det sidste tilfælde – en afcensureret gren, der er tiltænkt en global publikum, der foretrækker ufiltrorede svar. Dette slags gren er kun muligt, fordi DeepSeek R1s vægte var åbent tilgængelige. Det fremhæver fordelene ved åben kilde i AI: gennemsigtighed. Enhver kan tage modellen og justere den, enten for at tilføje sikkerhedsforanstaltninger eller, som i dette tilfælde, for at fjerne pålagte begrænsninger. Åbningsmodellens træningsdata, kode eller vægte betyder også, at fællesskabet kan gennemgå, hvordan modellen blev ændret. (Perplexity har ikke fuldt ud afsløret alle datakilder, de brugte til afcensurering, men ved at udgive modellen selv har de gjort det muligt for andre at observere dens adfærd og endda gen-træne den, hvis nødvendigt.)

Dette begivenhed antyder også de bredere geopolitiske dynamikker i AI-udvikling. Vi ser en form for dialog (eller konfrontation) mellem forskellige styreformer for AI. En kinesisk-udviklet model med visse indbyggede verdensanskuelse bliver taget af et amerikansk-baseret hold og ændret for at reflektere en mere åben informations-ethos. Det er et vidnesbyrd om, hvor global og grænseløs AI-teknologi er: forskere overalt kan bygge på hinandens arbejde, men de er ikke forpligtet til at overtage de oprindelige begrænsninger. Over tid kan vi måske se flere tilfælde af dette – hvor modeller “oversættes” eller justeres mellem forskellige kulturelle sammenhænge. Det rejser spørgsmålet om, hvorvidt AI kan være virkelig universel eller om vi vil ende med regionsspecifikke versioner, der overholder lokale normer. Gennemsigtighed og åbenhed giver en vej til at navigere i dette: hvis alle parter kan inspicere modellerne, er samtalen om bias og censur i hvert fald åben og ikke skjult bag corporate eller regeringshemmelighed.

Til sidst understreger Perplexitys træk et nøglepunkt i debatten om AI-kontrol: hvem bestemmer, hvad en AI kan eller ikke kan sige? I åben kilde-projekter bliver denne magt decentraliseret. Fællesskabet – eller enkeltudviklere – kan beslutte at implementere strengere filter eller at afslække dem. I tilfældet R1 1776 besluttede Perplexity, at fordelene ved en afcensureret model overvægede risikoen, og de havde friheden til at træffe dette valg og dele resultaterne offentligt. Det er et dristigt eksempel på den type eksperimenter, der er mulige med åben AI-udvikling.