Perplexity AI “avsensorer” DeepSeek R1: Hvem bestemmer AI-grensene?

I et trekk som har fanget oppmerksomheten til mange, har Perplexity AI lansert en ny versjon av en populær åpen kildekode-språkmodell som fjerner innbygde kinesiske sensurfilter. Denne modifiserte modellen, kalt R1 1776 (et navn som minner om uavhengighetens ånd), er basert på den kinesisk-utviklede DeepSeek R1. Den originale DeepSeek R1 skapte bølger for sin sterke resonneringskapasitet – ifølge rapporter rivaliserer den med toppmodeller til en brøkdel av kostnaden – men den kom med en betydelig begrensning: den nektet å behandle visse sensitive emner.

Hvorfor er dette viktig?

Dette reiser kritiske spørsmål om AI-overvåking, bias, åpenhet og rolle av geopolitikk i AI-systemer. Denne artikkelen utforsker hva Perplexity gjorde, implikasjonene av å fjerne sensuren og hvordan det passer inn i den større samtalen om AI-gjennomsiktighet og sensur.

Hva skjedde: DeepSeek R1 går usensurert

DeepSeek R1 er en åpen vektstor språkmodell som opprinnelig kom fra Kina og fikk oppmerksomhet for sin utmerkede resonneringskapasitet – selv nærmet seg ytelsen til ledende modeller – samtidig som den var mer komputasjonelt effektiv​. Men brukerne merket raskt en egenhet: når spørsmålene berørte sensitive emner i Kina (for eksempel politiske kontroverser eller historiske hendelser som myndighetene anså som tabu), nektet DeepSeek R1 å svare direkte. I stedet svarte den med forhåndsdefinerte, statlig godkjente uttalelser eller rett og slett nektet å svare, og reflekterte dermed de kinesiske myndighetenes sensurregler​. Denne innbygde bias begrenset modellens nytte for de som søkte åpne eller nuanserte diskusjoner om disse emnene.

Perplexity AI’s løsning var å “avsensorere” modellen gjennom en omfattende ettertreningprosess. Selskapet samlet en stor datasett på 40 000 flerspråklige spørsmål som DeepSeek R1 tidligere hadde sensurert eller svart undvigende på​. Med hjelp av menneskelige eksperter identifiserte de omtrent 300 sensitive emner hvor den originale modellen tenderte til å følge partiets linje​. For hvert slikt spørsmål kuraterte teamet faktiske, velbegrundede svar på flere språk. Disse innsatsene ble brukt i et flerspråklig sensur-deteksjons- og korreksjonssystem, som i praksis lærte modellen å gjenkjenne når den anvendte politisk sensur og å svare med et informativt svar i stedet​. Etter denne spesialtilpassingen (som Perplexity kalt “R1 1776” for å understreke frihetstemaet), ble modellen gjort åpen og tilgjengelig. Perplexity hevder å ha fjernet de kinesiske sensurfilterne og bias fra DeepSeek R1’s svar, uten å endre dens grunnleggende evner​.

Kritisk sett adfærder R1 1776 seg veldig annerledes på tidligere tabuiserte spørsmål. Perplexity ga et eksempel med et spørsmål om Taiwans uavhengighet og dens potensielle innvirkning på NVIDIA’s aksjepris – et politisk sensitivt emne som berører Kina-Taiwan-forholdene. Den originale DeepSeek R1 unngikk spørsmålet og svarte med CCP-orienterte plattityder. I motsetning leverer R1 1776 en detaljert, åpen vurdering: den diskuterer konkrete geopolitiske og økonomiske risikoer (forsyningskjede-avbrudd, markedsvolatilitet, mulig konflikt osv.) som kunne påvirke NVIDIA’s aksje​. 

Ved å gjøre R1 1776 åpen kildekode, har Perplexity også gjort modellens vekter og endringer gjennomsiktige for samfunnet. Utviklere og forskere kan laste den ned fra Hugging Face og sogar integrere den via API, og sikre at fjerningen av sensur kan granskes og bygges videre av andre.

(Kilde: Perplexity AI)

Implikasjonene av å fjerne sensuren

Perplexity AI’s beslutning om å fjerne den kinesiske sensuren fra DeepSeek R1 har flere viktige implikasjoner for AI-samfunnet:

• Forbedret åpenhet og sannhet: Brukerne av R1 1776 kan nå motta usensurerte, direkte svar på tidligere forbudte emner, noe som er en seier for åpen undersøkelse​. Dette kan gjøre den til en mer pålitelig assistent for forskere, studenter eller noen som er nysgjerrig på sensitive geopolitiske spørsmål. Det er et konkrekt eksempel på å bruke åpen kildekode-AI til å motvirke informasjonsundertrykking.
• Bevart ytelse: Det var bekymringer om at å justere modellen for å fjerne sensur kunne forringe dens ytelse i andre områder. Imidlertid rapporterer Perplexity at R1 1776’s grunnleggende ferdigheter – som matematikk og logisk resonnering – forblir på linje med den originale modellen​. I tester på over 1 000 eksempler som dekket et bredt spekter av sensitive spørsmål, ble modellen funnet å være “fullstendig usensurert” samtidig som den beholdt samme nivå av resonneringsnøyaktighet som DeepSeek R1​. Dette antyder at bias-fjerning (i dette tilfelle) ikke kom på bekostning av total intelligens eller evne, noe som er et oppmuntrende tegn for lignende fremtidige innsats.
• Positiv mottakelse og samarbeid i samfunnet: Ved å gjøre den avsensurerte modellen åpen kildekode, inviterer Perplexity AI-samfunnet til å inspisere og forbedre deres arbeid. Det demonstrerer en forpliktelse til åpenhet – AI-ekvivalenten av å vise frem sitt arbeid. Enthusiaster og utviklere kan verifisere at sensur-begrensningene er virkelig fjernet og potensielt bidra til videre forbedringer. Dette fremmer tillit og innovasjon i en bransje hvor lukkede modeller og skjulte modereringsregler er vanlige.
• Etiske og geopolitiske overveielser: På den andre siden reiser fullstendig fjerning av sensur komplekse etiske spørsmål. Et umiddelbart bekymring er hvordan denne usensurerte modellen kan bli brukt i sammenhenger hvor de sensurerte emnene er ulovlige eller farlige. For eksempel, hvis noen i Fastlands-Kina bruker R1 1776, kan modellens usensurerte svar om Tiananmen-plassen eller Taiwan sette brukeren i fare. Det er også det bredere geopolitiske signal: en amerikansk selskap som endrer en kinesisk-utviklet modell for å trodse kinesisk sensur, kan sees på som en dristig ideologisk holdning. Navnet “1776” understreker en frigjørings-tema, som ikke har gått uoppmerket forbi. Noen kritikere hevder at erstatter en sett med bias med en annen er mulig – essensielt spørrende om modellen nå kan reflektere en vestlig synsvinkel i sensitive områder​. Debatten understreker at sensur kontra åpenhet i AI ikke bare er et teknisk spørsmål, men også et politisk og etisk ett. Der en person ser nødvendig moderering, ser en annen sensur, og å finne riktig balanse er vanskelig.

Fjerningen av sensur feires hovedsakelig som et skritt mot mer gjennomsiktige og globalt nyttige AI-modeller, men det tjener også som en påminnelse om at hva en AI bør si er et sensitivt spørsmål uten universell enighet.

(Kilde: Perplexity AI)

Det større bildet: AI-sensur og åpen kildekode-gjennomsiktighet

Perplexity’s lansering av R1 1776 kommer på et tidspunkt når AI-samfunnet kjemper med spørsmål om hvordan modeller skal håndtere kontroversielt innhold. Sensur i AI-modeller kan komme fra mange steder. I Kina er teknologiselskaper pålagt å bygge inn strenge filter og sogar hardkodete svar for politisk sensitive emner. DeepSeek R1 er et primæreksempel på dette – det var en åpen kildekode-modell, men det bar tydelig preg av Kinas sensurnormer i sin trening og finjustering. I motsetning har mange vestlig-utviklede modeller, som OpenAI’s GPT-4 eller Meta’s LLaMA, ikke samme forpliktelse til å følge KKP-retningslinjer, men de har likevel modereringslag (for ting som hatytringer, vold eller desinformasjon) som noen brukere kaller “sensur”. Grensen mellom rimelig moderering og uønsket sensur kan være uklar og ofte avhenger av kulturell eller politisk perspektiv.

Hva Perplexity AI gjorde med DeepSeek R1 reiser tanken om at åpen kildekode-modeller kan tilpasses forskjellige verdensbilder eller reguleringer. I teorien kunne en lage flere versjoner av en modell: en som overholder kinesiske regler (for bruk i Kina), og en som er fullstendig åpen (for bruk andre steder). R1 1776 er essensielt det siste tilfelle – en usensurert gren som er ment for en global publikum som foretrekker ufiltrete svar. Dette er bare mulig fordi DeepSeek R1’s vekter var åpen og tilgjengelig. Det understreker fordelene med åpen kildekode i AI: gjennomsiktighet. Enhver kan ta modellen og justere den, enten for å legge til sikkerhet eller, som i dette tilfelle, for å fjerne påtvungne begrensninger. Å gjøre modellens treningsdata, kode eller vekter åpen kildekode betyr også at samfunnet kan granske hvordan modellen ble endret. (Perplexity har ikke fullstendig avdekket alle datakildene de brukte for avsensurering, men ved å utgi modellen selv har de muliggjort at andre kan observere dens atferd og sogar gjenopprette den hvis nødvendig.)

Dette arrangementet peker også mot de bredere geopolitiske dynamikkene i AI-utvikling. Vi ser en form for dialog (eller konfrontasjon) mellom forskjellige styreformer for AI. En kinesisk-utviklet modell med visse innbygde verdensbilder blir tatt av et amerikansk team og endret for å reflektere en mer åpen informasjons-ethos. Det er et vitnesbyrd om hvor global og grenseløs AI-teknologi er: forskere overalt kan bygge på hverandres arbeid, men de er ikke forpliktet til å bære over de originale begrensningene. Over tid kan vi se flere eksempler på dette – hvor modeller blir “oversatt” eller justert mellom forskjellige kulturelle kontekster. Det reiser spørsmålet om AI noen gang kan være virkelig universell, eller om vi vil ende opp med regionsspesifikke versjoner som følger lokale normer. Gjennomsiktighet og åpenhet tilbyr en vei til å navigere dette: hvis alle parter kan inspisere modellene, er i det minste samtalen om bias og sensur åpen og ikke skjult bak korporativ eller statlig hemmelighold.

Til slutt understreker Perplexity’s trekk en nøkkelunkt i debatten om AI-kontroll: hvem bestemmer hva en AI kan eller ikke kan si? I åpen kildekode-prosjekter blir denne makten desentralisert. Samfunnet – eller enkeltutviklere – kan bestemme å implementere strengere filter eller å løsne dem. I tilfelle R1 1776 bestemte Perplexity at fordelene med en usensurert modell veide tyngre enn risikoen, og de hadde friheten til å ta denne avgjørelsen og dele resultatet offentlig. Det er et dristig eksempel på den type eksperimentering som åpen AI-utvikling muliggjør.