Det bedste

10 bedste open source-LLM’er (november 2026)

mm mm
Føj Unite.AI til dine foretrukne kilder på Google
Abstract open-source large language model architecture

Den bedste open source-LLM er den, du kan udrulle, evaluere og vedligeholde til det arbejde, du rent faktisk har brug for. En model, der passer til en arbejdsstation, kan være mere værdifuld end en model med en højere score, som kræver en klynge. Omvendt kan en organisation, der kører krævende kodeagenter, med god grund acceptere betydelige infrastrukturomkostninger for at opnå bedre opgaveydelse.

Vi har foretaget en uafhængig vurdering af hver model i denne guide med hensyn til kapacitet, praktiske muligheder for udrulning, licensering, dokumentation og egnethed til det angivne anvendelsesområde. Dette er en redaktionel rangliste, ikke en ny praktisk benchmarktest: De offentliggjorte oplysninger om ydeevne kommer fra de linkede modeludviklere og kan ikke sammenlignes direkte på tværs af forskellige testopsætninger eller indstillinger. Praktisk tilgængelighed vægter højt, og derfor ligger Qwen3.8-27B, Gemma 4 og gpt-oss øverst på listen.

Afgrænsning: Denne guide omfatter både open source-LLM’er og LLM’er med åbne vægte. Vægte, der kan downloades, omfatter ikke nødvendigvis træningsdata eller ubegrænsede brugsrettigheder. Hvert punkt angiver sit checkpoint eller sin modelserie samt licens; overfør ikke antagelser om licenser fra en ældre version eller en anden model fra samme udvikler. Gennemgået den 14. oktober 2026.

Sammenligning af de bedste open source-LLM’er og LLM’er med åbne vægte

AI-værktøjBedst tilFunktioner
Qwen3.8-27BBedste samlede balance til selvhostede applikationerTæt sprogmodel med 27B parametre; billedforståelse; indbygget kontekst på 262K; Apache 2.0
Gemma 4Størst udvalg af størrelser til lokal multimodal AIVarianter med E2B, E4B, 12B, 26B A4B og 31B; Apache 2.0
gpt-ossBedst til lettilgængelig tekstbaseret ræsonneringVarianter med 20b og 120b; konfigurerbar ræsonnering; MXFP4; Apache 2.0
DeepSeek V4Bedst til ræsonnering og kodning i stor skalaOfficiel udgivelse af Pro-0813; Pro- og Flash-størrelser; kontekst på en million tokens; MIT
GLM-5.3Bedst til kodeagenter på serverniveauOpdateret eftertræning; kodning over lange forløb; brugerdefineret GLM-5.3-licens
Kimi K3Bedst til multimodale agentarbejdsgange i stor skalaIndbygget billedforståelse; 2,8T parametre i alt og 104B aktive parametre; kontekst på 1M; brugerdefineret licens
Mistral Small 4Bedste samlede model til erhvervsapplikationer119B parametre i alt, 6,5B aktive; tekst og billeder; kontekst på 256K; Apache 2.0
Devstral Small 2Bedste fokuserede lokale mulighed for kodeagenter24B parametre; værktøjer til kodebaser; billedforståelse; kontekst på 256K; Apache 2.0
Nemotron 3 NanoBedst til at eksperimentere med effektiv inferens for agenter30B parametre i alt, 3,5B aktive; hybrid af Mamba og attention; NVIDIA-licens
Olmo 3.1Bedst til transparent forskning og tilpasningVarianter med 32B Instruct og Think; træningsressourcer; Apache 2.0

1. Qwen3.8-27B

Qwen3.8-27B er vores første anbefaling til udviklere, der ønsker en kapabel og tilpasningsdygtig model uden straks at skulle gå over til en stor GPU-klynge. Den kombinerer en tæt sprogmodel med indbygget forståelse af billeder og video, hvilket gør den nyttig til kodning, dokumentanalyse, forskningsassistenter og applikationer, der skal fortolke skærmbilleder. Placeringen afspejler denne balance mellem funktioner og praktiske muligheder for udrulning, ikke en påstand om, at modellen vinder alle benchmarks.

Modellen understøtter konfigurerbar ræsonnering og et indbygget kontekstvindue på 262.144 tokens med mulighed for at udvide det til en million tokens. Denne forskel er vigtig: Udvidet kontekst kræver konfiguration og yderligere ressourcer og bør ikke betragtes som standardoplevelsen på en arbejdsstation. Hvis du skal bruge en intern dokumentassistent, kan du begynde med en moderat kontekstlængde og informationssøgning og først udvide den, hvis længere input giver målbart bedre svar.

Checkpointet bruger Apache 2.0-licensen. Kvantiserede versioner gør det mere overkommeligt at eksperimentere lokalt, men sprogmodellen, visionskomponenterne, cachen og kørselsmiljøet bruger alle hukommelse. Vælg en implementering, der udtrykkeligt understøtter modellens arkitektur og multimodale input; at modellen indlæses uden problemer til tekst alene, er ikke ensbetydende med, at billeder, værktøjskald eller udvidet kontekst fungerer korrekt.

Fordele og ulemper

  • Nyttig kombination af kodning, ræsonnering og visuel forståelse
  • Praktisk alternativ til modeller, der kræver klynger
  • Tilladende checkpointlicens
  • Kræver stadig betydelig hukommelse ved højere præcision
  • Udvidet kontekst stiller større krav til udrulningen

Se Qwen3.8-27B’s modelkort

2. Gemma 4

Gemma 4 er den mest anvendelige modelserie her, når en multimodal applikation skal tilpasses forskellige hardwarebudgetter. Google tilbyder flere størrelser, herunder modeller med få effektive parametre, en 12B-model, en 26B-mixture-of-experts-model og en tæt 31B-model. Det giver udviklere mulighed for at vælge alt fra enheder med begrænsede ressourcer til arbejdsstationer uden at gå ud fra, at alle brugere kan køre det største kontrolpunkt.

Modellernes egenskaber varierer inden for serien. 31B-modellen kan modtage tekst og billeder, mens E2B, E4B og 12B også understøtter lydinput. De mindre varianter har en kontekst på 128K, mens de større konfigurationer tilbyder 256K. Til en dokument- eller stemmeapplikation bør du først vælge det specifikke kontrolpunkt ud fra inputkravene; den største model er ikke automatisk den bedst egnede, hvis den mangler en nødvendig modalitet.

Gemma 4 bruger Apache 2.0-licensen, men det kræver stadig omhyggelig planlægning af hardwaren. De effektive parametertal for E2B og E4B medregner ikke visse store indlejringskomponenter, så navnene giver ikke et pålideligt estimat af hukommelsesbehovet. Vi placerer modelserien højt på grund af dens fleksible udrulningsmuligheder. Læsere, der ønsker maksimal ydeevne fra én bestemt arbejdsstation, bør sammenligne den relevante Gemma-variant direkte med Qwen på deres egne dokumenter og prompts.

Fordele og ulemper

  • Flere størrelser til forskellige udrulningsbudgetter
  • Billedunderstøttelse i hele modelserien
  • Lydinput i udvalgte varianter
  • Modaliteter og kontekst varierer fra kontrolpunkt til kontrolpunkt
  • Navne baseret på effektive parametre kan skjule hukommelsesbehovet

Se modelkortet for Gemma 4

3. gpt-oss

OpenAI’s gpt-oss er fortsat et praktisk udgangspunkt for privat tekstræsonnering og assistenter med værktøjsunderstøttelse. Serien omfatter varianterne 20b og 120b, hvor den mindre model er beregnet til hardware, der er mere tilgængelig. Den placerer sig højt, fordi målet for udrulningen er klart: Brugere kan opbygge et lokalt ræsonneringssystem uden at skulle begynde med de infrastrukturkrav, der følger med en model med en billion parametre.

Den officielle udgivelse bruger MXFP4-kvantisering af eksperternes vægte. OpenAI angiver, at 20b kan køre med 16 GB hukommelse, og at 120b kan køre på en GPU med 80 GB. Tallene skal ikke opfattes som garantier for alle kontekstlængder, kørselsmiljøer eller antal samtidige brugere. Ræsonneringsindsatsen kan justeres, og modellen understøtter strukturerede output og værktøjskald, når applikationen stiller det nødvendige eksekveringslag til rådighed.

Begge modeller bruger Apache 2.0-licensen og kræver korrekt Harmony-formatering. De understøtter kun tekst, så visuelle dokumentarbejdsgange kræver en anden komponent. Hvis du bygger en kodeassistent, skal du validere værktøjsskemaer og fejlhåndtering, før du giver den skriverettigheder. Den stærkeste grund til at vælge gpt-oss er kontrollerbar og forholdsvis tilgængelig tekstinferens; brugere, der prioriterer indbygget synsunderstøttelse, bør begynde med en anden model på listen.

Fordele og ulemper

  • Den mindre variant har et dokumenteret og overkommeligt hukommelseskrav
  • Justerbar ræsonnering og værktøjsunderstøttelse
  • Tilladende licens
  • Ingen indbygget billed- eller lydinput
  • Korrekt Harmony-formatering er afgørende

Se modelkortet for gpt-oss

4. DeepSeek V4

DeepSeek V4 er et stærkt valg for organisationer, der har kapacitet til inferens i stor skala og ønsker brede ræsonnerings- og kodeegenskaber. Den vigtigste opdatering er den officielle Pro-0813-udgivelse, som afløser den tidligere Pro-forhåndsvisning. En evaluering bør identificere det præcise kontrolpunkt i stedet for at behandle alle slutpunkter mærket V4 som ens, især når resultater sammenlignes, eller ændringer i agentens adfærd skal fejlfindes.

Serien spænder fra Pro med 1,6 billioner samlede parametre, hvoraf 49 milliarder aktiveres pr. token, til Flash med 284 milliarder samlede parametre, hvoraf 13 milliarder aktiveres. Arkitekturen understøtter en kontekst på en million tokens, og den officielle Pro-udgivelse tilføjer et modul til spekulativ afkodning. Disse designvalg sigter mod effektivitet i betydelig skala; antallet af aktiverede parametre beskriver beregningsarbejdet, men fjerner ikke behovet for at lagre de øvrige ekspertvægte.

Udgivelsen er MIT-licenseret. Vi placerer den under de førende modeller til arbejdsstationer, fordi kompleksiteten ved udrulning begrænser målgruppen markant, ikke fordi mindre modeller generelt overgår den. Et team, der bygger en central inferenstjeneste, bør sammenligne Pro og Flash ud fra omkostningen pr. fuldført opgave, samtidighed og værktøjernes pålidelighed. En enkeltudvikler, der ønsker en hurtig lokal assistent, bør begynde med et mindre kontrolpunkt et andet sted i denne guide.

Fordele og ulemper

  • Den officielle udgivelse er en forbedring i forhold til den tidligere forhåndsvisning
  • Pro og Flash tilbyder forskellige valg af skala
  • MIT-licens
  • Store ekspertkontrolpunkter kræver omfattende infrastruktur
  • Ydeevne ved lange kontekster kræver evaluering med den konkrete arbejdsbelastning

Se modelkortet for DeepSeek V4

5. GLM-5.3

GLM-5.3 er Z.ai’s opdaterede model med åbne vægte til krævende softwareudvikling og længerevarende agentopgaver. Den bruger samme grundmodel som GLM-5.2, og forbedringerne stammer fra eftertræning. Udvikleren rapporterer markante fremskridt på tværs af kode- og agentbenchmarks, hvilket gør denne version til den relevante at vurdere i stedet for blot at fastholde den foregående generations placering og beskrivelse.

Modellen er attraktiv til længerevarende arbejde med værktøjer, filer og mellemliggende resultater. En models offentliggjorte agentscore afhænger dog også af testopsætningen, ræsonneringsbudgettet, konteksthåndteringen og den tid, der er til rådighed. Ved evaluering af en assistent til kodearkiver bør man undersøge, om den gennemfører den ønskede ændring, indfører regressioner og bruger værktøjer korrekt. En benchmarkoverskrift alene kan ikke fastslå, om den opnår disse resultater i et andet udviklingsmiljø.

Licensforskellen er væsentlig: GLM-5.3 bruger en speciallicens, ikke MIT-licensen, som tidligere blev knyttet til artiklens omtale af GLM-5.2. Licensen indeholder et yderligere krav om gennemgang for visse meget store virksomheder inden for model-as-a-service. Det store modelcheckpoint kræver også planlægning af serverkapacitet. GLM-5.3 hører hjemme på en kortliste over modeller til virksomheders softwareudvikling, men er ikke et godt standardvalg for læsere, der ønsker en ukompliceret installation på en bærbar computer.

Fordele og ulemper

  • Opdateret fokus på længerevarende kodning og agentopgaver
  • Vægte, der kan downloades, og dokumenterede muligheder for servering
  • Detaljerede evalueringsnoter fra udvikleren
  • Speciallicensen kræver en versionsspecifik gennemgang
  • Infrastrukturkravene udelukker de fleste personlige computere

Se modelkortet for GLM-5.3

6. Kimi K3

Kimi K3 er det specialiserede valg for organisationer, der kombinerer visuel forståelse med langvarig ræsonnering og brug af værktøjer. Moonshots model har i alt 2,8 billioner parametre, hvoraf cirka 104 milliarder aktiveres pr. token, indbygget billedforståelse og et kontekstvindue på én million tokens. Den er relevant, når en assistent skal arbejde med kode, skærmbilleder, dokumenter og lange interaktionshistorikker i samme system.

Integrationsdetaljerne er særligt vigtige. Kimi K3 holder tænkefunktionen aktiveret og forventer, at komplette assistentmeddelelser, herunder oplysninger om ræsonnering og værktøjskald, bevares fra tur til tur. En applikation, der kun gemmer det endelige svar, kan derfor håndtere det tilsigtede samtaleformat forkert. Før du sammenligner modellen med en anden, skal du sikre dig, at serveringslaget og agentrammeværket bevarer den nødvendige historik korrekt.

Den specialudviklede licens og det meget store modelcheckpoint gør dette lige så meget til en infrastrukturbeslutning som til et valg af model. Indbygget kvantisering øger effektiviteten ved servering, men gør ikke modellen til en almindelig arbejdsstationsmodel. Vi anbefaler Kimi K3 til teams, der kan retfærdiggøre driftsomkostningerne med krævende multimodale arbejdsgange; almindelig tekstopsummering eller små dokumentsamlinger kræver sjældent en model i denne størrelsesorden.

Fordele og ulemper

  • Indbygget visuel forståelse kombineret med ræsonnering over lange kontekster
  • Udviklet til længerevarende arbejdsgange med værktøjer
  • Offentliggjorte vægte muliggør kontrolleret implementering
  • Meget omfattende infrastrukturbehov
  • Speciallicens og krav til samtaleformatet

Se modelkortet for Kimi K3

7. Mistral Small 4

Mistral Small 4 kombinerer generel instruktionsefterlevelse, ræsonnering, kodning og billedforståelse i én model. Det gør den attraktiv til en virksomhedsapplikation, der har brug for flere funktioner via en ensartet grænseflade i stedet for at vedligeholde separate specialiserede modeller til hver forespørgsel. Dens placering afspejler denne driftsmæssige alsidighed, især for teams, der allerede er vant til at administrere en omfattende inferenstjeneste.

Trods navnet Small indeholder modellen i alt 119 milliarder parametre, hvoraf 6,5 milliarder aktiveres pr. token. Den understøtter et kontekstvindue på 256K og justerbar ræsonneringsindsats, så en tjeneste kan bruge kortere svar til rutinespørgsmål og mere grundig overvejelse til vanskelige opgaver. Mixture-of-experts-arkitekturen reducerer den aktive beregningsmængde, men det samlede sæt vægte afgør stadig en stor del af lager- og hukommelsesbehovet.

Modelcheckpointet bruger Apache 2.0-licensen. Officielle kvantiserede versioner og muligheder for spekulativ afkodning giver mulighed for optimering, men udbyttet afhænger af hardware og understøttelse i køretidsmiljøet. Hvis du bruger modellen som supportassistent, der læser skærmbilleder og udfører strukturerede handlinger, bør du teste billedkvalitet, overholdelse af skemaer og svartid samlet. Vælg den, når en konsolidering af flere funktioner forenkler driften; gå ikke ud fra, at navnet betyder, at modellen har samme størrelse som en 8B-model til bærbare computere.

Fordele og ulemper

  • Kombinerer ræsonnering, instruktioner, kodning og visuel forståelse
  • Ræsonneringsindsatsen kan tilpasses den enkelte forespørgsel
  • Apache 2.0-licens
  • Navnet Small giver et misvisende indtryk af modellens samlede størrelse
  • Optimeringsgevinster afhænger af implementeringsmiljøet

Se modelkortet for Mistral Small 4

8. Devstral Small 2

Devstral Small 2 er et målrettet alternativ til udviklere, der først og fremmest ønsker en model, som kan udforske kodebaser, redigere filer og fungere som agent i softwareudvikling. Med sine 24 milliarder parametre er den lettere at tage i brug end de store kodningssystemer ovenfor. Den er stadig nyttig som specialmodel, selv når nyere modeller til generelle formål også fortjener en plads i den samme evaluering.

Mistral dokumenterer et kontekstvindue på 256K, billedforståelse og integration med kodemiljøet Vibe. Modellens værdi afhænger af, hvor godt den håndterer et komplet arbejdsgang med redigering og test, snarere end af, om den kan generere et imponerende enkeltstående kodestykke. Vurder den ud fra strukturen i din kodebase, dine programmeringssprog, afhængighedskrav og din testpakke, og brug de samme værktøjer og tilladelser som til konkurrerende modeller.

Udgivelsen bruger Apache 2.0. Mistral fremhæver muligheden for implementering på forbruger-GPU’er og Mac-computere med 32 GB, men præcision, kontekst og belastning under kørsel påvirker, hvad der rent faktisk kan være der. Begynd med kortere sessioner og en kompatibel kvantisering, før du forsøger at behandle meget store kodebaser i én prompt. Vi anbefaler den til en dedikeret kodningsarbejdsstation; teams, der har brug for bred forskningsstøtte, stemmefunktioner eller generel multimodal assistance, bør sammenligne dens mere begrænsede fokus med de højere placerede modeller til generelle formål.

Fordele og ulemper

  • Udviklet til arbejdsgange med kodebaser og værktøjer
  • Mere overkommelig størrelse end flagskibsmodeller til kodning
  • Synsforståelse og tilladende licens
  • Det specialiserede fokus gør den mindre nyttig til brede assistentopgaver
  • Maksimal kontekst er ingen garanti for, at den kan bruges på forbrugerhardware

Se modelkortet for Devstral Small 2

9. Nemotron 3 Nano

NVIDIA’s Nemotron 3 Nano er en interessant mulighed for udviklere, der optimerer effektiviteten af tekstbaserede agenter. Den kombinerer Mamba-komponenter, attention og ekspertblandingslag med i alt 30 milliarder parametre, hvoraf cirka 3,5 milliarder er aktive pr. token. Grunden til at evaluere den er, at arkitekturen kan passe til driften – ikke en antagelse om, at navnet Nano betyder, at den kan køre på enhver enhed.

Modellen understøtter ræsonnerende og ikke-ræsonnerende adfærd via sin chat-skabelon. Det giver en applikation mulighed for at reservere længere overvejelser til vanskelige forespørgsler og samtidig søge hurtigere svar på enklere spørgsmål. Den hybride arkitektur gør også understøttelse i kørselsmiljøet til et afgørende udvælgelseskriterium: Kontrollér den præcise kombination af motor, kvantiseringsformat og hardware i stedet for at gå ud fra, at alle standardoptimeringer til transformermodeller kan anvendes.

Udgivelsen bruger NVIDIA Nemotron Open Model License. Den er en værdifuld kandidat som specialmodel for teams, der opbygger en reproducerbar inferensbenchmark og er villige til at finjustere deres implementering. Sammenlign tiden til et korrekt svar, hukommelsesforbruget og håndteringen af samtidige forespørgsler sideløbende med outputkvaliteten. Læsere, der primært ønsker en visuel assistent, der er klar til brug, vil finde, at de multimodale muligheder tidligere på listen passer bedre til det formål.

Fordele og ulemper

  • Hybridarkitekturen er et effektivt alternativ
  • Justerbar ræsonnerende adfærd
  • Detaljeret teknisk dokumentation
  • Fokuserer på tekst frem for at være en visuel assistent fra starten
  • Understøttelse i kørselsmiljøet og den særlige licens bør kontrolleres

Se modelkortet for Nemotron 3 Nano

10. Olmo 3.1

Ai2’s Olmo 3.1 fortjener en plads, fordi åbenhed handler om mere end en downloadknap. 32B Instruct-modellen indgår i et økosystem, hvor træningsdatasæt, kode, mellemliggende kontrolpunkter og metodik er tilgængelige. For forskere, der undersøger, hvordan træningsvalg påvirker adfærd, kan disse ressourcer være mere værdifulde end en højere score fra en model, hvis udviklingsproces stort set ikke er tilgængelig.

Familien omfatter varianterne Instruct og Think, og dokumentationen beskriver både fortrænings- og eftertræningsfaserne. Det gør det lettere at undersøge valg af tilpasning og sammenligne forskellige stadier i modellens udvikling. Begynd med et instruktionsfinjusteret kontrolpunkt til en assistent; et grundlæggende kontrolpunkt tjener et andet formål og bør ikke vurderes, som om det allerede var optimeret til samtalebrug.

Olmo 3.1 bruger Apache 2.0 og er primært en engelsksproget tekstmodel. Vi placerer den som specialisten i gennemsigtighed, ikke fordi vi hævder, at den fører an på frontlinjen af modellernes kapacitet. En forskergruppe, underviser eller et team, der undersøger modeltilpasning, har en god grund til at vælge den. En produktionskøber, der søger indbygget synsforståelse, størst mulig flersprogethed eller den stærkeste kodningsagent, der er klar til brug, bør først vurdere alternativerne ovenfor.

Fordele og ulemper

  • Træningsressourcer gør det muligt at undersøge modellen og forske i den
  • Flere eftertræningsfaser og modelvarianter
  • Apache 2.0-licens
  • Fokus på engelsksproget tekst begrænser nogle anvendelser
  • Gennemsigtighed i forskningen er ingen garanti for førende nøjagtighed på specifikke opgaver

Se Olmo 3.1-modelkortet

Hvor meget hukommelse har du brug for?

Tag udgangspunkt i den faktiske størrelse på checkpointet og runtime-miljøets dokumenterede krav. Et groft estimat, der kun omfatter vægtene, fås ved at gange antallet af parametre med antallet af bit pr. vægt og dividere med otte. En model på 30B med fire bit kræver cirka 15 GB, før der tages højde for metadata til kvantisering, komponenter, der ikke er kvantiseret, kontekstcache, midlertidige buffere og operativsystemet. Det er en matematisk nedre grænse, ikke en garanti for, at modellen kan være på en maskine med 16 GB.

For Mixture-of-Experts-modeller skal du bruge det samlede antal parametre til at estimere lagerpladsen til vægtene. Antallet af aktiverede parametre kan hjælpe med at forklare beregningen pr. token; det betyder ikke, at de øvrige eksperter forsvinder. Aflastning til CPU’en kan mindske behovet for GPU-hukommelse, men kan reducere hastigheden betydeligt. En Mac deler den samlede hukommelse med systemet, så den bør ikke betragtes som fuldt tilgængelig for modellen.

  • Personlige maskiner med begrænsede ressourcer: Start med en mindre Gemma-variant, eller afprøv gpt-oss-20b med en understøttet konfiguration. Sørg for at have ekstra kapacitet, og begynd med en beskeden kontekstlængde.
  • Arbejdsstationer med mere hukommelse: Sammenlign Qwen3.8-27B i kvantiseret udgave, relevante Gemma-varianter og Devstral Small 2. Kontrollér billedunderstøttelsen særskilt fra tekstinferens.
  • Servere og klynger: Overvej DeepSeek V4, GLM-5.3, Kimi K3 eller større konfigurationer, når opgavens værdi står mål med omkostningerne ved drift og den operationelle kompleksitet.

En models maksimale kontekstvindue er heller ikke en anbefalet indstilling til daglig brug. Længere input øger kravene til hukommelse og processorkraft, mens samtidige brugere mangedobler ressourcebehovet. Se vores guide til værktøjer til at køre LLM’er lokalt for at få hjælp til valg af installation og til at forstå forskellen mellem modeller, runtime-miljøer og grænseflader.

Åben kildekode, åbne vægte og privat implementering

Adgang til vægtene giver dig kontrol over, hvor inferensen køres, men giver dig ikke automatisk den fulde opskrift på træningen eller ret til enhver anvendelse. Modeller med Apache 2.0- og MIT-licens bør stadig kontrolleres for det konkrete checkpoint. GLM-5.3, Kimi K3 og Nemotron bruger deres egne modellicenser. Olmo er særligt relevant, når adgang til udviklingsprocessen er lige så vigtig som adgang til de endelige vægte.

Ved selvhosting kan du holde prompts inden for din egen infrastruktur, hvis hele applikationen er konfigureret sådan. Embeddings i skyen, ekstern søgning, logningstjenester og agentværktøjer kan stadig sende data andre steder hen. Vurder hele arbejdsgangen, og mål både forkerte svar og mislykkede handlinger samt svartid. Brug afgrænsede tilladelser og et godkendelsestrin, når handlingen tilsiger det, for værktøjer, der ændrer filer eller interagerer med virksomhedssystemer.

Hvilken åben LLM skal du vælge?

Hvis du vil lave en praktisk indledende sammenligning, kan du begynde med Qwen3.8-27B til generelle multimodale anvendelser, Gemma 4 for at vælge mellem lokale modelstørrelser og gpt-oss for let tilgængelig tekstbaseret ræsonnering. De er gode udgangspunkter, før du forpligter dig til en central inferensklynge.

Til krævende opgaver på serverskala kan du sammenligne DeepSeek V4 til bred ræsonnering og kodning, GLM-5.3 til længerevarende softwareagenter og Kimi K3 til multimodale arbejdsgange. Mistral Small 4 er værd at afprøve, når én model skal kunne håndtere flere forretningsopgaver med konfigurerbar ræsonnering.

Specialmodellerne dækker forskellige behov: Devstral Small 2 til en arbejdsstation, der er målrettet kodning, Nemotron 3 Nano til tekstbaserede agenter med fokus på effektivitet og Olmo 3.1 til gennemsigtig forskning og tilpasning. Vælg to eller tre modeller, der passer til din hardware og dine licenskrav, og afprøv dem derefter på de samme repræsentative opgaver, før du vælger en løsning til udrulning.

Alex leder Unite.AI's AI-drevne nyhedsoperationer, der kombinerer journalistik, forskning og automatisering for at understøtte rettidig og skalerbar dækning af kunstig intelligens. Hans arbejde hjælper med at sikre, at nye AI-udviklinger fremhæves effektivt, samtidig med at publikationens redaktionelle standarder opretholdes.

Antoine er en visionær leder og stiftende partner i Unite.AI, drevet af en urokkelig passion for at forme og fremme fremtiden for AI og robotteknologi. Som serieiværksætter mener han, at AI vil forandre samfundet lige så grundlæggende som elektriciteten, og han taler ofte begejstret om potentialet i banebrydende teknologier og kunstig generel intelligens (AGI).

Som fremtidsforsker er han optaget af at undersøge, hvordan disse innovationer vil forme vores verden. Han er desuden grundlægger af Securities.io, en platform med fokus på investering i avancerede teknologier, der omdefinerer fremtiden og omformer hele brancher.