To nejlepší

10 nejlepších open-source LLM (listopad 2026)

mm mm
Přidejte Unite.AI mezi své preferované zdroje na Google
Abstract open-source large language model architecture

Nejlepší open-source LLM je ten, který můžete nasadit, vyhodnocovat a udržovat pro práci, kterou skutečně potřebujete. Model, který se vejde na pracovní stanici, může být užitečnější než model s lepším skóre, k jehož provozu je potřeba cluster. Organizace provozující náročné programovací agenty naopak může rozumně přijmout značné náklady na infrastrukturu výměnou za lepší výkon při plnění úloh.

Každý model v tomto přehledu jsme nezávisle vyhodnotili z hlediska schopností, praktičnosti nasazení, licencování, dokumentace a vhodnosti pro deklarovaný účel. Jde o redakční žebříček, nikoli o nový praktický benchmark: zveřejněné údaje o výkonu pocházejí od vývojářů modelů, na které odkazujeme, a výsledky z různých testovacích sad či nastavení nelze přímo porovnávat. Velkou váhu přikládáme praktické dostupnosti, proto seznam vedou Qwen3.8-27B, Gemma 4 a gpt-oss.

Rozsah: Tento průvodce se věnuje open-source LLM i modelům s otevřenými vahami. Stažitelné váhy nemusí nutně zahrnovat trénovací data ani neomezená práva k používání. U každé položky uvádíme konkrétní kontrolní bod nebo rodinu modelů a licenci; nepřenášejte předpoklady o licencování ze starší verze ani z jiného modelu téhož vývojáře. Recenze byla dokončena 14. října 2026.

Srovnání nejlepších open-source LLM a LLM s otevřenými vahami

AI nástrojNejlepší proFunkce
Qwen3.8-27BNejlepší celková rovnováha pro aplikace provozované na vlastním serveruJazykový model s hustou architekturou (27B); zpracování obrazu; nativní kontext 262K; Apache 2.0
Gemma 4Nejlepší výběr velikostí pro lokální multimodální AIVarianty E2B, E4B, 12B, 26B A4B a 31B; Apache 2.0
gpt-ossNejlepší dostupná možnost pro textové uvažováníVarianty 20b a 120b; nastavitelné uvažování; MXFP4; Apache 2.0
DeepSeek V4Nejlepší pro rozsáhlé obecné uvažování a programováníOficiální vydání Pro-0813; velikosti Pro a Flash; kontext s milionem tokenů; MIT
GLM-5.3Nejlepší pro programovací agenty provozované na serverechAktualizované dodatečné trénování; programování v dlouhém časovém horizontu; vlastní licence GLM-5.3
Kimi K3Nejlepší pro rozsáhlé multimodální pracovní postupy agentůNativní zpracování obrazu; celkem 2,8T a 104B aktivních parametrů; kontext 1M; vlastní licence
Mistral Small 4Nejlepší jednotný model pro firemní aplikaceCelkem 119B, aktivních 6,5B; text a obrázky; kontext 256K; Apache 2.0
Devstral Small 2Nejlepší specializovaná lokální možnost pro programovací agenty24B parametrů; nástroje pro práci s kódovou základnou; zpracování obrazu; kontext 256K; Apache 2.0
Nemotron 3 NanoNejlepší pro experimentování s efektivní inferencí agentůCelkem 30B, aktivních 3,5B; hybridní architektura Mamba a attention; licence NVIDIA
Olmo 3.1Nejlepší pro transparentní výzkum a přizpůsobováníVarianty 32B Instruct a Think; trénovací zdroje; Apache 2.0

1. Qwen3.8-27B

Qwen3.8-27B doporučujeme jako první volbu vývojářům, kteří hledají schopný a přizpůsobitelný model a nechtějí hned přecházet na rozsáhlý GPU cluster. Spojuje jazykový model s hustou architekturou s nativním porozuměním obrázkům a videu, takže se hodí pro programování, analýzu dokumentů, výzkumné asistenty i aplikace, které potřebují interpretovat snímky obrazovky. Jeho umístění odráží vyváženost schopností a praktičnosti nasazení, nikoli tvrzení, že vítězí ve všech benchmarcích.

Model podporuje nastavitelné uvažování a má nativní kontextové okno o velikosti 262 144 tokenů, které lze rozšířit až na milion tokenů. Na tomto rozdílu záleží: delší kontext vyžaduje konfiguraci a další prostředky, a neměl by se proto považovat za výchozí nastavení při provozu na pracovní stanici. U interního asistenta pro práci s dokumenty začněte s menším kontextem a vyhledáváním relevantních informací a rozsah rozšiřujte pouze tehdy, když delší vstupy měřitelně zlepšují odpovědi.

Kontrolní bod používá licenci Apache 2.0. Kvantizované verze usnadňují místní experimentování, ale jazykový model, komponenty pro zpracování obrazu, mezipaměť i běhové prostředí spotřebovávají paměť. Zvolte implementaci, která výslovně podporuje danou architekturu a multimodální vstupy; úspěšné načtení pouze pro zpracování textu ještě nedokazuje, že správně fungují obrázky, volání nástrojů nebo rozšířený kontext.

Výhody a nevýhody

  • Užitečná kombinace programování, uvažování a vizuálního porozumění
  • Praktická alternativa k modelům vyžadujícím rozsáhlé clustery
  • Permisivní licence kontrolního bodu
  • Při vyšší numerické přesnosti stále vyžaduje značné množství paměti
  • Rozšířený kontext zvyšuje nároky na nasazení

Zobrazit kartu modelu Qwen3.8-27B

2. Gemma 4

Gemma 4 je nejužitečnější rodina modelů pro výběr multimodální aplikace podle různých hardwarových možností. Google nabízí několik velikostí, včetně modelů s malým efektivním počtem parametrů, modelu 12B, varianty typu mixture-of-experts s 26B a hustého modelu 31B. Vývojářům tak nabízí cestu od zařízení s omezenými zdroji až po pracovní stanice, aniž by předpokládal, že každý uživatel dokáže provozovat největší checkpoint.

Schopnosti se v rámci této rodiny liší. Model 31B přijímá text a obrázky, zatímco E2B, E4B a 12B podporují také zvukový vstup. Menší varianty mají kontext o délce 128K, větší konfigurace pak 256K. U aplikace pro práci s dokumenty nebo hlasem vybírejte konkrétní checkpoint nejprve podle požadavků na vstup; největší model není automaticky nejvhodnější, pokud nepodporuje požadovaný typ vstupu.

Gemma 4 využívá licenci Apache 2.0, při plánování hardwaru je však stále třeba postupovat obezřetně. Uváděné efektivní počty parametrů modelů E2B a E4B nezahrnují některé rozsáhlé embeddingové komponenty, takže podle těchto označení nelze spolehlivě odhadnout nároky na paměť. Tuto rodinu řadíme vysoko díky širokému výběru možností nasazení; čtenáři, kteří hledají maximální výkon na jediné pevně dané pracovní stanici, by měli příslušnou variantu Gemma přímo porovnat s modelem Qwen na vlastních dokumentech a zadáních.

Výhody a nevýhody

  • Několik velikostí pro různé hardwarové možnosti při nasazení
  • Podpora obrázků napříč celou rodinou
  • Zvukový vstup u vybraných variant
  • Podporované typy vstupu a délka kontextu se liší podle checkpointu
  • Označení podle efektivního počtu parametrů může zastírat skutečné nároky na paměť

Zobrazit kartu modelu Gemma 4

3. gpt-oss

gpt-oss od OpenAI zůstává praktickým výchozím bodem pro soukromé uvažování nad textem a asistenty s podporou nástrojů. Tato rodina zahrnuje varianty 20b a 120b, přičemž menší model cílí na dostupnější hardware. V žebříčku se umístil vysoko díky jasně vymezenému cílovému způsobu nasazení: uživatelé mohou vytvořit lokální systém pro uvažování, aniž by museli začínat s infrastrukturními nároky modelu s bilionem parametrů.

Oficiální vydání používá kvantizaci MXFP4 pro váhy expertů. OpenAI uvádí, že model 20b lze provozovat s pamětí do 16 GB a model 120b na GPU s 80 GB; tyto hodnoty nelze považovat za záruku pro každou délku kontextu, běhové prostředí ani počet současných uživatelů. Náročnost uvažování lze upravovat a model podporuje strukturované výstupy i volání nástrojů, pokud aplikace poskytuje potřebnou vrstvu pro jejich vykonávání.

Oba modely používají licenci Apache 2.0 a vyžadují správné formátování Harmony. Pracují pouze s textem, takže pro vizuální práci s dokumenty je třeba přidat další komponentu. Před udělením oprávnění k zápisu ověřte u asistenta pro programování schémata nástrojů i obnovu po chybách. Nejsilnějším důvodem pro volbu gpt-oss je možnost řídit textovou inferenci, která je ve srovnání s jinými řešeními dostupná s relativně nízkými nároky; uživatelé, kteří upřednostňují nativní zpracování obrazu, by měli začít u jiné položky.

Výhody a nevýhody

  • Menší varianta má dostupný, zdokumentovaný paměťový požadavek
  • Nastavitelné uvažování a podpora nástrojů
  • Licence s permisivními podmínkami
  • Bez nativního zvukového nebo obrazového vstupu
  • Správné formátování Harmony je zásadní

Zobrazit kartu modelu gpt-oss

4. DeepSeek V4

DeepSeek V4 je vhodnou volbou pro organizace, které mají prostředky na rozsáhlou inferenci a chtějí široké schopnosti v oblasti uvažování a programování. Důležitou novinkou je oficiální vydání Pro-0813, které nahrazuje dřívější náhledovou verzi Pro. Při hodnocení je třeba určit přesně tento checkpoint a nepovažovat všechny koncové body označené jako V4 za totožné, zejména při porovnávání výsledků nebo hledání příčin změn v chování agentů.

Tato rodina zahrnuje variantu Pro s celkem 1,6 bilionu parametrů, z nichž se na každý token aktivuje 49 miliard, a variantu Flash s celkem 284 miliardami parametrů, z nichž se aktivuje 13 miliard. Architektura podporuje kontext o délce milionu tokenů a oficiální vydání Pro navíc obsahuje modul spekulativního dekódování. Tyto konstrukční prvky cílí na efektivitu v opravdu velkém měřítku; počet aktivovaných parametrů popisuje výpočetní náročnost, ale neodstraňuje nutnost ukládat zbývající váhy expertů.

Vydání je dostupné pod licencí MIT. Řadíme ho níže než špičkové modely určené pro pracovní stanice, protože složitost nasazení výrazně omezuje okruh jeho uživatelů, nikoli proto, že by menší modely byly vždy výkonnější. Tým budující centrální inferenční službu by měl porovnat varianty Pro a Flash podle nákladů na dokončený úkol, souběžného provozu a spolehlivosti nástrojů. Samostatný vývojář, který hledá rychlého lokálního asistenta, by měl začít u některého z menších checkpointů uvedených jinde v tomto průvodci.

Výhody a nevýhody

  • Oficiální vydání přináší oproti dřívější náhledové verzi vylepšení
  • Varianty Pro a Flash nabízejí odlišné možnosti z hlediska velikosti
  • Licence MIT
  • Velké checkpointy s experty vyžadují výkonnou infrastrukturu
  • Propustnost při dlouhém kontextu je třeba vyhodnotit podle konkrétního pracovního zatížení

Zobrazit kartu modelu DeepSeek V4

5. GLM-5.3

GLM-5.3 je aktualizovaný model Z.ai s otevřenými vahami, určený pro náročné softwarové inženýrství a dlouhotrvající úlohy agentů. Vychází ze stejného základního modelu jako GLM-5.2, vylepšení však přináší až posttrénink. Vývojář uvádí výrazné zlepšení ve výkonnostních testech programování i agentů, takže při hodnocení je namístě zaměřit se na tuto verzi, nikoli pouze zachovat pozici a popis předchozí generace.

Jeho předností je schopnost dlouhodobě pracovat s nástroji, soubory a průběžnými výsledky. Zveřejněné skóre modelu v testech agentů však závisí také na testovacím prostředí, rozpočtu na uvažování, správě kontextu a vyhrazeném čase. Při hodnocení asistenta pracujícího s repozitářem je třeba sledovat, zda provede požadovanou změnu, nezpůsobí regresi a správně používá nástroje. Samotný výsledek testu nedokáže potvrdit, že model dosáhne stejných výsledků v jiném vývojovém prostředí.

Rozdíl v licencích je podstatný: GLM-5.3 používá vlastní licenci, nikoli licenci MIT, která byla dříve uvedena u GLM-5.2 v tomto článku. Licence stanovuje další podmínku kontroly pro některé velmi velké firmy poskytující model jako službu. Takto rozsáhlý checkpoint navíc vyžaduje plánování infrastruktury serverové třídy. GLM-5.3 patří na seznam kandidátů pro podnikové programování, ale není vhodnou výchozí volbou pro čtenáře, kteří chtějí model snadno provozovat na notebooku.

Výhody a nevýhody

  • Aktualizované zaměření na dlouhodobé programování a práci agentů
  • Stahovatelné váhy a zdokumentované možnosti nasazení
  • Podrobné poznámky vývojáře k hodnocení
  • Vlastní licence vyžaduje kontrolu konkrétní verze
  • Nároky na infrastrukturu přesahují možnosti většiny osobních počítačů

Zobrazit kartu modelu GLM-5.3

6. Kimi K3

Kimi K3 je specializovanou volbou pro organizace, které spojují vizuální porozumění s dlouhodobým uvažováním a používáním nástrojů. Model společnosti Moonshot má celkem 2,8 bilionu parametrů, z nichž se na každý token aktivuje přibližně 104 miliard; nativně podporuje zpracování obrazu a nabízí kontextové okno o velikosti jednoho milionu tokenů. Hodí se pro případy, kdy asistent musí v rámci jednoho systému pracovat s kódem, snímky obrazovky, dokumenty i rozsáhlou historií interakcí.

Zvlášť důležité jsou podrobnosti integrace. Kimi K3 ponechává zapnuté uvažování a očekává, že se mezi jednotlivými tahy zachovají celé zprávy asistenta včetně informací o uvažování a volání nástrojů. Aplikace, která ukládá pouze konečnou odpověď, proto může zamýšlený formát konverzace zpracovávat nesprávně. Než model porovnáte s jiným, ověřte, že vrstva pro nasazení i framework agenta správně uchovávají požadovanou historii.

Vlastní licence a velmi rozsáhlý checkpoint z této volby činí stejně tak rozhodnutí o infrastruktuře jako o modelu. Nativní kvantizace zvyšuje efektivitu nasazení, neznamená však, že jde o běžný model pro pracovní stanici. Kimi K3 doporučujeme týmům, které dokážou provozní náklady odůvodnit náročnými multimodálními pracovními postupy; pro běžné shrnování textu nebo menší sbírky dokumentů je tato úroveň rozsahu zřídkakdy nutná.

Výhody a nevýhody

  • Nativní vizuální porozumění spolu s uvažováním nad dlouhým kontextem
  • Navržen pro dlouhodobé pracovní postupy založené na používání nástrojů
  • Zveřejněné váhy umožňují kontrolované nasazení
  • Velmi vysoké nároky na infrastrukturu
  • Vlastní licence a požadavky na formát konverzace

Zobrazit kartu modelu Kimi K3

7. Mistral Small 4

Mistral Small 4 spojuje schopnost řídit se obecnými pokyny, uvažování, programování a porozumění obrazu v jednom modelu. Je proto atraktivní pro firemní aplikace, které potřebují několik schopností prostřednictvím jednotného rozhraní, místo aby pro každý požadavek spravovaly samostatné specializované modely. Jeho předností je tato provozní všestrannost, zejména pro týmy, které již mají zkušenosti se správou rozsáhlé inferenční služby.

Navzdory názvu Small obsahuje celkem 119 miliard parametrů, z nichž se na každý token aktivuje 6,5 miliardy. Podporuje kontextové okno o velikosti 256 tisíc tokenů a nastavitelnou míru úsilí při uvažování, takže služba může u běžných dotazů poskytovat kratší odpovědi a u složitých úloh věnovat uvažování více času. Architektura mixture-of-experts omezuje výpočty potřebné pro aktivní část modelu, celkové nároky na úložiště a paměť však stále do značné míry určují všechny jeho váhy.

Checkpoint využívá licenci Apache 2.0. Oficiální kvantizované varianty a možnosti spekulativního dekódování nabízejí cesty k optimalizaci, jejich přínos však závisí na hardwaru a podpoře běhového prostředí. U asistenta podpory, který zpracovává snímky obrazovky a vytváří strukturované akce, testujte společně kvalitu práce s obrazem, dodržování schématu i dobu odezvy. Zvolte jej, pokud spojení několika schopností zjednoduší provoz; nepředpokládejte však, že jeho název znamená, že má stejně malé nároky jako model s 8 miliardami parametrů určený pro notebooky.

Výhody a nevýhody

  • Spojuje uvažování, práci s pokyny, programování a vizuální porozumění
  • Míru úsilí při uvažování lze přizpůsobit jednotlivým požadavkům
  • Licence Apache 2.0
  • Označení Small neodpovídá celkové velikosti modelu
  • Přínosy optimalizace závisí na prostředí nasazení

Zobrazit kartu modelu Mistral Small 4

8. Devstral Small 2

Devstral Small 2 je cílenou alternativou pro vývojáře, kteří hledají především model schopný prozkoumávat repozitáře, upravovat soubory a fungovat jako agent pro softwarové inženýrství. Díky 24 miliardám parametrů se nasazuje snáze než výše uvedené rozsáhlé systémy pro programování. Zůstává užitečným specialistou, i když si v rámci stejného hodnocení zaslouží pozornost také novější univerzální modely.

Mistral uvádí kontextové okno o velikosti 256K, porozumění obrazům a integraci s vývojovým prostředím Vibe pro programování. Hodnota modelu spočívá v tom, jak dobře zvládá celý pracovní postup úprav a testování, nikoli v tom, zda dokáže vytvořit působivou samostatnou ukázku kódu. Otestujte ho na struktuře svého repozitáře, používaných programovacích jazycích, omezeních závislostí a testovací sadě; použijte přitom stejné nástroje a oprávnění jako u konkurenčních modelů.

Tato verze je vydána pod licencí Apache 2.0. Mistral uvádí možnosti nasazení na běžných spotřebitelských GPU a 32GB počítačích Mac, skutečné nároky na paměť však ovlivňují přesnost, velikost kontextu i režie za běhu. Než se pokusíte zpracovat rozsáhlé repozitáře v jediném zadání, začněte kratšími relacemi a vhodnou kvantizací. Doporučujeme ho pro vyhrazenou pracovní stanici k programování; týmy, které potřebují široké výzkumné, hlasové či obecné multimodální funkce, by měly jeho užší zaměření porovnat s výše umístěnými univerzálními modely.

Výhody a nevýhody

  • Navržen pro práci s repozitáři a nástroji
  • Nasazuje se snáze než špičkové modely pro programování
  • Podpora obrazů a permisivní licence
  • Specializované zaměření je méně užitečné pro široké spektrum úloh asistenta
  • Maximální velikost kontextu nezaručuje provoz na běžném spotřebitelském hardwaru

Zobrazit kartu modelu Devstral Small 2

9. Nemotron 3 Nano

Nemotron 3 Nano od NVIDIA je zajímavou volbou pro vývojáře, kteří optimalizují efektivitu textových agentů. Kombinuje komponenty Mamba, mechanismus pozornosti a vrstvy typu směsi expertů; celkem má 30 miliard parametrů, z nichž je pro každý token aktivních přibližně 3,5 miliardy. Důvodem k jeho hodnocení je provozní vhodnost této architektury, nikoli předpoklad, že označení Nano znamená, že model poběží na jakémkoli zařízení.

Model prostřednictvím šablony chatu podporuje režim uvažování i režim bez uvažování. Aplikace tak může vyhradit delší rozvažování složitým požadavkům a u jednodušších hledat rychlejší odpovědi. Vzhledem k hybridní architektuře je podpora za běhu také zásadním kritériem výběru: ověřte konkrétní kombinaci běhového prostředí, formátu kvantizace a hardwaru a nepředpokládejte, že lze použít všechny běžné optimalizace pro standardní transformery.

Tato verze je vydána pod licencí NVIDIA Nemotron Open Model License. Jde o zajímavého kandidáta pro specializované použití v týmech, které vytvářejí opakovatelné benchmarky inference a jsou ochotné své nasazení ladit. Vedle kvality výstupů porovnávejte také čas potřebný k získání správné odpovědi, využití paměti a chování při souběžném zpracování požadavků. Čtenářům, kteří hledají především vizuálního asistenta připraveného k okamžitému použití, budou multimodální možnosti uvedené výše v žebříčku lépe odpovídat jejich cíli.

Výhody a nevýhody

  • Hybridní architektura nabízí alternativu zaměřenou na efektivitu
  • Nastavitelné chování při uvažování
  • Podrobná technická dokumentace
  • Zaměřuje se na text, nejde o nativního vizuálního asistenta
  • Je třeba ověřit podporu běhového prostředí i vlastní licenci

Zobrazit kartu modelu Nemotron 3 Nano

10. Olmo 3.1

Olmo 3.1 od Ai2 si své místo zaslouží, protože otevřenost znamená víc než jen tlačítko ke stažení. Model 32B Instruct je součástí ekosystému, který zpřístupňuje trénovací datové sady, kód, průběžné kontrolní body i metodiku. Pro výzkumníky, kteří zkoumají, jak rozhodnutí při trénování ovlivňují chování modelu, mohou být tyto zdroje cennější než vyšší skóre modelu, jehož vývojový proces je z velké části nepřístupný.

Rodina zahrnuje varianty Instruct a Think a její dokumentace popisuje fáze předtrénování i následného trénování. Díky tomu lze snáze zkoumat možnosti adaptace a porovnávat jednotlivé fáze vývoje modelu. Pro asistenta začněte kontrolním bodem doladěným podle instrukcí; základní kontrolní bod slouží jinému účelu a nelze ho hodnotit, jako by už byl optimalizovaný pro konverzační použití.

Olmo 3.1 používá licenci Apache 2.0 a zaměřuje se především na text v angličtině. Řadíme ho mezi specialisty na transparentnost, nikoli proto, že bychom tvrdili, že překonává špičkové modely ve všech schopnostech. Výzkumná skupina, pedagog nebo tým zkoumající adaptaci modelů mají dobrý důvod zvolit právě tento model. Zákazníci, kteří ho chtějí nasadit do produkce a potřebují nativní práci s obrazem, co nejširší vícejazyčné schopnosti nebo nejschopnějšího programovacího agenta připraveného k okamžitému použití, by měli nejprve zvážit výše uvedené alternativy.

Výhody a nevýhody

  • Trénovací zdroje umožňují kontrolu a výzkum
  • Více fází následného trénování a variant
  • Licence Apache 2.0
  • Zaměření na anglický text omezuje některé možnosti použití
  • Transparentnost výzkumu nezaručuje špičkovou přesnost při plnění úloh

Zobrazit kartu modelu Olmo 3.1

Kolik paměti potřebujete?

Vycházejte ze skutečné velikosti kontrolního bodu a požadavků na běhové prostředí uvedených v dokumentaci. Hrubý odhad potřebné paměti pouze pro váhy získáte tak, že počet parametrů vynásobíte počtem bitů na váhu a výsledek vydělíte osmi. Model s 30B parametry při čtyřbitové kvantizaci zabere přibližně 15 GB, a to ještě bez metadat kvantizace, nekvantizovaných částí, mezipaměti kontextu, dočasných vyrovnávacích pamětí a operačního systému. Jde o matematicky vypočtenou dolní hranici, nikoli o záruku, že se model vejde do počítače s 16 GB paměti.

U modelů typu mixture-of-experts vycházejte při odhadu velikosti úložiště potřebného pro váhy z celkového počtu parametrů. Počet aktivovaných parametrů pomáhá vysvětlit výpočetní náročnost na token; neznamená to, že ostatní experti zmizí. Přesunutí části výpočtů na CPU může snížit nároky na paměť GPU, ale může také výrazně zpomalit provoz. Sjednocená paměť v počítačích Mac je sdílena se systémem, a proto ji nelze považovat za plně dostupnou modelu.

  • Počítače s omezenými prostředky: Začněte s menší variantou Gemma nebo otestujte gpt-oss-20b s podporovanou konfigurací. Nechte si rezervu a zpočátku používejte menší kontext.
  • Pracovní stanice s větší pamětí: Porovnejte kvantizovaný Qwen3.8-27B, vhodné varianty Gemma a Devstral Small 2. Podporu obrazových vstupů ověřte zvlášť, nezávisle na zpracování textu.
  • Servery a clustery: Zvažte DeepSeek V4, GLM-5.3, Kimi K3 nebo větší konfigurace, pokud přínos pro danou úlohu ospravedlňuje náklady na provoz i jeho složitost.

Maximální délka kontextového okna modelu není zároveň doporučeným nastavením pro každodenní použití. Delší vstupy zvyšují nároky na paměť a výpočetní výkon, zatímco současně připojení uživatelé násobí požadavky na prostředky. Informace o možnostech instalace a rozdílech mezi modely, běhovými prostředími a rozhraními najdete v našem průvodci nástroji pro místní spouštění LLM.

Otevřený zdrojový kód, otevřené váhy a soukromé nasazení

Přístup k vahám vám dává kontrolu nad tím, kde probíhá inferování, ale automaticky nezajišťuje přístup k úplnému receptu na trénování ani neznamená, že je povoleno každé použití. I u položek s licencí Apache 2.0 nebo MIT je třeba ověřit licenci konkrétního kontrolního bodu. GLM-5.3, Kimi K3 a Nemotron používají vlastní licence modelů. Olmo je obzvlášť relevantní, pokud je pro vás přístup k vývojovému procesu stejně důležitý jako přístup k výsledným vahám.

Při vlastním hostování mohou výzvy zůstat ve vaší infrastruktuře, pokud je tak nakonfigurována celá aplikace. Cloudové vektorizace, vzdálené vyhledávání, služby pro zaznamenávání protokolů i nástroje agentů ale mohou data přesto odesílat jinam. Vyhodnoťte celý pracovní postup a vedle latence měřte také nesprávné odpovědi a neúspěšné akce. U nástrojů, které upravují soubory nebo komunikují s podnikovými systémy, nastavte omezená oprávnění a tam, kde si to daná akce žádá, zařaďte krok schválení.

Který otevřený LLM byste si měli vybrat?

Pro praktické úvodní srovnání začněte modelem Qwen3.8-27B pro obecné multimodální aplikace, modelem Gemma 4, který nabízí výběr z různě velkých lokálních modelů, a modelem gpt-oss pro snadno dostupné textové uvažování. Před investicí do centrálního inferenčního clusteru vám tyto modely poskytnou užitečné výchozí možnosti.

Pro náročné úlohy v serverovém měřítku porovnejte DeepSeek V4 pro široké spektrum uvažování a programování, GLM-5.3 pro pokročilé softwarové agenty a Kimi K3 pro multimodální pracovní postupy. Model Mistral Small 4 stojí za zvážení, pokud má jeden model zvládat několik podnikových úloh a umožňovat nastavení uvažování.

Specializované modely odpovídají různým potřebám: Devstral Small 2 pro pracovní stanici zaměřenou na programování, Nemotron 3 Nano pro textové agenty zaměřené na efektivitu a Olmo 3.1 pro transparentní výzkum a přizpůsobování. Vyberte dva nebo tři modely, které vyhovují vašemu hardwaru a licenčním požadavkům, a poté je před výběrem modelu pro nasazení otestujte na stejných reprezentativních úlohách.

Alex vede AI‑poháněné zpravodajské operace společnosti Unite.AI, spojuje žurnalistiku, výzkum a automatizaci, aby podpořil včasné a škálovatelné pokrytí umělé inteligence. Jeho práce pomáhá zajistit, aby byly nové události v oblasti AI efektivně prezentovány a zároveň byly zachovány redakční standardy publikace.

Antoine je vizionářský lídr a zakládající partner Unite.AI, kterého pohání neochvějné nadšení pro utváření a podporu budoucnosti umělé inteligence a robotiky. Jako podnikatel, který založil několik společností, věří, že AI promění společnost stejně zásadně jako elektřina, a často s nadšením hovoří o potenciálu převratných technologií a obecné umělé inteligence (AGI).

Jako futurista se věnuje zkoumání toho, jak tyto inovace budou utvářet náš svět. Je také zakladatelem Securities.io, platformy zaměřené na investice do špičkových technologií, které nově definují budoucnost a proměňují celá odvětví.