Čínská AI iluze: Jak “open source” skrývá to, co je nejvíc důležité

S velkými technologickými firmami, jako jsou Google, Microsoft a Meta, které se snaží ovládnout trh s umělou inteligencí, se čínské společnosti High Flyer, Baidu, Moonshot a Alibaba dostaly do hledáčku díky uvolnění svých velkých jazykových modelů DeepSeek, ERNIE 4.5, Kimi K2 a Qwen3 jako open source. Tento posun od uvolňování střežených, proprietárních modelů GenAI byl přijat jako znamení, že čínský AI průmysl přijímá moc open source, aby demokratizoval vývoj AI a podpořil inovace.

Jenže, stejně jako mnohé společnosti, které označují své produkty jako open source a někdy dokonce mají open source ve svém názvu, High Flyer, Baidu a Moonshot ve skutečnosti nesdílejí kritické části, jako jsou datové sady, které jsou srdcem jejich modelů. Když tyto velké modely usilují o to, aby se staly komoditami, na které se vývojáři spoléhají, je transparentnost skutečného open source, který lze testovat, zkoumat a iterovat, zásadní pro vytváření nezávislé, etické a prospěšné technologie, které můžeme všichni důvěřovat. Všechny tyto „open source“ modely jsou ve skutečnosti „open weight“, což znamená, že je lze stáhnout a použít, ale nelze je žádným způsobem prozkoumat bez dat.

Jako například společnost Open AI a Meta ze Spojených států se zdají odstupovat od open source, Baiduova otevřená pozvánka k využití své volně dostupné sady modelů ERNIE 4.5 může skutečně podnítit inovace a spolupráci s vývojáři, kteří chtějí vytvářet menší, ale výkonné aplikace. Současně si společnost, která je podobná čínskému Googlu, zajistila konkurenční výhodu tím, že podporuje přijetí a upevňuje své modely v rostoucím AI ekosystému.

Stejně tak lze říci o DeepSeek, nízkonákladovém Kimi K2 a aktualizovaném Qwen3, který nabízí benchmarky, které vyzyvají uzavřené modely, jako je Claude Opus 4 a GPT-4o-0327.

Tito hráči v AI se dobře umístili v závodě o to, aby se stali komoditou volby, a Qwen3ova poslední inovativní aktualizace byla dokonce inspirována zpětnou vazbou od open source komunity.

Jenže, stejně jako mnozí, kteří označují své velké AI modely jako open source, čínská AI komunita ve skutečnosti nesdílí data ani jiné kritické části svých AI systémů. Místo toho žádají globální vývojáře, aby slepě důvěřovali modelům, které nemohou真正ně pochopit nebo prozkoumat.

Claim na budoucnost s open source komoditními AI modely

Když iPhone vyšel na trh v roce 2007, někteří předpokládali, že Mac ovládne trh se smartphony s iOS, ale open-source účast je integrální pro startupy a zároveň podporuje podnikatelský a ekonomický růst po celém světě – a Android, který byl zakoupen Googlem v roce 2005, následoval stejnou cestu k vítězství.

Uvolněním open source softwaru, který mohl být zobrazen, upraven, přijat a sdílen, Android pozval akademiky, vývojáře a dokonce i konkurenty ke spolupráci na softwaru. To urychlilo proces inovací, demokratizovalo hřiště a nakonec snížilo ceny. Android vyšel na trh rok po prvním iPhonu a na začátku tohoto roku měl 71,88 % globálního trhu, zatímco iOS měl 27,65 %.

V technologické revoluci, která se zdála nastat přes noc, se smartphony staly všudypřítomnými a i když se softwarové, hardwarové a uživatelské rozhraní continue zlepšují, průmysl již dávno překročil snažení o revoluci ve způsobu, jakým smartphony fungují. S tím, jak jsou nyní mobilní telefony komoditou, je inovace v aplikacích, které na nich běží, a aby byli konkurenceschopní, poskytovatelé smartphonů musí udržovat ekosystém, který zvoucí vývojáře.

Ne tři roky po spuštění ChatGPT se AI průmysl nachází na podobné hranici. Každý hráč v globálním AI průmyslu se snaží, aby jeho modely se staly dalším Androidem nebo iOSEm, a vydáním open source modelů DeepSeek, ERNIE 4.5 a Kimi K2 se čínští inovátoři snaží uplatnit svou nárok na rostoucí ekosystém.

Jenže, i když to může fungovat ve prospěch, nedodává to skutečnou transparentnost open source, která je nezbytná pro vytváření inovací, na které můžeme důvěřovat.

Data je chybějící kus v meisten open source AI

S umělými modely, které jsou mnohem složitější na vytvoření a sdílení než tradiční software, je požadavek na plně open source AI žádná malá objednávka. Místo jednoduchého zdrojového kódu se AI systémy skládají ze sedmi komponent – včetně zdrojového kódu, modelových parametrů, datové sady, hyperparametrů, trénovacího zdrojového kódu, generování náhodných čísel a softwarových rámců.

Každá část musí fungovat v souladu, aby model dodal požadované výsledky, což znamená, že vývojáři potřebují plnou viditelnost, aby mohli sdílet, upravovat a přijímat systém a pochopit, co se děje. S reprodukovatelností jako základem vědecké metody má AI průmysl návyk označovat open source jako synonymum pro bezplatné nebo nízkonákladové verze, které jsou dostupné s přístupem k několika částem puzzle.

Baidu, například, uvolnil deset modelů ERNIE 4.5. Kromě sdílení modelu a parametrů společnost také otevřela ERNIEKit a FastDeploy nástroje pro nasazení. Tyto umožňují vývojářům vytvářet výkonné AI aplikace poskytováním průmyslových možností, zdrojově efektivních trénovacích a inferenčních workflow a multi-hardwarové kompatibility.

Jinými slovy, Baidu poskytl vývojářům zajímavé nástroje, které jim umožňují rychleji uvolňovat inovace, což doufá, že je přiměje k výběru ERNIE 4.5 před konkurencí.

Vývojáři, kteří využívají ERNIE 4.5, jsou však žádáni, aby slepě důvěřovali modelu, protože Baidu udržel mnoho věcí skrytých, včetně datových sad, které informují a učí jeho modely.

Síla transparentních open source AI modelů

Ačkoli každá část AI puzzle je kritická pro fungování modelu, 80 % AI projektů selhává a data jsou v srdci problému. Nesprávná, neúplná a zkreslená datová sada vede k modelům, které se nechovají předvídatelně nebo podle přání.

Nedávné vydání fatální 2023 Tesla Full-Self-Driving (FSD) crash videa, například, odhalilo nejhorší scénář, co se může stát, když datová sada a model selžou. Když Tesla Model Y najel do jasně svítícího slunce, částečně automatizovaný systém nemohl pochopit nebo reagovat vhodně na to, co jeho kamery viděly – nebo neviděly. Zatímco auta řízená lidmi zpomalila a zastavila, FSDova zmatenost vedla k smrti ženy.

Tato devastující porážka odrazila neúplná vizuální data, stejně jako nedostatek bezpečnostního mechanismu, který zohledňoval takové slepé skvrny. Když vývojáři nemají žádný pohled do svých dat, nemohou vidět, jak data interagují s modelem, což znamená, že nemohou odhalit takové chyby a iterovat pro robustní výkon.

Ještě více znepokojivé je, že bez dat, která pohání model, jsou nuceni slepě důvěřovat.

Když jsou datové sady open source, však AI komunita prokázala, že odstraní problematické otázky, jako tomu bylo, když odhalila více než 1 000 URL obsahujících ověřený Child Sexual Abuse Material v LAION 5B. S datovou sadou, která je základem pro vytváření aplikací, jako je Stable Diffusion a Midjourney, by to bylo devastující pro AI průmysl, kdyby uživatelé začali vytvářet nelegální fotorealistické obrázky. Místo toho otevřená povaha této datové sady umožnila komunitě odhalit nebezpečný obsah a motivovat opravu, Liaison B.

Přijetí open source cesty

S mnoha, kteří jsou stále nedůvěřiví k této rostoucí technologii, je závod o to, aby se staly iOS nebo Androidem velkých AI komoditních modelů, zahájen – a když globální AI komunita doslova buduje, co se stane standardem pro budoucnost a AI systémy již řídí auta a poskytují lékařské hodnocení, je zavedení důvěry prostřednictvím vytváření nezávislé, spolehlivé a bezpečné AI nikdy nebylo kritičtější.

S tím, jak se čínská AI komunita snaží pozici jako šampiónů otevřené inovace, je cesta k bezpečné AI nalezena pouze v transparentnosti skutečného open source, která byla prokázána desetiletími softwarové inovace. Pouhé použití termínu na systémy, které nesdílejí kritické části, jako jsou data, neumožňuje vývojářům prozkoumat, replikovat a iterovat. Zatímco lákadlo okamžitě dostupných modelů, jako jsou DeepSeek, ERNIE 4.5, Kimi K2 a Qwen3, je nezpochybnitelné, vývojáři, kteří je využívají, vyměňují transparentnost, která podporuje spolupráci a inovace, za pohodlí.

AI komunita musí zvolit: přijmout radikální transparentnost prostřednictvím skutečného open source nebo riskovat stavbu zítřejších kritických systémů na dnešních black boxech.