Soukromá umělá inteligence potřebuje infrastrukturu, která se dokáže přizpůsobit pracovní zátěži

Ještě před dvěma lety téměř každá firma, se kterou jsem mluvil, předpokládala, že umělá inteligence znamená volat prostřednictvím API některý z nejpokročilejších modelů. Tento předpoklad přestává platit. Modely s otevřenými vahami už jsou dostatečně dobré pro řadu každodenních úkolů a hodnotu podnikové aplikace umělé inteligence obvykle určují vlastní data firmy, nikoli model, na němž je aplikace založena. Jakmile si to firmy uvědomí, je prostě rozumné mít model blízko svých dat a pod vlastní kontrolou.

Právě to je soukromá umělá inteligence. Model provozujete ve vlastním prostředí, přizpůsobujete ho vlastním informacím a rozhodujete, kde bude fungovat a k čemu bude mít přístup. Pokud jste banka nebo farmaceutická společnost, stejně by vám nikdy nebylo příjemné ukládat důvěrný výzkum nebo záznamy o zákaznících do prostředí někoho jiného. U ostatních je motivací jednak výše nákladů na inferenci při velkém rozsahu, jednak neochota spoléhat se na jediného poskytovatele v oblasti, která se stává klíčovou pro fungování firmy. Podle výzkumu Linux Foundation používalo 63 % dotázaných společností model umělé inteligence s otevřenými vahami, což ukazuje, jak široce už byly tyto alternativy přijaty.

Lidé podceňují, že když přesunete model do vlastní infrastruktury, musíte zajistit i veškeré zázemí. Napájení, chlazení, výpočetní výkon, umístění i propojení se vším ostatním. Dříve to byly starosti poskytovatele cloudu. Teď jsou vaše. Většina firem dosud nemusela taková rozhodnutí činit a technologie se vyvíjí rychleji, než kdokoli dokáže stavět nové budovy. Pokud kapacitu odhadnete špatně, zůstane vám infrastruktura, která neodpovídá pracovní zátěži, s níž se nakonec budete potýkat. Flexibilitu je třeba naplánovat hned od začátku. Úpravy stávající infrastruktury mohou být nákladné, pokud jsou vůbec možné, a někteří poskytovatelé je jednoduše nemohou provést, protože jejich zařízení nebyla pro takovou hustotu nikdy navržena.

Vybudujte základní kapacitu, špičky si pronajímejte

Nejprve si uvědomte, že pro každý úkol nepotřebujete největší model. Shrnování dokumentů, třídění požadavků a odpovídání na otázky s využitím vlastní znalostní báze jsou úkoly, které lze soukromě svěřit modelu s otevřenými vahami a jejichž náklady můžete předvídat. Nejpokročilejší modely si nechte pro práci, která je opravdu potřebuje.

Z toho vyplývá, jakou podobu by měla infrastruktura mít. Vybudujte soukromou kapacitu pro stabilní poptávku, kterou můžete očekávat každý týden. Špičky a náročné úlohy přesahující vaše možnosti pokryjte pronajatou kapacitou. Firmy tak výpočetní výkon zajišťují už dlouho a umělá inteligence na této logice nic nemění; pouze zvyšuje hustotu základní kapacity a rozšiřuje rozpětí výkyvů ve špičce.

Výzvou je správně stanovit základní kapacitu a zároveň zajistit, aby soukromé a pronajaté prostředí fungovala jako jeden systém. Obě musí mít přístup ke stejným datům a podléhat stejným kontrolním mechanismům, aniž by firmy musely pokaždé znovu budovat datové toky, když se pracovní zátěž přesune z jednoho prostředí do druhého.

Kam infrastrukturu umístit?

Ukazuje se, že pořízení GPU je to nejjednodušší rozhodnutí. Potom je třeba najít, kam je umístit, zajistit jejich napájení a chlazení a propojit je se zbytkem firemní IT infrastruktury. Hardwarové vybavení pro umělou inteligenci s vysokou hustotou nelze bez zásadních úprav napájecích a chladicích systémů jednoduše umístit do běžného podnikového datového centra a nehodí se do každého provozovaného zařízení. V průzkumu infrastruktury pro umělou inteligenci institutu Uptime Institute z roku 2025 označilo 37 % respondentů dostupnost elektrického napájení za jeden z hlavních faktorů při rozhodování o tom, kde budou provozovat inferenční úlohy umělé inteligence.

Většina firem nakonec využívá kombinaci kolokačních služeb a cloudu. Rozhodující bývají data. Už teď jsou rozptýlena na několika místech, jejich přesun je nákladný a v regulovaných odvětvích některá z nich nesmějí opustit danou zemi nebo konkrétní prostředí. Přesunout vše do jedné budovy vedle GPU zní jednoduše, ale téměř nikdy k tomu nedojde.

Nejde tedy jen o to, kde se nachází výpočetní kapacita. Jde také o to, jak se bezpečně dostane k potřebným datům, aniž by vznikaly náklady a složitosti, kterých budete za tři roky litovat. Představte si to jako třetí zásadní změnu. První byl internet a problém vyřešilo připojení. Druhým byl cloud a ten vyřešila propojovací infrastruktura, která umožnila softwarově definované propojení a firmám díky němu přístup k různým poskytovatelům z jednoho místa. Třetí je umělá inteligence a samotná propojovací infrastruktura k jejímu zajištění nestačí. Potřebuje napájení, a to ve velkém množství, na stejném místě jako propojovací infrastrukturu. Firmy, které soukromou umělou inteligenci zvládnou správně, budou ty, které umístí výpočetní kapacitu tam, kde se setkává dostupné napájení s konektivitou, místo aby tyto dvě oblasti řešily v rámci dvou oddělených nákupních procesů.

Propojování soukromé umělé inteligence při změnách pracovní zátěže

Agentní umělá inteligence zvyšuje naléhavost otázky konektivity. Tradiční aplikace přijme zadání, zavolá model a vrátí odpověď. Agent je naproti tomu neustále v pohybu. Volá několik modelů, dotazuje se různých systémů, získává data odkudkoli, kde se právě nacházejí, a předává práci dalším agentům. Každý takový přesun překračuje určitou hranici, přináší prodlevu a vyvolává otázku, kdo má k čemu povolený přístup.

Umístěte model na jedno místo, data na jiné a stanovte pravidlo, že některá z těchto dat musí zůstat v konkrétní zemi nebo v soukromém prostředí. Firmy potřebují mít nad těmito cestami skutečnou kontrolu: které systémy mají přístup ke kterým datům, co se stane při přesunu úlohy a jak zapojit nový model, aniž by se narušil provoz všeho, co už běží.

Proto musí být infrastruktura programovatelná. Propojení mezi modely, daty a prostředími by se měla dát nastavovat a měnit, nemělo by být pokaždé nutné zahajovat nový inženýrský projekt. Stále častěji navíc nebude nastavení provádět člověk. Standardy, jako je Model Context Protocol neboli MCP, dávají agentovi jednotný způsob komunikace s nástroji a systémy v jeho okolí. Agent, který potřebuje připojení k novému zdroji dat nebo novému modelu, si o něj může požádat stejně, jako by zavolal jakoukoli jinou službu, přičemž zůstávají zachovány příslušné zásady a kontrolní mechanismy. Právě to v praxi znamená programovatelná infrastruktura. Každých několik měsíců se objevují nové modely. Nové aplikace budou potřebovat cesty, které dnes ještě neexistují. Pokud každá změna znamená přestavbu, přicházíte o flexibilitu, kvůli níž jste se rozhodli pro soukromé prostředí.

Aby ekonomika dávala smysl

Správné nastavení kapacity je klíčovým faktorem úspěchu a nejde jen o její celkovou velikost. Firmy, kterým se to daří, dobře chápou vztah mezi energií, kterou dodávají, a počtem tokenů, které získávají. Poměr energie k počtu tokenů je základem ekonomiky soukromé umělé inteligence. Pokud tento poměr znáte u vlastních úloh, můžete kapacitu prostředí dimenzovat s jistotou. Dalším důležitým prvkem je rezerva. Každé čtvrtletí se na trhu objevují nové možnosti a podniky, které dobře plánují, vždy počítají s tím, co přijde, místo aby infrastrukturu dimenzovaly přesně na hranici dnešních potřeb. Nejlepší plán spojuje obojí. Důkladně poznejte ekonomiku poměru energie k počtu tokenů a pak naplánujte rozumnou rezervu.

Grafické procesory GPU představují jen část nákladů. Prostor, chlazení, napájení a propojení se zbytkem firmy mohou vyjít stejně draho jako samotný hardware. A pak jsou tu lidé. Většina podniků nikdy neprovozovala výpočetní prostředí s vysokou hustotou a takové odborníky nelze získat během jediného čtvrtletí.

Právě proto jsou důležité základní kapacity i kapacity pro špičky. Vybudujte dostatečnou soukromou kapacitu pro běžnou zátěž a při jejím překročení si pronajměte další. Vyhnete se tak placení za hardware, který je většinu roku nevyužitý. Zároveň si zachováte možnost změnit směr, až se změní modely a aplikace — a ty se změní.

Plánování na další období

V pozadí toho všeho je problém s načasováním. Výstavba datového centra trvá přibližně dva roky. Za tu dobu se modely, hardware i aplikace, které budou podniky chtít provozovat, podstatně změní. Ať se dnes zavážete k čemukoli, poběží na tom úlohy, které zatím nikdo nedokáže plně popsat.

Firmy stále zjišťují, které úlohy patří do soukromého prostředí a kdy potřebují externí kapacitu, a je naprosto v pořádku, že se v tom teprve orientují. Je však třeba vyhnout se závazkům v oblasti infrastruktury, které vás připraví o možnost rozhodnout se dřív, než k tomu dostanete příležitost. Ponechte si prostor pro různé modely, pro navýšení kapacity, až ji budete potřebovat, i pro přesouvání úloh.

Dlouhodobá návratnost soukromé umělé inteligence bude méně záviset na tom, který model si vyberete, a více na tom, zda vaše infrastruktura dokáže držet krok s tím, jak se budou vaše požadavky postupně vyjasňovat. Budujte ji pro dnešní úlohy, zachovejte programovatelnost propojení a umístěte výpočetní kapacitu tam, kde se síťová infrastruktura setkává s napájením.