Myslitelé

Proč se vyplatí budovat suverénní AI a kde naráží na své limity

Brian Rowe
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodySmazané uživatelské chaty může soudce uchovat v soudním sporu, ke kterému jste se nikdy…
Zobrazit více
  • Smazané uživatelské chaty může soudce uchovat v soudním sporu, ke kterému jste se nikdy nepřipojili.
  • Suverénní AI ve skutečnosti spočívá v kontrole, nikoli v národních hranicích nebo vlajkách.
  • Operační suverenita je pilíř, který většina podniků při budování suverénní AI opomíjí.

Dne 13. května 2025 podepsal federální magistrátní soudce na Manhattanu v rámci sporu o autorská práva mezi The New York Times a OpenAI příkaz k zpřístupnění důkazů. OpenAI v něm nařídil „zachovat a oddělit všechny záznamy výstupních dat, které by jinak byly smazány.“

To se týkalo chatů, které uživatelé požádali smazat. Příkaz se vztahoval na účty ChatGPT Free, Plus, Pro a Team i na zákazníky API bez dohody o nulovém uchovávání dat. OpenAI se proti němu bránila. Její provozní ředitel Brad Lightcap jej označil za „překročení pravomocí“. Rozsáhlý příkaz přestal platit koncem září, data z účtů, které The New York Times označil, však zůstávají předmětem soudního zajištění.

Firemní zákazníci byli z příkazu vyňati. Mnoha pracovních týmů s tarify Team a standardními klíči API se to ale netýkalo. Nikdo z nich nebyl účastníkem sporu. Stiskli tlačítko Smazat. Soudce v cizím sporu rozhodl, že smazat neznamená smazat.

Nechci se navážet do OpenAI. Tvrdě se bránila. A právě o to jde. Když jsou vaše data na platformě někoho jiného, o tom, co se s nimi stane, rozhodují právní spory, smlouvy a zásady někoho jiného.

Teď si dosaďte vlastní firmu. Vaše smlouvy, vaše pojistné události, váš zdrojový kód, zdravotní záznamy vašich zákazníků. Stále více těchto dat proudí přes modely AI běžící na infrastruktuře, kterou nevlastníte a na kterou se vztahují podmínky, které jste nenapsali.

Právě o tom suverénní AI skutečně je. Ne o vlajkách a hranicích. O kontrole.

Čísla ukazují, že nejde o okrajové téma

Koncem loňského roku společnost McKinsey provedla průzkum mezi 300 vedoucími pracovníky, investory a vládními úředníky. Sedmdesát jedna procent označilo suverénní AI za „existenční problém“ nebo „strategickou nutnost“. McKinsey odhaduje, že do roku 2030 půjde o trh v hodnotě 600 miliard dolarů, přičemž až 40 % úloh AI by se mohlo přesunout do suverénních prostředí.

Údaje z podnikové sféry to potvrzují:

  • Téměř čtyři z pěti organizací uvedly Linux Foundation, že suverénní AI je strategickou prioritou. Přibližně 90 % z nich řeklo, že otevřený software je pro její dosažení zásadní nebo velmi důležitý.
  • 74 % z více než 900 vedoucích pracovníků v oblasti IT z Evropy, Blízkého východu a Afriky sdělilo Red Hat, že suverenita AI je prioritou pro příštích 18 měsíců. Podle 92 % z nich je klíčový podnikový software s otevřeným zdrojovým kódem.
  • 63 % organizací už používá modely AI s otevřeným zdrojovým kódem, jak vyplývá z průzkumu společností McKinsey a Mozilla Foundation mezi více než 700 technologickými lídry ve 41 zemích. 76 % očekává, že jich bude používat více.

Všimněte si, co se tu opakuje. Suverenita a otevřený software se objevují společně. Není to náhoda.

Proč jsem optimista

Už jsem to říkal: modely jsou dost dobré. U většiny každodenních úloh, které podniky skutečně potřebují — shrnování, rešerší, plnění pokynů a zpracování dokumentů — pokroky u nejpokročilejších modelů nic zásadního nemění. Model, který vyhraje matematickou olympiádu, nezrychlí vyřizování vašich pojistných událostí.

Na vlastním hardwaru jsem provozoval otevřené modely, jako je Qwen, a viděl jsem, jak dobře zvládají úkoly z reálných aplikací. Můžu je dolaďovat na vlastních datech a vlastním počítači, aniž bych odeslal jediný záznam mimo firmu. Před dvěma lety to nebyla vážně míněná možnost pro podniky. Dnes už je.

Tím se mění i to, jak uvažujeme o suverenitě. Nemusíte vyvíjet nejpokročilejší model, abyste měli svou AI pod kontrolou. Můžete vzít kvalitní model s otevřenými vahami, provozovat ho ve vlastní infrastruktuře nebo v suverénním cloudu, přizpůsobit ho svým datům a ponechat si jeho váhy.

Mění se i nabídka. V srpnu se Nvidia dohodla, že společnosti Poolside zaplatí 6 miliard dolarů za licenci k její platformě pro vývoj modelů, a nabídla práci více než 100 jejím inženýrům; vše se zaměřuje na rodinu modelů Nemotron s otevřenými vahami. Když společnost, která prodává nástroje a materiál, investuje do otevřených modelů takové peníze, budou se tyto modely dál zlepšovat.

Dohání je i bezpečnostní nástroje. Důvěrné odvozování využívá důvěryhodné prováděcí prostředí uvnitř CPU nebo GPU, takže data zůstávají zašifrovaná, dokud nedorazí do izolované části čipu. Nevidí je ani poskytovatel cloudu. Už tedy nemusíte jen doufat, že jsou vaše data v bezpečí — můžete vědět, že tomu tak je.

Takže ano. Suverénní AI může být opravdu, opravdu dobrá. Nižší náklady na jednu úlohu, žádné nečekané zdražování, žádný model, jehož podporu vám zruší, a jasná odpověď, když se vás správní rada zeptá, kam vaše data putují.

Bylo by ale medvědí službou, kdybych tím skončil.

Než podepíšete, přečtěte si i drobné písmo

Výpočetní kapacita je soustředěna v několika zemích a není levná. Podle Indexu suverénní AI organizace Center for a New American Security se přibližně 90 % výpočetní kapacity pro nejpokročilejší AI nachází ve Spojených státech a Číně. McKinsey uvádí, že výpočetní kapacitu pro pokročilé úlohy AI má jen přibližně 30 zemí. Vlastní technologický stack znamená GPU, energii, chlazení a lidi, kteří vědí, jak to všechno provozovat. Počítejte s rozpočtem na všechno, nejen na čipy.

Suverénní neznamená soběstačný. CNAS sleduje 184 státem podporovaných projektů suverénní AI. Více než tři pětiny z nich uvádějí alespoň jednoho zahraničního partnera a většinu těchto partnerů tvoří americké společnosti. Ani státy to nezvládnou samy. World Economic Forum a Bain tvrdí, že suverenita ve skutečnosti znamená „strategickou vzájemnou závislost“. Souhlasím. Rozhodněte, které vrstvy musíte mít pod kontrolou a které si můžete bezpečně pronajmout.

Otevřené modely stále zaostávají u nejnáročnějších úloh. McKinsey upozorňuje, že lokalizované modely mohou zaostávat za výkonem nejpokročilejších modelů. U některých úloh na tomto rozdílu záleží. Řešením není přístup „všechno, nebo nic“. Citlivé úlohy s velkým objemem práce směrujte na modely, které vlastníte, a pro problémy, jež skutečně vyžadují nejpokročilejší modely, si ponechte řízený přístup k jejich API.

Většina programů selhává při provozu. Pozornost se věnuje infrastruktuře, datům a kontrole nad modely. Provozní suverenita – kdo má přístup k systému, kdo může měnit jeho konfiguraci a kdo může kontrolovat, co systém provedl – je pilíř, který většina podniků přehlíží. Situace rychle nabere na závažnosti, jakmile agenti AI začnou jednat vaším jménem. Pokud má klíče od vašich agentů externí dodavatel, nemáte suverénní AI. Máte hostovanou službu s líbivějším názvem.

Nenechte se zavřít do nové škatulky. Smyslem suverenity je možnost volby. Navrhujte řešení tak, abyste mohli měnit modely, aniž byste kvůli tomu museli znovu budovat všechno ostatní. Pokud váš „suverénní“ technologický stack funguje jen s jedním modelem od jediného dodavatele, pouze jste přesunuli svou závislost.

Přistupujte k tomu jako k inženýrskému úkolu, ne jako k nákupu

Organizace, které si s tím dobře poradily, považují každou součást za technický požadavek, za který někdo odpovídá a jehož plnění se měří. Kde fyzicky probíhá inference? Kde se zaznamenávají zadání a výstupy a jak dlouho se uchovávají? Který model vidí která data? Kdo ho může vypnout?

Organizace, které se potýkají s problémy, považují suverénní AI za položku k odškrtnutí v dotazníku pro dodavatele.

To odpovídá všemu, co pozoruji při naší práci v Marlabs. Model už jen zřídka bývá problémem. Problémem je samotná implementace. Lidé, architektura, správa a řízení. Suverénní AI na tom nic nemění. Zvyšuje však sázky, když jde o to udělat vše správně.

Zpátky do té soudní síně na Manhattanu

Uživatelé tarifu Team neudělali nic špatně. Spolehli se na smlouvu s dodavatelem. O jejich datech se rozhodlo v soudní síni, do které nikdy nevstoupili.

O tomhle rozhodnutí můžete rozhodnout sami. Když se vaše vedení, regulační orgán nebo největší zákazník zeptá, kdo má jejich data pod kontrolou a kdo další je může vidět, dobře zavedená suverénní AI vám umožní odpovědět přímo. Ukažte přesně, kde se data nacházejí. Ukažte, kdo k nim má přístup.

To stojí za to vybudovat. Pusťte se do toho ale s otevřenýma očima.

Co ve vaší organizaci podněcuje debatu o suverénní AI? Dejte mi vědět.

Brian Rowe je senior viceprezidentem pro AI a strojové učení ve společnosti Marlabs. Marlabs se sídlem v New Yorku má 30 let zkušeností a 2 200 zaměstnanců. Je partnerem pro transformaci pomocí AI a pomáhá organizacím z žebříčku Fortune 500 zavádět AI do praxe a dosahovat trvalé, měřitelné hodnoty napříč odvětvími.