Cohere spouští důvěrné výpočty v Model Vault ve veřejné beta verzi

Společnost Cohere 22. října 2026 oznámila veřejnou beta verzi důvěrných výpočtů na platformě Cohere Model Vault, své specializované, plně spravované platformě pro inferenci modelů, která běží na GPU NVIDIA H100 v prostředí Microsoft Azure a je určena podnikům zpracovávajícím citlivá data.

Novinka rozšiřuje Model Vault o úlohy zahrnující zdravotnickou dokumentaci, finanční informace, důvěrné dokumenty, duševní vlastnictví a vlastní zdrojový kód. Cohere uvedla, že cílem je umožnit podnikům využívat schopnosti a provozní jednoduchost spravované AI a zároveň uchovat jejich citlivá nezašifrovaná data mimo dosah infrastruktury, na níž služba běží. Mezi možné způsoby využití společnost řadí vyšetřování finančních podvodů v sektoru finančních služeb, vyhledávání v důvěrných dokumentech a hloubkovou prověrku pro právní týmy, citlivé informace veřejného sektoru, patentové a výzkumné materiály, vlastní dokumentaci k inženýrským řešením a návrhům rozhraní a vyhledávání ve vlastním zdrojovém kódu a jeho analýzu.

V rámci rozdělení úloh v beta verzi poskytuje základní infrastrukturu pro důvěrné výpočty Microsoft Azure, NVIDIA Confidential Computing rozšiřuje tuto ochranu na GPU H100 a Cohere zajišťuje spravované poskytování modelů, šifrovanou cestu požadavků, vzdálenou atestaci a ověřování na straně zákazníka prostřednictvím Model Vault. Zákazníci mohou podle společnosti vytvářet a spravovat šifrované trezory prostřednictvím Model Vault, připojovat se k nim přes stejné API Cohere a začít na adrese vault.cohere.com.

Důvěrné provádění a šifrovaná cesta požadavků

Důvěrné výpočty chrání data při zpracování, tedy informace ve chvíli, kdy je model aktivně zpracovává. Jde o třetí stav dat vedle dat uložených a přenášených, na která se tradičně vztahuje šifrování. V Model Vault běží zásobník pro poskytování modelů, včetně operačního systému, ovladačů a inferenčního serveru, uvnitř důvěrného virtuálního počítače. Hardwarově podporovaná izolace v něm chrání paměť před hostitelským prostředím a zásady omezují prostředí na schválený software, přičemž operátorům znemožňují interaktivní přístup k právě běžící úloze, jak Cohere uvádí v podrobném technickém rozboru, který zveřejnila současně se spuštěním služby. NVIDIA Confidential Computing chrání paměť GPU a šifruje provoz mezi CPU a GPU, takže hranice důvěrného prostředí zahrnuje akcelerátor provádějící inferenci, a nekončí u CPU, které ji koordinuje.

Samotný požadavek je chráněn zvlášť. Model Vault využívá protokol Oblivious HTTP neboli OHTTP k šifrování citlivého obsahu požadavku pomocí veřejného klíče přiřazeného k důvěrnému prostředí, jehož pravost byla ověřena atestací. Zašifrovaná zpráva prochází zprostředkující infrastrukturou v podobě šifrového textu; odpovídající soukromý klíč má pouze brána OHTTP uvnitř prostředí a stejnou ochranu mají i odpovědi na zpáteční cestě. Cohere uvádí, že se tím odděluje provozování platformy od možnosti číst obsah, který jí zákazníci posílají, protože zprostředkující systémy mohou provoz směrovat, aniž by viděly nezašifrovaná data. Aplikace dál používají API Model Vault a známé formáty požadavků; ochrana je zajištěna ve vrstvách klienta a infrastruktury, takže není nutné přepracovávat datové požadavky.

Vzdálená atestace jako aktivní kontrolní mechanismus

Před odesláním chráněného požadavku vytvoří důvěrné prostředí kryptograficky podepsaný důkaz, který zachycuje měření a bezpečnostně relevantní vlastnosti hardwaru, firmwaru, operačního prostředí a aplikačního softwaru. Software na straně zákazníka tento důkaz ověří podle schválených zásad. Důkaz zaznamenává, jaké prostředí skutečně běží; zásady určují, zda má být tomuto prostředí svěřeno zpracování dat. Pokud některá požadovaná vlastnost neodpovídá, například se změnilo měření softwaru nebo GPU není v očekávaném důvěrném režimu, klient ověření neprovede, odmítne odeslat datový obsah a požadavek zůstane v prostředí zákazníka. Důkaz se pravidelně obnovuje a klient před pokračováním v odesílání chráněných požadavků pokaždé znovu porovná nová měření a stav zabezpečení se schválenými zásadami. Cohere popisuje tento postup jako proměnu atestace ze záznamu uchovávaného pro účely auditu v kontrolní mechanismus, který aktivně rozhoduje o tom, zda budou chráněná data zpřístupněna.

V oznámení Cohere o spuštění služby uvedl technický ředitel Phil Blunsom: „Díky hardwarové atestaci mají zákazníci nejen kryptografický důkaz, že úlohy běží v bezpečném prostředí důvěrných výpočtů, ale mohou také ověřit, že jsou jejich data chráněna před neoprávněným přístupem, a to i ze strany Cohere.“ Vikas Bhatia, vedoucí produktového týmu Azure Confidential Computing ve společnosti Microsoft, uvedl, že spolupráce s Cohere ukazuje, jak lze díky důvěrným výpočtům spojit jednoduchost spravované AI s technickými kontrolami, které lze nezávisle ověřit. John Fanelli, viceprezident pro podnikový software ve společnosti NVIDIA, uvedl, že NVIDIA Confidential Computing na jejích GPU poskytuje hardwarově podloženou ochranu, která platformám, jako je Model Vault, pomáhá přinášet důvěrnou inferenci AI do podnikových úloh.

Model hrozeb, uvedená omezení a plány na otevřený zdrojový kód

V rámci deklarovaného modelu hrozeb systém během zpracování chrání prompty, dokumenty, odpovědi i běh modelu a znemožňuje poskytovateli cloudu, hostitelskému operačnímu systému, hypervizoru, správcům infrastruktury i vlastním operátorům Cohere číst paměť chráněné úlohy. Důvěryhodná výpočetní základna stále zahrnuje hardware a firmware, které zajišťují základ důvěrného výpočtu, měřený software běžící uvnitř prostředí, referenční měření definující schválenou konfiguraci a atestační infrastrukturu, která vyhodnocuje a podepisuje důkazy. Cohere uvádí, že návrh omezuje okruh toho, čemu je nutné důvěřovat, na výslovně vymezenou sadu komponent, které vytvářejí měřitelné a ověřitelné důkazy.

Cohere také upřesňuje, na co se tato ochrana nevztahuje. Fyzické útoky a útoky postranními kanály, například odvozování informací z časování nebo jiného chování sdíleného hardwaru, zůstávají mimo její rozsah. Operátor, který nemůže číst úlohu, ji přesto může zastavit, zpozdit nebo jí zabránit, takže samotný návrh nezaručuje dostupnost. Rizika na úrovni aplikace, jako je vkládání promptů, nezabezpečené používání nástrojů, chyby v autorizaci a další softwarové zranitelnosti, se nevyřeší tím, že se software umístí do hardwaru pro důvěrné výpočty.

Další výjimkou jsou viditelná metadata: obsah datových částí je sice šifrován, ale velikost zprávy, časování požadavků, objem provozu a podrobnosti směrování zůstávají viditelné. V současné architektuře navíc přihlašovací údaj API a identifikátor modelu leží mimo datovou část chráněnou protokolem OHTTP. Společnost uvádí, že důvěrné výpočty nenahrazují zabezpečení aplikací ani nepředstavují mechanismus pro zajištění umístění dat; nejsou ani náhradou za opatření vyžadovaná předpisy či smlouvami a nejde o homomorfní šifrování, protože model stále pracuje s prostým textem uvnitř chráněného prostředí.

Implementace vychází z open source projektů Kata Containers a Confidential Containers. Cohere uvedlo, že plánuje zveřejnit zásobník pro důvěrné inferování jako open source, aby zákazníci a výzkumníci v oblasti bezpečnosti mohli prozkoumat kód, zjistit, které zásady se uplatňují, a nezávisle zopakovat ověřovací měření. Beta verze v současnosti běží na GPU NVIDIA H100 v Microsoft Azure a Cohere uvedlo, že pracuje na podpoře infrastruktury NVIDIA Blackwell, včetně GPU B200, která má být k dispozici před všeobecným uvedením.