Vaše AI ví příliš mnoho: Konfidenciální AI již není volitelná

Generativní modely přecházejí z výzkumných laboratoří do běžných obchodních procesů — a tichá, strukturální slabina roste přímo spolu s nimi.

Vezměme si tento jeden příklad: Microsoft Copilot přístup téměř tři miliony citlivých záznamů na organizaci v první polovině roku 2025. Taková čísla znamenají, že existuje systémový problém s tím, jak je AI přístupována. Společnosti vytvořily výkonné motory pro zpracování dat, ale nezřídily dostatečné ochrany pro data, která používají.

Velké jazykové modely a nástroje asistentů často zpracovávají dokumenty, zprávy a databáze bez hardwarové ochrany. Tato mezera, která odhaluje “data v použití” během inference, nyní přímo ohrožuje podniky, které priorizují soukromí, dodržování předpisů a důvěru zákazníků.

Zde vstupuje do hry konfidenciální zpracování. Tento proces používá hardwarově podporované důvěrné prostředí pro spouštění (TEEs) k udržení zabezpečení kódu a dat, zatímco jsou používány. Tyto TEE jsou izolované paměťové oblasti, které jsou chráněny před hostitelským operačním systémem a hypervizorem.

Tato ochrana mění bezpečnostní model, umožňující tajemstvím být zpracovávána bez toho, aby byly vystaveny zbytečné části zásobníku. Microsoft a další cloudoví poskytovatelé nyní nabízejí soukromou inferenci a virtuální stroje (VM), které integrují inferenci do TEE.

Proč je soukromí důležité pro pravidla a řízení

Konvenční šifrování obvykle chrání data, která jsou buď v klidu nebo během přenosu, zatímco data, která jsou aktivně zpracovávána, nemají stejnou ochranu, ačkoli je to místo, kde generativní AI nejvíce interaguje s privátními vstupy.

Dříve v roce, studie výzkumníků z Cornellovy univerzity o Trusted Compute Units odkryla, jak hardwarově podporovaná izolace a ověření mohou pomoci snížit potřebu důvěry mezi stranami. Kromě toho, analytici odhadli, že hodnota privátní výpočetní infrastruktury byla hodnota více než 13 miliard dolarů, s předpověďmi, které ukazují ještě rychlejší růst na 350,04 miliard dolarů do roku 2032.

Jednoduše řečeno, více lidí používá tuto technologii, což vede k tomu, že regulátoři a týmy pro dodržování předpisů projevují větší zájem o systémy AI než kdykoli předtím. Jako takový, rámec, který zajišťuje, že citlivá data nikdy neopouštějí chráněné prostředí během dotazů modelu, učiní auditní stopy mnohem snazšími, snižuje riziko právních problémů.

Nicméně, pokud ochrany během runtime nestanou se normou, tato rozdílnost by mohla způsobit, že regulátoři budou přijímat AI v oblastech, které jsou těsně regulovány, déle.

Reálné situace, ve kterých je soukromí nezbytné

Existuje několik podnikových scénářů, které ukazují, proč konfidenciální AI není luxusem, ale něčím, co musí mít každá organizace.

Například, ve financích, to může být aplikováno na instituce, které potřebují spustit modely detekce podvodů a rizik proti historiím transakcí zákazníků bez poskytování externím operátorům modelů přístupu k surovým záznamům.

V zdravotnictví, mohou existovat situace, ve kterých diagnostické modely musí fungovat na chráněných klinických datech, zatímco zachovávají soukromí pacientů a splňují přísné regulační povinnosti. Kromě toho, vlády a agentury obrany mohou vyžadovat ověřené prostředí pro spouštění citlivých úloh na třetích cloudových službách.

Existují také výzkumné kanály, které kombinují datové sady z několika zdrojů, zejména federované zdravotnické výzkumy, které mohou pokračovat pouze tehdy, pokud je každý účastník přesvědčen, že jejich vstupy zůstanou nečitelné během výpočtu.

Také existuje akademický a průmyslový výzkum, který dokumentuje přístupy k ochraně soukromí pro lékařské pracovní postupy, které se dobře kombinují s konfidenciálním vykonáním.

Jak konfidenciální vykonání skutečně chrání data v použití

Konfidenciální vykonání závisí na dvou propojených systémech: hardwarové izolaci a ověření. Hardwarová izolace brání softwaru vně zabezpečeného prostoru v přístupu k paměti prostoru.

Ověření je ověřitelný způsob, jak zkontrolovat kód, který běží uvnitř prostoru, a zda samotný prostor je pravý. Tyto funkce umožňují majiteli modelu prokázat, že model bude fungovat s vstupy ve verifikovaném, uzavřené prostředí a že výstupy budou pocházet pouze po dodržení pravidel prostoru.

Výsledkem je smlouva mezi vlastníky dat, operátory modelů a cloudovými poskytovateli, která snižuje pravděpodobnost, že budou potřebovat právní obezličky nebo se uchýlí k křehkým politickým akrobaciím.

Reálné limity a překážky

Samozřejmě, že přijetí konfidenciální AI přichází se svými vlastními výzvami. Ověření a hardwarová zařízení, která mohou fungovat v prostorech, činí nasazení složitějším, protože existuje mezera v ekosystému mezi tradičním nástrojem pro poskytování modelů a prostorem pro běh. Některé prostory pro běh ukládají vysoké náklady, stojí až desetkrát více za běh, a mohou existovat kompromisy v výkonu v závislosti na množství práce.

Kromě toho, náklady jsou vyšší než dříve pro běžnou cloudovou inferenci, což může způsobit, že malé podniky budou mít potíže s pochopením čísel. Existuje také otázka změny standardů pro interoperabilitu, která může nechat některé rané adoptéry vystavené riziku, že zůstanou u svých dodavatelů.

Nicméně, tyto problémy jsou pouze přechodnými inženýrskými problémy, které lze vyřešit. Cloudoví poskytovatelé a výrobci čipů neustále přicházejí s novými produkty a softwarové projekty vytvářejí middleware, který propojuje současné ML zásobníky a TEE.

Pokud něco, společnosti, které považují standardní šifrování a kontrolu přístupu za dostatečné, jsou ve větším nebezpečí, protože budou zranitelné, když modely zpracovávají velké množství citlivých záznamů.

Volání pro změnu podnikatelské praxe

Týmy pro řízení rizik musí změnit pravidla pro nákup a používání AI. Klasifikace dat a řízení jsou stále důležité, ale musí být podpořeny technickými zárukami, když jsou v použití.

Smlouvy se třetími stranami, které poskytují modely, by měly vyžadovat, aby prokázaly ověření. Týmy pro nákup by měly požadovat výkonnostní standardy a auditední možnosti pro konfidenciální vykonání. Červené týmové cvičení by měly zahrnovat testování prostoru jako součást své práce. Tyto kroky přesunou odpovědnost z ad hoc závazků na kontrolovatelné kontroly.

Kromě toho, veřejná politika a průmyslové standardy skupiny by měly stanovit očekávání. Auditoři, úředníci pro dodržování předpisů a regulátoři by měli požadovat ověřitelné bezpečnostní záruky pro kategorie úloh, které zpracovávají regulovaná data.

Tyto pravidla sníží počet pozdějších porušení a dají sektoru svobodu inovovat bez obav z právních problémů. To umožní financím, zdravotnictví a veřejnému sektoru používat nové modely bez jakýchkoli regulačních překážek.

Konfidencialita jako standard

Generativní AI se stala užitečným nástrojem pro podniky, které pracují s velmi privátními informacemi. Tato realita znamená, že konfidenciální vykonání již není pouze nikovým opatřením; musí být standardní praxí pro jakýkoli systém AI, který zpracovává regulovaná, vlastnická nebo osobní data.

Existují již nástroje k dispozici, jako TEE, ověřovací služby a soukromé nabídky VM, a ekonomika se rychle zlepšuje. Druhá možnost je ponechat citlivá aktiva otevřená pro únik během inference, což by mohlo mít právní, finanční a reputační dopady, které podniky již nemohou dovolit. Například, podle zprávy IBM o nákladech na porušení dat z roku 2025, průměrné globální náklady na porušení dosáhly téměř 5 milionů dolarů, s předpisy, jako je GDPR ukládající pokuty až do výše 20 milionů eur za vážná porušení.

Společnosti, které dávají soukromí na první místo v řízení AI, budou mít výhodu: mohou spustit více komplexní, kompatibilní testy a použít modely v oblastech, kde externí inovace byly dříve omezeny. Stručně řečeno, ochrana dat, zatímco modely běží, není bariérou pro přijetí; je základem pro odpovědnou, škálovatelnou AI v podnikání a vládě.