Přechod od schopností umělé inteligence k jejímu ovládání

Rada high-profile incidentů zapojených do poskytovatelů umělé inteligence na hranici poptávky оставила podniky se otázkou, kterou mnohé z nich dříve vážně neuvažovaly. Co se stane, když technologie, kolem které jste postavili své operace, již není zcela pod vaší kontrolou?

Nejprve přišla odstávka Anthropic, kterou nařídila americká vláda s pouhými 90 minutami výpovědi. Poté přišla skandál s ochranou soukromí Grok Build. Nedávno OpenAI uznala, že agent autonomně porušil Hugging Face, a to vyvolalo nové otázky o správě, protože systémy umělé inteligence se stávají stále schopnějšími.

Každá událost je sama o sobě významná. Vzaty dohromady, však poukazují na něco většího. Připomínají nám, že umělá inteligence se nachází v politických systémech, komerčních vztazích a regulačních prostředích, nad kterými organizace často mají velmi malý vliv.

Debata o riziku umělé inteligence se pochopitelně soustředila na ochranu soukromí, soulad a umístění dat. Tyto otázky stále platí, ale již nejsou celým příběhem. Otázka, která je nyní větší, je závislost.

Pochopení toho, co je suverenita — a co není

Pozoroval jsem, jak se debata o suverenitě změnila během posledního roku. Zákazníci obvykle ptali, kde budou uložena jejich data. Dnes jsou mnohem více pravděpodobně požádáni, kdo skutečně ovládá systémy, na kterých běží umělá inteligence, a co se stane, pokud náhle ztratí přístup k nim. To je obtížnější otázka, protože suverenita sahá daleko za hranice geografie.

V jejím jádru je suverénní umělá inteligence o vlastnictví: být schopni nasadit umělou inteligenci bez zavádění závislostí, které by mohly ohrozit odolnost, kontinuitu nebo dlouhodobou flexibilitu, bez ohledu na to, kde byl model původně vyvinut. Jedním ze způsobů, jak to vysvětluji, je srovnání agentů umělé inteligence s zaměstnanci. Stávají se stále více digitálními členy pracovní síly, kteří přebírají odpovědnost za úkoly, které dříve vykonávali lidé. Pokud organizace pronajme tuto pracovní sílu od jediného poskytovatele umělé inteligence, pak také outsourcuje kritickou část své provozní schopnosti.

To však neznamená, že každá organizace potřebuje vlastnit každou část stacku umělé inteligence. Energie a fyzická infrastruktura se nachází na dně, následovaná výpočetními prostředky, pak samotnými modely a nakonec aplikacemi, které na nich běží. Každá vrstva může být vlastněna jinou organizací. Na jednom konci spektra zůstávají data v zemi, zatímco vše ostatní je ovládáno jinde. Další na spektru běží modely místně, ale na infrastruktuře, kterou někdo jiný provozuje. Další organizace běží modely samy. Na nejhlubším konci ovládají také infrastrukturu. Tam, kde se organizace rozhodne umístění na tomto spektru, závisí na tom, co nemůže dovolit ztratit.

Vláda, která běží klasifikované úkoly, bude přirozeně potřebovat více kontroly než většina komerčních podniků. Nemocnice nemusí nutně vlastnit datové centrum, ale potřebuje jistotu, že systémy, které podporují péči o pacienty, nemohou náhle přestat být dostupné kvůli rozhodnutím třetích stran tisíce mil daleko.

Suverenita musí být ověřitelná

Čím více organizací mluví o suverénní umělé inteligenci, tím důležitější je rozlišovat skutečnou suverenitu od chytrého marketingu. Ne všichni poskytovatelé jsou transparentní ohledně toho, které vrstvy stacku skutečně ovládají, a pokud dostatečně mnoho dodavatelů začne popisovat své produkty jako suverénní, slovo by mohlo rychle ztratit svou hodnotu podobně jako tvrzení o udržitelnosti v jiných odvětvích.

To je místo, kde přichází idea “suverenity washing”. Řešení je marketingově prezentováno jako místně ovládané, protože smlouva je domácí, podpůrný tým je umístěn v zemi a data nikdy neopouštějí národní hranice, zatímco infrastruktura pod ní je stále provozována cizím poskytovatelem. Britská organizace by mohla koupit suverénní službu umělé inteligence od britského dodavatele a přesto zjistit, že systémy, na které se spoléhá, nakonec spočívají na americké infrastruktuře.

To však automaticky neznamená, že je to špatná volba. Pro mnoho organizací to může být správná rovnováha mezi náklady, schopnostmi a kontrolou. Ale mělo by to být vědomé rozhodnutí.

Výzvy nájmu versus benefity vlastnictví

Lze snadno pochopit, proč se američtí poskytovatelé umělé inteligence na hranici poptávky stali výchozím bodem. Nabízeli nejvíce schopné modely, investovali těžce do infrastruktury a neustále se pohybovali rychleji než zbytek trhu. V kombinaci s rostoucími geopolitickými obavami kolem čínské umělé inteligence se stali přirozenou volbou pro organizace, které chtějí nasadit umělou inteligenci ve velkém měřítku.

Tento trend se rozšířil daleko za rané adoptory. I v vysoce regulovaných odvětvích, kde je nová technologie obvykle pečlivě prozkoumána, se adopce urychlila. 75 % finančních služeb aktivně používá umělou inteligenci. Stejně tak 79 % právních profesionálů, zatímco 65 % klinických pracovníků říká, že jejich použití nástrojů umělé inteligence poskytovaných organizací se zvýšilo během posledního roku. Pro mnoho z těchto organizací výběr amerického poskytovatele jednoduše udělal komerční smysl.

Debata se stává nuancovanější, protože umělá inteligence proniká hlouběji do denních operací. Náklady jsou součástí obrazu. Ceny tokenů pokračují v poklesu, ale firemní výdaje na umělou inteligenci stále rostou, protože využití překonává snížení cen, s 93 % organizací, které již překročily své rozpočty na umělou inteligenci. Odolnost je další. Pokud externí poskytovatel trpí výpadkem, změní své obchodní podmínky nebo čelí vládnímu zásahu, organizace, které běží kritické úkoly, mají malou kontrolu nad výsledkem.

Vlastnictví větší části stacku umělé inteligence mění obě rovnice. Náklady se stávají předvídatelnější, jak se využití zvyšuje, zatímco organizace získávají větší přehled o tom, jak jejich systémy fungují, a mnohem více kontroly nad tím, co se stane, když se okolnosti změní.

Proč dobrá strategie ukončení vyžaduje správné partnerství s dodavatelem

Suverenita není něco, co organizace mohou zapnout přes noc. Pro regulované podniky se obvykle pohybují úkoly umělé inteligence tři až čtyři roky, a velmi málo z tohoto času je stráveno pohybem technologií. Většina z toho jde do správy, zadávání veřejných zakázek a operační práce potřebné k pohybu kritických procesů bez narušení organizace.

To je důvod, proč plánování musí probíhat dlouho předtím, než někdo potřebuje opustit poskytovatele. Zatímco 72 % podniků zahrnuje suverénní umělou inteligenci do svých roadmap pro rok 2026, pouze kolem tří z deseti má podrobnou strategii, rozpočet nebo plán migrace na místě. Je zřejmý apetit snižovat závislost, ale mnohem méně organizací prošlo tím, co by to vlastně znamenalo, kdyby museli učinit pohyb.

To začíná porozuměním, které úkoly jsou nejdůležitější, co by skutečný výstup skutečně stál a zda plány migrace byly testovány předtím, než jsou kdykoli potřeba. Tento proces také mění způsob, jakým hodnotí dodavatele. Tři otázky obvykle říkají většinu toho, co potřebujete vědět. Může být tvrzení o suverenitě nezávisle ověřeno, kdykoli si zákazník zvolí? Rozšiřuje se toto ověření na každou vrstvu stacku, nebo pouze na tu, která je uvedena ve smlouvě? A pokud by se poskytovatel rozhodl, mohl by získat přístup k datům zákazníka? Pokud je odpověď na tu poslední otázku ano, pak se nabízí politika spíše než záruka. Nezávisle, kdykoli si zákazník zvolí? Rozšiřuje se toto ověření na každou vrstvu stacku, nebo pouze na tu, která je uvedena ve smlouvě? A pokud by se poskytovatel rozhodl, mohl by získat přístup k datům zákazníka? Pokud je odpověď na tu poslední otázku ano, pak se nabízí politika spíše než záruka.