Myslitelé

Umělá inteligence: Infrastruktura je rozbitá. Tokeny se stávají novou měrou hodnoty.

mm
Přidejte Unite.AI mezi své preferované zdroje na Google

Průmysl umělé inteligence má problém s měřením.

Po mnoho let byl úspěch definován přístupem ke zpracování, jako je kdo má nejvíce GPU, největší klastry nebo nejrychlejší tréninkové běhy. Miliardy byly investovány do infrastruktury, aby se vyhrál tento závod.

Ale když se umělá inteligence přesouvá z experimentování do produkce, tento model začíná selhávat.

Podniky nekoupí GPU. Nekupují ani inferenční kapacitu. Koupí výsledky, jako jsou souhrny, doporučení, rozhodnutí, obsah. Jinými slovy, kupují tokeny.

Avšak většina infrastruktury umělé inteligence je stále navržena tak, jako by zpracování bylo konečným cílem. Není.

Skutečnou jednotkou hodnoty v umělé inteligenci je token. A společnosti, které rozpoznají tento posun brzy, budou definovat další éru trhu.

Vzestup továrny tokenů umělé inteligence

Pokud tokeny jsou produktem, pak infrastruktura umělé inteligence potřebuje fungovat jako výrobní systém, ne jako vědecký projekt. To je místo, kde vstupuje koncept továrny tokenů umělé inteligence.

Továrna tokenů umělé inteligence není jednoduše další softwarová vrstva ve stacku. Je to předefinování stacku samotného. Místo optimalizace pro izolované modelové výkony nebo surovou hardwarovou utilizaci se zaměřuje na jeden výsledek: efektivní produkci tokenů ve velkém měřítku.

To znamená abstrakci komplexity infrastruktury, dynamické přidělování úloh napříč heterogenními prostředími a nepřetržitou optimalizaci pro propustnost, latenci, utilizaci a náklady na token.

Dnešní model je v podstatě pronájem GPU s extra kroky. Organizace zajišťují drahé hardwarové vybavení, spojují fragmentované nástroje a doufají, že utilizace nakonec ospravedlní investici.

Továrna tokenů otočí tento vztah úplně. Dodává výstupy, ne infrastrukturu, a považuje efektivitu za základní princip navrhování od samého počátku. To není.incrementální pokrok. Je to posun od infrastruktury jako kapacity k infrastruktuře jako produkce.

Proč starý model nemůže fungovat

Současný model infrastruktury umělé inteligence není jen neefektivní. Je také stále nesmírně neudržitelný.

Nedostatek GPU odhalil první trhliny. Poptávka stále převyšuje nabídku, což nutí organizace do fragmentovaných, víceuživatelských nasazení. Co začalo jako dočasné řešení se rychle stalo normou: heterogenní prostředí spojená bez ucelené provozní vrstvy.

Problém spočívá v tom, že většina stávajících stacků nebyla postavena pro tuto realitu. Neoptimalizují efektivně napříč architekturami, neadaptují se v reálném čase a neposkytují jasnou viditelnost do výkonu a nákladů.

Jako výsledek se komplexita zvyšuje rychleji než měřítko.

Každý nový model, rámec, akcelerátor nebo cloudová platforma zavádí další vrstvu provozní zátěže. Týmy tráví obrovské množství času správou orchestrace, kompatibility, směrování, plánování a pozorovatelnosti místo zlepšování výsledků.

Co by mělo být škálovatelnou výhodou se rychle stává koordinačním problémem.

V téže době se ekonomika stává stále obtížnější ignorovat. Rané nasazení umělé inteligence mohlo skrýt neefektivitu za růstem a experimentováním. Tohle okno se zavírá.

Výkonní manažeři nyní kladou obtížnější otázky: Proč jsou náklady na inferenci tak nepředvídatelné? Proč je využití GPU stále tak nízké? Proč organizace platí премiální ceny za hardwarové vybavení, které často sedí nečinně? Proč je tak obtížné vázat náklady na infrastrukturu na obchodní výsledky?

Odpověď je jednoduchá: Systém byl navržen pro přístup, ne pro efektivitu.

Z compute-centrické na token-centrickou architekturu

Posun k továrnám tokenů je jak filozofický, tak architektonický.

První, trh se pohybuje od GPU-as-a-service k outcome-as-a-service. Zákazníci nechtějí spravovat infrastrukturu; chtějí garantované výsledky. Logický konečný stav je spotřeba založená na výstupech, ne na zdrojích.

Druhý, fragmentované stacky jsou nahrazovány ucelenými řídicími rovinami. V heterogenním prostředí je viditelnost a kontrola vším. Továrny tokenů poskytují přehled o využití, nákladech a výkonu a schopnost jednat. Organizace potřebují pochopit: Kdo generuje tokeny? Za jakou cenu? Na kterém hardwaru? Pod jakými úlohami? A s jakou úrovní efektivnosti? Bez těchto odpovědí se optimalizace stává hádáním.

Nakonec se průmysl zaměřuje na nepřetržitou optimalizaci. Výzvou již není jen spuštění modelů, ale spuštění inteligentních modelů, když organizace určují: Které úlohy patří na který hardwar? Jak maximalizovat propustnost při kontrole nákladů? Jak zabránit nekontrolovanému využití tokenů?

Továrny tokenů považují tyto otázky za primární problémy, ne za následné.

Proč dnešní model dodávky umělé inteligence selhává

Tradiční stack umělé inteligence (zahrnující hardwarové dodavatele, cloudové platformy, inferenční služby) byl postaven především pro rychlý růst, ne pro systémovou efektivitu.

Každá vrstva přidává hodnotu, ale také náklady, abstrakci a provozní fragmentaci. Výsledkem je systém se zásobními maržemi, omezenou transparentností a zvyšující se závislostí na dodavatelích. Organizace končí optimalizací uvnitř sil, ne napříč systémem.

Továrny tokenů fundamentálně zpochybňují tento model.

Oddělením hardwaru od dodávky hodnoty umožňují koncovou optimalizaci. Úlohy mohou plynule přecházet napříč prostředími. Architektury mohou evoluvovat bez požadavku na masivní přepsání. Efektivita se stává měřitelnou, spravovatelnou a nepřetržitě zlepšovatelnou.

Toto je způsob, jak podniky a nové cloudové společnosti mohou soutěžit efektivněji s hyperscalery. Ne tím, že budou odpovídat jejich měřítku, ale tím, že budou překonávat efektivitu.

Kdo vyhraje

Možná nejvíce rušivým aspektem tohoto přechodu je, koho to osvobodí. Není třeba vlastnit datové centrum nebo dokonce GPU, aby se provozovala továrna tokenů.

Co je důležité, je kontrola nad orchestrací, optimalizací a dodávkou. To otevírá dveře mnohem širšímu okruhu hráčů:

  • Podniky s velkými, trvalými úlohami umělé inteligence.
  • Neo-cloudoví poskytovatelé optimalizující pro konkrétní vertikály nebo použití.
  • Dodavatelé infrastruktury pohybující se vzhůru ve stacku.

V tomto modelu konkurenční výhoda nepřichází z hromadění zpracování. Přichází z produkce tokenů lépe, rychleji a levněji než kdokoli jiný.

Nová bitevní pole: Náklady na token

Následující fáze soutěže umělé inteligence nebude vyhrána pouze na kvalitě modelu. Bude vyhrána na efektivitě. Konkrétněji, náklady na token.

Kdo může dodat ekvivalentní nebo lepší výstupy za zlomek nákladů? Kdo může škálovat bez nekontrolovaných nákladů na infrastrukturu? Kdo může změnit umělou inteligenci na předvídatelný, ziskový byznys?

Tyto nejsou otázky infrastruktury. Jsou otázky produkce, které vyžadují produktivní myšlení.

Budoucnost není postavena na GPU

GPU nezmizí, ale již nejsou příběhem. Tokeny jsou.

Organizace, které zůstávají zaměřeny na zpracování, čelí rostoucím nákladům a klesajícím výnosům. Ty, které se posunou do token-centrických systémů, odemknou fundamentálně odlišný model, který alignuje infrastrukturu s výsledky a náklady s hodnotou.

Továrny tokenů umělé inteligence nejsou vzdáleným konceptem. Jsou nevyhnutelnou evolucí trhu. Jediná skutečná otázka je, kdo je postaví jako první a kdo zůstane pozadu.

Gaurav Shah je viceprezident pro rozvoj podnikání a strategii ve společnosti NeuReality, kde řídí zákaznické úsilí o revoluci v oblasti AI inference a urychlení jejího přijetí napříč sektory, včetně fintech, healthtech a vlády. Gaurav má tři desetiletí zkušeností v technologickém průmyslu, kde pracoval na pozicích produktového marketingu a managementu ve společnostech NVIDIA, Marvell, Tenstorrent a GlobalFoundries. Je umístěn v oblasti zálivu San Francisco.