Ken Claffey, CEO společnosti VDURA – Interview Series: Návratový rozhovor

Ken Claffey, CEO a prezident společnosti VDURA, je zkušený zákaznicky orientovaný obchodní a produktový lídr s hlubokými znalostmi v oblasti cloudové a podnikové infrastruktury, vývoje hardwaru a softwaru a strategického růstu napříč produkty, operacemi a tržními funkcemi. Během své kariéry vybudoval a vedl vysoce výkonné globální týmy, realizoval korporátní strategii, řídil ziskový růst a inovace produktů a obrátil podvýkonné podniky. Předtím, než se stal CEO společnosti VDURA, zastával seniorní vedoucí pozice ve společnosti Seagate Technology (STX ), kde působil jako senior viceprezident a generální manažer s dohledem nad podnikovými systémy a P&L, a dříve vedl pozice ve společnostech Xyratex, Adaptec a Eurologic, čímž získal desetileté zkušenosti v oblasti podnikového úložiště a high-performance computingu.

VDURA je společnost, která se zabývá softwarově definovaným úložištěm dat a buduje moderní úložné řešení optimalizovaná pro umělou inteligenci a high-performance computingové zátěže pod heslem „rychlost se setkává s odolností“. Flagship produkt VDURA Data Platform kombinuje flash-first paralelní souborový systém s odolností objektového úložiště v jednotné architektuře, která lineárně škáluje napříč tisíci klienty a uzly, zatímco zjednodušuje operace a snižuje celkové náklady na vlastnictví. Původně založená jako Panasas a přejmenovaná v roce 2024, platforma VDURA podporuje prostředí on-premises, cloud a hybridní prostředí s pokročilou automatizací, urychlením metadat a škálovatelným výkonem, který je navržen tak, aby udržoval GPU klastry a chránil data pro podnikové, výzkumné a kritické AI a HPC použití.

Jak vaše cesta napříč HPC a podnikovým úložištěm formovala váš názor, že úložiště se stává určujícím omezením v AI infrastruktuře?

Pokud jste vybudovali úložné systémy pro některé z nejvíce náročných výpočetních prostředí na světě, rozvinete instinkt pro to, kde se skutečná úzká místa nachází, a ne tam, kde si lidé myslí, že jsou. V Xyratexu a prostřednictvím práce na ClusterStoru ve společnosti Seagate jsme řešili úložné problémy pro superpočítače, kde fyzika byla neomylná. Buď jste krmili výpočet, nebo ne.

To, co teď vidím v AI infrastruktuře, je stejné základní omezení, pouze oděné do jiné ekonomiky. Obsese GPU v Neocloud trhu byla pochopitelná. NVIDIA (NVDA ) vytvořila vzácný a transformační zdroj. Ale předpoklad, že úložiště bude jednoduše škálovat spolu s ním, levně a snadno, byl vždycky určen k rozbití. Rozbilo se. Úložiště se nyní blíží 20 až 30 procent AI infrastrukturních rozpočtů ve všech flash nasazeních, a roste rychleji než jakákoli jiná komponenta. Když jste strávili kariéru pozorováním, jak se úložiště stává omezujícím faktorem ve všech velkých výpočetních prostředích, přestanete být překvapeni, když se zbytek trhu přizpůsobí této realitě.

Proč bylo plánování úložiště degradováno během Neocloud infrastrukturního boje?

Několik strukturálních předpokladů se shodlo přesně ve špatnou chvíli. První, ceny flash byly dočasně příznivé. NVMe SSD byly dostupné a dostatečně dostupné, aby se jednalo o rozumnou výchozí hodnotu. Nešlo o architektonickou moudrost, ale o produkt krátkého ekonomického okna, které operátoři považovali za trvalý stav.

Druhý, konkurenční dynamika odměňovala počet GPU nad vším ostatním. Neocloud trh byl hodnocen podle toho, kolik NVIDIA čipů jste mohli umístit do racku. Úložiště bylo zhruba 10procentní položkou, snadno schválenou bez hlubokého přezkumu. Třetí, rozhodnutí pro all-flash se zdálo bezpečné, protože eliminovalo komplexnost. Jedna úroveň, jeden typ média, jednoduché na nákup a provoz. Problém je, že „jednoduché“ a „ekonomicky udržitelné“ přestaly být stejné věci, jakmile se nabídka NAND zúžila a ceny vyskočily. Do té doby byly již infrastrukturní rozhodnutí uzamčena.

Co překvapuje operátory nejvíce, když vidí, jak úložiště ovlivňuje jejich využití GPU?

Vztah je přímější, než si většina operátorů uvědomuje, dokud nejsou konfrontováni s idle GPU. Školicí běhy s častým checkpointováním vytvářejí burst write požadavky, které mohou zastavit výpočet, pokud úložný vrstva nemůže absorbovat je dostatečně rychle. Datové potrubí pro preprocessing a ingestování vytvářejí udržitelné read průtokové požadavky, které, pokud nejsou splněny, mohou odepřít GPU práci.

NVIDIA自己的 DGX pokyny kvantifikují toto: textově založené LLM školení vyžaduje přibližně 0,5 GB/s read průtoku na GPU, zatímco fyzické AI a vizualizační zátěže vyžadují přibližně 4 GB/s read a 2 GB/s write na GPU. Pokud vaše úložná architektura nemůže dodat to, neběžíte své GPU na kapacitu. Běžíte je na tom zlomek, který vaše úložiště dovolí.

Jaké náklady mohou vzniknout čistě z výběru SSD a architektonického designu, i když hlavních propustných metrik vypadají podobně?

Toto je místo, kde operátoři dostanou vážné potíže, protože hlavních čísel může být skutečně zavádějící. Vezměte si reprezentativní příklad. 122,88 TB QLC NVMe SSD stojí přibližně 27 000 dolarů. 7,68 TB disk z téže generace dodává srovnatelný sekvenční propustnost za přibližně 1 800 dolarů. Pro 4 096-GPU cluster na NVIDIA’s Enhanced specifikaci toto jediné kapacitní rozhodnutí produkuje flash účet, který se pohybuje od 600 000 do 9,6 milionu dolarů. Propustnost je efektivní stejná. Jediná proměnná je, kolik studených dat si vyberete, aby se parkovalo na premium médiu, které dodává žádný další výkonnostní benefit.

Jak by měli operátoři přehodnotit all-flash versus tiered úložiště, když ceny flash stoupají a nabídka NAND zůstává omezená?

Startovní bod je přijetí toho, že ekonomický předpoklad za all-flash AI infrastrukturou byl vždy podmíněný, ne základný. Phison’s CEO popsal kapacitu NAND výroby jako efektivní alokovanou do roku 2026. Goldman Sachs (GS ) projekty DRAM ceny rostoucí dvojciferně čtvrtletně po čtvrtletně po stejnou dobu. All-flash výchozí hodnota dávala smysl, když flash byl levný a dostatečně dostupný. Už to není.

Právní rámec je zeptat se, pro co je flash vlastně. Flash je výkonové médium. Mělo by být dimenzováno tak, aby nasycené GPU propustné požadavky, nic více. Všechno ostatní, včetně studených dat, checkpointů, které nejsou aktivně čteny, a archivovaných školicích sad, patří na high-density HDD, které zůstávají řádově levnější na TB.

Jaké lekce může Neocloud vrstva naučit z hyperscaler úložného designu?

Nejdůležitější lekce je, že Google (GOOGL ), Meta a Microsoft (MSFT ) neběží all-flash, a mají více AI zátěžových zkušeností než kdokoli. Nasazují smíšené-tier architektury s inteligentním tieringem: dostatek NVMe flash, aby nasycený GPU propustnost, a poté odtok na high-density HDD jako rychle, jak fyzika dovolí. Toto není filozofická preference. Je to ekonomická nutnost, která je řízena jasným pochopením AI zátěžové fyziky.

Jak by měli infrastrukturní týmy kvantifikovat ekonomický dopad úložné dostupnosti na GPU klastry?

Matematika je střízlivá, když ji běžete upřímně. Společné úložné selhání nevytváří proporcionální SLA propad. Vytvoří simultánní porušení napříč každým GPU rackem připojeným k tomuto úložišti. 5 000-GPU cluster s 98procentní úložnou dostupností nedodá 2procentní výkonnostní propad. Vytvoří 876 000 GPU-hodin ztraceného výpočtu ročně. Při reprezentativních GPU-hodinových nákladech se to překládá na miliony dolarů v idle compute ročně, plus SLA kreditní závazky na každém postiženém racku současně.

Jaké úložné schopnosti jsou nejpravděpodobněji určující dlouhodobou Neocloud přežití prostřednictvím konsolidace?

Operátoři, kteří přežijí, budou ti, kteří vyřešili celkové náklady na vlastnictví rovnici napříč celým infrastrukturním stackem, ne pouze GPU nákupní rovnici. To znamená několik konkrétních schopností.

První, jednotná softwarově definovaná architektura, která běží flash a disk na jediné datové rovině s nativním high-performance tieringem, bez externích datových moverů, bez druhé softwarové vrstvy, bez operacionální komplexity, která je zavedena spojením samostatných systémů. Druhý, úložiště, které může jet nezávislé náklady na flash a disk, jak se tyto trhy pohybují nezávisle na sobě, jak budou. Třetí, self-healing systémy, které udržují vysokou dostupnost bez specializovaných správců, kteří provádějí manuální obnovu ve 3 hodiny ráno. Operacionální komplexní úložiště je neviditelný náklad, který se sčítá na škále. Čtvrtý, odolnost, která může být důvěryhodně podpořena v SLA proti hyperscaler benchmarkům.

Jaká je vaše zpráva Neocloud operátorům, kteří vyhodnocují svou úložnou strategii dnes?

Nechejte úložné rozhodnutí být tím, které jste udělali výchozí. Každá jiná část infrastrukturního stacku dostává přísnou inženýrskou a finanční kontrolu. Úložiště by nemělo být jiné. Operátoři, kteří budou tady za tři roky, budou ti, kteří se podívali na skutečné náklady na GPU-hodinu užitečného výpočtu, pochopili svou skutečnou dostupnost a ujistili se, že jsou dimenzováni pro zátěž, ne pro nákupní zkratku.

Okno, aby se to udělalo správně, se zužuje. Konsolidace je již underway, a ekonomika je neomylná. Ale pro operátory, kteří jsou ochotni přehodnotit úložnou vrstvu se stejnou přísností, jakou aplikovali na výběr GPU, příležitost je významná. Úložiště děláno správně ne pouze snižuje náklady. Odblokuje plnou hodnotu každého GPU v racku.

(CRWV ) (ORCL )

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více o tomto technologickém stacku, by měli navštívit VDURA. Mohou také přečíst náš předchozí rozhovor s Kenem Claffeem.