Ken Claffey, CEO av VDURA – Intervju-serie: En returnerende samtale

Ken Claffey, CEO og President i VDURA, er en erfaren kundeorientert forretnings- og produktleder med dypt kunnskap i sky og bedriftsinfrastruktur, maskin- og programvareutvikling, og driving strategisk vekst over produkt-, operasjons- og markedsfunksjoner. Gjennom sin karriere har han bygget og ledet høytytende globale team, utført bedriftsstrategi, drevet lønnsomt omsetningsvækst og produktinnovasjon, og snudd underpresterende bedrifter. Før han tok over som CEO i VDURA, hadde Claffey seniort lederstillinger i Seagate Technology (STX ), der han tjenestegjorde som SVP og General Manager med ansvar for bedriftssystemer og P&L, og tidligere lederstillinger i Xyratex, Adaptec og Eurologic, og bringer tiår med erfaring innen bedriftslagring og høytytende databehandling.

VDURA er et programvaredefinert datainfrastrukturselskap som bygger moderne lagringsløsninger optimalisert for kunstig intelligens og høytytende databehandlingsarbeidsbelastninger under mottoet “hastighet møter holdbarhet”. Selskapets flaggskip, VDURA Data Platform, kombinerer flash-først parallelt filsystem-ytelse med objektlagringsholdbarhet i en samlet arkitektur som skalerer lineært over tusenvis av klienter og noder, samtidig som det forenkler operasjoner og reduserer den totale eierkostnaden. Opprinnelig grunnlagt som Panasas og rebranded i 2024, støtter VDURAs plattform on-premises-, sky- og hybride miljøer med avansert automatisering, metadata-akselerasjon og skalerbar ytelse designet for å holde GPU-kluster mata og data beskyttet for bedrifts-, forsknings- og kritiske AI- og HPC-anvendelser.

Hvordan har din reise gjennom HPC og bedriftslagring formet din oppfatning av at lagring blir den avgjørende begrensningen i AI-infrastruktur?

Med å ha bygget lagringsystemer for noen av verdens mest krevende databehandlingsmiljøer, utvikler du en intuitiv forståelse av hvor flaskenekler faktisk bor i forhold til hvor folk antar de bor. Hos Xyratex og gjennom ClusterStor-arbeidet hos Seagate, løste vi lagringsproblemer for superdatamaskiner der fysikken var uforsonlig. Enten mata du databehandlingen eller gjorde du det ikke.

Det jeg ser nå i AI-infrastruktur er den samme grunnleggende begrensningen, bare forkledd i forskjellige økonomiske sammenhenger. GPU-obsesjonen i Neocloud-markedet var forståelig. NVIDIA (NVDA ) skapte en knapp og transformasjonell ressurs. Men antagelsen om at lagring ville skaleres like lett og billig, var alltid gått til å bryte. Det har brutt. Lagring går nå mot 20 til 30 prosent av AI-infrastruktur-budsjettene i alle flash-utplasseringer, voksende raskere enn noen annen komponent. Når du har tilbragt en karriere med å se lagring bli den bindende begrensningen i hver stor skala databehandlingsmiljø, slutter du å bli overrasket når resten av markedet innhenter denne virkeligheten.

Hvorfor ble lagringsplanlegging prioritetert ned under Neocloud-infrastruktur-land-grab?

Flere strukturelle antagelser konvergerte på akkurat feil tidspunkt. Først var flash-prisene midlertidig gunstige. NVMe-SSD-er var rimelige og tilgjengelige nok til at en all-flash-løsning føltes som en rimelig standard. Det var ikke arkitektonisk visdom. Det var et produkt av et kortvarig økonomisk vindu som operatørene tok feil for å være en permanent tilstand.

For det andre belønnet den konkurrerende dynamikken GPU-tall over alt annet. Neocloud-markedet ble vurdert ut fra hvor mange NVIDIA-chipper du kunne montere. Lagring var omtrent en 10 prosent-linje, lett å godkjenne gjennom anskaffelse uten dyptgående granskning. Tredje, all-flash-beslutningen føltes trygg fordi den eliminerte kompleksitet. En tier, en mediatype, enkel å anskaffe og operere. Problemet er at “enkel” og “økonomisk bærekraftig” sluttet å være det samme da NAND-tilgangen strammet inn og prisene skjøt opp. Da var infrastruktur-beslutningene allerede låst.

Hva overrasker operatørene mest når de ser hvordan lagring påvirker deres GPU-utnyttelse?

Forholdet er mer direkte enn de fleste operatørene innser før de stirrer på inaktive GPU-er. Trening med hyppig checkpointing skaper burst-skriver-krav som kan stanse databehandlingen hvis lagringslaget ikke kan absorbere dem raskt nok. Data-pipelines for forbehandling og innmatning skaper vedvarende lese-gjennomstrømningskrav som, hvis de ikke blir møtt, kan sulte GPU-ene for arbeid.

NVIDIA sin egen DGX-retningslinje kvantifiserer dette: tekstbasert LLM-trening krever omtrent 0,5 GB/s lese-gjennomstrømning per GPU, mens fysisk AI- og visualiseringsarbeidsbelastninger krever omtrent 4 GB/s lesing og 2 GB/s skriving per GPU. Hvis din lagringsarkitektur ikke kan levere det, kjører du ikke dine GPU-er på full kapasitet. Du kjører dem på den brøkdel din lagring tillater.

Arkitekturen betyr enormt på cluster-skala. Et lagringsystem som setter en mellomledd mellom disken og klienten kan vise sammenlignbare overskriftsgjennomstrømning på en enkelt disk, men på skala kan du ende opp med å trenge tre ganger så mange disker for å mette den samme GPU-flåten. Tre ganger så mange SSD-er, tre ganger så mye strøm, tre ganger så mye rack-plass. Utnyttelsesmatematikken akselerer raskt.

Hva kostnadsskiller kan oppstå rent fra SSD-valg og arkitektonisk design, selv om overskriftsgjennomstrømningsmålinger ser like ut?

Dette er der operatørene kommer i alvorlige problemer, fordi overskriftstallene kan være genuint misvisende. Ta et representativt eksempel. En 122,88 TB QLC NVMe SSD koster omtrent 27 000 dollar. En 7,68 TB-enhet fra samme generasjon leverer sammenlignbar sekvensiell gjennomstrømning for omtrent 1 800 dollar. For en 4 096-GPU-cluster på NVIDIA sin forbedrede spesifikasjon, produserer denne enkeltkapasitetsvalgbeslutningen en flash-regning som varierer fra 600 000 til 9,6 millioner dollar. Gjennomstrømningen er effektivt identisk. Den eneste variabelen er hvor mye kald data du velger å parkere på premium-media som ikke leverer noen ytterligere ytelsesfordel.

På toppen av det bestemmer arkitektonisk design antall disker på cluster-skala. En arkitektur som leverer omtrent 5,8 GB/s målt lese-gjennomstrømning per SSD, trenger omtrent 353 disker for å mette en 4 096-GPU-cluster. En arkitektur som leverer omtrent 1,9 GB/s per SSD, på grunn av mellomleddsoverhod, trenger over 1 000. Til 12 000 dollar per 30 TB-enhet, er denne forskjellen ikke et avrundingsfeil – det er et forretningsmodell-spørsmål.

Hvordan bør operatørene omvurdere all-flash versus lagdelt lagring når flash-prisene stiger og NAND-tilgangen forblir begrenset?

Utgangspunktet er å akseptere at den økonomiske premissen bak all-flash AI-infrastruktur alltid var betinget, ikke grunnleggende. Phison sin CEO har beskrevet NAND-produksjonskapasitet som effektivt tildelt frem til 2026. Goldman Sachs (GS ) projiserer DRAM-priser som øker med to sifre kvartal for kvartal frem til samme periode. All-flash-standardet hadde mening når flash var billig og tilgjengelig. Det gjør det ikke lenger.

Riktig rammeverk er å spørre hva flash faktisk er for. Flash er et ytelsesmedium. Det bør være dimensjonert for å mette GPU-gjennomstrømningskrav, ikke mer. Alt annet, inkludert kald data, checkpoint som ikke er aktivt lest, og arkiverte treningssett, hører hjemme på høyttetthet-HDD, som forblir mange størrelsesordener billigere per TB.

Fellen operatørene faller i er å behandle lagdeling som en påheng: kjøp en all-flash primær-lag, legg til et separat objekt-lag for kald data, og kobler dem med eksterne data-flyttere. Dette introduserer en annen programvare-stack, en annen dataplane, nettverkskompleksitet og operasjonell overhead. Hyperscaler-tilnærmingen, som kjører SSD og HDD innen samme programvare-stack med innbygd høytytende lagdeling og ingen eksterne data-flyttere, holder lagring nærmere 10 prosent av infrastruktur-budsjettet samtidig som det metter hver GPU.

Hva lærdommer kan Neocloud-operatørene trekke fra hyperscaler-lagring-design-valg?

Den viktigste lærdommen er at Google (GOOGL ), Meta og Microsoft (MSFT ) ikke kjører all-flash, og de har mer AI-arbeidsbelastnings-erfaring enn noen andre. De deployer mixed-lag-arkitekturer med intelligent lagdeling: nok NVMe-flash for å mette GPU-gjennomstrømning, deretter drener til høyttetthet-HDD-er så raskt fysikken tillater. Dette er ikke en filosofisk preferanse. Det er en økonomisk imperativ drevet av en klart øyeblikklig forståelse av AI-arbeidsbelastnings-fysikk.

Den andre lærdommen er arkitektonisk integrasjon. Hyperscalere løser ikke lagdeling ved å bolt sammen separate systemer. De kjører SSD og HDD på samme programvare-stack, samme dataplane, med lagdeling som en førsteklasses-operasjon innen lagrings-systemet, ikke en batch-jobb håndtert av et separat verktøy. Den integrasjonen er det som tillater dem å holde lagring økonomisk på enorm skala samtidig som de opprettholder ytelsesgarantier deres GPU-flåter krever.

Hvordan bør infrastruktur-teamene kvantifisere den økonomiske påvirkningen av lagrings-tilgjengelighet på GPU-flåter?

Matematikken er alvorlig når du kjører den ærlig. Delte lagringsfeil produserer ikke en proporsjonal SLA-svikt. Det produserer samtidig brudd over hver GPU-rack koblet til lagringen. En 5 000-GPU-cluster med 98 prosent lagrings-tilgjengelighet leverer ikke en 2 prosent ytelses-svikt. Det produserer 876 000 GPU-timer med tapt databehandling per år. Til representative GPU-timer-kostnader, oversetter det til millioner av dollar i inaktive databehandling årlig, pluss SLA-kreditt-forpliktelser på hver påvirket rack samtidig.

Hvordan forskjellige lagrings-arkitekturer sammenlignes på ytelse per watt i strøm-begrensede miljøer?

Det kommer opp i nesten hver alvorlig infrastruktur-samtale nå, og differensialen er ikke marginal. Det er multiplikativt. Basert på publiserte spesifikasjoner og sammenlignbare konfigurasjoner, leverer omtrent 1 340 GB/s lese-gjennomstrømning, en arkitektur forbrenner 55 kW mens en annen oppnår lignende utgang ved omtrent 16 kW. Det er en 3,4-ganger forskjell i ytelse per watt. I et data-senter der AI-arbeidsbelastninger forbruker 40 til 250 kilowatt per rack mot en fast strømtilførsel, er bortkastede lagrings-watt GPU-er du ikke kan deployere. NVIDIA sin egen BlueField-4-dokumentasjon fastslår uttrykkelig at strømtilgjengelighet er den primære begrensningen for å skalerer AI-fabrikker.

(CRWV ) (ORCL )

Hvordan påvirker lagrings-arkitektur direkte SLA-konkurransesevne når oppholdsgarantier nærmer seg 99 prosent?

Lagring er den eneste største blast-radiusen i hver GPU-cluster, som gjør det til den eneste viktigste variabelen i hver ærlig SLA-forpliktelse. SemiAnalysis ClusterMAX 2.0-ratingsystemet, som blir en influerende benchmark i Neocloud-ananskaffelse, gjør SLA-er en eksplisitt faktor i prisdiskusjoner. Leverandører uten konkurrerende SLA-er taper avtaler nå.

Hvilke lagrings-egenskaper er mest sannsynlig å bestemme langvarig Neocloud-overlevelse gjennom konsolidering?

Operatørene som overlever vil være de som har løst den totale eierkostnads-ligningen over hele infrastruktur-staken, ikke bare GPU-anskaffelses-ligningen. Det betyr flere spesifikke egenskaper.

Først, en samlet programvaredefinert arkitektur som kjører flash og disk på samme dataplane med innbygd høytytende lagdeling, ingen eksterne data-flyttere, ingen annen programvare-stack, ingen operasjonell kompleksitet introdusert ved å bolt sammen separate systemer. Andre, lagring som kan ri uavhengige kostnads-kurver for flash og disk som markedene beveger seg uavhengig av hverandre, som de vil. Tredje, selv-healing-systemer som opprettholder høy tilgjengelighet uten spesialiserte administratorer som utfører manuell gjenopprettelse kl. 03.00. Operasjonelt kompleks lagring er en usynlig kostnad som akselerer på skala. Fjerde, holdbarhet som kan underwrites i en SLA mot hyperscaler-benchmark.

Hva er din beskjed til Neocloud-operatører som vurderer sin lagrings-strategi i dag?

Ikke la lagrings-beslutningen være den du tok som standard. Hver annen del av infrastruktur-staken får rigorøs ingeniør- og finansiell granskning. Lagring bør være ingen unntak. Operatørene som vil være her om tre år er de som tok en hardt blikk på deres sanne kostnad per GPU-time med nyttig databehandling, forsto deres virkelige tilgjengelighets-postur, og sikret seg at de var dimensjonert for arbeidsbelastningen i stedet for en anskaffelses-Shortcut.

Det åpne vinduet for å få dette rett er smalner. Konsolidering er allerede i gang, og økonomien er uforsonlig. Men for operatørene som er villige til å omvurdere lagrings-laget med samme rigor som de anvendte på GPU-valg, er muligheten betydelig. Lagring gjort riktig reduserer ikke bare kostnader. Det låser opp full verdi av hver GPU i racken.

Takk for det flotte intervjuet, lesere som ønsker å lære mer om denne teknologistaken, bør besøke VDURA. De kan også lese vårt tidligere intervju med Ken Claffey.