Ken Claffey, CEO af VDURA – Interview Serie: En Returneringssamtale

Ken Claffey, CEO og præsident i VDURA, er en erfaren kundeorienteret forretnings- og produktleder med dyb ekspertise i cloud og enterprise-infrastruktur, hardware- og softwareudvikling samt drivende strategisk vækst på tværs af produkt-, operations- og go-to-market-funktioner. Gennem sin karriere har han opbygget og ledet højtpræsterende globale teams, udført corporate-strategi, drevet profitable omsætningsvækst og produktinnovation samt vendt underpræsterende forretninger. Før han overtog posten som CEO i VDURA, havde Claffey seniort ledelsesroller i Seagate Technology (STX ), hvor han fungerede som SVP og General Manager med ansvar for enterprise-systemer og P&L, samt tidligere ledelsesstillinger i Xyratex, Adaptec og Eurologic, og bringer årtiers erfaring indenfor enterprise-lagring og high-performance computing.

VDURA er et software-defineret data-infrastrukturselskab, der bygger moderne lagringsløsninger optimeret til kunstig intelligens og high-performance computing-workloads under mottoet “hastighed møder holdbarhed”. Selskabets flagskib, VDURA Data Platform, kombinerer flash-først parallel filsystempræstation med objekt-lagringssoliditet i en samlet arkitektur, der skalerer lineært på tværs af tusindvis af klienter og noder, samtidig med at det simplificerer operationer og reducerer den samlede ejendomsomkostning. Oprindeligt grundlagt som Panasas og omdøbt i 2024, understøtter VDURAs platform on-premises-, cloud- og hybrid-miljøer med avanceret automatisering, metadata-acceleration og skalerbar præstation designet til at holde GPU-klusterne fødet og data beskyttet for enterprise-, forsknings- og mission-kritiske AI- og HPC-brugssteder.

Hvordan har din rejse gennem HPC og enterprise-lagring formet din opfattelse af, at lagring er blevet den afgørende begrænsning i AI-infrastruktur?

At have bygget lagringsystemer til nogle af verdens mest krævende beregningsmiljøer giver en intuition for, hvor knastpunkterne faktisk befinder sig i forhold til, hvor folk antager, de befinder sig. Hos Xyratex og gennem ClusterStor-arbejdet hos Seagate løste vi lagringsproblemer for supercomputere, hvor fysikken var uforgivende. Enten fik du fødet beregningen, eller også gjorde du det ikke.

Det, jeg ser nu i AI-infrastruktur, er den samme fundamentale begrænsning, blot klædt i andre økonomiske sammenhænge. GPU-obsessionen på Neocloud-markedet var forståelig. NVIDIA (NVDA ) skabte en knap og transformerende ressource. Men antagelsen om, at lagring ville skale sammen med det på en billig og let måde, var altid gået til. Det er gået i stykker. Lagring er nu på vej mod at udgøre 20 til 30 procent af AI-infrastrukturbudgetterne i alle flash-udrulninger, og det vokser hurtigere end nogen anden komponent. Når du har tilbragt en karriere med at se lagring blive den bindende begrænsning i hvert stort beregningsmiljø, holder du op med at blive overrasket, når resten af markedet indhenter den virkelighed.

Hvorfor blev lagringsplanlægning prioriteret lavt under Neocloud-infrastruktur-landbrugsudbygningen?

Flere strukturelle antagelser konvergerede på præcis det forkerte tidspunkt. Først var flash-priserne midlertidigt gunstige. NVMe-SSD’er var billige og tilgængelige nok til, at en all-flash-løsning føltes som en rimelig standard. Det var ikke arkitektonisk visdom. Det var et produkt af en kortvarig økonomisk vindue, som operatørerne fejltolkede som en permanent tilstand.

Anden, den konkurrencemæssige dynamik belønnede GPU-antal over alt andet. Neocloud-markedet blev vurderet på, hvor mange NVIDIA-chip, du kunne montere. Lagring var omtrent en 10-procent linje, let at glide igennem indkøb uden dyb gennemgang. Tredje, all-flash-beslutningen føltes sikker, fordi den eliminerede kompleksitet. En enkelt niveau, en enkelt medietype, let at indkøbe og operere. Problemet er, at “simpelt” og “økonomisk bæredygtigt” holdt op med at være det samme, da NAND-forsyningen strammede til, og priserne steg. På det tidspunkt var infrastruktur-beslutningerne allerede låst fast.

Hvad overrasker operatørerne mest, når de ser, hvordan lagring påvirker deres GPU-udnyttelse?

Forholdet er mere direkte, end de fleste operatører indser, før de står overfor inaktive GPU’er. Træningsløb med hyppig checkpointing skaber burst-skrivekrav, der kan bremse beregning, hvis lagringslaget ikke kan absorbere dem hurtigt nok. Data-pipelines til forarbejdning og indtagelse skaber vedvarende læse-gennemstrømningskrav, der, hvis de ikke opfyldes, kan sulte GPU’erne for arbejde.

NVIDIA’s egen DGX-retningslinje kvantificerer dette: tekstbaseret LLM-træning kræver omtrent 0,5 GB/s læse-gennemstrømning per GPU, mens fysisk AI- og visualiseringsarbejdskræver omtrent 4 GB/s læs og 2 GB/s skriv per GPU. Hvis din lagringsarkitektur ikke kan levere det, kører du ikke dine GPU’er på fuld kapacitet. Du kører dem på den brøkdel, som din lagring tillader.

Arkitekturen betyder enormt på cluster-niveau. En lagrings-system, der indsætter en mellemliggende mellem drev og klient, kan vise sammenlignelige overskriftsgennemstrømninger på en enkelt drev, men på større skala kan du ende med at behøve tre gange så mange drev for at mætte den samme GPU-flåde. Tre gange så mange SSD’er, tre gange så meget strøm, tre gange så meget rack-plads. Utnyttelsesmatematikken forstærker hurtigt.

Hvilke omkostningsforskelle kan opstå udelukkende fra SSD-valg og arkitektur-design, selvom overskriftsgennemstrømningsmetrikker ser ens ud?

Dette er, hvor operatørerne kommer i alvorlige problemer, fordi overskriftsnumre kan være virkelig misvisende. Tag et repræsentativt eksempel. En 122,88 TB QLC NVMe-SSD koster omtrent 27.000 dollars. En 7,68 TB-drev fra samme generation leverer sammenlignelige sekventielle gennemstrømninger for omkring 1.800 dollars. For en 4.096-GPU-cluster på NVIDIA’s Enhanced-specifikation producerer dette enkelt kapacitetsvalg en flash-regning, der varierer fra 600.000 til 9,6 millioner dollars. Gennemstrømningen er effektivt identisk. Den eneste variabel er, hvor meget kold data du vælger at parkere på premium-medie, der ikke giver nogen yderligere præstationsfordele.

Derudover bestemmer arkitektur-design drev-antal på cluster-niveau. En arkitektur, der leverer omtrent 5,8 GB/s målt læse-gennemstrømning per SSD, har brug for omkring 353 drev for at mætte en 4.096-GPU-cluster. En arkitektur, der leverer omtrent 1,9 GB/s per SSD på grund af mellemliggende overhead, har brug for over 1.000. Til 12.000 dollars per 30 TB-drev er denne forskel ikke en afrundingsfejl – det er et forretningsmodel-spørgsmål.

Hvordan bør operatørerne omvurdere all-flash versus lagdelt lagring, når flash-priser stiger og NAND-forsyning forbliver begrænset?

Udgangspunktet er at acceptere, at den økonomiske præmis bag all-flash AI-infrastruktur altid var betinget, ikke grundlæggende. Phison’s CEO har beskrevet NAND-produktionskapacitet som effektivt allokeret til 2026. Goldman Sachs (GS ) projekterer DRAM-priser stigende med dobbelt cifre kvartalsvis gennem samme periode. All-flash-standarden gjorde sig selv nærværende, da flash var billig og overflodig. Det er det ikke længere.

Den rette ramme er at spørge, hvad flash egentlig er til. Flash er et præstationsmedium. Det bør være dimensioneret til at mætte GPU-gennemstrømningskrav, ikke mere. Alt andet, herunder kold data, checkpoints, der ikke er aktive læsninger, og arkiverede træningssæt, hører til på high-density HDD, der er mange størrelser billigere per TB.

Fælden, operatørerne falder i, er at behandle lagdeling som en påmonteret løsning: køb en all-flash primær-lag, tilføj en separat objektlager til kold data og forbind dem med eksterne data-movers. Dette introducerer en anden software-stack, en anden dataplane, netværkskompleksitet og operativ overhead. Hyperscaler-tilgangen, der kører SSD og HDD inden for samme software-stack med indbygget high-performance-lagdeling og ingen eksterne data-movers, holder lagring tættere på 10 procent af infrastrukturbudgettet, samtidig med at det mætter hver enkelt GPU.

Hvilke lærdomme kan Neocloud-operatørerne lære af hyperscaler-lagringdesignvalg?

Den vigtigste lærdom er, at Google (GOOGL ), Meta og Microsoft (MSFT ) ikke kører all-flash, og de har mere AI-arbejdsløserfaring end nogen. De implementerer mixed-tier-arkitekturer med intelligent lagdeling: nok NVMe-flash til at mætte GPU-gennemstrømning, derefter dræner til high-density HDD’er så hurtigt, som fysikken tillader. Dette er ikke en filosofisk præference. Det er en økonomisk imperativ drevet af en klartøende forståelse af AI-arbejdsløs-fysik.

Den anden lærdom er arkitektonisk integration. Hyperscalere løser ikke lagdeling ved at samle separate systemer. De kører SSD og HDD på samme software-stack, samme dataplane, med lagdeling som en førsteklasses operation inden for lagringssystemet, ikke en batch-job styret af et separat værktøj. Den integration er, hvad der tillader dem at holde lagring økonomisk på enorm skala, samtidig med at de opretholder de præstationsgarantier, deres GPU-flåder kræver.

Den tredje lærdom er holdbarheds-garanti. AWS S3 leverer 11 niner af holdbarhed. Azure Blob leverer 12 eller mere. Arvet HPC-lagring bygget på lokal RAID kan falde under 5 niner på større skala afhængigt af drev-fejl-rater og genopbygnings-vinduer, potentielt tusindvis af filer tabt per år på en milliard-fil-samling. Moderne netværks-sletning med multi-level beskyttelse kan presse forbi 11 niner. Gapet mellem disse to realiteter er forskellen mellem et lagringssystem, du kan faktisk underwrite en SLA imod, og et, du ikke kan.

Hvordan bør infrastruktur-teams kvantificere den økonomiske påvirkning af lagrings-tilgængelighed på GPU-flåder?

Matematikken er alvorlig, når du kører den ærligt. Fælles lagringsfejl producerer ikke en proportional SLA-mangel. Det producerer samtidig brud på hver enkelt GPU-rack, der er forbundet til den lagring. En 5.000-GPU-cluster med 98 procent lagrings-tilgængelighed leverer ikke en 2-procent præstationsmangel. Det producerer 876.000 GPU-timer af tabt beregning per år. Til repræsentative GPU-timpriser oversætter det til millioner af dollars i inaktive beregninger årligt, plus SLA-kreditter, der skyldes på hver enkelt påvirket rack samtidig.

Eksplosionsradius af lagringsfejl i en stor cluster er hele clusteret. Infrastruktur-teams behøver at modellere dette eksplicit: hvad er den årlige omkostning af inaktiv beregning ved din nuværende lagrings-tilgængelighedsfigur, hvad er SLA-kredit-forpligtelserne, der hæfter på hver enkelt tilgængelighedsniveau, og hvad er kunde-afhopningsrisikoen fra SLA-fejl? CoreWeave (CRWV ) og Oracle (ORCL ) tilbyder allerede 99 procent rack-niveau-op-time. Leverandører, der ikke kan matche det, taber deals i dag, og deals, de taber, er stadig de højværdige enterprise-kontrakter, som Neocloud-markedet har brug for at bevise sin langsigtede økonomi.

Hvordan sammenligner forskellige lagrings-arkitekturer sig på præstation per watt i strøm-begrænsede miljøer?

Det kommer op i næsten hver alvorlig infrastruktur-samtale nu, og differentialen er ikke marginal. Det er multiplikativt. Baseret på offentliggjorte specifikationer og sammenlignelige konfigurationer, der leverer omtrent 1.340 GB/s læse-gennemstrømning, forbruger en arkitektur 55 kW, mens en anden opnår lignende output ved omtrent 16 kW. Det er en 3,4-gange forskel i præstation per watt. I et datacenter, hvor AI-arbejdsløs forbruger 40 til 250 kilowatt per rack mod en fast nettilslutning, er spildt lagrings-watt GPU’er, du ikke kan udrulle.

Der er også en andenordens effekt, som operatører sjældent regner med. Nogle lagrings-arkitekturer kræver 5 GB DRAM og en til fire dedikeret CPU-kerner permanent låst per GPU-node for at opnå top-lagrings-præstation. På tværs af en 500-node-cluster er det 2,5 TB DRAM og op til 2.000 CPU-kerner permanent utilgængelige for AI-arbejdsløs. Når du betaler 30.000 dollars eller mere per GPU, er hver stjålet kerne og hver låst gigabyte en direkte skat på beregnings-investeringen, der angiveligt er hele formålet med infrastrukturen.

Hvordan påvirker lagrings-arkitektur direkte SLA-konkurrencen, når uptime-garantier nærmer sig 99 procent?

Lagring er den enkelt største eksplosionsradius i enhver GPU-cluster, hvilket gør det til den enkelt vigtigste variabel i enhver ærlig SLA-forpligtelse. SemiAnalysis ClusterMAX 2.0-ratingsystemet, der bliver en indflydelsesrig benchmark i Neocloud-indkøb, gør SLA’er en ekspllicit faktor i prissamtaler. Leverandører uden konkurrencedygtige SLA’er taber deals nu.

Holdbarheds-dimensionen er lige så vigtig og mindre diskuteret. Enterprise-kunder er blevet konditioneret af AWS S3 og Azure Blob til at forvente 11 til 12 niner af holdbarhed. Arvet HPC-lagring bygget på lokal RAID kan falde under 5 niner på større skala afhængigt af drev-fejl-rater og genopbygnings-vinduer, potentielt tusindvis af filer tabt per år på en milliard-fil-samling. Moderne netværks-sletning med multi-level beskyttelse kan presse forbi 11 niner. Gapet mellem disse to realiteter er forskellen mellem et lagringssystem, du kan faktisk underwrite en SLA imod, og et, du ikke kan.

Hvilke lagrings-funktioner er mest sandsynligt at bestemme langsigtede Neocloud-overlevelse gennem konsolidering?

Operatørerne, der overlever, vil være dem, der har løst den samlede ejendomsomkostning-ligning på tværs af hele infrastruktur-stakken, ikke kun GPU-indkøbs-ligningen. Det betyder flere specifikke funktioner.

Først, en samlet software-defineret arkitektur, der kører flash og disk på samme dataplane med indbygget high-performance-lagdeling, ingen eksterne data-movers, ingen anden software-stack, ingen operativ kompleksitet introduceret ved at samle separate systemer. Anden, lagring, der kan ride uafhængige omkostningskurver for flash og disk, da disse markeder bevæger sig uafhængigt af hinanden, hvilket de vil. Tredje, selv-healing-systemer, der opretholder høj tilgængelighed uden specialiserede administratorer, der udfører manuel genopbygning kl. 3 om natten. Operativt kompleks lagring er en usynlig omkostning, der forstærker på større skala. Fjerde, holdbarhed, der kan underwrites i en SLA imod hyperscaler-benchmark.

Den bredere point er, at konsolideringsbølgen adskiller infrastruktur bygget til dag-én-benchmark fra infrastruktur bygget til år-tre-økonomi. H100-lejepriser er faldet mere end 60 procent fra toppen. Markedet belønner ikke længere GPU-akkumulation. Det kræver bevis for afkast på investeret kapital. Lagrings-arkitektur er, hvor det bevis bor, fordi det er, hvor GPU-udnyttelses-rater, SLA-forpligtelser, strøm-effektivitet og langsigtede omkostningsstruktur alle konvergerer.

Hvad er din besked til Neocloud-operatørerne, der vurderer deres lagrings-strategi i dag?

Lad ikke lagrings-beslutningen være den, du traf som standard. Hver anden del af infrastruktur-stakken får rigorøs ingeniør- og finansielle gennemgang. Lagring bør ikke være anderledes. Operatørerne, der vil være her om tre år, er dem, der tog en hård kig på deres sande omkostning per GPU-time af nyttig beregning, forstod deres virkelige tilgængeligheds-postur og sikrede, at de var dimensioneret til arbejdsløs og ikke til en indkøbs-genvej.

Vinduet til at gøre det rigtigt er smallende. Konsolidering er allerede i gang, og økonomien er uforgivende. Men for operatører, der er villige til at omvurdere lagrings-laget med samme rigor, som de anvendte på GPU-valg, er muligheden betydelig. Lagring gjort rigtigt reducerer ikke kun omkostninger. Det låser fuld værdi af hver enkelt GPU i racken.

Tak for det store interview. Læsere, der ønsker at lære mere om denne teknologi-stak, kan besøge VDURA. De kan også læse vores tidligere interview med Ken Claffey.