Ken Claffey, CEO van VDURA – Interview Series: Een terugkeer gesprek

Ken Claffey, CEO en President van VDURA, is een ervaren klantgerichte zakelijke en productleider met diepe expertise in cloud- en enterprise-infrastructuur, hardware- en softwareontwikkeling en het stimuleren van strategische groei in product, operaties en go-to-market-functies. Gedurende zijn carrière heeft hij high-performance globale teams opgebouwd en geleid, corporate-strategie uitgevoerd, winstgevende omzetgroei en productinnovatie gestimuleerd en onderpresterende bedrijven omgevormd. Voordat hij de leiding kreeg over VDURA, had Claffey senior leiderschapsrollen bij Seagate Technology (STX ), waar hij als SVP en General Manager verantwoordelijk was voor enterprise-systemen en P&L, en eerder leiderschapsposities bij Xyratex, Adaptec en Eurologic, waardoor hij decennia lang ervaring heeft opgedaan in enterprise-opslag en high-performance computing.

VDURA is een software-gedefinieerde data-infrastructuurbedrijf dat moderne opslagoplossingen bouwt die geoptimaliseerd zijn voor kunstmatige intelligentie en high-performance computing-werklasten onder het motto “snelheid ontmoet duurzaamheid”. Het vlaggenschip van het bedrijf, het VDURA Data Platform, combineert flash-first parallelle bestandssysteemprestaties met objectopslagrobustheid in een uniforme architectuur die lineair schaalt over duizenden clients en knooppunten, terwijl het operaties vereenvoudigt en de totale eigendomskosten verlaagt. Oorspronkelijk opgericht als Panasas en in 2024 omgedoopt tot VDURA, ondersteunt het platform van het bedrijf on-premises-, cloud- en hybride omgevingen met geavanceerde automatisering, metadata-acceleratie en schaalbare prestaties die zijn ontworpen om GPU-clusters te voeden en gegevens te beschermen voor enterprise-, onderzoeks- en mission-critical AI- en HPC-gebruiksgevallen.

Hoe heeft uw reis door HPC en enterprise-opslag uw visie gevormd dat opslag de beperkende factor wordt in AI-infrastructuur?

Door het bouwen van opslagsystemen voor enkele van de meest veeleisende compute-omgevingen ter wereld, ontwikkel je een intuïtie voor waar de knelpunten daadwerkelijk leven in plaats van waar mensen denken dat ze leven. Bij Xyratex en via het ClusterStor-werk bij Seagate losten we opslagproblemen op voor supercomputers waar de fysica onverbiddelijk was. Je voedde de compute of je deed het niet.

Wat ik nu zie in AI-infrastructuur is dezelfde fundamentele beperking, maar verpakt in een andere economie. De GPU-obsessie in de Neocloud-markt was begrijpelijk. NVIDIA (NVDA ) creëerde een schaars en transformatief middel. Maar de veronderstelling dat opslag gewoon zou schalen naast het, goedkoop en gemakkelijk, zou uiteindelijk breken. Het is gebroken. Opslag neigt nu naar 20 tot 30 procent van de AI-infrastructuurbudgetten in alle flash-implementaties, sneller groeiend dan elk ander onderdeel. Wanneer je een carrière lang hebt doorgebracht met het kijken naar opslag die de bindende beperking wordt in elke grote compute-omgeving, hou je op met verrast te zijn wanneer de rest van de markt bij die realiteit aansluit.

Waarom werd opslagplanning ondergeschikt gemaakt tijdens de Neocloud-infrastructuurlandgrab?

Enkele structurele veronderstellingen kwamen samen op exact het verkeerde moment. Ten eerste waren flash-prijzen tijdelijk gunstig. NVMe-SSD’s waren betaalbaar en overvloedig genoeg om all-flash te laten voelen als een redelijke standaard. Het was geen architectonische wijsheid. Het was een product van een kortstondig economisch venster dat operators verwarden met een permanente toestand.

Ten tweede beloonden de concurrentiedynamiek GPU-aantallen boven alles anders. De Neocloud-markt werd beoordeeld op het aantal NVIDIA-chips dat je kon racken. Opslag was ongeveer een 10-procentregel, gemakkelijk om door de aankoop te wuiven zonder diepgaande controle. Ten derde voelde de all-flash-beslissing veilig omdat het complexiteit elimineerde. Één laag, één mediatype, gemakkelijk om aan te schaffen en te bedienen. Het probleem is dat “gemakkelijk” en “economisch duurzaam” ophielden hetzelfde te zijn op het moment dat de NAND-voorziening krap werd en de prijzen omhoog schoten. Op dat moment waren de infrastructuurbeslissingen al vastgesteld.

Wat verrast operators het meest wanneer ze zien hoe opslag hun GPU-gebruik beïnvloedt?

De relatie is directer dan de meeste operators beseffen totdat ze naar idle GPU’s kijken. Trainingsruns met frequente checkpointing creëren burst-schrijfbehoefte die compute kan blokkeren als de opslaglaag de bursts niet snel genoeg kan absorberen. Datapipelines voor preprocessing en ingestion creëren duurzame leesdoorvoerbehoeften die, als ze niet worden vervuld, de GPU’s van werk beroven.

NVIDIA’s eigen DGX-richtlijnen kwantificeren dit: tekstgebaseerde LLM-training vereist ongeveer 0,5 GB/s leesdoorvoer per GPU, terwijl fysieke AI- en visualisatiewerklasten ongeveer 4 GB/s lees- en 2 GB/s schrijfdoorvoer per GPU vereisen. Als uw opslagarchitectuur die doorvoer niet kan leveren, draait u uw GPU’s niet op volle capaciteit. U draait ze op het deel dat uw opslag toelaat.

De architectuur is enorm belangrijk op clusterschaal. Een opslagsysteem dat een tussenpersoon tussen de schijf en de client plaatst, kan vergelijkbare koptekstdoorvoer op één schijf laten zien, maar op schaal kunt u uiteindelijk drie keer zoveel schijven nodig hebben om hetzelfde GPU-vloot te verzadigen. Drie keer zoveel SSD’s, drie keer de stroom, drie keer de rackruimte. De utilisatierekening componeert snel.

Wat zijn de kostenverschillen die kunnen ontstaan door alleen SSD-selectie en architectonisch ontwerp, zelfs wanneer de koptekstdoorvoermetrics vergelijkbaar lijken?

Dit is waar operators in ernstige problemen komen, omdat de koptekstcijfers echt misleidend kunnen zijn. Neem een representatief voorbeeld. Een 122,88 TB QLC NVMe SSD kost ongeveer $27.000. Een 7,68 TB-schijf van dezelfde generatie levert vergelijkbare sequentiële doorvoer voor ongeveer $1.800. Voor een 4.096-GPU-cluster op NVIDIA’s Enhanced-specificatie produceert die enkele capaciteitsselectiebeslissing een flash-rekening die varieert van $600.000 tot $9,6 miljoen. De doorvoer is effectief identiek. Het enige variabele is hoeveel koude gegevens u kiest om te parkeren op premiummedia die geen extra prestatievoordeel biedt.

Daarbovenop bepaalt het architectonisch ontwerp het aantal schijven op clusterschaal. Een architectuur die ongeveer 5,8 GB/s gemeten leesdoorvoer per SSD levert, heeft ongeveer 353 schijven nodig om een 4.096-GPU-cluster te verzadigen. Een architectuur die ongeveer 1,9 GB/s per SSD levert vanwege tussenpersoonoverhead, heeft meer dan 1.000 nodig. Bij $12.000 per 30 TB-schijf is dat verschil geen afrondingsfout – het is een bedrijfsmodelvraag.

Hoe moeten operators all-flash versus gestructureerde opslag opnieuw overwegen nu flash-prijzen stijgen en NAND-voorziening beperkt blijft?

Het startpunt is het accepteren dat de economische premisse achter all-flash AI-infrastructuur altijd voorwaardelijk was, niet fundamenteel. Phison’s CEO heeft de NAND-productiecapaciteit beschreven als effectief toegewezen tot 2026. Goldman Sachs (GS ) projecteert dat DRAM-prijzen met twee cijfers per kwartaal tot hetzelfde jaar zullen stijgen. De all-flash-standaard was verstandig toen flash goedkoop en overvloedig was. Het is dat niet langer.

Het juiste kader is om te vragen waar flash eigenlijk voor is. Flash is een prestatie-medium. Het moet worden geschaald om GPU-doorvoerbehoeften te verzadigen, niet meer. Alles anders, inclusief koude gegevens, checkpoints die niet actief worden gelezen en gearchiveerde trainingssets, behoort op high-density HDD, die nog steeds vele malen goedkoper per TB is.

De valkuil waar operators in vallen is om tiering te behandelen als een add-on: koop een all-flash-primaire laag, voeg een apart objectopslag toe voor koude gegevens en verbind ze met externe datamovers. Dat introduceert een tweede software-stack, een tweede dataplane, netwerkcomplexiteit en operationele overhead. De hyperscaler-benadering, waarbij SSD en HDD binnen dezelfde software-stack worden uitgevoerd met native high-performance-tiering en geen externe datamovers, houdt opslag dichter bij 10 procent van het infrastructuurbudget, terwijl het nog steeds elke GPU verzadigt.

Wat zijn de lessen die de Neocloud-laag kan leren van hyperscaler-opslagontwerpkeuzes?

De belangrijkste les is dat Google (GOOGL ), Meta en Microsoft (MSFT ) geen all-flash gebruiken en meer AI-werklastervaring hebben dan wie dan ook. Ze implementeren gemengde tier-architecturen met intelligente tiering: genoeg NVMe-flash om GPU-doorvoer te verzadigen, dan afvoeren naar high-density HDD’s zo snel als de fysica toelaat. Dit is geen filosofische voorkeur. Het is een economische noodzaak die wordt gedreven door een duidelijke visie op AI-werklastfysica.

De tweede les is architectonische integratie. Hyperscalers lossen tiering niet op door separate systemen samen te voegen. Ze draaien SSD en HDD op dezelfde software-stack, dezelfde dataplane, met tiering als een eerste klas operatie binnen het opslagsysteem, niet als een batchtaak beheerd door een apart gereedschap. Die integratie is wat het mogelijk maakt om opslag economisch te houden op enorme schaal, terwijl het prestatiegaranties voor hun GPU-vloten behoudt.

De derde les is duurzaamheidsgarantie. AWS S3 levert 11 nines van duurzaamheid. Azure Blob levert 12 of meer. Legacy HPC-opslagarchitecturen gebouwd op lokale RAID kunnen ver onder de 5 nines vallen op schaal, afhankelijk van schijffouten en herbouwvensters, mogelijk duizenden bestanden per jaar verloren over een corpus van een miljard bestanden. Moderne netwerkwiscode met meerdere niveaus van bescherming kan voorbij de 11 nines gaan. Het gat tussen die twee realiteiten is het verschil tussen een opslagsysteem dat je daadwerkelijk een SLA tegen kunt onderhandelen en een dat je niet kunt.

Hoe moeten infrastructuurteams de economische impact van opslagbeschikbaarheid op GPU-vloten kwantificeren?

De wiskunde is ontluisterend wanneer je het eerlijk uitvoert. Gedeelde opslagfalen produceert geen evenredige SLA-tekort. Het produceert gelijktijdige schending over elke GPU-rack die is verbonden met die opslag. Een 5.000-GPU-cluster met 98 procent opslagbeschikbaarheid levert niet een 2 procent prestatietekort. Het produceert 876.000 GPU-uren verloren compute per jaar. Bij representatieve GPU-uurkosten vertaalt zich dit naar miljoenen dollars aan idle compute per jaar, plus SLA-kredieten verschuldigd voor elke getroffen rack tegelijk.

De blast radius van opslagfalen in een groot cluster is het hele cluster. Infrastructuurteams moeten dit expliciet modelleren: wat is de geannualiseerde kosten van idle compute bij uw huidige opslagbeschikbaarheidsfactor, wat zijn de SLA-kredietverplichtingen die zijn gekoppeld aan elke beschikbaarheidsklasse en wat is het klantverliesrisico van SLA-falen? CoreWeave (CRWV ) en Oracle (ORCL ) bieden al 99 procent rack-niveau uptime. Aanbieders die dat niet kunnen evenaren, verliezen deals vandaag, en de deals die ze verliezen zijn steeds vaker de high-value enterprise-contracten die de Neocloud-markt nodig heeft om zijn langetermijneconomie te bewijzen.

Hoe verschillen verschillende opslagarchitecturen in prestaties per watt in stroombeperkte omgevingen?

Het komt bijna in elk serieus infrastructuurgesprek naar voren, en het verschil is niet marginaal. Het is multiplicatief. Op basis van gepubliceerde specificaties en vergelijkbare configuraties, leveren terwijl ongeveer 1.340 GB/s leesdoorvoer, verbrandt één architectuur 55 kW, terwijl een andere soortgelijke output bereikt bij ongeveer 16 kW. Dat is een 3,4-voudig verschil in prestaties per watt. In een datacenter waar AI-werklasten 40 tot 250 kilowatt per rack tegen een vaste grid-verbinding consumeren, zijn verspilde opslagwatts GPU’s die je niet kunt implementeren. NVIDIA’s eigen BlueField-4-documentatie vermeldt expliciet dat stroombeschikbaarheid de primaire beperking is voor het schalen van AI-fabrieken.

Er is ook een tweede-orde-effect dat operators zelden meerekenen. Sommige opslagarchitecturen vereisen 5 GB DRAM en één tot vier toegewijde CPU-kernen permanent vergrendeld per GPU-knooppunt om alleen al piek-opslagprestaties te bereiken. Over een 500-knooppuntencluster is dat 2,5 TB DRAM en tot 2.000 CPU-kernen permanent onbeschikbaar voor AI-werklasten. Wanneer je $30.000 of meer per GPU betaalt, is elke gestolen core en elke vergrendelde gigabyte een directe belasting op de compute-investering die het punt is van de infrastructuur.

Hoe beïnvloedt opslagarchitectuur rechtstreeks SLA-concurrentie wanneer uptime-garanties 99 procent naderen?

Opslag is de enkele grootste blast radius in elke GPU-cluster, wat het de enkele belangrijkste variabele maakt in elke eerlijke SLA-toezegging. Het SemiAnalysis ClusterMAX 2.0-ratingsysteem, dat een invloedrijke benchmark wordt in Neocloud-aankopen, maakt SLA’s een expliciete factor in prijsonderhandelingen. Aanbieders zonder concurrerende SLA’s verliezen deals nu.

De duurzaamheidsdimensie is even belangrijk en minder besproken. Enterprise-klanten zijn geconditioneerd door AWS S3 en Azure Blob om 11 tot 12 nines van duurzaamheid te verwachten. Legacy HPC-opslagarchitecturen gebouwd op lokale RAID kunnen ver onder de 5 nines vallen op schaal, afhankelijk van schijffouten en herbouwvensters, mogelijk duizenden bestanden per jaar verloren over een corpus van een miljard bestanden. Moderne netwerkwiscode met meerdere niveaus van bescherming kan voorbij de 11 nines gaan. Het gat tussen die twee realiteiten is het verschil tussen een opslagsysteem dat je daadwerkelijk een SLA tegen kunt onderhandelen en een dat je niet kunt.

Welke opslagmogelijkheden zijn het meest waarschijnlijk om de langetermijnoverleving van Neocloud te bepalen door consolidatie?

De operators die overleven, zullen degene zijn die het totale eigendomskostenequatie hebben opgelost over de volledige infrastructuurstapel, niet alleen de GPU-aankoop-equatie. Dat betekent enkele specifieke mogelijkheden.

Ten eerste, een uniforme software-gedefinieerde architectuur die flash en schijf uitvoert op één dataplane met native high-performance-tiering, geen externe datamovers, geen tweede software-stack, geen operationele complexiteit geïntroduceerd door separate systemen samen te voegen. Ten tweede, opslag die onafhankelijke kostenkurven voor flash en schijf kan berijden terwijl die markten onafhankelijk van elkaar bewegen, wat ze zullen doen. Ten derde, zelfherstellende systemen die hoge beschikbaarheid behouden zonder gespecialiseerde beheerders die handmatige herstel uitvoeren om 3 uur ‘s nachts. Operationeel complexe opslag is een onzichtbare kostenpost die componeert op schaal. Ten vierde, duurzaamheid die geloofwaardig kan worden onderhandeld in een SLA tegen hyperscaler-benchmarks.

De bredere punt is dat de consolidatiegolf infrastructuur scheidt die is gebouwd voor day-one-benchmarks van infrastructuur die is gebouwd voor year-three-economie. H100-huurprijzen zijn meer dan 60 procent gedaald vanaf het hoogtepunt. De markt beloont GPU-accumulatie niet langer. Het eist bewijs van rendement op geïnvesteerd kapitaal. Opslagarchitectuur is waar dat bewijs leeft, omdat het de plaats is waar GPU-gebruik, SLA-toezeggingen, energie-efficiëntie en langetermijneigendomskosten allemaal samenkomen.

Wat is uw boodschap aan Neocloud-operators die hun opslagstrategie vandaag evalueren?

Laat de opslagbeslissing niet de beslissing zijn die u per ongeluk neemt. Elk ander deel van de infrastructuurstapel krijgt zorgvuldige technische en financiële controle. Opslag zou niet anders moeten zijn. De operators die over drie jaar nog steeds actief zullen zijn, zijn degene die een harde blik hebben geworpen op hun werkelijke kosten per GPU-uur van nuttige compute, hun echte beschikbaarheidspositie hebben begrepen en ervoor hebben gezorgd dat ze zijn geschaald voor de werklast in plaats van voor een aankoopshortcut.

Het venster om dit goed te doen, sluit zich snel. Consolidatie is al gaande, en de economie is onverbiddelijk. Maar voor operators die bereid zijn om de opslaglaag opnieuw te bekijken met dezelfde strengheid die ze hebben toegepast op GPU-selectie, is de kans aanzienlijk. Opslag die goed is gedaan, verlaagt de kosten niet alleen. Het ontgrendelt de volledige waarde van elke GPU in de rack.

Bedankt voor het geweldige interview, lezers die meer willen leren over deze technologie-stack, kunnen VDURA bezoeken. Ze kunnen ook ons vorige interview met Ken Claffey lezen.