Ugur Tigli, Chief Technical Officer bij MinIO – Interviewreeks

Ugur Tigli is de Chief Technical Officer bij MinIO, de leider in high-performance object storage voor AI. Als CTO helpt Ugur klanten bij het ontwerpen en implementeren van API-gedreven, cloud-native en schaalbare enterprise-grade data-infrastructuur met MinIO.

Kunt u uw reis beschrijven naar het worden van de CTO van MinIO, en hoe uw ervaringen uw benadering van AI en data-infrastructuur hebben gevormd?

Ik begon mijn carrière in infrastructuur-engineering bij Merrill Lynch als backup- en restore-beheerder. Ik nam verschillende uitdagingen aan en had verschillende technische posities. Ik sloot me aan bij Bank of America (BAC ) via de overname van Merrill Lynch, waar ik vice-president van Storage Engineering was. Mijn rol breidde zich uit tot computing en datacenter-engineering.

Als onderdeel van mijn werk werkte ik ook met verschillende venture capital-firma’s (VC’s) en hun portfoliobedrijven om de nieuwste en beste technologie te brengen. Tijdens een van mijn vergaderingen met General Catalyst werd ik geïntroduceerd bij het idee en de mensen achter MinIO. Het sprak me aan vanwege de manier waarop ze data-infrastructuur benaderden – het verschilde van iedereen anders op de markt. Het bedrijf realiseerde zich het belang van de object store en de standaard-API’s die applicaties gebruikten. Tijdens die jaren konden ze de toekomst van computing en AI voorspellen voordat het door anderen werd gedaan of zelfs voordat het werd genoemd zoals het vandaag de dag wordt genoemd. Ik wilde deel uitmaken van het uitvoeren van die visie en iets unieks bouwen. MinIO is nu de meest breed geïmplementeerde object store op de planeet.

De impact van mijn eerdere rollen en ervaringen op hoe ik nieuwe technologieën, met name AI en data-infrastructuur, benader, is ook simpelweg een accumulatie van de vele projecten waar ik aan heb gewerkt door de jaren heen bij het ondersteunen van applicatieteams in een zeer veeleisende financiële dienstverleningsfirma.

Van de beperkte netwerkbandbreedte-dagen, die leidden tot Hadoop-technologie als de nieuwste technologie 15 jaar geleden, tot verschillende data-media-technologieën van Harde Schijf (HDD) tot Solid State Drive (SSD), hebben veel van deze technologie-veranderingen mijn huidige visie op de AI-ecosysteem en data-infrastructuur gevormd.

MinIO wordt erkend vanwege zijn high-performance object storage-mogelijkheden. Hoe komt MinIO specifiek tegemoet aan de behoeften van AI-gedreven ondernemingen vandaag?

Toen AB en Garima MinIO conceptueerden, was hun eerste prioriteit om na te denken over een probleemstelling – ze wisten dat data zou blijven groeien en bestaande opslagtechnologieën niet compatibel waren met die groei. De snelle opkomst van AI heeft hun vooruitziende visie op de markt werkelijkheid gemaakt. Sindsdien is object storage fundamenteel geworden voor AI-infrastructuur (alle grote LLM’s zoals OpenAI en Anthropic zijn allemaal gebouwd op object stores), en het moderne datacenter is gebouwd op een object store-fundament.

MinIO heeft onlangs een nieuw object storage-platform gelanceerd met kritieke enterprise-grade-functies om organisaties te ondersteunen bij hun AI-initiatieven: de MinIO Enterprise Object Store. Het is ontworpen voor de prestatie- en schaaluitdagingen die worden geïntroduceerd door massive AI-workloads en stelt klanten in staat om de uitdagingen die samenhangen met miljarden objecten gemakkelijker aan te pakken, evenals honderdduizenden cryptografische bewerkingen per knooppunt per seconde. Het heeft zes nieuwe commerciële functies die key operationele en technische uitdagingen voor AI-workloads aanpakken: Catalog (dit lost het probleem van object storage-namespace en metadata-zoek op), Firewall (speciaal ontworpen voor data), Key Management System (lost het probleem op van omgaan met miljarden cryptografische sleutels), Cache (fungeert als een caching-service), Observability (stelt beheerders in staat om alle systeemcomponenten over elke instantie te bekijken) en ten slotte de Enterprise Console (dient als een enkel paneel voor alle instanties van MinIO van de organisatie).

Het omgaan met AI op grote schaal wordt steeds belangrijker. Kunt u uitleggen waarom dit het geval is en hoe MinIO aan deze vereisten voldoet voor moderne ondernemingen?

Bijna alles wat organisaties bouwen, staat nu op object storage, en dit zal alleen maar versnellen naarmate degenen die infrastructuur uitvoeren met een apparaat een muur raken in de tijd van moderne data-lakes en AI. Organisaties kijken naar nieuwe infrastructuur om alle data die binnenkomt te beheren en vervolgens data-gedreven applicaties te bouwen op basis daarvan – dit vereist buitengewone schaal en flexibiliteit die alleen object storage kan ondersteunen. Dat is waar MinIO binnenkomt en waarom het bedrijf altijd mijlenver voorop heeft gelopen bij de concurrentie, omdat het is ontworpen voor wat AI nodig heeft – het opslaan van massive volumes van gestructureerde en ongestructureerde data en het bieden van prestaties op grote schaal.

Soortgelijk aan machine learning (ML)-behoeften in eerdere generaties van AI, zijn data en moderne data-lakes kritisch geweest voor het succes van elke “voorspellende” AI. Echter, met de vooruitgang van “generatieve” AI, is dit landschap uitgebreid tot veel andere componenten, zoals AI Ops-data en document-pipelines, foundationele modellen en vector-databases.

Al deze extra componenten gebruiken object storage, en de meeste integreren rechtstreeks met MinIO. Bijvoorbeeld, Milvus, een vector-database, gebruikt MinIO, en veel moderne query-engines integreren met MinIO via S3-API’s.

AI-technische schuld is een groeiende zorg voor veel organisaties. Welke strategieën hanteert MinIO om klanten te helpen deze kwestie te vermijden, met name in termen van het efficiënter gebruiken van GPU’s?

Een keten is zo sterk als de zwakste schakel – en uw AI/ML-infrastructuur is alleen zo snel als uw langzaamste component. Als u machine learning-modellen traint met GPU’s, kan uw zwakke schakel uw opslagoplossing zijn. Het resultaat is wat ik het “Starving GPU-probleem” noem. Het Starving GPU-probleem treedt op wanneer uw netwerk- of opslagoplossing geen trainingsdata naar uw trainingslogica kan serveren om uw GPU’s volledig te benutten, waardoor waardevolle rekenkracht onbenut blijft. Iets dat organisaties kunnen doen om hun GPU’s volledig te benutten, is eerst te begrijpen wat de tekenen zijn van een slechte data-architectuur en hoe deze rechtstreeks kan leiden tot het onderbenutten van AI-technologie. Om technische schuld te vermijden, moeten bedrijven veranderen hoe ze tegen data aankijken (en opslaan).

Organisaties kunnen een opslagoplossing instellen die in hetzelfde datacenter staat als hun rekeninfrastructuur. Ideaal gezien zou dit in hetzelfde cluster zijn als uw rekenkracht. Omdat MinIO een software-gedefinieerde opslagoplossing is, is het in staat tot de prestaties die nodig zijn om hongerige GPU’s te voeden – een recente benchmark bereikte 325 GiB/s op GET’s en 165 GiB/s op PUT’s met slechts 32 knooppunten van off-the-shelf NVMe-SSD’s.

U heeft een rijke achtergrond in het creëren van high-performance data-infrastructuur voor wereldwijde financiële instellingen. Hoe informeren deze ervaringen uw werk bij MinIO, met name bij het ontwerpen van oplossingen voor diverse industriebehoeften?

Ik hielp bij het bouwen van de eerste private cloud voor Bank of America en dat initiatief bespaarde miljarden dollars door functies en functionaliteit beschikbaar te stellen in publieke clouds intern tegen een lagere kostprijs. Niet alleen dit grote initiatief, maar veel andere diverse toepassingsvereisten waar ik aan heb gewerkt bij BofA Merrill Lynch, hebben mijn werk bij MinIO gevormd met betrekking tot het ontwerpen van oplossingen voor onze klanten vandaag.

Bijvoorbeeld, het leren van de verkeerde of “moeilijke” manier werkte met het team dat Hadoop-clusters bouwde die alleen de data-opslagcomponenten van de server gebruikten, terwijl de server-CPU’s onderbenut werden of nagenoeg stil stonden. Simpele voorbeelden of inzichten zoals deze stelden me in staat om gedecentraliseerde data- en rekenoplossingen te gebruiken in de moderne data-infrastructuur van vandaag, terwijl ik onze klanten en partners hielp, wat technisch betere en lagere kostenoplossingen zijn met behulp van de huidige hoge bandbreedte-netwerktechnologieën en high-performance object stores zoals MinIO en elke query- of verwerkingsengine.

De hybride cloud presenteert unieke uitdagingen en complexiteiten. Kunt u deze in detail bespreken en uitleggen hoe MinIO’s hybride “burst” naar de cloud-model helpt om cloud-kosten effectief te controleren?

Naar meerdere clouds gaan zou niet moeten leiden tot een explosie van IT-begrotingen en een onvermogen om mijlpalen te bereiken – het zou moeten helpen om kosten te beheren en een organisatie’s roadmap te versnellen. Iets om te overwegen is cloud-repatriatie – de realiteit is dat het verplaatsen van operaties van de cloud naar on-premises-infrastructuur kan leiden tot aanzienlijke kostenbesparingen, afhankelijk van het geval, en u zou altijd naar de cloud moeten kijken als een operationeel model, niet als een bestemming. Bijvoorbeeld, organisaties starten GPU-instanties, maar dan spenderen ze tijd aan het voorverwerken van data om deze in de GPU te passen. Dit verspilt waardevolle tijd en geld – organisaties moeten beter optimaliseren door cloud-native en, nog belangrijker, cloud-portable technologieën te kiezen die de kracht van meerdere clouds kunnen ontgrendelen zonder aanzienlijke kosten. Het gebruik van cloud-first operationele modellen en het naleven van dat kader biedt de flexibiliteit om aan te passen aan veranderende operationele vereisten.

Kubernetes-native oplossingen zijn cruciaal voor moderne infrastructuur. Hoe verhoogt MinIO’s integratie met Kubernetes de schaalbaarheid en flexibiliteit voor AI-data-infrastructuur?

MinIO is Kubernetes-native van ontwerp en S3-compatibel vanaf het begin. Ontwikkelaars kunnen snel persistente object storage implementeren voor al hun cloud-native applicaties. De combinatie van MinIO en Kubernetes biedt een krachtig platform dat applicaties in staat stelt om te schalen over elke multi-cloud- en hybride cloud-infrastructuur en nog steeds centraal te beheren en te beveiligen, waardoor openbare cloud-lock-in wordt vermeden.

Met Kubernetes als zijn motor, kan MinIO overal draaien waar Kubernetes draait – wat, in de moderne, cloud-native/AI-wereld, praktisch overal is.

Kijkend naar de toekomst, welke toekomstige ontwikkelingen of verbeteringen kunnen gebruikers verwachten van MinIO in de context van AI-data-infrastructuur?

Onze recente partnerschappen en productlanceringen zijn een teken aan de markt dat we niet van plan zijn om snel te stoppen, en we zullen blijven pushen waar het zinvol is voor onze klanten. Bijvoorbeeld, we hebben onlangs een partnerschap gesloten met Carahsoft om MinIO’s software-gedefinieerde object storage-portefeuille beschikbaar te stellen aan de overheids-, defensie-, inlichtingen- en onderwijssectoren. Dit stelt overheidsorganisaties in staat om elke schaalbare data-infrastructuur te bouwen, van uitgebreide moderne data-lakes tot missie-specifieke data-opslagoplossingen op de autonome rand. Samen brengen we deze baanbrekende, unieke oplossingen naar overheidsklanten, waardoor ze data-infrastructuur-uitdagingen gemakkelijk en efficiënt kunnen aanpakken. Dit partnerschap komt op een moment dat er een verhoogde druk is om de publieke sector AI-klaar te maken, met de recente OMB-eisen die stellen dat alle federale agentschappen een Chief AI-Officer (onder andere) moeten hebben. Al met al versterkt het partnerschap de AI-houding van de industrie en geeft het de publieke sector de waardevolle tools die nodig zijn om te slagen.

Bovendien is MinIO zeer goed gepositioneerd voor de toekomst. AI-data-infrastructuur is nog in zijn kinderschoenen. Veel gebieden ervan zullen meer zichtbaar worden in de komende paar jaar. Bijvoorbeeld, de meeste ondernemingen zullen hun eigen data en documenten willen gebruiken met foundationele modellen en Retrieval Augmented Generation (RAG). Verdere integratie in deze implementatiepatroon zal gemakkelijk zijn voor MinIO, aangezien al deze architectonische keuzes en implementatiepatronen één ding gemeen hebben – al die data staat al op MinIO.

Tenslotte, voor technologie-leiders die hun data-infrastructuur willen bouwen of verbeteren voor AI, welk advies zou u geven op basis van uw ervaring en inzichten bij MinIO?

Om elke AI-initiatief succesvol te maken, zijn er drie sleutel-elementen waar u zich aan moet houden: het hebben van de juiste data, de juiste infrastructuur en de juiste applicaties. Het begint echt met het begrijpen van wat u nodig heeft – ga niet uit en koop dure GPU’s alleen omdat u bang bent dat u de AI-boot mist. Ik geloof sterk dat enterprise AI-strategieën in 2024 zullen falen als organisaties zich alleen op de modellen zelf richten en niet op data. Naar beneden denken vanuit modellen versus omhoog denken vanuit data is een kritische fout – u moet beginnen met de data. Bouw een goede data-infrastructuur. Denk dan aan uw modellen. Aangezien organisaties naar een AI-first-architectuur gaan, is het van cruciaal belang dat uw data-infrastructuur uw data ondersteunt – niet beperkt.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten MinIO bezoeken.