Ugur Tigli, Chief Technical Officer di MinIO – Intervista

Ugur Tigli è il Chief Technical Officer di MinIO, il leader nello storage di oggetti ad alte prestazioni per l’AI. Come CTO, Ugur aiuta i clienti a progettare e distribuire un’infrastruttura di dati aziendale di livello enterprise, guidata da API, nativa del cloud e scalabile, utilizzando MinIO.

Può descrivere il suo percorso per diventare il CTO di MinIO e come le sue esperienze hanno plasmato il suo approccio all’AI e all’infrastruttura dei dati?

Ho iniziato la mia carriera come amministratore di backup e ripristino presso Merrill Lynch. Ho continuato ad affrontare diverse sfide e posizioni tecniche. Ho lavorato presso Bank of America (BAC ) attraverso l’acquisizione di Merrill Lynch, dove sono stato vicepresidente dell’ingegneria dello storage. Il mio ruolo si è esteso per includere l’ingegneria dei data center e dei calcoli.

Nel corso del mio lavoro, ho anche lavorato con diverse società di venture capital (VC) e le loro società portafoglio per portare le tecnologie più recenti e migliori. Durante una delle mie riunioni con General Catalyst, sono stato introdotto all’idea e alle persone dietro MinIO. Mi è piaciuto perché del modo in cui si avvicinavano all’infrastruttura dei dati – differiva da tutti gli altri sul mercato. La società ha realizzato l’importanza dell’archiviazione degli oggetti e degli standard API che le applicazioni stavano iniziando a utilizzare. Durante quegli anni, potevano prevedere il futuro del calcolo e dell’AI prima di chiunque altro o anche prima che fosse chiamato con il suo nome attuale. Volevo far parte dell’esecuzione di quella visione e costruire qualcosa di veramente unico. MinIO è ora il deposito di oggetti più ampiamente distribuito sul pianeta.

L’impatto dei miei ruoli precedenti e delle mie esperienze su come mi avvicino alle nuove tecnologie, in particolare all’AI e all’infrastruttura dei dati, è semplicemente l’accumulo dei molti progetti in cui sono stato coinvolto attraverso i miei anni di supporto ai team di applicazioni in un’azienda di servizi finanziari molto esigente.

Dai giorni della larghezza di banda della rete limitata, che hanno portato alla tecnologia Hadoop come nuova tecnologia 15 anni fa, a varie tecnologie di supporto dei dati da Hard Disk Drive (HDD) a Solid State Drive (SSD), molte di queste modifiche tecnologiche hanno plasmato la mia visione attuale dell’ecosistema AI e dell’infrastruttura dei dati.

MinIO è riconosciuto per le sue capacità di storage di oggetti ad alte prestazioni. Come MinIO si rivolge specificamente alle esigenze delle aziende guidate dall’AI oggi?

Quando AB e Garima hanno concepito MinIO, la loro prima priorità era pensare a un problema – sapevano che i dati sarebbero continuati a crescere e le tecnologie di storage esistenti non erano compatibili con quella crescita. L’emergere rapido dell’AI ha reso le loro visioni precorritrici del mercato una realtà. Da allora, lo storage di oggetti è diventato fondamentale per l’infrastruttura AI (tutti i principali LLM come OpenAI e Anthropic sono costruiti su depositi di oggetti), e il moderno data center è costruito su una base di deposito di oggetti.

MinIO ha recentemente lanciato una nuova piattaforma di storage di oggetti con funzionalità aziendali critiche per supportare le organizzazioni nelle loro iniziative AI: il MinIO Enterprise Object Store. È progettato per le sfide di prestazioni e scalabilità introdotte da carichi di lavoro AI massicci e consente ai clienti di affrontare le sfide associate a miliardi di oggetti più facilmente, nonché a centinaia di migliaia di operazioni crittografiche per nodo al secondo. Ha sei nuove funzionalità commerciali che si concentrano su sfide operative e tecniche chiave affrontate dai carichi di lavoro AI: Catalog (risolve il problema dello spazio dei nomi e della ricerca dei metadati dello storage di oggetti), Firewall (progettato per i dati), Key Management System (risolve il problema di gestire miliardi di chiavi crittografiche), Cache (funziona come un servizio di caching), Observability (consente agli amministratori di visualizzare tutti i componenti del sistema in ogni istanza) e, infine, l’Enterprise Console (funziona come un unico pannello di vetro per tutte le istanze di MinIO dell’organizzazione).

Gestire l’AI su larga scala sta diventando sempre più cruciale. Potrebbe spiegare perché è il caso e come MinIO facilita queste esigenze per le aziende moderne?

Quasi tutto ciò che le organizzazioni costruiscono ora è su storage di oggetti, il che accelererà ulteriormente man mano che coloro che eseguono l’infrastruttura con un’apparecchiatura raggiungono un muro nell’era dei moderni data lake e dell’AI. Le organizzazioni stanno guardando a nuove infrastrutture per gestire tutti i dati che entrano nel loro sistema e quindi costruire applicazioni centrate sui dati in cima ad esso – ciò richiede una scala e una flessibilità straordinarie che solo lo storage di oggetti può supportare. È qui che entra in gioco MinIO e perché l’azienda ha sempre superato la concorrenza perché è progettata per ciò di cui ha bisogno l’AI – archiviare volumi massicci di dati strutturati e non strutturati e fornire prestazioni su larga scala.

Allo stesso modo, le esigenze di apprendimento automatico (ML) nelle generazioni precedenti dell’AI hanno reso i dati e i moderni data lake cruciali per il successo di qualsiasi “AI predittiva”. Tuttavia, con l’avanzamento dell’AI “generativa”, questo paesaggio si è esteso per includere molti altri componenti, come i dati di AI Ops, le pipeline dei documenti e i modelli fondamentali, nonché i database vettoriali.

Tutti questi componenti aggiuntivi utilizzano lo storage di oggetti e la maggior parte di essi si integra direttamente con MinIO. Ad esempio, Milvus, un database vettoriale, utilizza MinIO e molti motori di query moderni si integrano con MinIO tramite API S3.

L’AI tecnico-debito è una preoccupazione crescente per molte organizzazioni. Quali strategie MinIO impiega per aiutare i clienti ad evitare questo problema, in particolare per quanto riguarda l’utilizzo più efficiente delle GPU?

Una catena è forte quanto il suo anello più debole – e la tua infrastruttura AI/ML è solo veloce quanto il suo componente più lento. Se si addestrano modelli di apprendimento automatico con le GPU, il tuo anello debole potrebbe essere la tua soluzione di storage. Il risultato è ciò che io chiamo il “problema della GPU affamata”. Il problema della GPU affamata si verifica quando la tua rete o la tua soluzione di storage non possono servire i dati di addestramento alla tua logica di addestramento abbastanza velocemente da utilizzare appieno le tue GPU, lasciando una potenza di calcolo preziosa sul tavolo. Qualcosa che le organizzazioni possono fare per sfruttare appieno le loro GPU è capire i segni di una cattiva architettura dei dati e come può direttamente portare a un uso insufficiente della tecnologia AI. Per evitare il debito tecnico, le aziende devono cambiare il modo in cui vedono (e archiviano) i dati.

Le organizzazioni possono configurare una soluzione di storage che si trova nello stesso data center della loro infrastruttura di calcolo. Idealmente, si troverebbe nello stesso cluster del calcolo. Poiché MinIO è una soluzione di storage definita dal software, è in grado di fornire le prestazioni necessarie per alimentare le GPU affamate – un recente benchmark ha raggiunto 325 GiB/s su GET e 165 GiB/s su PUT con solo 32 nodi di SSD NVMe.

Ha una ricca esperienza nella creazione di infrastrutture di dati ad alte prestazioni per istituzioni finanziarie globali. Come queste esperienze informano il suo lavoro a MinIO, in particolare nell’architettare soluzioni per esigenze di settore diverse?

Ho aiutato a costruire il primo cloud privato per Bank of America e questa iniziativa ha risparmiato miliardi di dollari fornendo funzionalità e funzioni disponibili nei cloud pubblici all’interno a un costo inferiore. Non solo questa grande iniziativa, ma molte altre esigenze di applicazioni diverse su cui ho lavorato presso BofA Merrill Lynch hanno plasmato il mio lavoro a MinIO in quanto riguarda l’architettura di soluzioni per i nostri clienti oggi.

Ad esempio, imparare nel modo sbagliato o “difficile” ha lavorato con il team che ha costruito cluster Hadoop che hanno utilizzato solo i componenti di archiviazione del server mentre tenevano i server CPU sottoutilizzati o quasi inattivi. Esempi semplici o apprendimenti come questo mi hanno permesso di utilizzare soluzioni di dati e calcolo disgregate nell’infrastruttura di dati moderna di oggi, aiutando i nostri clienti e partner, che sono tecnicamente migliori e a basso costo, utilizzando le tecnologie di rete ad alta larghezza di banda e gli archivi di oggetti ad alte prestazioni come MinIO e qualsiasi motore di query o elaborazione.

Il cloud ibrido presenta sfide e complessità uniche. Potrebbe discutere questi aspetti in dettaglio e spiegare come il modello di “esplosione” di MinIO nel cloud aiuta a controllare i costi del cloud in modo efficace?

Andare multi-cloud non dovrebbe portare a budget IT gonfiati e all’incapacità di raggiungere i milestone – dovrebbe aiutare a gestire i costi e accelerare il percorso di un’organizzazione. Qualcosa da considerare è la ripatriazione del cloud – la realtà è che spostare le operazioni dal cloud all’infrastruttura on-premises può portare a risparmi di costi sostanziali, a seconda del caso, e si dovrebbe sempre guardare al cloud come un modello operativo, non come una destinazione. Ad esempio, le organizzazioni avviano istanze GPU ma poi spendono tempo nel pre-elaborare i dati per adattarli alle GPU. Ciò spreca tempo e denaro preziosi – le organizzazioni devono ottimizzare meglio scegliendo tecnologie native del cloud e, più importante, tecnologie portatili del cloud che possono sbloccare il potere del multi-cloud senza costi significativi. Utilizzare i principi del modello operativo cloud-first e aderire a quel framework fornisce l’agilità per adattarsi alle esigenze operative in evoluzione.

Le soluzioni native Kubernetes sono fondamentali per l’infrastruttura moderna. Come l’integrazione di MinIO con Kubernetes migliora la sua scalabilità e flessibilità per l’infrastruttura dei dati AI?

MinIO è nativo Kubernetes per design e compatibile S3 fin dall’inizio. Gli sviluppatori possono distribuire rapidamente lo storage di oggetti persistente per tutte le loro applicazioni cloud-native. La combinazione di MinIO e Kubernetes fornisce una piattaforma potente che consente alle applicazioni di scalare in qualsiasi infrastruttura multi-cloud e ibrida cloud e di essere gestite e protette centralmente, evitando il blocco del cloud pubblico.

Con Kubernetes come motore, MinIO può essere eseguito ovunque Kubernetes lo fa – il che, nel mondo moderno, cloud-nativo/AI, è essenzialmente ovunque.

Guardando avanti, quali sviluppi o miglioramenti gli utenti possono aspettarsi da MinIO nel contesto dell’infrastruttura dei dati AI?

Le nostre recenti partnership e lanci di prodotti sono un segno per il mercato che non stiamo rallentando. Continueremo a spingere dove ha senso per i nostri clienti. Ad esempio, abbiamo recentemente collaborato con Carahsoft per rendere disponibile il portfolio di storage di oggetti definito dal software di MinIO ai settori del governo, della difesa, dell’intelligence e dell’istruzione. Ciò consente alle organizzazioni del settore pubblico di costruire qualsiasi infrastruttura di dati su larga scala, dalle vaste moderne lagune di dati alle soluzioni di archiviazione di dati specifiche per missioni all’edge autonomo. Insieme, stiamo portando queste soluzioni all’avanguardia e uniche ai clienti del settore pubblico, consentendo loro di affrontare le sfide dell’infrastruttura dei dati in modo facile e efficiente. Questa partnership arriva in un momento in cui c’è una spinta crescente per consentire al settore pubblico di essere pronto per l’AI, con i recenti requisiti OMB che affermano che tutte le agenzie federali devono avere un ufficiale AI (tra le altre cose). Nel complesso, la partnership aiuta a rafforzare la postura AI dell’industria e fornisce al settore pubblico gli strumenti preziosi necessari per avere successo.

Inoltre, MinIO è molto ben posizionato per il futuro. L’infrastruttura dei dati AI è ancora nella sua infanzia. Molti aspetti di essa saranno più evidenti nei prossimi due anni. Ad esempio, la maggior parte delle aziende vorrà utilizzare i propri dati e documenti proprietari con modelli fondamentali e generazione aumentata di recupero (RAG). Un’ulteriore integrazione in questo modello di distribuzione sarà facile per MinIO, poiché tutti questi scelte architettoniche e modelli di distribuzione hanno una cosa in comune – tutti quei dati sono già archiviati su MinIO.

Infine, per i leader tecnologici che desiderano costruire o migliorare la loro infrastruttura di dati per l’AI, quali consigli offrirebbe in base alla sua esperienza e ai suoi insight a MinIO?

Per rendere qualsiasi iniziativa AI di successo, ci sono tre elementi chiave a cui devi attenerti: avere i dati giusti, l’infrastruttura giusta e le applicazioni giuste. Inizia realmente capendo cosa ti serve – non andare a comprare GPU costose solo perché hai paura di perdere il treno dell’AI. Credo fermamente che le strategie AI aziendali falliranno nel 2024 se le organizzazioni si concentrano solo sui modelli stessi e non sui dati. Pensare modello verso il basso rispetto ai dati verso l’alto è un errore critico – devi iniziare con i dati. Costruisci una infrastruttura di dati adeguata. Poi, pensa ai tuoi modelli. Man mano che le organizzazioni si muovono verso un’architettura AI-prima, è imperativo che la tua infrastruttura di dati consenta ai tuoi dati – non li limiti.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare MinIO.