Ugur Tigli, Chief Technical Officer at MinIO – Rozhovorová série

Ugur Tigli je Chief Technical Officer ve společnosti MinIO, lídra v oblasti high-performance objektového úložiště pro AI. Jako CTO pomáhá Ugur klientům architektovat a nasazovat API-driven, cloud-native a škálovatelné podnikové úložiště pomocí MinIO.

Můžete popsat svou cestu k tomu, jak jste se stal CTO ve společnosti MinIO, a jak vaše zkušenosti ovlivnily váš přístup k AI a datové infrastruktuře?

Začal jsem svou kariéru v infrastrukturním inženýrství v Merrill Lynch jako správce zálohování a obnovení. Postupně jsem se ujal různých výzev a různých technických pozic. Připojil jsem se k Bank of America (BAC ) prostřednictvím akvizice Merrill Lynch, kde jsem byl viceprezidentem pro inženýrství úložišť. Mé role se však rozšiřovaly a zahrnovaly i inženýrství počítačů a datových center.

V rámci své práce jsem také spolupracoval s různými venture capital firmami (VC) a jejich portfolio společnostmi, abych přinesl nejnovější a nejlepší technologie. Během jedné ze svých schůzek s General Catalyst jsem se seznámil s myšlenkou a lidmi za MinIO. Zaujala mě, protože jejich přístup k datové infrastruktuře se lišil od všech ostatních na trhu. Společnost si uvědomila důležitost objektového úložiště a standardních API, se kterými aplikace začínaly. V těch letech mohli předpovědět budoucnost výpočetní techniky a AI dříve, než to někdo jiný nebo dříve, než se tomu říkalo, co je to dnes. Chtěl jsem být součástí realizace této vize a budování něčeho skutečně jedinečného. MinIO je nyní nejširší nasazené objektové úložiště na planetě.

Dopad mých předchozích rolí a zkušeností na můj přístup k novým technologiím, zejména AI a datové infrastruktuře, je také jednoduše akumulací mnoha projektů, na kterých jsem se podílel prostřednictvím mých let podpory aplikací v высокém finančním službách.

Od omezené sítě šířky pásma, která vedla k technologii Hadoop, která byla nejnovější technologií před 15 lety, až po různé datové médium technologie od pevného disku (HDD) až po Solid State Drive (SSD), mnoho z těchto technologických změn formovalo můj současný pohled na AI ekosystém a datovou infrastrukturu.

MinIO je uznáváno pro jeho high-performance objektové úložiště. Jak MinIO specificky uspokojuje potřeby AI-driven podniků dnes?

Když AB a Garima konceptualizovali MinIO, jejich první prioritou bylo myslet na problém – věděli, že data budou dále růst a stávající úložné technologie nejsou kompatibilní s tímto růstem. Rychlé vznik AI učinil jejich předvídavé názory na trh realitou. Od té doby se objektové úložiště stalo základem pro AI infrastrukturu (všechny hlavní LLM jako OpenAI a Anthropic jsou postaveny na objektových úložištích) a moderní datové centrum je postaveno na objektovém úložišti.

MinIO nedávno spustil novou objektovou úložnou platformu s kritickými podnikovými funkcemi, aby podpořil organizace ve svých AI iniciativách: MinIO Enterprise Object Store. Je navržen pro výkon a škálovatelnost, které jsou potřebné pro masivní AI úkoly a umožňuje zákazníkům řešit výzvy spojené s miliardami objektů a stovkami tisíc kryptografických operací za sekundu. Má šest nových komerčních funkcí, které cílí na klíčové provozní a technické výzvy, kterým čelí AI úkoly: Katalog (řeší problém objektového úložiště názvů a metadata), Firewall (určen pro data), Key Management System (řeší problém s miliardami kryptografických klíčů), Cache (funguje jako caching služba), Observability (umožňuje správcům zobrazit všechny systémové komponenty napříč všemi instancemi) a nakonec Enterprise Console (slouží jako jediné okno pro všechny instance MinIO).

Zpracování AI v měřítku se stává stále důležitějším. Můžete vysvětlit, proč je to případ a jak MinIO usnadňuje tyto požadavky pro moderní podniky?

Téměř vše, co organizace staví, je nyní na objektovém úložišti, což se bude pouze zrychlovat, protože ti, kteří běží infrastrukturu s přístrojem, narazí na zeď ve věku moderních datových jezer a AI. Organizace hledají nové infrastruktury, aby spravovaly všechna data, která přicházejí do jejich systému, a poté stavěly datové aplikace na vrcholu – to vyžaduje mimořádnou škálovatelnost a flexibilitu, kterou může podporovat pouze objektové úložiště. To je místo, kde MinIO přichází a proč společnost vždy stála míle před konkurencí, protože je navržena pro to, co AI potřebuje – ukládání masivních objemů strukturovaných a nestrukturovaných dat a poskytování výkonu v měřítku.

Podobně jako potřeby strojového učení (ML) v předchozích generacích AI byly data a moderní datové jezera kritické pro úspěch jakéhokoli “předpovědního” AI. Nicméně s pokrokem “generativního” AI se tento krajina rozšířila, aby zahrnovala mnoho dalších komponent, jako jsou AI Ops data a dokumentové potrubí, základní modely a vektorové databáze.

Všechny tyto další komponenty používají objektové úložiště a většina z nich se přímo integruje s MinIO. Například Milvus, vektorová databáze, používá MinIO a mnoho moderních dotazovacích strojů se integruje s MinIO prostřednictvím S3 API.

AI technický dluh je rostoucí obavou pro mnoho organizací. Jaké strategie MinIO používá, aby pomohla klientům vyhnout se této otázce, zejména v souvislosti s využíváním GPU efektivněji?

Řetěz je tak silný, jako jeho nejslabší článek – a vaše AI/ML infrastruktura je tak rychlá, jako je váš nejpomalejší komponent. Pokud trénujete modely strojového učení s GPU, váš slabý článek může být vaše úložné řešení. Výsledkem je to, co nazývám “hladový GPU problém”. Hladový GPU problém nastává, když vaše síť nebo úložné řešení nemůže poskytnout trénovací data vaší trénovací logice dostatečně rychle, aby plně využilo vaše GPU, a tím ponechává cennou výpočetní sílu na stole. Něco, co organizace mohou udělat, aby plně využily své GPU, je nejprve pochopit známky špatné datové architektury a jak může přímo vést k nevyužití AI technologie. Aby se organizace vyhnuly technickému dluhu, musí změnit způsob, jakým vidí (a ukládají) data.

Organizace mohou nastavit úložné řešení, které je ve stejném datovém centru jako jejich výpočetní infrastruktura. Ideálně by to mělo být ve stejném clusteru jako váš výpočet. Protože MinIO je software-defined úložné řešení, je schopné výkonu, který je potřebný pro krmení hladových GPU – nedávný benchmark dosáhl 325 GiB/s na GET a 165 GiB/s na PUT s pouhými 32 uzly off-the-shelf NVMe SSD.

Můžete vysvětlit, jak vaše bohaté zkušenosti s vytvářením high-performance datových infrastruktur pro globální finanční instituce informují vaši práci v MinIO, zejména při architektuře řešení pro rozmanité potřeby odvětví?

Pomohl jsem postavit první soukromé cloud pro Bank of America a tato iniciativa ušetřila miliardy dolarů tím, že poskytla funkce a funkčnost dostupné ve veřejných cloudech interně za nižší náklady. Nejen tato hlavní iniciativa, ale i mnoho dalších rozmanitých aplikací, na kterých jsem pracoval v BofA Merrill Lynch, formovalo mou práci v MinIO, pokud jde o architekturu řešení pro naše zákazníky dnes.

Například naučil jsem se to špatným nebo “tvrdým” způsobem pracovat s týmem, který postavil Hadoop klastry, které používaly pouze datové úložné komponenty serveru, zatímco udržovaly serverové CPU nevyužité nebo téměř nečinné. Jednoduché příklady nebo učení, jako je toto, mi umožnily použít disaggregated data a výpočetní řešení v moderní datové infrastruktuře dneška, zatímco pomáhám našim zákazníkům a partnerům, kteří jsou technicky lepší a nižší náklady, pomocí dnešních vysokých šířkových sítí a high-performance objektových úložišť, jako je MinIO, a libovolný dotazovací nebo zpracovatelský stroj.

Hybridní cloud představuje jedinečné výzvy a složitosti. Můžete diskutovat o těchto v detailu a vysvětlit, jak model “burst” MinIO do cloudu pomáhá kontrolovat cloudové náklady efektivně?

Jít do multicloud by nemělo vést k nafukování IT rozpočtů a neschopnosti dosáhnout milníků – mělo by pomoci spravovat náklady a urychlit organizaci cestovní mapy. Něco, co je třeba vzít v úvahu, je cloudová repatriace – realita je, že přesun operací z cloudu do infrastruktury on-premises může vést k podstatným úsporám nákladů, v závislosti na případě, a měli byste vždy pohlížet na cloud jako na provozní model, ne destinaci. Například organizace spouštějí instance GPU, ale pak tráví čas předběžným zpracováním dat, aby je mohli přizpůsobit instance GPU. To plýtvá drahocenným časem a penězi – organizace potřebují optimalizovat lépe volbou cloud-native a, co je důležitější, cloud-portable technologií, které mohou odemknout sílu multicloud bez významných nákladů. Používání cloud-first provozního modelu principů a dodržování tohoto rámce poskytuje agilitu přizpůsobit se měnícím se provozním požadavkům.

Kubernetes-native řešení jsou zásadní pro moderní infrastrukturu. Jak integrace MinIO s Kubernetes zvyšuje jeho škálovatelnost a flexibilitu pro AI datové infrastruktury?

MinIO je Kubernetes-native od začátku a S3 kompatibilní od založení. Vývojáři mohou rychle nasadit trvalé objektové úložiště pro všechny své cloud-native aplikace. Kombinace MinIO a Kubernetes poskytuje silnou platformu, která umožňuje aplikacím škálovat napříč libovolnou multi-cloud a hybridní cloudovou infrastrukturou a stále být centrálně spravována a zabezpečena, aby se zabránilo veřejnému cloudovému uzamčení.

S Kubernetes jako jeho motorem je MinIO schopno běžet kdekoli, kde běží Kubernetes – což, v moderním, cloud-nativním/AI světě, je prakticky všude.

Pohledem dopředu, jaké budoucí vývoj nebo vylepšení mohou uživatelé očekávat od MinIO v kontextu AI datové infrastruktury?

Naše nedávné partnerství a produktové spuštění jsou znamením trhu, že nezpomalujeme ani v nejmenším, a budeme pokračovat v tlačení tam, kde to má smysl pro naše zákazníky. Například jsme nedávno uzavřeli partnerství s Carahsoft, aby bylo software-defined objektové úložiště MinIO k dispozici pro vládní, obranné, zpravodajské a vzdělávací sektory. To umožňuje organizacím ve veřejném sektoru stavět jakékoli rozmanité datové infrastruktury, od rozsáhlých moderních datových jezer až po mise-specifické úložné řešení na autonomním okraji. Společně přinášíme tyto špičkové, jedinečné řešení našim zákazníkům ve veřejném sektoru, aby jim umožnily snadno a efektivně řešit výzvy datové infrastruktury. Toto partnerství přichází v době, kdy je zde zvýšený tlak na to, aby se veřejný sektor stal AI-ready, s nedávnými požadavky OMB, které uvádějí, že všechny federální agentury potřebují Chief AI Officer (mezi jinými). Celkově toto partnerství pomáhá posílit postavení AI v odvětví a poskytuje sektoru veřejných služeb cenné nástroje, které jsou nezbytné pro úspěch.

Kromě toho je MinIO velmi dobře umístěn pro budoucnost. AI datová infrastruktura je stále v plenkách. Mnoho oblastí z ní bude více zřejmé v příštích pár letech. Například většina podniků bude chtít použít své proprietární data a dokumenty s základními modely a Retrieval Augmented Generation (RAG). Další integrace do tohoto nasazení bude pro MinIO snadná, protože všechny tyto architektonické volby a nasazení mají jednu věc společnou – všechna tato data jsou již uložena na MinIO.

Nakonec, pro technologické lídry, kteří chtějí postavit nebo vylepšit svou datovou infrastrukturu pro AI, jaké rady byste nabídli na základě vašich zkušeností a poznatků v MinIO?

Abyste učinili jakoukoli AI iniciativu úspěšnou, existují tři klíčové prvky, které musíte dodržovat: mít správná data, správnou infrastrukturu a správné aplikace. Skutečně začíná tím, že rozumíte, co potřebujete – nechoďte a nekupte drahé GPU, protože se bojíte, že budete chybět AI loď. Silně věřím, že podnikové AI strategie selžou v roce 2024, pokud se organizace soustředí pouze na modely samy a ne na data. Myšlení modelu dolů vs. data nahoru je kritickou chybou – musíte začít s daty. Postavte správnou datovou infrastrukturu. Pak přemýšlejte o svých modelech. Když se organizace pohybují směrem k AI-first architektuře, je nezbytné, aby vaše datová infrastruktura umožňovala vaše data – neomezovala je.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit MinIO.