Chris Miglino, dyrektor generalny Axe Compute – cykl wywiadów

Chris Miglino jest dyrektorem generalnym Axe Compute i ma ponad dwudziestoletnie doświadczenie w tworzeniu, rozwijaniu i finansowaniu firm technologicznych. Współzałożył Social Reality i współpracował z DNA Fund, łącząc doświadczenie przedsiębiorcze z wiedzą z zakresu rynków kapitałowych i inwestycji w infrastrukturę. W Axe Compute koncentruje się na wyzwaniach operacyjnych i finansowych związanych z rozbudową dedykowanych mocy obliczeniowych AI dla klientów biznesowych.

Axe Compute zapewnia dedykowaną infrastrukturę GPU typu bare metal do obsługi obciążeń AI w przedsiębiorstwach. Oferta Axe Access umożliwia korzystanie z dostępnych mocy obliczeniowych GPU, a Axe Build obejmuje tworzenie infrastruktury dostosowanej do długoterminowych wymagań klientów. W tym wywiadzie Miglino omawia ekonomię wykorzystania GPU, ograniczenia związane z dostępem do energii, wydajność klastrów, partnerstwa przy wdrażaniu infrastruktury oraz to, jak zwrot ku wnioskowaniu i agentom AI może zmienić zapotrzebowanie przedsiębiorstw na infrastrukturę.

Twoja kariera obejmuje ponad dwie dekady działalności przedsiębiorczej: od współzałożenia Social Reality, przez kierowanie DNA Fund, po obecną funkcję dyrektora generalnego Axe Compute. Co początkowo przyciągnęło Cię do rynku infrastruktury AI i jaką szansę dostrzegłeś, której tradycyjni dostawcy chmury nie wykorzystywali w wystarczającym stopniu?

Dostrzegłem prostą szansę: rozwój AI wyprzedza rozwój infrastruktury, która ma ją obsługiwać. Od ponad dwóch dekad tworzę firmy, rozwijam je i inwestuję w nie — to właśnie w tej luce dostrzegam największe możliwości. Od czasu współzałożenia Social Reality po pracę w DNA Fund zawsze pociągały mnie fundamentalne problemy, w przypadku których nowa technologia może w prosty sposób przełożyć się na rzeczywistą wartość biznesową. Firmy inwestowały miliardy w AI, a mimo to wiele z nich nie mogło uzyskać niezawodnych mocy obliczeniowych po kosztach uzasadnionych biznesowo. Tradycyjni dostawcy usług chmurowych zbudowali imponujące przedsiębiorstwa, ale ich infrastruktura powstała z myślą o elastycznych, współdzielonych środowiskach, a nie o ciągłych, intensywnych obliczeniowo obciążeniach AI działających przez całą dobę. Sam tworzyłem firmy, więc wiem, czego potrzebują przedsiębiorstwa: przewidywalnych kosztów, niezawodnego dostępu i możliwości rozwoju. Dostrzegłem szansę na zbudowanie dedykowanej infrastruktury odpowiadającej rzeczywistym wymaganiom AI w przedsiębiorstwach, która da firmom kontrolę nad mocą obliczeniową, nie zmieniając ich przy tym w operatorów centrów danych. Dlatego jestem w Axe Compute. To firmy budujące infrastrukturę, na której opiera się AI, zadecydują o tym, jak daleko i jak szybko ta technologia będzie mogła się rozwijać.

W miarę jak przedsiębiorstwa przyspieszają wdrażanie AI, dostęp do wysokowydajnych obliczeń na GPU staje się kwestią kluczową. Jakie są największe błędne przekonania firm dotyczące ich potrzeb obliczeniowych i jak powinny one oceniać dedykowaną infrastrukturę GPU w porównaniu z tradycyjnymi usługami chmurowymi?

Największym błędnym przekonaniem jest to, że większa liczba GPU automatycznie przekłada się na lepszą wydajność AI. Równie istotne są architektura, w której działają te GPU, stałość dostępu do nich i koszty ich eksploatacji. Drugim błędnym założeniem jest przekonanie, że model chmury stworzony z myślą o oprogramowaniu dla przedsiębiorstw sprawdzi się również w przypadku AI. Chmura publiczna świetnie nadaje się do eksperymentów, nieprzewidywalnego zapotrzebowania i obciążeń, które można szybko zwiększać lub zmniejszać. Jednak gdy rozwiązanie trafia do środowiska produkcyjnego i przez całą dobę obsługuje intensywne obciążenia, rachunek ekonomiczny się zmienia. Nie płaci się już za okazjonalne wykorzystanie mocy obliczeniowej. Finansuje się ciągłą działalność przemysłową w modelu cenowym opartym na zużyciu. Radzę przedsiębiorstwom, by analizowały stopień wykorzystania infrastruktury, czas trwania obciążeń, potrzeby sieciowe oraz łączny koszt w perspektywie kilku lat, zamiast skupiać się na godzinowych stawkach za GPU. Dedykowana infrastruktura zapewnia przewidywalność kosztów i kontrolę przy długotrwałych obciążeniach, ale właściwy wybór zależy od tego, jak firma faktycznie zamierza korzystać z AI.

Axe Compute oferuje dwa odrębne modele — Axe Access i Axe Build — zapewniające zarówno natychmiastowy dostęp do GPU, jak i infrastrukturę AI projektowaną na miarę. Czy możesz wyjaśnić, jak działają te modele, jakim typom klientów służą i jak organizacje mogą ustalić, który z nich najlepiej odpowiada ich obciążeniom AI?

Stworzyliśmy Axe Access i Axe Build, ponieważ przedsiębiorstwa znajdują się na różnych etapach rozwoju i nie powinny być zmuszane do korzystania z tego samego modelu infrastruktury. Axe Access jest przeznaczony dla organizacji, które potrzebują dedykowanych mocy obliczeniowych GPU już teraz — niezależnie od tego, czy rozwijają istniejącą działalność, wprowadzają nowy model, czy też wyrosły z możliwości obecnego dostawcy. Axe Build służy klientom potrzebującym dedykowanej infrastruktury zaprojektowanej z myślą o ich długoterminowych wymaganiach, od mocy obliczeniowych przez architekturę po obsługę operacyjną. O wyborze decydują czas, skala i stopień dostosowania. Jeśli trzeba od razu uruchomić obciążenia, należy zacząć od dostępnych mocy obliczeniowych. Jeśli planuje się wieloletnią działalność związaną z AI, warto zbudować infrastrukturę odpowiednią do tych potrzeb. Zależy mi na tym, by zapewnić klientom praktyczną drogę od zapotrzebowania do uruchomienia działających mocy obliczeniowych, ponieważ technologia ma wartość dopiero wtedy, gdy można ją wykorzystać.

Axe Compute ogłosiło zakontraktowanie projektów infrastruktury AI o wartości ponad 3,45 mld dolarów, co odzwierciedla znaczny popyt na dedykowane moce obliczeniowe. Jakie były największe wyzwania przy przekształcaniu tych zobowiązań w działające klastry GPU i czego nauczyliście się o rozbudowie infrastruktury w tak szybkim tempie?

Najważniejsza lekcja jest taka, że zdobywanie zamówień i dostarczanie infrastruktury to dwie zupełnie różne dziedziny, a w obu trzeba być wyjątkowo dobrym. Przy projektach o wartości ponad 3,45 mld dolarów objętych umowami liczy się każdy etap: obiekty, zasilanie, zakupy, finansowanie, sieć oraz prace techniczne niezbędne do uruchomienia klastrów. Każdy z nich ma własny harmonogram, a jedno opóźnienie może wstrzymać cały proces wdrożenia. Najważniejsze jest zasilanie. Można mieć zabezpieczone zobowiązania, kapitał i sprzęt, ale bez energii elektrycznej nic z tego nie przyniesie zwrotu. Nauczyliśmy się rozwijać działalność w sposób zdyscyplinowany, starannie planując kolejność realizacji projektów, dobierając partnerów i alokując kapitał. Nigdy też nie zapominamy, że wartość projektów objętych umowami to nie to samo co infrastruktura już wdrożona i generująca przychody. Zwycięzcami będą firmy, które konsekwentnie przekładają zobowiązania na niezawodną, działającą moc obliczeniową. Podstawą tego modelu biznesowego jest skuteczna realizacja.

Dostępność procesorów graficznych często dominuje w dyskusjach o infrastrukturze AI, ale równie istotnymi ograniczeniami mogą być energia elektryczna, chłodzenie, sieć i pojemność centrów danych. Które z tych wąskich gardeł, Państwa zdaniem, stanowi największe długoterminowe zagrożenie dla skalowalności AI i jak Axe Compute radzi sobie z tymi wyzwaniami?

Energia elektryczna. Niemal każdy inny element infrastruktury AI można rozbudować lub zmodernizować szybciej niż systemy zasilania, od których ta infrastruktura zależy. Technologie GPU rozwijają się szybko, kapitał można uruchomić, a obiekty zbudować, ale budowa linii przesyłowych, przyłączeń do sieci energetycznej i źródeł energii o dużej mocy trwa na tyle długo, że często wykracza poza horyzont planowania firm AI. Oczekujemy, że sieć elektroenergetyczna będzie dostosowana do przewidywalnego zapotrzebowania, by sprostać ogromnemu wzrostowi zapotrzebowania na moc obliczeniową; nie da się rozwiązać tego problemu, wydając więcej na sprzęt. W Axe Compute dostosowujemy rozwój infrastruktury do realnych możliwości zasilania i współpracujemy z partnerami, którzy rozumieją specyfikę wdrożeń AI o dużej gęstości mocy. Chłodzenie i sieć mają kluczowe znaczenie, zwłaszcza gdy rośnie gęstość mocy w szafach serwerowych, ale o tym, gdzie powstanie infrastruktura AI i którzy operatorzy będą mogli ją rentownie skalować, zdecyduje niezawodne i przystępne cenowo zasilanie.

Budowa wydajnego klastra AI wymaga znacznie więcej niż tylko połączenia tysięcy procesorów graficznych. Jak na rzeczywistą wydajność wpływają takie czynniki jak architektura sieci, przepustowość pamięci masowej, orkiestracja obciążeń i wykorzystanie procesorów graficznych? Które aspekty złożoności technicznej przedsiębiorstwa najczęściej niedoceniają?

Procesor graficzny skupia na sobie całą uwagę, ale jego wydajność zależy od wszystkiego, co go otacza — i właśnie tu przedsiębiorstwa nie doceniają złożoności. Można wdrożyć niezwykle wydajne procesory, ale jeśli sieć nie przesyła między nimi danych w sposób efektywny albo pamięć masowa nie dostarcza ich wystarczająco szybko, płaci się za niewykorzystywaną moc obliczeniową. Ma to największe znaczenie podczas trenowania modeli na dużą skalę, gdy komunikacja między procesorami graficznymi może istotnie wpływać na czas treningu. Orkiestracja dokłada kolejną warstwę złożoności, ponieważ trzeba zarządzać harmonogramowaniem, przydziałem zasobów, awariami i zmiennym zapotrzebowaniem, nie pozostawiając niewykorzystanej mocy. Wydajność oceniam na podstawie użytecznych rezultatów, a nie teoretycznych parametrów, bo dobrze wykorzystany klaster może zapewniać znacznie lepszą efektywność ekonomiczną niż większy klaster działający nieefektywnie. Infrastruktura AI wymaga ciągłej optymalizacji sprzętu, oprogramowania i operacji. Zakup sprzętu nie jest jednorazowym działaniem, które rozwiązuje sprawę.

Axe Compute ogłosiło niedawno strategiczne partnerstwo z Penguin Solutions, które ma przyspieszyć wdrażanie infrastruktury AI na dużą skalę. Jakie konkretne możliwości techniczne i operacyjne wnosi to partnerstwo i jak pomoże skrócić czas wdrożenia, przy jednoczesnym zachowaniu niezawodności i wydajności?

Penguin wnosi trzy elementy: usługi wdrożeniowe i operacyjne świadczone przez ekspertów w określonych lokalizacjach klastrów GPU, oprogramowanie ClusterWareAI do zarządzania działaniem klastrów na dużą skalę oraz całodobową obsługę centrum operacji sieciowych przez zespół Penguin współpracujący z naszym zespołem. Ma to znaczenie, ponieważ dalszy rozwój infrastruktury AI zależy od tego, jak efektywnie firmy potrafią wdrażać i obsługiwać złożone środowiska na dużą skalę. Wdrożenie klastra AI oznacza integrację systemów obliczeniowych, sieciowych, pamięci masowej i zarządzania w środowisku, które niezawodnie działa pod dużym obciążeniem. Specjaliści Penguin zwiększają nasze możliwości realizacyjne, dzięki czemu możemy szybciej wdrażać rozwiązania, podejmować się większej liczby projektów i ograniczać ryzyko związane z realizacją. Celem jest zapewnienie bardziej powtarzalnych i przewidywalnych wdrożeń bez uszczerbku dla wydajności, ponieważ przyspieszenie projektu przynosi wartość tylko wtedy, gdy infrastruktura działa niezawodnie po uruchomieniu.

W miarę jak AI wykracza poza trenowanie modeli na dużą skalę i obejmuje wnioskowanie, autonomicznych agentów oraz aplikacje czasu rzeczywistego, jak, Państwa zdaniem, zmienią się wymagania przedsiębiorstw dotyczące mocy obliczeniowej? Czy ta zmiana zasadniczo wpłynie na sposób projektowania i wdrażania klastrów GPU oraz ich rozmieszczenie geograficzne?

Wnioskowanie będzie ostatecznie stanowić ogromną część rynku komercyjnej infrastruktury AI, zwłaszcza gdy firmy zaczną wykorzystywać AI nie tylko do tworzenia modeli, lecz także w produktach, działalności operacyjnej i usługach skierowanych do klientów. Trenowanie odbywa się w skoncentrowanych seriach. Wnioskowanie wymaga dostępności, niskich opóźnień i dużej przepustowości, a także ciągłej obsługi milionów żądań. Agenci dokładają kolejną warstwę: wykonują wiele zadań i wielokrotnie odwołują się do modeli w ramach jednego procesu. Każde żądanie może być niewielkie, ale łączne zapotrzebowanie szybko rośnie. Sądzę, że duże, scentralizowane klastry nadal będą obsługiwać wymagające obciążenia, a bardziej rozproszona geograficznie infrastruktura będzie zasilać aplikacje, w których liczą się czas odpowiedzi i lokalizacja przechowywania danych. Firmy będą też coraz lepiej dopasowywać obciążenia do odpowiedniego sprzętu, zamiast zakładać, że do wszystkiego potrzebny jest najwydajniejszy GPU. Cieszy mnie, że zapotrzebowanie stanie się znacznie bardziej zróżnicowane, co będzie sprzyjać dostawcom oferującym odpowiednią moc obliczeniową, we właściwych lokalizacjach i na korzystnych warunkach ekonomicznych.

Budowa infrastruktury AI wymaga znacznych nakładów kapitałowych na początku, a technologia GPU wciąż szybko się rozwija. Jak Axe Compute podchodzi do ekonomiki finansowania i eksploatacji dedykowanych klastrów GPU oraz jak firmy mogą uniknąć uzależnienia od drogiego sprzętu, który może się zestarzeć, zanim upłynie okres jego użytkowania?

Punktem wyjścia powinno być zapotrzebowanie klientów, a nie sprzęt. Kupowanie drogiego wyposażenia i liczenie na to, że w ślad za tym pojawi się jego wykorzystanie, to podejście na opak. To nie jest biznes programistyczny: mamy do czynienia z kapitałochłonnymi aktywami rzeczowymi, długim czasem realizacji inwestycji i technologią, która w krótkim czasie robi ogromne postępy. W Axe Compute nasze podejście opiera się na popycie zabezpieczonym umowami, zdyscyplinowanym wdrażaniu oraz infrastrukturze projektowanej z myślą o klientach potrzebujących stałej dostępności mocy obliczeniowej. Starzenie się sprzętu to realny problem, ale GPU, który nie jest już najnowszy, nie traci przez to całej wartości komercyjnej. Nie każda aplikacja wykorzystująca wnioskowanie ani każdy firmowy system AI wymaga najnowszej generacji sprzętu, a dzięki rozsądnemu przydzielaniu obciążeń można wydłużyć okres produktywnego wykorzystania istniejącej infrastruktury. Klienci powinni oceniać opłacalność w całym okresie obowiązywania umowy, uwzględniając wykorzystanie sprzętu, wymagania dotyczące wydajności oraz elastyczność w miarę rozwoju technologii. Celem jest zapewnienie, by okres ekonomicznej użyteczności infrastruktury uzasadniał zainwestowany w nią kapitał, a nie budowanie modelu biznesowego zależnego od tego, że sprzęt na zawsze zachowa swoją początkową wartość.

Patrząc na najbliższe trzy do pięciu lat, gdzie dostrzega Pan największe możliwości innowacji i inwestycji w infrastrukturę AI? Czy przewiduje Pan, że rynek pozostanie zdominowany przez dostawców hiperskalowych i dużych dostawców GPU, czy też wyspecjalizowane firmy infrastrukturalne mogą zasadniczo zmienić sposób, w jaki przedsiębiorstwa uzyskują dostęp do mocy obliczeniowej AI?

Tak dużym i złożonym rynkiem nie da się sprawnie zarządzać, opierając się na kilku dostawcach korzystających z tego samego modelu infrastruktury. Najwięksi dostawcy hiperskalowi pozostaną niezwykle ważni, ale jestem bardzo optymistycznie nastawiony do perspektyw wyspecjalizowanych operatorów w ciągu najbliższych trzech do pięciu lat. Dopiero zaczynamy przekuwać inwestycje w AI w infrastrukturę, na której firmy polegają każdego dnia. Przedsiębiorstwa mają różne potrzeby w zakresie wydajności, suwerenności danych, kosztów, terminów i lokalizacji, co stwarza realne możliwości dla operatorów takich jak my. Najciekawsze możliwości inwestycyjne widzę w infrastrukturze energetycznej, wydajniejszych systemach chłodzenia, zaawansowanych sieciach oraz oprogramowaniu zwiększającym wykorzystanie GPU, ponieważ te obszary bezpośrednio wpływają na ekonomikę AI. Zmieni się również sposób finansowania, gdy inwestorzy lepiej poznają te aktywa i przepływy pieniężne wynikające z zakontraktowanej mocy obliczeniowej. Dla Axe Compute szansą jest współtworzenie tego rynku przez zwiększanie dostępności dedykowanej infrastruktury AI oraz zapewnianie organizacjom poważnie myślącym o wdrażaniu AI w środowisku produkcyjnym przewidywalnych i skalowalnych zasobów. To właśnie mamy na myśli, mówiąc o mocy obliczeniowej bez kompromisów.

Dziękujemy za świetny wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej o dedykowanej mocy obliczeniowej GPU i infrastrukturze AI dla przedsiębiorstw, powinni odwiedzić stronę Axe Compute.