Chris Miglino, Giám đốc điều hành của Axe Compute – Loạt bài phỏng vấn

Chris Miglino là Giám đốc điều hành của Axe Compute, với hơn hai thập kỷ kinh nghiệm xây dựng, mở rộng và đầu tư vào các công ty công nghệ. Ông đồng sáng lập Social Reality và từng làm việc với DNA Fund, kết hợp nền tảng khởi nghiệp với kinh nghiệm trên thị trường vốn và trong lĩnh vực đầu tư hạ tầng. Tại Axe Compute, ông tập trung vào những thách thức về vận hành và tài chính khi mở rộng năng lực điện toán AI chuyên dụng cho khách hàng doanh nghiệp.

Axe Compute cung cấp hạ tầng GPU bare-metal chuyên dụng cho các khối lượng công việc AI của doanh nghiệp. Dịch vụ Axe Access cho phép tiếp cận năng lực GPU hiện có, còn Axe Build phát triển hạ tầng dựa trên các yêu cầu dài hạn của khách hàng. Trong cuộc phỏng vấn này, Miglino trao đổi về kinh tế học GPU, những hạn chế về điện năng, hiệu năng cụm máy, quan hệ đối tác triển khai, cũng như cách xu hướng chuyển sang suy luận và tác nhân AI có thể định hình lại nhu cầu hạ tầng của doanh nghiệp.

Sự nghiệp của ông trải dài hơn hai thập kỷ khởi nghiệp, từ việc đồng sáng lập Social Reality đến lãnh đạo DNA Fund và hiện nay là giữ chức Giám đốc điều hành của Axe Compute. Điều gì ban đầu thu hút ông đến với thị trường hạ tầng AI, và ông nhận thấy cơ hội nào mà các nhà cung cấp dịch vụ đám mây truyền thống chưa đáp ứng đầy đủ?

Cơ hội tôi nhìn thấy rất đơn giản: AI đang phát triển nhanh hơn hạ tầng được xây dựng để hỗ trợ nó. Tôi đã dành hơn hai thập kỷ xây dựng, mở rộng và đầu tư vào các công ty, và chính khoảng cách đó là nơi tôi tìm thấy những cơ hội lớn nhất. Từ việc đồng sáng lập Social Reality đến công việc tại DNA Fund, tôi luôn bị thu hút bởi những vấn đề căn bản có lộ trình rõ ràng để đưa công nghệ mới đến với giá trị thương mại thực tế. Các công ty đầu tư hàng tỷ đô la vào AI, nhưng nhiều công ty không thể có được năng lực điện toán ổn định với mức chi phí hợp lý về mặt thương mại. Các nhà cung cấp dịch vụ đám mây truyền thống đã xây dựng nên những doanh nghiệp phi thường, nhưng hạ tầng của họ được thiết kế cho môi trường linh hoạt, dùng chung, chứ không phải cho các khối lượng công việc AI chuyên sâu về tính toán, vận hành liên tục suốt ngày đêm. Bản thân tôi từng xây dựng doanh nghiệp, nên tôi hiểu các công ty cần gì: chi phí có thể dự đoán, khả năng truy cập ổn định và dư địa để mở rộng. Tôi nhận thấy cơ hội xây dựng hạ tầng chuyên dụng theo đúng nhu cầu thực tế của AI doanh nghiệp, giúp các công ty kiểm soát năng lực điện toán mà không phải tự vận hành trung tâm dữ liệu. Đó là lý do tôi làm việc tại Axe Compute. Các công ty xây dựng hạ tầng đứng sau AI sẽ quyết định công nghệ này có thể mở rộng đến đâu và nhanh đến mức nào.

Khi các doanh nghiệp đẩy nhanh việc ứng dụng AI, khả năng tiếp cận năng lực điện toán GPU hiệu năng cao đã trở thành một yếu tố thiết yếu cần cân nhắc. Những quan niệm sai lầm lớn nhất của doanh nghiệp về nhu cầu điện toán của mình là gì, và họ nên đánh giá hạ tầng GPU chuyên dụng so với các dịch vụ đám mây truyền thống như thế nào?

Quan niệm sai lầm lớn nhất là cho rằng cứ có thêm GPU thì hiệu năng AI sẽ tự động tốt hơn. Kiến trúc xung quanh các GPU đó, khả năng truy cập ổn định và chi phí vận hành chúng cũng quan trọng không kém. Quan niệm sai lầm thứ hai là cho rằng mô hình đám mây vốn được xây dựng cho phần mềm doanh nghiệp cũng phù hợp với AI. Đám mây công cộng rất phù hợp cho việc thử nghiệm, nhu cầu khó dự đoán và các khối lượng công việc có thể nhanh chóng tăng hoặc giảm quy mô. Nhưng khi đưa vào vận hành thực tế với các khối lượng công việc nặng chạy suốt ngày đêm, bài toán kinh tế sẽ thay đổi. Khi đó, bạn không còn trả tiền cho năng lực điện toán chỉ thỉnh thoảng mới dùng đến. Bạn đang tài trợ cho một hoạt động công nghiệp liên tục theo mô hình định giá dựa trên mức tiêu thụ. Tôi khuyên các doanh nghiệp xem xét mức độ sử dụng, thời lượng khối lượng công việc, nhu cầu mạng và tổng chi phí trong vài năm, thay vì chỉ nhìn vào giá GPU theo giờ. Hạ tầng chuyên dụng mang lại khả năng dự đoán chi phí và quyền kiểm soát đối với các khối lượng công việc kéo dài, nhưng lựa chọn phù hợp còn tùy thuộc vào cách bạn dự định sử dụng AI trên thực tế.

Axe Compute cung cấp hai mô hình riêng biệt là Axe Access và Axe Build, đáp ứng cả nhu cầu sử dụng GPU ngay lập tức lẫn nhu cầu về hạ tầng AI được thiết kế riêng. Ông có thể giải thích cách thức hoạt động của hai mô hình này, loại khách hàng mà mỗi mô hình phục vụ và cách các tổ chức xác định phương án phù hợp nhất với khối lượng công việc AI của mình không?

Chúng tôi xây dựng Axe Access và Axe Build vì các doanh nghiệp không phải ai cũng ở cùng một giai đoạn, và họ không nên bị buộc phải sử dụng chung một mô hình hạ tầng. Axe Access dành cho các tổ chức cần năng lực GPU chuyên dụng ngay bây giờ, dù họ đang mở rộng hoạt động hiện có, ra mắt một mô hình mới hay đã vượt quá khả năng của nhà cung cấp hiện tại. Axe Build dành cho khách hàng cần hạ tầng chuyên dụng được thiết kế theo nhu cầu dài hạn, từ năng lực điện toán, kiến trúc đến vận hành. Sự khác biệt nằm ở thời điểm, quy mô và mức độ tùy chỉnh. Nếu cần chạy khối lượng công việc ngay, hãy bắt đầu với năng lực hiện có. Nếu đang lên kế hoạch cho hoạt động AI kéo dài nhiều năm, hãy xây dựng hạ tầng phù hợp. Điều quan trọng với tôi là mang đến cho khách hàng lộ trình thiết thực từ nhu cầu đến năng lực vận hành thực tế, bởi công nghệ chỉ có giá trị khi bạn có thể đưa nó vào sử dụng.

Axe Compute đã công bố các dự án hạ tầng AI đã ký hợp đồng trị giá hơn 3,45 tỷ USD, phản ánh nhu cầu đáng kể về năng lực điện toán chuyên dụng. Những thách thức lớn nhất khi biến các cam kết này thành các cụm GPU đi vào vận hành là gì, và ông đã rút ra bài học nào về việc mở rộng hạ tầng với tốc độ này?

Bài học lớn nhất là giành được nhu cầu và triển khai hạ tầng là hai lĩnh vực rất khác nhau, và bạn phải làm đặc biệt xuất sắc ở cả hai. Với hơn 3,45 tỷ USD giá trị các dự án đã ký hợp đồng, mọi giai đoạn đều quan trọng: cơ sở vật chất, nguồn điện, mua sắm, tài chính, mạng lưới và công việc kỹ thuật để đưa các cụm vào vận hành. Mỗi khâu có tiến độ riêng, và chỉ một sự chậm trễ cũng có thể làm đình trệ toàn bộ quá trình triển khai. Nguồn điện là yếu tố quan trọng nhất. Bạn có thể đã sẵn sàng các cam kết, vốn và thiết bị, nhưng nếu không có điện thì chẳng thứ gì trong số đó tạo ra lợi nhuận. Chúng tôi đã học được cách mở rộng quy mô một cách kỷ luật trong việc sắp xếp trình tự dự án, lựa chọn đối tác và phân bổ vốn. Và chúng tôi luôn nhớ rằng giá trị các dự án đã ký hợp đồng không đồng nghĩa với hạ tầng đã được triển khai và đang tạo ra doanh thu. Những công ty chiến thắng sẽ là những công ty liên tục biến các cam kết thành năng lực vận hành đáng tin cậy. Khả năng thực thi chính là mô hình kinh doanh.

Tình trạng sẵn có của GPU thường chiếm ưu thế trong các cuộc thảo luận về hạ tầng AI, nhưng điện năng, hệ thống làm mát, mạng lưới và năng lực trung tâm dữ liệu cũng có thể là những hạn chế quan trọng không kém. Theo ông, nút thắt nào trong số này là mối đe dọa lớn nhất về lâu dài đối với khả năng mở rộng AI, và Axe Compute đang giải quyết những thách thức đó như thế nào?

Điện năng. Hầu hết các thành phần khác của hạ tầng AI có thể được mở rộng hoặc nâng cấp nhanh hơn các hệ thống cung cấp điện cho chúng. Công nghệ GPU tiến bộ nhanh chóng, vốn có thể được huy động và cơ sở vật chất có thể được xây dựng, nhưng đường dây truyền tải, kết nối với lưới điện và các dự án phát điện quy mô lớn thường cần thời gian lâu hơn nhiều so với chu kỳ lập kế hoạch của các công ty AI. Chúng ta cần một lưới điện được thiết kế để đáp ứng nhu cầu có thể dự đoán trước và hấp thụ những cụm năng lực tính toán mới ở quy mô khổng lồ; không thể giải quyết vấn đề này chỉ bằng cách chi thêm tiền mua phần cứng. Tại Axe Compute, chúng tôi điều chỉnh việc phát triển hạ tầng theo khả năng cung cấp điện thực tế và hợp tác với những đối tác am hiểu việc triển khai AI mật độ cao. Làm mát và mạng lưới rất quan trọng, đặc biệt khi mật độ thiết bị trong mỗi tủ rack tăng lên, nhưng nguồn điện ổn định, có giá phải chăng sẽ quyết định nơi hạ tầng AI được xây dựng và đơn vị vận hành nào có thể mở rộng quy mô một cách sinh lời.

Xây dựng một cụm AI hiệu năng cao đòi hỏi nhiều hơn đáng kể so với việc lắp ráp hàng nghìn GPU. Các yếu tố như kiến trúc mạng, thông lượng lưu trữ, điều phối khối lượng công việc và mức độ sử dụng GPU ảnh hưởng thế nào đến hiệu năng thực tế, và doanh nghiệp thường đánh giá thấp độ phức tạp kỹ thuật ở những khâu nào nhất?

GPU thường thu hút mọi sự chú ý, nhưng hiệu năng của nó phụ thuộc vào mọi thành phần xung quanh; đây chính là điểm mà các doanh nghiệp thường đánh giá thấp độ phức tạp. Bạn có thể triển khai những bộ xử lý cực mạnh, nhưng nếu mạng không thể truyền dữ liệu hiệu quả giữa chúng, hoặc hệ thống lưu trữ không thể cung cấp dữ liệu đủ nhanh, thì bạn đang trả tiền cho năng lực mà mình không sử dụng. Điều này đặc biệt quan trọng trong quá trình huấn luyện quy mô lớn, khi việc liên lạc giữa các GPU có thể ảnh hưởng đáng kể đến thời gian huấn luyện xong một mô hình. Khâu điều phối làm tăng thêm độ phức tạp, vì bạn phải quản lý việc lập lịch, phân bổ tài nguyên, xử lý sự cố và nhu cầu thay đổi mà không để năng lực bị bỏ phí. Tôi đánh giá hiệu năng dựa trên kết quả hữu ích, chứ không phải thông số lý thuyết, bởi một cụm được khai thác hiệu quả có thể mang lại hiệu quả kinh tế tốt hơn nhiều so với một cụm lớn hơn nhưng vận hành kém hiệu quả. Hạ tầng AI cần được tối ưu hóa liên tục trên cả phần cứng, phần mềm và hoạt động vận hành. Đây không phải là khoản mua sắm thiết bị chỉ thực hiện một lần.

Axe Compute gần đây đã công bố quan hệ đối tác chiến lược với Penguin Solutions nhằm đẩy nhanh việc triển khai hạ tầng AI quy mô lớn. Quan hệ đối tác này mang lại những năng lực kỹ thuật và vận hành cụ thể nào, và sẽ giúp rút ngắn thời gian triển khai trong khi vẫn duy trì độ tin cậy và hiệu năng ra sao?

Penguin mang đến ba năng lực: dịch vụ triển khai và vận hành do chuyên gia dẫn dắt tại các địa điểm đặt cụm GPU được chỉ định; phần mềm ClusterWareAI để quản lý hoạt động của cụm trên quy mô lớn; và dịch vụ hỗ trợ 24×7 từ trung tâm vận hành mạng của Penguin, với một đội ngũ làm việc cùng chúng tôi. Điều này quan trọng vì giai đoạn tăng trưởng tiếp theo của hạ tầng AI phụ thuộc vào khả năng các công ty triển khai và vận hành những môi trường phức tạp trên quy mô lớn hiệu quả đến đâu. Triển khai một cụm AI đồng nghĩa với việc tích hợp các hệ thống tính toán, mạng, lưu trữ và quản lý thành một môi trường có thể vận hành đáng tin cậy dưới những khối lượng công việc đòi hỏi cao. Các chuyên gia của Penguin bổ sung năng lực triển khai, giúp chúng tôi triển khai nhanh hơn, đảm nhận nhiều dự án hơn và giảm rủi ro trong quá trình thực hiện. Mục tiêu là giúp việc triển khai trở nên nhất quán và dễ dự đoán hơn mà không ảnh hưởng đến hiệu năng, bởi đẩy nhanh một dự án chỉ tạo ra giá trị nếu hạ tầng vận hành đáng tin cậy sau khi đi vào hoạt động.

Khi AI phát triển từ việc huấn luyện mô hình quy mô lớn sang suy luận, tác tử tự hành và các ứng dụng thời gian thực, ông dự đoán nhu cầu điện toán của doanh nghiệp sẽ thay đổi như thế nào? Sự chuyển dịch này có làm thay đổi căn bản cách thiết kế, triển khai và phân bố địa lý các cụm GPU hay không?

Suy luận cuối cùng sẽ chiếm một phần rất lớn trong thị trường hạ tầng AI thương mại, đặc biệt khi các doanh nghiệp chuyển từ xây dựng mô hình sang tích hợp AI vào sản phẩm, hoạt động và dịch vụ hướng đến khách hàng. Việc huấn luyện diễn ra theo từng đợt tập trung. Suy luận đòi hỏi khả năng sẵn sàng, độ trễ thấp, thông lượng cao và khả năng xử lý liên tục hàng triệu yêu cầu. Các tác tử AI bổ sung một lớp công việc nữa: chúng thực hiện nhiều tác vụ và liên tục gọi mô hình trong suốt một quy trình. Mỗi yêu cầu có thể nhỏ, nhưng tổng nhu cầu tăng lên rất nhanh. Tôi cho rằng các cụm máy chủ tập trung quy mô lớn sẽ tiếp tục xử lý những khối lượng công việc đòi hỏi cao, trong khi năng lực tính toán được phân bổ rộng hơn về mặt địa lý sẽ phục vụ các ứng dụng cần thời gian phản hồi nhanh và lưu trú dữ liệu tại chỗ. Các doanh nghiệp cũng sẽ ngày càng biết cách chọn phần cứng phù hợp với từng khối lượng công việc, thay vì cho rằng việc gì cũng cần GPU mạnh nhất. Điều khiến tôi hào hứng là nhu cầu sẽ ngày càng đa dạng, tạo lợi thế cho những nhà cung cấp có thể cung cấp đúng năng lực tính toán, tại đúng địa điểm, với hiệu quả kinh tế phù hợp.

Xây dựng hạ tầng AI đòi hỏi nguồn vốn ban đầu đáng kể, trong khi công nghệ GPU vẫn không ngừng phát triển nhanh chóng. Axe Compute tiếp cận bài toán kinh tế trong việc huy động vốn và vận hành các cụm GPU chuyên dụng như thế nào, và các doanh nghiệp có thể tránh bị ràng buộc vào phần cứng đắt đỏ, có nguy cơ lỗi thời trước khi hết thời gian sử dụng hữu ích, bằng cách nào?

Hãy bắt đầu từ nhu cầu của khách hàng, không phải phần cứng. Mua thiết bị đắt tiền rồi hy vọng mức độ sử dụng sẽ tăng theo là cách làm ngược đời. Đây không phải là một doanh nghiệp phần mềm: bạn phải xử lý tài sản vật chất nặng nề, thời gian xây dựng kéo dài và công nghệ cải tiến vượt bậc chỉ trong một thời gian ngắn. Tại Axe Compute, cách tiếp cận của chúng tôi dựa trên nhu cầu đã được ký hợp đồng, triển khai có kỷ luật và xây dựng hạ tầng xoay quanh những khách hàng cần năng lực tính toán ổn định trong thời gian dài. Tình trạng lỗi thời là có thật, nhưng GPU không còn mới nhất không đồng nghĩa với việc nó không còn giá trị thương mại. Không phải ứng dụng suy luận hay hệ thống AI doanh nghiệp nào cũng cần thế hệ phần cứng mới nhất, và bạn có thể kéo dài thời gian khai thác hiệu quả của hạ tầng hiện có bằng cách phân bổ khối lượng công việc một cách hợp lý. Khách hàng nên xem xét hiệu quả kinh tế trong toàn bộ thời hạn hợp đồng: mức độ sử dụng, nhu cầu về hiệu năng và khả năng linh hoạt khi công nghệ phát triển. Mục tiêu là bảo đảm thời gian khai thác hữu ích về mặt kinh tế của hạ tầng tương xứng với khoản vốn đầu tư vào đó, chứ không phải xây dựng mô hình kinh doanh phụ thuộc vào việc phần cứng mãi giữ nguyên giá trị ban đầu.

Trong 3 đến 5 năm tới, ông nhận thấy những cơ hội lớn nhất cho đổi mới và đầu tư vào hạ tầng AI nằm ở đâu? Ông có cho rằng thị trường sẽ tiếp tục tập trung vào các nhà cung cấp đám mây siêu quy mô và những nhà cung cấp GPU lớn, hay các công ty hạ tầng chuyên biệt có thể định hình lại căn bản cách doanh nghiệp tiếp cận năng lực tính toán AI?

Một thị trường lớn và phức tạp đến vậy sẽ không thể được phục vụ hiệu quả bởi một số ít nhà cung cấp cùng vận hành theo một mô hình hạ tầng. Các nhà cung cấp đám mây siêu quy mô sẽ vẫn giữ vai trò vô cùng quan trọng, nhưng tôi rất lạc quan về triển vọng của các đơn vị vận hành chuyên biệt trong 3 đến 5 năm tới. Chúng ta vẫn đang ở giai đoạn đầu của quá trình chuyển hóa đầu tư vào AI thành hạ tầng mà doanh nghiệp dựa vào mỗi ngày. Các doanh nghiệp có nhu cầu khác nhau về hiệu năng, chủ quyền dữ liệu, chi phí, tiến độ và vị trí địa lý, tạo ra dư địa thực sự cho những đơn vị vận hành như chúng tôi. Những cơ hội đầu tư khiến tôi quan tâm nhất nằm ở hạ tầng điện năng, công nghệ làm mát hiệu quả hơn, mạng tiên tiến và phần mềm giúp cải thiện mức độ sử dụng GPU, bởi những yếu tố này trực tiếp quyết định hiệu quả kinh tế của AI. Hoạt động tài trợ vốn cũng sẽ phát triển khi các nhà đầu tư ngày càng tin tưởng hơn vào tài sản và dòng tiền từ năng lực tính toán theo hợp đồng. Với Axe Compute, cơ hội là góp phần xây dựng thị trường này bằng cách giúp các tổ chức nghiêm túc trong việc đưa AI vào vận hành thực tế tiếp cận năng lực AI chuyên dụng dễ dàng hơn, với khả năng dự đoán cao hơn và quy mô linh hoạt hơn. Đó là điều chúng tôi muốn nói qua thông điệp năng lực tính toán không thỏa hiệp.

Cảm ơn ông về cuộc phỏng vấn tuyệt vời. Độc giả muốn tìm hiểu về năng lực GPU chuyên dụng và hạ tầng AI doanh nghiệp có thể truy cập Axe Compute.