Alex Yeh, Người sáng lập & CEO của GMI Cloud – Loạt phỏng vấn

Alex Yeh là Người sáng lập và CEO của GMI Cloud, một công ty cơ sở hạ tầng kỹ thuật số được hỗ trợ bởi các nhà đầu tư mạo hiểm với sứ mệnh trao quyền cho bất kỳ ai để triển khai AI một cách dễ dàng và đơn giản hóa cách các doanh nghiệp xây dựng, triển khai và mở rộng quy mô AI thông qua các giải pháp phần cứng và phần mềm tích hợp

Điều gì đã truyền cảm hứng cho bạn để bắt đầu GMI Cloud, và cách nền tảng của bạn đã ảnh hưởng đến cách tiếp cận xây dựng công ty?

GMI Cloud được thành lập vào năm 2021, tập trung chủ yếu trong hai năm đầu vào việc xây dựng và vận hành các trung tâm dữ liệu để cung cấp các nút tính toán Bitcoin. Trong suốt thời gian này, chúng tôi đã thành lập ba trung tâm dữ liệu ở Arkansas và Texas.

Vào tháng 6 năm ngoái, chúng tôi nhận thấy nhu cầu mạnh mẽ từ các nhà đầu tư và khách hàng về sức mạnh tính toán GPU. Trong vòng một tháng, tôi đã quyết định chuyển hướng sang cơ sở hạ tầng đám mây AI. Sự phát triển nhanh chóng của AI và làn sóng cơ hội kinh doanh mới mà nó mang lại là không thể dự đoán hoặc khó mô tả. Bằng cách cung cấp cơ sở hạ tầng thiết yếu, GMI Cloud nhằm mục đích duy trì sự liên kết chặt chẽ với những cơ hội thú vị và thường không thể tưởng tượng được trong AI.

Trước GMI Cloud, tôi là một đối tác tại một công ty vốn đầu tư mạo hiểm, thường xuyên tương tác với các ngành công nghiệp mới nổi. Tôi xem trí tuệ nhân tạo là “cuộc chạy đua vàng” của thế kỷ 21, với GPU và máy chủ AI đóng vai trò là “công cụ khai thác” cho các “thợ đào” hiện đại, thúc đẩy sự tăng trưởng nhanh chóng cho các công ty đám mây chuyên về cho thuê sức mạnh tính toán GPU.

Bạn có thể cho chúng tôi biết về sứ mệnh của GMI Cloud trong việc đơn giản hóa cơ sở hạ tầng AI và tại sao sự tập trung này lại quan trọng như vậy trên thị trường hiện nay?

Việc đơn giản hóa cơ sở hạ tầng AI là rất quan trọng do sự phức tạp và phân mảnh hiện tại của ngăn xếp AI, điều này có thể hạn chế khả năng tiếp cận và hiệu quả cho các doanh nghiệp nhằm khai thác tiềm năng của AI. Các thiết lập AI hiện nay thường liên quan đến nhiều lớp rời rạc – từ tiền xử lý dữ liệu và đào tạo mô hình đến triển khai và mở rộng quy mô – đòi hỏi phải có thời gian, kỹ năng chuyên môn và tài nguyên đáng kể để quản lý hiệu quả. Nhiều công ty mất hàng tuần và thậm chí hàng tháng để xác định các lớp cơ sở hạ tầng AI phù hợp nhất, quá trình này có thể kéo dài hàng tuần hoặc thậm chí hàng tháng, ảnh hưởng đến trải nghiệm người dùng và năng suất.

1. Tăng tốc Triển khai: Cơ sở hạ tầng đơn giản hóa cho phép phát triển và triển khai các giải pháp AI nhanh hơn, giúp các công ty duy trì tính cạnh tranh và thích ứng với nhu cầu thị trường thay đổi.
2. Giảm Chi phí và Tài nguyên: Bằng cách giảm thiểu nhu cầu về phần cứng chuyên dụng và tích hợp tùy chỉnh, ngăn xếp AI được tinh gọn có thể giảm đáng kể chi phí, làm cho AI trở nên dễ tiếp cận hơn, đặc biệt là đối với các doanh nghiệp nhỏ.
3. Cho phép Tính mở rộng: Cơ sở hạ tầng tích hợp tốt cho phép quản lý tài nguyên hiệu quả, điều này là thiết yếu để mở rộng quy mô các ứng dụng khi nhu cầu tăng, đảm bảo các giải pháp AI vẫn mạnh mẽ và phản hồi tại quy mô lớn hơn.
4. Cải thiện Khả năng Tiếp cận: Cơ sở hạ tầng đơn giản hóa giúp dễ dàng hơn cho nhiều tổ chức áp dụng AI mà không cần chuyên môn kỹ thuật sâu rộng. Sự dân chủ hóa AI này thúc đẩy sự đổi mới và tạo ra giá trị trên nhiều ngành công nghiệp.
5. Hỗ trợ Sáng tạo Nhanh chóng: Khi công nghệ AI tiến bộ, cơ sở hạ tầng ít phức tạp hơn giúp dễ dàng tích hợp các công cụ, mô hình và phương pháp mới, cho phép các tổ chức duy trì sự linh hoạt và đổi mới nhanh chóng.

Sứ mệnh của GMI Cloud trong việc đơn giản hóa cơ sở hạ tầng AI là rất quan trọng để giúp các doanh nghiệp và startup tận dụng đầy đủ lợi ích của AI, làm cho nó trở nên dễ tiếp cận, tiết kiệm chi phí và có thể mở rộng quy mô cho các tổ chức thuộc mọi quy mô.

Bạn gần đây đã đảm bảo 82 triệu đô la trong vòng tài trợ Series A. Vốn mới này sẽ được sử dụng như thế nào và những mục tiêu mở rộng ngay lập tức của bạn là gì?

GMI Cloud sẽ sử dụng vốn để mở một trung tâm dữ liệu mới ở Colorado và đầu tư chủ yếu vào GPU H200 để xây dựng một cụm GPU lớn khác. GMI Cloud cũng đang tích cực phát triển nền tảng quản lý tài nguyên đám mây của riêng mình, Cluster Engine, được tích hợp hoàn hảo với phần cứng tiên tiến của chúng tôi. Nền tảng này cung cấp khả năng ảo hóa, container hóa và điều phối không thể sánh được.

GMI Cloud cung cấp quyền truy cập GPU với tốc độ gấp 2 lần so với đối thủ cạnh tranh. Những phương pháp hoặc công nghệ độc đáo nào làm cho điều này trở nên khả thi?

Một khía cạnh quan trọng của phương pháp độc đáo của GMI Cloud là tận dụng NCP của NVIDIA, cung cấp cho GMI Cloud quyền truy cập ưu tiên vào GPU và các tài nguyên tiên tiến khác. Việc mua sắm trực tiếp từ các nhà sản xuất, kết hợp với các lựa chọn tài chính mạnh mẽ, đảm bảo hiệu quả về chi phí và chuỗi cung ứng bảo mật cao.

Với GPU H100 của NVIDIA có sẵn trên năm vị trí toàn cầu, cơ sở hạ tầng này hỗ trợ nhu cầu của khách hàng AI của bạn ở Mỹ và châu Á như thế nào?

GMI Cloud đã thiết lập sự hiện diện toàn cầu, phục vụ nhiều quốc gia và khu vực, bao gồm Đài Loan, Hoa Kỳ và Thái Lan, với mạng lưới các Trung tâm Dữ liệu Internet (IDC) trên toàn thế giới. Hiện tại, GMI Cloud vận hành hàng nghìn thẻ GPU dựa trên Hopper của NVIDIA và đang trên đà mở rộng nhanh chóng, với kế hoạch nhân lên tài nguyên của mình trong vòng sáu tháng tới. Sự phân bố địa lý này cho phép GMI Cloud cung cấp dịch vụ mượt mà, thấp độ trễ cho khách hàng ở các khu vực khác nhau, tối ưu hóa hiệu quả truyền dữ liệu và cung cấp hỗ trợ cơ sở hạ tầng mạnh mẽ cho các doanh nghiệp mở rộng hoạt động AI trên toàn thế giới.

Ngoài ra, khả năng toàn cầu của GMI Cloud cho phép nó hiểu và đáp ứng nhu cầu thị trường và yêu cầu quy định đa dạng trên các khu vực, cung cấp các giải pháp tùy chỉnh phù hợp với nhu cầu độc đáo của từng địa phương. Với nguồn tài nguyên tính toán ngày càng tăng, GMI Cloud giải quyết nhu cầu ngày càng tăng về sức mạnh tính toán AI, cung cấp cho khách hàng khả năng tính toán dồi dào để tăng tốc đào tạo mô hình, nâng cao độ chính xác và cải thiện hiệu suất mô hình cho nhiều dự án AI.

Là một nhà lãnh đạo trong các dịch vụ đám mây bản địa AI, những xu hướng hoặc nhu cầu của khách hàng bạn đang tập trung vào để thúc đẩy công nghệ của GMI?

Từ GPU đến ứng dụng, GMI Cloud thúc đẩy chuyển đổi thông minh cho khách hàng, đáp ứng nhu cầu phát triển công nghệ AI.

Cơ sở hạ tầng Phần cứng:

• Cấu trúc Cluster Vật lý: Các trường hợp như 1250 H100 bao gồm giá đỡ GPU, giá đỡ lá và giá đỡ cột sống, với cấu hình tối ưu hóa của máy chủ và thiết bị mạng cung cấp sức mạnh tính toán hiệu suất cao.
• Cấu trúc Topology Mạng: Được thiết kế với vải IB hiệu quả và vải Ethernet, đảm bảo truyền dữ liệu và giao tiếp mượt mà.

Phần mềm và Dịch vụ:

• Cluster Engine: Sử dụng một động cơ được phát triển nội bộ để quản lý tài nguyên như kim loại trần, Kubernetes / container và HPC Slurm, cho phép phân bổ tài nguyên tối ưu cho người dùng và quản trị viên.
• Nền tảng Đám mây Riêng: CLUSTER ENGINE là một hệ thống quản lý đám mây độc quyền tối ưu hóa việc lập lịch tài nguyên, cung cấp một giải pháp quản lý cụm linh hoạt và hiệu quả

Thêm bản đồ động cơ suy luận:

1. Tính toán liên tục, đảm bảo SLA cao.
2. Chia sẻ thời gian cho sử dụng thời gian phân số.
3. Đại diện cho trường hợp

Tư vấn và Dịch vụ Tùy chỉnh: Cung cấp tư vấn, báo cáo dữ liệu và dịch vụ tùy chỉnh như container hóa, khuyến nghị đào tạo mô hình và nền tảng MLOps tùy chỉnh.

Tính năng Bảo mật và Giám sát Robust: Bao gồm kiểm soát truy cập dựa trên vai trò (RBAC), quản lý nhóm người dùng, giám sát thời gian thực, theo dõi lịch sử và thông báo cảnh báo.

Theo quan điểm của bạn, những thách thức và cơ hội lớn nhất cho cơ sở hạ tầng AI trong vài năm tới là gì?

Thách thức:

1. Tính mở rộng và Chi phí: Khi các mô hình trở nên phức tạp hơn, việc duy trì tính mở rộng và chi phí hợp lý trở thành một thách thức, đặc biệt là đối với các công ty nhỏ.
2. Năng lượng và Bền vững: Tiêu thụ năng lượng cao đòi hỏi các giải pháp thân thiện với môi trường hơn khi áp dụng AI tăng.
3. Bảo mật và Quyền riêng tư: Bảo vệ dữ liệu trong cơ sở hạ tầng chia sẻ đòi hỏi sự phát triển của bảo mật và tuân thủ quy định.
4. Tính tương tác: Các công cụ phân mảnh trong ngăn xếp AI làm phức tạp việc triển khai và tích hợp mượt mà. Việc này thực sự làm phức tạp việc triển khai bất kỳ AI nào. Hiện tại, chúng tôi có thể giảm thời gian phát triển xuống 2 lần và giảm số lượng đầu người cho một dự án AI xuống 3 lần.

Cơ hội:

1. Sự phát triển của AI Cạnh: Xử lý AI gần với nguồn dữ liệu cung cấp giảm độ trễ và tiết kiệm băng thông.
2. MLOps Tự động hóa: Hoạt động được简化 giảm sự phức tạp của việc triển khai, cho phép các công ty tập trung vào ứng dụng.
3. Phần cứng Tiết kiệm Năng lượng: Các đổi mới có thể cải thiện khả năng tiếp cận và giảm tác động môi trường.
4. Đám mây Kết hợp: Cơ sở hạ tầng hoạt động trên cả môi trường đám mây và trên cơ sở giúp cho sự linh hoạt của doanh nghiệp.
5. Quản lý AI được hỗ trợ: Sử dụng AI để tối ưu hóa tự động cơ sở hạ tầng giảm thời gian ngừng hoạt động và tăng hiệu quả.

Bạn có thể chia sẻ những hiểu biết về tầm nhìn dài hạn của GMI Cloud? Vai trò nào bạn thấy nó đóng trong sự tiến hóa của AI và AGI?

Tôi muốn xây dựng AI của internet. Tôi muốn xây dựng cơ sở hạ tầng cung cấp năng lượng cho tương lai trên toàn thế giới.

Để tạo ra một nền tảng dễ tiếp cận, tương tự như Squarespace hoặc Wix, nhưng dành cho AI. Bất kỳ ai cũng nên có thể xây dựng ứng dụng AI của mình.

Trong những năm tới, AI sẽ chứng kiến sự tăng trưởng đáng kể, đặc biệt là với các trường hợp sử dụng AI tạo sinh, khi nhiều ngành công nghiệp tích hợp các công nghệ này để nâng cao sự sáng tạo, tự động hóa quy trình và tối ưu hóa quyết định. Suy luận sẽ đóng một vai trò trung tâm trong tương lai này, cho phép các ứng dụng AI thời gian thực xử lý các nhiệm vụ phức tạp một cách hiệu quả và có quy mô. Các trường hợp sử dụng doanh nghiệp đối với doanh nghiệp (B2B) dự kiến sẽ chiếm ưu thế, với các doanh nghiệp ngày càng tập trung vào việc tận dụng AI để tăng năng suất, tối ưu hóa hoạt động và tạo ra giá trị mới. Tầm nhìn dài hạn của GMI Cloud phù hợp với xu hướng này, nhằm cung cấp cơ sở hạ tầng tiên tiến, đáng tin cậy hỗ trợ các doanh nghiệp trong việc tối đa hóa năng suất và tác động của AI trên toàn tổ chức của họ.

Khi bạn mở rộng hoạt động với trung tâm dữ liệu mới ở Colorado, những mục tiêu chiến lược hoặc cột mốc nào bạn đang hướng đến đạt được trong năm tới?

Khi chúng tôi mở rộng hoạt động với trung tâm dữ liệu mới ở Colorado, chúng tôi tập trung vào một số mục tiêu chiến lược và cột mốc trong năm tới. Hoa Kỳ đứng là thị trường lớn nhất cho AI và tính toán AI, khiến cho việc thiết lập sự hiện diện mạnh mẽ trong khu vực này trở nên quan trọng đối với chúng tôi. Vị trí chiến lược của Colorado, kết hợp với hệ sinh thái công nghệ mạnh mẽ và môi trường kinh doanh thuận lợi, cho phép chúng tôi phục vụ tốt hơn một cơ sở khách hàng đang phát triển và nâng cao dịch vụ của chúng tôi.

Bạn sẽ đưa ra lời khuyên gì cho các công ty hoặc startup đang tìm cách áp dụng cơ sở hạ tầng AI tiên tiến?

Đối với các startup tập trung vào đổi mới được thúc đẩy bởi AI, ưu tiên hàng đầu nên là xây dựng và tinh chỉnh sản phẩm của họ, không phải dành thời gian quý báu vào quản lý cơ sở hạ tầng. Hợp tác với các nhà cung cấp công nghệ đáng tin cậy cung cấp giải pháp GPU đáng tin cậy và có thể mở rộng, tránh các nhà cung cấp cắt góc với các giải pháp thay thế được dán nhãn trắng. Tính tin cậy và triển khai nhanh chóng là rất quan trọng; trong giai đoạn đầu, tốc độ thường là rào cản cạnh tranh duy nhất mà một startup có so với các đối thủ đã thành lập. Chọn các lựa chọn dựa trên đám mây, linh hoạt hỗ trợ sự phát triển và tập trung vào bảo mật và tuân thủ mà không hy sinh sự linh hoạt. Bằng cách làm như vậy, các startup có thể tích hợp mượt mà, lặp lại nhanh chóng và kênh tài nguyên của họ vào những gì thực sự quan trọng – cung cấp một sản phẩm nổi bật trên thị trường.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập GMI Cloud,