Alex Yeh, Người sáng lập & CEO của GMI Cloud – Chuỗi phỏng vấn

Alex Yeh là Người sáng lập và CEO của GMI Cloud, một công ty cơ sở hạ tầng kỹ thuật số được hỗ trợ bởi vốn đầu tư mạo hiểm với sứ mệnh trao quyền cho bất kỳ ai để triển khai AI một cách dễ dàng và đơn giản hóa cách các doanh nghiệp xây dựng, triển khai và mở rộng AI thông qua các giải pháp phần cứng và phần mềm tích hợp.

Điều gì đã truyền cảm hứng cho bạn để bắt đầu GMI Cloud, và nền tảng của bạn đã ảnh hưởng đến việc xây dựng công ty như thế nào?

GMI Cloud được thành lập vào năm 2021, tập trung chủ yếu trong hai năm đầu vào việc xây dựng và vận hành các trung tâm dữ liệu để cung cấp các nút tính toán Bitcoin. Trong giai đoạn này, chúng tôi đã thiết lập ba trung tâm dữ liệu ở Arkansas và Texas.

Vào tháng 6 năm ngoái, chúng tôi nhận thấy nhu cầu mạnh mẽ từ các nhà đầu tư và khách hàng về sức mạnh tính toán GPU. Trong vòng một tháng, tôi đã quyết định chuyển hướng sang cơ sở hạ tầng đám mây AI. Sự phát triển nhanh chóng của AI và làn sóng cơ hội kinh doanh mới mà nó mang lại là không thể dự đoán hoặc khó mô tả. Bằng cách cung cấp cơ sở hạ tầng thiết yếu, GMI Cloud nhằm mục đích duy trì sự liên kết chặt chẽ với các cơ hội thú vị và thường không thể tưởng tượng được trong AI.

Trước GMI Cloud, tôi là một đối tác tại một công ty vốn đầu tư mạo hiểm, thường xuyên tương tác với các ngành công nghiệp mới nổi. Tôi xem trí tuệ nhân tạo là “cơn sốt vàng” của thế kỷ 21, với GPU và máy chủ AI đóng vai trò là “công cụ khai thác” cho các “thợ mỏ” hiện đại, thúc đẩy sự tăng trưởng nhanh chóng cho các công ty đám mây chuyên về cho thuê sức mạnh tính toán GPU.

Bạn có thể cho chúng tôi biết về sứ mệnh của GMI Cloud trong việc đơn giản hóa cơ sở hạ tầng AI và tại sao sự tập trung này lại quan trọng như vậy trên thị trường hiện nay?

Việc đơn giản hóa cơ sở hạ tầng AI là rất quan trọng do sự phức tạp và phân mảnh hiện tại của ngăn xếp AI, điều này có thể hạn chế tính khả dụng và hiệu quả cho các doanh nghiệp nhằm khai thác tiềm năng của AI. Các thiết lập AI hiện nay thường bao gồm nhiều lớp không kết nối – từ tiền xử lý dữ liệu và đào tạo mô hình đến triển khai và mở rộng – đòi hỏi phải có thời gian, kỹ năng chuyên môn và tài nguyên đáng kể để quản lý hiệu quả. Nhiều công ty dành hàng tuần và thậm chí hàng tháng để xác định các lớp cơ sở hạ tầng AI phù hợp nhất, một quá trình có thể kéo dài hàng tuần hoặc thậm chí hàng tháng, ảnh hưởng đến trải nghiệm người dùng và năng suất.

1. Tăng tốc Triển khai: Cơ sở hạ tầng đơn giản hóa cho phép phát triển và triển khai các giải pháp AI nhanh hơn, giúp các công ty duy trì tính cạnh tranh và thích ứng với nhu cầu thị trường thay đổi.
2. Giảm Chi phí và Tài nguyên: Bằng cách giảm thiểu nhu cầu về phần cứng chuyên dụng và tích hợp tùy chỉnh, ngăn xếp AI được tối ưu hóa có thể giảm đáng kể chi phí, làm cho AI trở nên dễ tiếp cận hơn, đặc biệt là đối với các doanh nghiệp nhỏ.
3. Cho phép Tính khả mở rộng: Cơ sở hạ tầng tích hợp tốt cho phép quản lý tài nguyên hiệu quả, điều này là cần thiết để mở rộng các ứng dụng khi nhu cầu tăng, đảm bảo các giải pháp AI vẫn mạnh mẽ và phản hồi tại quy mô lớn hơn.
4. Cải thiện Khả năng tiếp cận: Cơ sở hạ tầng đơn giản hóa giúp dễ dàng hơn cho nhiều tổ chức áp dụng AI mà không cần chuyên môn kỹ thuật sâu rộng. Sự dân chủ hóa AI này thúc đẩy đổi mới và tạo ra giá trị trên nhiều ngành.
5. Hỗ trợ Đổi mới Nhanh chóng: Khi công nghệ AI phát triển, cơ sở hạ tầng ít phức tạp hơn giúp dễ dàng kết hợp các công cụ, mô hình và phương pháp mới, cho phép các tổ chức duy trì tính linh hoạt và đổi mới nhanh chóng.

Sứ mệnh của GMI Cloud trong việc đơn giản hóa cơ sở hạ tầng AI là rất quan trọng để giúp các doanh nghiệp và khởi nghiệp tận dụng đầy đủ lợi ích của AI, làm cho nó trở nên dễ tiếp cận, tiết kiệm chi phí và có thể mở rộng cho các tổ chức mọi quy mô.

Gần đây, bạn đã bảo đảm được 82 triệu đô la trong vòng tài trợ Series A. Vốn mới này sẽ được sử dụng như thế nào, và những mục tiêu mở rộng ngay lập tức của bạn là gì?

GMI Cloud sẽ sử dụng vốn này để mở một trung tâm dữ liệu mới ở Colorado và chủ yếu đầu tư vào GPU H200 để xây dựng một cụm GPU lớn bổ sung. GMI Cloud cũng đang tích cực phát triển nền tảng quản lý tài nguyên đám mây gốc của mình, Cluster Engine, được tích hợp liền mạch với phần cứng tiên tiến của chúng tôi. Nền tảng này cung cấp khả năng ảo hóa, container hóa và điều phối không có đối thủ.

GMI Cloud cung cấp quyền truy cập GPU với tốc độ gấp 2 lần so với các đối thủ. Những phương pháp hoặc công nghệ độc đáo nào làm cho điều này có thể xảy ra?

Một khía cạnh quan trọng của phương pháp độc đáo của GMI Cloud là tận dụng NCP của NVIDIA (NVDA ), cung cấp cho GMI Cloud quyền truy cập ưu tiên vào GPU và các tài nguyên tiên tiến khác. Việc mua trực tiếp từ các nhà sản xuất, kết hợp với các lựa chọn tài chính mạnh mẽ, đảm bảo hiệu quả về chi phí và chuỗi cung ứng an toàn.

Với GPU H100 của NVIDIA có sẵn trên năm vị trí toàn cầu, cơ sở hạ tầng này hỗ trợ nhu cầu của khách hàng AI của bạn ở Mỹ và châu Á như thế nào?

GMI Cloud đã thiết lập sự hiện diện toàn cầu, phục vụ nhiều quốc gia và khu vực, bao gồm Đài Loan, Hoa Kỳ và Thái Lan, với mạng lưới các Trung tâm Dữ liệu Internet (IDC) trên toàn thế giới. Hiện tại, GMI Cloud vận hành hàng nghìn thẻ GPU dựa trên Hopper của NVIDIA và đang trên đà mở rộng nhanh chóng, với kế hoạch nhân gấp tài nguyên của mình trong vòng sáu tháng tới. Sự phân bố địa lý này cho phép GMI Cloud cung cấp dịch vụ mượt mà, thấp độ trễ cho khách hàng ở các khu vực khác nhau, tối ưu hóa hiệu quả truyền输 dữ liệu và cung cấp hỗ trợ cơ sở hạ tầng mạnh mẽ cho các doanh nghiệp mở rộng hoạt động AI trên toàn thế giới.

Ngoài ra, khả năng toàn cầu của GMI Cloud cho phép nó hiểu và đáp ứng nhu cầu thị trường và yêu cầu quy định đa dạng trên các khu vực, cung cấp các giải pháp tùy chỉnh phù hợp với nhu cầu độc đáo của từng địa phương. Với nguồn tài nguyên tính toán ngày càng tăng, GMI Cloud giải quyết nhu cầu ngày càng tăng về sức mạnh tính toán AI, cung cấp cho khách hàng khả năng tính toán dồi dào để tăng tốc đào tạo mô hình, nâng cao độ chính xác và cải thiện hiệu suất mô hình cho một loạt các dự án AI.

Là một nhà lãnh đạo trong các dịch vụ đám mây bản địa AI, bạn đang tập trung vào những xu hướng hoặc nhu cầu của khách hàng nào để thúc đẩy công nghệ của GMI tiến về phía trước?

Từ GPU đến ứng dụng, GMI Cloud thúc đẩy chuyển đổi thông minh cho khách hàng, đáp ứng nhu cầu phát triển công nghệ AI.

Kiến trúc Phần cứng:

• Kiến trúc Cluster Vật lý: Các ví dụ như 1250 H100 bao gồm giá đỡ GPU, giá đỡ lá và giá đỡ tủy sống, với các cấu hình tối ưu hóa của máy chủ và thiết bị mạng cung cấp sức mạnh tính toán hiệu suất cao.
• Cấu trúc Mạng Topology: Được thiết kế với vải IB hiệu quả và vải Ethernet, đảm bảo truyền输 dữ liệu mượt mà và giao tiếp.

Phần mềm và Dịch vụ:

• Động cơ Cluster: Sử dụng động cơ được phát triển nội bộ để quản lý tài nguyên như kim loại trần, Kubernetes / container và HPC Slurm, cho phép phân bổ tài nguyên tối ưu cho người dùng và quản trị viên.
• Nền tảng Đám mây Riêng tư: CLUSTER ENGINE là một hệ thống quản lý đám mây độc quyền tối ưu hóa việc lập lịch tài nguyên, cung cấp một giải pháp quản lý cụm linh hoạt và hiệu quả.

Thêm đường dẫn động cơ suy luận:

1. Tính toán liên tục, đảm bảo SLA cao.
2. Chia sẻ thời gian cho sử dụng thời gian phân số.
3. Đặc điểm nổi bật

Dịch vụ Tư vấn và Tùy chỉnh: Cung cấp dịch vụ tư vấn, báo cáo dữ liệu và dịch vụ tùy chỉnh như container hóa, khuyến nghị đào tạo mô hình và nền tảng MLOps tùy chỉnh.

Tính năng An ninh và Giám sát Robust: Bao gồm kiểm soát truy cập dựa trên vai trò (RBAC), quản lý nhóm người dùng, giám sát thời gian thực, theo dõi lịch sử và thông báo cảnh báo.

Theo quan điểm của bạn, những thách thức và cơ hội lớn nhất cho cơ sở hạ tầng AI trong vài năm tới là gì?

Thách thức:

1. Tính khả mở rộng và Chi phí: Khi các mô hình trở nên phức tạp hơn, việc duy trì tính khả mở rộng và chi phí phải chăng trở thành một thách thức, đặc biệt là đối với các công ty nhỏ hơn.
2. Năng lượng và Tính bền vững: Tiêu thụ năng lượng cao đòi hỏi các giải pháp thân thiện với môi trường hơn khi áp dụng AI tăng.
3. Bảo mật và Quyền riêng tư: Bảo vệ dữ liệu trong cơ sở hạ tầng chia sẻ đòi hỏi sự phát triển của bảo mật và tuân thủ quy định.
4. Tính tương tác: Các công cụ phân mảnh trong ngăn xếp AI làm cho việc triển khai và tích hợp trơn tru trở nên phức tạp. Chúng tôi hiện có thể giảm thời gian phát triển xuống 2 lần và giảm số lượng đầu người cho một dự án AI xuống 3 lần.

Cơ hội:

1. Sự phát triển của AI ở Cạnh: Xử lý AI gần hơn với nguồn dữ liệu cung cấp giảm độ trễ và tiết kiệm băng thông.
2. Đổi mới MLOps Tự động hóa: Hoạt động được简 hóa giảm độ phức tạp của việc triển khai, cho phép các công ty tập trung vào các ứng dụng.
3. Phần cứng Tiết kiệm Năng lượng: Các đổi mới có thể cải thiện tính khả dụng và giảm tác động môi trường.
4. Đám mây Kết hợp: Cơ sở hạ tầng hoạt động trên cả đám mây và môi trường trên cơ sở cho phép sự linh hoạt của doanh nghiệp.
5. Quản lý Được hỗ trợ bởi AI: Sử dụng AI để tối ưu hóa cơ sở hạ tầng một cách tự động giảm thời gian ngừng hoạt động và tăng hiệu quả.

Bạn có thể chia sẻ những hiểu biết về tầm nhìn dài hạn của mình cho GMI Cloud? Vai trò nào bạn thấy GMI Cloud đóng trong sự tiến hóa của AI và AGI?

Tôi muốn xây dựng AI của internet. Tôi muốn xây dựng cơ sở hạ tầng sẽ cung cấp năng lượng cho tương lai trên toàn thế giới.

Để tạo ra một nền tảng dễ tiếp cận, tương tự như Squarespace hoặc Wix, nhưng dành cho AI. Bất kỳ ai cũng nên có thể xây dựng ứng dụng AI của mình.

Trong những năm tới, AI sẽ chứng kiến sự tăng trưởng đáng kể, đặc biệt là với các trường hợp sử dụng AI tạo ra, khi nhiều ngành công nghiệp tích hợp các công nghệ này để tăng cường sáng tạo, tự động hóa quy trình và tối ưu hóa việc ra quyết định. Suy luận sẽ đóng vai trò trung tâm trong tương lai này, cho phép các ứng dụng AI thời gian thực xử lý các nhiệm vụ phức tạp một cách hiệu quả và có quy mô. Các trường hợp sử dụng doanh nghiệp đối với doanh nghiệp (B2B) dự kiến sẽ chiếm ưu thế, với các doanh nghiệp ngày càng tập trung vào việc tận dụng AI để tăng cường năng suất, tối ưu hóa hoạt động và tạo ra giá trị mới. Tầm nhìn dài hạn của GMI Cloud phù hợp với xu hướng này, nhằm cung cấp cơ sở hạ tầng tiên tiến, đáng tin cậy hỗ trợ các doanh nghiệp tối đa hóa năng suất và tác động của AI trên toàn tổ chức của họ.

Khi bạn mở rộng hoạt động với trung tâm dữ liệu mới ở Colorado, những mục tiêu chiến lược hoặc cột mốc nào bạn đang hướng tới trong năm tới?

Khi chúng tôi mở rộng hoạt động với trung tâm dữ liệu mới ở Colorado, chúng tôi tập trung vào một số mục tiêu chiến lược và cột mốc trong năm tới. Hoa Kỳ là thị trường lớn nhất cho AI và tính toán AI, khiến cho việc thiết lập sự hiện diện mạnh mẽ ở khu vực này trở nên quan trọng đối với chúng tôi. Vị trí chiến lược của Colorado, kết hợp với hệ sinh thái công nghệ mạnh mẽ và môi trường kinh doanh thuận lợi, cho phép chúng tôi phục vụ tốt hơn một khách hàng ngày càng tăng và nâng cao dịch vụ của mình.

Bạn sẽ đưa ra lời khuyên gì cho các công ty hoặc khởi nghiệp muốn áp dụng cơ sở hạ tầng AI tiên tiến?

Đối với các khởi nghiệp tập trung vào đổi mới AI, ưu tiên nên là xây dựng và tinh chỉnh sản phẩm của họ, không phải dành thời gian quý báu vào quản lý cơ sở hạ tầng. Hợp tác với các nhà cung cấp công nghệ đáng tin cậy cung cấp giải pháp GPU đáng tin cậy và có thể mở rộng, tránh các nhà cung cấp cắt giảm góc với các giải pháp thay thế được dán nhãn trắng. Tính tin cậy và triển khai nhanh chóng là rất quan trọng; trong giai đoạn đầu, tốc độ thường là rào cản cạnh tranh duy nhất mà một khởi nghiệp có so với các đối thủ đã thành lập. Chọn các lựa chọn dựa trên đám mây, linh hoạt hỗ trợ sự tăng trưởng, và tập trung vào bảo mật và tuân thủ mà không hy sinh sự linh hoạt. Bằng cách làm như vậy, các khởi nghiệp có thể tích hợp mượt mà, lặp lại nhanh chóng và kênh tài nguyên của họ vào những gì thực sự quan trọng – cung cấp một sản phẩm nổi bật trên thị trường.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập GMI Cloud,