Smartbird hợp tác với Supermicro về hạ tầng AI chuyên biệt, được quản lý toàn diện cho doanh nghiệp

Smartbird và Supermicro đang hợp tác cung cấp hạ tầng AI chuyên biệt, được quản lý toàn diện cho doanh nghiệp. Được công bố vào ngày 5 tháng 11, thỏa thuận hợp tác kết hợp các nền tảng điện toán và năng lực thiết kế hệ thống ở quy mô tủ rack của Supermicro với dịch vụ thiết kế, triển khai và vận hành các cụm AI của Smartbird, được tùy chỉnh theo khối lượng công việc của từng khách hàng.

Hai công ty hướng đến các ứng dụng huấn luyện, tinh chỉnh, suy luận và AI tác tử. Theo họ, việc tiếp cận các bộ tăng tốc chỉ là một phần trong quá trình triển khai những khối lượng công việc này: lưu trữ, mạng, nguồn điện, làm mát và vận hành liên tục đều phải phối hợp nhịp nhàng.

Theo thỏa thuận hợp tác, Smartbird sẽ quản lý toàn bộ vòng đời của hạ tầng, với các hệ thống chuyên biệt, chỉ dành cho một khách hàng, được triển khai tại cơ sở của khách hàng hoặc trong các trung tâm dữ liệu cho thuê chỗ đặt máy chủ. Supermicro đóng góp nhiều nền tảng bộ xử lý và giải pháp hạ tầng tích hợp, thay vì chỉ cung cấp một cấu hình GPU cố định được quy định sẵn.

Chuyển từ các cấu phần riêng lẻ sang hạ tầng tích hợp

“Thách thức đối với doanh nghiệp không chỉ đơn giản là mua năng lực điện toán. Đó là kết hợp các công nghệ phù hợp và vận hành chúng ổn định ở quy mô lớn,” Tiến sĩ Nadia Carlsten, chủ tịch kiêm CEO của Smartbird, cho biết.

Mô tả dịch vụ của Smartbird chia công việc này thành các khâu thiết kế, triển khai, vận hành và mở rộng quy mô. Quy trình bắt đầu từ các yêu cầu của khối lượng công việc, tiếp đến là điều phối việc mua sắm và đưa hệ thống vào vận hành, rồi thực hiện giám sát, bảo trì và tối ưu hóa hiệu năng. Việc mở rộng công suất và nâng cấp phần cứng cũng nằm trong cùng một quan hệ cung cấp dịch vụ.

Lý do về mặt vận hành rất rõ ràng. Bộ tăng tốc không thể xử lý công việc hữu ích khi phải chờ dữ liệu đầu vào; máy chủ dù phù hợp cũng không thể triển khai tại cơ sở không đủ khả năng cấp điện hoặc làm mát cho máy. Nếu mua từng cấu phần riêng lẻ, khách hàng sẽ phải tự đảm bảo các giao diện và giả định vận hành tương thích với nhau.

Cụm máy chủ được quản lý sẽ thay đổi bên gánh trách nhiệm tích hợp đó. Mô hình này giúp doanh nghiệp có một đơn vị chịu trách nhiệm vận hành hạ tầng, trong khi đội ngũ nội bộ tập trung vào các mô hình, ứng dụng và dữ liệu mà họ muốn sử dụng. Điều đó không loại bỏ nhu cầu lập kế hoạch cho khối lượng công việc; thay vào đó, kế hoạch này trở thành điểm khởi đầu cho việc thiết kế hạ tầng.

Các cấu phần của Supermicro đóng góp những gì

Giải pháp khối cấu thành trung tâm dữ liệu (DCBBS) của Supermicro mở rộng cách tiếp cận mô-đun của công ty, từ máy chủ sang tủ rack, thiết bị làm mát, hạ tầng tại cơ sở, phần mềm quản lý và dịch vụ. Danh mục sản phẩm được công bố bao gồm hệ thống CPU và GPU, thiết bị lưu trữ, bộ chuyển mạch mạng, thiết bị cấp điện và các cấu phần làm mát bằng chất lỏng.

Công ty cũng cho biết sản phẩm được kiểm định tại nhà máy ở cấp độ tủ rack và cụm máy chủ trước khi giao hàng. Điều này giúp làm rõ trọng tâm hợp tác vào hệ thống ở quy mô tủ rack: đối tượng cần tích hợp là một tập hợp thiết bị liên kết và phụ thuộc lẫn nhau, chứ không phải một nhóm máy riêng lẻ, mỗi máy chỉ có năng lực hoạt động độc lập.

Danh mục phần mềm quản lý của công ty bao gồm giám sát hạ tầng và tự động hóa triển khai. Đây là những thành phần có sẵn trong danh mục cung cấp rộng hơn của Supermicro, chứ không phải sự xác nhận rằng mọi hệ thống Smartbird đều sẽ bao gồm tất cả các sản phẩm phần mềm hoặc thiết kế làm mát được nêu tên.

Thông báo hợp tác để ngỏ cấu hình cụ thể, tùy theo yêu cầu của khách hàng. Thông báo không nêu quy mô cụm máy chủ tiêu chuẩn, mẫu bộ tăng tốc cố định hay giá của dịch vụ kết hợp. Tính linh hoạt là yếu tố cốt lõi của dịch vụ, nhưng cũng đồng nghĩa với việc hiệu năng và chi phí sẽ phụ thuộc vào thiết kế được chọn cho từng khối lượng công việc.

Hạ tầng chuyên biệt và ý nghĩa của quyền kiểm soát

Smartbird gọi mô hình của mình là “được thiết kế để bảo đảm chủ quyền”. Nền tảng thực tiễn của mô hình này là hạ tầng chuyên biệt, trong đó yêu cầu của khách hàng quyết định hệ thống được vận hành ở đâu và như thế nào.

Việc tách biệt về mặt vật lý và vận hành có thể giúp tổ chức thiết lập ranh giới bảo vệ các khối lượng công việc nhạy cảm. Tuy nhiên, chủ quyền không chỉ phụ thuộc vào mô hình thuê riêng: địa điểm triển khai, phương thức truy cập, cách xử lý dữ liệu và trách nhiệm theo hợp đồng vẫn rất quan trọng. Chỉ sử dụng thiết bị chuyên biệt không đồng nghĩa với việc tuân thủ mọi quy định của từng khu vực pháp lý hoặc ngành nghề.

Trong thư gửi cổ đông tháng 8, Carlsten định vị công ty ở khoảng giữa hạ tầng đám mây dùng chung, tiêu chuẩn hóa và hệ thống tùy biến do doanh nghiệp tự xây dựng. Bà thừa nhận rằng dịch vụ đám mây dùng chung vẫn phù hợp với nhiều khối lượng công việc, đồng thời mô tả những khách hàng có yêu cầu về hiệu năng, chi phí, bảo mật hoặc địa điểm khiến họ cần một lựa chọn khác.

Đây là đề xuất cụ thể hơn so với việc chuyển mọi ứng dụng AI doanh nghiệp ra khỏi đám mây. Mục tiêu là giúp các tổ chức có lý do sử dụng hạ tầng chuyên biệt tiếp cận được mô hình này mà không phải xây dựng cả một đội ngũ chuyên trách vận hành hạ tầng.

Supermicro gia nhập mạng lưới đối tác rộng lớn hơn

Thông báo này tiếp nối quan hệ hợp tác với WEKA vào tháng 10 của Smartbird, tập trung vào lớp dữ liệu và bộ nhớ của các cụm máy chủ được quản lý. Thỏa thuận này đưa WEKA NeuralMesh vào dịch vụ hạ tầng, nhằm bảo đảm các bộ tăng tốc luôn được cung cấp dữ liệu, đồng thời hỗ trợ các tác vụ suy luận và tác vụ dựa trên tác nhân AI.

Hai mối quan hệ hợp tác này bổ trợ cho nhau ở các lớp khác nhau: Supermicro cung cấp hệ thống điện toán và khả năng tích hợp ở quy mô tủ rack, còn WEKA đảm nhiệm hạ tầng lưu trữ và bộ nhớ. Những hợp tác này thể hiện chiến lược của Smartbird: kết hợp các công nghệ đã được khẳng định thành một dịch vụ được quản lý, thay vì tự phát triển mọi thành phần.

Các công ty chưa công bố số liệu chuẩn đối chiếu về triển khai chung hoặc kết quả cụ thể từ khách hàng cho mối hợp tác mới với Supermicro. Điểm đáng chú ý là mô hình cung cấp được đề xuất: điều chỉnh kiến trúc cho phù hợp với khối lượng công việc, tích hợp các hệ thống hỗ trợ và duy trì tất cả như một môi trường vận hành thống nhất. Đối với AI doanh nghiệp, điều đó có nghĩa sản phẩm là khả năng vận hành đáng tin cậy trên toàn bộ ngăn xếp hạ tầng, chứ không đơn thuần là số lượng GPU hiện có.