Chi phí AI đang tăng tốc — Đây là cách để giữ chúng dưới sự kiểm soát

Sử dụng đám mây tiếp tục tăng vọt, cũng như các chi phí liên quan — đặc biệt, gần đây, những chi phí được thúc đẩy bởi AI. Các nhà phân tích của Gartner dự đoán rằng chi tiêu của người dùng cuối trên toàn thế giới cho các dịch vụ đám mây công cộng sẽ tăng lên $723,4 tỷ vào năm 2025, tăng từ chỉ dưới $600 tỷ vào năm 2024. Và 70% các giám đốc điều hành được khảo sát trong một báo cáo của IBM đã đề cập đến AI tạo ra như một yếu tố quan trọng thúc đẩy sự tăng này.

Đồng thời, DeepSeek của Trung Quốc đã gây sóng gió khi tuyên bố rằng họ chỉ cần hai tháng và $6 triệu để đào tạo mô hình AI của họ. Có một số nghi ngờ về việc liệu những con số đó có kể toàn bộ câu chuyện hay không, nhưng nếu giá cổ phiếu của Microsoft và Nvidia vẫn bị ảnh hưởng là bất kỳ dấu hiệu nào, thì thông báo đó đã đánh thức thế giới phương Tây về nhu cầu đối với các hệ thống AI tiết kiệm chi phí.

Cho đến nay, các công ty đã có thể đối xử với chi phí AI tăng cao như các khoản chi cho nghiên cứu và phát triển. Nhưng chi phí AI — đặc biệt là những chi phí liên quan đến các sản phẩm và tính năng thành công — sẽ cuối cùng ảnh hưởng đến giá thành sản phẩm (COGS) của các công ty và, do đó, lợi nhuận gộp của họ. Các đổi mới AI luôn được định sẵn để đối mặt với sự kiểm tra nghiêm ngặt của lý trí kinh doanh; thông báo bombshell của DeepSeek chỉ rút ngắn thời gian đó.

Giống như họ làm với phần còn lại của đám mây công cộng, các công ty sẽ cần quản lý chi phí AI của họ, bao gồm cả chi phí đào tạo và tiêu thụ. Họ sẽ cần kết nối chi tiêu AI với kết quả kinh doanh, tối ưu hóa chi phí cơ sở hạ tầng AI, tinh chỉnh chiến lược định giá và đóng gói, và tối đa hóa lợi nhuận từ đầu tư AI của họ.

Làm thế nào họ có thể làm điều đó? Với kinh tế đơn vị đám mây (CUE).

Kinh tế đơn vị đám mây (CUE) là gì?

CUE bao gồm việc đo lường và tối đa hóa lợi nhuận được thúc đẩy bởi đám mây. Cơ chế cơ bản của nó là kết nối dữ liệu chi phí đám mây với dữ liệu nhu cầu và doanh thu của khách hàng, tiết lộ các chiều hướng kinh doanh có lợi nhuận nhất và ít lợi nhuận nhất, và do đó chỉ cho các công ty cách và nơi để tối ưu hóa. CUE áp dụng cho tất cả các nguồn chi tiêu đám mây, bao gồm cả chi phí AI.

Nền tảng của CUE là phân bổ chi phí — tổ chức chi phí đám mây theo người và/hoặc điều gì thúc đẩy chúng. Các chiều phân bổ phổ biến bao gồm chi phí trên mỗi khách hàng, chi phí trên mỗi đội ngũ kỹ sư, chi phí trên mỗi sản phẩm, chi phí trên mỗi tính năng, và chi phí trên mỗi microservice. Các công ty sử dụng một nền tảng quản lý chi phí hiện đại thường phân bổ chi phí trong một khuôn khổ phản ánh cấu trúc kinh doanh của họ (hệ thống phân cấp kỹ sư, cơ sở hạ tầng nền tảng, v.v.).

Sau đó, trái tim của CUE là đơn vị chi phí, so sánh dữ liệu chi phí với dữ liệu nhu cầu để hiển thị cho một công ty chi phí toàn bộ để phục vụ. Ví dụ, một công ty tiếp thị B2B có thể muốn tính toán “chi phí trên 1.000 tin nhắn” được gửi qua nền tảng của họ. Để làm điều này, họ sẽ phải theo dõi chi phí đám mây của họ và số lượng tin nhắn được gửi, đưa dữ liệu đó vào một hệ thống duy nhất, và hướng dẫn hệ thống đó chia chi phí đám mây của họ cho số lượng tin nhắn và hiển thị kết quả trong một bảng điều khiển.

Kể từ khi công ty bắt đầu với phân bổ chi phí, họ có thể xem chi phí trên 1.000 tin nhắn của mình theo khách hàng, sản phẩm, tính năng, đội ngũ, microservice, hoặc bất kỳ chiều nào khác mà họ coi là phản ánh cấu trúc kinh doanh của mình.

Kết quả:

• Chiều kinh doanh linh hoạt mà họ có thể lọc đơn vị chi phí của mình, cho thấy họ những khu vực nào của kinh doanh đang thúc đẩy chi phí đám mây của họ
• Một đơn vị chi phí soi sáng cho thấy họ đang đáp ứng nhu cầu của khách hàng một cách hiệu quả như thế nào
• Khả năng thực hiện các cải tiến hiệu suất mục tiêu, như tái cấu trúc cơ sở hạ tầng, điều chỉnh hợp đồng khách hàng, hoặc tinh chỉnh mô hình định giá và đóng gói

CUE trong thời đại AI

Trong mô hình CUE, chi phí AI chỉ là một nguồn chi tiêu đám mây khác có thể được kết hợp vào khuôn khổ phân bổ của một doanh nghiệp. Cách các công ty AI phân phối dữ liệu chi phí vẫn đang phát triển, nhưng về nguyên tắc, các nền tảng quản lý chi phí xử lý chi phí AI theo cách tương tự như họ xử lý chi phí AWS, Azure, GCP và SaaS.

Các nền tảng quản lý chi phí đám mây hiện đại phân bổ chi phí AI và hiển thị tác động hiệu suất của chúng trong bối cảnh của các đơn vị chi phí.

Các công ty nên phân bổ chi phí AI của họ theo một số cách trực quan. Một cách là chiều phân bổ đã đề cập, một chiều phân bổ phổ biến cho tất cả các nguồn chi tiêu đám mây, cho thấy chi phí mà mỗi đội ngũ kỹ sư chịu trách nhiệm. Điều này đặc biệt hữu ích vì các nhà lãnh đạo biết chính xác ai để thông báo và chịu trách nhiệm khi chi phí của một đội ngũ cụ thể tăng vọt.

Các công ty cũng có thể muốn biết chi phí trên mỗi loại dịch vụ AI — mô hình học máy (ML) so với mô hình nền tảng so với mô hình của bên thứ ba như OpenAI. Hoặc, họ có thể tính toán chi phí trên mỗi giai đoạn SDLC để hiểu cách chi phí của một tính năng AI thay đổi khi nó chuyển từ phát triển sang thử nghiệm sang giai đoạn và cuối cùng là sản xuất. Một công ty có thể trở nên tinh tế hơn và tính toán chi phí trên mỗi giai đoạn vòng đời phát triển AI, bao gồm làm sạch dữ liệu, lưu trữ, tạo mô hình, đào tạo mô hình và suy luận.

Khi zoom ra từ các chi tiết một chút: CUE có nghĩa là so sánh dữ liệu chi phí đám mây được tổ chức với dữ liệu nhu cầu của khách hàng và sau đó tìm ra nơi để tối ưu hóa. Chi phí AI chỉ là một nguồn dữ liệu chi phí đám mây khác mà, với nền tảng phù hợp, phù hợp hoàn hảo vào chiến lược CUE tổng thể của một công ty.

Tránh sóng thần COGS

Tính đến năm 2024, chỉ có 61% các công ty đã có hệ thống quản lý chi phí đám mây chính thức (theo một cuộc khảo sát của CloudZero). Chi phí đám mây không được quản lý sớm trở nên không thể quản lý: 31% các công ty — tương tự như tỷ lệ những công ty không quản lý chính thức chi phí của họ — chịu ảnh hưởng lớn đến COGS, báo cáo rằng chi phí đám mây tiêu thụ 11% hoặc nhiều hơn doanh thu của họ. Chi phí AI không được quản lý sẽ chỉ làm trầm trọng thêm xu hướng này.

Hôm nay, các tổ chức tiên phong nhất đối xử với chi phí đám mây như bất kỳ khoản chi tiêu lớn nào khác, tính toán ROI của nó, chia ROI đó xuống theo các chiều kinh doanh quan trọng nhất của họ, và trao quyền cho các thành viên trong đội với dữ liệu cần thiết để tối ưu hóa ROI đó. Các nền tảng quản lý chi phí đám mây thế hệ tiếp theo cung cấp một quy trình làm việc CUE toàn diện, giúp các công ty tránh sóng thần COGS và tăng cường tính bền vững lâu dài.