Chi phí AI đang tăng tốc — Đây là cách để giữ chúng dưới sự kiểm soát

Sử dụng đám mây tiếp tục tăng vọt, và các chi phí liên quan cũng tăng theo – đặc biệt là gần đây, những chi phí được thúc đẩy bởi AI. Các nhà phân tích của Gartner dự đoán rằng chi tiêu của người dùng cuối trên toàn thế giới cho các dịch vụ đám mây công cộng sẽ tăng lên 723,4 tỷ đô la vào năm 2025, tăng từ mức dưới 600 tỷ đô la vào năm 2024. Và 70% các giám đốc điều hành được khảo sát trong một báo cáo của IBM đã chỉ ra AI tạo ra là một yếu tố quan trọng thúc đẩy sự tăng này.

Đồng thời, DeepSeek của Trung Quốc đã gây sóng gió khi tuyên bố rằng họ chỉ cần hai tháng và 6 triệu đô la để đào tạo mô hình AI của họ. Có một số nghi ngờ về việc liệu những con số đó có phản ánh toàn bộ câu chuyện, nhưng nếu giá cổ phiếu của Microsoft (MSFT ) và Nvidia (NVDA ) vẫn bị ảnh hưởng là bất kỳ dấu hiệu nào, thì việc công bố này đã đánh thức thế giới phương Tây về nhu cầu đối với các hệ thống AI tiết kiệm chi phí.

Cho đến nay, các công ty đã có thể coi chi phí AI ngày càng tăng là chi phí nghiên cứu và phát triển. Nhưng chi phí AI – đặc biệt là những chi phí liên quan đến các sản phẩm và tính năng thành công – sẽ cuối cùng ảnh hưởng đến giá thành sản phẩm (COGS) của công ty và do đó, ảnh hưởng đến lợi nhuận gộp của họ. Các đổi mới AI luôn được dự định sẽ phải đối mặt với sự kiểm tra lạnh lùng của lý trí kinh doanh; việc công bố của DeepSeek chỉ rút ngắn thời gian của quá trình này.

Giống như họ làm với phần còn lại của đám mây công cộng, các công ty sẽ cần quản lý chi phí AI của họ, bao gồm cả chi phí đào tạo và tiêu thụ. Họ sẽ cần kết nối chi tiêu AI với kết quả kinh doanh, tối ưu hóa chi phí cơ sở hạ tầng AI, tinh chỉnh chiến lược định giá và đóng gói, và tối đa hóa lợi nhuận từ đầu tư AI của họ.

Làm thế nào họ có thể làm điều đó? Với kinh tế đơn vị đám mây (CUE).

Kinh tế đơn vị đám mây (CUE) là gì?

CUE bao gồm việc đo lường và tối đa hóa lợi nhuận được thúc đẩy bởi đám mây. Cơ chế cơ bản của nó là kết nối dữ liệu chi phí đám mây với dữ liệu nhu cầu và doanh thu của khách hàng, tiết lộ các chiều hướng kinh doanh có lợi nhuận nhất và ít lợi nhuận nhất, và do đó chỉ cho các công ty cách và nơi để tối ưu hóa. CUE áp dụng cho tất cả các nguồn chi tiêu đám mây, bao gồm cả chi phí AI.

Nền tảng của CUE là phân bổ chi phí – tổ chức chi phí đám mây theo người và/hoặc yếu tố nào thúc đẩy chúng. Các chiều phân bổ phổ biến bao gồm chi phí trên mỗi khách hàng, chi phí trên mỗi nhóm kỹ sư, chi phí trên mỗi sản phẩm, chi phí trên mỗi tính năng và chi phí trên mỗi dịch vụ vi mô. Các công ty sử dụng một nền tảng quản lý chi phí hiện đại thường phân bổ chi phí trong một khuôn khổ phản ánh cấu trúc kinh doanh của họ (hệ thống phân cấp kỹ sư, cơ sở hạ tầng nền tảng, v.v.).

Rồi, trái tim của CUE là đơn vị chi phí, so sánh dữ liệu chi phí với dữ liệu nhu cầu để chỉ cho công ty thấy chi phí toàn bộ để phục vụ. Ví dụ, một công ty tiếp thị B2B có thể muốn tính toán “chi phí trên 1.000 tin nhắn” được gửi qua nền tảng của họ. Để làm điều này, họ sẽ phải theo dõi chi phí đám mây và số lượng tin nhắn được gửi, đưa dữ liệu đó vào một hệ thống duy nhất và hướng dẫn hệ thống đó chia chi phí đám mây của họ cho số lượng tin nhắn và biểu đồ kết quả trong một bảng điều khiển.

Kể từ khi công ty bắt đầu với phân bổ chi phí, họ có thể xem chi phí trên 1.000 tin nhắn của mình theo khách hàng, sản phẩm, tính năng, nhóm, dịch vụ vi mô hoặc bất kỳ chiều nào khác mà họ cho là phản ánh cấu trúc kinh doanh của mình.

Kết quả:

• Các chiều kinh doanh linh hoạt mà họ có thể lọc đơn vị chi phí của mình, chỉ cho họ thấy những khu vực nào của kinh doanh đang thúc đẩy chi phí đám mây của họ
• Một đơn vị chi phí soi sáng cho họ thấy họ đang đáp ứng nhu cầu khách hàng hiệu quả như thế nào
• Khả năng thực hiện các cải tiến hiệu quả có mục tiêu, như tái cấu trúc cơ sở hạ tầng, điều chỉnh hợp đồng khách hàng hoặc tinh chỉnh mô hình định giá và đóng gói

CUE trong thời đại AI

Trong mô hình CUE, chi phí AI chỉ là một nguồn chi tiêu đám mây khác có thể được kết hợp vào khuôn khổ phân bổ của một doanh nghiệp. Cách các công ty AI phân phối dữ liệu chi phí vẫn đang phát triển, nhưng về nguyên tắc, các nền tảng quản lý chi phí coi chi phí AI giống như chi phí AWS, Azure, GCP và SaaS.

Các nền tảng quản lý chi phí đám mây hiện đại phân bổ chi phí AI và hiển thị tác động hiệu quả của chúng trong bối cảnh các đơn vị chi phí.

Các công ty nên phân bổ chi phí AI của họ theo một số cách trực quan. Một cách là chi phí trên mỗi nhóm, một chiều phân bổ chung cho tất cả các nguồn chi tiêu đám mây, cho thấy chi phí mà mỗi nhóm kỹ sư chịu trách nhiệm. Điều này đặc biệt hữu ích vì các nhà lãnh đạo biết chính xác ai sẽ được thông báo và chịu trách nhiệm khi chi phí của một nhóm cụ thể tăng vọt.

Các công ty cũng có thể muốn biết chi phí trên mỗi loại dịch vụ AI – mô hình học máy (ML) so với mô hình nền tảng so với mô hình của bên thứ ba như OpenAI. Hoặc, họ có thể tính toán chi phí trên mỗi giai đoạn SDLC để hiểu cách chi phí của một tính năng được hỗ trợ bởi AI thay đổi khi nó chuyển từ phát triển sang thử nghiệm sang giai đoạn chuẩn bị và cuối cùng là sản xuất. Một công ty có thể trở nên chi tiết hơn và tính toán chi phí trên mỗi giai đoạn vòng đời phát triển AI, bao gồm làm sạch dữ liệu, lưu trữ, tạo mô hình, đào tạo mô hình và suy luận.

Khi zoom out một chút: CUE có nghĩa là so sánh dữ liệu chi phí đám mây được tổ chức với dữ liệu nhu cầu của khách hàng và sau đó tìm ra nơi để tối ưu hóa. Chi phí AI chỉ là một nguồn dữ liệu chi phí đám mây khác có thể phù hợp một cách liền mạch vào chiến lược CUE tổng thể của một công ty.

Tránh sóng thần COGS

Tính đến năm 2024, chỉ có 61% công ty đã có hệ thống quản lý chi phí đám mây chính thức (theo một cuộc khảo sát của CloudZero). Chi phí đám mây không được quản lý sớm trở nên không thể quản lý: 31% công ty – tương tự như tỷ lệ những công ty không quản lý chính thức chi phí của họ – bị ảnh hưởng lớn bởi COGS, báo cáo rằng chi phí đám mây tiêu tốn 11% hoặc nhiều hơn doanh thu của họ. Chi phí AI không được quản lý sẽ chỉ làm trầm trọng thêm xu hướng này.

Hôm nay, các tổ chức tiên phong nhất coi chi phí đám mây như một khoản chi tiêu lớn khác, tính toán ROI của nó, phân chia ROI đó theo các chiều kinh doanh quan trọng nhất của họ, và trao quyền cho các thành viên trong nhóm có liên quan với dữ liệu cần thiết để tối ưu hóa ROI đó. Các nền tảng quản lý chi phí đám mây thế hệ tiếp theo cung cấp một quy trình làm việc CUE toàn diện, giúp các công ty tránh sóng thần COGS và tăng cường tính bền vững lâu dài.