Koszty sztucznej inteligencji przyspieszają — oto jak je kontrolować

Użycie chmury obliczeniowej ciągle rośnie, a wraz z nim rosną również związane z tym koszty — szczególnie w ostatnim czasie, koszty te są napędzane przez sztuczną inteligencję. Analitycy z Gartnera przewidują, że światowe wydatki na usługi chmury publicznej wyniosą 723,4 miliarda dolarów w 2025 roku, w porównaniu z mniej niż 600 miliardami dolarów w 2024 roku. Ponadto 70% dyrektorów ankietowanych w raporcie IBM wymieniło sztuczną inteligencję generatywną jako kluczowy czynnik wzrostu tych kosztów.

Jednocześnie chiński DeepSeek wywołał falę zainteresowania, gdy ogłosił, że udało mu się w ciągu zaledwie dwóch miesięcy i za 6 milionów dolarów przeszkolić swój model sztucznej inteligencji. Choć istnieją wątpliwości, czy te liczby oddają pełny obraz, to ogłoszenie to obudziło Zachód, pokazując potrzebę efektywnych kosztowo systemów sztucznej inteligencji.

(MSFT ) (NVDA )

Do tej pory firmy mogły traktować rosnące koszty sztucznej inteligencji jako wydatki na badania i rozwój. Jednak koszty sztucznej inteligencji — szczególnie te związane z udanymi produktami i funkcjami — ostatecznie wpłyną na koszty produkcji (COGS) i w konsekwencji na marże brutto. Innowacje sztucznej inteligencji zawsze miały stanąć przed surową oceną biznesu; ogłoszenie DeepSeek tylko przyspieszyło ten proces.

Podobnie jak w przypadku reszty chmury publicznej, firmy będą musiały zarządzać kosztami sztucznej inteligencji, w tym kosztami szkolenia i zużycia. Będą musiały połączyć wydatki na sztuczną inteligencję z wynikami biznesowymi, zoptymalizować koszty infrastruktury sztucznej inteligencji, doskonalić strategie cenowe i pakietowe, oraz maksymalizować zwrot z inwestycji w sztuczną inteligencję.

Jak mogą to zrobić? Z pomocą ekonomiki jednostkowej chmury (CUE).

Czym jest ekonomika jednostkowa chmury (CUE)?

CUE składa się z pomiaru i maksymalizacji zysku generowanego przez chmurę. Jego podstawowym mechanizmem jest połączenie danych o kosztach chmury z danymi o popycie i przychodach, ujawniając najbardziej i najmniej dochodowe obszary biznesu, dzięki czemu firmy wiedzą, jak i gdzie optymalizować. CUE stosuje się we wszystkich źródłach wydatków na chmurę, w tym kosztów sztucznej inteligencji.

Podstawą CUE jest przydział kosztów — organizowanie kosztów chmury według tego, kto lub co je powoduje. Typowe wymiary przydziału obejmują koszt na klienta, koszt na zespół inżynierski, koszt na produkt, koszt na funkcję i koszt na mikrousługę. Firmy korzystające z nowoczesnej platformy zarządzania kosztami często przydzielają koszty w ramach struktury, która odbija ich strukturę biznesową (hierarchię inżynierską, infrastrukturę platformy itd.).

Sercem CUE jest metryka kosztu jednostkowego, która porównuje dane o kosztach z danymi o popycie, pokazując firmie jej całkowity koszt obsługi. Na przykład firma marketingowa B2B może chcieć obliczyć swój „koszt na 1000 wiadomości” wysłanych za pośrednictwem swojej platformy. Aby to zrobić, musiałaby śledzić swoje koszty chmury i liczbę wysłanych wiadomości, wprowadzić te dane do jednego systemu i nakazać temu systemowi podzielić koszty chmury przez liczbę wiadomości i wykreślić wynik na wykresie.

Ponieważ firma zaczęła od przydziału kosztów, mogłaby następnie wyświetlić swój koszt na 1000 wiadomości według klienta, produktu, funkcji, zespołu, mikrousługi lub innego widoku, który uważa za odzwierciedlający strukturę swojego biznesu.

Wyniki:

• Elastyczne wymiary biznesowe, według których mogą filtrować swój wskaźnik kosztu jednostkowego, pokazując im, które obszary ich biznesu napędzają koszty chmury
• Jasny metryka kosztu jednostkowego, który pokazuje im, jak efektywnie spełniają popyt klientów
• Możliwość wprowadzania ukierunkowanych usprawnień efektywności, takich jak optymalizacja infrastruktury, dostosowanie umów z klientami lub doskonalenie modeli cenowych i pakietowych

CUE w erze sztucznej inteligencji

W modelu CUE koszty sztucznej inteligencji są tylko jednym z źródeł wydatków na chmurę, które mogą być uwzględnione w ramach alokacji biznesu. Sposób, w jaki firmy sztucznej inteligencji rozpowszechniają dane o kosztach, wciąż ewoluuje, ale zasadniczo platformy zarządzania kosztami traktują koszty sztucznej inteligencji podobnie jak koszty AWS, Azure, GCP i SaaS.

Nowoczesne platformy zarządzania kosztami chmury przydzielają koszty sztucznej inteligencji i pokazują ich wpływ na efektywność w kontekście metryk kosztu jednostkowego.

Firmy powinny przydzielać swoje koszty sztucznej inteligencji w kilku intuicyjnych sposób. Jednym z nich byłby wspomniany wcześniej koszt na zespół, wymiar przydziału wspólny dla wszystkich źródeł wydatków na chmurę, pokazujący koszty, za które odpowiedzialny jest każdy zespół inżynierski. Jest to szczególnie przydatne, ponieważ liderzy wiedzą dokładnie, kogo powiadomić i obciążyć odpowiedzialnością, gdy koszty danego zespołu gwałtownie wzrosną.

Firmy mogą również chcieć wiedzieć swój koszt na typ usługi sztucznej inteligencji — modele uczenia maszynowego (ML) w porównaniu z modelami podstawowymi lub modelami zewnętrznymi, takimi jak OpenAI. Lub mogą obliczyć swój koszt na etap SDLC, aby zrozumieć, jak koszty funkcji napędzanej przez sztuczną inteligencję zmieniają się, gdy przechodzi z fazy rozwoju do testowania, a następnie do produkcji. Firma mogłaby również obliczyć swój koszt na etap rozwoju sztucznej inteligencji, w tym oczyszczanie danych, przechowywanie, tworzenie modelu, szkolenie modelu i inferencję.

Wyjmując się nieco z szczegółów: CUE oznacza porównywanie zorganizowanych danych o kosztach chmury z danymi o popycie, a następnie ustalenie, gdzie optymalizować. Koszty sztucznej inteligencji są tylko jednym z źródeł danych o kosztach chmury, które z odpowiednią platformą można łatwo włączyć do ogólnej strategii CUE.

Unikanie tsunami COGS

Od 2024 roku tylko 61% firm miało sformalizowane systemy zarządzania kosztami chmury (według ankiety CloudZero). Niekontrolowane koszty chmury szybko stają się niezarządzalne: 31% firm — podobnie jak te, które nie formalnie zarządzają swoimi kosztami — doświadcza znacznych uderzeń w COGS, zgłaszając, że koszty chmury pochłaniają 11% lub więcej ich przychodu. Niekontrolowane koszty sztucznej inteligencji tylko nasilić ten trend.

Dziś najbardziej przedsiębiorcze organizacje traktują koszty chmury jak każdy inny znaczący wydatek, obliczając jego zwrot z inwestycji, rozkładając ten zwrot z inwestycji według najważniejszych wymiarów biznesowych oraz upoważniając odpowiednich członków zespołu do optymalizacji tego zwrotu z inwestycji. Następne pokolenie platform zarządzania kosztami chmury oferuje kompleksowy przepływ pracy CUE, pomagając firmom uniknąć tsunami COGS i wzmocnić długoterminową żywotność.