Connect with us

Витрати на штучні ІІ розгоняються — ось як їх утримувати під контролем

Лідери думок

Витрати на штучні ІІ розгоняються — ось як їх утримувати під контролем

mm

Використання хмари продовжує зростати, а разом з ним зростають і витрати — особливо останніми часом, ті, що викликані штучним інтелектом. Аналітики Gartner прогнозують, що світові витрати кінцевих користувачів на публічні хмарні послуги збільшаться до $723,4 млрд у 2025 році, проти менш як $600 млрд у 2024 році. А 70% виконавчих директорів опитаних у звіті IBM назвали генераційний штучний інтелект критичним драйвером цього зростання.

Водночас китайський DeepSeek зробив переполох, коли заявив, що йому потрібно було лише два місяці та $6 млн, щоб тренувати свою модель штучного інтелекту. Є деякі сумніви щодо того, чи ці цифри розповідають всю історію, але якщо акції Microsoft та Nvidia все ще шоковані, то оголошення розбудило західний світ до необхідності ефективних систем штучного інтелекту.

До сих пір компанії могли розглядати зростаючі витрати на штучний інтелект як витрати на дослідження та розробку. Але витрати на штучний інтелект — особливо ті, що пов’язані з успішними продуктами та функціями — в кінцевому підсумку вплинуть на витрати компанії на товари, продані (COGS) та, як наслідок, на їх валові маржі. Інновації штучного інтелекту завжди були призначені зазнати холодної критики ділового сенсу; оголошення DeepSeek просто прискорило цей термін.

Так само, як і з рештою публічної хмари, компанії будуть需要 управляти своїми витратами на штучний інтелект, включаючи витрати на навчання та споживання. їм потрібно буде зв’язати витрати на штучний інтелект з бізнес-результатами, оптимізувати витрати на інфраструктуру штучного інтелекту, вдосконалити стратегії ціноутворення та пакетування та максимізувати віддачу від інвестицій у штучний інтелект.

Як їм це зробити? З допомогою економіки хмари (CUE).

Що таке економіка хмари (CUE)?

CUE складається з вимірювання та максимізації прибутку, одержуваного від хмари. Її основним механізмом є зв’язування даних про витрати хмари з даними про попит та доходи клієнтів, що розкриває найбільш та найменш прибуткові напрямки діяльності компанії та показує компанії, як і де оптимізувати. CUE застосовується до всіх джерел витрат на хмару, включаючи витрати на штучний інтелект.

Основою CUE є алокація витрат — організація витрат хмари відповідно до того, хто та/або що їх спричиняє. Загальні розміри алокування включають витрати на клієнта, витрати на інженерну команду, витрати на продукт, витрати на функцію та витрати на мікросервіс. Компанії, які використовують сучасну платформу управління витратами, часто алокують витрати у рамках, що відображають їхню бізнес-структуру (їхню інженерну ієрархію, інфраструктуру платформи тощо).

Потім серце CUE — це метрика витрат на одиницю, яка порівнює дані про витрати з даними про попит, щоб показати компанії їх повні витрати на обслуговування. Наприклад, компанія з маркетингу B2B може захотіти розрахувати свої “витрати на 1000 повідомлень”, надісланих через свою платформу. Для цього їм потрібно буде відстежувати свої витрати хмари та кількість повідомлень, надісланих, завантажити ці дані в одну систему та інструктувати цю систему розділити свої витрати хмари на кількість повідомлень та графічно зобразити результат на панелі управління.

Оскільки компанія почала з алокування витрат, вони могли б потім переглянути свої витрати на 1000 повідомлень за клієнтом, продуктом, функцією, командою, мікросервісом або будь-яким іншим видом, який вони вважали відображенням своєї бізнес-структури.

Результати:

  • Гнучкі бізнес-відміни, за допомогою яких вони можуть фільтрувати свою метрику витрат на одиницю, показуючи їм, які області їхнього бізнесу спричиняють витрати хмари
  • Освітлююча метрика витрат на одиницю, яка показує їм, наскільки ефективно вони задовольняють попит клієнтів
  • Можливість зробити цільові покращення ефективності, такі як переробка інфраструктури, коригування контрактів клієнтів або вдосконалення моделей ціноутворення та пакетування

CUE у добу штучного інтелекту

У моделі CUE витрати на штучний інтелект — це лише одне з джерел витрат на хмару, яке можна включити до рамок алокування бізнесу. Спосіб, яким компанії штучного інтелекту розповсюджують дані про витрати, ще перебуває в стадії розвитку, але в принципі, платформи управління витратами обробляють витрати на штучний інтелект майже так само, як і витрати на AWS, Azure, GCP та SaaS.

Сучасні платформи управління витратами хмари алокують витрати на штучний інтелект та показують їх вплив на ефективність у контексті метрик витрат на одиницю.

Компанії повинні алокувати свої витрати на штучний інтелект у декілька інтуїтивних способів. Одним з них є витрати на команду, розмір алокування, спільний для всіх джерел витрат на хмару, який показує витрати, за які відповідає кожна інженерна команда. Це особливо корисно, оскільки лідери знають точно, кого повідомити та утримувати відповідальним, коли витрати певної команди стрімко зростають.

Компанії також можуть захотіти знати свої витрати на тип штучного інтелекту — моделі машинного навчання (ML) проти моделей-фундаментів проти моделей третіх сторін, таких як OpenAI. Або вони могли б розрахувати свої витрати на стадію життєвого циклу SDLC, щоб зрозуміти, як витрати на функцію штучного інтелекту змінюються під час переходу від розробки до тестування до стадії та, нарешті, до виробництва. Компанія могла б стати ще більш детальною та розрахувати свої витрати на стадію життєвого циклу розробки штучного інтелекту, включаючи очистку даних, зберігання, створення моделі, навчання моделі та висновок.

Відійшовши трохи від подробиць: CUE означає порівняння організованих даних про витрати хмари з даними про попит клієнтів, а потім визначення місця оптимізації. Витрати на штучний інтелект — це лише одне з джерел даних про витрати хмари, яке, з правильною платформою, безшовно вписується в загальну стратегію CUE компанії.

Ухилення від цунамі COGS

Станом на 2024 рік лише 61% компаній мали формалізовані системи управління витратами хмари (за даними опитування CloudZero). Некеровані витрати хмари незабаром стають неконтрольованими: 31% компаній — подібна частина тих, хто не формально керує своїми витратами, — зазнають великих ударів по COGS, повідомляючи, що витрати хмари споживають 11% або більше їхнього доходу. Некеровані витрати на штучний інтелект лише посилять цю тенденцію.

Сьогодні найбільш прогресивні організації ставляться до витрат хмари, як і до будь-яких інших великих витрат, розрахуючи їх ROI, розбиваючи цей ROI по своїх найбільш критичних бізнес-відмін, та наділяючи відповідних членів команди даними, необхідними для оптимізації цього ROI. Платформи управління витратами хмари наступного покоління пропонують комплексний робочий процес CUE, допомагаючи компаніям уникнути цунамі COGS та зміцнити свою довгострокову життєздатність.

Білл Баклі - досвідчений керівник технологій з багатим досвідом у сфері програмної інженерії та управління продуктами. З кар'єрою, що охоплює відомі компанії, такі як EMC, Unidesk, Citrix, і тепер CloudZero, Білл приносить великий досвід і знання до своєї ролі старшого віце-президента з інженерії.