Щоб скоротити витрати на штучний інтелект, почніть із витрат на хмарні послуги

Так званий «брудний середній» штучного інтелекту, можливо, досяг свого найбільшого хаосу.

Оскільки глобальна нестача апаратного забезпечення зіштовхується з величезним попитом, витрати на штучний інтелект стрімко зросли. У боротьбі за більшу обчислювальну потужність компанії, які надають послуги штучного інтелекту, були змушені підвищити ціни та змінити свої моделі оплати, що викликало дисбаланс бюджету та зірвало інновації саме тоді, коли багато організацій тільки починали досягати успіху.

Результатом є не тільки шок від високих цін: це екзистенційна криза для бізнес-світу, який фактично тільки що пережив одну. Компанії переглянули свої плани, щоб врахувати вплив штучного інтелекту. Команди змінили свої робочі процеси у відповідності зі здатностями штучного інтелекту. Реалізація штучного інтелекту стала основним конкурентним优势 організації. Штучний інтелект увійшов на ринок, запустив великі перетворення, а тепер командам доводиться повернутися назад, коли вони тільки починають оперціоналізувати його.

Компанії, такі як Uber, потрапили у заголовки новин через встановлення агресивних обмежень на використання штучного інтелекту, щоб зупинити витрати. Але хоча обмеження на використання можуть бути ефективним заходом для скорочення витрат, вони не єдина можливість, яку мають компанії для скорочення витрат на обчислення.

Перше місце, куди вони повинні звернути увагу, – це їхній хмарний рахунок.

Це здається парадоксальним. Хоча формула завжди була такою, що більша обчислювальна потужність означає більший вплив штучного інтелекту, це не обов’язково робить його більш ефективним. Підприємства втрачají свої бюджети на послуги штучного інтелекту, продовжуючи використовувати надмірну та дорогу інфраструктуру; зростання витрат на штучний інтелект просто розкриває глибоко укорінену проблему, яку підприємства вже не можуть ігнорувати.

Як накопичуються витрати на хмарні послуги

Витрати на інфраструктуру інформаційних технологій часто є другим найбільшим пунктом витрат організації після фонду оплати праці, складаючись у середньому в 10% від річового доходу підприємства – цифра, яку попит на штучний інтелект підняв у небо за останні кілька років. Але багато підприємств додають обсяг до вже надмірної інфраструктури інформаційних технологій.

Технічні директори та інші особи, які приймають рішення щодо технологій, приваблюються тим, що їм знайоме та надійне. На жаль, це також те, що підвищує їхній хмарний рахунок. Приймаючи перевірене та надійне, вони потрапляють у дорогу угоду з великими провайдерами хмарних послуг, де вони платять за рішення, які не приносять цінності.

З часом вони виявляють, що платять за неактивні або не використовувані послуги, неоптимізоване апаратне забезпечення та пусте сховище, коли вони могли б інвестувати ці гроші в інновації штучного інтелекту. Оскільки штучний інтелект стає все дорожчим, їм знадобиться кожен долар, який вони можуть отримати.

Оптимізація інфраструктури для ефективності штучного інтелекту

Отримання контролю над хмарним розсіюванням вимагає поєднання гострих, короткострокових дій та довгострокової еволюції. Вирішення того, що можна вирішити сьогодні, дає підприємствам можливість планувати більші корекції протягом наступного року.

Перехід на нову інфраструктуру займає час, і організаціям потрібні рішення зараз, щоб їхні команди могли продовжувати працювати зі штучним інтелектом. Ось три кроки, які підприємства можуть зробити негайно, щоб регулювати свої витрати на хмарні послуги:

1 – Аналіз використання процесора та пам’яті

Є таке поняття, як «занадто» продуктивності. Команди інформаційних технологій повинні провести глибокий аналіз використання хмарних послуг, а потім понизити екземпляри, які перевищують вимоги до продуктивності. Глибокий аналіз використання хмарних послуг також допомагає командам виявити функції та інфраструктуру, які не використовуються зовсім; якщо їхній поточний контракт це дозволяє, вони можуть припинити ці послуги або перемовинатися про нижчу оплату протягом залишку терміну контракту. В іншому випадку визначення не використовуваних функцій надає цінну основу для визначення параметрів їхнього переформованого підходу до хмарних послуг.

Під час зміни стратегії інфраструктури підприємства будуть хотіти вибрати хмарні послуги, які економлять використання пам’яті. Наприклад, інфраструктура, оптимізована для пам’яті, та віртуальні процесори забезпечують більш дешеву підтримку для підтримки підприємства порівняно з оптимізацією на основі Arm, яку зазвичай пропонують провайдери хмарних послуг. Це полегшує частину навантаження з команд інформаційних технологій, одночасно зменшуючи загальні витрати на хмарні послуги.

2 – Встановлення суворих обмежень витрат

Обмеження витрат та використання були імунною відповіддю галузі технологій на зростання цін на штучний інтелект, але це не тільки встановлення цих обмежень, що має значення. Це те, як ці обмеження визначаються, повідомляються та примушуються до виконання.

По-перше, обмеження витрат повинні бути специфічними для використання. Лідери повинні використовувати їх як керівництво для планування проекту та ресурсів, дозволяючи їм структурувати бюджети, графіки та окремі команди проекту з урахуванням ефективності.

Що стосується спілкування, то важливо, щоб весь персонал зрозумів чому обмеження встановлені. Ми звикли бачити цифрове як безмежне, але на цьому етапі буму штучного інтелекту ми стикаємося з законами фізики. Коли нестача та зміни оплати впливають на щоденні робочі процеси працівників, обмеження витрат повинні бути позиціоновані як сталий спосіб підтримувати їхню нову залежність від інструментів, що працюють на штучному інтелекті, а не як обмеження.

3 – Впровадження протоколів маркування

Протоколи маркування запобігають неконтрольованому використанню інформаційних технологій, яке потай підвищує витрати на обчислення. З допомогою потужного коду маркування керівники інформаційних технологій можуть краще зрозуміти рух хмарних послуг, дозволяючи командам націлюватися на джерело перевитрат та робити стратегічні корекції, щоб скоротити ресурси, де відбувається надмірність. Одночасно протоколи маркування можуть показати, де командам може знадобитися підвищення.

Під час закінчення терміну дії їхніх поточних контрактів на хмарні послуги підприємства мають можливість переформувати свою обчислювальну екосистему з допомогою композитного, багатоклуного підходу. Це не обов’язково означає відмову від їхніх довгострокових партнерських відносин з провайдерами хмарних послуг, а скорочення їхніх контрактів, щоб гармонізувати з більш ефективною інфраструктурою в інших місцях стека. Альтернативні хмари, рішення країв, які розподіляють навантаження на інфраструктуру на основі GPU, та рішення з відкритим кодом складають гнучку, багатовендорську стратегію, яка не тільки економить кошти, а й збільшує реальну віддачу від інвестицій у кожну ініціативу штучного інтелекту, максимізуючи ціну за продуктивність, дозволяючи підприємствам інвестувати заощадження назад у інновації штучного інтелекту.

Перевірка ефективного мислення

Керування витратами на штучний інтелект також є питанням культури. Робочі команди, що використовують штучний інтелект, особливо переймаються ефективністю. Тому вони будують агентів, автоматизують свої комунікації та дозволяють штучному інтелекту виконувати рутинну роботу, поки вони розширюють свою здатність до творчості та інновацій. Але безвідповідальне використання цих інструментів має протилежний ефект.

«Tokenmaxxing» та інші тенденції, які заохочують марнотратне використання штучного інтелекту, несумісні з упередженням до ефективності. Якщо команди хочуть дійсно зробити більше з менше, їхнє взаємодіювання зі штучним інтелектом повинно відображати цей принцип.

Це вимагає зміну культури та технологій одночасно. Заохочення використання кращих запитів для зменшення навантаження на висновок, але також впровадження інфраструктури, яка автоматично економить висновок. Впровадження менших моделей штучного інтелекту з точними випадками використання. Прийняття відкритих моделей та програмного забезпечення для зменшення навантаження навчання. Надання можливості розробникам розв’язувати проблеми ефективно та освіта працівників, які не мають технічної освіти, щодо використання штучного інтелекту. Компанії, які хочуть заохочувати своїх працівників використовувати штучний інтелект, повинні робити це відповідально.

Незважаючи на зростання цін, ми ще не натиснули на гальма трансформації штучного інтелекту. Операціоналізація штучного інтелекту у великому масштабі завжди була дорогим заходом, який вимагає ретельного планування та стратегічного розподілу капіталу, щоб залишатися сталим. Там, де ми зараз перебуваємо, – це точка тиску: кроки, які керівники інформаційних технологій робитимуть тепер, визначать, хто пройде далі, а хто залишиється позаду.

Під час того, як галузь мобілізується для вирішення зростаючої кризи обчислень, підприємства повинні знайти способи зробити максимум з того, що у них є. Компанії можуть захистити себе від астрономічних витрат на штучний інтелект, звернувшись до надмірних витрат на хмарні рішення, економії висновку по розподіленій хмарі та інвестування в інфраструктуру, яка сприяє реальній віддачі від інвестицій.