Не будуйте свій корпоративний штучний інтелект на позиченому доступі

Усі додатки штучного інтелекту та корпоративні розгортання будувалися до цього часу з припущенням, що доступ до моделей штучного інтелекту останнього покоління залишатиметься можливим і майже необмеженим. Це було правильним підходом, поки що. Тренд полягав у тому, що нові можливості моделей останнього покоління комерціалізувалися або відкрито публікувалися протягом 6 місяців, тому увага зосереджувалася лише на розумінні майбутніх можливостей якомога раніше. Компанії, команди чи люди, які могли створювати продукти, схоплюючи та адаптуючись до нових можливостей моделей останнього покоління якомога раніше, щоб створювати додатки, перемагали. Однак кілька сигналів можуть свідчити про те, що ця епоха скоро закінчиться. Рішення Міністерства торгівлі США про обмеження доступу до моделей Fable і Mythos компанії Anthropic для іноземних громадян було лише першим знаком. Однак це обмеження пізніше було знято після координації з Anthropic, що показало, як швидко можуть змінюватися умови доступу та необхідність адаптованих корпоративних систем штучного інтелекту.

Чотири причини, чому доступ до моделей останнього покоління не гарантований

Підхід до будівництва лише для моделей останнього покоління може припинитися бути правильним, якщо їх доступність припинить бути гарантованою. Є принаймні чотири причини, чому це може трапитися. По-перше, економіка штучного інтелекту останнього покоління побудована на субсидованій ціні, яка не буде тривати. Останні підготовчі роботи до первинного публічного пропозиції компаній OpenAI та Anthropic змусили їх відкрити книги та ясно показати справжню вартість поточних спонсорованих послуг штучного інтелекту, які можуть не бути економічно життєздатними після первинного публічного пропозиції. Чутки свідчать, що приватна підписка за $200, пропонована компанією Anthropic, насправді коштує компанії кілька тисяч. Тому очікується, що ціни на токени будуть продовжувати зростати, і епоха штучно дешевого доступу до моделей останнього покоління закінчиться.

По-друге, моделі останнього покоління не стають дешевшими у використанні. На відміну від класичних обчислень, де закон Мура постійно зменшував вартість будь-якої операції з часом, штучний інтелект, схоже, не слідує цій кривій. Моделі стають більші, але також більш обчислювально-інтенсивними. Усі наші інженери витратили свої кредитні клієнди Claude протягом 10 хвилин після тимчасового випуску Fable 5. Це може свідчити про те, що наступні моделі останнього покоління будуть вимагати більше токенів, більше обчислень та більше інфраструктури з кожним кроком.

По-третє, здається, що все менше і менше гравців фактично залишаються в гонці за справжні моделі останнього покоління. Mistral, колись надія Європи на конкуренцію на глобальному полі моделей останнього покоління, переглянула свої амбіції та стала скромним послідовником. Китайські моделі є швидкими послідовниками, але продовжують відставати від найкращих випусків лідируючих лабораторій.

По-четверте, моделі останнього покоління можуть бути просто занадто небезпечними для використання в кожному додатку. Ми не використовуємо мініатюрні ядерні реактори в автомобілях, частково через те, що ця галузь високорегульована та небезпечна. Експерименти компанії Anthropic показують, що дуже важко тримати модель останнього покоління під контролем, щоб забезпечити її безпечність, зберігаючи при цьому її можливості. Це може бути довгостроковим уроком та основною причиною регулювання моделей останнього покоління державами, тому вони не будуть так вільно доступні, як зараз.

Отже, ми можемо входити у світ, де вартість токенів має значення, а моделі останнього покоління не будуть доступні для кожного додатку в кожній країні.

Вхід на рівень додатків

У світі, де не кожен виклик моделі йде до найкращої доступної моделі, як ми можемо гарантувати, що кожне завдання буде вирішено надійно та з найкращим можливим рівнем продуктивності? Відповідь може лежати в так званому “рівні додатків”.

Генеральний директор компанії NVIDIA Дженсен Хуанг описав штучний інтелект як 5-шаровий торт: енергія, чіпи, центри даних, моделі та додатки. Він стверджує, що рівень додатків є найважливішим і тим, який ще відсутній.

Для деяких додатків, таких як чат-боти, цей рівень дуже тонкий – фактично лише інтерфейс чату. В інших, таких як просунуті промислові та інженерні додатки, він значно важливіший і критичніший. Це визначаючий рівень у ланцюзі цінності. Коли доступ до певної моделі останнього покоління більше не буде гарантованим, роль рівня додатків буде полягати у уніфікації результатів по моделях та підтриманні вартості токенів під контролем.

Конкретно, якщо я хочу виконати складне, критичне завдання, chẳng hạn як переробка我的 виробничої ланцюга для нового літака, я попрошу потужну модель останнього покоління допомогти мені. Модель може бути здатна самостійно вирішити, як це зробити, створити інструмент планування для мене та передати результат усіх моїх команд. Однак, якщо я перейду на іншу модель, більш потужну, дешевшу або від іншого постачальника, я можу втратити продуктивність або втратити узгодженість у своєму кінцевому виході. У багатьох практичних випадках у корпоративних налаштуваннях ця непередбачуваність не прийнятна. Це саме місце, де роль рівня додатків критична: замість того, щоб дозволити моделі працювати в відкритому просторі та покладатися на її сирі можливості для отримання результату, рівень додатків визначає чітку картину, обмежену сукупність доступних дій та визначений периметр, всередині якого вона може працювати. Модель більше не проситься вирішити все з нуля, їй надається добре визначена картинка, яка значно підвищить ймовірність того, що будь-яка модель буде працювати добре.

Що стосується вартості, моя модель також може вирішити виконати дуже низькорівневі дії для досягнення своєї мети. Вона може переписати алгоритм планування з нуля, створити новий інтерфейс для мене, щоб візуалізувати свою роботу, або навіть розробити новий оптимізаційний розв’язувач. Однак це може бути неймовірно токенно-дорого, тоді як хороші керівництва або попередньо створені інструменти можуть допомогти моделі досягти того ж результату з меншою кількістю токенів. Це саме роль рівня додатків. Добра новина полягає в тому, що моделі схильні бути ледачими та шукати коротші шляхи, тому нам, можливо, не потрібно буде обмежувати їх надто сильно, якщо вони матимуть доступ до правильного набору навичок, інструментів та обчислювальних ресурсів.

У короткому, добрий рівень додатків забезпечить чіткі навички, інструменти та керівництва для моделі, щоб працювати надійно та ефективно за витратами. Крім того до покращення продуктивності та контролю вартості токенів, це також означає зменшення залежності від конкретної моделі. якщо ви вкладаєте свій інтелект у рівень додатків, а не в саму модель, базова модель стає взаємозамінною. У багатьох випадках це може бути тим, що робить різницю між експериментальним та масштабованим корпоративним штучним інтелектом.

Виклик до дії для корпоративних лідерів

По всім галузям ми щодня зустрічаємося з корпоративними лідерами, які працюють над створенням свого штучного інтелекту. Більшість компаній починають з однієї або декількох постачальників моделей останнього покоління для створення необхідного їм рівня моделей у своєму штучному інтелекті. Для рівня додатків вони або покладаються на саморобні інструменти, повністю придбані можливості або змішану комбінацію.

Заборона компанії Anthropic була нагадуванням про те, що цей штучний інтелект може бути порушений за одну ніч. Архітектури компаній повинні бути готові до того, коли це трапиться знову. Щоб бути готовими, компанії повинні розглянути швидкість розгортання, але також створити рішення, які пом’якшать вплив змін моделей, а також зростання вартості токенів. Це не легкий шлях, але моя порада була б:

• Інвестуйте у свій додаток стратегічно та рано. Компанії, які пропускають потяг, завжди матимуть прогалину порівняно з ранніми приймають
• Зробіть агностичність моделі принципом дизайну, а не обходом
• Вартість зміни моделі не повинна бути екзистенційним питанням для ваших операцій
• Партнеруйте з спеціалізованими компаніями, які можуть порівнювати моделі, перевіряти продуктивність у різних налаштуваннях та допомогти забезпечити довгострокові гарантії продуктивності.

Компанії, які виграють гру у наступній фазі корпоративного штучного інтелекту, не обов’язково будуть тими, які мають доступ до найкращих моделей, а тими, які збудують правильний рівень навколо них.