Перехід від можливостей штучного інтелекту до контролю над штучним інтелектом

Серія високопрофільних інцидентів, пов’язаних з провідними постачальниками штучного інтелекту, змусила бізнес запитати питання, яке раніше багато хто не серйозно розглядав. Що відбувається, коли технологія, навколо якої ви побудували свої операції, більше не повністю під вашим контролем?

Спочатку відбулося закриття Anthropic, яке було наказано урядом США з лише 90-хвилинним попередженням. Потім стався скандал із порушенням конфіденційності Grok Build. Нещодавно OpenAI визнала, що агент самостійно порушив Hugging Face, що викликало нові питання щодо управління, оскільки системи штучного інтелекту стають все більш потужними.

Кожен інцидент окремо є значимим. Разом вони вказують на щось більше. Вони нагадують нам, що штучний інтелект знаходиться в політичних системах, комерційних відносинах та регуляторних середовищах, над якими організації часто мають дуже мало впливу.

Поняття суверенітету штучного інтелекту та його визначення

Я помітив, що розмови про суверенітет штучного інтелекту змінилися за останні рік. Клієнти зазвичай запитували, де буде зберігатися їхній дані. Сьогодні вони набагато частіше запитують, хто насправді контролює системи, на яких працює їхній штучний інтелект, і що відбувається, якщо вони раптом втрачають доступ до них. Це складніше питання, оскільки суверенітет штучного інтелекту виходить за рамки географії.

У своєму ядрі суверенітет штучного інтелекту полягає у власності: можливість розгортати штучний інтелект без введення залежностей, які могли б загрожувати стійкості, безперервності або довгостроковій гнучкості, незалежно від того, де була розроблена модель. Одним зі способів пояснити це є порівняння агентів штучного інтелекту з працівниками. Вони все частіше стають цифровими членами робочої сили, беручи на себе завдання, які раніше виконувалися людьми. Якщо організація орендує цю робочу силу у одного постачальника штучного інтелекту, то вона також видаляє критичну частину своєї операційної здатності.

Це не означає, що кожна організація повинна володіти кожною частиною стеку штучного інтелекту. Електрична потужність і фізична інфраструктура знаходяться внизу, потім йде обчислювальна потужність, далі самі моделі та, нарешті, програми, що працюють зверху. Кожен шар може належати різній організації. На одному кінці спектру дані залишаються в країні, тоді як все інше контролюється в іншому місці. Далі по спектру моделі працюють локально, але на інфраструктурі, яку оперує хтось інший. Ще далі організації самі запускають моделі. На найбільш глибокому кінці вони контролюють інфраструктуру теж. Там, де організація вирішує розташовуватися на цьому спектрі, залежить від того, чого вона не може дозволити собі втратити.

Уряд, який виконує класифіковані завдання, природно потребує більшого контролю, ніж більшість комерційних підприємств. Лікарня не обов’язково повинна володіти центром даних, але їй потрібно мати впевненість у тому, що системи, які підтримують догляд за пацієнтами, не можуть раптом стати недоступними через рішення, прийняті третьою стороною тисячами миль віддалі.

Суверенітет штучного інтелекту повинен бути верифікованим

Чим більше організації говорять про суверенітет штучного інтелекту, тим важливіше стає розрізняти справжній суверенітет від хитрого маркетингу. Не кожен постачальник є прозорим щодо того, які шари стеку він насправді контролює, і якщо достатня кількість постачальників починає описувати свої продукти як суверенні, слово швидко може втратити свою цінність так само, як заяви про стійкість у інших галузях.

Саме тут з’являється концепція “суверенітету-відбілювання”. Рішення позиціонується як локально контрольоване, оскільки контракт є внутрішнім, команда підтримки базується в країні, а дані ніколи не покидають національних кордонів, тоді як інфраструктура під ним все ще експлуатується іноземним постачальником. Британська організація могла б придбати суверенні послуги штучного інтелекту у британського постачальника та все ж таки виявити, що системи, від яких вона залежить, в кінцевому підсумку розташовані на американській інфраструктурі.

Це не автоматично робить його неправильним вибором. Для багатьох організацій це може бути правильним балансом між вартістю, можливостями та контролем. Але це повинно бути свідомим рішенням.

Виїди оренди проти переваг власності

Легко зрозуміти, чому провідні постачальники штучного інтелекту США стали стандартом. Вони пропонували найбільш потужні моделі, вкладали великі інвестиції в інфраструктуру та постійно рухалися швидше за решту ринку. У поєднанні з зростаючими геополітичними проблемами щодо китайського штучного інтелекту вони стали природним вибором для організацій, які бажають розгортати штучний інтелект у великому масштабі.

Цей імпульс поширився далеко за межі перших приймачів. Навіть у високорегульованих галузях, де нова технологія зазвичай піддається більш ретельному вивченню, прийняття прискорилося. 75% фінансових послуг активно використовують штучний інтелект. Так само роблять 79% юридичних фахівців, тоді як 65% клініцистів кажуть, що їхнє використання інструментів штучного інтелекту, наданих організацією, збільшилося за останні рік. Для багатьох з цих організацій вибір постачальника США просто мав комерційний сенс.

Розмови стають більш нюансированими, оскільки штучний інтелект проникає глибше в щоденні операції. Вартість є частиною картини. Ціни на токени продовжують падати, але корпоративні витрати на штучний інтелект продовжують зростати, оскільки використання перевищує зниження цін, при цьому 93% організацій вже перевищили свої бюджети на штучний інтелект. Стійкість є ще одним фактором. Якщо зовнішній постачальник зазнає збою, змінить свої комерційні умови або зазнає державного втручання, організації, які виконують критичні завдання, мають мало контролю над результатом.

Володіння більшістю стеку штучного інтелекту змінює обидва рівня. Витрати стають більш передбачуваними, оскільки використання зростає, тоді як організації отримують більший контроль над тим, як працюють їхні системи, і набагато більший контроль над тим, що відбувається, коли обставини змінюються.

Чому хороша стратегія виходу вимагає правильного партнерства з постачальником

Суверенітет штучного інтелекту не є чимось, що організації можуть ввімкнути за одну ніч. Для регульованих підприємств переміщення завдань штучного інтелекту зазвичай займає три-чотири роки, і дуже мало цього часу витрачається на переміщення технологій. Більшість часу витрачається на управління, закупівлі та операційну роботу, необхідну для переміщення критичних процесів без порушення організації.

Саме тому планування повинно відбуватися ще до того, як хтось потребуватиме виходу з постачальника. Хоча 72% підприємств включають суверенітет штучного інтелекту у свої плани на 2026 рік, лише близько трьох із десяти мають детальну стратегію, бюджет або план міграції. Чітко видно бажання зменшити залежність, але набагато менше організацій пройшли через те, що це насправді означатиме, якщо їм доведеться зробити цей крок.

Це починається з розуміння яких завдань є найбільш важливими, яку вартість буде мати вихід і чи були перевірені плани міграції до того, як вони коли-небудь знадобляться. Цей процес також змінює те, як вони оцінюють постачальників. Три питання зазвичай кажуть вам більшість того, що вам потрібно знати. Чи можуть заяви про суверенітет бути незалежно верифіковані, коли обирає клієнт? Чи поширюється ця верифікація на кожен шар стеку, або лише на той, який названий у контракті? І якщо постачальник вирішить це зробити, чи може він отримати доступ до даних клієнта? Якщо відповідь на останнє питання є так, то те, що пропонується, є політикою, а не гарантією.