Чому всі компанії потребують графа знань у добу штучного інтелекту

Штучний інтелект суттєво прискорив розробку програмного забезпечення, проте він майже не змінив спосіб роботи програмних організацій. Ця невідповідність тихо стає найбільшим обмеженням для корпоративного штучного інтелекту.

Тривалий час інженерним командам були потрібні більше ресурсів, щоб впоратися з попитом. Сьогодні невеликі команди використовують штучний інтелект для генерації коду, тестування та прискорення шляху від ідеї до реалізації. Розробники явно відправляють код швидше, проте чи це завжди перекладується у кращі результати, залишається неясним.

Ця швидкість створює нову瓶ешку: податок на координацію. Штучний інтелект прискорив виконання значно швидше, ніж покращив спосіб координації роботи організацій. Обмін контекстом, пріоритезація, оперативне прийняття рішень, звітність про статус та міжфункціональна ув’язненість залишаються в основному ручними, навіть якщо розробка прискорюється.

Компанія Atlassian оцінює, що результатом цього розриву є витрати для компаній Fortune 500 у розмірі близько 161 мільярда доларів щорічно. Те ж дослідження показало, що хоча 89% керівників кажуть, що штучний інтелект прискорив роботу, лише 6% можуть вказати на вимірювані організації-широкі результати.

Швидші виходи не автоматично створюють розумнішу організацію. Лише 17% користувачів погоджуються, що агенти покращили співробітництво в їхній команді, що робить це найнижчою оцінкою впливу.

Відновлення контексту на кожному запиті – це великий податок

Хоча демонстрація процвітає на використанні чистих, відібраних джерел даних, виробничі середовища представляють собою виклик: двозначна, застаріла та суперечлива інформація, розкидана по відключених системах. Коли агент зіштовхується з цими пробілами, велика мова модель робить те, для чого вона була розроблена: вона передбачає наступну найбільш імовірну відповідь. Що виглядало як обґрунтування в контрольованій демонстрації, швидко стає впевненим здогадуванням з реальними виробничими даними.

Промисловість почала давати цій проблемі назву. “Інженерія контексту” виникла як дисципліна, спрямована на розробку інформації, відносин, управління та якості, що визначають, чи корпоративний штучний інтелект успішний. Обмежувальним фактором часто вже не є сама модель, а якість контексту, що оточує її.

Кожного разу, коли система штучного інтелекту відновлює контекст з нуля, вона сплачує податок. Відповіді повільні, витрати на токени збільшуються, а довіра підживлює, оскільки відповіді відрізняються залежно від того, які частини організаційної знань відновлюються. Два агенти штучного інтелекту можуть відповісти на одне й те ж питання по-різному, оскільки кожен збирає контекст з різного шматка організаційної знання.

Більшість організацій вже володіють знаннями, яких потребують їхні системи штучного інтелекту. Проблема полягає в тому, що ці знання роздрібнені по квиткам, репозиторіям, документації, розмовах та інструментам планування. В результаті кожна взаємодія починається з відновлення організаційного контексту, перш ніж модель може почати обґрунтування, повторюючи той же дорогий процес з кожним новим запитом.

Доступ не те ж саме, що й знання

Поширеним питанням є те, чи більші вікна контексту, кращий пошук чи покращений відбір розв’яжуть цю проблему.

Протоколи контексту моделі вирішують реальну проблему інтеграції, надаючи агентам стандартизований спосіб доступу до систем, де живе корпоративна інформація. Проте доступ не те ж саме, що й розуміння. Надання агенту доступу до десятка систем не пояснює, яке рішення переважає інше, чому вимога змінилася, чи документ ще авторитетний, чи як розмова з клієнтом в кінцевому підсумку вплинула на те, що було відправлено. Без структурованого, верифікованого шару логіки це просто надає десяток більше можливостей зустріти суперечливі деталі.

Більшість корпоративних систем штучного інтелекту все ще припускають, що контекст повинен бути зібраний з нуля кожен раз, коли хтось ставить питання. Такий підхід може відповісти на ізольовані питання, проте він бореться з підтримкою безперервного обґрунтування, необхідного для управління бізнесом. Керівники все ще витрачають години щотижня, збираючи відповіді на питання, які повинні вже існувати в організації:

• Що змінилося?
• Чому ця пріоритетність змінилася?
• Чи дорога все ще точна?
• Чи ми все ще розв’язуємо правильну проблему?

Ось де граф знань займає своє місце. Граф зберігає сутності та їхні відносини, надаючи основу для збереження організаційної пам’яті. У програмній організації ці сутності можуть включати клієнтів, функції, вимоги, рішення, квитки, репозиторії, запити на витяг та людей.

Натомість агент може слідувати зв’язкам від рішення до вимоги, яка його спровокувала, квитка, який його реалізував, запиту на витяг, який його змінив, та клієнтської зворотної зв’язку, яка пізніше поставила під сумнів його.

Графи знань виходять за рамки простого способу організації даних. Замість повторного відновлення контексту з відключених систем штучний інтелект може обґрунтовувати з безперервно еволюючого розуміння того, як організація насправді працює.

Результатом є штучний інтелект, який може обґрунтовувати з рішень, розмов, доказів, а не відновлювати це розуміння з нуля з кожним новим запитом.

Структура сама по собі недостатня

Будування графа один раз – це складно, а підтримання його точності ще складніше. У швидкозмінній організації квитки змінюються, плани зсуваються, код відправляється, відповідальність рухається, а клієнтська зворотна зв’язок змінює пріоритети. Це означає, що організаційна пам’ять повинна оновлюватися, коли реальність змінюється, та знову пов’язувати кожну зміну з її джерелом.

Хоча 82% розробників повідомляють, що штучний інтелект допомагає їм кодувати швидше, а 71% кажуть, що він покращує їхню здатність вирішувати складні проблеми, ця швидкість супроводжується певним обмеженням: 96% розробників не мають повної впевненості, що результатом є функціонально правильний код.

Кожен факт, який агент надає вам, повинен повертатися до його джерела: коміту, квитка, нитки. Якщо система штучного інтелекту каже лідеру, що реліз на правильному шляху, проте не може показати сигналів за цим висновком, досвідчений лідер повинен коливатися, чи діяти на основі цього.

Я бачив команди, які відмовилися від інструментів, які давали розумні відповіді, проте користувачі не могли верифікувати, як ці відповіді були досягнуті. Я також бачив команди, які продовжували використовувати менш складні системи, проте ці системи показували свою роботу. Упевнена підсумкова інформація без жодних підтверджень – це просто швидший спосіб бути неправильним, а коли інструмент спалить лідера безпідставною відповіддю, довіра не повертається. Пов’язування кожної заяви з її джерелом перетворює “довіряй мені” на “ось чому”.

Точність має значення з тієї ж причини. Коли система безперервно відстежує відносини між планом та реальністю, розрив між тим, що команда вирішила, та тим, що насправді відбулося, стає видимим зсувом, а не тихо поглинався у впевненій, проте застарілій відповіді. Це не периферійна проблема. Thoughtworks виділив кодовий зсув як особливу небезпеку для агентів штучного інтелекту. Це підкреслює потребу у верифікаційних циклах та механізмах зворотної зв’язку, які допомагають системам виявляти та виправляти відхилення, коли робота еволюціонує. Зсув, який організація може бачити, є корисною інформацією. Зсув, який залишається прихованим, – це те, як система штучного інтелекту починає вводити в оману людей, яким вона довіряється.

Що запитати перед вашим наступним проєктом агента

При оцінці корпоративної ініціативи агента я би почав з чотирьох питань:

• Чи підтримує система свою власну оптимізовану репрезентацію контексту з часом, чи просто надає штучному інтелекту доступ до існуючих джерел даних?
• Чи кожна відповідь повертається до конкретного джерела, такого як квиток чи документ?
• Чи система оновлює автоматично, коли інформація організації змінюється?
• Чи агент розуміє відносини між даними, а не просто має доступ до них?

Моделі основи продовжуватимуть покращуватися. Можливості обґрунтування стануть сильнішими, вікна контексту зростатимуть, а ці вдосконалення стануть дедалі більш доступними кожному. Що не буде комодитизованим, – це організаційне розуміння. Більше половини керівників повідомляють, що бачать мало чи жодної вигоди від штучного інтелекту за останній рік. Я би став на те, що більшість із них не мають шару контексту, який дозволяє цим моделям обґрунтовувати те, що організація вже знає.

Як програмне забезпечення стає суттєво легшим для створення, розуміння стає дефіцитним ресурсом. Ті, хто створює найбільшу вартість з штучного інтелекту, краще зберігають, зв’язуються з та безперервно вчаться з організаційних знань. Це різниця між штучним інтелектом, який здогадується, та штучним інтелектом, який знає.