Криза пам’яті штучного інтелекту: ми будуємо цифрову темну епоху

Мільйони агентів штучного інтелекту вступають у виробничі системи. Практично жоден з них не може поділитися оперативним досвідом. Це пояснює, чому цей архітектурний вибір має значення — і що зміниться, якщо ми все робитимемо правильно.

О 14:06, клієнт розміщує онлайн-замовлення на ноутбук.

Агент перевірки звертається до своєї оперативної бази даних: чиста історія покупок, сума у нормальному діапазоні, адреса доставки раніше використовувалася, пристрій і місце знаходження узгоджуються з останніми успішними замовленнями. Все виглядає нормально. Агент затверджує замовлення.

У той же час агент поведінки обробляє дані клікстріму в компанії даних. З сесії він виводить закономерність: користувач прибув безпосередньо на глибоку URL-адресу замовлення без перегляду чи порівняння. Цей сигнал слабкий сам по собі, але це відомий попередник у сценаріях захоплення облікового запису, коли поєднується з іншими нормальними покупками.

Агент поведінки реєструє цю інтерпретацію як виведену знання для пізнішого аналізу та навчання моделі.

Агент перевірки ніколи не бачить цього. Не тому, що сигнал не був обчислений, і не тому, що він був проігнорований — а тому, що знання живе всередині системи, до якої агент перевірки не звертається під час авторизації.

Кожен агент поводиться правильно, виходячи з того, що він може бачити. Кожен записує свої висновки до системи, яку він володіє, і ці висновки залишаються невидимими для інших агентів, які працюють паралельно. Рішення локально правильні, але глобально неповні.

Ноутбук відправляється.

Через 36 годин сплата оскаржується. Розслідування підтверджує, що обліковий запис був скомпрометований раніше того дня. Нападник тримав транзакцію в межах нормальних меж, покладаючись на те, що єдине раннє попередження існувало як поведінкове знання, заблоковане зовні контексту рішення агента перевірки.

Недолік не полягав у відсутності даних, повільному обробленні чи поганій моделі. Це була ізоляція агента: знання було сформовано, але не поділено.

І це розкриває проблему, про яку майже ніхто не говорить. Ми будуємо архітектури, в яких агенти штучного інтелекту, які приймають рішення, не можуть отримати доступ до того, що інші агенти штучного інтелекту вже відкрили.

Проблема, яку вирішив друкарський верстат

До друкарського верстата знання було крихким. Коли вчений помирав, багато того, що він дізнався, помирало з ним. Математик у Лондоні міг провести десятиліття, відкриваючи принципи, які математик у Парижі незалежно відкривав би через п’ятдесят років. Прогрес був реальним, але місцевим, повільним і багаторазово перезапускався.

Друкарський верстат не зробив окремих людей розумнішими. Він зовнішньо проявив пам’ять. Знання перестало бути прив’язаним до одного розуму і почало зберігатися поза життям свого творця. Осягнення могли бути поділені, переглянуті та побудовані через покоління. Це дозволило прогресу накопичуватися.

Ми ризикуємо повторити помилку до друкарського верстата зі штучним інтелектом.

Більшість організацій тепер розгортають агентів штучного інтелекту у виробничих системах, з багатьма іншими, які активно експериментують у таких областях, як підтримка клієнтів, розробка програмного забезпечення, дослідження та виявлення шахрайства. Ці агенти зазвичай розгортаються як незалежні служби, узгоджені з сучасними архітектурами мікросервісів, кожна з яких має свої дані та оперативну межу. Навіть всередині однієї організації агенти виводять знання з власного виробничого досвіду, але рідко поділяються знаннями, які вони виробляють, з іншими агентами, які приймають пов’язані рішення.

В результаті оперативне знання залишається фрагментованим. Місцеві рішення можуть покращуватися, але досвід не накопичується в системі. Кожен прорив, який залишається заблокованим всередині одного агента, є проривом, який не може накопичуватися.

Цього разу обмежувальним фактором не є інтелект чи швидкість. Це пам’ять. Без способу для систем штучного інтелекту зовнішньо проявити та поділитися тим, що вони відкривають, прогрес перезапускається частіше, ніж накопичується.

Як виглядає спільна пам’ять насправді

Більші контекстні вікна можуть збагатити індивідуальне мислення, але вони не створюють спільного, тривалого досвіду між агентами.

Спільна пам’ять змінює результати не покращенням моделей, а зміною того, що агенти можуть бачити в момент прийняття рішення.

У системі з ізоляцією кожен агент поводиться правильно всередині своєї межі. Агент перевірки оцінює транзакційний ризик. Агент поведінки аналізує закономірності клікстріму. Кожен записує свої висновки до системи, яку він володіє, і ці висновки залишаються невидимими для інших агентів, які працюють паралельно. Рішення локально правильні, але глобально неповні.

З шаром спільної пам’яті ця межа зникає.

Коли агент поведінки обробляє сесію, він виводить слабкий, але значимий сигнал: навігаційний закономерність, пов’язану з ранніми спробами захоплення облікового запису. Замість зберігання цього знання тільки для офлайн-аналізу він записує сигнал до спільної пам’яті, пов’язаний з активною сесією.

Через моменти, коли агент перевірки оцінює покупку, він запитує цю саму пам’ять. Транзакція все ще виглядає нормально. Але тепер він бачить додатковий контекст: поведінкове попередження, яке інакше було б відсутнє. Ні один сигнал не є вирішальним сам по собі. Разом вони перетинають поріг для подальшої верифікації.

Нічого в агентах самих не змінилося. Ні одна модель не була повторно тренована. Ні один централізований контролер не втрутився. Різниця полягає в видимості: знання, сформоване одним агентом, стає доступним іншим, поки воно ще має значення.

Найважливіше, що це знання зберігається. Коли результат пізніше відомий — шахрайство чи легітимність — асоціація між сигналом і результатом реєструється. З часом система накопичує емпіричний запис про те, які слабкі індикатори схильні мати значення, і під яких умов. Майбутні рішення інформуються досвідом, який поширюється за межі однієї взаємодії чи агента.

Спільна пам’ять не є складом даних і не оперативною базою даних. Це низьколатентний субстрат для виведеного контексту: сигналів, інтерпретацій і асоціацій, які виживає після взаємодії, яка їх виробила, і залишаються запитуваними іншими агентами, які приймають пов’язані рішення.

Це саме так досвід накопичується — не всередині однієї моделі, а по всій системі в цілому.

Архітектурний компроміс за агентськими ізоляціями

Агентські ізоляції не є помилкою реалізації. Вони є передбачуваним результатом корпоративних архітектур, розроблених для іншого типу споживача.

У течение десятиліть виробничі системи розділяли робочі навантаження за функцією. Оперативні системи оптимізувалися для низьколатентних, послідовних транзакцій, тоді як аналітичні системи оптимізувалися для великомасштабної агрегації та історичної відкриття закономірностей (OLTP vs. OLAP). Це розділення відображало, як споживалося знання: аналітичні результати вироблялися для людей, а не машин, і тому очікувалося, що вони надходять асинхронно та поза критичним шляхом прийняття рішень.

Агенти штучного інтелекту успадковують це архітектурне розділення, але вони не підходять до нього.

Наслідком не є просто затримане знання, а структуальні сліпі плями. Інсайти, вироблені в аналітичних системах, відкриті після того, як рішення в реальному часі вже були прийняті. Сигнали, які могли б змінити результати, існують, але не можуть бути представлені в момент прийняття рішення, оскільки вони мешкають у системах, які не призначені для безперервного запиту автономними приймачами рішень.

Архітектура не пошкоджена. Вона не підходить вимогам автономних систем.

Відсутня дисципліна: інженерія контексту

Спільна пам’ять вводить проблему, яку більшість команд не готова вирішити: вирішення того, який досвід повинен зберігатися.

Системи штучного інтелекту генерують величезну кількість сирого досвіду — транзакцій, кліків, повідомлень, дій, результатів. Зберігання всього цього ні практичне, ні корисне. Без свідомого вибору спільна пам’ять стає шумом. Викликом є не збирання більше даних, а формування досвіду у контекст, який інші агенти можуть використовувати.

Це роль інженерії контексту.

Інженерія контексту — це дисципліна визначення того, які спостереження стають тривалими сигналами, як ці сигнали представляються, і коли вони повинні бути відкриті для інших агентів. Вона розташовується між сирими подіями та міркуванням агента, перетворюючи транзиторну діяльність у спільне, рішеннямістке розуміння.

На практиці це означає підняття закономірностей, індикаторів і умовних асоціацій, тоді як більшість сирого досвіду зникає. Слабкий сигнал або крайній випадок можуть не мати значення в ізоляції, але стають цінними, коли накопичуються та представляються в потрібний момент.

Інженерія контексту визначає, чи спільна пам’ять просто зберігає досвід — чи дозволяє йому накопичуватися.

Що відбувається, якщо ми все робитимемо правильно

Це не проблема майбутнього. Це архітектурне рішення, яке приймається — часто неявно — інфраструктурними командами сьогодні.

Дефолтний шлях — ізоляція. Агенти штучного інтелекту діють незалежно, спираючись тільки на свій досвід. Кожен приймає швидкі, локально правильні рішення, але інтелект платить. Ті самі крайні випадки повторюються, слабкі сигнали знову відкриваються, і невдачі повторюються з більшою швидкістю та об’ємом.

Альтернатива — шар спільної пам’яті.

Коли виведений контекст зберігається та є видимим у момент прийняття рішення, досвід припиняє зникати. Інсайти, відкриті один раз, залишаються доступними. Слабкі сигнали набувають значення через накопичення. Рішення покращуються не тому, що моделі змінюються, а тому, що агенти вже не приймають рішення в ізоляції.

Це не вимагає більших моделей, тренування в реальному часі чи централізованого контролю. Це вимагає лікування пам’яті як першої архітектурної шари — розробленої для низьколатентного доступу, збереження та спільної видимості.

Архівні дефолти швидко затверднуються. Системи, побудовані без спільної пам’яті, стають все більш важкими для модернізації, оскільки агенти поширюються. Вибір простий: будувати системи, які накопичують досвід — чи системи, які безперестанку перезапускаються.

Архітектурний шар — розроблений для низьколатентного доступу, збереження та спільної видимості. Архітектурні дефолти швидко затверднуються. Системи, побудовані без спільної пам’яті, стають все більш важкими для модернізації, оскільки агенти поширюються. Вибір простий: будувати системи, які накопичують досвід — чи системи, які безперестанку перезапускаються.