3 розгляди для безпечних та надійних агентів штучного інтелекту для підприємств

За даними Gartner, 30% проектів GenAI ймовірно будуть покинуті після доведення концепції до кінця 2025 року. Рання адаптація GenAI показала, що інфраструктура даних та практики управління даними більшості підприємств не були готові до ефективного розгортання штучного інтелекту. Перша хвиля продуктизації GenAI зустріла суттєві перешкоди, оскільки багато організацій боролися за те, щоб перейти від стадії доведення концепції до досягнення значної бізнес-цінності.

Когда ми вступаємо у другу хвилю продуктизації генеративного штучного інтелекту, компанії розуміють, що успішна реалізація цих технологій вимагає більше, ніж просто підключення LLM до їхніх даних. Ключ до розблокування потенціалу штучного інтелекту лежить у трьох основних стовпах: приведення даних у порядок та забезпечення їх готовності до інтеграції з штучним інтелектом; зміна практик управління даними для вирішення унікальних проблем, які вводить GenAI; та розгортання агентів штучного інтелекту таким чином, щоб безпечне та надійне використання було природним та інтуїтивним, щоб користувачам не доводилося вивчати спеціальні навички або точні моделі використання. Разом ці стовпи створюють міцну основу для безпечних та ефективних агентів штучного інтелекту в середовищі підприємств.

Надання належної підготовки вашим даним для штучного інтелекту

Хоча структуровані дані можуть здаватися організованими на перший погляд, бути впорядкованими у таблицях та колонках, LLM часто борються з тим, щоб зрозуміти та ефективно працювати з цими структурованими даними. Це відбувається через те, що в більшості підприємств дані не позначені семантично значущим чином. Дані часто мають криптичні позначення, наприклад, “ID” без явної вказівки на те, чи це ідентифікатор клієнта, продукту чи транзакції. З структурованими даними також складно захопити належний контекст та відносини між різними взаємопов’язаними пунктами даних, наприклад, як кроки у клієнтському шляху пов’язані один з одним. Як і ми потребували позначити кожне зображення у застосунках комп’ютерного зору, щоб забезпечити значущу взаємодію, організації тепер повинні виконати складне завдання семантичного позначення своїх даних та документації відносин по всіх системах для забезпечення значущої взаємодії з штучним інтелектом.

Крім того, дані розкидані по багатьох різних місцях – від традиційних серверів до різних хмарних служб та різних програмних застосунків. Ця лоскутна робота систем веде до критичних проблем інтероперабельності та інтеграції, які стають ще більш проблематичними при реалізації рішень штучного інтелекту.

Інша фундаментальна проблема полягає у несумісності бізнес-визначень по різних системах та департаментам. Наприклад, команди клієнтського успіху можуть визначати “апсел” одним способом, тоді як команда продажів визначає його іншим способом. Коли ви підключаєте агента штучного інтелекту або чат-бота до цих систем та починаєте ставити питання, ви отримаєте різні відповіді, оскільки визначення даних не узгоджені. Ця відсутність узгодженості не є незначною незручністю – це критична бар’єр для реалізації надійних рішень штучного інтелекту.

Погана якість даних створює класичну ситуацію “сміття у, сміття вийшло“, яка стає експоненціально більш серйозною, коли інструменти штучного інтелекту розгортаються по всьому підприємству. Неправильні або неорганізовані дані впливають не лише на один аналіз – вони поширюють неправильну інформацію всім, хто використовує систему через свої питання та взаємодію. Для того, щоб створити довіру до систем штучного інтелекту для реальних бізнес-рішень, підприємства повинні забезпечити, щоб їхні додатки штучного інтелекту мали дані, які є чистими, точними та зрозумілими у належному бізнес-контексті. Це представляє фундаментальну зміну у тому, як організації повинні думати про свої активи даних у добу штучного інтелекту – де якість, узгодженість та семантична ясність стають так само важливими, як і самі дані.

Зміцнення підходів до управління

Управління даними було основним напрямком для організацій протягом останніх років, головним чином зосереджуючись на управлінні та захисті даних, використовуваних у аналітиці. Компанії робили зусилля для картографування чутливої інформації, дотримання стандартів доступу, дотримання законів, таких як GDPR та CCPA, та виявлення особистих даних. Ці ініціативи є життєво важливими для створення даних, готових до штучного інтелекту. Однак, коли організації вводять генеративні агенти штучного інтелекту у свої робочі процеси, виклик управління розширюється за межі самих даних і охоплює весь досвід взаємодії користувача з штучним інтелектом.

Ми зараз стикаємося з імперативом управляти не лише самими даними, але й процесом, за допомогою якого користувачі взаємодіють з цими даними через агенти штучного інтелекту. Існуюче законодавство, наприклад, Закон про штучний інтелект Європейського Союзу, та майбутні регуляторні акти підкреслюють необхідність управління процесом отримання відповідей на питання. Це означає забезпечення того, щоб агенти штучного інтелекту надавали прозорі, пояснювані та відстежувані відповіді. Коли користувачі отримують відповіді у вигляді “чорної скриньки” – наприклад, запитуючи, “Скільки пацієнтів з грипом були госпіталізовані вчора?” і отримуючи лише “50” без контексту – важко довіряти цій інформації для критичних рішень. Без знання того, звідки походять дані, як вони були обчислені, або визначення термінів, таких як “госпіталізовані” та “вчора”, вивід штучного інтелекту втрачає надійність.

На відміну від взаємодії з документами, де користувачі можуть відстежувати відповіді назад до конкретних PDF-файлів або політик для перевірки точності, взаємодія з структурованими даними через агенти штучного інтелекту часто не має цього рівня відстежуваності та пояснюваності. Для вирішення цих питань організації повинні реалізувати заходи управління, які не лише захищають чутливі дані, але й роблять досвід взаємодії з штучним інтелектом керованим та надійним. Це включає встановлення потужних засобів контролю доступу для забезпечення того, щоб лише авторизовані особи могли отримати доступ до конкретної інформації, визначення чітких обов’язків власності та опіки даних, а також забезпечення того, щоб агенти штучного інтелекту надавали пояснення та посилання на свої виводи. Реалізуючи заходи управління для включення цих розглядов, підприємства можуть безпечно використовувати потенціал агентів штучного інтелекту, дотримуючись при цьому еволюціючих регуляцій та підтримуючи довіру користувачів.

Думання за межами інженерії запитів

Когда організації вводять генеративні агенти штучного інтелекту у спробі поліпшити доступність даних, інженерія запитів виникла як нова технічна бар’єр для бізнес-користувачів. Хоча вона розрекламована як перспективна кар’єрна стежка, інженерія запитів є суттєво рекреацією тих самих бар’єрів, з якими ми боролися у даних аналітики. Створення ідеальних запитів не відрізняється від написання спеціальних SQL-запитів або побудови фільтрів панелі керування – це перенесення технічної експертизи з однієї форми в іншу, все ще вимагаючи спеціальних навичок, яких більшість бізнес-користувачів не мають і не повинні мати.

Підприємства протягом тривалого часу намагалися вирішити проблему доступності даних, навчаючи користувачів краще розуміти системи даних, створюючи документацію та розвиваючи спеціалізовані ролі. Але цей підхід є зворотнім – ми просимо користувачів адаптуватися до даних, а не робимо дані адаптованими до користувачів. Інженерія запитів загрожує продовжити цей шаблон, створюючи ще один шар технічних посередників.

Справжня демократизація даних вимагає систем, які розуміють бізнес-мову, а не користувачів, які розуміють мову даних. Коли виконавці запитують про утримання клієнтів, їм не повинно бути потрібно ідеальне терміноввання або запити. Системи повинні розуміти намір, визнавати відповідні дані по різних мітках (чи то “відчуження”, “утримання”, або “життєвий цикл клієнта”), та надавати контекстні відповіді. Це дозволяє бізнес-користувачам зосередитися на рішеннях, а не на вивченні технічно досконалих запитів.

Висновок

Агенти штучного інтелекту принесуть важливі зміни у спосіб роботи підприємств та прийняття рішень, але вони мають свій унікальний набір викликів, які потрібно вирішити до їх розгортання. З штучним інтелектом кожна помилка посилюється, коли не-технічні користувачі мають самозапис доступу, роблячи це важливим для отримання правильної основи.

Організації, які успішно вирішують фундаментальні виклики якості даних, семантичної узгодженості та управління, а також рухаються за межі обмежень інженерії запитів, будуть розташовані для безпечної демократизації доступу до даних та прийняття рішень. Найкращий підхід полягає у створенні колаборативної середовища, яке сприяє командній роботі та узгодженості людських та машинних взаємодій. Це гарантує, що інсайти, одержані за допомогою штучного інтелекту, є точними, безпечними та надійними, заохочуючи організаційну культуру, яка керує, захищає та максимізує дані до їхнього повного потенціалу.