3 розгляди для безпечних та надійних агентів штучного інтелекту для підприємств

За даними Gartner, 30% проектів GenAI ймовірно буде припинено після доказу концепції до кінця 2025 року. Раннє впровадження GenAI показало, що більшість підприємств не мали готової інфраструктури даних та практик управління для ефективного розгортання штучного інтелекту. Перша хвиля продуктизації GenAI зустріла суттєві перешкоди, і багато організацій боролися за те, щоб перейти від стадії доказу концепції до досягнення значної бізнес-цінності.

Когда ми вступаємо у другу хвилю продуктизації генеративного штучного інтелекту, компанії розуміють, що успішне впровадження цих технологій вимагає більше, ніж просто підключення LLM до їхніх даних. Ключ до розблокування потенціалу штучного інтелекту лежить у трьох основних напрямках: підготовці даних та їхньої готовності до інтеграції зі штучним інтелектом; зміні практик управління даними для вирішення унікальних проблем, пов’язаних з GenAI; та розгортанні агентів штучного інтелекту таким чином, щоб безпечне та надійне використання було природним і інтуїтивним, щоб користувачам не доводилося вивчати спеціалізовані навички чи точні шаблони використання. Ці напрямки разом створюють міцну основу для безпечних та ефективних агентів штучного інтелекту в середовищі підприємств.

Підготовка даних для штучного інтелекту

Хоча структуровані дані можуть видатися організованими на перший погляд, перебуваючи в таблицях і колонках, LLM часто мають труднощі з розумінням та ефективною роботою зі структурованими даними. Це відбувається через те, що в більшості підприємств дані не мають семантично значущої маркування. Дані часто мають криптічні мітки, наприклад, “ID” без явного вказівки на те, чи це ідентифікатор клієнта, продукту чи транзакції. З структурованими даними також важко захопити належний контекст та відносини між різними взаємопов’язаними точками даних, як-от, як кроки у клієнтському життєвому циклі пов’язані між собою. Як і ми раніше маркували кожне зображення в застосунках комп’ютерного зору, щоб забезпечити значущу взаємодію, організації тепер повинні виконати складну задачу семантичного маркування своїх даних та документації відносин між усіма системами для забезпечення значущої взаємодії зі штучним інтелектом.

Крім того, дані розкидані по багатьох різних місцях – від традиційних серверів до різних хмарних сервісів та різних програмних застосунків. Ця мозаїка систем призводить до критичних проблем інтероперабельності та інтеграції, які стають ще більш проблематичними при впровадженні рішень штучного інтелекту.

Інша фундаментальна проблема полягає в несумісності бізнес-означень у різних системах та департаментах. Наприклад, команди клієнтського успіху можуть визначати “апгрейд” одним способом, тоді як команда продажів визначає його іншим способом. Коли ви підключаєте агент штучного інтелекту або чат-бота до цих систем і починаєте ставити питання, ви отримаєте різні відповіді, оскільки визначення даних не узгоджені. Ця відсутність узгодженості не є незначною незручністю – це критична бар’єр для впровадження надійних рішень штучного інтелекту.

Погана якість даних створює класичну ситуацію “сміття у, сміття вийшло“, яка стає експоненціально більш серйозною, коли інструменти штучного інтелекту розгортаються по всьому підприємству. Неправильні або неорганізовані дані впливають не тільки на один аналіз – вони поширюють неправильну інформацію всім, хто використовує систему через свої питання та взаємодії. Для створення довіри до систем штучного інтелекту для реальних бізнес-рішень підприємства повинні забезпечити, щоб їхні застосування штучного інтелекту мали дані, які є чистими, точними та зрозумілими в належному бізнес-контексті. Це представляє фундаментальну зміну того, як організації повинні думати про свої дані в епоху штучного інтелекту – де якість, узгодженість та семантична ясність стають так само важливими, як і дані самі по собі.

Зміцнення підходів до управління

Управління даними було основним напрямком для організацій в останні роки, головним чином зосередженим на управлінні та захисті даних, використовуваних в аналітиці. Компанії робили зусилля для картографування чутливої інформації, дотримання стандартів доступу, дотримання законів, таких як GDPR та CCPA, та виявлення особистих даних. Ці ініціативи є життєво важливими для створення даних, готових до використання штучним інтелектом. Однак, коли організації вводять агенти генеративного штучного інтелекту у свої робочі процеси, виклик управління розширюється за межі самих даних та охоплює весь досвід взаємодії користувача зі штучним інтелектом.

Тепер ми стикаємося з необхідністю управляти не тільки самими даними, але й процесом, за допомогою якого користувачі взаємодіють з цими даними через агенти штучного інтелекту. Існуючі законодавства, такі як Закон Європейського Союзу про штучний інтелект, та майбутні регуляції підкреслюють необхідність управління процесом отримання відповідей. Це означає забезпечення того, щоб агенти штучного інтелекту надавали прозорі, пояснювані та відстежувані відповіді. Коли користувачі отримують чорні скриньки – наприклад, запитуючи, “Скільки пацієнтів з грипом були госпіталізовані вчора?” і отримуючи тільки “50” без контексту – важко довіряти цій інформації для критичних рішень. Без знання походження даних, того, як вони були розраховано, або визначення термінів, таких як “госпіталізовані” та “вчора”, висновок штучного інтелекту втрачає надійність.

На відміну від взаємодій з документами, де користувачі можуть відстежувати відповіді до конкретних PDF-документів або політик для перевірки точності, взаємодії зі структурованими даними через агенти штучного інтелекту часто не мають цього рівня відстежуваності та пояснюваності. Для вирішення цих проблем організації повинні впровадити заходи управління, які не тільки захистять чутливі дані, але й зроблять досвід взаємодії зі штучним інтелектом керованим та надійним. Це включає встановлення потужних засобів контролю доступу для забезпечення того, щоб тільки авторизовані особи могли отримувати доступ до конкретної інформації, визначення чітких обов’язків володіння та відповідальності за дані, та забезпечення того, щоб агенти штучного інтелекту надавали пояснення та посилання на свої висновки. Впроваджуючи заходи управління для вирішення цих питань, підприємства можуть безпечно використовувати потенціал агентів штучного інтелекту, дотримуючись еволюції регуляцій та підтримуючи довіру користувачів.

Думання за межами інженерії запитів

Когда організації вводять агенти генеративного штучного інтелекту у спробі поліпшити доступність даних, інженерія запитів виникла як нова технічна бар’єр для бізнес-клієнтів. Хоча її називають перспективною кар’єрною стежкою, інженерія запитів є суттєво рекреацією тих самих бар’єрів, з якими ми боролися в даних аналітики. Створення ідеальних запитів не відрізняється від написання спеціалізованих запитів SQL або побудови фільтрів панелей – це зсув технічної експертизи з одного формату в інший, все ще вимагаючи спеціалізованих навичок, яких більшість бізнес-клієнтів не мають і не повинні мати.

Підприємства давно намагалися вирішити проблему доступності даних, навчаючи користувачів краще розуміти системи даних, створюючи документацію та розробляючи спеціалізовані ролі. Однак цей підхід є неправильним – ми просимо користувачів адаптуватися до даних, а не робимо дані адаптованими до користувачів. Інженерія запитів загрожує продовжити цей шаблон, створюючи ще один шар технічних посередників.

Справжня демократизація даних вимагає систем, які розуміють бізнес-мову, а не користувачів, які розуміють мову даних. Коли виконавці запитують про утримання клієнтів, їм не повинні потрібні ідеальні терміни або запити. Системи повинні розуміти намір, визнавати відповідні дані через різні мітки (чи то “відтік”, “утримання” чи “життєвий цикл клієнта”), та надавати контекстні відповіді. Це дозволяє бізнес-клієнтам зосередитися на рішеннях, а не на вивченні технічно досконалих запитів.

Висновок

Агенти штучного інтелекту принесуть важливі зміни до того, як підприємства працюють та приймають рішення, але вони також мають свої унікальні виклики, які потрібно вирішити до їхнього впровадження. З штучним інтелектом кожна помилка посилюється, коли нектехнічні користувачі мають самозастосовний доступ, роблячи важливим отримання основ правильно.

Організації, які успішно вирішують фундаментальні проблеми якості даних, семантичної узгодженості та управління, а також рухаються за межі обмежень інженерії запитів, будуть позиціонуватися для безпечної демократизації доступу до даних та прийняття рішень. Найкращий підхід полягає у створенні колаборативної середовища, яке сприяє командній роботі та узгодженості між людьми та машинами, а також між машинами. Це гарантує, що висновки, одержані за допомогою штучного інтелекту, будуть точними, безпечними та надійними, сприяючи організації-широкій культурі, яка керує, захищає та максимізує дані до їхнього повного потенціалу.