У 2025 році пілоти GenAI стануть вбивчими додатками, які трансформують бізнес та управління даними

Кожна технологічна революція має визначальний момент, коли певний випадок використання технології призводить до її широкого вжитку. Такий час настав для генеративного штучного інтелекту (GenAI) з швидким поширенням пілотів.

GenAI як технологія зробила значні кроки за останні кілька років. Однак, незважаючи на всі заголовки та гіп, її впровадження компаніями все ще перебуває на ранніх стадіях. Опитування 2024 Gartner CIO and Tech Executive Survey ставить рівень впровадження лише на 9% серед опитаних, тоді як 34% заявили, що планують зробити це протягом наступного року. Нещодавнє опитування компанії Enterprise Strategy Group ставить рівень впровадження GenAI на 30%. Однак усі опитування сходяться до одного висновку щодо 2025 року.

Прогноз 1. Більшість підприємств будуть використовувати GenAI у виробництві до кінця 2025 року

Впровадження GenAI вважається критично важливим для поліпшення продуктивності та прибутковості і стало одним із головних пріоритетів для більшості підприємств. Однак це означає, що компанії повинні подолати виклики, з якими вони стикалися раніше при реалізації проєктів GenAI, включаючи:

• Погана якість даних: GenAI виявляється лише такою ж хорошою, як і дані, які вона використовує, і багато компаній все ще не довіряють своїм даним. Якість даних разом з неповними або упередженими даними були проблемами, які призводили до поганих результатів.
• Вартість GenAI: навчання моделей GenAI, таких як ChatGPT, було здійснено в основному лише найкращими командами GenAI і коштувало мільйони в обчислювальній потужності. Тому люди використовували техніку, звану генерацією з підтримкою пошуку (RAG). Однак навіть з RAG швидко стало дорого доступ до даних і підготовка експертів, необхідних для успіху.
• Обмежені навички: багато з перших розгортань GenAI вимагали багато кодування від невеликої групи експертів у сфері GenAI. Хоча ця група зростає, все ще існує реальна нестача.
• Галюцинації: GenAI не досконала. Вона може галюцинувати і давати неправильні відповіді, коли вважає, що вона права. Вам потрібно мати стратегію для запобігання неправильним відповідям, які можуть вплинути на ваш бізнес.
• Безпека даних: GenAI викрила дані неправильним людям, оскільки вони були використані для навчання, налаштування або RAG. Вам потрібно реалізувати заходи безпеки для захисту проти цих витоків.

На щастя, галузь програмного забезпечення займається цими викликами протягом останніх кількох років. 2025 рік виглядає як рік, коли кілька з цих викликів починають вирішуватися, і GenAI стає масовим.

Прогноз 2. Модульні пілоти RAG стануть найпоширенішим використанням GenAI

Найпоширенішим використанням GenAI є створення помічників або пілотів, які допомагають людям знайти інформацію швидше. Пілоти зазвичай будуються за допомогою трубопроводів RAG. RAG – це шлях. Це найпоширеніший спосіб використання GenAI. Оскільки великі мовичні моделі (LLM) є загальними моделями, які не мають усіх або навіть найсвіжішої інформації, вам потрібно доповнити запити, інакше відомі як підказки, щоб отримати більш точну відповідь.
Пілоти допомагають працівникам знань бути більш продуктивними, звертатися до раніше невідповідних питань і надавати експертні рекомендації, а іноді також виконувати рутинні завдання. Можливо, найуспішніший випадок використання пілотів на сьогоднішній день – це те, як вони допомагають розробникам програмного забезпечення кодувати або модернізувати спадковий код.

Однак пілоти повинні мати більший вплив, коли їх використовують поза межами ІТ. Приклади включають:

• У сфері обслуговування клієнтів пілоти можуть прийняти запит на підтримку і або передати його людині для втручання, або надати рішення для простих запитів, таких як скидування пароля або доступ до облікового запису, що призводить до вищого рівня задоволеності клієнтів.
• У виробництві пілоти можуть допомогти технікам діагностувати та рекомендувати конкретні дії або ремонти для складного обладнання, зменшуючи час простою.
• У сфері охорони здоров’я клініцисти можуть використовувати пілоти для доступу до історії пацієнта та відповідних досліджень і допомагати у діагностуванні та клінічному лікуванні, що покращує ефективність та клінічні результати.

Трубопроводи RAG здебільшого працювали однаково. Перший крок – завантаження бази знань у векторну базу даних. Кожного разу, коли людина ставить питання, трубопровід GenAI RAG викликається. Він перепроектовує питання у підказку, запитує векторну базу даних шляхом кодування підказки для пошуку найбільш відповідної інформації, викликає LLM з підказкою, використовуючи отриману інформацію як контекст, оцінює та форматує результати та відображає їх користувачеві.

Однак виявилося, що ви не можете підтримувати всі пілоти однаково добре за допомогою одного трубопроводу RAG. Тому RAG еволюціонував у більш модульну архітектуру під назвою модульний RAG, де ви можете використовувати різні модулі для кожного з багатьох етапів, що включають:

• Індексування, включаючи фрагментацію даних та організацію
• До-пошуку, включаючи інженерію запитів (підказок) та оптимізацію
• Пошук з налаштуванням витягувача та іншими техніками
• Після-пошуку перезначення та вибір
• Генерація з налаштуванням генератора, використанням та порівнянням декількох LLM та верифікацією
• Оркестрація, яка керує цим процесом та робить його ітеративним для отримання найкращих результатів

Вам потрібно реалізувати модульну архітектуру RAG для підтримки кількох пілотів.

Прогноз 3. Інструменти GenAI без коду/з низьким кодом стануть основним засобом

До цього моменту ви, можливо, розумієте, що GenAI RAG дуже складний і швидко змінюється. Це не лише те, що нові найкращі практики постійно з’являються. Усе технологічне забезпечення, яке бере участь у трубопроводах GenAI, змінюється так швидко, що вам доведеться замінити деякі з них або підтримувати кілька. Крім того, GenAI не лише про модульний RAG. Доповнення до навчання з підтримкою пошуку (RAFT) та повне навчання моделей стають ефективними з точки зору витрат. Ваша архітектура повинна підтримувати всі ці зміни та ховати складність від ваших інженерів.
На щастя, найкращі інструменти GenAI без коду/з низьким кодом забезпечують цю архітектуру. Вони постійно додають підтримку для провідних джерел даних, векторних баз даних та LLM, і роблять можливим створення модульних RAG або введення даних у LLM для налаштування чи навчання. Компанії успішно використовують ці інструменти для розгортання пілотів за допомогою своїх внутрішніх ресурсів.

Nexla не лише використовує GenAI для спрощення інтеграції. Вона включає модульну архітектуру трубопроводу RAG з просунутим фрагментуванням даних, інженерією запитів, перезначенням та вибором, підтримкою декількох LLM з ранжуванням результатів та вибором, оркестрацією та іншим – все це без кодування.

Прогноз 4. Лінія між пілотами та агентами зникне

Пілоти GenAI, такі як чат-боти, є агентами, які підтримують людей. У кінцевому підсумку люди приймають рішення про те, що робити з отриманими результатами. Однак агенти GenAI можуть повністю автоматизувати відповіді без участі людей. їх часто називають агентами або агентними ІІ.

Деякі люди розглядають це як два окремі підходи. Однак реальність складніша. Пілоти вже починають автоматизувати деякі базові завдання, необов’язково дозволяючи користувачам підтвердити дії та автоматизувати кроки, необхідні для їх завершення.

Очікуйте, що пілоти будуть еволюціонувати з часом у поєднання пілотів та агентів. Як і програми допомагають перепроектувати та оптимізувати бізнес-процеси, помічники повинні і можуть бути використані для автоматизації проміжних кроків завдань, які вони підтримують. Агенти на основі GenAI також повинні включати людей для обробки винятків або затвердження плану, створеного за допомогою LLM.

Прогноз 5. GenAI буде стимулювати впровадження тканин даних, продуктів даних та відкритих стандартів даних

GenAI очікується як найбільший драйвер змін в ІТ протягом наступних кількох років, оскільки ІТ повинна адаптуватися, щоб дозволити компаніям реалізувати повну вигоду від GenAI.

Як частина циклів гіпу Gartner для управління даними 2024 року, Gartner ідентифікував 3, і лише 3 технології як трансформаційні для управління даними та для організацій, які залежать від даних: тканини даних, продукти даних та відкриті формати таблиць. Всі 3 допомагають зробити дані значно більш доступними для використання з GenAI, оскільки вони роблять його легшим для використання цих нових наборів інструментів GenAI.

Nexla реалізувала архітектуру продукту даних, побудовану на тканині даних, з цієї причини. Тканина даних забезпечує уніфікований шар для керування всіма даними однаково, незалежно від відмінностей у форматах, швидкостях або протоколах доступу. Продукти даних створюються для підтримки конкретних потреб даних, таких як для RAG.

Наприклад, одна велика фінансова компанія впроваджує GenAI для покращення управління ризиками. Вони використовують Nexla для створення уніфікованої тканини даних. Nexla автоматично виявляє схему та генерує конектори та продукти даних. Компанія потім визначає продукти даних для конкретних метрик ризику, які агрегують, очищають та перетворюють дані у правильний формат як вхідні дані для реалізації агентів RAG для динамічного регулювання звітності. Nexla забезпечує контроль управління даними, включаючи походження даних та контроль доступу, для забезпечення відповідності нормативним вимогам. Наша платформа інтеграції для аналітики, операцій, B2B та GenAI реалізована на архітектурі тканини даних, де GenAI використовується для створення повторно використовуваних конекторів, продуктів даних та робочих процесів. Підтримка відкритих стандартів даних, таких як Apache Iceberg, робить його легшим для доступу до все більшої кількості даних.

Як керувати своїм шляхом до агентського ІІ

Як вам слід підготуватися до того, щоб зробити GenAI масовим у вашій компанії на основі цих прогнозів?
По-перше, якщо ви ще не зробили цього, почніть з вашого першого помічника GenAI RAG для ваших клієнтів чи працівників. Визначте важливий та відносно простий випадок використання, де у вас вже є правильна база знань для успіху.

По-друге, переконайтеся, що у вас є невелика команда експертів GenAI, які можуть допомогти встановити правильну модульну архітектуру RAG з правильними інструментами інтеграції для підтримки ваших перших проєктів. Не бійтеся оцінювати нових постачальників з інструментами без коду/з низьким кодом.

По-третє, почніть визначати ті найкращі практики керування даними, які вам потрібно буде успішно впровадити. Це не лише включає тканину даних та концепції, такі як продукти даних. Вам також потрібно керувати вашими даними для ІІ.

Час настав. 2025 рік – це рік, коли більшість досягне успіху. Не відставайте.