В 2025 году GenAI-копилоты станут убийственным приложением, которое изменит бизнес и управление данными

Каждая технологическая революция имеет определяющий момент, когда конкретный случай использования толкает технологию в широкое внедрение. Такой момент наступил для генеративного ИИ (GenAI) с быстрым распространением копилотов.

GenAI как технология сделала значительные шаги в прошлом году. Однако, несмотря на все заголовки и ажиотаж, его внедрение компаниями все еще находится на ранних стадиях. Опрос Gartner 2024 года о внедрении ИИ и GenAI в различных отраслях показывает, что только 9% опрошенных компаний уже используют GenAI, а 34% планируют сделать это в течение следующего года. Опрос Enterprise Strategy Group показывает, что 30% компаний уже используют GenAI. Но все опросы приходят к одному и тому же выводу о 2025 году.

Прогноз 1. Большинство предприятий будут использовать GenAI в производстве к концу 2025 года

Внедрение GenAI считается критически важным для улучшения производительности и прибыльности и стало приоритетом для большинства бизнесов. Однако это означает, что компании должны преодолеть проблемы, с которыми они столкнулись на данный момент в проектах GenAI, включая:

• Плохое качество данных: GenAI оказывается только так хорош, как данные, которые он использует, и многие компании все еще не доверяют своим данным. Качество данных, а также неполные или предвзятые данные были проблемами, которые привели к плохим результатам.
• Стоимость GenAI: обучение моделей GenAI, таких как ChatGPT, в основном осуществлялось только лучшими командами GenAI и стоило миллионы в вычислительной мощности. Поэтому люди используют технику, называемую retrieval augmented generation (RAG). Но даже с RAG, это быстро становится дорогим для доступа и подготовки данных и сбором экспертов, необходимых для успеха.
• Ограниченные навыки: многие ранние развертывания GenAI требовали много кодирования небольшой группой экспертов в GenAI. Хотя эта группа растет, все еще существует реальный дефицит.
• Галлюцинации: GenAI не идеален. Он может галлюцинировать и давать неправильные ответы, когда думает, что он прав. Вам нужна стратегия для предотвращения неправильных ответов, которые влияют на ваш бизнес.
• Безопасность данных: GenAI подверг данные неправильным людям, потому что они использовались для обучения, тонкой настройки или RAG. Вам нужно реализовать меры безопасности для защиты от этих утечек.

К счастью, отрасль программного обеспечения уже начала решать эти проблемы в течение прошлых нескольких лет. 2025 год выглядит как год, когда несколько из этих проблем начнут решаться, и GenAI станет мейнстримом.

Прогноз 2. Модульные RAG-копилоты станут наиболее распространенным использованием GenAI

Наиболее распространенным использованием GenAI является создание помощников, или копилотов, которые помогают людям находить информацию быстрее. Копилоты обычно строятся с использованием RAG-конвейеров. RAG – это путь. Это наиболее распространенный способ использования GenAI. Поскольку большие языковые модели (LLM) являются общими моделями, которые не имеют всех или даже наиболее recentных данных, вам нужно дополнить запросы, также известные как подсказки, чтобы получить более точный ответ.
Копилоты помогают работникам знаний быть более продуктивными, решать ранее неразрешимые вопросы и предоставлять экспертные рекомендации, а иногда также выполнять рутинные задачи. Возможно, наиболее успешный случай использования копилотов на данный момент – это то, как они помогают разработчикам программного обеспечения кодировать или модернизировать устаревший код.

Но копилоты, как ожидается, будут иметь более значительное влияние, когда они используются вне ИТ. Примеры включают:

• В службе поддержки клиентов копилоты могут получить запрос поддержки и либо эскалировать его к человеку для вмешательства, либо предоставить решение для простых запросов, таких как сброс пароля или доступ к учетной записи, в результате чего повышается удовлетворенность клиентов.
• В производстве копилоты могут помочь техникам диагностировать и рекомендовать конкретные действия или ремонты для сложного оборудования, снижая время простоя.
• В здравоохранении клиницисты могут использовать копилоты для доступа к истории пациента и соответствующим исследованиям и помогать руководить диагнозом и клинической помощью, что улучшает эффективность и клинические результаты.

RAG-конвейеры в основном работали одинаково. Первый шаг – загрузить базу знаний в векторную базу данных. Когда человек задает вопрос, вызывается конвейер GenAI RAG. Он переинженирует вопрос в подсказку, запрашивает векторную базу данных, кодируя подсказку, чтобы найти наиболее актуальную информацию, вызывает LLM с подсказкой, используя извлеченную информацию в качестве контекста, оценивает и форматирует результаты и отображает их пользователю.

Но оказывается, что вы не можете поддерживать все копилоты одинаково хорошо с помощью одного RAG-конвейера. Итак, RAG эволюционировал в более модульную архитектуру, называемую модульным RAG, где вы можете использовать разные модули для каждого из многих шагов, участвующих в этом процессе:

• Индексирование, включая фрагментацию и организацию данных
• Предварительное извлечение, включая инжиниринг и оптимизацию подсказок
• Извлечение с тонкой настройкой и другими техниками
• Повторное ранжирование и выбор после извлечения
• Генерация с тонкой настройкой, использованием и сравнением нескольких LLM, и проверкой
• Оркестрация, которая управляет этим процессом и делает его итеративным, чтобы получить лучшие результаты

Вам нужно реализовать модульную архитектуру RAG, чтобы поддержать несколько копилотов.

Прогноз 3. Инструменты GenAI без кода/с низким кодом станут нормой

Теперь вы, возможно, понимаете, что GenAI RAG очень сложен и быстро меняется. Это не только то, что новые лучшие практики постоянно появляются. Все технологии, участвующие в конвейерах GenAI, меняются так быстро, что вам нужно будет заменить некоторые из них или поддерживать несколько. Кроме того, GenAI не только о модульном RAG. Retrieval Augmented Fine Tuning (RAFT) и полное обучение моделей становятся экономически эффективными. Ваша архитектура должна поддерживать все эти изменения и скрывать сложность от ваших инженеров.
К счастью, лучшие инструменты GenAI без кода/с низким кодом предоставляют эту архитектуру. Они постоянно добавляют поддержку ведущих источников данных, векторных баз данных и LLM, и делают возможным построение модульных RAG или подачу данных в LLM для тонкой настройки или обучения. Компании успешно используют эти инструменты для развертывания копилотов с использованием своих внутренних ресурсов.

Nexla не только использует GenAI для упрощения интеграции. Она включает модульную архитектуру RAG-конвейера с продвинутой фрагментацией данных, инжинирингом подсказок, повторным ранжированием и выбором, поддержкой нескольких LLM с ранжированием и выбором результатов, оркестрацией и многим другим – все это настроено без кодирования.

Прогноз 4. Граница между копилотами и агентами будет стираться

GenAI-копилоты, такие как чат-боты, являются агентами, которые поддерживают людей. В конце концов, люди принимают решение о том, что делать с сгенерированными результатами. Но GenAI-агенты могут полностью автоматизировать ответы без участия людей. Эти агенты часто называются агентами или агентным ИИ.

Некоторые люди считают их двумя отдельными подходами. Но реальность более сложна. Копилоты уже начинают автоматизировать некоторые базовые задачи, опционально позволяя пользователям подтверждать действия и автоматизировать шаги, необходимые для их выполнения.

Ожидайте, что копилоты будут эволюционировать со временем в комбинацию копилотов и агентов. Как и приложения помогают переинжинирить и оптимизировать бизнес-процессы, помощники должны начать использоваться для автоматизации промежуточных шагов задач, которые они поддерживают. GenAI-агенты также должны включать людей для обработки исключений или утверждения плана, сгенерированного с помощью LLM.

Прогноз 5. GenAI будет стимулировать внедрение тканей данных, продуктов данных и открытых стандартов данных

GenAI, как ожидается, будет самым большим драйвером изменений в ИТ в течение следующих нескольких лет, поскольку ИТ нужно будет адаптироваться, чтобы компании могли реализовать полную выгоду от GenAI.

В рамках циклов ажиотажа Gartner по управлению данными 2024 года Gartner определил 3 технологии как трансформационные для управления данными и для организаций, которые от них зависят: ткани данных, продукты данных и открытые форматы таблиц. Все 3 помогают сделать данные намного более доступными для использования с GenAI, поскольку они делают его проще для данных быть использованными этими новыми наборами инструментов GenAI.

Nexla реализовала архитектуру продукта данных, построенную на ткани данных, по этой причине. Ткань данных предоставляет унифицированный слой для управления всеми данными одинаково, независимо от различий в форматах, скоростях или протоколах доступа. Продукты данных затем создаются для поддержки конкретных потребностей в данных, таких как для RAG.

Например, одна большая финансовая услуга реализует GenAI для улучшения управления рисками. Они используют Nexla для создания унифицированной ткани данных. Nexla автоматически обнаруживает схему и генерирует соединители и продукты данных. Компания затем определяет продукты данных для конкретных метрик риска, которые агрегируют, очищают и преобразуют данные в правильный формат для реализации RAG-агентов для динамического регулирования отчетности. Nexla предоставляет контроль управления данными, включая происхождение данных и контроль доступа, для обеспечения соблюдения нормативных требований. Наша платформа интеграции для аналитики, операций, B2B и GenAI реализована на архитектуре ткани данных, где GenAI используется для создания многоразовых соединителей, продуктов данных и рабочих процессов. Поддержка открытых стандартов данных, таких как Apache Iceberg, делает более легким доступ к большему количеству данных.

Как использовать копилоты для движения к агентному ИИ

Итак, как вы должны подготовиться к тому, чтобы сделать GenAI мейнстримом в вашей компании на основе этих прогнозов?
Во-первых, если вы еще не сделали этого, начните с вашего первого помощника GenAI RAG для ваших клиентов или сотрудников. Определите важный и относительно простой случай использования, где у вас уже есть правильная база знаний, чтобы добиться успеха.

Во-вторых, убедитесь, что у вас есть небольшая команда экспертов GenAI, которые могут помочь вам реализовать правильную модульную архитектуру RAG, с правильными инструментами интеграции, чтобы поддержать ваши первые проекты. Не бойтесь оценивать новых поставщиков с инструментами без кода/с низким кодом.

В-третьих, начните определять те лучшие практики управления данными, которые вам понадобятся, чтобы добиться успеха. Это не только включает в себя ткань данных и концепции, такие как продукты данных. Вам также нужно управлять вашими данными для ИИ.

Время сейчас. 2025 год – это год, когда большинство добьется успеха. Не отставайте.