Лидеры мнений
Как большие языковые модели (LLM) станут основой приложений будущего

Ключевые моментыАгенты используют продвинутые большие языковые модели, такие как GPT-4, для…
Показать больше
- Агенты используют продвинутые большие языковые модели, такие как GPT-4, для динамического планирования задач и автономного построения цепочек действий.
- Цепочки объединяют множественные вызовы языковых моделей с внешними данными, создавая детерминированные рабочие процессы приложений.
- Векторные представления (эмбеддинги) позволяют языковым моделям отвечать на запросы, используя контекст, извлечённый из векторных баз данных.
Генеративный ИИ и, в частности, его языковая версия – ChatGPT повсюду. Технология Больших Языковых Моделей (LLM) будет играть значительную роль в разработке будущих приложений. LLM очень хорошо понимают язык благодаря обширной предварительной подготовке, проведенной для базовых моделей на триллионах строк публичного текста, включая код. Методы, такие как дообучение с учителем и обучение с подкреплением на основе обратной связи от человека (RLHF), делают эти LLM еще более эффективными в ответах на конкретные вопросы и общении с пользователями. Когда мы переходим к следующей фазе приложений ИИ, работающих на LLM, следующие ключевые компоненты будут иметь решающее значение для этих приложений следующего поколения. Рисунок ниже показывает эту прогрессию, и когда вы перемещаетесь вверх по цепочке, вы строите больше интеллекта и автономии в ваших приложениях. Давайте рассмотрим эти различные уровни.

Вызовы LLM:
Это прямые вызовы моделей дополнения текста или диалога от поставщика LLM, такого как Azure OpenAI или Google PaLM или Amazon Bedrock. Эти вызовы имеют очень базовый запрос и в основном используют внутреннюю память LLM для формирования результата.
Пример: Запрос базовой модели, такой как «text-davinci», чтобы «рассказать шутку». Вы даете очень мало контекста, и модель полагается на свою внутреннюю предварительно обученную память, чтобы придумать ответ (выделено зеленым на рисунке ниже – используя Azure OpenAI).

Запросы:
Следующий уровень интеллекта заключается в добавлении все большего контекста в запросы. Существуют методы промпт-инжиниринга, которые можно применить к LLM, чтобы получать от них индивидуально адаптированные ответы. Например, при генерации электронного письма пользователю некоторый контекст о пользователе, прошлых покупках и моделях поведения может служить запросом для лучшей настройки электронного письма. Пользователи, знакомые с ChatGPT, знают разные методы запросов, такие как предоставление примеров, которые используются LLM для построения ответа. Запросы дополняют внутреннюю память LLM дополнительным контекстом. Пример ниже.

Эмбеддинги:
Эмбеддинги выводят промпты на следующий уровень: система ищет контекст в хранилище знаний, извлекает его и добавляет к промпту. Сначала необходимо сделать большой массив документов с неструктурированным текстом доступным для поиска: проиндексировать текст и заполнить векторную базу данных. Для этого используется модель эмбеддингов, например «ada» от OpenAI, которая преобразует фрагмент текста в n-мерный вектор. Эти векторные представления отражают контекст текста, поэтому эмбеддинги похожих предложений располагаются близко друг к другу в векторном пространстве. Пользовательский запрос также преобразуется в эмбеддинг, и полученный вектор сопоставляется с векторами в базе данных. Таким образом извлекаются 5 или 10 наиболее подходящих фрагментов текста, образующих контекст. Запрос и контекст передаются LLM, чтобы она сформулировала ответ естественным языком.
Цепочки:
Сегодня цепочки являются самой передовой и зрелой технологией, которая широко используется для построения приложений LLM. Цепочки детерминированы: вызовы LLM соединяются в последовательность, в которой результат одного вызова передается одной или нескольким следующим моделям. Например, мы могли бы иметь вызов LLM, который запрашивает базу данных SQL и получает список электронных адресов клиентов, а затем отправляет этот список в другой LLM, который будет генерировать персонализированные электронные письма клиентам. Эти цепочки LLM можно интегрировать в существующие потоки приложений, чтобы генерировать более ценные результаты. Используя цепочки, мы могли бы дополнить вызовы LLM внешними входными данными, такими как вызовы API и интеграция с графами знаний, чтобы обеспечить контекст. Кроме того, сегодня, когда доступно множество поставщиков LLM, таких как OpenAI, AWS Bedrock, Google PaLM, MosaicML и т. д., мы могли бы объединить вызовы LLM в цепочки. Для элементов цепи с ограниченным интеллектом можно использовать менее мощную LLM, такой как «gpt3.5-turbo», а для более сложных задач можно использовать «gpt4». Цепочки обеспечивают абстракцию для данных, приложений и вызовов LLM.
Агенты:
Агенты – это тема многих онлайн-дебатов, особенно в отношении искусственного общего интеллекта (ИОИ). Агенты используют передовой LLM, такой как «gpt4» или «PaLM2», для планирования задач, а не для использования предопределенных цепочек. Итак, теперь, когда есть запросы пользователей, на основе запроса агент решает, какой набор задач вызвать и динамически строит цепочку. Например, когда мы настраиваем агента с командой, такой как «уведомить клиентов, когда годовая процентная ставка по кредиту (APR) меняется из-за обновления государственного регулирования». Фреймворк агента делает вызов LLM, чтобы решить, какие шаги предпринять или какие цепочки построить. Здесь это будет включать вызов приложения, которое собирает данные с сайтов регулирующих органов и извлекает актуальную годовую процентную ставку (APR), затем вызов LLM выполняет поиск в базе данных и извлекает электронные адреса клиентов, которые затронуты, и, наконец, генерируется электронное письмо, чтобы уведомить всех.
Окончательные Мысли
LLM – это быстро развивающаяся технология, и лучшие модели и приложения запускаются каждую неделю. Переход от вызовов LLM к агентам — это движение по лестнице интеллектуальных возможностей, и когда мы перемещаемся вверх, мы строим сложные автономные приложения. Лучшие модели будут означать более эффективных агентов, и приложения следующего поколения будут построены на их основе. Время покажет, насколько продвинутыми будут следующие приложения и какие архитектурные шаблоны будут лежать в их основе.





![AI-generated image (GPT-2 + Photoshop [non-AI]) - a maintenance worker scrapes the word 'Relations' from the frosted glass door of an office labeled 'Human Relations', above newly painted 'Employee Relations', while an HR manager points toward a partially obscured seated industrial robot inside. A yellow-and-black border reads 'AI FANTASY INSIDE' and 'REALITY OUTSIDE'.](https://www.unite.ai/wp-content/uploads/2026/07/handbook-MAIN-400x240.jpg)
![AI-generated image (GPT-2 + Photoshop [non-AI]) - a maintenance worker scrapes the word 'Relations' from the frosted glass door of an office labeled 'Human Relations', above newly painted 'Employee Relations', while an HR manager points toward a partially obscured seated industrial robot inside. A yellow-and-black border reads 'AI FANTASY INSIDE' and 'REALITY OUTSIDE'.](https://www.unite.ai/wp-content/uploads/2026/07/handbook-MAIN-80x80.jpg)





