Как многоагентные модели LLM могут позволить моделям ИИ более эффективно решать сложные задачи

Большинство организаций сегодня хотят использовать большие языковые модели (LLM) и реализовывать концепции доказательства и искусственного интеллекта (ИИ) для оптимизации затрат в своих бизнес-процессах и предоставления новых и творческих пользовательских опытов. Однако большинство этих реализаций являются «одноразовыми». В результате бизнес борется за получение возврата на инвестиции (ROI) во многих из этих случаев.

Генеративный ИИ (GenAI) обещает выйти за рамки программного обеспечения, такого как ко-пилот. Вместо того, чтобы просто предоставлять руководство и помощь эксперту в предметной области (SME), эти решения могут стать самодостаточными исполнителями действий, автономно выполняя действия. Чтобы решения GenAI достигли этой точки, организации должны предоставить им дополнительные знания и память, способность планировать и перепланировать, а также способность сотрудничать с другими агентами для выполнения действий.

Хотя одиночные модели подходят в некоторых сценариях, выступая в качестве ко-пилотов, агентские архитектуры открывают двери для LLM, чтобы стать активными компонентами автоматизации бизнес-процессов. Таким образом, предприятия должны рассмотреть возможность использования моделей LLM на основе многоагентных (LLM-MA) систем для оптимизации сложных бизнес-процессов и улучшения ROI.

Что такое система LLM-MA?

Итак, что такое система LLM-MA? Коротко говоря, эта новая парадигма в технологии ИИ описывает экосистему агентов ИИ, не изолированных сущностей, работающих вместе для решения сложных задач.

Решения должны приниматься в широком диапазоне контекстов, как и надежное принятие решений среди людей требует специализации. Системы LLM-MA строят эту же «коллективную интеллект» что и группа людей, через взаимодействие нескольких специализированных агентов для достижения общей цели. Другими словами, как бизнес объединяет разных экспертов из различных областей для решения одной проблемы, так и системы LLM-MA работают.

Бизнес-требования слишком велики для одной LLM. Однако, распределяя возможности среди специализированных агентов с уникальными навыками и знаниями, вместо того, чтобы одна LLM несла на себе все бремя, эти агенты могут выполнить задачи более эффективно и эффективно. Многоагентные LLM могут даже «проверить» работу друг друга через перекрестную верификацию, сокращая «галлюцинации» для максимальной производительности и точности.

В частности, системы LLM-MA используют метод «разделяй и властвуй», чтобы получить более тонкий контроль над другими аспектами сложных систем, оснащенных ИИ – заметно, лучшую настройку для конкретных наборов данных, выбор методов (включая до-трансформер ИИ) для лучшей объяснимости, управления, безопасности и надежности, а также использование не-ИИ инструментов в качестве части сложного решения. В рамках этого подхода «разделяй и властвуй» агенты выполняют действия и получают обратную связь от других агентов и данных, что позволяет采用 стратегию выполнения со временем.

Возможности и случаи использования систем LLM-MA

Системы LLM-MA могут эффективно автоматизировать бизнес-процессы, просматривая структурированные и неструктурированные документы, генерируя код для запроса моделей данных и выполняя другие задачи по генерации контента. Компании могут использовать системы LLM-MA для нескольких случаев, включая разработку программного обеспечения, имитацию аппаратного обеспечения, разработку игр (в частности, разработку мира), научные и фармацевтические открытия, процессы управления капиталом, финансовую и торговую экономику и т. д.

Одним из заметных применений систем LLM-MA является автоматизация центров обслуживания/сервиса. В этом примере комбинация моделей и других программируемых акторов, использующих предварительно определенные рабочие процессы и процедуры, может автоматизировать взаимодействия с конечными пользователями и выполнить запрос на триаж через текст, голос или видео. Кроме того, эти системы могут найти наиболее оптимальный путь решения, используя процедурные и знания SME с персонализированными данными и вызывая агентов типа Retrieval Augmented Generation (RAG) и не-LLM.

В краткосрочной перспективе эта система не будет полностью автоматизирована – ошибки будут происходить, и будут необходимы люди в цикле. ИИ еще не готов воспроизвести человеческий опыт из-за сложности тестирования свободного разговора против, например, ответственных проблем ИИ. Однако ИИ может обучаться на тысячах исторических тикетов поддержки и обратных связей, чтобы автоматизировать значительную часть операций центров обслуживания/сервиса, повышая эффективность, сокращая время решения тикетов и увеличивая удовлетворенность клиентов.

Другим мощным применением многоагентных LLM является создание интерфейсов сотрудничества человека и ИИ для реальных разговоров, решающих задачи, которые ранее были невозможны. Интеллект разговора роя (CSI), например, является методом, который позволяет тысячам людей вести реальные разговоры. Конкретно, CSI позволяет небольшим группам диалоговать друг с другом, одновременно имея разные группы агентов, суммирующих нити разговора. Затем он способствует распространению контента по всему большему телу людей, наделяя человеческую координацию беспрецедентным масштабом.

Безопасность, ответственный ИИ и другие проблемы систем LLM-MA

Несмотря на интересные возможности систем LLM-MA, некоторые проблемы возникают при увеличении количества агентов и размера их пространства действий. Например, бизнесу необходимо решить проблему обычных «галлюцинаций», что потребует людей в цикле – назначенного лица должно быть ответственным за агентские системы, особенно те, которые имеют потенциальное критическое влияние, такое как автоматическое открытие лекарств.

Также будут проблемы с предвзятостью данных, что может привести к взаимодействию с предвзятостью. Кроме того, будущие системы LLM-MA, работающие на сотни агентов, потребуют более сложных архитектур, учитывая другие недостатки LLM, данные и операции машинного обучения.

Кроме того, организации должны решить проблемы безопасности и содействовать ответственной практике ИИ (RAI). Больше LLM и агентов увеличивает поверхность атаки для всех угроз ИИ. Компании должны разбить разные части своих систем LLM-MA на специализированных акторов, чтобы обеспечить более полный контроль над традиционными рисками LLM, включая безопасность и элементы RAI.

Кроме того, по мере того, как решения становятся более сложными, так же должны стать и рамки управления ИИ, чтобы обеспечить, что продукты ИИ являются надежными (т. е. прочными, подотчетными, контролируемыми и объяснимыми), резидентными (т. е. безопасными, защищенными, частными и эффективными) и ответственным (т. е. справедливыми, этическими, инклюзивными, устойчивыми и целенаправленными). Растущая сложность также приведет к ужесточению регулирования, что сделает еще более важным, чтобы безопасность и RAI были частью каждого бизнес-кейса и дизайна решения с самого начала, а также непрерывных обновлений политики, корпоративного обучения и образования, а также стратегий тестирования, оценки, верификации и проверки (TEVV).

Извлечение полной ценности из системы LLM-MA: соображения по данным

Чтобы бизнес мог извлечь полную ценность из системы LLM-MA, он должен признать, что LLM сами по себе обладают только общими знаниями в области. Однако LLM могут стать ценными продуктами ИИ, когда они полагаются на знания предметной области предприятия, которые обычно состоят из дифференцированных активов данных, корпоративной документации, знаний SME и информации, извлеченной из публичных источников данных.

Бизнес должен перейти от данных, ориентированных на отчетность, к ИИ-ориентированному, где источники данных объединяются, чтобы наделить ИИ полномочиями внутри экосистемы предприятия. Таким образом, способность компаний курировать и управлять высококачественными активами данных должна распространиться на новые типы данных. Кроме того, организации должны модернизировать свой подход к потреблению данных и информации, изменить свою операционную модель и ввести управление, которое объединяет данные, ИИ и RAI.

С точки зрения инструментов, GenAI может оказать дополнительную помощь в отношении данных. В частности, инструменты GenAI могут генерировать онтологии, создавать метаданные, извлекать сигналы данных, понимать сложные схемы данных, автоматизировать миграцию данных и выполнять преобразование данных. GenAI также может быть использован для улучшения качества данных и выступать в качестве специалистов по управлению, а также в качестве ко-пилотов или полуавтономных агентов. Уже многие организации используют GenAI, чтобы помочь демократизировать данные, как видно в «говори со своими данными» возможностях.

Непрерывное внедрение в эпоху быстрых изменений

LLM не добавляет ценности или достигает положительного ROI сама по себе, а как часть бизнес-ориентированных приложений. Проблема заключается в том, что, в отличие от прошлого, когда технологические возможности LLM были известны, сегодня новые возможности появляются каждую неделю и иногда каждый день, поддерживая новые бизнес-возможности. Кроме того, на фоне этого быстрого изменения находится постоянно меняющийся регуляторный и комплаенс-ландшафт, что делает способность адаптироваться быстро крайне важной для успеха.

Гибкость, необходимая для использования этих новых возможностей, требует от бизнеса изменить свой подход с изолированных решений на сотрудничество, содействуя высшему уровню адаптивности по технологиям, процессам и людям, а также реализуя надежное управление данными и ответственные инновации. В конечном итоге, компании, которые принимают эти новые парадигмы, будут лидерами следующей волны цифровой трансформации.