Как многоагентные модели LLM могут позволить моделям ИИ более эффективно решать сложные задачи

Большинство организаций сегодня хотят использовать большие языковые модели (LLM) и реализовывать доказательства концепций и искусственных интеллектов (ИИ) для оптимизации затрат в своих бизнес-процессах и предоставления новых и творческих пользовательских опытов. Однако большинство этих реализаций являются “одноразовыми”. В результате компании испытывают трудности в получении возврата на инвестиции (ROI) во многих из этих случаев.

Генеративный ИИ (GenAI) обещает выйти за рамки программного обеспечения, такого как ко-пилот. Вместо того, чтобы просто предоставлять руководство и помощь эксперту в предметной области (SME), эти решения могут стать SME-акторами, автономно выполняя действия. Чтобы GenAI-решения достигли этой точки, организации должны предоставить им дополнительные знания и память, возможность планировать и повторно планировать, а также возможность сотрудничать с другими агентами для выполнения действий.

Хотя одиночные модели подходят в некоторых сценариях, выступая в качестве ко-пилотов, архитектуры агентов открывают дверь для LLM, чтобы стать активными компонентами автоматизации бизнес-процессов. Таким образом, предприятиям следует рассмотреть возможность использования систем LLM на основе многоагентных моделей (LLM-MA) для оптимизации сложных бизнес-процессов и улучшения ROI.

Что такое система LLM-MA?

Итак, что такое система LLM-MA? Вкратце, эта новая парадигма в технологии ИИ описывает экосистему ИИ-агентов, не изолированных сущностей, работающих вместе для решения сложных задач.

Решения должны приниматься в широком контексте, как и надежное принятие решений среди людей требует специализации. Системы LLM-MA строят это же “коллективное интеллект”, который группа людей имеет через взаимодействие нескольких специализированных агентов для достижения общей цели. Другими словами, как бизнес объединяет разных экспертов из различных областей для решения одной задачи, так и системы LLM-MA работают.

Бизнес-требования слишком велики для одной LLM. Однако, распределяя возможности среди специализированных агентов с уникальными навыками и знаниями вместо того, чтобы одна LLM несла все бремя, эти агенты могут выполнять задачи более эффективно и эффективно. Многоагентные LLM могут даже “проверять” работу друг друга через перекрестную верификацию, сокращая “галлюцинации” для максимальной производительности и точности.

В частности, системы LLM-MA используют метод “разделяй и властвуй”, чтобы получить более точный контроль над другими аспектами сложных систем, оснащенных ИИ, – в частности, лучшую тонкую настройку для конкретных наборов данных, выбор методов (включая до-трансформерский ИИ) для лучшей объяснимости, управления, безопасности и надежности, а также использование не-ИИ инструментов в качестве части сложного решения. В рамках этого подхода “разделяй и властвуй” агенты выполняют действия и получают обратную связь от других агентов и данных, что позволяет采用 стратегии выполнения со временем.

Возможности и случаи использования систем LLM-MA

Системы LLM-MA могут эффективно автоматизировать бизнес-процессы, просматривая структурированные и неструктурированные документы, генерируя код для запросов данных и выполняя другие задачи генерации контента. Компании могут использовать системы LLM-MA для различных случаев, включая разработку программного обеспечения, моделирование аппаратного обеспечения, разработку игр (в частности, создание мира), научные и фармацевтические открытия, процессы управления капиталом, финансовую и торговую экономику и т. д.

Одним из заметных применений систем LLM-MA является автоматизация центров обслуживания клиентов. В этом примере комбинация моделей и других программных акторов, использующих предварительно определенные рабочие процессы и процедуры, может автоматизировать взаимодействия с конечными пользователями и выполнять запросы на разрешение через текст, голос или видео. Кроме того, эти системы могут найти наиболее оптимальный путь разрешения, используя процедурные и SME-знания с персонализированными данными и вызывая Retrieval Augmented Generation (RAG)-тип и не-LLM-агентов.

В краткосрочной перспективе эта система не будет полностью автоматизирована – ошибки будут происходить, и люди должны быть в цикле. ИИ еще не готов повторить человеческий опыт из-за сложности тестирования свободного разговора, например, против ответственных проблем ИИ. Однако ИИ может обучаться на тысячах исторических тикетов поддержки и обратных связей, чтобы автоматизировать значительную часть операций центра обслуживания клиентов, увеличивая эффективность, снижая время решения тикетов и повышая удовлетворенность клиентов.

Еще одним мощным применением многоагентных LLM является создание интерфейсов сотрудничества между человеком и ИИ для реальных разговоров, решения задач, которые ранее были невозможны. Интеллект роя (CSI), например, является методом, который позволяет тысячам людей вести реальные разговоры. В частности, CSI позволяет небольшим группам вести диалог друг с другом, одновременно суммируя нити разговора различными группами агентов. Затем он способствует распространению контента по более крупной группе людей, позволяя человеческой координации в беспрецедентном масштабе.

Безопасность, ответственный ИИ и другие проблемы систем LLM-MA

Несмотря на интересные возможности систем LLM-MA, некоторые проблемы возникают по мере увеличения количества агентов и размера их пространства действий. Например, бизнесу придется решить проблему обычных “галлюцинаций”, что потребует участия людей – назначенного лица должно быть ответственным за агентские системы, особенно те, которые имеют потенциальное критическое влияние, например, автоматическое открытие лекарств.

Также будут проблемы с предвзятостью данных, которые могут привести к взаимодействию с предвзятостью. Аналогично, будущие системы LLM-MA с сотнями агентов потребуют более сложных архитектур, учитывая другие недостатки LLM, данные и операции машинного обучения.

Кроме того, организации должны решить проблемы безопасности и продвигать практики ответственного ИИ (RAI). Больше LLM и агентов увеличивают поверхность атаки для всех угроз ИИ. Компании должны разбить разные части своих систем LLM-MA на специализированных акторов, чтобы получить больше контроля над традиционными рисками LLM, включая безопасность и элементы RAI.

Кроме того, по мере того, как решения становятся более сложными, должны стать более сложными и рамки управления ИИ, чтобы обеспечить, что продукты ИИ являются надежными (т. е. прочными, подотчетными, контролируемыми и объяснимыми), устойчивыми (т. е. безопасными, безопасными, частными и эффективными) и ответственными (т. е. справедливыми, этическими, инклюзивными, устойчивыми и целенаправленными). Увеличивающаяся сложность также приведет к ужесточению регулирования, что делает еще более важным, чтобы безопасность и RAI были частью каждого бизнес-кейса и дизайна решения с самого начала, а также непрерывных политик, корпоративного обучения и образования и стратегий TEVV (тестирования, оценки, проверки и верификации).

Извлечение полной ценности из системы LLM-MA: соображения по данным

Чтобы бизнес смог извлечь полную ценность из системы LLM-MA, он должен признать, что LLM сами по себе обладают только общими знаниями в области. Однако LLM могут стать ценностными продуктами ИИ, когда они полагаются на знания предметной области предприятия, которые обычно состоят из дифференцированных активов данных, корпоративной документации, знаний SME и информации, полученной из публичных источников данных.

Бизнес должен перейти от данных, ориентированных на отчетность, к ИИ-ориентированным, где источники данных объединяются для того, чтобы ИИ стал актором в экосистеме предприятия. Таким образом, способность компаний курировать и управлять высококачественными активами данных должна распространиться на новые типы данных. Аналогично, организации должны модернизировать свой подход к потреблению данных и информации, изменить свою операционную модель и ввести управление, которое объединяет данные, ИИ и RAI.

С точки зрения инструментов GenAI может предоставить дополнительную помощь в отношении данных. В частности, инструменты GenAI могут генерировать онтологии, создавать метаданные, извлекать сигналы данных, понимать сложные схемы данных, автоматизировать миграцию данных и выполнять преобразование данных. GenAI также может быть использован для улучшения качества данных и выступать в качестве специалистов по управлению, а также ко-пилотов или полуавтономных агентов. Уже многие организации используют GenAI, чтобы помочь демократизировать данные, как видно в функциях “говори со своими данными”.

Непрерывное внедрение в эпоху быстрых изменений

LLM не добавляет ценности или достигает положительного ROI сама по себе, а как часть бизнес-ориентированных приложений. Вызов заключается в том, что, в отличие от прошлого, когда технологические возможности LLM были несколько известны, сегодня новые возможности появляются каждую неделю и иногда каждый день, поддерживая новые бизнес-возможности. На фоне этого быстрого изменения существует постоянно меняющийся нормативный и соответствующий ландшафт, что делает способность быстро адаптироваться крайне важной для успеха.

Гибкость, необходимая для использования этих новых возможностей, требует, чтобы бизнес прошел через сдвиг парадигмы от изоляции к сотрудничеству, продвигая самый высокий уровень адаптивности в технологиях, процессах и людях, а также реализуя прочное управление данными и ответственные инновации. В конечном итоге компании, которые принимают эти новые парадигмы, возглавят следующую волну цифровой трансформации.