Радж Шукла, технический директор SymphonyAI – Серия интервью

Радж Шукла определяет технологическую дорожную карту и выполнение SymphonyAI, возглавляя инженерную команду, которая строит платформу Eureka Gen AI. С почти 20-летним опытом в области инженерии и исследований AI/ML, Шукла также имеет обширный опыт в области корпоративного AI SaaS, полученный им на руководящих инженерных должностях в Microsoft, где его успешная 14-летняя карьера включала руководство глобальными организациями AI-науки и инженерии в Azure, Dynamics 365, MSR и поисковых и рекламных подразделениях. Радж имеет обширный опыт в области AI/ML в поиске, рекламе и корпоративном AI и создал несколько успешных продуктов AI SaaS в потребительской и деловой сфере.

SymphonyAI – это компания по корпоративному AI, ориентированная на создание отраслевых приложений AI, которые обеспечивают немедленную бизнес-ценность. Вместо общих моделей она предоставляет вертикальные решения для розничной торговли, потребительских товаров, финансовых услуг, производства, средств массовой информации и информационных технологий, решая такие проблемы, как прогнозирование, предотвращение мошенничества, оптимизация операций и анализ. Ее продукты работают на платформе Eureka AI, которая сочетает прогностические, генеративные и агентные возможности в рабочих процессах, адаптированных для каждой отрасли. Основанная в 2017 году, компания выросла в глобального лидера в вертикальном AI, обслуживая тысячи корпоративных клиентов с помощью масштабируемых, ориентированных на домен решений.

Вы работали на переднем крае инноваций AI в Microsoft, Oracle и теперь SymphonyAI – что изначально привлекло вас в мир корпоративного AI, и как ваша точка зрения эволюционировала за годы?

Мое путешествие в мир корпоративного AI началось с основной убежденности, что компании должны реализовывать AI, который решает реальные бизнес-проблемы, а не просто создает AI ради AI. Я видел, что общие, широкие решения AI редко обеспечивают трансформирующую ценность. В SymphonyAI мы построили нашу корпоративную стратегию и культуру на разработке AI, который понимает конкретные отраслевые проблемы, от обнаружения финансовых преступлений до розничной торговли, ориентированной на покупателей, до подключения промышленных рабочих. Корпоративная готовность добавляет еще один целый измерение – успешный корпоративный AI требует не только отличной технологии, но и образцовой управления данными и архитектуры, сложного межфункционального сотрудничества и рабочих процессов, а также полной прозрачности и аудиторской проверки.

Какие конкретные недостатки корпорации сталкиваются с общими предварительно обученными моделями, особенно в высокорегулируемых секторах, таких как финансы или здравоохранение? 

Общие предварительно обученные модели не предназначены для высокорисковых, высокорегулируемых сред финансов, здравоохранения и розничной торговли. Общие предварительно обученные модели сталкиваются с критическими барьерами, включая необходимость основной отраслевой экспертизы для решения отраслевых нюансов и соблюдения строгих нормативных и требований соответствия, которые различаются в разных географиях. Что наиболее важно, они не могут обеспечить точность и прослеживаемость, которые корпорации требуют, где ошибки могут нанести вред потребителям или спровоцировать нарушения правил. Будь то соблюдение правил по борьбе с отмыванием денег или обеспечение того, чтобы магазин быстро удалил из продажи отозванные товары, вертикальная технология AI SymphonyAI специально разработана для отраслей, в которых мы работаем, и обучена на онтологиях этих отраслей, что позволяет им принимать или автоматизировать решения, которые напрямую создают бизнес-эффект.

Объединение предварительно обученных моделей с глубокой отраслевой логикой все чаще рассматривается как ключ к разблокировке корпоративной ROI – какие основные компоненты, такие как знания отрасли, выравнивание KPI и регуляторные ограничения, делают этот подход эффективным? 

Объединение предварительно обученных моделей с глубокой отраслевой логикой открывает ценность, создавая системы AI, которые понимают бизнес-контекст и операционные требования. Этот подход успешен, когда модели усиливаются отраслевыми онтологиями, выравниваются с корпоративными KPI, чтобы обеспечить, что выходные данные напрямую служат измеримым бизнес-целям, и оснащены регуляторными ограничениями, которые обеспечивают необходимые рамки соответствия и аудиторские следы. Когда эти элементы работают вместе, общий AI превращается в бизнес-критические решения, которые обеспечивают измеримые результаты, сохраняя при этом надежность и соответствие, которые корпорации требуют.

IBM недавно приобрела Seek AI и запустила Watsonx Labs в Нью-Йорке, сигнализируя о потенциальном стратегическом сдвиге в ландшафте AI – что это указывает на будущее слияний и поглощений и тенденций инвестиций в корпоративном AI? 

Приобретение IBM Seek AI и запуск Watsonx Labs является подтверждением фундаментального сдвига, который мы предвидели: ландшафт корпоративного AI сместился, сигнализируя о том, что следующая волна слияний и поглощений будет отдавать приоритет компаниям с предварительно обученными вертикальными моделями AI, которые приходят с глубокой отраслевой экспертизой, управлением и регуляторными ограничениями, а также результативными KPI. Стратегические приобретатели, такие как IBM, признают, что агенты AI, ориентированные на корпоративные данные, обеспечивают немедленную ROI, когда они понимают конкретные отраслевые рабочие процессы. Рынок консолидируется вокруг признания того, что общий интеллект требует вертикальной специализации для стимулирования корпоративной трансформации.

В какой момент основная модель эволюционирует в агента, специфичного для домена – какие архитектурные вехи сигнализируют об этом переходе? 

Основная модель не естественным образом созревает в агента-домена; ее необходимо инженерно создать в один. Нет прямого пути, где общая модель просто “становится умнее” и становится банковским следователем. Переход происходит только тогда, когда инженерные команды перестают полагаться на сырую интеллект модели и начинают строить управляемую архитектуру вокруг нее – конкретно, вводя контекстный слой (например, граф знаний) и слой оркестровки для того, чтобы заставить модель следовать бизнес-процессу, а не ее собственным вероятностным тенденциям.

Каковы основные проблемы в построении агентных рабочих процессов, которые являются одновременно устойчивыми и специфичными для вертикали, и как SymphonyAI решает их? 

Основные проблемы в построении устойчивых, вертикально-специфичных агентных рабочих процессов заключаются в поддержании надежности на протяжении сложных многоступенчатых процессов. SymphonyAI решает эти проблемы посредством своей многослойной архитектуры, которая встраивает отраслевую экспертизу непосредственно в агента, реализует обработку ошибок с восстановлением после сбоев и поддерживает постоянное управление контекстом на протяжении многосессионных корпоративных процессов. Это позволяет нашим агентам работать надежно в высокорисковых, регулируемых средах, где устойчивость означает поддержание точности, соответствия и операционной целостности.

SymphonyAI подчеркивает прочные основы данных, графы знаний и слои метаданных – почему эти возможности являются критическими для вертикальных агентов AI, и почему многие корпорации испытывают трудности в их реализации? 

Прочные основы данных и графы знаний являются важными для вертикальных агентов AI, чтобы иметь осмысленные источники, обеспечивать контекстуализированные рекомендации и оставаться в курсе изменений рынка, клиентов и процессов на всех уровнях корпорации. Большинство корпораций испытывают трудности в реализации этих возможностей, поскольку они требуют значительных первоначальных инвестиций в архитектуру данных, специализированную экспертизу онтологии и фундаментальные изменения существующих практик работы с данными, которые многие организации находят организационно и технически устрашающими. Вот где технологический партнер AI с глубоким опытом и знаниями в этой вертикали бесценен, включая его способность предварительно обучать AI на огромных объемах доменных данных и источников по всей многочисленной реальной клиентской базе в этой отрасли.

В реальных сценариях – таких как обнаружение финансовых преступлений или розничное прогнозирование – как SymphonyAI объединяет прогностический, генеративный и агентный AI в сплоченные “навыки”?

SymphonyAI объединяет прогностический, генеративный и агентный AI в сплоченные “навыки”, создавая интегрированные рабочие процессы, где каждый продукт AI решает конкретную бизнес-проблему. В обнаружении финансовых преступлений наши прогностические модели выявляют подозрительные закономерности транзакций, и генеративный AI создает подробные отчеты об расследованиях и оценках рисков. В то же время агентный AI оркестрирует весь рабочий процесс, автоматически эскалируя дела, координируя с командами по соблюдению правил и адаптируя стратегии расследования на основе результатов в реальном времени.

Ключевым моментом является то, что это не отдельные инструменты AI, а интегрированные возможности в рамках агентов, специфичных для домена, которые понимают бизнес-контекст, поддерживают состояние рабочего процесса и могут бесшовно переходить между прогностическим анализом, генерацией контента и автономными действиями для обеспечения полных бизнес-результатов, а не фрагментированных выходных данных AI.

Вы предупреждали, что многие корпоративные агенты AI могут споткнуться без прочности – какие ключевые характеристики хорошо сконструированного, устойчивого корпоративного агента AI? 

Хорошо сконструированные, построенные для проверки корпоративные агенты AI требуют нескольких критических характеристик. Хотя многие бизнесы быстро инвестируют в и развертывают агенты AI для улучшения эффективности, производительности и инноваций, они часто недооценивают необходимую основу для успеха. Некоторые важные аспекты, которые хорошо сконструированные агенты должны иметь для успеха, являются:

• Корпоративные агенты AI работают на корпоративных данных, которые часто разрознены и лишены надлежащего программного доступа, разрешений и контроля доступа. Агенты должны быть оснащены теми же аутентификационными и авторизационными положениями, что и сотрудники.
• Агенты также должны восстанавливаться после всех форм корпоративных системных сбоев, сбоев сети и нестабильных конечных точек. Слой оркестровки должен обеспечить долгосрочные, устойчивые рабочие процессы, которые большинство популярных оркестраторов LLM не обеспечивают.
• LLM будут неопределенными и неудачными в задачах. Восстановление после сбоев, повторные попытки и оптимальное открытие пути должны быть ключевыми функциями агентных систем.

Для технических директоров, рассматривающих возможность построения вертикальных платформ AI внутри компании или партнерства с нишевыми поставщиками, какой совет вы бы предложили? 

Построение корпоративных решений AI по нескольким отраслям, включая розничную торговлю/CPG, промышленность, финансовые услуги и многое другое, требует освоения как передовой технологии AI, так и глубокой отраслевой экспертизы одновременно для достижения реальной ценности от корпоративных решений AI. Наша платформа Eureka AI демонстрирует, как вертикально-специфичные источники данных, графы знаний, прогностические модели и агенты должны быть адаптированы для каждой отрасли, но это представляет собой годы исследовательских инвестиций и итераций с клиентами, которых большинство внутренних команд не имеют. Для бизнеса и технических директоров, рассматривающих возможность инвестирования в AI, я советую им выбирать решения, которые обеспечивают реальные результаты с первого дня. Вертикальные решения AI обеспечивают эти результаты, предоставляя пользователям данные, которые они могут затем использовать для создания бизнес-ценности.

Оглядываясь вперед, как вы представляете себе архитектуры корпоративного AI – станут ли федеративные вертикальные агенты, построенные на общих фундаментальных моделях, нормой?

Мы не увидим просто “федеративные” агенты; мы увидим управляемые агентные архитектуры. Хотя общие фундаментальные модели обеспечивают двигатель рассуждений, они по сути являются товарами. “Норма” для успешных корпораций будет заключаться в развертывании специализированных, вертикальных агентов, которые не просто “общаются” друг с другом, но строго оркестрированы через общий контекстный слой. Если у вас просто есть “федеративные” агенты, построенные на фундаментальных моделях, вы получите шумную, склонную к галлюцинациям систему – то, что мы называем “протекающей трубой” корпоративного AI. Чтобы сделать эту архитектуру масштабируемой в производстве, вам нужны три конкретных слоя, которые выходят за рамки простой федерации:

• Контекст (Граф знаний домена): Агенты должны делиться единой истиной, а не просто обмениваться вероятностями.
• Оркестровка: Вам нужен “главный архитектор”, который решает, когда использовать специализированный агент и когда оставить человека в цикле.
• Управление: Выходные данные должны быть юридически и операционно безопасными, прежде чем они покинут систему.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить SymphonyAI.