Радж Шукла, CTO компанії SymphonyAI – Серія інтерв’ю

Радж Шукла керує технологічною дорожньою картою та виконанням компанії SymphonyAI, очолюючи інженерну команду, яка створює платформу Eureka Gen AI. З майже 20-річним досвідом у сфері інженерії та дослідження штучного інтелекту та машинного навчання, Шукла також має великий досвід у сфері корпоративного штучного інтелекту SaaS, здобутий під час його роботи на інженерних керівних посадах у компанії Microsoft, де його успішна 14-річна кар’єра включала керівництво глобальними організаціями штучного інтелекту та інженерії у сфері Azure, Dynamics 365, MSR та підрозділів пошуку та реклами. Радж має великий досвід у сфері штучного інтелекту та машинного навчання у сфері пошуку, реклами та корпоративного штучного інтелекту, а також створив кілька успішних продуктів SaaS у сфері штучного інтелекту для споживачів та бізнесу.

SymphonyAI – це корпоративна компанія штучного інтелекту, яка зосереджена на створенні галузевих застосунків штучного інтелекту, які забезпечують негайну бізнес-цінність. Замість загальних моделей компанія пропонує вертикальні рішення для роздрібної торгівлі, споживчих товарів, фінансових послуг, виробництва, ЗМІ та ІТ, які вирішують такі завдання, як прогнозування, запобігання шахрайству, оптимізація операцій та аналіз. Продукти компанії працюють на основі платформи Eureka AI, яка поєднує передбачувальні, генеративні та агентні можливості у робочих процесах, адаптованих до кожної галузі. Заснована у 2017 році, компанія виросла у глобального лідера у сфері вертикального штучного інтелекту, обслуговуючи тисячі корпоративних клієнтів з масштабованими, орієнтованими на галузь рішеннями.

Ви працювали на передовій лінії інновацій штучного інтелекту у компанії Microsoft, Oracle, а тепер SymphonyAI – що спочатку привело вас у світ корпоративного штучного інтелекту, і як змінився ваш погляд за ці роки?

Моя подорож у світі корпоративного штучного інтелекту почалася з основної віри, що компанії повинні впроваджувати штучний інтелект, який вирішує реальні бізнес-проблеми, а не просто створювати штучний інтелект заради самого штучного інтелекту. Я бачив, що загальні, широкі рішення штучного інтелекту рідко забезпечують трансформаційну цінність. У компанії SymphonyAI ми побудували свою корпоративну стратегію та культуру на розробці штучного інтелекту, який розуміє конкретні галузеві виклики, від виявлення фінансових злочинів до роздрібної торгівлі, орієнтованої на покупця, та індустріальної підтримки працівників. Корпоративна готовність додає ще один цілком інший вимір – успішний корпоративний штучний інтелект вимагає не тільки великої технології, але й прикладної даних керування та архітектури, складної міжфункціональної співпраці та робочих процесів, а також повної прозорості та аудиту.

Які конкретні недоліки зустрічають підприємства з загальними попередньо натренованими моделями, особливо у високорегульованих галузях, таких як фінанси чи охорона здоров’я? 

Загальні попередньо натреновані моделі не створені для високоризикових, високорегульованих середовищ фінансів, охорони здоров’я та роздрібної торгівлі. Загальні попередньо натреновані моделі зустрічають критичні бар’єри, включаючи необхідність основної галузевої експертизи для вирішення галузевих нюансів та виконання суворих нормативних та вимог регулювання, які відрізняються у різних географіях. Найважливіше, що вони не можуть забезпечити точність та прозорість, яких вимагають підприємства, де помилки можуть нашкодити споживачам або спровокувати порушення регулювання. Чи то виконання вимог щодо боротьби з відмиванням грошей, чи надання можливості роздрібній торгівлі швидко прибрати відкликані товари з центрів розподілу та полиць, технологія вертикального штучного інтелекту компанії SymphonyAI спеціально створена для галузей, у яких ми працюємо, і натренована на онтологіях цих галузей, що дозволяє їм приймати або автоматизувати рішення, які безпосередньо створюють бізнес-імпакт.

Поєднання попередньо натренованих моделей з глибокою галузевою логікою все частіше розглядається як ключ до розблокування корпоративного ROI – які є основними компонентами, такими як галузева інформація, узгодження KPI та нормативні периметри, які роблять цей підхід ефективним? 

Поєднання попередньо натренованих моделей з глибокою галузевою логікою розблоковує цінність, створюючи системи штучного інтелекту, які розуміють бізнес-контекст та операційні вимоги. Цей підхід успішний, коли моделі доповнюються галузевими онтологіями, узгоджуються з корпоративними KPI, щоб забезпечити, що виходи безпосередньо служать вимірним бізнес-цілям, та оснащені нормативними периметрами, які забезпечують необхідні нормативні рамках та аудиторські сліди. Коли ці елементи працюють разом, загальний штучний інтелект перетворюється на бізнес-критичні рішення, які забезпечують вимірювані результати, зберігаючи при цьому надійність та відповідність вимогам регулювання, яких вимагають підприємства.

IBM最近 придбала компанію Seek AI і запустила Watsonx Labs у Нью-Йорку, що свідчить про потенційний стратегічний зсув у ландшафті штучного інтелекту – що це означає для майбутнього M&A та інвестиційних тенденцій у сфері корпоративного штучного інтелекту? 

Придбання компанії Seek AI компанією IBM та запуск Watsonx Labs є підтвердженням фундаментального зсуву, якого ми очікували: ландшафт корпоративного штучного інтелекту змінився, сигналізуючи про те, що наступна хвиля M&A буде пріоритетом компаній з попередньо натренованими вертикальними моделями штучного інтелекту, які надходять з глибокою галузевою експертизою, керуванням та нормативними периметрами, а також результатно-орієнтованими KPI. Стратегічні покупці, такі як IBM, визнають, що агенти штучного інтелекту, орієнтовані на корпоративні дані, забезпечують негайний ROI, коли вони розуміють конкретні галузеві робочі процеси. Ринок консолідується навколо визнання того, що загальний інтелект потребує вертикальної спеціалізації для забезпечення корпоративної трансформації.

На якому етапі модель основи еволюціонує у галузевого агента – які архітектурні віхі сигналізують про цей перехід? 

Модель основи не природно дозріває у галузевого агента; її потрібно інженерно створити у такий. Не існує прямого шляху, яким загальна модель просто “стає розумнішою” та стає банківським слідчим. Перехід відбувається лише тоді, коли інженерні команди перестають покладатися на сиру інтелект модель та починають будувати керовану архітектуру навколо неї – конкретно впроваджуючи контекстний шар (як граф знань) та оркестраційний шар для примусу моделі слідувати бізнес-процесу, а не її власним ймовірнісним тенденціям.

Які є основні виклики у створенні агентських робочих процесів, які є як стійкими, так і вертикально-специфічними, і як компанія SymphonyAI вирішує їх? 

Основні виклики у створенні стійких, вертикально-специфічних агентських робочих процесів полягають у підтримці надійності у складних багаторівневих процесах. Компанія SymphonyAI вирішує ці виклики за допомогою багаторівневої архітектури, яка впроваджує галузеву експертизу безпосередньо у агента, реалізує обробку помилок з відновленням після збоїв та підтримує постійне керування контекстом у багаторівневих корпоративних процесах. Це дозволяє нашим агентам працювати надійно у високоризикових регульованих середовищах, де стійкість означає підтримання точності, відповідності вимогам регулювання та операційної цілісності.

Компанія SymphonyAI підкреслює важливість надійних даних, графів знань та метаданих – чому ці можливості є критичними для вертикальних агентів штучного інтелекту, і чому багато підприємств мають труднощі з їх впровадженням? 

Надійні дані та графи знань є критичними для вертикальних агентів штучного інтелекту, щоб мати значимі джерела, забезпечувати контекстуалізовані рекомендації та залишатися актуальними з ринковими, клієнтськими та процесними змінами на всіх рівнях підприємства. Більшість підприємств мають труднощі з впровадженням цих можливостей, оскільки вони вимагають значних попередніх інвестицій у дані архітектури, спеціалізованої онтологічної експертизи та фундаментальних змін існуючих даних практик, яких багато організацій вважають організаційно та технічно складними. Саме тут технологічний партнер штучного інтелекту з глибоким досвідом та знаннями у цій галузі є безцінним, включаючи можливість попереднього тренування штучного інтелекту на величезних обсягах галузевих даних та джерелах у багатьох реальних клієнтах цієї галузі.

У реальних сценаріях – таких як виявлення фінансових злочинів чи роздрібної торгівлі – як компанія SymphonyAI поєднує передбачувальний, генеративний та агентський штучний інтелект у єдині “навички”?

Компанія SymphonyAI поєднує передбачувальний, генеративний та агентський штучний інтелект у єдині “навички”, створюючи інтегровані робочі процеси, у яких кожен продукт штучного інтелекту вирішує конкретну бізнес-проблему. У виявленні фінансових злочинів наші передбачувальні моделі ідентифікують підозрілі транзакційні моделі, а генеративний штучний інтелект створює детальні розслідування звітів та оцінок ризику. У той же час агентський штучний інтелект оркеструє весь робочий процес, автоматично ескалує випадки, координує з командами відповідності та адаптує стратегії розслідування на основі реальних результатів.

Ключовим є те, що ці не окремі інструменти штучного інтелекту, а інтегровані можливості у галузевих агентах, які розуміють бізнес-контекст, підтримують стан робочого процесу та можуть безперебойно переходити між передбачувальним аналізом, генерацією контенту та автономними діями для забезпечення повних бізнес-результатів, а не фрагментованих виходів штучного інтелекту.

Ви попередили, що багато корпоративних агентів штучного інтелекту можуть спотикнутися без стійкості – які є ключовими характеристиками добре інженерного, стійкого корпоративного агента штучного інтелекту? 

Хорошо інженерні, створені для перевірки корпоративні агенти штучного інтелекту вимагають декількох критичних характеристик. Хоча багато підприємств швидко інвестують у та розгортають агентів штучного інтелекту для покращення ефективності, продуктивності та інновацій, вони часто недооцінюють попередню роботу, необхідну для успіху. Деякі життєво важливі аспекти, яких добре інженерні агенти потребують для успіху, включають:

• Корпоративні агенти штучного інтелекту працюють на корпоративних даних, які часто ізольовані та не мають належного програмного доступу, дозволів та контролю доступу. Агентам потрібно бути оснащеними тим же автентифікацією та авторизацією, що й працівники.
• Агентам також потрібно відновлюватися від усіх видів корпоративних системних збоїв, мережевих відключень та нестабільних кінців. Оркестраційний шар потрібно забезпечувати довготривалі, стійкі, безперебійні робочі процеси, яких більшість популярних оркестраторів LLM не мають.
• LLM будуть недетермінованими та будуть провалюватися у завданнях. Відновлення після збоїв, повторні спроби та оптимальне відкриття шляху потрібно зробити ключовими особливостями агентських систем.

Для CTO, які розглядають можливість побудови вертикальних платформ штучного інтелекту внутрішньо проти партнерства з нішевими постачальниками, яку пораду ви б дали? 

Створення корпоративних рішень штучного інтелекту у декількох галузях, включаючи роздрібну торгівлю/CPG, промисловість, фінансові послуги та іншу, вимагає одночасного освоєння як останньої технології штучного інтелекту, так і глибокої галузевої експертизи для досягнення реальної цінності від корпоративних рішень штучного інтелекту. Наша платформа Eureka AI демонструє, як вертикально-специфічні джерела даних, графи знань, передбачувальні моделі та агенти потрібно адаптувати до кожної галузі, але це представляє роки дослідницьких інвестицій та ітерації клієнтів, яких більшість внутрішніх команд не мають. Для підприємств та CTO, які хочуть інвестувати у штучний інтелект, я раджу їм вибирати рішення, які забезпечують реальні результати з першого дня. Вертикальні рішення штучного інтелекту забезпечують ці результати, надають користувачам дані, які вони можуть потім використовувати для створення бізнес-цінності.

Оглядаючи майбутнє, як ви бачите архітектуру корпоративного штучного інтелекту – чи стануть федерації вертикальних агентів, побудованих на спільних моделях основ, нормою?

Ми не побачимо лише “федерації” агентів; ми побачимо керовані агентські архітектури. Хоча спільні моделі основ забезпечують двигун розуміння, вони є по суті товаром. “Норма” для успішних підприємств буде розгортанням спеціалізованих, вертикальних агентів, які не просто “розмовляють” один з одним, а суворо оркестровані через спільний контекстний шар. Якщо у вас просто “федеративні” агенти, побудовані на моделях основ, ви отримуєте шумну, схильну до галюцинацій систему – те, що ми називаємо “протікаючим трубопроводом” корпоративного штучного інтелекту. Щоб зробити цю архітектуру масштабованою у виробництві, вам потрібно три конкретні шари, які виходять за рамки простої федерації:

• Контекст (Граф знань галузі): Агентам потрібно поділитися єдиною джерелом істини, а не просто обмінюватися ймовірностями.
• Оркестрація: Вам потрібно “головний архітектор”, який вирішує, коли використовувати спеціалізованого агента, а коли тримати людину у циклі.
• Керування: Вихід повинен бути юридично та операційно безпечним, перш ніж залишити систему.

Дякую за чудове інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати SymphonyAI.