Раві Боммаканті, CTO компанії App Orchid – Серія інтерв’ю

Раві Боммаканті, головний технічний директор компанії App Orchid, очолює місію компанії з допомогою підприємств оперціоналізувати штучний інтелект у додатках та процесах прийняття рішень. Флагманський продукт компанії App Orchid, Easy Answers, дозволяє користувачам взаємодіяти з даними за допомогою природної мови для генерації панелей управління, висновків та рекомендацій, що використовують штучний інтелект.

Платформа інтегрує структуровані та неструктуровані дані, включаючи дані в режимі реального часу та знання працівників, у передбачувальну тканину даних, яка підтримує стратегічні та оперативні рішення. За допомогою технології великих даних в пам’яті та зручного інтерфейсу, App Orchid спрощує впровадження штучного інтелекту завдяки швидкій розгортці, низькій вартості впровадження та мінімальному порушенню існуючих систем.

Розпочнімо з великої картини – що означає для вас “агентський штучний інтелект”, і як він відрізняється від традиційних систем штучного інтелекту?

Агентський штучний інтелект представляє фундаментальну зміну від статичної реалізації, характерної для традиційних систем штучного інтелекту, до динамічної оркестрації. Для мене це питання переходу від жорстких, попередньо запрограмованих систем до автономних, адаптивних розв’язувачів проблем, які можуть мислити, планувати та співпрацювати.

Що справді відрізняє агентський штучний інтелект, це його здатність використати розподілену природу знань та експертизи. Традиційний штучний інтелект часто працює в межах фіксованих меж, слідуючи попередньо визначеним шляхам. Системи агентського типу, однак, можуть розбити складні завдання, визначити спеціалізовані агенти для підзадач – потенційно відкриваючи та використовуючи їх через реєстри агентів – і оркеструвати їх взаємодію для синтезу розв’язку. Ця концепція реєстрів агентів дозволяє організаціям ефективно “орендувати” спеціалізовані можливості за потребою, віддзеркалюючи те, як команди людських експертів збираються, а не змушуючи будувати або володіти кожною функцією штучного інтелекту всередині.

Отже, замість монолітних систем, майбутнє полягає в створенні екосистем, де спеціалізовані агенти можуть бути динамічно складені та координовані – подібно до того, як кваліфікований менеджер проекту очолює команду – для ефективного вирішення складних та еволюційних бізнес-вызовів.

Як Google (GOOGL ) Agentspace прискорює впровадження агентського штучного інтелекту в підприємствах, і яка роль App Orchid в цій екосистемі?

Google Agentspace є значним прискорювачем впровадження штучного інтелекту в підприємствах. Надавши уніфіковану основу для розгортання та управління інтелектуальними агентами, пов’язаними з різними робочими додатками, і використовуючи потужний пошук та моделі Google, такі як Gemini, Agentspace дозволяє компаніям перетворити ізольовану інформацію в дієвій інтелект через загальний інтерфейс.

App Orchid діє як життєво важливий семантичний шар у цій екосистемі. Хоча Agentspace забезпечує інфраструктуру агентів та оркестраційну основу, наша платформа Easy Answers вирішує критичну проблему підприємств – зробити складні дані зрозумілими та доступними для агентів. Ми використовуємо підхід, заснований на онтології, для побудови багатих графів знань з даних підприємств, повних із бізнес-контекстом та відносинами – саме таке розуміння агенти потребують для ефективної роботи та надання значимих бізнес-видатковок.

Це створює потужну синергію: Agentspace забезпечує міцну інфраструктуру агентів та оркестраційну основу, тоді як App Orchid забезпечує глибоке семантичне розуміння складних даних підприємств, які ці агенти потребують для ефективної роботи та надання значимих бізнес-видатковок. Наше співробітництво з Google Cloud Cortex Framework є прикладом цього, допомагаючи клієнтам суттєво скоротити час підготовки даних (до 85%) при використанні нашої платформи з лідерською точністю природної мови для запитів 99,8%.

Які реальні бар’єри компанії зустрічають при впровадженні агентського штучного інтелекту, і як App Orchid допомагає їм подолати ці бар’єри?

Основними бар’єрами, які ми бачимо, є якість даних, проблема розвитку стандартів безпеки – особливо забезпечення довіри між агентами – і управління розподіленою природою знань підприємств та можливостей агентів.

Якість даних залишається фундаментальною проблемою. Агентський штучний інтелект, як і будь-який штучний інтелект, забезпечує ненадійні виходи, якщо йому подаються погані дані. App Orchid вирішує цю проблему фундаментально, створюючи семантичний шар, який контекстуалізує розрізнені джерела даних. Будуючи на цьому, наші унікальні функції краудсорсингу в Easy Answers залучають бізнес-користувачів по всій організації – тих, хто найкраще розуміє значення даних – для спільної ідентифікації та вирішення пробілів та несумісностей даних, суттєво підвищуючи надійність.

Безпека представляє ще одну критичну перешкоду, особливо коли взаємодія між агентами стає звичайною, потенційно охоплюючи внутрішні та зовнішні системи. Установлення міцних механізмів для довіри між агентами та підтримання управління без стримування необхідної взаємодії є ключовим. Наша платформа зосереджується на реалізації безпекових кадрів, призначених для цих динамічних взаємодій.

Нарешті, ефективне використання розподіленого знання та можливостей вимагає просунутої оркестрації. App Orchid використовує концепції, такі як Протокол контексту моделі (MCP), який став усе більш важливим. Це дозволяє динамічно джерелувати спеціалізовані агенти з репозиторіїв на основі контекстних потреб, забезпечуючи рідинну, адаптивну робочий потік замість жорстких, попередньо визначених процесів. Цей підхід відповідає новим стандартам, таким як протокол Agent2Agent від Google, призначений для стандартизації спілкування в багатокористувацьких системах. Ми допомагаємо організаціям будувати довірчі та ефективні рішення агентського штучного інтелекту, вирішуючи ці бар’єри.

Можете розказати, як працює Easy Answers – від природної мови запитів до генерації висновків?

Easy Answers перетворює спосіб, яким користувачі взаємодіють з даними підприємств, роблячи складний аналіз доступним через природну мову. Ось як це працює:

• З’єднання: Ми починаємо з’єднування з джерелами даних підприємств – ми підтримуємо понад 200 загальних баз даних та систем. Критично, що це часто відбувається без потреби переміщення або реплікації даних, з’єднуючись безпечно з даними там, де вони знаходяться.
• Створення онтології: Наша платформа автоматично аналізує з’єднані дані та будує повний граф знань. Це структурує дані в бізнес-центричні сутності, які ми називаємо керованими семантичними об’єктами (КСО), захоплюючи відносини між ними.
• Багаття метаданих: Ця онтологія збагачується метаданими. Користувачі надають високорівневі описи, а наш штучний інтелект генерує детальні описи для кожного КСО та його атрибутів (полів). Ці об’єднані метадані забезпечують глибокий контекст про значення даних та їхню структуру.
• Природна мова запиту: Користувач ставить питання на чистій бізнес-мові, наприклад “Покажіть мені тенденції продажів для продукту X у західному регіоні порівняно з минулим кварталом”.
• Інтерпретація та генерація SQL: Наш двигун природної мови використовує багаті метадані в графі знань для розуміння намірів користувача, ідентифікації відповідних КСО та відносин та перекладу питання в точні дані запитів (як SQL). Ми досягаємо лідерської точності тексту до SQL на рівні 99,8%.
• Генерація висновків (Кураторство): Система отримує дані та визначає найбільш ефективний спосіб візуального представлення відповіді. У нашій платформі ці інтерактивні візуалізації називаються “кураторством”. Користувачі можуть автоматично генерувати або попередньо конфігурувати їх для відповідності конкретним потребам або стандартам.
• Глибший аналіз (Швидкі висновки): Для більш складних питань або активного відкриття користувачі можуть використовувати Швидкі висновки. Ця функція дозволяє їм легко застосовувати алгоритми машинного навчання, поставлені з платформою, до вказаних полів даних для автоматичного виявлення закономірностей, ідентифікації аномалій або підтвердження гіпотез без потреби у спеціалістах з даних.

Цій процес, часто завершений за секунди, демократизує доступ до даних та аналіз, перетворюючи складне дослідження даних у просту розмову.

Як Easy Answers зв’язує ізольовані дані в великих підприємствах та забезпечує, щоб висновки були пояснювані та відстежувані?

Ізольовані дані є великою перешкодою в великих підприємствах. Easy Answers вирішує цю фундаментальну проблему за допомогою нашого унікального підходу семантичного шару.

Замість дорогого та складного фізичного консолідації даних ми створюємо віртуальний семантичний шар. Наша платформа будує уніфіковану логічну вигляд, з’єднуючись з різними джерелами даних там, де вони знаходяться. Цей шар підтримується нашою технологією графа знань, яка відображає дані в керовані семантичні об’єкти (КСО), визначає їхні відносини та збагачує їх контекстними метаданими. Це створює спільну бізнес-мову, зрозумілу як для людей, так і для штучного інтелекту, ефективно зв’язуючи технічні структури даних (таблиці, стовпці) з бізнес-значенням (клієнти, продукти, продажі), незалежно від того, де фізично розташовані дані.

Забезпечення того, щоб висновки були довірливими, вимагає як відстежуваності, так і пояснюваності:

• Відстежуваність: Ми забезпечуємо комплексне відслідковування лінії даних. Користувачі можуть перейти від будь-яких кураторств або висновків до джерельних даних, переглядаючи всі застосовані перетворення, фільтри та розрахунки. Це забезпечує повну прозорість та аудитованість, що є важливим для валідації та відповідності.
• Пояснюваність: Висновки супроводжуються поясненнями природною мовою. Ці підсумки артикулюють, що показують дані та чому це суттєво в бізнес-термінах, перекладаючи складні висновки в дієве розуміння для широкої аудиторії.

Ця комбінація зв’язує ізольовані дані, створюючи уніфікований семантичний вигляд та будуючи довіру через ясну відстежуваність та пояснюваність.

Як ваша система забезпечує прозорість у висновках, особливо в регульованих галузях, де лінія даних є критичною?

Прозорість абсолютно незамінна для висновків, що використовують штучний інтелект, особливо в регульованих галузях, де аудитованість та оборонність є важливими. Наш підхід забезпечує прозорість у трьох ключових вимірах:

• Лінія даних: Це фундаментально. Як вже згадувалося, Easy Answers забезпечує повне відслідковування лінії даних. Кожен висновок, візуалізація чи число можна відстежити точно протягом усього його життєвого циклу – від джерельних даних, через будь-які з’єднання, перетворення, агрегації чи фільтри, застосовані – забезпечуючи верифіковану походження даних, необхідну регуляторами.
• Ясність методології: Ми уникаємо “чорної скриньки”. Коли аналітичні або моделі машинного навчання використовуються (наприклад, через Швидкі висновки), платформа чітко документує методологію, використану, параметри, використані, та відповідні метрики оцінки. Це забезпечує, що “як” за висновком є таким же прозорим, як і “що”.
• Пояснення природною мовою: Переклад технічних виходів у зрозумілий бізнес-контекст є важливим для прозорості. Кожен висновок супроводжується поясненнями природною мовою, що описують висновки, їхнє значення та потенційні обмеження, забезпечуючи ясність для всіх зацікавлених сторін, включаючи спеціалістів з відповідності та аудиторів.

Крім того, ми включили додаткові функції управління для галузей з конкретними потребами у відповідності, такими як рольові контролі доступу, робочі потоки затвердження для певних дій чи звітів та комплексні журнали аудиту, що відслідковують діяльність користувачів та операції системи. Цей багаторівневий підхід забезпечує, що висновки є точними, повністю прозорими, пояснюваними та оборонними.

Як App Orchid перетворює висновки, що використовують штучний інтелект, у дії за допомогою функцій, таких як Генеративні дії?

Генерація висновків є цінною, але справжня мета полягає у сприянні бізнес-результатам. З правильними даними та контекстом агентська екосистема може сприяти діям для подолання критичної прогалини між відкриттям висновків та конкретними діями, перетворюючи аналіз з пасивної функції звітності у активний двигун покращення.

Ось як це працює: Коли платформа Easy Answers визначає суттєву закономірність, тенденцію, аномалію чи можливість через свій аналіз, вона використовує штучний інтелект для пропозиції конкретних, контекстно-релевантних дій, які можна здійснити у відповідь.

Ці не невизначені пропозиції; вони є конкретними рекомендаціями. Наприклад, замість простого підняття клієнтів, які знаходяться під високим ризиком виходу, воно може рекомендувати конкретні пропозиції утримання, адаптовані до різних сегментів, потенційно розрахованої очікуваної віддачі від інвестицій, та навіть проектування шаблонів спілкування. При генерації цих рекомендацій система враховує бізнес-правила, обмеження, історичні дані та цілі.

Критично, це підтримує людський нагляд. Рекомендовані дії представляються відповідним користувачам для перегляду, зміни, затвердження чи відхилення. Це забезпечує, що бізнес-суд залишається центральним у процесі прийняття рішень, тоді як штучний інтелект займається важкою роботою з ідентифікації можливостей та формулювання потенційних відповідей.

Як тільки дія затверджена, ми можемо ініціювати агентський потік для безперебійного виконання через інтеграцію з операційними системами. Це може означати запуск робочого потоку в системі управління відносинами з клієнтами, оновлення прогнозу в системі планування ресурсів підприємства, запуск націленого маркетингового завдання чи ініціювання іншого відповідного бізнес-процесу – тим самим закриваючи коло від висновку безпосередньо до результату.

Як графи знань та семантичні моделі даних є центральними для успіху вашої платформи?

Графи знань та семантичні моделі даних є абсолютним ядром платформи Easy Answers; вони піднімають її вище традиційних інструментів бізнес-аналітики, які часто розглядають дані як відокремлені таблиці та стовпці, позбавлені реального бізнес-контексту. Наша платформа використовує їх для побудови інтелектуального семантичного шару над даними підприємств.

Цей семантичний фундамент є центральним для нашого успіху з кількох ключових причин:

• Дозволяє справжню взаємодію природною мовою: Семантична модель, структурована як граф знань з керованими семантичними об’єктами (КСО), властивостями та визначеними відносинами, діє як “Розеттський камінь”. Вона перекладає нюанси людської мови та бізнес-термінології у точні запитів, необхідні для отримання даних, дозволяючи користувачам ставити питання природним чином без знання підкладних схем. Це ключ до нашої високої точності тексту до SQL.
• Зберігає критичний бізнес-контекст: На відміну від простих реляційних з’єднань, наш граф знань явно захоплює багатий, складний веб відносин між бізнес-сутностями (наприклад, як клієнти взаємодіють з продуктами через тикети підтримки та замовлення). Це дозволяє глибший, більш контекстний аналіз, що відображає, як працює бізнес.
• Надає гнучкість та масштабованість: Семантичні моделі є більш гнучкими, ніж жорсткі схеми. Коли бізнес-потреби змінюються або додаються нові джерела даних, граф знань можна розширити та змінити інкрементально без потреби у повному переробленні, підтримуючи послідовність під час адаптації до змін.

Це глибоке розуміння контексту даних, забезпечене нашим семантичним шаром, є фундаментальним для всього, що робить Easy Answers, від базових запитів до просунутого виявлення закономірностей з Швидкими висновками, і воно утворює необхідний фундамент для наших майбутніх можливостей агентського штучного інтелекту, забезпечуючи, що агенти можуть мислити над даними значимо.

Які фундаментальні моделі ви підтримуєте, і як ви дозволяєте організаціям включати свої власні моделі штучного інтелекту/машинного навчання у робочий потік?

Ми віримо в відкритий та гнучкий підхід, визнаючи швидку еволюцію штучного інтелекту та поважаючи існуючі інвестиції організацій.

Для фундаментальних моделей ми підтримуємо інтеграції з провідними варіантами від кількох постачальників, включаючи сімейство Gemini від Google, моделі GPT від OpenAI та відомі відкриті альтернативи, такі як Llama. Це дозволяє організаціям вибирати моделі, які найкраще відповідають їхнім потребам у продуктивності, вартості, управлінні чи конкретних можливостях. Ці моделі забезпечують різні функції платформи, включаючи розуміння природної мови для запитів, генерацію SQL, підсумкування висновків та генерацію метаданих.

Поза цими, ми забезпечуємо міцні шляхи для організацій включення своїх власних моделей штучного інтелекту/машинного навчання у робочий потік Easy Answers:

• Моделі, розроблені на Python, часто можуть бути інтегровані безпосередньо через наш AI Engine.
• Ми пропонуємо безперешкодні можливості інтеграції з основними хмарними платформами машинного навчання, такими як Google Vertex AI та Amazon (AMZN ) SageMaker, дозволяючи моделям, навченим та розміщеним там, бути викликаними.

Критично, наш семантичний шар грає ключову роль у тому, щоб зробити ці потенційно складні моделі доступними. Зв’язуючи входи та виходи моделей з бізнес-концепціями, визначеними в нашому графі знань (КСО та властивостями), ми дозволяємо нек-технічним бізнес-користувачам використовувати просунуті передбачувальні, класифікаційні чи каузальні моделі (наприклад, через Швидкі висновки) без потреби розуміти підкладну науку про дані – вони взаємодіють з знайомими бізнес-термінами, а платформа займається технічним перекладом. Це справді демократизує доступ до просунутих можливостей штучного інтелекту/машинного навчання.

Які тенденції ви бачите, що формують наступну хвилю підприємства штучного інтелекту – особливо на ринках агентів та безкодової розробки агентів?

Наступна хвиля підприємства штучного інтелекту рухається до високодинамічних, складових та колаборативних екосистем. Кілька збігаються тенденцій рухають цю зміну:

• Ринки агентів та реєстри: Ми бачимо суттєвий підйом ринків агентів, що функціонують поряд з внутрішніми реєстрами агентів. Це спричиняє зміну від монолітної побудови до моделі “орендувати та складати”, де організації можуть динамічно відкривати та інтегрувати спеціалізовані агенти – внутрішні чи зовнішні – з конкретними можливостями за потребою, суттєво прискорюючи розгортання рішень.
• Стандартизована комунікація агентів: Для цих екосистем потрібно, щоб агенти мали спільну мову. Стандартизовані протоколи комунікації між агентами, такі як MCP (Протокол контексту моделі), який ми використовуємо, та ініціативи, такі як протокол Agent2Agent від Google, стають важливими для забезпечення безперешкодної співпраці, спільного контексту та делегування завдань між агентами, незалежно від того, хто їх побудував чи де вони працюють.
• Динамічна оркестрація: Статичні, попередньо визначені робочі потоки віддають місце динамічній оркестрації. Інтелектуальні шари оркестрації вибиратимуть, конфігуруватимуть та координуватимуть агентів у часі виконання на основі конкретного контексту завдання, що призведе до значно більш адаптивних та стійких систем.
• Безкодова/низькокодова розробка агентів: Демократизація пошириться на створення агентів. Платформи без коду та низького коду дозволять експертам з бізнесу, а не лише спеціалістам з штучного інтелекту, проектувати та будувати агенти, які втілюють конкретну галузеву експертизу та бізнес-логіку, ще більше збагачуючи пул доступних спеціалізованих можливостей.

Роль App Orchid полягає у забезпеченні критичного семантичного фундаменту для цього майбутнього. Для агентів у цих динамічних екосистемах потрібно розуміти дані підприємств. Наш граф знань та семантичний шар забезпечують саме це контекстне розуміння, дозволяючи агентам мислити та діяти над даними значимо у бізнес-термінах.

Як ви бачите еволюцію ролі головного технічного директора в майбутньому, де інтелект рішення демократизується через агентський штучний інтелект?

Демократизація інтелекту рішення через агентський штучний інтелект фундаментально підвищує роль головного технічного директора. Це зміщує фокус від головного управління технічною інфраструктурою до стратегічного оркестратора організаційного інтелекту.

Ключові еволюції включають:

• Від менеджера систем до архітектора екосистем: Фокус переміщається від управління ізольованими додатками до проектування, кураторства та управління динамічними екосистемами взаємодіючих агентів, джерел даних та аналітичних можливостей. Це включає ефективне використання ринків агентів та реєстрів.
• Стратегія даних як основна бізнес-стратегія: Забезпечення того, що дані не лише доступні, але й семантично багаті, надійні та доступні, стає важливим. Головний технічний директор буде центральним у побудові графа знань, який підтримує інтелектуальні системи по всьому підприємству.
• Еволюція парадигм управління: Нові моделі управління будуть потрібні для агентського штучного інтелекту – адресуючи довіру агентів, безпеку, етичне використання штучного інтелекту, аудитованість автоматизованих рішень та управління емерджентними поведінками у співпраці агентів.
• Заохочення адаптивності: Головний технічний директор буде важливим у впровадженні адаптивності в технічну та операційну тканину організації, створюючи середовища, де висновки, що використовують штучний інтелект, призводять до швидких реакцій та безперервного навчання.
• Співпраця людини та штучного інтелекту: Ключовим аспектом буде культивування культури та проектування систем, де люди та агенти штучного інтелекту працюють синергійно, доповнюючи одна одну свої сильні сторони.

В кінцевому підсумку, головний технічний директор стає меншим менеджером витрат на інформаційні технології та більш орієнтованим на максимізацію інтелектуального потенціалу організації. Це зміщення у бік справжнього стратегічного партнерства, яке дозволяє всьому бізнесу працювати більш інтелектуально та адаптивно в усе більш складному світі.

Дякуємо за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати App Orchid.