Ravi Bommakanti, CTO компанії App Orchid – Серія інтерв’ю

Ravi Bommakanti, Головний технічний директор компанії App Orchid, очолює місію компанії з допомоги підприємствам у впровадженні штучного інтелекту у додатки та процеси прийняття рішень. Флагманський продукт App Orchid, Easy Answers, дозволяє користувачам взаємодіяти з даними за допомогою природної мови для генерації панелей керування, висновків та рекомендацій, що ґрунтуються на штучному інтелекті.

Платформа інтегрує структуровані та неструктуровані дані, включаючи дані в режимі реального часу та знання працівників, у передбачувальну тканину даних, яка підтримує стратегічні та операційні рішення. За допомогою технології великих даних в оперативній пам’яті та зручного інтерфейсу App Orchid спрощує впровадження штучного інтелекту завдяки швидкій розгортці, низькій вартості впровадження та мінімальному впливу на існуючі системи.

Розпочнімо з великої картини – що означає для вас “агентний штучний інтелект”, і як він відрізняється від традиційних систем штучного інтелекту?

Агентний штучний інтелект представляє фундаментальну зміну від статичної реалізації, типової для традиційних систем штучного інтелекту, до динамічної оркестрації. Для мене це означає перехід від жорстких, попередньо запрограмованих систем до автономних, адаптивних розв’язувачів проблем, які можуть мислити, планувати та співпрацювати.

Що真正ньо відрізняє агентний штучний інтелект, це його здатність використовувати розподілену природу знань та експертизи. Традиційний штучний інтелект часто працює в межах фіксованих меж, слідуючи попередньо визначеним шляхам. Агентні системи, однак, можуть розбивати складні завдання, визначати правильних спеціалізованих агентів для підзадач – потенційно виявляючи та використовуючи їх через реєстри агентів – та оркеструвати їх взаємодію для синтезу розв’язку. Ця концепція реєстрів агентів дозволяє організаціям ефективно “орендувати” спеціалізовані можливості за потребою, віддзеркалюючи те, як команди людських експертів збираються, а не змушуючи будувати або володіти кожною функцією штучного інтелекту внутрішньо.

Таким чином, замість монолітних систем майбутнє полягає у створенні екосистем, де спеціалізовані агенти можуть бути динамічно складені та координовані – подібно до того, як кваліфікований менеджер проекту очолює команду – для ефективного вирішення складних та еволюційних бізнес-викликів.

Як Google Agentspace прискорює впровадження агентного штучного інтелекту в підприємствах, і яка роль App Orchid в цій екосистемі?

Google Agentspace є значним прискорювачем впровадження штучного інтелекту в підприємствах. Надавши уніфіковану основу для розгортання та керування інтелектуальними агентами, пов’язаними з різними робочими додатками, та використовуючи потужний пошук Google та моделі, такі як Gemini, Agentspace дозволяє компаніям перетворити ізольовану інформацію в дієвій інтелект через загальний інтерфейс.

App Orchid діє як життєво важливий семантичний шар у цій екосистемі. Хоча Agentspace забезпечує інфраструктуру агентів та оркестраційну основу, нашу платформу Easy Answers використовують для вирішення критичної підприємства задачі – зробити складні дані зрозумілими та доступними для агентів. Ми використовуємо підхід, керований онтологією, для побудови багатих графів знань з даних підприємства, повних з бізнес-контекстом та відносинами – саме той розуміння, який потрібен агентам.

Це створює потужну синергію: Agentspace забезпечує міцну інфраструктуру агентів та оркестраційну основу, тоді як App Orchid забезпечує глибоке семантичне розуміння складних даних підприємства, які ці агенти потребують для ефективної роботи та надання значимих бізнес-висновків. Наше співробітництво з Google Cloud Cortex Framework є видатним прикладом, який допомагає клієнтам суттєво скоротити час підготовки даних (до 85%), використовуючи нашу платформу з лідерською точністю текст-SQL на рівні 99,8% для природної мови запитів. Разом ми надаємо організаціям можливість розгортати рішення агентного штучного інтелекту, які真正ньо розуміють мову та дані підприємства, прискорюючи час до отримання цінності.

Які реальні бар’єри компанії зустрічають при впровадженні агентного штучного інтелекту, і як App Orchid допомагає їм подолати ці бар’єри?

Первинні бар’єри, які ми бачимо, обертаються навколо якості даних, виклику еволюції стандартів безпеки – особливо забезпечення довіри між агентами – та керування розподіленою природою підприємства знань та можливостей агентів.

Якість даних залишається основною проблемою. Агентний штучний інтелект, як і будь-який штучний інтелект, забезпечує ненадійні виходи, якщо йому подаються погані дані. App Orchid вирішує цю фундаментальну проблему, створюючи семантичний шар, який контекстуалізує різні джерела даних. Будуючи на цьому, наші унікальні функції краудсорсингу в Easy Answers залучають бізнес-користувачів по всьому підприємству – тих, хто найкраще розуміє значення даних – для спільної ідентифікації та вирішення пробілів та несумісностей даних, суттєво підвищуючи надійність.

Безпека представляє ще одну критичну перешкоду, особливо коли взаємодія між агентами стає звичайною, потенційно охоплюючи внутрішні та зовнішні системи. Встановлення міцних механізмів для довіри між агентами та підтримання управління без гальмування необхідної взаємодії є ключовим. Наша платформа зосереджена на впровадженні кадрів безпеки, призначених для цих динамічних взаємодій.

Нарешті, ефективне використання розподіленого знання та можливостей вимагає просунутої оркестрації. App Orchid використовує концепції, такі як Протокол контексту моделі (MCP), який став дедалі більш важливим. Це дозволяє динамічне джерело спеціалізованих агентів з репозиторіїв на основі контекстних потреб, забезпечуючи текучі, адаптивні робочі процеси, а не жорсткі, попередньо визначені процеси. Цей підхід узгоджується з новими стандартами, такими як протокол Agent2Agent від Google, призначений для стандартизації спілкування в багатокомпонентних системах. Ми допомагаємо організаціям будувати довірчі та ефективні рішення агентного штучного інтелекту, вирішуючи ці бар’єри.

Розкажіть нам, як Easy Answers працює – від запитів природної мови до генерації висновків?

Easy Answers перетворює те, як користувачі взаємодіють з даними підприємства, роблячи складний аналіз доступним через природну мову. Ось як це працює:

• З’єднання: Ми починаємо з’єднування з джерелами даних підприємства – ми підтримуємо понад 200 загальних баз даних та систем. Критично, це часто відбувається без необхідності переміщення або реплікації даних, з’єднуючись безпечно з даними там, де вони мешкають.
• Створення онтології: Наша платформа автоматично аналізує підключені дані та будує комплексний граф знань. Це структурує дані у бізнес-центричні сутності, які ми називаємо керованими семантичними об’єктами (MSO), захоплюючи відносини між ними.
• Багаття метаданих: Ця онтологія багатішається метаданими. Користувачі надають високорівневі описи, а наш штучний інтелект генерує детальні описи для кожного MSO та його атрибутів (полів). Це комбіноване метадані забезпечує глибокий контекст про значення та структуру даних.
• Запит природної мови: Користувач ставить питання на чистій бізнес-мові, наприклад “Покажіть мені тенденції продажів для продукту X у західному регіоні порівняно з минулим кварталом.”
• Інтерпретація та генерація SQL: Наш двигун NLP використовує багаті метадані в графі знань для розуміння наміру користувача, ідентифікації відповідних MSO та відносин, та перекладу питання у точні запит даних (як SQL). Ми досягаємо лідерської точності текст-SQL на рівні 99,8% тут.
• Генерація висновків (Кураторство): Система отримує дані та визначає найбільш ефективний спосіб представлення відповіді візуально. У нашій платформі ці інтерактивні візуалізації називаються “кураторством”. Користувачі можуть автоматично генерувати або попередньо конфігурувати їх для відповідності конкретним потребам або стандартам.
• Глибший аналіз (Швидкі висновки): Для більш складних питань або проактивного відкриття користувачі можуть використовувати Швидкі висновки. Ця функція дозволяє їм легко застосовувати алгоритми машинного навчання, поставлені з платформою, до вказаних полів даних для автоматичного виявлення шаблонів, ідентифікації аномалій або підтвердження гіпотез без необхідності експертизи з даних.

Цей весь процес, часто завершений за секунди, демократизує доступ до даних та аналізу, перетворюючи складне дослідження даних у просту розмову.

Як Easy Answers зв’язує ізольовані дані у великих підприємствах та забезпечує висновки, які є пояснюваними та відстежуваними?

Дані-силоси є великою перешкодою у великих підприємствах. Easy Answers вирішує цю фундаментальну проблему через наш унікальний семантичний шаровий підхід.

Замість дорогого та складного фізичного об’єднання даних ми створюємо віртуальний семантичний шар. Наша платформа будує уніфіковану логічну точку зору, з’єднуючись з різними джерелами даних там, де вони мешкають. Цей шар підтримується нашою технологією графа знань, яка карти даних у керованих семантичних об’єкти (MSO), визначає їх відносини та багатішається контекстними метаданими. Це створює спільну бізнес-мову, зрозумілу як людям, так і штучному інтелекту, ефективно зв’язуючи технічні структури даних (таблиці, колонки) з бізнес-значенням (клієнти, продукти, продажі), незалежно від того, де дані фізично мешкають.

Забезпечення висновків, які є довірливими, вимагає як відстежуваності, так і пояснюваності:

• Відстежуваність: Ми забезпечуємо комплексне відстежування лінії даних. Користувачі можуть перейти від будь-яких кураторств або висновків назад до джерел даних, переглядаючи всі застосовані перетворення, фільтри та розрахунки. Це забезпечує повну прозорість та аудитованість, що є важливим для валідації та відповідності.
• Пояснюваність: Висновки супроводжуються поясненнями природної мови. Ці резюме артикулюють, що дані показують і чому це важливо у бізнес-термінах, перекладаючи складні висновки у дієве розуміння для широкої аудиторії.

Це поєднання зв’язує силоси, створюючи уніфіковану семантичну точку зору та будуючи довіру через ясну відстежуваність та пояснюваність.

Як ваша система забезпечує прозорість у висновках, особливо у регульованих галузях, де лінія даних є критичною?

Прозорість є абсолютно невід’ємною для висновків, що ґрунтуються на штучному інтелекті, особливо у регульованих галузях, де аудитованість та обгрунтованість є важливими. Наш підхід забезпечує прозорість у трьох ключових вимірах:

• Лінія даних: Це фундаментальне. Як згадувалося раніше, Easy Answers забезпечує повне відстежування лінії даних. Кожен висновок, візуалізація або число можна відстежити точно через весь його життєвий цикл – від оригінальних джерел даних, через будь-які з’єднання, перетворення, агрегації або фільтри, що застосовуються – забезпечуючи верифіковану походження даних, необхідну регуляторами.
• Ясність методології: Ми уникнули “чорної скриньки” проблеми. Коли аналітичні або моделі машинного навчання використовуються (наприклад, через Швидкі висновки), платформа чітко документує методологію, що застосовується, параметри, що використовуються, та відповідні метрики оцінки. Це забезпечує “як” за висновком є таким же прозорим, як і “що”.
• Пояснення природної мови: Переклад технічних виходів у зрозумілу бізнес-контекст є важливим для прозорості. Кожен висновок супроводжується поясненнями природної мови, що описують висновки, їх значення та потенційні обмеження, забезпечуючи ясність для всіх зацікавлених сторін, включаючи спеціалістів з відповідності та аудиторів.

Крім того, ми включили додаткові функції управління для галузей з конкретними потребами у відповідності, такими як рольові контролі доступу, робочі процеси затвердження для певних дій або звітів, та комплексні журнали аудиту, що відстежують діяльність користувача та операції системи. Цей багаторівневий підхід забезпечує, що висновки є точними, повністю прозорими, пояснюваними та обгрунтованими.

Як App Orchid перетворює висновки, згенеровані штучним інтелектом, у дії з функціями, такими як Генеративні дії?

Генерація висновків є цінною, але справжня мета полягає у сприянні бізнес-висновкам. З правильними даними та контекстом агентська екосистема може сприяти діям для подолання критичної прогалини між відкриттям висновків та відчутними діями, перетворюючи аналіз з пасивної звітності на активного двигуна поліпшення.

Ось як це працює: Коли платформа Easy Answers ідентифікує значимий шаблон, тренд, аномалію або можливість через свій аналіз, вона використовує штучний інтелект для пропозиції конкретних, контекстно-релевантних дій, які можна здійснити у відповідь.

Ці дії не є невизначеними пропозиціями; вони є конкретними рекомендаціями. Наприклад, замість того, щоб просто виділяти клієнтів, які знаходяться під високим ризиком виходу, вона може рекомендувати конкретні пропозиції щодо утримання, адаптовані до різних сегментів, потенційно розрахованої очікуваної віддачі та навіть проектування шаблонів спілкування. Коли генеруються ці рекомендації, система враховує бізнес-правила, обмеження, історичні дані та цілі.

Критично, це підтримує людський нагляд. Рекомендовані дії представляються відповідним користувачам для перегляду, модифікації, затвердження або відхилення. Це забезпечує, що бізнес-суд залишається центральним у процесі прийняття рішень, тоді як штучний інтелект займається важкою роботою з ідентифікації можливостей та формулювання потенційних реакцій.

Як тільки дія затверджена, ми можемо спровокувати агентський потік для безперебійної реалізації через інтеграцію з операційними системами. Це може означати запуск робочого процесу в CRM, оновлення прогнозу в системі ERP, запуск цільової маркетингової задачі або ініціювання іншого відповідного бізнес-процесу – тим самим закриваючи коло від висновку безпосередньо до результату.

Як графи знань та семантичні моделі даних є центральними для успіху вашої платформи?

Графи знань та семантичні моделі даних є абсолютним ядром платформи Easy Answers; вони піднімають її вище традиційних інструментів бізнес-аналітики, які часто розглядають дані як відокремлені таблиці та колонки, позбавлені справжньої бізнес-контексту. Наша платформа використовує їх для побудови інтелектуального семантичного шару над даними підприємства.

Ця семантична основа є центральною для нашого успіху з кількох ключових причин:

• Дозволяє справжню взаємодію природної мови: Семантична модель, структурована як граф знань з керованими семантичними об’єктами (MSO), властивостями та визначеними відносинами, діє як “Розеттський камінь”. Вона перекладає нюанси людської мови та бізнес-термінології у точні запит даних, необхідні для отримання даних, дозволяючи користувачам ставити питання природно без знання підлягаючих схем. Це є ключовим для нашої високої точності текст-SQL.
• Зберігає критичний бізнес-контекст: На відміну від простих реляційних з’єднань, наш граф знань явно захоплює багатий, складний веб відносин між бізнес-сутностями (наприклад, як клієнти взаємодіють з продуктами через тікети підтримки та замовлення на покупку). Це дозволяє здійснювати глибший, більш контекстний аналіз, що відображає, як підприємство працює.
• Надає гнучкість та масштабованість: Семантичні моделі є більш гнучкими, ніж жорсткі схеми. Коли бізнес-потреби еволюціонують або додаються нові джерела даних, граф знань можна розширити та модифікувати інкрементально без необхідності повної перебудови, підтримуючи узгодженість під час адаптації до змін.

Це глибоке розуміння контексту даних, забезпечене нашим семантичним шаром, є фундаментальним для всього, що робить Easy Answers, від базових запитів до просунутого виявлення шаблонів з Швидкими висновками, і воно утворює необхідну основу для наших майбутніх можливостей агентного штучного інтелекту, забезпечуючи, що агенти можуть розумно розмовляти з даними.

Які фундаментальні моделі ви підтримуєте, і як ви дозволяєте організаціям привносити свої власні моделі штучного інтелекту/машинного навчання у робочий процес?

Ми віримо в відкритий та гнучкий підхід, визнаючи швидку еволюцію штучного інтелекту та поважаючи існуючі інвестиції організацій.

Для фундаментальних моделей ми підтримуємо інтеграції з провідними варіантами від кількох постачальників, включаючи сім’ю Gemini від Google, моделі GPT від OpenAI та видатні відкриті альтернативи, такі як Llama. Це дозволяє організаціям вибирати моделі, які найкраще відповідають їхнім вимогам щодо продуктивності, вартості, управління або конкретних можливостей. Ці моделі забезпечують потужність різних функцій платформи, включаючи розуміння природної мови для запитів, генерацію SQL, підсумовування висновків та генерацію метаданих.

Поза цими, ми забезпечуємо міцні шляхи для організацій, щоб привнести свої власні моделі штучного інтелекту/машинного навчання у робочий процес Easy Answers:

• Моделі, розроблені на Python, часто можуть бути інтегровані безпосередньо через наш двигун штучного інтелекту.
• Ми пропонуємо безперебійні можливості інтеграції з основними хмарними платформами машинного навчання, такими як Google Vertex AI та Amazon SageMaker, що дозволяє моделям, навченим та розміщеним там, бути викликаними.

Критично, наш семантичний шар грає ключову роль у тому, щоб зробити ці потенційно складні моделі доступними. Зв’язуючи входи та виходи моделей з бізнес-концепціями, визначеними в нашому графі знань (MSO та властивості), ми дозволяємо некваліфікованим бізнес-користувачам використовувати просунуті передбачувальні, класифікаційні або каузальні моделі (наприклад, через Швидкі висновки) без необхідності розуміти підлягаючу науку про дані – вони взаємодіють з знайомими бізнес-термінами, а платформа займається технічним перекладом. Це真正ньо демократизує доступ до просунутих можливостей штучного інтелекту/машинного навчання.

Оглядаючи вперед, які тенденції ви бачите, що формують наступну хвилю підприємства штучного інтелекту – особливо на ринках агентів та безкодової розробки агентів?

Наступна хвиля підприємства штучного інтелекту рухається до високодинамічних, складових та колаборативних екосистем. Кілька збігальних тенденцій рухають це:

• Ринки агентів та реєстри: Ми побачимо значне зростання ринків агентів поряд з внутрішніми реєстрами агентів. Це сприятиме переходу від монолітних побудов до моделі “орендування та складання”. Організації зможуть динамічно виявляти та інтегрувати спеціалізовані агенти – внутрішні чи зовнішні – з конкретними можливостями за потребою, суттєво прискорюючи розгортання рішень.
• Стандартизована комунікація агентів: Для цих екосистем необхідно, щоб агенти мали спільну мову. Стандартизовані протоколи спілкування між агентами, такі як MCP (Протокол контексту моделі), який ми використовуємо, та ініціативи, такі як протокол Agent2Agent від Google, стають важливими для забезпечення безперебійної співпраці, спільного контексту та делегування завдань між агентами, незалежно від того, хто їх побудував чи де вони працюють.
• Динамічна оркестрація: Статичні, попередньо визначені робочі процеси віддадуть місце динамічній оркестрації. Інтелектуальні шари оркестрації вибиратимуть, конфігуруватимуть та координуватимуть агентів у режимі реального часу на основі конкретного контексту задачі, що призведе до набагато більш адаптивних та стійких систем.
• Безкодова/низькокодова розробка агентів: Демократизація пошириться на створення агентів. Платформи без коду та низького коду нададуть можливість експертам з бізнесу, а не лише спеціалістам з штучного інтелекту, проектувати та будувати агенти, які містять конкретну галузеву експертизу та бізнес-логіку, ще більше збагачуючи пул доступних спеціалізованих можливостей.

Роль App Orchid полягає у забезпеченні критичної семантичної основи для цього майбутнього. Для агентів у цих динамічних екосистемах, щоб вони могли співпрацювати ефективно та виконувати значимі завдання, їм потрібно розуміти дані підприємства. Наш граф знань та семантичний шар забезпечують саме це контекстне розуміння, дозволяючи агентам розмовляти з даними у відповідних бізнес-термінах.

Як ви бачите роль Головного технічного директора, що еволюціонує у майбутньому, де інтелект рішення демократизується через агентний штучний інтелект?

Демократизація інтелекту рішення через агентний штучний інтелект фундаментально піднімає роль Головного технічного директора. Це зрушує фокус від головним чином технічного керівництва до стратегічного оркестратора організаційного інтелекту.

Ключові еволюції включають:

• Від менеджера систем до архітектора екосистем: Фокус переміщається від керування ізольованими додатками до проектування, кураторства та управління динамічними екосистемами взаємодіючих агентів, джерел даних та аналітичних можливостей. Це включає ефективне використання ринків агентів та реєстрів.
• Стратегія даних як основна бізнес-стратегія: Забезпечення того, що дані не лише доступні, але й семантично багатші, надійні та доступні, стає головним. Головний технічний директор буде центральним у побудові графа знань, який підтримує інтелектуальні системи по всьому підприємству.
• Еволюційні парадигми управління: Нові моделі управління будуть потрібні для агентного штучного інтелекту – адресування довіри агентів, безпеки, етичного використання штучного інтелекту, аудитованості автоматичних рішень та управління емерджентними поведінками у колабораціях агентів.
• Заохочення адаптивності: Головний технічний директор буде важливим у впровадженні адаптивності в технічну та операційну тканину організації, створюючи середовища, де висновки, ґрунтовані на штучному інтелекті, призводять до швидких реакцій та безперервного навчання.
• Співробітництво людини та штучного інтелекту: Ключовим аспектом буде культивування культури та проектування систем, де люди та агенти штучного інтелекту працюють синергійно, доповнюючи сильні сторони один одного.

В кінцевому підсумку, Головний технічний директор стає менш орієнтованим на управління ІТ-витратами та більш орієнтованим на максимізацію інтелектуального потенціалу організації. Це зрушення до справжнього стратегічного партнера, що дозволяє всьому бізнесу працювати більш інтелектуально та адаптивно у все більш складному світі.

Дякуємо за велике інтерв’ю. Читачі, які бажають дізнатися більше, повинні відвідати App Orchid.