Сограб Хоссейні, співзасновник orq.ai – Інтерв’ю Серія

Сограб Хоссейні, співзасновник orq.ai, є технологічним лідером і підприємцем, базованим в районі Амстердама з глибоким досвідом у сфері SaaS, великомасштабних систем та прикладної штучної інтелектуальної системи. Від заснування orq.ai у 2022 році він зосередився на створенні практичної інфраструктури, яка допомагає командам переносити великі мовні моделі з експериментального етапу у надійне виробництво. Його досвід включає керівні посади у сфері технологій, такі як COO та CTO у Neocles, CTO майбутніх технологій у Transdev, де він працював над автономним маршрутизуванням та управлінням флотом, а також COO у TradeYourTrip. Паралельно він активно працює як радник та ангел-інвестор, підтримуючи компанії штучної інтелектуальної системи на ранній стадії з напрямком продукту, технічною оцінкою та стратегією виконання.

orq.ai є платформою для співпраці та управління великими мовними моделями, створеною для допомоги організаціям у проектуванні, експлуатації та масштабуванні штучної інтелектуальної системи у реальному світі. Платформа об’єднує управління запитами, експериментування, збір відгуків та реальний час видимості продуктивності та витрат у єдиному робочому просторі, залишаючись сумісною з усіма великими постачальниками великих мовних моделей. Надавши тісну співпрацю між технічними та нетехнічними командами, orq.ai допомагає компаніям скорочувати цикли випуску, покращувати управління та прозорість, а також зменшувати складність та витрати на експлуатацію штучної інтелектуальної системи у виробництві.

Ви займали керівні технічні та оперативні посади у сфері автономних систем, управління флотом та платформ SaaS до заснування Orq.ai — як ваша кар’єрна траєкторія вплинула на рішення створити корпоративний контрольний шар для агентів штучної інтелектуальної системи у 2022 році?

Наш досвід завжди був пов’язаний з керівництвом інженерними командами та фокусом на платформах забезпечення; речами, такими як хмарні технології, DevOps та забезпечення даних, особливо під час нашої роботи як технологічних консультантів. Коли розпочався бум генерації штучної інтелектуальної системи, мій співзасновник і я поставили собі питання: який вид забезпечення буде потрібен підприємствам не тільки для побудови штучної інтелектуальної системи, але й для її належного управління та контролю?

Ми побачили, що справжня потреба полягає у створенні корпоративного контрольного шару для агентів штучної інтелектуальної системи. Це призвело нас до побудови Orq.ai.

Коли ви вперше запустили Orq.ai, що ви бачили на ринку, що переконало вас, що справжня проблема не полягає у якості моделі, а у нездатності перенести агентські системи з демонстраційних версій у надійне виробництво?

Ми завжди вважали, що коли ви будуєте інноваційне програмне забезпечення, вам потрібно будувати для майбутнього. З самого початку ми припускали, що великі мовні моделі будуть лише покращуватися та ставати розумнішими з часом. Тому справжня проблема, яку ми бачили, полягала не у якості моделі самої по собі, а у всіх питаннях контролю, управління та життєвого циклу, які виникають, коли ви намагаєтеся перейти від демонстраційної версії до реальної виробничої середовищі.

Іншими словами, навіть якщо моделі покращуються, справжня цінність для наших клієнтів (і для нас) полягає у тому, щоб ці системи справді працювали надійно у виробництві. І саме це ми намагалися вирішити.

Більшість команд можуть створити вражаючі прототипи, але борються з оркестрацією часу виконання, управлінням та моніторингом. На вашу думку, яка найбільша проблема виникає, коли інженерні команди намагаються масштабувати від середовища доказу концепції до живого виробничого агента?

Найбільша проблема полягає у тому, що команди часто вважають, що це прямий, лінійний шлях від початку побудови агента до його завершення. Насправді це дуже ітеративний процес.

Ви постійно коригуєте свої припущення, тестуєте їх, переносите речі у виробництво, а потім моніторите, що відбувається у реальному світі. Ви знаходить крайні випадки, а потім починаєте той цикл знову.

Проблема полягає у тому, що це не просто одноразова спроба; це безперервний цикл удосконалення. І щоб продовжити, це не тільки те, що це ітеративний процес, але й те, що часто немає достатньої інструментальної бази чи каркаса для підтримки цього процесу гладко.

Вам потрібно спосіб для експертів у галузі, менеджерів продукту та інженерів співпрацювати без створення сілосів чи дорогих передач, які витрачають багато часу. Тому це ще одна велика частина пазла: забезпечення того, щоб усі ці зацікавлені сторони могли ітеративно співпрацювати ефективно. І саме це ми намагалися вирішити.

Orq.ai позиціонує себе як уніфікований контрольний шар, який охоплює експериментування, оцінку, спостережливість та час виконання. Чому ви вважали, що кінцевий архітектурний дизайн був необхідний, а не пропонували ізольовані інструменти, як багато розв’язок?

Коли ви починаєте, це природно вибрати окремий інструмент, який вирішує вашу найбільшу проблему в цей момент, часто це може бути спостережливість. Але коли ваша команда розвивається, ви натрапляєте на наступну проблему та додаєте інший інструмент, наприклад, шлюз штучної інтелектуальної системи. Перед тим, як ви зрозумієте, у вас уже є п’ять-сім різних інструментів у вашому ландшафті. Дані стають фрагментованими, люди втрачають видимість, а ви марнуєте ресурси просто на підтримку всіх цих інтеграцій. Ви втрачаєте той уніфікований вигляд на весь ваш життєвий цикл.

Ми вважали, що коли підприємства, керовані агентами, з’являються, вам справді потрібен той кінцевий архітектурний дизайн. Вам потрібен уніфікований вигляд на все, що роблять ваші агенти по всій організації, а не фрагментовані окремі інструменти. Тому ми не бачили іншого шляху, окрім як охопити великі частини робочого процесу у уніфікованій платформі.

З новим Agent Studio та переробленим часом виконання, які великі болі ви намагалися вирішити на основі відгуку від перших клієнтів по всій Європі та США?

Ми побачили, що команди використовували всі види відкритих бібліотек для побудови своїх агентів, хоча фактична архітектура агента може бути досить чистою та простою. Вони закінчили з розбухлими бібліотеками, великою кількістю накладних витрат та великим навчальним курсом, просто щоб вийти навіть прості агенти. З Orq ми хотіли позбавити їх цього навантаження.

Натомість того, щоб турбуватися про архітектуру, обчислення, автоскейлінг, всю інфраструктуру, команди можуть просто зосередитися на конфігурації своїх агентів та наданні їм правильних інструментів та API. Ми займаємося важкою роботою, щоб вони могли зосередитися на побудові своїх фактичних випадків використання. І на додачу, оскільки ми підтримуємо весь життєвий цикл, ми побудували спеціальні робочі місця, які дозволяють вам真正но протестувати своїх агентів у масштабі.

Це означає, що ви можете знайти крайні випадки швидше та зміцнити своїх агентів більш ефективно. Все це про надання командам інструментів не тільки для побудови агентів легко, але й для їхнього вдосконалення та зміцнення у реальних сценаріях, без усіх цих додаткових клопотів.

Як GDPR та закон про штучну інтелектуальну систему ЄС загострюють вимоги, як ці регуляції впливають на підприємства при проектуванні, моніторингу та розгортанні агентів — і як Orq.ai адаптується?

Це не так, що ці вимоги раптом загострюються, вони просто частина закону, і наші клієнти повинні їм підкорятися. Що ми робимо, так це забезпечуємо команди правильними інструментами, оцінювачами та охоронними заходами, щоб вони могли будувати відповідність з дня першого.

Ми забезпечуємо, щоб резиденція даних, конфіденційність даних та все інше було закладено з самого початку. І з геополітичними стресами та пошуком суверенітету технологій та штучної інтелектуальної системи в Європі, ми бачимо великий попит на це. Оскільки ми можемо працювати повністю на місцевому рівні та допомогти підприємствам зменшити залежність, ми перебуваємо у хорошій позиції, щоб допомогти їм зберігати контроль над своєю власною долею.

Підприємства все частіше запитують архітектури, готові до суверенітету, та гібридні/локальні розгортання. Що цей зсув говорить про те, куди рухається інфраструктура штучної інтелектуальної системи підприємства?

Кожне підприємство та навіть кожен випадок використання включають компроміси. Це питання про те, наскільки готове до використання щось потрібно, а наскільки безпечно та локально воно повинно бути. Ми підтримуємо кожен смак цього спектру. Але те, що ми бачимо, це сильний фокус на суверенітеті та резиденції даних на рівні моделі.

Клієнти хочуть ясності щодо того, де живуть їхні дані, та можливості зменшити залежність від великих постачальників хмарних послуг. Завдяки нашому шлюзу штучної інтелектуальної системи, який працює на всіх великих хмарних платформах та локально, команди можуть легко робити ці компроміси на основі випадків використання. Вони отримують гнучкість, щоб залишатися під контролем та рухатися безперешкодно між середовищами.

Ми бачимо великий попит від великих підприємств та публічних інститутів.

Як ви бачите розвиток багатофункціональних робочих процесів, безпекових бар’єрів та більш просунутих систем розуміння, коли підприємства переходять від експериментування до справжньої індустріалізації агентів у 2026 році?

Когда використання агентів справді індустралізується, ми бачимо нові види проблем, особливо з багатофункціональними налаштуваннями. Ви можете мати десятки чи навіть сотні агентів, які працюють у вашій організації в будь-який час, як і працівники.

Питання полягає у тому, як керувати всіма цими агентами, коли у вас є багатовимірна проблема, така як витрати, якість даних, резиденція даних, правильність, метрики галюцинації тощо? Вам потрібно новий шар управління, щоб керувати цим, і вам потрібні безпекові бар’єри, які можуть бути розгорнуті зверху вниз.

Вам також потрібно зверху видимість та нові агрегаційні шари, щоб ваш фінансовий директор, операційний директор, директор з інформаційної безпеки могли бачити, що відбувається, та втручатися з дієвішими інсайтами. Ми справді вважаємо, що у 2026 році ця концепція “відділу агентів” та технології для її підтримки стануть ще гарячішими.

Агентський дрейф, регресія якості та незрозумілі потоки даних є повторюваними проблемами у виробництві штучної інтелектуальної системи. Як контрольний шар Orq.ai вирішує ці довготривалі прогалини у версіонуванні, оцінці та моніторингу?

Кожен агент справді потребує свого власного набору оцінок. Ці оцінки визначають, що є правильним і неправильним для того чи іншого сценарію. Використовуючи час налаштування цих наборів оцінок належним чином, команди можуть краще проводити офлайн-експериментування, щоб побачити, як речі поводяться до того, як вони перейдуть у живе виробництво. І потім, моніторячи ці самі оцінки онлайн, ви можете виявити, коли моделі дрейфують чи коли поведінка агента починає змінюватися з часом. Таким чином, у вас є послідовний набір метрик якості під час офлайн-тестів, онлайн-моніторингу та бар’єрів безпеки.

Оглядаючи майбутнє, що, на вашу думку, визначить наступне покоління корпоративних агентів штучної інтелектуальної системи — і як Orq.ai позиціонує себе, щоб стати стандартною операційною платформою для цього світу?

Оглядаючи майбутнє, я думаю, що те, що визначить наступне покоління корпоративних агентів штучної інтелектуальної системи, полягає у тому, що кожен постачальник буде пропонувати свої власні агенти. У більших підприємствах це буде широкий ландшафт агентів першої та третьої сторін, які працюють разом та звертаються один до одного.

Це не буде просто один тип агента чи один постачальник; це цілий екосистема, яка потребує управління та відповідності. І саме тут Orq.ai приходить. Ми позиціонujemy себе як контрольна вежа агентів, яка надає різним шарам організації правильний агрегований вигляд та дієві інсайти, щоб втрутитися на будь-якій стадії.

Чи то побудова, масштабування, експлуатація, чи навіть виведення агентів з експлуатації, різні функції потребуватимуть різних виглядів на той ландшафт. І ми будемо провідним постачальником цієї можливості.

Дякуємо за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати orq.ai.