Сохраб Хоссейни, сооснователь orq.ai – Интервью

Сохраб Хоссейни, сооснователь orq.ai, является технологическим лидером и предпринимателем, базирующимся в районе Амстердама, с глубоким опытом в области SaaS, крупномасштабных систем и прикладного ИИ. С момента основания orq.ai в 2022 году он сосредоточился на создании практической инфраструктуры, которая помогает командам переводить крупные языковые модели из экспериментирования в надежное производственное использование. Его опыт включает старшие руководящие должности в качестве операционного директора и технического директора в Neocles, технического директора по будущим технологиям в Transdev, где он работал над автономным маршрутизацией и управлением флотом, и операционного директора в TradeYourTrip. Параллельно он активен как советник и бизнес-ангел, поддерживая компании на ранней стадии развития с направлением продукта, технической экспертизой и стратегией выполнения.

orq.ai – это платформа для сотрудничества и управления крупномасштабными языковыми моделями, предназначенная для помощи организациям в проектировании, эксплуатации и масштабировании продуктов и агентов, основанных на ИИ, в реальных условиях. Платформа объединяет управление запросами, экспериментирование, сбор отзывов и реальное время видимости производительности и затрат в едином рабочем пространстве, сохраняя при этом совместимость со всеми основными поставщиками крупных языковых моделей. Обеспечивая тесное сотрудничество между техническими и нетехническими командами, orq.ai помогает компаниям сократить циклы выпуска, улучшить управление и прозрачность, а также уменьшить сложность и стоимость эксплуатации систем ИИ в производстве.

Вы занимали старшие технические и операционные должности в области автономных систем, технологий управления флотом и платформ SaaS до основания Orq.ai — как эта карьерная траектория повлияла на ваше решение создать корпоративный уровень управления агентами ИИ в 2022 году?

Наша основа всегда была связана с руководством инженерными командами и сосредоточением на платформах-обеспечителях; таких, как облачные технологии, DevOps и обеспечение данных, особенно во время нашей работы в качестве технологических консультантов. Когда начался бум генеративного ИИ, мой сооснователь и я задали себе вопрос: какой вид обеспечения понадобится предприятиям не только для создания ИИ, но и для правильного управления и контроля им?

Мы увидели, что реальная потребность заключалась в создании корпоративного уровня управления агентами ИИ. Это привело нас к созданию Orq.ai в первую очередь.

Когда вы впервые запустили Orq.ai, что вы увидели на рынке, что убедило вас, что реальная проблема не заключалась в качестве модели, а в невозможности перевести агентские системы из демонстраций в надежное производство?

Мы всегда считали, что при построении инновационного программного обеспечения необходимо строить для будущего. С самого начала мы предполагали, что крупные языковые модели будут только улучшаться и становиться умнее с течением времени. Таким образом, реальная проблема, которую мы увидели, не заключалась в качестве модели самой по себе, а в вопросах управления, контроля и управления жизненным циклом, возникающих при попытке перейти от демонстрации к реальной производственной среде.

Иными словами, даже когда модели улучшаются,真正ая ценность для наших клиентов (и для нас) заключается в обеспечении надежной работы этих систем в производстве. Именно это мы и стремились решить.

Большинство команд могут создать впечатляющие прототипы, но сталкиваются с трудностями в оркестровке, управлении и мониторинге во время выполнения. С вашей точки зрения, какой является самый большой разрыв, когда инженерные команды пытаются масштабировать от среды доказательства концепции к живому агенту в производстве?

Самый большой разрыв заключается в том, что команды часто думают, что это прямой, линейный путь от начала построения агента к его завершению. На самом деле, это очень итеративный процесс.

Вы постоянно корректируете свои предположения, тестируете их, переводите в производство, а затем отслеживаете, что происходит в реальном мире. Вы обнаруживаете граничные случаи, а затем начинаете этот цикл снова.

Проблема заключается в том, что это не одноразовая работа; это непрерывный цикл уточнения. И чтобы добавить к этому, это не только итеративный процесс, но и то, что часто не хватает инструментов или каркасов, чтобы поддержать этот процесс гладко.

Вам нужен способ для экспертов по предмету, менеджеров продукта и инженеров сотрудничать без создания изолированных зон или дорогих передач, которые тратят много времени. Таким образом, это еще одна большая часть головоломки: обеспечение того, чтобы все эти заинтересованные стороны могли итеративно работать вместе эффективно. И это то, что мы действительно попытались решить.

Orq.ai позиционирует себя как унифицированный уровень управления, охватывающий экспериментирование, оценку, наблюдаемость и выполнение. Почему вы считали, что конечная архитектура была необходима, а не предложение изолированных инструментов, как многие точечные решения?

Когда вы начинаете, естественно выбрать инструмент, который решает вашу самую большую проблему в данный момент, часто это может быть наблюдаемость. Но когда ваша команда эволюционирует, вы сталкиваетесь с следующим препятствием и добавляете еще один инструмент, например, шлюз ИИ. До того, как вы это осознаете, у вас есть пять-семь разных инструментов в вашем ландшафте. Данные становятся фрагментированными, люди теряют видимость, и вы тратите ресурсы просто на поддержание всех этих интеграций. Вы теряете унифицированный вид на ваш жизненный цикл.

Мы считали, что по мере появления агентских предприятий вам действительно нужна эта конечная архитектура. Вам нужен унифицированный вид того, что делают все ваши агенты по всей организации, а не фрагментированные точечные решения. Вот почему мы не видели другого способа, кроме как охватить эти большие части рабочего процесса в унифицированной платформе.

С новым Agent Studio и переработанным выполнением, какие основные проблемы вы пытались решить на основе обратной связи от ранних клиентов по всей Европе и США?

Мы увидели, что команды используют все sorts of библиотек с открытым исходным кодом для построения своих агентов, хотя фактическая архитектура агента может быть довольно чистой и простой. Они в итоге получают раздутое библиотеки, много накладных расходов и большой кривой обучения, чтобы даже простые агенты могли быть выпущены. С помощью Orq мы хотели снять этот груз.

Вместо того, чтобы беспокоиться об архитектуре, вычислениях, автомасштабировании, всей этой инфраструктуре, команды могут просто сосредоточиться на конфигурировании своих агентов и предоставлении им правильных инструментов и API. Мы берем на себя тяжелую работу, чтобы они могли сосредоточиться на построении своих фактических случаев использования. И сверх того, поскольку мы поддерживаем весь жизненный цикл, мы построили специализированные рабочие места, которые позволяют вам действительно протестировать ваши агенты в масштабе.

Это означает, что вы можете найти граничные случаи быстрее и укрепить своих агентов более эффективно. Все это о том, чтобы дать командам инструменты не только для построения агентов легко, но и для уточнения и укрепления их в реальных сценариях, без всех дополнительных проблем.

Как GDPR и закон ИИ ЕС ужесточают требования, как эти регулирования влияют на то, как предприятия проектируют, отслеживают и развертывают агентов — и как Orq.ai адаптируется?

Это не так, что эти требования внезапно ужесточаются, они просто часть закона, и наши клиенты должны им соответствовать. То, что мы делаем, — это обеспечение того, чтобы на протяжении всего жизненного цикла мы предоставляли командам правильные инструменты, оценщики и ограничители, чтобы они могли построить соответствие с самого начала.

Мы гарантируем, что резидентность данных, конфиденциальность данных и все это встроено с самого начала. И с геополитическими напряжениями и толчком к суверенитету технологий и ИИ в Европе мы увидели большой спрос на это. Поскольку мы можем работать полностью на месте и помочь предприятиям уменьшить зависимость, мы находимся в хорошем положении, чтобы помочь им сохранить контроль над своей собственной судьбой.

Предприятия все чаще просят о готовых к суверенитету архитектурах и гибридных/локальных развертываниях. Что этот сдвиг говорит вам о том, куда движется инфраструктура корпоративного ИИ?

Каждое предприятие и даже каждый случай использования включает компромиссы. Это вопрос о том, насколько готовое и насколько безопасное и локальное это должно быть. Мы поддерживаем каждый вкус по этому спектру. Но то, что мы видим, — это сильный акцент на суверенитете и резидентности данных на уровне модели.

Клиенты хотят ясности о том, где живут их данные и возможности уменьшить зависимость от крупных облачных поставщиков. Благодаря нашему шлюзу ИИ, который работает на всех основных облачных платформах и на месте, команды могут легко делать эти компромиссы на основе случая использования. Они получают гибкость, чтобы сохранить контроль и перемещаться между средами.

Мы видим огромный всплеск спроса от более крупных предприятий и государственных учреждений.

Как вы видите эволюцию рабочих процессов с несколькими агентами, ограничений безопасности и более продвинутых систем рассуждения, когда предприятия переходят от экспериментирования к真正й индустриализации агентов в 2026 году?

Когда использование агентов действительно индустриализируется, мы видим появление новых типов проблем, особенно с настройками нескольких агентов. У вас может быть десятки или даже сотни агентов, работающих вокруг вашей организации в любое время, как и сотрудники.

Вопрос в том, как управлять всеми ими, когда у вас есть этот многомерный набор проблем, таких как затраты, качество данных, резидентность данных, правильность, метрики зрелищ и так далее? Вам нужен новый уровень управления, чтобы справиться с этим, и вам нужны ограничители безопасности, которые могут быть развернуты сверху.

Вам также нужна видимость сверху и новые агрегационные слои, чтобы ваш финансовый директор, операционный директор, директор по информационной безопасности могли увидеть, что происходит, и вмешаться с действенными идеями. Мы действительно считаем, что в 2026 году эта вся концепция “отдела агентов” и технологий для ее поддержки станет гораздо более热кой темой.

Дрейф агента, регрессия качества и неясные потоки данных являются повторяющимися проблемами в производстве ИИ. Как уровень управления Orq.ai решает эти давние пробелы в версионировании, оценке и постоянном мониторинге?

Каждый агент действительно нуждается в своем собственном наборе оценок. Эти оценки определяют, что правильно и неправильно для этого конкретного сценария. Потратив время на правильную настройку этих наборов оценок, команды могут лучше проводить офлайн-экспериментирование, чтобы увидеть, как все работает, прежде чем пойти в живое. А затем, отслеживая эти же оценки онлайн, вы можете обнаружить, когда модели дрейфуют или когда поведение агента начинает меняться с течением времени. Таким образом, у вас есть последовательный набор метрик качества во время офлайн-тестов, онлайн-отслеживания и ограничения.

Оглядываясь вперед, что, по вашему мнению, определит следующее поколение корпоративных агентов ИИ — и как Orq.ai позиционирует себя, чтобы стать дефолтной операционной платформой для этого мира?

Оглядываясь вперед, я думаю, что то, что определит следующее поколение корпоративных агентов ИИ, — это то, что каждый поставщик будет предоставлять своих собственных агентов. В более крупных предприятиях это будет целый ландшафт первичных и третьих агентов, работающих вместе и вызывающих друг друга.

Это не будет только один тип агента или один поставщик; это целая экосистема, которая требует управления и соответствия. Именно здесь Orq.ai входит в игру. Мы позиционируем себя как башня управления агентами, которая дает разным слоям в организации правильный агрегированный вид и действенные идеи, чтобы вмешаться на любой стадии.

Будь то построение, масштабирование, эксплуатация или даже вывод из эксплуатации агентов, разные функции будут нуждаться в разных видах на этот ландшафт. И мы будем основным поставщиком этой возможности.

Спасибо за отличное интервью. Читателям, которые хотят узнать больше, следует посетить orq.ai.