Сохраб Хоссейни，orq.ai 联合创始人 – 专访系列

Сохраб Хоссейни 是 orq.ai 的联合创始人，一位常驻阿姆斯特丹地区的技术领导者和企业家，在SaaS、大规模系统和应用人工智能领域拥有深厚经验。自 2022 年创立 orq.ai 以来, 他一直专注于构建实用的基础设施,帮助团队将大型语言模型从实验阶段推进到可靠的生产应用。他的背景包括在Neocles 担任首席运营官和首席技术官的高级领导职务,在 Transdev 担任未来技术首席技术官, 负责自动驾驶路线规划和车队管理, 以及在 TradeYourTrip 担任首席运营官。同时，他还活跃于顾问和天使投资人的角色，为早期人工智能公司提供产品方向、技术判断和执行战略方面的支持。

orq.ai 是一个生成式人工智能协作和 LLMOps平台,旨在帮助组织在现实环境中设计、运营和扩展人工智能驱动的产品和智能体。该平台将提示管理、实验、反馈收集以及性能和成本的实时可见性整合到一个统一的工作空间中，同时保持与所有主要大型语言模型提供商的兼容性。通过促进技术团队和非技术团队之间的紧密协作，orq.ai 帮助企业缩短发布周期、改善治理和透明度，并降低在生产环境中运行人工智能系统的复杂性和成本。

Использование Orq.ai 之前, 您曾在自动驾驶系统、车队管理技术和 SaaS平台领域担任高级技术和运营职务——这段职业道路如何影响了您在 2022年决定为企业级人工智能智能体构建控制层的决策？

我们的背景一直是领导工程团队并专注于赋能平台；比如云、DevOps和数据赋能,尤其是在我们担任技术顾问期间。当生成式人工智能热潮开始时,我和我的联合创始人问自己:企业需要什么样的赋能,不仅仅是构建人工智能,还要恰当地治理和控制它？

我们看到真正的需求是面向人工智能智能体的企业级控制层。这首先促使我们构建了Орк.ай。

当您最初推出 Orq.ai时, 您从市场中看到了什么, 让您确信真正的瓶颈不是模型质量，而是无法将智能体系统从演示阶段推进到可靠的生产环境？

我们一直相信, 当你构建创新软件时, 必须面向未来。从一开始, 我们就假设大型语言模型会随着时间的推移变得越来越好、越来越智能。因此,我们看到的真正挑战不是模型质量本身,而是当你试图从演示环境转移到真实生产环境时出现的所有控制、治理和生命周期管理问题。

换句话说，即使模型不断改进，对我们客户（以及对我们）的真正价值在于确保这些系统能够在生产中可靠运行。而这正是我们着手要解决的问题。

大多数团队可以构建令人印象深刻的原型,但在运行时编排、治理和监控方面却举步维艰。在您看来, 当工程团队试图从概念验证环境扩展到实时生产智能体时,最大的单一断裂点是什么？

最大的断裂点是团队常常认为从开始构建智能体到完成它是一个直线、线性的过程。实际上，这是一个非常迭代的过程。

你不断地调整假设、测试它们、将内容部署到生产环境,然后监控现实世界中发生的情况。你会发现边缘情况，然后重新开始这个循环。

挑战在于这不是一次性的努力；而是一个持续优化的循环。在此基础上，问题不仅在于它是迭代的，还在于通常没有足够的工具或框架来顺利支持这个过程。

你需要一种方式,让领域专家、产品经理和工程师能够协作，而不会造成信息孤岛或浪费大量时间的昂贵交接。因此, 这是另一个重要的难题:确保所有这些利益相关者能够高效地共同迭代。这也是我们真正努力解决的问题。

Орк.ай将自己定位为一个涵盖实验、评估、可观测性和运行时的统一控制层。为什么您认为端到端架构是必不可少的，而不是像许多点解决方案那样提供孤立的工具？

当你开始时，很自然地会选择解决当时最大痛点的单一工具，通常可能是可观测性工具。但随着团队的发展，你会遇到下一个瓶颈，然后添加另一个工具，例如一个ИИ 网关。不知不觉中，你就有了五到七个只要评估体系设置得当，团队就能在上线前进行更好的离线实验,观察系统的实际表现。随后,通过在线监控这些相同的评估指标, 你可以发现模型何时发生漂移,或智能体行为何时开始随时间变化。这样一来，你在离线测试、在线监控和防护措施中，就拥有了一套一致的质量度量标准。

展望未来，您认为什么将定义下一代企业级AI智能体——O rq.ai如何定位自身，以成为那个世界的默认运营平台？

展望未来,我认为定义下一代企业AI智能体的关键将是,每个供应商都会提供自己的智能体。在大型企业中，这将形成一个由第一方和第三方智能体共同工作、相互调用的广阔图景。

这不会只是单一类型的智能体或单一供应商；而是一个需要治理和合规的完整生态系统。而这正是Orq的切入点。我们将自身定位为智能体控制塔,为组织中的不同层级提供正确的聚合视图和可操作的洞察，以便在任何阶段进行干预。

无论是构建、扩展、运营，甚至是下线智能体，不同的职能部门都需要对该图景有不同的视图。我们将成为提供这一能力的首选供应商。

感谢您接受这次精彩的采访,希望了解更多信息的读者请访问 orq.ai.