索拉布·侯赛尼，orq.ai联合创始人 – 采访系列

索拉布·侯赛尼，orq.ai联合创始人，是一位位于阿姆斯特丹地区的技术领袖和企业家，具有深厚的SaaS、大规模系统和应用人工智能经验。自2022年创立orq.ai以来，他专注于构建实用的基础设施，以帮助团队将大型语言模型从实验转移到可靠的生产环境中。他的背景包括在Neocles担任COO和CTO，在Transdev担任未来技术CTO（他曾在自动化路线和车队管理方面工作），以及在TradeYourTrip担任COO。同时，他还担任早期AI公司的顾问和天使投资者，提供产品方向、技术判断和执行策略方面的支持。

orq.ai是一个用于协作和LLMOps的生成人工智能平台，旨在帮助组织在真实世界环境中设计、操作和扩展人工智能驱动的产品和代理。该平台将提示管理、实验、反馈收集和实时性能和成本可视性整合到一个工作空间中，同时保持与所有主要大型语言模型提供商的兼容性。通过使技术和非技术团队之间实现紧密合作，orq.ai帮助公司缩短发布周期、提高治理和透明度，并降低在生产环境中运行人工智能系统的复杂性和成本。

您曾在自动化系统、车队管理技术和SaaS平台中担任过高级技术和运营职位，然后创立了Orq.ai——您的职业路径如何影响您在2022年构建企业级AI代理控制层的决定？

我们的背景一直围绕着领导工程团队和关注使能平台；例如云、DevOps和数据使能，特别是在我们担任技术顾问期间。当生成人工智能热潮开始时，我的联合创始人和我问自己：企业不仅需要构建人工智能，还需要正确地治理和控制它——他们需要什么样的使能？

我们看到真正的需求是企业级AI代理控制层。这导致我们最初构建Orq.ai。

当您首次推出Orq.ai时，您在市场中看到什么，让您相信真正的瓶颈不是模型质量，而是无法将代理系统从演示转移到可靠的生产环境中？

我们一直相信，当您构建创新软件时，您必须为未来构建。从一开始，我们就假设大型语言模型将随着时间的推移变得越来越好、越来越智能。因此，我们看到的真正挑战不是模型质量本身，而是当您尝试从演示转移到真正的生产环境时出现的所有控制、治理和生命周期管理问题。

换句话说，即使模型改进，真正的价值对于我们的客户（和我们）来说是确保这些系统在生产中可靠运行。这正是我们要解决的问题。

大多数团队可以构建令人印象深刻的原型，但在运行时编排、治理和监控方面却苦苦挣扎。在您的看法中，工程团队在尝试从概念验证环境扩展到直播生产代理时，单一最大断点是什么？

最大断点是，团队经常认为从构建代理到完成是一个直接的线性过程。实际上，这是一个非常迭代的过程。

您不断调整假设、测试它们、将其移入生产，然后监控在现实世界中发生的事情。您会发现边缘情况，然后再次开始该循环。

挑战在于这不是一次性的努力；这是一个持续的改进循环。并且为了建立在此基础上，这不仅仅是迭代的，而且往往缺乏足够的工具或脚手架来支持该过程的顺利进行。

您需要一种方法，使领域专家、产品经理和工程师能够合作，而不会创建孤岛或昂贵的交接，这会浪费大量时间。因此，这也是一个大难题：确保所有这些利益相关者都可以高效地迭代。并且这也是我们真正尝试解决的问题。

Orq.ai将自己定位为一个统一的控制层，涵盖实验、评估、可观察性和运行时。为什么您认为端到端的架构对于解决问题至关重要，而不是提供诸如许多点解决方案一样的孤立工具？

当您开始时，选择一个解决当前最大痛点的单一工具是很自然的，通常这可能是可观察性。但是，当您的团队演变时，您会遇到下一个瓶颈并添加另一个工具，例如AI网关。在您意识到之前，您已经拥有五到七个不同的工具在您的景观中。数据变得零散，人们失去了可见性，您浪费了资源来维护所有这些集成。您失去了整个生命周期的统一视图。

我们相信，随着代理驱动的企业出现，您真正需要这种端到端的架构。您需要对整个组织中所有代理的行为有一个统一的视图，而不仅仅是分散的点解决方案。这就是为什么我们没有看到其他解决方案来涵盖工作流中的这些大部分内容，而是构建了一个统一的平台。

凭借新的Agent Studio和重新设计的运行时，您基于来自欧洲和美国的早期客户的反馈，尝试解决哪些主要痛点？

我们看到团队正在使用各种开源库来构建代理，尽管代理的实际架构可能相当干净和简单。他们最终拥有了臃肿的库、许多开销和一个巨大的学习曲线，仅仅是为了让简单的代理出来。使用Orq，我们希望卸载这一负担。

团队无需担心架构、计算、自动缩放和所有基础设施，只需专注于配置代理并为其提供正确的工具和API。我们处理重活，让他们专注于构建实际的使用案例。并且，因为我们支持整个生命周期，我们构建了专门的工作台，让您真正可以在大规模上测试代理。

这意味着您可以更快地找到边缘情况，并更有效地加强代理。所有这一切都是关于为团队提供工具，不仅仅是轻松构建代理，还要在现实世界场景中改进和加强它们，而不需要额外的麻烦。

随着GDPR和EU AI法规收紧要求，企业如何设计、监控和部署代理——Orq.ai如何适应这些变化？

这并不是说这些要求突然收紧，它们只是法律的一部分，我们的客户必须遵守。我们正在确保整个生命周期中，为团队提供正确的工具、评估器和防护栏，以便他们可以从第一天开始构建合规性。

我们确保数据居住地、数据隐私等所有这些都从一开始就融入其中。并且由于地缘政治压力和欧洲对技术和人工智能主权的推动，我们看到对此的巨大需求。由于我们可以完全在本地运行，并帮助企业减少对大型云提供商的依赖，我们处于一个良好的位置来帮助他们控制自己的命运。

企业越来越多地要求主权即将到来的架构和混合/本地部署。这种转变告诉您，企业人工智能基础设施的未来会如何？

每个企业和每个使用案例都涉及权衡。它是一个问题，即需要多少现成和安全的本地解决方案。我们支持整个光谱中的每一种风味。但是，我们看到的是对模型层面的主权和数据居住地的强烈关注。

客户希望清楚地了解其数据的存储位置，并能够减少对大型云提供商的依赖。由于我们的AI网关可以跨所有主要云平台和本地运行，团队可以轻松地根据使用案例进行权衡。他们可以保持灵活性，控制自己的命运，并在环境之间无缝切换。

我们从大型企业和公共部门机构看到巨大的需求激增。

随着企业从实验转向真正的代理工业化，您预计多代理工作流、安全防护栏和更高级的推理系统将如何演变？

随着代理的使用真正工业化，我们看到新的问题出现，特别是在多代理设置中。您可能在组织中同时运行数十甚至数百个代理，就像员工一样。

问题是：当您有多维问题时，例如成本、数据质量、数据居住地、正确性、幻觉指标等，您如何管理所有这些？您需要一个新的治理层来处理这一点，您需要可以从上部署的安全防护栏。

您还需要从上到下的可见性和新的聚合层，以便您的CFO、COO、CISO可以看到发生了什么，并以可行的见解进行干预。我们真的认为，在2026年，这个“代理部门”的概念和支持它的技术将成为一个更热门的话题。

代理漂移、质量回归和不明确的数据流是生产人工智能中的反复出现的问题。Orq.ai的控制层如何解决版本控制、评估和持续监控中的这些长期存在的差距？

每个代理都需要自己的评估套件。这些评估基本上定义了特定场景中什么是正确和错误的。通过花时间正确设置这些评估套件，团队可以更好地进行离线实验，以查看事情在上线之前如何表现。然后，通过在线监控这些相同的评估，他们可以发现模型漂移或代理行为随时间变化时的情况。这样，您就可以在离线测试、在线监控和防护栏中拥有一致的质量指标集。

展望未来，您认为什么将定义下一代企业级AI代理——Orq.ai如何定位自己成为该世界的默认运营平台？

展望未来，我认为将定义下一代企业AI代理的是，每个供应商都将提供自己的代理。在大型企业中，这将是一个由第一方和第三方代理组成的广泛景观，它们将相互调用和协作。

这不仅仅是一个类型的代理或一个供应商；这是一个需要治理和合规的整个生态系统。这就是Orq的用武之地。我们正在将自己定位为代理控制塔，为组织的各个层级提供正确的聚合视图和可行的见解，以便在任何阶段进行干预。

无论是构建、扩展、操作还是卸载代理，不同的功能都需要对该景观有不同的视图。我们将成为提供该功能的首选提供商。

无论是构建、扩展、操作还是卸载代理，不同的功能都需要对该景观有不同的视图。我们将成为提供该功能的首选提供商。感谢这次精彩的采访，希望了解更多的读者可以访问orq.ai。