インタビュー2 months ago
Sohrab Hosseini、orq.ai共同創設者 – インタビューシリーズ
Sohrab Hosseiniは、orq.aiの共同創設者であり、アムステルダム地域を拠点とするテクノロジーリーダー兼起業家です。SaaS、大規模システム、応用AIにわたる深い経験を持っています。2022年にorq.aiを設立して以来、彼はチームが大規模言語モデルを実験段階から信頼性の高い本番環境での使用へと移行するのを支援する実用的なインフラストラクチャの構築に注力しています。彼の経歴には、NeoclesでのCOOおよびCTOとしての上級リーダーシップ職、自律ルーティングとフリート管理に取り組んだTransdevでのFuture Technology CTO、TradeYourTripでのCOOが含まれます。並行して、アドバイザーおよびエンジェル投資家としても活動し、初期段階のAI企業を製品方向性、技術的判断、実行戦略で支援しています。orq.aiは、組織が現実世界の環境でAIを活用した製品やエージェントを設計、運用、スケールさせるのを支援するために構築された、生成AIコラボレーションおよびLLMOpsプラットフォームです。このプラットフォームは、プロンプト管理、実験、フィードバック収集、パフォーマンスとコストへのリアルタイム可視性を単一のワークスペースに統合しつつ、すべての主要な大規模言語モデルプロバイダーとの互換性を維持しています。技術チームと非技術チームの緊密なコラボレーションを可能にすることで、orq.aiは企業がリリースサイクルを短縮し、ガバナンスと透明性を向上させ、本番環境でAIシステムを運用する際の複雑さとコストを削減することを支援します。Orq.aiを設立する前に、自律システム、フリート管理技術、SaaSプラットフォームにわたる上級技術および運用職を歴任されています。そのキャリアパスは、2022年にAIエージェント向けのエンタープライズグレードの制御レイヤーを構築するという決断にどのように影響しましたか？私たちの背景は常に、エンジニアリングチームを率い、クラウド、DevOps、データエナブルメントなどのエナブルメントプラットフォームに焦点を当てることでした。特に技術コンサルタントとしての時代にそうです。生成AIブームが始まったとき、共同創設者と私は自問しました：企業がAIを構築するだけでなく、適切に統治・制御するために必要とするエナブルメントはどのようなものか？真のニーズは、AIエージェント向けのエンタープライズグレードの制御レイヤーにあると認識しました。これが、そもそもOrq.aiを構築するきっかけとなりました。Orq.aiを最初に立ち上げたとき、市場で何を見て、真のボトルネックがモデルの品質ではなく、エージェントシステムをデモから信頼性の高い本番環境に移行できないことだと確信しましたか？革新的なソフトウェアを構築するときは、未来に向けて構築しなければならないと常に考えてきました。最初から、大規模言語モデルは時間とともにどんどん良く、賢くなっていくだけだと想定していました。ですから、私たちが見た真の課題は、モデルの品質そのものではなく、デモから実際の本番環境に移行しようとするときに発生する、すべての制御、ガバナンス、ライフサイクル管理の問題でした。言い換えれば、モデルが改善されても、クライアント（そして私たち自身）にとっての真の価値は、これらのシステムが実際に本番環境で確実に稼働することを保証することです。そして、それがまさに私たちが解決しようとしたことなのです。ほとんどのチームは印象的なプロトタイプを構築できますが、ランタイムオーケストレーション、ガバナンス、監視に苦労しています。あなたの見解では、エンジニアリングチームが概念実証環境から実際の本番エージェントへとスケールしようとするとき、最大の破綻点は何ですか？最大の破綻点は、チームがエージェントの構築を開始してから完成させるまでが、単なる直線的で線形の道筋だと考えがちなことです。実際には、非常に反復的なプロセスです。仮定を常に調整し、それをテストし、本番環境に移行し、そして現実世界で何が起こるかを監視します。エッジケースを見つけ、そしてそのサイクルを最初からやり直すのです。課題は、それが一度きりの努力ではないことです。それは継続的な改良のループです。さらに付け加えると、それが反復的であるだけでなく、そのプロセスを円滑にサポートするための十分なツールや足場が整っていないことが多いのです。ドメインエキスパート、プロダクトマネージャー、エンジニアが、サイロを作ったり、多くの時間を浪費する高価な引き継ぎをすることなく協力できる方法が必要です。ですから、これがパズルのもう一つの大きな部分です：これらすべてのステークホルダーが効率的に一緒に反復できることを確実にすること。そして、それは私たちが本当に解決しようとしてきたことでもあります。Orq.aiは、実験、評価、可観測性、ランタイムにまたがる統合制御レイヤーとして位置づけられています。多くのポイントソリューションのように独立したツールを提供するのではなく、エンドツーエンドのアーキテクチャが不可欠だと信じた理由は何ですか？始めたばかりのときは、その時点での最大の痛みを解決する単一のツール（多くの場合、それは可観測性かもしれません）を選ぶのは自然なことです。しかし、チームが進化するにつれて、次のボトルネックにぶつかり、別のツール（例えばAIゲートウェイ）を追加します。気がつくと、5つから7つの異なるツールが環境に存在することになります。データは断片化され、人々は可視性を失い、すべてのこれらの統合を維持するだけでリソースを浪費します。ライフサイクル全体にわたる統一されたビューを失ってしまうのです。私たちは、エージェント駆動型企業が出現するにつれて、本当にそのエンドツーエンドのアーキテクチャが必要になると信じていました。組織全体で全てのエージェントが何をしているかの統一されたビューが必要であり、単なる断片的なポイントソリューションではないのです。それが、ワークフローのこれらの大きな部分を統一プラットフォームに包含する以外に方法がないと考えた理由です。新しいAgent Studioと再設計されたランタイムにより、欧州および米国の初期顧客からのフィードバックに基づいて、どのような主要な痛みを解決しようとしましたか？私たちが見たのは、エージェントの実際のアーキテクチャは非常にクリーンでシンプルであるにもかかわらず、チームがエージェントを構築するためにあらゆる種類のオープンソースライブラリを使用しているということでした。その結果、肥大化したライブラリ、多くのオーバーヘッド、そして単純なエージェントでさえも立ち上げるための大きな学習曲線に直面していました。Orqでは、その負担を軽減したかったのです。アーキテクチャ、コンピュート、オートスケーリング、すべてのそのインフラストラクチャを心配する代わりに、チームは単にエージェントを設定し、適切なツールとAPIを与えることに集中できます。私たちが重い作業を引き受けるので、彼らは実際のユースケースの構築に集中できるのです。さらに、私たちはライフサイクル全体をサポートしているため、エージェントを大規模に本当にテストできる専門的なワークベンチを構築しました。つまり、エッジケースをより早く見つけ、エージェントをより効果的に強化できるということです。これは、チームがエージェントを簡単に構築するだけでなく、余分な手間なく現実世界のシナリオでそれらを洗練し、強化するためのツールを提供することに尽きます。GDPRとEU AI法が要件を厳格化する中、これらの規制は、企業がエージェントを設計、監視、展開する方法にどのように影響しており、またOrq.aiはどのように適応していますか？これらの要件が突然厳しくなっているというよりは、それらは法律の一部であり、私たちのクライアントはそれらを遵守しなければなりません。私たちが行っていることは、ライフサイクル全体を通じて、チームが初日からコンプライアンスを構築できるように、適切なツール、評価ツール、ガードレールを提供することです。データレジデンシー、データプライバシー、そのすべてが最初から組み込まれていることを確実にします。そして、地政学的な緊張と欧州における技術およびAI主権への推進力により、その需要が大きく高まっています。完全にオンプレミスで実行でき、企業の依存度を減らすのに役立つため、私たちは彼らが自らの運命をコントロールし続けるのを支援する好位置にいます。企業は、主権に対応したアーキテクチャとハイブリッド/オンプレミス展開をますます求めています。この変化は、企業AIインフラストラクチャの行く末について何を物語っていますか？すべての企業、そして各ユースケースさえも、トレードオフを伴います。それは、どれだけ既製のものか、どれだけ安全でオンプレミスである必要があるかという問題です。私たちはそのスペクトルに沿ったあらゆる種類をサポートしています。しかし、私たちが見ているのは、モデルレイヤーにおける主権とデータレジデンシーへの強い焦点です。クライアントは、自分のデータがどこにあるのか明確にし、大手クラウドプロバイダーへの依存を減らす能力を求めています。主要なクラウドプラットフォームとオンプレミス全体で実行される私たちのAIゲートウェイのおかげで、チームはユースケースごとにこれらのトレードオフを簡単に行うことができます。彼らはコントロールを維持し、環境間をシームレスに移動する柔軟性を得ます。大企業や公共部門の機関からの需要が急増しています。企業が実験段階から2026年の真のエージェント産業化へと移行するにつれて、マルチエージェントワークフロー、安全性ガードレール、より高度な推論システムがどのように進化すると考えますか？エージェントの使用が本当に産業化するにつれて、特にマルチエージェント設定において、新しい種類の問題が出現しているのを見ています。まるで従業員のように、組織内にはいつでも数十、あるいは数百のエージェントが存在するかもしれません。問題は：コスト、データ品質、データレジデンシー、正確性、幻覚メトリクスなど、この多次元的な問題セットがあるときに、それらすべてをどのように統治するか？ それを処理する新しいガバナンスレイヤーが必要であり、トップダウンで展開できる安全性ガードレールが必要です。また、CFO、COO、CISOが何が起こっているのかを見て、実行可能な洞察をもって介入できるようにするための、トップダウンの可視性と新しい集約レイヤーも必要です。私たちは、2026年には、この「エージェント部門」という概念全体とそれをサポートする技術が、はるかにホットな話題になると本当に考えています。エージェントのドリフト、品質の後退、不明確なデータフローは、本番AIにおける繰り返し発生する問題です。Orq.aiの制御レイヤーは、バージョン管理、評価、継続的監視におけるこれらの長年のギャップにどのように取り組んでいますか？すべてのエージェントには、本当に独自の評価ハーネスが必要です。これらの評価は、基本的にその特定のシナリオにおいて何が正しく何が間違っているかを定義します。これらの評価セットを適切に設定するために事前に時間をかけることで、チームは公開前に物事がどのように振る舞うかを確認するためのより良いオフライン実験を行うことができます。そして、これらの同じ評価をオンラインで監視することで、モデルがドリフトしたり、エージェントの動作が時間とともに変化し始めたりするのを検出できます。そうすることで、オフラインテスト、オンライン監視、ガードレーリングにおいて一貫した品質メトリクスのセットを持つことができます。今後、エンタープライズグレードのAIエージェントの次世代を定義するものは何だと考えますか？また、Orq.aiはその世界におけるデフォルトの運用プラットフォームになるためにどのように位置づけていますか？今後を見据えると、エンタープライズAIエージェントの次世代を定義するのは、すべてのベンダーが独自のエージェントを提供するようになることだと思います。大企業では、自社開発とサードパーティのエージェントが広範に広がり、互いに協力し、呼び出し合うことになるでしょう。それは単一のタイプのエージェントや一つのベンダーではなく、ガバナンスとコンプライアンスを必要とするエコシステム全体になるでしょう。そして、そこにOrqが入ります。私たちは、組織内の異なる層に適切な集約ビューと実行可能な洞察を提供し、どの段階でも介入できるエージェント管制塔として自らを位置づけています。エージェントの構築、スケーリング、運用、あるいはオフボーディングであっても、異なる機能はその状況の異なるビューを必要とするでしょう。そして、私たちはその能力のための頼りになるプロバイダーになるつもりです。素晴らしいインタビューをありがとうございました。さらに詳しく知りたい読者は、orq.aiをご覧ください。
