์ธํฐ๋ทฐ
Sohrab Hosseini, orq.ai์ ๊ณต๋ ์ฐฝ๋ฆฝ์ – ์ธํฐ๋ทฐ ์๋ฆฌ์ฆ
Sohrab Hosseini, orq.ai의 공동 창립자이며, 암스테르담 지역에 기반을 둔 기술 리더이자 기업가로, SaaS, 대규모 시스템, 적용된 AI에 걸친 심오한 경험을 보유하고 있습니다. 2022년 orq.ai를 공동 창립한 이후, 그는 실험에서 신뢰할 수 있는 프로덕션 사용으로 대규모 언어 모델을 이동하는 데 도움이 되는 실용적인 인프라를 구축하는 데 집중해 왔습니다. 그의 배경에는 Neocles의 COO 및 CTO, Transdev의 Future Technology CTO(자율 주행 및 차량 관리에 종사), TradeYourTrip의 COO와 같은 고위급 리더십 역할이 포함되어 있습니다.同時적으로, 그는 초기 단계의 AI 기업들에게 제품 방향, 기술적 판단, 실행 전략을 지원하는 자문가이자 천사 투자자로 활동하고 있습니다.
orq.ai는 조직이 실제 환경에서 AI 파워드 제품과 에이전트를 설계, 운영, 확장하는 데 도움이 되는 생성적 AI 협업 및 LLMOps 플랫폼입니다. 이 플랫폼은 프롬프트 관리, 실험, 피드백 수집, 성능 및 비용의 실시간 가시성을 단일 작업 공간으로 가져오면서, 모든 주요 대규모 언어 모델 제공자와 호환됩니다. 기술 및 비기술 팀 간의 긴밀한 협력을 가능하게 함으로써, orq.ai는 기업들이 릴리스 주기 단축, 거버넌스 및 투명성 개선, 프로덕션에서 AI 시스템을 실행하는 복잡성 및 비용 감소를 도와줍니다.
자율 시스템, 차량 관리 기술, SaaS 플랫폼에서 고위급 기술 및 운영 역할을 수행한 후 Orq.ai를 공동 창립하게 된 경로가 어떻게 되시나요?
우리의 배경은 항상 엔지니어링 팀을 이끄는 것과@Enablement 플랫폼에 초점을 맞추는 것이었습니다. 클라우드, DevOps, 데이터@Enablement과 같은 것들이 특히 기술 컨설턴트로서의 우리의 시간 동안 중요했습니다. 생성적 AI 붐이 시작되었을 때, 저와 공동 창립자는 다음과 같은 질문을 했습니다. 기업들이 AI를 제대로 건설하고, 관리하고, 통제하는 데 필요한@Enablement는 무엇일까요?
우리는 기업이 AI 에이전트를 위한 엔터프라이즈급 제어 레이어가 필요하다는 것을 보았습니다. 이것이 우리가 Orq.ai를 처음으로 구축하게 된 이유입니다.
Orq.ai를 처음 런칭했을 때, 데모에서 신뢰할 수 있는 프로덕션으로 이동하는 것이 실제 병목 현상이 아닌 모델 품질의 문제라는 것을 어떻게 알게 되셨나요?
우리는 항상 혁신적인 소프트웨어를 구축할 때, 미래를 위해 구축해야 한다고 생각했습니다. 처음부터 우리는 대규모 언어 모델이 시간이 지남에 따라 더 나아지고 더 지능적으로 될 것이라고 가정했습니다. 따라서 모델 자체의 품질이 아니라, 데모에서 프로덕션 환경으로 이동할 때 발생하는 제어, 거버넌스, 라이프사이클 관리 문제가 실제적인 도전이라고 생각했습니다.
다시 말해, 모델이 개선되더라도, 실제로 프로덕션에서 신뢰할 수 있게 실행하는 것이 우리의 고객과 우리에게真正한 가치입니다. 이것이 우리가 해결하려고 한 것입니다.
대부분의 팀은 인상적인 프로토タイプ를 구축할 수 있지만, 런타임 오케스트레이션, 거버넌스, 모니터링에 어려움을 겪습니다. 엔지니어링 팀이 증명 환경에서 라이브 프로덕션 에이전트로 확장하려고 할 때, 가장 큰 병목 현상은 무엇이라고 생각하시나요?
팀들은 종종 이것이 선형적인 경로라고 생각하지만, 실제로는 매우 반복적인 프로세스입니다.
假设을 조정하고, 테스트하고, 프로덕션으로 이동한 후 실제 세계에서 발생하는 것을 모니터링합니다. 에지 케이스를 발견하고, 그다음 사이클을 다시 시작합니다.
도전은 이것이 일회적인 노력만이 아니라, 지속적인 개선의 순환입니다. 또한, 이 반복적인 프로세스를 원활하게 지원하는 툴링이나 스캐폴딩이 충분히 준비되어 있지 않은 경우가 많습니다.
도메인 전문가, 제품 매니저, 엔지니어가 협력할 수 있지만, 실로 또는 비싼 핸드오버를 생성하지 않도록 하는 방법이 필요합니다. 이것이 또 다른 큰 조각입니다. 효율적으로 협력할 수 있도록 이러한 이해관계자들을 지원하는 것입니다. 이것은 우리가 정말로 해결하려고 노력했습니다.
Orq.ai는 실험, 평가, 관찰 가능성, 런타임을 아우르는 통일된 제어 레이어로 пози션을 잡고 있습니다. 왜 단일 도구가 아닌 종단 간 아키텍처가 필수적인지, 그리고 많은 포인트 솔루션과는 어떻게 다른지 설명해 주시겠습니까?
시작할 때, 가장 큰 고통을 해결하는 단일 도구를 선택하는 것이 자연스럽습니다. 그러나 팀이 진화함에 따라, 다음 병목 현상을 만나고, 또 다른 도구를 추가합니다. 예를 들어, AI 게이트웨이를 추가할 수 있습니다. 어느 순간에, 5~7개의 다른 도구가 랜드스케이프에 있습니다. 데이터가 단편화되고, 가시성이 손실되고, 이러한 통합을 유지하는 데 자원을浪費합니다. 라이프사이클 전체에 걸친 통일된 뷰를 잃어버립니다.
우리는 에이전트 주도형 기업이 등장함에 따라, 이러한 종단 간 아키텍처가真正로 필요하다고 믿었습니다. 조직 전체에서 에이전트가 하는 모든 것을 아우르는 통일된 뷰가 필요합니다. 단편적인 포인트 솔루션이 아닙니다. 이것이 우리가 다른 방법으로 보지 못한 이유입니다. 이러한 큰 워크플로우의 부분을 통일된 플랫폼에 포함시킵니다.
새로운 에이전트 스튜디오와 재설계된 런타임과 관련하여, 초기 고객들의 피드백을 바탕으로 어떤 주요한 병목 현상을 해결하려고 했습니까?
우리가 본 것은 팀들이 에이전트를 구축하기 위해 다양한 오픈소스 라이브러리를 사용하고 있었지만, 실제 에이전트의 아키텍처는 khá 단순할 수 있습니다. 그러나 그들은 부풀린 라이브러리, 많은 오버헤드, 심지어 간단한 에이전트를 구축하기 위한 큰 러닝 커브를 갖게 됩니다. Orq.ai에서는 이 부담을卸下하고자 했습니다.
아키텍처, 컴퓨팅, 오토스케일링, 모든 인프라에 대해 걱정할 필요 없이, 팀은 에이전트를 구성하고 올바른 도구와 API를 제공하는 데 집중할 수 있습니다. 우리는 중대한 작업을 처리하여 실제 사용 사례를 구축하는 데 집중할 수 있도록 합니다. 또한, 전체 라이프사이클을 지원하기 때문에, 대규모로 에이전트를 테스트할 수 있는 전문 워크벤치를 구축했습니다.
이것은 에지 케이스를 더 빠르게 찾고, 에이전트를 더 효과적으로 강화할 수 있도록 합니다. 팀들이 에이전트를 쉽게 구축하고, 실제 세계의 시나리오에서 에이전트를 다듬고, 강화할 수 있는 도구를 제공하는 것입니다. 모든 추가적인 수고로움 없이 말입니다.
GDPR 및 EU AI 법이 요구사항을 강화함에 따라, 기업들이 에이전트를 설계, 모니터링, 배포하는 방식이 어떻게 영향을 받고 있나요? 또한, orq.ai는 어떻게 적응하고 있나요?
요구사항이 갑자기 강화된 것은 아닙니다. 법의 일부이며, 고객들이 이를 준수해야 합니다. 우리는 라이프사이클 전체에서 팀들이 올바른 도구, 평가자, 가드레일을 제공하여, 컴플라이언스를 일일이 구축할 수 있도록 합니다.
데이터 거주지, 데이터 프라이버시, 모든 것이 처음부터 구축됩니다. 또한, 지리정치적 스트레스와 유럽의 기술 및 AI 주권에 대한 추진으로, 우리는 이를 지원하는 데 강한 수요를 보았습니다. 온프레미스에서 완전히 실행할 수 있으며, 기업들이 자신의 운명을 제어하는 데 도움이 될 수 있기 때문에, 우리는 좋은 위치에 있습니다.
기업들은 점점 더 주권 준비가 된 아키텍처와 하이브리드/온프레미스 배포를 요구하고 있습니다. 이것은 기업 AI 인프라가 어디로 향하고 있는지에 대해 무엇을 알려주나요?
모든 기업과 각 사용 사례에는 트레이드오프가 있습니다. 준비된 것과 보안 및 온프레미스 간의 균형입니다. 우리는 모든 스펙트럼을 지원합니다. 그러나 우리는 모델 레이어에서 주권과 데이터 거주지에 대한 강한 초점을 보고 있습니다.
클라이언트는 데이터가 어디에 살고 있는지에 대한 명확성과 큰 클라우드 제공업체에 대한 의존도를 줄이는 능력을 원합니다. 우리의 AI 게이트웨이는 모든 주요 클라우드 플랫폼과 온프레미스에서 실행되므로, 팀은 사용 사례별로 이러한 트레이드오프를 쉽게 만들 수 있습니다. 그들은 제어를 유지하고 환경 간에 무리 없이 이동할 수 있습니다.
우리는 더 큰 기업과 공공 기관으로부터 수요의 급증을 보고 있습니다.
2026년에 기업들이 실험에서 실제 에이전트 산업화로 이동함에 따라, 멀티 에이전트 워크플로우, 안전 가드레일, 더 고급된 추론 시스템은 어떻게 진화할 것으로 생각하시나요?
에이전트 사용이 실제로 산업화됨에 따라, 우리는 새로운 유형의 문제를 보게 됩니다. 특히 멀티 에이전트 설정에서, 조직 전체에서 동시에 실행 중인 수십 또는 수백 개의 에이전트가 있을 수 있습니다. 像従業員一样.
문제는 이러한 다차원적인 문제를 모두 어떻게 관리할 것인가입니다. 비용, 데이터 품질, 데이터 거주지, 올바름, 환상 메트릭스 등입니다. 새로운 거버넌스 레이어가 필요하고, 상위에서 배포할 수 있는 안전 가드레일이 필요합니다.
CFO, COO, CISO가 무슨 일이 일어나고 있는지 볼 수 있고, 행동할 수 있는 통찰력을 얻을 수 있도록, 상위에서 가시성과 새로운 집계 레이어가 필요합니다. 우리는 2026년에, 이 “에이전트 부서” 개념과 이를 지원하는 기술이 훨씬 더 뜨거운 주제가 될 것이라고 생각합니다.
에이전트 드리프트, 품질 회귀, 불분명한 데이터 흐름은 프로덕션 AI에서 반복되는 문제입니다. Orq.ai의 제어 레이어는 버전 관리, 평가, 지속적인 모니터링의 이러한 오랜 간격을 어떻게 해결하나요?
모든 에이전트는 자신의 평가 하네스를 필요로 합니다. 이러한 평가 세트는 특정 시나리오에서 무엇이 옳고 그른지 정의합니다. 이러한 평가 세트를 올바르게 설정하는 데 시간을 투자함으로써, 팀은 오프라인 실험을 통해 어떻게 행동하는지 보기 전에 더 나은 테스트를 수행할 수 있습니다. 그리고 동일한 평가를 온라인에서 모니터링함으로써, 모델이 드리프트하거나 에이전트 행동이 시간이 지남에 따라 변경되기 시작할 때를 알 수 있습니다. 일관된 품질 메트릭스를 오프라인 테스트, 온라인 모니터링, 가드레일링에서 가집니다.
미래를 내다보면, 기업급 AI 에이전트의 다음 세대는 무엇으로 정의될까요? 또한, orq.ai는 이러한 세계에서 기본적인 운영 플랫폼이 되기 위해 어떻게 자리매김하고 있나요?
미래를 내다보면, 기업급 AI 에이전트의 다음 세대는 모든 벤더가 자신의 에이전트를 제공할 것입니다. 더 큰 기업에서는 첫 번째 및 第三方 에이전트가 모두 함께 작동하고 서로 호출하는 광범위한 풍경이 될 것입니다.
하나의 유형의 에이전트나 하나의 벤더가 아닙니다. 거버넌스와 컴플라이언스가 필요한 전체 생태계입니다. 이것이 Orq가 들어오는 곳입니다. 우리는 에이전트 컨트롤 타워로 자리매김하고 있으며, 조직의 다양한 레이어에 올바른 집계된 뷰와 행동할 수 있는 통찰력을 제공하여, 언제든지 개입할 수 있도록 합니다.
에이전트를 구축, 확장, 운영, 또는 오프보딩하는 것과 같은, 에이전트를 건설, 확장, 운영, 또는 오프보딩하는 것과 같은, 다른 기능은 이 풍경의 다른 뷰가 필요할 것입니다. 우리는 이러한 기능을 제공할 기본 제공자가 될 것입니다.
이번 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 orq.ai를 방문할 수 있습니다.
