Sohrab Hosseini, spoluzakladatel orq.ai – rozhovor

Sohrab Hosseini, spoluzakladatel orq.ai, je technologický leader a podnikatel se sídlem v oblasti Amsterdamu s hlubokými zkušenostmi v oblasti SaaS, velkých systémů a aplikované umělé inteligence. Od založení orq.ai v roce 2022 se zaměřil na budování praktické infrastruktury, která pomáhá týmům přesunout velké jazykové modely z experimentování do spolehlivého produkčního použití. Jeho pozadí zahrnuje seniorní vedoucí role jako COO a CTO ve společnosti Neocles, CTO pro budoucí technologii ve společnosti Transdev, kde pracoval na autonomní trase a správě flotily, a COO ve společnosti TradeYourTrip. Souběžně je aktivní jako poradce a andělský investor, který podporuje začínající AI společnosti s produkční směrováním, technickým úsudkem a výkonnou strategií.

orq.ai je platforma pro spolupráci a LLMOps generativní umělé inteligence, která je navržena tak, aby pomáhala organizacím navrhovat, provozovat a škálovat produkty a agenty s umělou inteligencí v reálném prostředí. Platforma nabízí správu promptů, experimentování, sběr zpětné vazby a reálnou viditelnost výkonu a nákladů v jediném pracovním prostoru, zatímco zůstává kompatibilní se všemi hlavními poskytovateli velkých jazykových modelů. Díky umožnění blízké spolupráce mezi technickými a netechnickými týmy pomáhá orq.ai společnostem zkrátit dobu vydání, zlepšit správu a transparentnost a snížit složitost a náklady na provozování systémů s umělou inteligencí v produkčním prostředí.

Máte bohaté zkušenosti v seniorních technických a provozních rolích napříč autonomními systémy, technologií správy flotily a SaaS platformami, než jste založili Orq.ai — jak vám tato kariérní cesta ovlivnila rozhodnutí postavit podnikový kontrolní vrstvu pro agenty s umělou inteligencí v roce 2022?

Naše pozadí vždy bylo o vedení inženýrských týmů a zaměřování se na platformy pro umožnění; věci jako cloud, DevOps a datové umožnění, zejména během našeho času jako technologičtí konzultanti. Když začal boom generativní umělé inteligence, můj spoluzakladatel a já se sami sebe zeptali: jaký druh umožnění budou potřebovat podniky ne jen k budování umělé inteligence, ale také k jejímu řádnému řízení?

Viděli jsme, že skutečná potřeba je pro podnikový kontrolní vrstvu pro agenty s umělou inteligencí. To nás vedlo k tomu, abychom postavili Orq.ai.

Když jste poprvé spustili Orq.ai, co jste viděli na trhu, co vás přesvědčilo, že skutečná úzká místa nejsou kvalitou modelu, ale neschopností převést agenty ze zkušebních verzí do spolehlivého produkčního prostředí?

Vždy jsme věřili, že když stavíte inovativní software, musíte stavět pro budoucnost. Od začátku jsme předpokládali, že velké jazykové modely budou stále lepší a inteligentnější s časem. Takže skutečným problémem, který jsme viděli, nebyla kvalita modelu sama o sobě, ale všechny kontrolní, správní a životní problémy, které vznikají, když se snažíte přesunout z demonstrace do skutečného produkčního prostředí.

Jinými slovy, i když se modely zlepšují, skutečná hodnota pro naše klienty (a pro nás) spočívá v tom, aby tyto systémy skutečně spolehlivě fungovaly v produkčním prostředí. A to je přesně to, co jsme se pokusili vyřešit.

Většina týmů může postavit působivé prototypy, ale zápasí s orchestrací běhu, správou a monitorováním. Z vašeho pohledu, co je největší bod zlomu, když inženýrské týmy snaží škálovat z prostředí prokazující koncept do živého produkčního agenta?

Největší bod zlomu je, že týmy často myslí, že je to přímá, lineární cesta od začátku budování agenta k jeho dokončení. Ve skutečnosti je to velmi iterativní proces.

Stále upravujete své předpoklady, testujete je, přesouváte věci do produkčního prostředí a poté monitorujete, co se děje ve skutečném světě. Najdete hraniční případy a poté začnete ten cyklus znovu.

Vyzví je, že to není jednorázový úsilí; je to kontinuální smyčka úpravy. A aby tomu bylo tak, není to jen to, že je to iterativní, ale je to, že často chybí dostatečné nástroje nebo konstrukce, aby tento proces podporovaly hladce.

Potřebujete způsob, jak umožnit odborníkům na doméně, produktovým manažerům a inženýrům spolupracovat bez vytváření sil nebo drahých předávacích procesů, které浪 mnoho času. Takže to je další velký kus puzzle: zajistit, aby všechny tyto zúčastněné strany mohly iterovat společně efektivně. A to je něco, co jsme se pokusili vyřešit.

Orq.ai se позициuje jako sjednocená kontrolní vrstva, která zahrnuje experimentování, hodnocení, pozorovatelnost a běh. Proč jste věřili, že architektura od začátku do konce je nezbytná, místo nabízení izolovaných nástrojů, jako je tomu u mnoha bodových řešení?

Když začínáte, je přirozené vybrat si jeden nástroj, který řeší váš největší bolestivý bod v daném okamžiku, často to může být pozorovatelnost. Ale jak váš tým evoluuje, narazíte na další úzké místo a přidáte další nástroj, například bránu AI. Předtím, než si to uvědomíte, máte pět až sedm různých nástrojů ve vašem prostředí. Data se fragmentují, lidé ztrácí přehled a vydeşete zdroje pouze na údržbu všech těchto integrací. Ztrácíte ten sjednocený pohled napříč vaším životním cyklem.

Věřili jsme, že jakmile se podniky s agenty objeví, budete opravdu potřebovat tu architekturu od začátku do konce. Potřebujete sjednocený pohled na to, co všechny vaše agenty dělají napříč organizací, ne pouze fragmentované bodové řešení. To je důvod, proč jsme neviděli žádnou jinou možnost, než zahrnout ty velké části pracovního postupu do sjednocené platformy.

S novým Agent Studio a přepracovaným během, jaké hlavní bolestivé body jste se pokusili vyřešit na základě zpětné vazby od raných zákazníků napříč Evropou a USA?

Co jsme viděli, bylo, že týmy používaly všechny druhy open-source knihoven k budování svých agentů, i když skutečná architektura agenta může být quite jednoduchá. Nakonec měli nafouknuté knihovny, mnoho režijních nákladů a velkou učební křivku, aby dokonce jen jednoduché agenty dostali ven. S Orq jsme chtěli tuto zátěž odlehčit.

Místo toho, aby se starali o architekturu, výpočet, automatické škálování, veškerou infrastrukturu, týmy se mohou soustředit na konfiguraci svých agentů a poskytování jim správných nástrojů a API. My zajišťujeme těžkou práci, aby se mohli soustředit na budování svých skutečných případů použití. A navíc, protože podporujeme celý životní cyklus, postavili jsme specializované pracovní stanice, které vám umožňují skutečně testovat své agenty v měřítku.

To znamená, že můžete najít hraniční případy rychleji a zpevnit své agenty účinněji. Je to všechno o poskytování týmům nástrojů, aby mohli nejen snadno budovat agenty, ale také je zušlechťovat a zpevňovat v reálných scénářích, bez všech těch dalších potíží.

Jak GDPR a evropský zákon o umělé inteligenci zpřísňují požadavky, jak tyto regulace ovlivňují způsoby, kterými podniky navrhují, monitorují a nasazují agenty — a jak se Orq.ai přizpůsobuje?

Není to tak, že tyto požadavky se náhle zpřísňují, jsou prostě součástí zákona, a naši klienti musí se jimi řídit. Co děláme, je zajištění toho, aby týmy měly po celou dobu životního cyklu správné nástroje, evaluátory a zábrany, aby mohly budovat soulad od samého začátku.

Zajišťujeme, aby byla rezidence dat, ochrana dat a vše ostatní zapnuto od začátku. A s geopolitickými stresy a tlakem na technologickou a AI suverenitu v Evropě jsme viděli velkou poptávku po tom. Protože můžeme běžet plně na místě a pomoci podnikům snížit závislost, jsme v dobré pozici, abychom jim pomohli zůstat u řízení svého vlastního osudu.

Podniky stále více požadují architektury připravené na suverenitu a hybridní/deploy na místě. Co vám tato změna říká o tom, kam se infrastruktura podnikové umělé inteligence ubírá?

Každý podnik a dokonce každý případ použití zahrnuje kompromisy. Je to otázka, jak připravený versus jak bezpečný a na místě něco potřebujete. Podporujeme každý styl podél tohoto spektra. Ale co vidíme, je silný důraz na suverenitu a rezidenci dat na úrovni modelu.

Klienti chtějí jasnou informaci o tom, kde jejich data žijí, a schopnost snížit závislost na velkých poskytovatelích cloudu. Díky naší bráně AI, která běží napříč všemi hlavními cloudovými platformami a na místě, mohou týmy snadno učinit tyto kompromisy na základě případu použití. Získávají flexibilitu, aby zůstali u řízení a plynule se pohybovali mezi prostředími.

Vidíme obrovský nárůst poptávky od větších podniků a veřejných institucí.

Jak vidíte multiagentní pracovní postupy, bezpečnostní zábrany a pokročilejší systémy rozumu, jak se podniky pohybují od experimentování k skutečné industrializaci agentů v roce 2026?

Jakmile se použití agentů skutečně industrializuje, vidíme nové typy problémů, zejména s multiagentními nastaveními. Můžete mít desítky nebo dokonce stovky agentů, kteří běží kolem vaší organizace v jakémkoli okamžiku, stejně jako zaměstnanci.

Otázka je: jak je můžete řídit, když máte tento multi-dimenzionální soubor problémů, jako jsou náklady, kvalita dat, rezidence dat, správnost, metriky halucinace a tak dále? Potřebujete novou vrstvu řízení, aby se tím zabývala, a potřebujete bezpečnostní zábrany, které lze nasadit shora.

Potřebujete také shora viditelnost a nové agregované vrstvy, aby váš finanční ředitel, provozní ředitel, bezpečnostní ředitel viděl, co se děje, a mohl zasáhnout s akčními informacemi. Skutečně si myslíme, že v roce 2026 se celý tento „agentní odbor“ koncept a technologie na jeho podporu stanou mnohem žhavějším tématem.

Agentní drift, regrese kvality a nejasné toky dat jsou opakujícími se problémy v produkčním AI. Jak Orq.ai kontrolní vrstva řeší tyto dlouhodobé mezery ve verzi, hodnocení a kontinuálním monitorování?

Každý agent skutečně potřebuje svou vlastní sadu evaluací. Tyto evaluace definují, co je správné a špatné pro konkrétní scénář. Strávením času dopředu nastavením těchto evaluací můžete lépe provádět offline experimenty, abyste viděli, jak se věci chovají, než půjdete live. A poté monitorováním těchto evaluací online můžete zjistit, kdy se modely posunou nebo kdy se chování agenta změní s časem. To vám dává konzistentní sadu kvalitních metrik během offline testů, online monitorování a zábran.

Pohledem dopředu, co si myslíte, že bude definovat další generaci podnikových agentů s umělou inteligencí — a jak se Orq.ai позиcionuje, aby se stal výchozím operačním platformou pro ten svět?

Pohledem dopředu si myslím, že to, co bude definovat další generaci podnikových agentů s umělou inteligencí, je, že každý dodavatel bude poskytovat své vlastní agenty. Ve větších podnicích to bude celý ekosystém prvního a třetího agenta, který bude fungovat společně a volat na sebe.

Nebude to jen jeden typ agenta nebo jeden dodavatel; bude to celý ekosystém, který potřebuje řízení a soulad. A to je přesně tam, kde Orq.ai přichází. Položíme se jako agentní kontrolní věž, která poskytne různé vrstvy v organizaci správný agregovaný pohled a akční informace, aby zasáhli na jakékoli úrovni.

Whether je to budování, škálování, provoz nebo dokonce offboardování agentů, různé funkce budou potřebovat různé pohledy na tu krajinu. A my budeme jít-tam poskytovatelem pro tu schopnost.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit orq.ai.