Sohrab Hosseini, medgrunnlegger av orq.ai – Intervju-serie

Sohrab Hosseini, medgrunnlegger av orq.ai, er en teknologileder og entreprenør basert i Amsterdam-området med dypt erfaring fra SaaS, store skala systemer og anvendt AI. Siden han grunnla orq.ai i 2022, har han fokusert på å bygge praktisk infrastruktur som hjelper team å flytte store språkmodeller fra eksperimentering til pålitelig produksjonsbruk. Hans bakgrunn inkluderer seniort ledelsesroller som COO og CTO i Neocles, CTO for fremtidens teknologi i Transdev hvor han arbeidet med autonom ruting og flåteledelse, og COO i TradeYourTrip. I tillegg er han aktiv som rådgiver og engasjementinvestor, og støtter tidlige AI-selskaper med produktretning, teknisk dømmekraft og gjennomføringsstrategi.

orq.ai er en generativ AI-samarbeids- og LLMOps-plattform bygget for å hjelpe organisasjoner med å designe, operere og skalerer AI-drevne produkter og agenter i sanntidsmiljøer. Plattformen bringer prompt-håndtering, eksperimentering, tilbakekoblingssamling og sanntidsvisning av ytelse og kostnader inn i en enkelt arbeidsplass, samtidig som den forblir kompatibel med alle større store språkmodell-leverandører. Ved å muliggjøre tett samarbeid mellom tekniske og ikke-tekniske team, hjelper orq.ai selskaper med å forkorte utgivelses周期er, forbedre styring og gjennomsiktighet, og redusere kompleksiteten og kostnadene ved å kjøre AI-systemer i produksjon.

DU har hatt seniort tekniske og operative roller over autonomiske systemer, flåteledningsteknologi og SaaS-plattformer før du grunnla Orq.ai — hvordan formede denne karriereveien din beslutning om å bygge en bedriftsgradert kontrolllag for AI-agenter i 2022?

Vår bakgrunn har alltid vært å lede ingeniørteam og fokusere på enablement-plattformer; ting som sky, DevOps og data-enablement, spesielt under vår tid som teknologikonsulenter. Når den generative AI-boomen startet, spurte min medgrunnlegger og jeg oss selv: hva slags enablement vil bedrifter trenge ikke bare for å bygge AI, men for å styre og kontrollere det ordentlig?

Vi så at det virkelige behovet var for en bedriftsgradert kontrolllag for AI-agenter. Dette ledet oss til å bygge Orq.ai fra første sted.

Når du først lanserte Orq.ai, hva så du i markedet som overbeviste deg om at den virkelige flaskehalsen ikke var modellkvalitet, men evnen til å ta agenter fra demonstrasjoner til pålitelig produksjon?

Vi har alltid trodd at når du bygger innovative programvare, må du bygge for fremtiden. Fra starten av, antok vi at store språkmodeller bare ville bli bedre og smartere over tid. Så, den virkelige utfordringen vi så, var ikke modellkvaliteten i seg selv, men alle kontroll-, styrings- og livssyklus-problemene som oppstår når du prøver å flytte fra en demo til en virkelig produksjonsmiljø.

I andre ord, selv om modellene blir bedre, er den virkelige verdien for våre kunder (og for oss) å sikre at disse systemene faktisk kjører pålitelig i produksjon. Og det er virkelig hva vi satte oss til å løse.

De fleste team kan bygge imponerende prototyper, men sliter med kjøretids-orkesering, styring og overvåking. I din mening, hva er den største bruddpunktet når ingeniørteam prøver å skalerer fra en proof-of-concept-miljø til en live produksjonsagent?

Det største bruddpunktet er at team ofte tror det er bare en rett, lineær vei fra å starte å bygge en agent til å ha den ferdig. I virkeligheten er det en veldig iterativ prosess.

Du justerer konstant dine antakelser, tester dem, flytter ting inn i produksjon, og deretter overvåker hva som skjer i den virkelige verden. Du finner edge-cases, og deretter starter du den syklusen igjen.

Utfordringen er at det ikke bare er en enkelt innsats; det er en kontinuerlig løkke av forbedring. Og for å bygge på det, er det ikke bare at det er iterativt, men det er at det ofte ikke er nok verktøy eller skjelett til stede for å støtte den prosessen smidig.

Du trenger en måte for domene-eksperter, produktledere og ingeniører å samarbeide uten å skape siloer eller dyre overleveringer som ødelegger mye tid. Så det er en annen stor del av puslespillet: å sikre at alle disse interessentene kan iterere sammen effektivt. Og det er noe vi har forsøkt å løse også.

Orq.ai stiller seg som en samlet kontrolllag som omfatter eksperimentering, evaluering, overvåkning og kjøretid. Hvorfor trodde du en helhetlig arkitektur var essensiell, i stedet for å tilby isolerte verktøy som mange punktløsninger?

Når du starter ut, er det naturlig å plukke et enkelt verktøy som løser ditt største smerte punkt på det tidspunktet, ofte det kan være overvåkning. Men når ditt team utvikler seg, treff du neste flaskehals og legger til et annet verktøy, for eksempel en AI-gateway. Før du vet ordet av det, har du 5-7 forskjellige verktøy i ditt landskap. Data blir fragmentert, mennesker mister oversikt, og du ødelegger ressurser bare på å vedlikeholde alle disse integrasjonene. Du mister den samlede oversikten over din livssyklus.

Vi trodde at som agent-drevne bedrifter oppstår, trenger du virkelig den helhetlige arkitekturen. Du trenger en samlet oversikt over hva alle dine agenter gjør over hele organisasjonen, ikke bare fragmenterte punktløsninger. Det er derfor vi ikke så noen annen måte enn å omfatte disse store delene av arbeidsflyten i en samlet plattform.

Med den nye Agent Studio og redesignet kjøretid, hva var de største smertepunktene du prøvde å løse basert på tilbakemeldinger fra tidlige kunder over hele Europa og USA?

Hva vi så, var at team brukte alle slags åpne biblioteker for å bygge sine agenter, selv om den faktiske arkitekturen av en agent kan være ganske ren og enkel. De endte opp med oppblåste biblioteker, mye overhead og en stor læringskurve bare for å få enkle agenter ut der. Med Orq, ønsket vi å avlaste den byrden.

I stedet for å bekymre seg for arkitekturen, beregningen, autoskaleringen, all den infrastrukturen, kan teamene bare fokusere på å konfigurere sine agenter og gi dem riktige verktøy og API-er. Vi håndterer den tunge løftingen så de kan konsentrere seg om å bygge sine faktiske brukstilfeller. Og på toppen av det, fordi vi støtter hele livssyklusen, har vi bygget spesialiserte arbeidsbenker som lar deg virkelig teste dine agenter i skala.

Det betyr at du kan finne edge-cases raskere og hardne dine agenter mer effektivt. Det handler om å gi teamene verktøyene ikke bare for å bygge agenter enkelt, men for å forbedre og styrke dem i sanntids-scenarier, uten all den ekstra ulempen.

Som GDPR og EU AI-loven strammer kravene, hvordan påvirker disse reguleringene måtene bedrifter designer, overvåker og distribuerer agenter — og hvordan tilpasser Orq.ai seg?

Det er ikke så mye at disse kravene plutselig strammer, de er bare en del av loven, og våre kunder må følge dem. Hva vi gjør, er å sikre at gjennom hele livssyklusen, gir vi teamene riktige verktøy, evalueringer og retningslinjer så de kan bygge samsvar inn fra dag én.

Vi sikrer data-bosetting, data-privatliv, all den delen, er innbygget fra starten av. Og med de geopolitiske spenningene og presset for teknologi- og AI-suverenitet i Europa, har vi sett en stor etterspørsel etter det. Siden vi kan kjøre fullt på egen hånd og hjelpe bedrifter med å redusere avhengighet, er vi i en god posisjon til å hjelpe dem med å holde kontroll over deres egen skjebne.

Bedrifter ber stadig om suverene arkitekturer og hybrid-/på-eget-sted-distribusjoner. Hva forteller denne skiftet deg om hvor bedriftens AI-infrastruktur er på vei?

Hvert bedrift og hver enkelt brukstilfelle innebærer kompromisser. Det handler om hvor ferdig-lagde versus hvor sikre og på-eget-sted de må være. Vi støtter hver smak langs dette spekteret. Men hva vi ser, er en sterk fokus på suverenitet og data-bosetting på modell-nivå.

Kunder ønsker klart svar på hvor deres data bor og evnen til å redusere avhengighet av store skytjenesteleverandører. Takk til vår AI-gateway, som kjører over alle større sky-plattformer og på-eget-sted, kan teamene enkelt gjøre disse kompromissene på en brukstilfelle-basis. De får fleksibiliteten til å holde kontroll og flytte uhindret mellom miljøer.

Vi ser en enorm etterspørsel fra større bedrifter og offentlige institusjoner.

Hvordan ser du på multi-agent-arbeidsflyter, sikkerhetsretningslinjer og mer avanserte resoneringssystemer som utvikler seg mens bedrifter flytter fra eksperimentering til virkelig agent-industrialisering i 2026?

Som bruken av agenter virkelig industrialiseres, ser vi nye typer problemer oppstå, spesielt med multi-agent-oppsettinger. Du kan ha dusinvis eller til og med hundrevis av agenter som kjører rundt i din organisasjon på samme tid, akkurat som ansatte.

Spørsmålet er: hvordan styrer du alle disse når du har denne multi-dimensionale mengden av problemer, som kostnader, datakvalitet, data-bosetting, riktighet, hallucinasjons-målinger og så videre? Du trenger en ny styringslag til å håndtere det, og du trenger sikkerhetsretningslinjer som kan deployes topp-ned.

Du trenger også topp-ned oversikt og nye aggregasjonslag så at din CFO, COO, CISO kan se hva som skjer og gripe inn med håndgripelige innsikter. Vi tror virkelig at i 2026, denne hele “agent-avdelingen”-konseptet og teknologien til å støtte det, vil bli en mye varmere tema.

Agent-drift, kvalitetsregresjon og uklare dataflyter er gjentakende problemer i produksjons-AI. Hvordan håndterer Orq.ai sin kontrolllag disse langvarige gapene i versjonering, evaluering og kontinuerlig overvåking?

Hver agent trenger virkelig sin egen harness av evalueringer. Disse evalueringene definerer hva som er riktig og galt for den bestemte scenariet. Ved å bruke tid oppfront til å sette disse evalueringssettene opp ordentlig, kan teamene gjøre bedre offline-eksperimentering for å se hvordan ting oppfører seg før de går live. Og deretter, ved å overvåke disse samme evalueringene online, kan du spore når modeller drifter eller når agent-atferd begynner å endre seg over tid. Så du har en konsistent mengde kvalitetsmålinger under offline-tester, online-overvåking og retningslinjer.

Ser fremover, hva tror du vil definere neste generasjon av bedriftsgraderte AI-agenter — og hvordan stiller Orq.ai seg til å bli den standard operative plattformen for den verden?

Ser fremover, tror jeg at hva som vil definere neste generasjon av bedriftsgraderte AI-agenter, er at hver leverandør vil levere sine egne agenter. I større bedrifter, vil det være dette brede landskapet av førsteparts- og tredjepartsagenter som arbeider sammen og kaller på hverandre.

Det vil ikke være bare en type agent eller en leverandør; det vil være et helt økosystem som trenger styring og samsvar. Og det er der Orq kommer inn. Vi stiller oss som agent-kontrolltårnet som gir forskjellige lag i organisasjonen riktig aggregert visning og håndgripelige innsikter til å gripe inn på hvilket som helst stadium.

Uansett om det er bygging, skalering, drift eller til og med avvikling av agenter, vil forskjellige funksjoner trenge forskjellige visninger av det landskapet. Og vi vil være den gå-to-leverandøren for den funksjonaliteten.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke orq.ai.