Sohrab Hosseini, Co-Fondator al orq.ai – Seria de Interviuri

Sohrab Hosseini, Co-Fondator al orq.ai, este un lider în tehnologie și antreprenor cu sediul în zona Amsterdam, cu o experiență profundă în domeniul SaaS, sisteme de scară largă și inteligență artificială aplicată. De la fondarea orq.ai în 2022, el s-a concentrat pe construirea unei infrastructuri practice care ajută echipele să mute modelele de limbaj de la experimentare la utilizare în producție fiabilă. Fondul său include roluri de conducere senioră ca COO și CTO la Neocles, CTO de Tehnologie Viitoare la Transdev, unde a lucrat la rute autonome și gestionarea flotelor, și COO la TradeYourTrip. În paralel, el este activ ca advisor și investitor înger, sprijinind companiile de inteligență artificială de stadiu incipient cu direcția produsului, judecata tehnică și strategia de execuție.

orq.ai este o platformă de colaborare și LLMOps generativă, construită pentru a ajuta organizațiile să proiecteze, să opereze și să scaleze produse și agenți alimentați de inteligență artificială în medii din lumea reală. Platforma aduce managementul prompturilor, experimentarea, colectarea feedback-ului și vizibilitatea în timp real a performanței și costurilor într-un singur spațiu de lucru, rămânând compatibilă cu toți principalii furnizori de modele de limbaj de mare scară. Prin facilitarea colaborării strânse între echipele tehnice și netehnice, orq.ai ajută companiile să scurteze ciclurile de lansare, să îmbunătățească guvernanța și transparența și să reducă complexitatea și costul rulării sistemelor de inteligență artificială în producție.

Ați ocupat roluri tehnice și operaționale senior în sisteme autonome, tehnologie de gestionare a flotelor și platforme SaaS înainte de a fonda Orq.ai — cum v-a influențat această cale profesională decizia de a construi un strat de control de nivel întreprindere pentru agenți de inteligență artificială în 2022?

În trecut, am condus echipe de ingineri și ne-am concentrat pe platforme de împuternicire; lucruri precum cloud, DevOps și împuternicirea datelor, mai ales în timpul nostru ca consultanți în tehnologie. Când a început boomul inteligenței artificiale generative, eu și co-fondatorul meu ne-am întrebat: ce fel de împuternicire vor avea nevoie întreprinderile nu doar pentru a construi inteligență artificială, ci și pentru a o guverna și controla corespunzător?

Am văzut că nevoia reală era pentru un strat de control de nivel întreprindere pentru agenți de inteligență artificială. Acest lucru ne-a condus să construim Orq.ai din start.

Când ați lansat pentru prima dată Orq.ai, ce ați văzut pe piață care v-a convins că adevăratul blocaj nu era calitatea modelului, ci incapacitatea de a muta sisteme agențiale de la demo la producție fiabilă?

Am crezut întotdeauna că, atunci când construiți software inovator, trebuie să construiți pentru viitor. De la început, am presupus că modelele de limbaj de mare scară vor continua să devină mai bune și mai inteligente în timp. Așadar, adevărata provocare pe care am văzut-o nu a fost calitatea modelului în sine, ci toate problemele de control, guvernanță și gestionare a ciclului de viață care apar atunci când încerci să treci de la un demo la un mediu de producție real.

În alte cuvinte, chiar și pe măsură ce modelele se îmbunătățesc, valoarea reală pentru clienții noștri (și pentru noi) constă în a face ca aceste sisteme să ruleze cu adevărat fiabil în producție. Și acesta este ceea ce am încercat să rezolvăm.

Majoritatea echipelor pot construi prototipuri impresionante, dar se confruntă cu dificultăți la orchestrarea în timpul rulării, guvernanța și monitorizarea. Din punctul dvs. de vedere, care este cel mai mare punct de blocaj atunci când echipele de ingineri încearcă să scaleze de la un mediu de demonstrație la un agent de producție live?

Cel mai mare punct de blocaj este că echipele adesea cred că este un drum liniar de la începutul construirii unui agent până la finalizarea lui. În realitate, este un proces foarte iterativ.

Sunteți mereu ajustați ipotezele, testați-le, mutați-le în producție și apoi monitorizați ce se întâmplă în lumea reală. Găsiți cazuri limită și apoi începeți din nou acel ciclu.

Provocarea este că nu este doar o singură încercare; este un ciclu continuu de rafinare. Și pentru a construi pe aceasta, nu este doar că este iterativ, ci și că adesea nu există suficientă instrumentare sau schelet pentru a susține procesul în mod neted.

Aveți nevoie de o modalitate prin care experții în domeniu, managerii de produs și inginerii să colaboreze fără a crea silozuri sau predări scumpe care irosesc mult timp. Așadar, aceasta este o altă piesă importantă a puzzle-ului: asigurarea faptului că toți acești stakeholderi pot iteră în mod eficient împreună. Și acest lucru am încercat să îl rezolvăm.

Orq.ai se poziționează ca un strat de control unificat care acoperă experimentarea, evaluarea, observabilitatea și rularea. De ce ați crezut că o arhitectură de la capăt la capăt este esențială, în loc de a oferi instrumente izolate, cum ar fi multe soluții punctuale?

Când începeți, este firesc să alegeți un instrument care rezolvă cel mai mare punct dureros în acel moment, adesea acesta poate fi observabilitatea. Dar pe măsură ce echipa dvs. evoluează, loviți următoarea blocaj și adăugați un alt instrument, de exemplu, o poartă de inteligență artificială. Înainte de a vă da seama, aveți cinci până la șapte instrumente diferite în peisajul dvs. Datele devin fragmentate, oamenii pierd vizibilitatea și irosiți resurse doar pentru a menține toate aceste integrări. Pierdeți acea vedere unificată pe tot ciclul de viață.

Am crezut că, pe măsură ce întreprinderile conduse de agenți emerg, aveți nevoie cu adevărat de o arhitectură de la capăt la capăt. Aveți nevoie de o vedere unificată a ceea ce fac toți agenții dvs. în întreaga organizație, nu doar de soluții punctuale fragmentate. Acesta este motivul pentru care nu am văzut nicio altă cale decât să cuprindem acele părți mari ale fluxului de lucru într-o platformă unificată.

Cu noul Studio de Agenți și rularea redesenată, care au fost principalele puncte dureroase pe care le-ați încercat să le rezolvați pe baza feedback-ului de la clienții timpurii din Europa și SUA?

Ce am văzut a fost că echipele foloseau tot felul de biblioteci open-source pentru a construi agenți, chiar dacă arhitectura unui agent poate fi destul de curată și simplă. Au ajuns cu biblioteci umflate, multă supraîncărcare și o curbă de învățare mare doar pentru a scoate agenți simpli. Cu Orq, am vrut să descărcăm această povară.

În loc de a vă face griji pentru arhitectură, computațional, autoscalare, toată infrastructura, echipele pot pur și simplu să se concentreze pe configurarea agenților și oferirea lor a uneltelor și API-urilor potrivite. Noi gestionăm munca grea, astfel încât ei să se poată concentra pe construirea cazurilor lor de utilizare reale. Și, în plus, deoarece susținem întregul ciclu de viață, am construit ateliere specializate care vă permit să testați cu adevărat agenții la scară.

Acest lucru înseamnă că puteți găsi cazuri limită mai repede și întăriți agenții mai eficient. Este totul despre a oferi echipelor uneltele nu doar pentru a construi agenți ușor, ci și pentru a-i rafina și întări în scenarii din lumea reală, fără toate problemele suplimentare.

Pe măsură ce GDPR și Actul UE privind Inteligența Artificială strâng cerințele, cum influențează aceste reglementări modul în care întreprinderile proiectează, monitorizează și implementează agenți — și cum se adaptează Orq.ai?

Nu este atât de mult că aceste cerințe se strâng brusc, ele fac parte din lege, iar clienții noștri trebuie să se conformeze. Ceea ce facem este să ne asigurăm că, pe tot ciclul de viață, oferim echipelor instrumentele, evaluatorii și gardurile potrivite pentru a construi conformitatea din ziua unu.

Ne asigurăm că rezidența datelor, confidențialitatea datelor, toate acestea sunt încorporate din start. Și, având în vedere stresul geopolitic și împingerea pentru suveranitatea tehnologică și a inteligenței artificiale în Europa, am văzut o cerere mare pentru aceasta. Deoarece putem rula pe deplin în regim local și ajutăm întreprinderile să reducă dependența, suntem într-o poziție bună pentru a le ajuta să rămână în controlul propriului destin.

Întreprinderile cer din ce în ce mai mult arhitecturi gata pentru suveranitate și implementări hibride/ locale. Ce vă spune această schimbare despre direcția în care se îndreaptă infrastructura de inteligență artificială a întreprinderilor?

Fiecare întreprindere și chiar fiecare caz de utilizare implică compromisuri. Este o chestiune de cât de pregătit și cât de sigur și local este necesar. Susținem fiecare aromă de-a lungul acestui spectru. Dar ceea ce vedem este o concentrare puternică pe suveranitate și rezidența datelor la nivelul modelului.

Clienții noștri doresc claritate cu privire la locul în care trăiesc datele lor și capacitatea de a reduce dependența de marii furnizori de cloud. Mulțumită porții noastre de inteligență artificială, care rulează pe toate platformele cloud majore și locale, echipele pot face cu ușurință compromisuri pe baza cazului de utilizare. Obțin flexibilitatea de a rămâne în control și de a se muta fără efort între medii.

Vedem o cerere uriașă din partea unor întreprinderi mai mari și instituții publice.

Cum vedeți evoluția fluxurilor de lucru cu mai mulți agenți, gardurile de siguranță și sistemele de raționament mai avansate, pe măsură ce întreprinderile trec de la experimentare la adevărata industrializare a agenților în 2026?

Pe măsură ce utilizarea agenților se industrializează cu adevărat, vedem apariția unor tipuri noi de probleme, mai ales cu setări de agenți multipli. Puteți avea zeci sau chiar sute de agenți care rulează în jurul organizației dvs. în orice moment, exact ca angajații.

Întrebarea este: cum guvernați toate acestea atunci când aveți un set multidimensional de probleme, cum ar fi costuri, calitatea datelor, rezidența datelor, corectitudinea, metricele de halucinație și așa mai departe? Aveți nevoie de un nou strat de guvernanță pentru a gestiona aceasta și aveți nevoie de garduri de siguranță care pot fi implementate de sus în jos.

Aveți nevoie și de vizibilitate de sus în jos și de noi straturi de agregare, astfel încât directorul financiar, directorul operațional, directorul de securitate a informației să poată vedea ce se întâmplă și să intervină cu insight-uri actionabile. Credem cu adevărat că, în 2026, acest concept de “departament de agenți” și tehnologia care îl susține va deveni un subiect mult mai fierbinte.

Deriva agentului, regresia calității și fluxurile de date neclare sunt probleme recurente în inteligența artificială de producție. Cum abordează stratul de control Orq.ai aceste lacune de lungă durată în versionare, evaluare și monitorizare continuă?

Fiecare agent are nevoie cu adevărat de o sașă proprie de evaluări. Aceste evaluări definesc în esență ce este corect și incorect pentru un anumit scenariu. Prin petrecerea timpului înainte pentru a stabili corect aceste seturi de evaluare, echipele pot face o experimentare offline mai bună pentru a vedea cum se comportă înainte de a merge live. Și apoi, prin monitorizarea acelorași evaluări online, puteți detecta când modelele se abat sau când comportamentul agentului începe să se schimbe în timp. Acest lucru vă oferă o set constant de metrice de calitate în timpul testelor offline, monitorizării online și gardurilor.

Privind înainte, ce credeți că va defini următoarea generație de agenți de inteligență artificială de nivel întreprindere — și cum se poziționează Orq.ai pentru a deveni platforma operațională implicită pentru acea lume?

Privind înainte, cred că ceea ce va defini următoarea generație de agenți de inteligență artificială de nivel întreprindere este că fiecare furnizor va oferi agenți proprii. În întreprinderi mai mari, va fi acest peisaj larg de agenți de primă și a treia parte care lucrează împreună și se cheamă unul pe altul.

Nu va fi doar un singur tip de agent sau un singur furnizor; este un întreg ecosistem care necesită guvernanță și conformitate. Și acolo intră Orq. Ne poziționăm ca turnul de control al agentului care oferă diferitelor straturi din organizație vedere agregată și insight-uri actionabile pentru a interveni la orice stadiu.

Indiferent dacă este vorba de construire, scalare, operare sau chiar de offboarding agenți, diferite funcții vor necesita diferite vederi ale acestui peisaj. Și vom fi furnizorul de încredere pentru această capacitate.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe, le recomandăm să viziteze orq.ai.