Sohrab Hosseini, orq.ai:n toinen perustaja – Haastattelusarja

Sohrab Hosseini, orq.ai:n toinen perustaja, on teknologiajohtaja ja yrittäjä Amsterdamista, jolla on laaja kokemus SaaS:sta, laajamittaisista järjestelmistä ja soveltavasta tekoälystä. Perustettuaan orq.ai:n vuonna 2022, hän on keskittynyt käytännön infrastruktuurin kehittämiseen, joka auttaa tiimejä siirtämään suuria kielimalleja kokeilusta tuotantovalmiiseen käyttöön. Hänen taustansa käsittää seniorijohtajan rooleja COO:na ja CTO:na Neoclesissa, CTO:na Future Technology -osastolla Transdevissä, jossa hän työskenteli itseohjautuvien reittien ja laivaston hallinnan parissa, sekä COO:na TradeYourTripissä. Samanaikaisesti hän toimii neuvonantajana ja enkelisijoittajana, tukeakseen varhaisessa vaiheessa olevia tekoälyyrityksiä tuotteen suunnittelussa, teknisessä arvioinnissa ja toteutusstrategiassa.

orq.ai on generatiivisen tekoälyn yhteistyö- ja LLMOps-alusta, joka on suunniteltu auttamaan organisaatioita suunnittelemaan, käyttämään ja skaalaamaan tekoälyvoimaisia tuotteita ja agenteja todellisissa ympäristöissä. Alusta yhdistää kehotteiden hallinnan, kokeilut, palautteen keräämisen ja reaaliaikaisen näkyvyyden suorituskykyyn ja kustannuksiin yhden työtilan sisällä, säilyttäen yhteensopivuuden kaikkien suurten kielimallien tarjoajien kanssa. Mahdollistamalla teknisten ja ei-teknisten tiimien läheisen yhteistyön, orq.ai auttaa yrityksiä lyhentämään julkaisujaksoja, parantamaan hallintoa ja avoimuutta sekä vähentämään tekoälyjärjestelmien monimutkaisuutta ja kustannuksia tuotannossa.

Olet toiminut johtavissa teknisissä ja operatiivisissa tehtävissä itseohjautuvissa järjestelmissä, laivaston hallinnassa ja SaaS-alustoilla ennen orq.ai:n perustamista — miten tämä urapolku vaikutti päätökseesi rakentaa yritysasteinen ohjauskerros tekoälyagenteille vuonna 2022?

Taustamme on aina ollut johtaa insinööritiimejä ja keskittyä mahdollistamisalustoille; asioihin kuten pilvi, DevOps ja data-mahdollistaminen, erityisesti aikanaamme teknologiakonsulttina. Kun generatiivisen tekoälyn buumi alkoi, minä ja toinen perustaja kysyimme itseltämme: millaista mahdollistamista yritykset tarvitsevat ei vain rakentamaan tekoälyä, vaan myös hallita ja ohjata sitä oikein?

Näimme, että todellinen tarve oli yritysasteiselle ohjauskerrokselle tekoälyagenteille. Tämä johti meidät rakentamaan orq.ai:n alusta.

Kun ensimmäisen kerran julkaisit orq.ai:n, mitä havaitsit markkinoilla, mikä vakuutti sinut siitä, ettei todellinen pullonkaula ollut mallien laatu vaan kyvyttömyys siirtää agenttijärjestelmiä demoista luotettavaan tuotantokäyttöön?

Olemme aina uskoneet, että kun rakennetaan innovatiivista ohjelmistoa, on rakennettava tulevaisuutta varten. Alusta lähtien olemme olettaneet, että suuret kielimallit paranevat ja tulevat älykkäämmiksi ajan myötä. Todellinen haaste, jonka näimme, ei ollut mallin laatu itsessään, vaan kaikki ohjaus-, hallinto- ja elinkaaren hallintaa koskevat ongelmat, jotka ilmenevät, kun yritetään siirtää demosta tuotantoympäristöön.

Toisin sanoen, vaikka mallit paranevat, todellinen arvo asiakkaillemme (ja meille) on varmistaa, että nämä järjestelmät toimivat luotettavasti tuotannossa. Ja juuri sitä yritimme ratkaista.

Useimmat tiimit voivat rakentaa vaikuttavia prototyyppejä, mutta kamppailevat ajonaikaisen orkestroinnin, hallinnon ja valvonnan kanssa. Mielestäsi mikä on suurin pullonkaula, kun insinööritiimit yrittävät skaalata toimintaa konseptin toimivuuden osoittavasta kokeiluympäristöstä tuotannossa toimivaan agenttiin?

Suurin pullonkaula on, että tiimit usein ajattelevat, että siirtyminen kokeilusta valmiiseen tuotantoon on suora, lineaarinen prosessi. Todellisuudessa se on hyvin iteraatiivinen prosessi.

Olet jatkuvasti mukauttamassa oletuksiasi, testaamassa niitä, siirtämässä asioita tuotantoon ja sitten seuraamassa, mitä tapahtuu todellisessa maailmassa. Löydät reunatapauksia ja aloitat silmukan uudelleen.

Haasteena on, ettei kyse ole kertaluonteisesta työstä vaan jatkuvasta parantamisen kierrosta. Iteratiivisuuden lisäksi ongelmana on usein se, ettei prosessin sujuvaan tukemiseen ole riittävästi työkaluja tai tukirakenteita.

Tarvitset tavan, jolla toimialan asiantuntijat, tuotejohtajat ja insinöörit voivat yhteistyössä toimia ilman, että luot siloja tai kalliita työn siirtoja tiimiltä toiselle, jotka vievät paljon aikaa. Se on toinen suuri palanen palapeliä: varmistaa, että kaikki osapuolet voivat iteroida yhdessä tehokkaasti. Ja juuri sitä olemme yrittäneet ratkaista.

Orq.ai asettaa itsensä yhdistetyksi ohjauskerrokselle, joka kattaa kokeilun, arvioinnin, havainnoitavuuden ja ajonaikaisen toiminnan. Miksi uskoit, että koko elinkaaren kattava arkkitehtuuri oli välttämätön, eikä erillisiä työkaluja, kuten monissa pistekohtaisissa ratkaisuissa?

Kun aloitat, on luonnollista valita yksittäinen työkalu, joka ratkaisee suurimman pulman kyseisessä vaiheessa, usein se on havainnoitavuus. Mutta kun tiimisi kehittyy, törmät seuraavaan pullonkaulaan ja lisäät toisen työkalun, esimerkiksi tekoälyportin. Ennen kuin tiedät mitään, sinulla on viisi-seitsemän erilaista työkalua maisemassasi. Data hajoaa, ihmiset menettävät näkyvyyden, ja sinä haaskaat resursseja yksinään näiden integraatioiden ylläpidossa. Menetät yhdenmukaisen näkymän elinkaaren yli.

Uskoimme, että kun agenttien ohjaamat yritykset syntyvät, tarvitaan todella koko elinkaaren kattava arkkitehtuuri. Tarvitaan yhdenmukainen näkymä siitä, mitä kaikki agentit tekevät koko organisaatiossa, eikä vain hajallaan olevia pistekohtaisia ratkaisuja. Siksi emme nähneet muuta vaihtoehtoa kuin kattaa nämä suuret osat työnkulusta yhdenmukaisessa alustassa.

Mitä keskeisiä ongelmia pyrkitte ratkaisemaan uudella Agent Studiolla ja uudistetulla ajonaikaisella ympäristöllä Euroopan ja Yhdysvaltojen ensimmäisiltä asiakkailta saadun palautteen perusteella?

Mitä näimme, oli, että tiimit käyttivät kaikenlaisia avoimen lähdekoodin kirjastoja agenttien rakentamiseen, vaikka itse arkkitehtuuri voi olla melko puhdas ja yksinkertainen. He päätyivät paisuneisiin kirjastoihin, paljon ylirasitetta ja suureen oppimiskäyrään vain saadakseen yksinkertaisia agenteja ulos. Orq.ai:lla halusimme ottaa pois tämän taakan.

Sen sijaan, että olisimme huolissamme arkkitehtuurista, laskennasta, autoskaalauksesta, kaikesta infrastruktuurista, tiimit voivat vain keskittyä agenttien konfigurointiin ja antaa heille oikeat työkalut ja rajapinnat. Me käsittelemme raskaan työn, jotta he voivat keskittyä rakentamaan todellisia käyttötapaauksia. Ja sen lisäksi, koska tuemme koko elinkaarta, olemme rakentaneet erikoistuneita työpöytiä, jotka antavat todella testata agenteja skaalassa.

Se tarkoittaa, että voit löytää reunatapauksia nopeammin ja lujittaa agentejasi tehokkaammin. Se on kaikenkaikkiaan antaa tiimille työkalut ei vain rakentaa agenteja helposti, vaan myös parantaa ja lujittaa niitä todellisissa tilanteissa ilman kaikkea ylimääräistä vaivaa.

Kuinka GDPR ja EU:n tekoälylain tiukentavat vaatimuksia vaikuttavat siihen, miten yritykset suunnittelevat, valvovat ja käyttävät agenteja — ja miten orq.ai sopeutuu?

Se ei ole niin, että nämä vaatimukset kiristävät äkkiä, ne ovat osa lakia, ja asiakkaidemme on noudatettava niitä. Mitä teemme, on varmistaa, että koko elinkaaren ajan annamme tiimille oikeat työkalut, arvioijat ja turvarajat, jotta he voivat sisällyttää vaatimustenmukaisuuden toteutukseen ensimmäisestä päivästä alkaen.

Varmistamme, että datan sijaintia koskevat vaatimukset ja tietosuoja on huomioitu alusta asti. Geopoliittisten jännitteiden ja Euroopan teknologia- ja tekoälysuvereniteettipyrkimysten myötä kysyntä on kasvanut voimakkaasti. Koska voimme toimia kokonaan asiakkaan omassa ympäristössä ja auttaa yrityksiä vähentämään riippuvuuksiaan, meillä on hyvät edellytykset auttaa niitä hallitsemaan omaa tulevaisuuttaan.

Yritykset pyytävät yhä useammin suvereenia arkkitehtuureja ja hybrid-/paikallisia käyttöönottoja. Mitä tämä muutos kertoo sinulle siitä, mihin suuntaan yritysten tekoälyinfrastruktuuri on menossa?

Jokainen yritys ja jokainen käyttötapausta ovat kompromisseja. Se on kyse siitä, kuinka valmiin ratkaisun tarvitsee olla verrattuna siihen, kuinka turvallinen sen on oltava ja missä määrin sen on toimittava omassa ympäristössä. Tuemme kaikkia tämän vaihteluvälin vaihtoehtoja. Mutta mitä näemme, on vahva painopiste suvereenisuudelle ja datan sijainnille mallitasolla.

Asiakkaat haluavat selkeän näkymän siihen, missä heidän datansa asuu, ja kyvyn vähentää riippuvuutta suurista pilvipalveluntarjoajista. Kiitos tekoälyportista, joka toimii kaikkien suurten pilvipalvelujen ja paikallisten ympäristöjen kanssa, tiimit voivat helposti tehdä nämä kompromissit käyttötapaustasolla. He saavat joustavuuden pysyä hallinnassa ja siirtyä vaivattomasti ympäristöjen välillä.

Näemme valtavan kysynnän kasvun suuremmista yrityksistä ja julkisista laitoksista.

Miten näet moniagenttityönkulut, turvarajat ja edistyneemmät päättelyjärjestelmät kehittyvän, kun yritykset siirtyvät kokeilusta tekoälyagenttien teolliseen tuotantoon vuonna 2026?

Kun tekoälyagenttien käyttö todella teollistuu, näemme uusia ongelmia, erityisesti moniagenttiasetelmissa. Sinulla voi olla kymmeniä tai jopa satoja agenteja, jotka pyörivät organisaatiossasi samanaikaisesti, ihan kuin työntekijät.

Kysymys on: miten hallitset niitä kaikkia, kun sinulla on moniulotteinen joukko ongelmia, kuten kustannukset, datan laatu, datan sijainti, oikeellisuus, hallucinaatiometriikka jne.? Tarvitset uuden hallintakerroksen hallitsemaan sitä, ja tarvitset turvarajoja, jotka voidaan käyttää ylhäältä alas.

Tarvitset myös ylhäältä-alas-näkyvyyttä ja uusia aggregaatiokerroksia, jotta CFO:si, COO:si, CISO:si voivat nähdä, mitä tapahtuu, ja puuttua asiaan toimivilla oivalluksilla. Uskomme, että vuonna 2026 tämä koko “agenttiosasto” -käsite ja siihen liittyvä teknologia tulee olemaan paljon kuumaampi aihe.

Agenttien toiminnan ajautuminen, laadun heikkeneminen ja epäselvät datavirrat ovat toistuvia ongelmia tekoälytuotannossa. Miten orq.ai:n ohjauskerros ratkaisee nämä pitkäaikaiset aukot versionhallinnassa, arvioinnissa ja jatkuvassa valvonnassa?

Jokainen agentti tarvitsee oman arviointikokonaisuutensa. Nämä arviot määrittävät, mikä on oikein ja mikä on väärin kyseisessä skenaariossa. Viettämällä aikaa etukäteen asettamassa näitä arviointijoukkoja oikein, tiimit voivat tehdä paremmin offline-kokeilun, jotta näkee, miten asiat käyttäytyvät ennen siirtymistä tuotantoon. Ja sitten valvomalla näitä samoja arviointeja online, voit havaita, kun mallien toiminta ajautuu tai kun agentin käyttäytyminen alkaa muuttua ajan myötä. Näin ollen sinulla on johdonmukainen joukko laadun mittareita offline-testeissä, online-valvonnassa ja turvarajojen toteutuksessa.

Mikä mielestäsi määrittää seuraavan sukupolven yritystason tekoälyagentteja — ja miten orq.ai asemoituu tuon maailman ensisijaiseksi operatiiviseksi alustaksi?

Eteenpäin katsoen, uskon, että se, mikä määrittää seuraavan sukupolven yritysasteisia tekoälyagenteja, on se, että jokainen toimija tarjoaa omat agenttinsa. Suuremmissa yrityksissä se tulee olemaan laaja maisema ensimmäisen ja kolmannen osapuolen agenteista, jotka toimivat yhdessä ja kutsuvat toisiaan.

Se ei ole vain yhden agentin tai yhden toimijan asia; se on koko ekosysteemi, joka tarvitsee hallintaa ja vaatimustenmukaisuutta. Ja siinä orq.ai tulee esiin. Asemoimme itsemme agenttien ohjaustorniksi, joka antaa eri tasoille organisaatiossa oikean kootun näkymän ja toimivat oivallukset puuttua mihin tahansa vaiheeseen.

Olipa kyseessä sitten rakentaminen, skaalaaminen, toiminta tai jopa agenttien poistaminen, eri funktiot tarvitsevat eri näkymiä maisemaan. Ja meistä tulee oletusarvoinen tarjoaja kyseiselle kyvylle. Kiitos haastattelusta, lukijoille, jotka haluavat oppia lisää, suosittelemme vierailemaan orq.ai-sivustolla.