Sohrab Hosseini, orq.ai:n perustaja – Haastattelu

Sohrab Hosseini, orq.ai:n perustaja, on teknologiajohtaja ja yrittäjä Amsterdamista, jolla on laaja kokemus SaaS:sta, suurten järjestelmien kehittämisestä ja soveltamisesta sekä tekoälystä. Perustettuaan orq.ai:n vuonna 2022, hän on keskittynyt käytännön infrastruktuurin kehittämiseen, joka auttaa tiimejä siirtämään suuria kielen malleja kokeilusta tuotantovalmiiseen käyttöön. Hänen taustansa käsittää seniorijohtajan rooleja COO:na ja CTO:na Neoclesissa, CTO:na Future Technology -osastolla Transdevissä, jossa hän työskenteli itseohjautuvien reittien ja laivaston hallinnan parissa, sekä COO:na TradeYourTripissä. Samanaikaisesti hän toimii neuvonantajana ja enkelnä, tukeakseen varhaisessa vaiheessa olevia tekoälyyrityksiä tuotteen suunnittelussa, teknisessä arvioinnissa ja toteutusstrategiassa.

orq.ai on tekoälyyhteistyön ja LLMOps-alusta, joka on suunniteltu auttamaan organisaatioita suunnittelemaan, käyttämään ja skaalaamaan tekoälyvoimaisia tuotteita ja agenteja todellisissa ympäristöissä. Alusta tarjoaa ohjausjärjestelmän, kokeilun, palautteen keräämisen ja reaaliaikaisen näkyvyyden suorituskykyyn ja kustannuksiin yhden työtilan sisällä, säilyttäen yhteensopivuuden kaikkien suurten kielen mallien tarjoajien kanssa. Mahdollistamalla teknisten ja ei-tekniisten tiimien läheisen yhteistyön, orq.ai auttaa yrityksiä lyhentämään julkaisujaksoja, parantamaan hallintoa ja avoimuutta sekä vähentämään tekoälyjärjestelmien monimutkaisuutta ja kustannuksia tuotannossa.

Olet toiminut senioriteknisinä ja operatiivisina rooleina itseohjautuvissa järjestelmissä, laivaston hallinnassa ja SaaS-alustoilla ennen orq.ai:n perustamista — miten tämä urapolku vaikutti päätökseesi rakentaa yritysasteinen ohjauskerros tekoälyagenteille vuonna 2022?

Taustamme on aina ollut johtaa insinööritiimejä ja keskittyä mahdollistamisalustoille; asioihin kuten pilvi, DevOps ja data-mahdollistaminen, erityisesti aikanaamme teknologiakonsulttina. Kun tekoälyn buumi alkoi, minä ja liikekumppani kysyimme itseltämme: mitälaista mahdollistamista yritykset tarvitsevat ei vain rakentamaan tekoälyä, vaan myös hallita ja ohjata sitä oikein?

Näimme, että todellinen tarve oli yritysasteiselle ohjauskerrokselle tekoälyagenteille. Tämä johti meidät rakentamaan orq.ai:n alusta.

Kun ensimmäisen kerran julkaisit orq.ai:n, mitä markkinassa havaitsemaasi pullonkaulaa teki sinun vakuuttuneeksi, ettei todellinen pullonkaula ollut mallin laatu, vaan kyvyttömyys siirtää agenteja demoista tuotantoon?

Olemme aina uskoneet, että kun rakennetaan innovatiivista ohjelmistoa, on rakennettava tulevaisuutta varten. Alusta lähtien olemme olettaneet, että suuret kielen mallit paranevat ja tulevat älykkäämmiksi ajan myötä. Todellinen haaste, jonka näimme, ei ollut mallin laatu itsessään, vaan kaikki ohjaus-, hallinto- ja elinkaaren hallintaa koskevat ongelmat, jotka ilmenevät, kun yritetään siirtää demosta tuotantoympäristöön.

Toisin sanoen, vaikka mallit paranevat, todellinen arvo asiakkaillemme (ja meille) on varmistaa, että nämä järjestelmät toimivat luotettavasti tuotannossa. Ja juuri sitä yritimme ratkaista.

Useimmat tiimit voivat rakentaa vaikuttavia prototyyppejä, mutta kamppailevat suorituskyvyn orkestraation, hallinnon ja valvonnan kanssa. Mielestäsi mikä on suurin pullonkaula, kun insinööritiimit yrittävät skaalata toimintaa koeprosessista live-tuotantoon?

Suurin pullonkaula on, että tiimit usein ajattelevat, että siirtyminen kokeilusta valmiiseen tuotantoon on suora, lineaarinen prosessi. Todellisuudessa se on hyvin iteraatiivinen prosessi.

Olet jatkuvasti mukauttamassa oletuksiasi, testaamassa niitä, siirtämässä asioita tuotantoon ja sitten seuraamassa, mitä tapahtuu todellisessa maailmassa. Löydät reunatapauksia ja aloitat silmukan uudelleen.

Haaste on, että se ei ole yksinkertainen prosessi; se on jatkuva parantamisen silmukka. Ja siihen liittyen, se ei ole vain yksinkertainen prosessi, vaan usein ei ole riittävästi työkaluja tai tukirakenteita, jotka tukevat tätä prosessia sulavasti.

Tarvitset tavan, jolla toimialan asiantuntijat, tuotejohtajat ja insinöörit voivat yhteistyössä toimia ilman, että luot siloja tai kalliita käsittelyjä, jotka vievät paljon aikaa. Se on toinen suuri palanen palapeliä: varmistaa, että kaikki osapuolet voivat iteroida yhdessä tehokkaasti. Ja juuri sitä olemme yrittäneet ratkaista.

Orq.ai asettaa itsensä yhdistetyksi ohjauskerrokselle, joka kattaa kokeilun, arvioinnin, havainnollistamisen ja suorituskyvyn. Miksi uskoit, että päästäkkäinen arkkitehtuuri oli välttämätön, eikä erillisiä työkaluja, kuten monissa pistekohtaisissa ratkaisuissa?

Kun aloitat, on luonnollista valita yksittäinen työkalu, joka ratkaisee suurimman pulman kyseisessä vaiheessa, usein se on havainnollistaminen. Mutta kun tiimisi kehittyy, törmät seuraavaan pullonkaulaan ja lisäät toisen työkalun, esimerkiksi tekoälyportin. Ennen kuin tiedät mitään, sinulla on viisi-seitsemän erilaista työkalua maisemassasi. Data hajoaa, ihmiset menettävät näkyvyyden, ja sinä haaskaat resursseja yksinään näiden integraatioiden ylläpidossa. Menetät yhdenmukaisen näkymän elinkaaren yli.

Uskoimme, että kun agenttien ohjattavat yritykset syntyvät, tarvitaan todella päästäkkäinen arkkitehtuuri. Tarvitaan yhdenmukainen näkymä siitä, mitä kaikki agentit tekevät koko organisaatiossa, eikä vain hajallaan olevia pistekohtaisia ratkaisuja. Siksi emme nähneet muuta vaihtoehtoa kuin kattaa nämä suuret osat työnkulusta yhdenmukaisessa alustassa.

Uuden Agent Studio – ja suunnitellun suorituskyvyn kanssa, mitkä suuret pulmat yritit ratkaista perustuen palautteeseen varhaisilta asiakkailta Euroopassa ja Yhdysvalloissa?

Mitä näimme, oli, että tiimit käyttivät kaikenlaisia avoimia kirjastoja agenttien rakentamiseen, vaikka itse arkkitehtuuri voi olla melko puhdas ja yksinkertainen. He päätyivät paisuneisiin kirjastoihin, paljon ylirasitetta ja suureen oppimiskäyrään vain saadakseen yksinkertaisia agenteja ulos. Orq.ai:lla halusimme ottaa pois tämän taakan.

Sen sijaan, että olisimme huolissamme arkkitehtuurista, laskennasta, autoskaalauksesta, kaikesta infrastruktuurista, tiimit voivat vain keskittyä agenttien konfigurointiin ja antaa heille oikeat työkalut ja rajapinnat. Me käsittelemme raskaan työn, jotta he voivat keskittyä rakentamaan todellisia käyttötapaauksia. Ja sen lisäksi, koska tukimme koko elinkaarta, olemme rakentaneet erikoistuneita työpöytiä, jotka antavat todella testata agenteja skaalassa.

Se tarkoittaa, että voit löytää reunatapauksia nopeammin ja lujittaa agentejasi tehokkaammin. Se on kaikenkaikkiaan antaa tiimille työkalut ei vain rakentaa agenteja helposti, vaan myös parantaa ja lujittaa niitä todellisissa tilanteissa ilman kaikkea ylimääräistä vaivaa.

Kuinka GDPR ja EU:n tekoälylain tiukentavat vaatimuksia vaikuttavat siihen, miten yritykset suunnittelevat, valvovat ja käyttävät agenteja — ja miten orq.ai sopeutuu?

Se ei ole niin, että nämä vaatimukset kiristävät äkkiä, ne ovat osa lakia, ja asiakkaidemme on noudatettava niitä. Mitä teemme, on varmistaa, että koko elinkaaren ajan annamme tiimille oikeat työkalut, arvioijat ja turvallisuusvarusteet, jotta he voivat rakentaa noudattamisen alusta alkaen.

Varmistamme, että dataresidenssi, tietosuojelu, kaikki nämä ovat sisäänrakennettu alusta asti. Ja geopolitiikan jännitysten ja teknologisen ja tekoälyomaisuuden pyrkimyksen myötä Euroopassa olemme nähneet suuren kysynnän tälle.

Yritykset pyytävät yhä useammin suvereenia arkkitehtuureja ja hybrid-/paikallisia käyttöönottoja. Mitä tämä muutos kertoo sinulle siitä, mihin suuntaan yritysten tekoälyinfrastruktuuri on menossa?

Jokainen yritys ja jokainen käyttötapausta ovat kompromisseja. Se on kyse siitä, kuinka valmiina ja turvallisena ja paikallisena jokin asia tarvitaan. Tukevat kaikkia makuja tässä spektrissä. Mutta mitä näemme, on vahva painopiste suvereenisuudelle ja datan asuinpaikalle mallitasolla.

Asiakkaat haluavat selkeän näkymän siihen, missä heidän datansa asuu, ja kyvyn vähentää riippuvuutta suurista pilvipalveluntarjoajista. Kiitos tekoälyportista, joka toimii kaikkien suurten pilvipalvelujen ja paikallisten ympäristöjen kanssa, tiimit voivat helposti tehdä nämä kompromissit käyttötapaustasolla. He saavat joustavuuden pysyä hallinnassa ja siirtyä vaivattomasti ympäristöjen välillä.

Näemme valtavan kysynnän kasvun suuremmista yrityksistä ja julkisista laitoksista.

Miten näet moniagenttityönkulut, turvallisuuden varusteet ja edistyneemmät järjestelmät kehittyvän, kun yritykset siirtyvät kokeilusta tekoälyagenttien teolliseen tuotantoon vuonna 2026?

Kun tekoälyagenttien käyttö todella teollistuu, näemme uusia ongelmia, erityisesti moniagenttiasetelmissa. Sinulla voi olla kymmeniä tai jopa satoja agenteja, jotka pyörivät organisaatiossasi kerran, ihan kuin työntekijät.

Kysymys on: miten hallitset niitä kaikkia, kun sinulla on moniulotteinen joukko ongelmia, kuten kustannukset, datan laatu, datan asuinpaikka, oikeellisuus, hallucinaatiometriikka jne.? Tarvitset uuden hallintakerroksen hallitsemaan sitä, ja tarvitset turvallisuuden varusteita, jotka voidaan käyttää ylhäältä alas.

Tarvitset myös ylhäältä-alas-näkyvyyttä ja uusia aggregaatiokerroksia, jotta CFO:si, COO:si, CISO:si voivat nähdä, mitä tapahtuu, ja puuttua asiaan toimivilla oivalluksilla. Uskomme, että vuonna 2026 tämä koko “agenttiosasto” -käsite ja siihen liittyvä teknologia tulee olemaan paljon kuumaampi aihe.

Agenttien liukuminen, laadun heikkeneminen ja epäselvät datakuljetukset ovat toistuvia ongelmia tekoälytuotannossa. Miten orq.ai:n ohjauskerros ratkaisee nämä pitkäaikaiset aukot versionhallinnassa, arvioinnissa ja jatkuvaessa valvonnassa?

Jokaisella agentilla on todella oma arviointinsa. Nämä arviot määrittävät, mikä on oikein ja mikä on väärin kyseisessä skenaariossa. Viettämällä aikaa etukäteen asettamassa näitä arviointijoukkoja oikein, tiimit voivat tehdä paremmin offline-kokeilun, jotta näkee, miten asiat käyttäytyvät ennen siirtymistä tuotantoon. Ja sitten valvomalla näitä samoja arviointeja online, voit havaita, kun mallit liukuvat tai kun agentin käyttäytyminen alkaa muuttua ajan myötä. Näin ollen sinulla on johdonmukainen joukko laadun mittareita offline-testeissä, online-valvonnassa ja turvallisuuden varusteissa.

Miten näet seuraavan sukupolven yritysasteisia tekoälyagenteja määrittävän — ja miten orq.ai asettaa itsensä oletusarvoiseksi toimintaliittymäksi sille maailmalle?

Eteenpäin katsoen, uskon, että se, mikä määrittää seuraavan sukupolven yritysasteisia tekoälyagenteja, on se, että jokainen toimija tarjoaa omat agenttinsa. Suuremmissa yrityksissä se tulee olemaan laaja maisema ensimmäisen ja kolmannen osapuolen agenteista, jotka toimivat yhdessä ja kutsuvat toisiaan.

Se ei ole vain yhden agentin tai yhden toimijan asia; se on koko ekosysteemi, joka tarvitsee hallintoa ja noudattamista. Ja siinä orq.ai tulee esiin. Asetamme itsellemme agenttien ohjaustorniksi, joka antaa eri tasoille organisaatiossa oikean aggregoitudin näkymän ja toimivat oivallukset puuttua mihin tahansa vaiheeseen.

Olipa kyseessä sitten rakentaminen, skaalaaminen, toiminta tai jopa agenttien poistaminen, eri funktiot tarvitsevat eri näkymiä maisemaan. Ja meistä tulee oletusarvoinen tarjoaja kyseiselle kyvylle. Kiitos haastattelusta, lukijoille, jotka haluavat oppia lisää, suosittelemme vierailemaan orq.ai-sivustolla.