Ali Sarrafi, Kovantin CEO ja perustaja – Haastattelusarja

Ali Sarrafi, Kovantin CEO ja perustaja, on kokenut teknologia- ja AI-johtaja Tukholmassa, jolla on tausta rakentamassa ja skaalauttamassa nopeasti kasvavia AI-yrityksiä. Kovantin perustamisesta lähtien vuoden 2024 lopusta lähtien hän on hyödyntänyt syvää kokemusta yritys-AI-strategiasta, markkinointivaiheen toteutuksesta ja operatiivisesta skaalauttamisesta. Aikaisemmin hän toimi strategian varapuheenjohtajana Silo AI:ssa sen jälkeen, kun AMD osti sen, ja vastasi yritys-AI-strategian muotoilusta ja laajan käytön edistämisestä. Uransa alussa hän perusti Combient Mixin, johti yritystä nopeaan kasvuun ja onnistuneeseen ostoonsa Silo AI:sta, ja on sen jälkeen toiminut neuvonantajana ja hallituksissa koulutus- ja AI-startup-yrityksissä, mikä heijastaa johdonmukaista painotusta kääntää edistyneitä AI-menetelmiä liiketoiminnan vaikutukseksi.

Kovant on yritys-AI-yritys, joka keskittyy siihen, että organisaatiot siirtyvät kokeellisesta AI-käytöstä täysin operatiivisiin, autonomisiin liiketoimintaprosesseihin. Yritys kehittää agenttipohjaista alustaa, joka on suunniteltu orkestroimaan AI-agenttien joukkoja monimutkaisilla operatiivisilla aloilla, kuten hankinnassa, toimitusketjuissa, vaatimustenmukaisuudessa ja asiakasoperaatioissa. Korostamalla turvallista, yritysluokan käyttöönottoa ja nopeaa arvon saavuttamista, Kovant asettaa itsensä siltaksi strategisen AI-ambition ja päivittäisen toteutuksen välille, auttaen suuria organisaatioita upottamaan AI:n suoraan ydinprosesseihin eikä käsittele sitä erillisenä työkaluna tai pilottiprojektina.

Olet johtanut suuria AI-aloitteita Spotifyssa, skaalannut ja poistunut Combient Mixistä ja muotoillut yritys-AI-strategiaa Silo AI:ssa ennen Kovantin perustamista. Mitkä tarkat aukot tai pettyneisyydet kohtasit näissä rooleissa, jotka vakuuttivat sinut siitä, että on aika rakentaa autonomiseen yritysalusta, ja miten tuo historia muotoili Kovantin ydinsuunnittelufilosofian?

Edellisissä rooleissani ilmestyivät usein jotkut yhtenäiset aukot. Ensinnäkin useimmat “pysty”-AI-työkalut ovat tehokkaasti vangittuina yhteen ohjelmistopinoon: ne tekevät yhden asian hieman paremmin kyseisen rajojen sisällä, mutta kamppailevat heti, kun työnkulku vaatii ylittää useita järjestelmiä. Samalla yritysdatat ovat hajautuneet useiden työkalujen ympärille, ja monet automaatio-ratkaisut eivät pysty edes käsittelemään niitä. Lisää siihen vuosien mittaiset pistekohtaiset integraatiot, ja saat perinteisen spagettirakenteen: monimutkaisuus kasvaa, muutokset hidastuvat, ja tiimit päätyvät automatisoimaan yksittäisiä askelia eikä uudelleenmuotoile työnkulkua kokonaisuutena. Tulos on, että ROI saapuu usein hitaammin – ja pienemmässä mittakaavassa – kuin organisaatiot odottavat.

Kovant on suunniteltu vastaukseksi tähän todellisuuteen. Meidän ydinsuunnittelufilosofiamme on, että agentit tulisi käyttäytyä enemmän kuin työntekijät: ne työskentelevät useiden työkalujen yli, heidät “palkataan” tekemään töitä, eikä automatisoida yksittäistä skriptattua sekvenssiä. Siksi integraatiot ja orkestraatio ovat sisäänrakennettuja, ja oletamme, että yritysdatat ovat usein sekavia ja rakenteettomia – ne tarvitsevat enemmän ihmismäistä lähestymistapaa poikkeusten ja epäselvyyksien käsittelyyn.

Käytämme perusagentteja saavuttamaan nopeutta ja skaalautuvuutta, samalla pitäen data-suvereniteetin etusijalla: yritykset voivat käyttää ja käsitellä omia tietojaan vaakasuoraan ilman, että ne poistuvat heidän alueeltaan.

Kovant asettaa itsensä autonomiseksi yritysalustaksi, joka pystyy suorittamaan koko operaatiota ja osastoja AI-agenttien avulla. Miten määrittelet “autonomisen” yrityskontekstissa, ja miten se eroaa automaatio- ja agenttityökaluista, joilla yritykset ovat jo kokeilleet tänään?

Yrityskontekstissa, kun sanomme “autonomisen”, emme tarkoita “valvomattomia”. Tarkoitan, että AI-agentit voivat tehdä todellisia toimia päättyen operaatioon selkeiden tavoitteiden ja varusteen kanssa, ja ne eskaloivat ihmisille, kun valvontaa tarvitaan.

Se, mikä tekee Kovantin erilaiseksi, on meidän perusagenttimme. Sen sijaan, että automatisoidaan yksittäinen, kiinteä prosessi tai seurataan ennalta määriteltyä sekvenssiä, Kovant-agentit voivat toimia joukkona (tai parvina) operaatiota käyttäen vain ohjeita ja operaatiosta katsausta, jonka kutsuvamme “sinetiksi”. Ne eivät ole suunniteltu yhdelle kapealle tehtävälle; ne tekevät yhteistyötä monimutkaisten työnkulkujen ratkaisemiseksi, sopeutuvat muuttuvien olosuhteiden mukaan ja luovuttavat ihmisille, kun tilanne vaatii valvontaa.

Esimerkiksi varastointi-agenttiryhmä voi suorittaa seuraavat tehtävät ilman uudelleenrakentamista: viestintä toimittajien kanssa sähköpostitse, varastotason valvonta ja loppumisen merkkien seuranta, toimitusten ja ostotilaisuuksien seuranta, tilastojen päivittäminen järjestelmissä, poikkeamalippujen luominen varastopäälliköille hyväksymistä varten, varastojen uudelleenjako ja varastoraporttien konsolidointi.

Näin ollen siirtymä on siirtymä “chat-työkaluista” tai haurasta automaatiosta, joka murtuu skaalautumisessa, yritykset siirtyvät agenttien rakentamisesta niiden suorittamiseen skaalautuvasti.

Vaikka agen-tason AI:sta on suuri kiinnostus, monet organisaatiot ovat edelleen jumissa kokeiluvaiheessa. Mitkä ovat pääsyyt, jotka yritykset kohtaavat siirtyessään kokeilusta skaalautuvaan tuotantoon, mitä olet havainnut todellisissa käyttöönotoissa?

Mitä havaitsemme, on, että useimmat organisaatiot eivät jää kiinni kokeiluvaiheeseen, koska idea on väärä; he jäävät kiinni, koska ympäristö on vihamielinen skaalautumiselle.

Ensimmäinen este on fragmentoitu yritysteknologiakenttä. Työnkulut ulottuvat useiden järjestelmien yli, data sijaitsee useissa paikoissa, ja niiden yhdistäminen luotettavasti on vaikeaa. Ja agen-tason AI on usein otettu käyttöön olemassa olevien työkalujen lisäksi, eikä sitä ole suunniteltu uudelleenmietityksi työnkulun toimimiseksi kokonaisuutena.

On myös oikea arkkitehtuuri- ja data-ongelma. Monet SaaS-toimittajat yrittävät edelleen lukita datan, mikä luo yhteensopimattomuutta ja rajoittaa sitä, mitä agentit voivat tehdä järjestelmien yli. Ja monissa tiimeissä aliovioidaan sitä, että useimmat yritysdatat ovat rakenteettomia (sähköposteja, asiakirjoja, lippuja, PDF-tiedostoja, chat-lokeja). Jos lähestymistapanne olettaa puhdas, rakenteellinen data, aika-arvo tulee pitkäksi, vaikeaksi ja hankalaksi toistaa pilotin ulkopuolella.

Lyhykäisyydessä: fragmentaatio, lukitus ja rakenteeton data luovat kitkaa – ja kokeilut eivät koskaan muutu tuotantoon, kunnes nämä todellisuudet on suunniteltu.

Luotettavuus mainitaan usein suurimpana esteenä AI-agenttien käyttöönotolle todellisessa maailmassa. Miksi monia agenttijärjestelmiä epäonnistuu, kun ne jättävät ohjatun ympäristön, ja miten Kovantin lähestymistapa vähentää ongelmia, kuten hallucinaatioita ja ennalta arvaamattomia käyttäytymisiä?

Jotkut agenttijärjestelmät näyttävät hyvältä esittelyissä, mutta epäonnistuvat todellisessa maailmassa, koska ympäristö on sekava ja ennalta arvaamaton. Data on epätäydellistä tai epäjohdonmukaista, reunatapaukset ilmestyvät jatkuvasti (hyvitykset, riidat, erityishyväksynnät). Työnkulut ulottuvat useiden työkalujen, alustojen ja integraatioiden yli, jotka muuttuvat ajan myötä, ja valtuudet vaihtelevat. Kun AI-agentilta vaaditaan käsittelemään suuri tehtävä ja sille annetaan liikaa kontekstia kerran, hallucinaatioiden ja outojen käyttäytymisten riski kasvaa.

Kovant vähentää tätä suunnittelun kautta. Meidän ainutlaatuinen arkkitehtuuri supistaa ongelman tilaa, päätösten tilaa ja kontekstia, jolla mallit toimivat, vähentääkseen hallucinaatioita. Me myös jakamme operaatiot kapeisiin, fokusoituihin tehtäviin yksittäisille agenteille ja askelille. Se tekee käyttäytymisen ennalta arvattavammaksi, ja se lisää jäljitettävyyttä ja hallittavuutta järjestelmään ja voi hallita hallucinaatioita paremmin. Voimme nähdä, mitä kunkin agentin teki, missä epäonnistuminen alkoi, ja puutua tai eskaloida, kun tarvitaan.

Hallucinaatiot eivät häviä taikauskolla, mutta rajoittamalla, mitä kunkin agentin on vastuulla ja rajoittamalla kontekstia, jolla se voi toimia, voimme vähentää niiden frekvenssiä ja rajoittaa niiden vaikutusta. Tämä “kapean tehtävän/kontekstin” lähestymistapa on myös saanut tukeaan Nvidian tutkimusryhmän viimeaikaisesta työstä, joka löysi samanlaisia hyötyjä agenttien päätöksenteon rajoittamisesta.

Vastuu on suuri huolenaihe, kun AI-agentit alkavat tehdä todellisia toimia liiketoimintajärjestelmissä. Miten yksityiskohtaiset toimintalokit muuttavat keskustelun luottamuksesta, vaatimustenmukaisuudesta ja operatiivisesta riskistä?

Yksityiskohtaisilla toimintalokeilla voimme nähdä, mitä tapahtui, miksi se tapahtui ja mitä tapahtuu seuraavaksi.

Yksityiskohtaiset lokit muuttavat agentin mystiseksi botiksi, joka toimii koneessa, järjestelmäksi, jonka voimme tarkastella.

Kovantissa jokaisen AI-agentin käyttöönoton yhteydessä on riskikartta, jota organisaatio voi toimia, ja meillä on sisäänrakennettu portinvartijajärjestelmä ihmisille riskialttiille toimille, joten agentit voivat suorittaa vain ne tehtävät, jos ihminen tarkistaa ja hyväksyy päätöksen. Kaikki nämä ovat lokittu samalla tavalla kuin järjestelmän kirjaamisjärjestelmä ja ovat jäljitettävissä.

Uskomme, että on tärkeää yhdistää toimintalokit ihmisen valvontaan ja havainnollistamiseen vähentääksesi riskiä. Se tarkoittaa, että edelleen saavutat nopeuden ja skaalautuvuuden edut, kun agentit suorittavat todellisia operaatioita.

On kasvava keskustelu siitä, voitko edes vakuuttaa AI-agentteja heidän epäselvän päätöksenteon vuoksi. Miten agenttityönkulun tekeminen tarkasteltavaksi ja uudelleenkäytettäväksi auttaa “mustan laatikon” ongelman ratkaisemisessa ja avaamisessa vakuutettavuuden ovelle?

“Musta laatikko” -ongelma on se, mikä tekee vakuutettavuuden hankalaksi. Jos et voi selvästi näyttää, mitä agentti teki, miksi se teki sen, ja mitkä valvontatoimet olivat paikallaan, on vaikea kenenkään, erityisesti vakuuttajien, arvioida riskiä.

Meidän lähestymistapamme on käytännössä laajennus edellisessä vastauksessa mainitusta vastuujärjestelystä. Me jakamme päätöksen piiriin ja vaikutuksen toimiin pienempiin palasiin, joten malli ei tee yhtä suurta, epäselvää päätöstä, joka voi vaikuttaa koko operaatioon. Kunkin askelen on kapeampi, ennalta arvattavampi ja helpompi arvioida.

Sitten lisäämme yksityiskohtaiset lokit, havainnollistamisen ja ihmisen valvonnan. Tärkeimmille ja vaikuttavimmille päätöksille käytämme ihmisen portinvartijaa, joten agentti voi edetä vain, kun ihminen on tarkastanut ja hyväksynyt. Se luo paljon enemmän näkyvyyttä siihen, miten työnkulku toimii käytännössä.

Tekemällä työnkulut tarkasteltaviksi ja uudelleenkäytettäviksi on viimeinen palanen. Jos jotain menee pieleen, voit toistaa, mitä tapahtui, tutkia nopeasti, vahvistaa korjauksia ja osoittaa, kuinka usein ihmisen hyväksyntä vaaditaan ja missä turvallisuusvarusteet sijaitsevat. Vakuutusarvioinnissa se muuttaa salaperäisen AI-käyttäytymisen lähemmäs standardin operaatio-riskiä.

Alkuvaiheen aloitteiden, kuten Agentic AI -säätiön, pyrkimyksien myötä luomaan jaettuja standardeja agen-tason järjestelmille, mitkä ovat lupaavimmat näkökohdat näissä pyrkimyksissä, ja missä ne vielä eivät riitä todellisille yritystoiminnalle?

Standardisointi on yleensä hyvä asia. AAIF voi tehdä vaatimattoman mutta olennaisen työn saadakseen agenttijärjestelmät puhumaan samaa kieltä, mikä helpottaa integraatioita ja vähentää toimittajalukituksia ajan myötä.

Missä olen varovainen, on, kenen näkökulma muotoilee standardeja. Jos suurin osa työstä johtuu mallinluojista ja teknologia-alan kasvuyrityksistä, on riski, että “standardit” optimoivat helpoimman rakentamisen tai demoamisen, eikä sitä, mitä suuret organisaatiot todella tarvitsevat agenttien turvalliseen päivittäiseen käyttöön.

Todellisille yritystoiminnalle puutteet ovat usein vähemmän liittyneitä liittymiin ja enemmän valvontaan: mihin agentti voi päästä ja muuttaa, hyväksymisprosessit korkean vaikutuksen toimille, tarkasteltavat lokit ja havainnollistaminen, jotta tiimit voivat seurata käyttäytymistä, tutkia tapauksia ja osoittaa vaatimustenmukaisuuden. Yritykset tarvitsevat myös käytännön standardeja toimimiseen sekavassa todellisuudessa: testaaminen reunatapauksissa, järjestelmien muutosten käsittely ja turvallinen toimien keskeyttäminen, sisättäminen tai peruttaminen turvallisesti perinteisten työkalujen ja säädellyjen tietoympäristöjen yli.

Se on lupaava suunta, mutta vaikutus on rajoitettu, jos yritysten vaatimukset ja operatiivinen riskienhallinta eivät ole muistettu.

Kovant on jo tuottanut merkittäviä tuloksia suurista pohjoismaisista yrityksistä toimien suurelta osin piilossa. Mitkä liiketoimintafunktiot tai työnkulut osoittautuvat nykyään olevan valmiit autonomisille AI-agentille?

Havaintojen perusteella todellisissa käyttöönotoissa työnkulut, jotka ovat “valmiit” tänään, ovat sellaiset, jotka koostuvat reaktiivisesta valkoisesta työstä: valvonnasta, ajamisesta, tarkastelusta, järjestelmien päivittämisestä, poikkeusten käsittelystä ja operaatioiden pitämisestä käynnissä useiden työkalujen yli.

Valmistuksessa ja laajemmissa yritysten toimitusketjuissa se ilmenee seuraavilla aloilla:

• Hankinta: raaka-aineiden saatavuus, kestävä hankinta, vaatimustenmukaisuusoperaatiot, toimittajan valinta (mukaan lukien kaksinkertainen/multi-sourcing), sopimuksen hallinta, toimittajan riskienhallinta ja tarjouspyynnöt/hankintamenettelyt.
• Tuotanto: kapasiteetin suunnittelu, tuotannon aikataulutus, ylläpito, laadunhallinta, pullonkaulien hallinta, tappioiden estäminen.
• Varastointi: vastaanotto ja tarkastus, varastoinnin hallinta, varastojen kierto (FIFO/FEFO), ja jaksoittainen laskenta/tarkastus.
• Liikenne / logistiikka: kuljetusmuodon ja kuljettajan valinta, tullaus/asianhallinta, seuranta ja näkyvyys, päästöjen seuranta ja kaupan vaatimustenmukaisuus.
• Myynti ja palvelu: tuotteen saatavuus, loppumisen esto, myynti/palautusten hallinta, kuluttajan käyttäytymisen analyysi, sekä myyntijälkeiset alueet, kuten korjaukset, eliniän seuranta, työpajan toiminnot ja huolto-sopimukset.

Kun yritykset käyttöönottoivat AI-agentteja kriittisissä operaatioissa, miten suosittelisit tasapainottamaan autonomian ja ihmisen valvonnan varmistamaan valvonnan ilman hidastamista?

Tasapaino on johdettu autonomia. On annettava agenttien liikkua nopeasti alhaisen riskin työssä selkeiden rajoitusten sisällä, ja eskaloida ihmisille, kun toiminta ylittää määritetyn riskikynnyksen.

Monet epäonnistumiset johtuvat siitä, että mallille annetaan liian laaja piiri ja liian paljon kontekstia kerran. Suosittelen jakamista operaatioita pienempiin, kapeisiin päätöksiin, joissa kunkin askelen on selkeät valtuudet ja rajoitettu vaikutusalue. Se vähentää ennalta arvaamatonta käyttäytymistä ja tekee suorituskyvyn helpommin seurattavaksi ja parantamiseksi.

Sitten yhdistämme kolme asiaa: havainnollistamisen, toimintalokit ja ihmisen portinvartijan. Kaikki, mitä agentti tekee, on jäljitettävissä, jotta voimme tarkastella, mitä tapahtui, ja tutkia nopeasti. Korkean vaikutuksen toimille asetamme ihmisen hyväksymisvaiheen työnkulkuun, jotta agentti voi ehdottaa ja valmistella, mutta suorittaa vain, kun ihminen on allekirjoittanut.

Se pitää asiat liikkeessä nopeasti. Se hidastaa vain hieman ihmisen valvontavaiheessa, mutta se on tärkeä osa prosessia. Ihmiset eivät ole jumissa valvomassa jokaista napsautusta, mutta he ovat edelleen hallinnassa siitä, mitä merkitsee.

Katsoen eteenpäin, miten odotat autonomisen AI-agenttien roolin kehittyvän suurissa organisaatioissa seuraavien vuosien aikana, ja mitä erottaa yritykset, jotka onnistuvat agen-tason AI:sta, niistä, jotka kamppailevat?

Seuraavien vuosien aikana autonomiset AI-agentit siirtyvät mielenkiintoisista kokeiluista todelliseksi toimintakerroksi suurissa organisaatioissa. Ne tullaan käyttämään operaatioissa, asiakaspalvelussa, rahoituksessa ja HR:ssä. Kun luotettavuus, hallinto ja valvonta paranevat, näemme yritysten siirtymisen eristetyistä kokeiluista agenttien suorittamiseen päättyen työnkulkuun.

Suurin muutos on, että nopeus, joustavuus, skaala, tehokkuus ja kustannukset tulevat suoremman kilpailuedun muuttujiksi. Uskon, että “Uber-liike” on tulossa yritysten pariin. Ne, jotka todella hallitsevat agen-tason AI:n, pystyvät toimimaan perustavanlaatuisesti nopeammin kuin jälkeenjääjät, valtaavat markkinoita nopeammin ja reagoivat muutokseen ilman tavallista operatiivista kitkaa.

Se, mikä erottaa voittajat, ei ole pelkästään agenttien käyttöönotto, vaan niiden käyttöönotto hyvin. Johdettu autonomia, vahva havainnollistaminen ja toimintalokit, ja arkkitehtuuri, joka supistaa päätösten piiriä, tulevat olemaan avainasia. Yritykset, jotka käsittävät agen-tason AI:n ydinoperaatiokapasiteetiksi, oikeilla valvontatoimilla, integraatiolla ja omistajuudella, käyttävät sitä tehdäkseen enemmän, ei vähemmän. Se vapauttaa tiimit keskittymään kasvuun ja innovaatioon eikä ole uppoamassa päivittäin hallinnollisiin tehtäviin.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, kannattaa vierailla Kovantissa.