Ali Sarrafi, Kovantin toimitusjohtaja ja perustaja – Haastattelusarja

Ali Sarrafi, Kovantin toimitusjohtaja ja perustaja on kokenut teknologia- ja tekoälyjohtaja Tukholmassa, jolla on kokemusta nopeasti kasvavien tekoälyyritysten rakentamisesta ja skaalaamisesta. Kovantin perustamisesta vuoden 2024 lopulla lähtien hän on hyödyntänyt laajaa kokemusta yritysten tekoälystrategiasta, markkinoilletulosta ja toiminnan skaalaamisesta. Aiemmin hän toimi Silo AI:n strategiajohtajana AMD:n ostettua yrityksen, jossa hän vastasi yritysten tekoälystrategian muotoilusta ja laajamittaisen käyttöönoton edistämisestä. Aiemmin urallaan hän oli mukana perustamassa Combient Mixiä, johtaen yritystä nopean kasvun ja Silo AI:n onnistuneen yritysoston läpi. Sittemmin hän on toiminut neuvoa-antavissa ja hallituksessa koulutus- ja tekoälyalan startup-yrityksissä, mikä heijastaa johdonmukaista keskittymistä edistyneen tekoälyn muuntamiseen reaalimaailman liiketoimintavaikutuksiksi.

Kovantti on yritysten tekoälyyn keskittyvä yritys, joka keskittyy auttamaan organisaatioita siirtymään kokeellisesta tekoälyn käytöstä täysin toimiviin, autonomisiin liiketoimintaprosesseihin. Yritys kehittää agenttipohjaista alustaa, joka on suunniteltu orkestroimaan tekoälyagenttitiimejä monimutkaisilla operatiivisilla osa-alueilla, kuten hankinnoissa, toimitusketjuissa, vaatimustenmukaisuudessa ja asiakastoiminnoissa. Painottamalla turvallista, yritystason käyttöönottoa ja nopeaa arvonluontia Kovant asemoi itsensä siltana strategisen tekoälytavoitteen ja päivittäisen toteutuksen välillä, auttaen suuria organisaatioita upottamaan tekoälyn suoraan ydintoimintoihin sen sijaan, että sitä käsiteltäisiin erillisenä työkaluna tai pilottihankkeena.

Olet johtanut merkittäviä tekoälyhankkeita Spotifylla, skaalannut ja myynyt Combient Mixin ja myöhemmin muokannut Silo AI:n yritystason tekoälystrategiaa ennen Kovantin perustamista. Mitä erityisiä aukkoja tai turhautumisia kohtasit näissä rooleissa, jotka vakuuttivat sinut siitä, että aika oli kypsä rakentaa autonominen yritysalusta, ja miten tämä historia muovasi Kovantin ydinfilosofiaa?

Aiemmissa rooleissani ilmeni jatkuvasti muutamia aukkoja. Ensinnäkin useimmat "vertikaaliset" tekoälytyökalut ovat käytännössä sidottuja yhteen ohjelmistopinoon: ne tekevät yhden asian hieman paremmin kyseisen rajan sisällä, mutta kamppailevat sillä hetkellä, kun työnkulun on katettava useita järjestelmiä. Samaan aikaan yritysdata on hajallaan useissa työkaluissa, eivätkä monet automaatioratkaisut yksinkertaisesti saavuta sitä. Vuosien pisteintegraatioiden kerrostaminen johtaa klassiseen spagettiarkkitehtuuriin: monimutkaisuus kasvaa, muutos hidastuu ja tiimit päätyvät automatisoimaan yksittäisiä vaiheita sen sijaan, että he kuvittelisivat työnkulun uudelleen alusta loppuun. Tuloksena on, että sijoitetun pääoman tuottoprosentti saapuu usein hitaammin – ja pienempänä – kuin organisaatiot odottavat.

Kovant on suunniteltu vastaukseksi tähän todellisuuteen. Ydinfilosofiamme on, että agenttien tulisi käyttäytyä enemmän kuin työntekijöiden: he työskentelevät useilla työkaluilla, heidät "palkataan" tekemään töitä, eivät automatisoimaan yhtä skriptattua sekvenssiä. Siksi integraatiot ja orkestrointi on sisäänrakennettu ja miksi oletamme, että yritysdata on usein sotkuista ja jäsentämätöntä – se tarvitsee ihmismäisemmän lähestymistavan poikkeusten ja epäselvyyksien käsittelemiseksi.

Käytämme Foundation Agents -palveluita nopeuden ja skaalautuvuuden saavuttamiseksi pitäen samalla datasuvereniteetin etusijalla: yritykset voivat käyttää omaa dataansa horisontaalisesti poistumatta sen tiloista.

Kovant positionoi itsensä autonomisena yritysalustana, joka kykenee ajamaan kokonaisia ​​toimintoja ja osastoja tekoälyagenttien avulla. Miten määrittelet "autonomisen" yrityskontekstissa, ja miten tämä eroaa automaatio- ja agenttityökaluista, joita yritykset jo kokeilevat tänä päivänä?

Yrityskontekstissa "autonominen" ei tarkoita "valvomatonta". Tarkoitamme sitä, että tekoälyagentit voivat suorittaa todellisia toimia alusta loppuun koko operaatiossa selkeiden tavoitteiden ja rajoitusten mukaisesti, ja he siirtyvät ihmisille tarvittaessa.

Kovantin erottaa muista sen perustavanlaatuiset agentit. Yhden kiinteän prosessin automatisoinnin tai ennalta määrätyn sekvenssin noudattamisen sijaan Kovantin agentit voivat työskennellä tiiminä (tai parvena) operaation parissa käyttämällä vain ohjeita ja toiminnan yleiskatsausta, jota kutsumme suunnitelmaksi. Niitä ei ole suunniteltu yhtä kapeaa tehtävää varten; ne tekevät yhteistyötä ratkaistakseen monimutkaisia ​​työnkulkuja, sopeutuvat olosuhteiden muuttuessa ja siirtävät tehtäviä muille, kun tilanne vaatii valvontaa.

Esimerkiksi varastonhallintatiimi voi suorittaa kaikki seuraavat tehtävät ilman, että niitä tarvitsee rakentaa uudelleen alusta alkaen, mukaan lukien: sähköpostiviestintä toimittajien kanssa, varastotasojen ja loppumissignaalien seuranta, lähetysten ja ostotilausten seuranta, tilojen päivittäminen eri järjestelmien välillä, poikkeamatikettien luominen varastosuunnittelijoiden hyväksyttäväksi, varaston uudelleenjakaminen varastojen välillä ja varastoraporttien yhdistäminen.

Joten muutos on siinä, että "chatin ja työkalujen" tai skaalautuvien hauraiden automaatioiden sijaan yritykset siirtyvät agenttien rakentamisesta niiden skaalautuvaan käyttöön.

Vaikka agenttiseen tekoälyyn kohdistuu valtavaa kiinnostusta, monet organisaatiot ovat edelleen jumissa pilottivaiheessa. Mitkä ovat tärkeimmät syyt, miksi yritykset kamppailevat siirtyäkseen kokeiluvaiheesta skaalattuun tuotantoon sen perusteella, mitä näet todellisissa käyttöönotoissa?

Näemme, että useimmat organisaatiot eivät jumiudu pilottivaiheeseen väärän idean vuoksi, vaan siksi, että ympäristö on vihamielinen skaalaamiselle.

Ensimmäinen este on pirstaloitunut yritysteknologiaympäristö. Työnkulut kattavat useita järjestelmiä, data sijaitsee useissa paikoissa, ja kaiken luotettava yhdistäminen on vaikeaa. Agenttipohjaista tekoälyä käytetään usein lisäosana olemassa oleviin työkaluihin sen sijaan, että se olisi tapa miettiä uudelleen, miten työnkulun tulisi toimia alusta loppuun.

On myös olemassa todellinen arkkitehtuuri- ja dataongelma. Monet SaaS-toimittajat yrittävät edelleen lukita dataa sisäänsä, mikä aiheuttaa yhteensopimattomuuksia ja rajoittaa agenttien todellista toimintaa järjestelmien välillä. Ja monet tiimit aliarvioivat sen tosiasian, että suurin osa yrityksen datasta on jäsentämätöntä (sähköpostit, dokumentit, tiketit, PDF-tiedostot, keskustelulokit). Jos lähestymistapasi olettaa puhtaan ja jäsennellyn datan, arvonnoususta tulee pitkä, tuskallinen ja vaikeasti toistettavissa pilottivaiheen jälkeen.

Lyhyesti sanottuna: pirstaloituminen, lukkiutuminen ja strukturoimaton data aiheuttavat hidasteita – eivätkä pilottihankkeet koskaan johda tuotantoon, ennen kuin näitä realiteetteja varten on suunniteltu.

Luotettavuutta pidetään usein tekoälyagenttien käyttöönoton suurimpana esteenä todellisessa maailmassa. Miksi niin monet agenttijärjestelmät vikaantuvat, kun ne poistuvat kontrolloiduista ympäristöistä, ja miten Kovantin lähestymistapa vähentää ongelmia, kuten hallusinaatioita ja arvaamatonta käyttäytymistä?

Jotkin agenttijärjestelmät näyttävät hyviltä demoissa, mutta epäonnistuvat sitten tosielämässä, koska ympäristö on sekava ja arvaamaton. Data on puutteellista tai epäjohdonmukaista, reunatapauksia ilmenee jatkuvasti (hyvitykset, riidat, erityishyväksynnät). Työnkulut kattavat useita työkaluja, alustoja ja integraatioita, jotka muuttuvat ajan myötä, ja käyttöoikeudet vaihtelevat. Kun tekoälyagenttia pyydetään käsittelemään suuri tehtävä ja hänelle annetaan liikaa kontekstia kerralla, hallusinaatioiden ja oudon käyttäytymisen riski kasvaa.

Kovant vähentää tätä suunnittelun avulla. Ainutlaatuinen arkkitehtuurimme kaventaa ongelmatilaa, päätöksentekotilaa ja kontekstia, joiden kanssa mallit työskentelevät hallusinaatioiden vähentämiseksi. Jaamme toiminnot myös kapeisiin, kohdennettuihin tehtäviin yksittäisille toimijoille ja vaiheille. Tämä tekee käyttäytymisestä ennustettavampaa ja lisää järjestelmän jäljitettävyyttä ja hallittavuutta ja voi hallita hallusinaatioita paremmin. Voimme nähdä, mitä kukin toimija teki, missä vika alkoi, ja puuttua asiaan tai eskaloida sitä tarvittaessa.

Hallusinaatiot eivät katoa taianomaisesti, mutta rajoittamalla kunkin toimijan vastuuta ja kontekstia, johon se voi toimia, voimme vähentää niiden esiintymistiheyttä ja rajoittaa niiden vaikutusta. Tätä "kavennettua tehtävä/konteksti" -lähestymistapaa on tukenut myös Nvidian tutkimusryhmän viimeaikainen työ, jossa havaittiin samanlaisia ​​etuja toimijan päätöksenteon rajoittamisesta.

Vastuullisuus on merkittävä huolenaihe, kun tekoälyagentit alkavat tehdä todellisia toimia liiketoimintajärjestelmissä. Miten yksityiskohtaiset toimintalokit muuttavat keskustelua luottamuksesta, vaatimustenmukaisuudesta ja operatiivisista riskeistä?

Yksityiskohtaisten toimintalokien avulla näemme, mitä tapahtui, miksi se tapahtui ja mitä tapahtuu seuraavaksi.

Yksityiskohtaiset lokit muuttavat koneessa työskentelevän salaperäisen botin agentin tarkastamaksi järjestelmäksi.

Kovantilla jokaisen tekoälyagentin käyttöönoton yhteydessä on riskikartta, jonka perusteella organisaatio voi toimia. Meillä on sisäänrakennettu ihmisille tarkoitettu portinvartiointi riskialttiiden toimien varalta, mikä tarkoittaa, että agentit voivat suorittaa kyseisiä tehtäviä vain, jos ihminen tarkistaa ja hyväksyy päätöksen. Kaikki nämä kirjataan samalla tavalla kuin tietuejärjestelmät, ja ne ovat jäljitettävissä.

Uskomme, että on tärkeää yhdistää toimintalokit ihmisen valvontaan ja havainnoitavuuteen riskin minimoimiseksi. Se tarkoittaa, että saat edelleen agenttien todellisten operaatioiden nopeus- ja skaalautumisedut.

Käynnissä on kasvava keskustelu siitä, voidaanko tekoälyagentteja edes vakuuttaa läpinäkymättömän päätöksentekonsa vuoksi. Miten agenttien työnkulkujen auditoitavuus ja toistettavuus auttavat ratkaisemaan "mustan laatikon" ongelman ja avaamaan oven vakuutettavuudelle?

”Mustan laatikon” ongelma tekee vakuutettavuudesta vaikeaa. Jos et pysty selvästi osoittamaan, mitä edustaja teki, miksi hän teki sen ja mitä valvontatoimia oli käytössä, kenenkään, erityisesti vakuutusyhtiöiden, on vaikea hinnoitella riskiä.

Lähestymistapamme on pohjimmiltaan laajennus edellisessä vastauksessa esitetylle vastuullisuusasetelmalle. Jaamme päätöksentekoalueen ja toimien vaikutuksen pienempiin osiin, jotta malli ei tee yhtä jättimäistä, läpinäkymätöntä päätöstä, joka voi muuttaa koko operaation. Jokainen vaihe on kapeampi, ennustettavampi ja helpompi arvioida.

Sitten lisäämme yksityiskohtaiset lokit, havainnoitavuuden ja ihmisen valvonnan. Tärkeimpien ja vaikuttavimpien päätösten kohdalla käytämme ihmisportinvartijaa, joten agentti voi edetä vasta tarkistuksen ja hyväksynnän jälkeen. Tämä luo paljon paremman näkyvyyden siihen, miten työnkulku toimii käytännössä.

Työnkulkujen auditoitavaksi ja toistettavaksi tekeminen on viimeinen vaihe. Jos jokin menee pieleen, voit toistaa tapahtuneen, tutkia sen nopeasti, validoida korjaukset ja osoittaa, kuinka usein ihmisen hyväksyntä vaaditaan ja missä suojatoimet sijaitsevat. Vakuutusteknisesti tämä tarkoittaa salaperäinen tekoälyn käyttäytyminen lähemmäksi tavanomaista operatiivista riskiä.

Kun otetaan huomioon Agentic AI Foundationin kaltaiset aloitteet, joiden tavoitteena on luoda yhteisiä standardeja agenttijärjestelmille, mitkä pidät näiden toimien lupaavimpina puolina, ja missä ne jäävät vielä vajaiksi todellisen yritystoiminnan kannalta?

Standardointi on yleisesti ottaen hyvä asia. AAIF voi tehdä vaatimattoman mutta olennaisen työn saadakseen agenttijärjestelmät puhumaan samaa kieltä, minkä pitäisi helpottaa integraatioita ja vähentää toimittajariippuvuutta ajan myötä.

Olen varovainen sen suhteen, kenen näkökulma muokkaa standardeja. Jos suurimman osan työstä johtavat mallien luojat ja teknologiayritykset, on olemassa riski, että "standardit" optimoivat sen, mikä on helpointa rakentaa tai esitellä, sen sijaan, mitä suuret organisaatiot todella tarvitsevat agenttien turvalliseen päivittäiseen käyttöön.

Todellisissa yritystoiminnoissa aukot liittyvät vähemmän liittimiin ja enemmän hallintaan: mihin agentti voi päästä käsiksi ja mitä hän voi muuttaa, hyväksyntätyönkulkuihin vaikuttaville toimille, auditoitaviin lokeihin ja havainnoitavuuteen, jotta tiimit voivat valvoa toimintaa, tutkia tapahtumia ja todistaa vaatimustenmukaisuuden. Yritykset tarvitsevat myös käytännön standardeja toimiakseen sekavassa todellisuudessa: testausta reunatapauksia vastaan, muuttuvien järjestelmien käsittelyä ja kykyä keskeyttää, rajoittaa tai peruuttaa toimintoja turvallisesti vanhojen työkalujen ja säänneltyjen dataympäristöjen välillä.

Joten se on lupaava suunta, mutta vaikutus on rajallinen, ellei yrityksen vaatimuksia ja operatiivisten riskien hallintaa käsitellä jälkikäteen.

Kovant on jo tuottanut merkittäviä tuloja suurista pohjoismaisista yrityksistä toimimalla pääosin piilossa. Minkä tyyppiset liiketoimintatoiminnot tai työnkulut osoittautuvat parhaimmiksi autonomisille tekoälyagenteille tänä päivänä?

Todellisissa käyttöönotoissa nähdyn perusteella tällä hetkellä "valmiimmat" työnkulut koostuvat reaktiivisesta valkokaulustyöstä: valvonnasta, jahtaamisesta, tarkistamisesta, järjestelmien päivittämisestä, poikkeusten käsittelystä ja toimintojen pitämisestä käynnissä useiden työkalujen kautta.

Valmistuksessa ja laajemmissa yritysten toimitusketjuissa tämä näkyy seuraavissa asioissa:

• Hankintaraaka-aineiden saatavuus, kestävä hankinta, vaatimustenmukaisuustoiminnot, toimittajien valinta (mukaan lukien kahden ja useamman toimittajan hankinta), sopimusten hallinta, toimittajien riskienhallinta ja tarjouskilpailujen/tarjousten hallinta.
• Tuotanto: kapasiteetin suunnittelu, tuotannon aikataulutus, kunnossapidon hallinta, laadunhallinta, pullonkaulojen hallinta ja hävikkien ehkäisy.
• Varastointivastaanotto ja tarkastus, varastonhallinta, varastonkierto (FIFO/FEFO) ja kiertolaskenta/auditointi.
• kuljetus / logistiikka: kuljetusmuodon ja kuljetusyrityksen valinta, tulliselvitys/dokumentointi, seuranta ja näkyvyys, päästöjen seuranta ja kaupan vaatimustenmukaisuus.
• Myynti ja palvelu: tuotteiden saatavuus, varastossa loppumisen estäminen, myynnin/palautusten hallinta, kuluttajakäyttäytymisen analysointi sekä jälkimarkkinointipalvelut, kuten korjaukset, romutuotteiden seuranta, korjaamotoiminnot ja huoltosopimukset.

Kun yritykset ottavat tekoälyagentteja käyttöön kriittisissä toiminnoissaan, miten suosittelet tasapainottamaan autonomian ja ihmisen valvonnan, jotta varmistetaan hallinta hidastamatta kaikkea?

Tasapaino on hallitun autonomian varassa. Sinun on annettava agenttien toimia nopeasti matalan riskin tehtävissä selkeiden suojakaiteiden sisällä ja siirrettävä vastuu ihmisille, kun toiminta ylittää määritellyn riskikynnyksen.

Monet epäonnistumiset johtuvat siitä, että mallille annetaan liian paljon soveltamisalaa ja kontekstia samanaikaisesti. Suosittelen toimintojen jakamista pienempiin, kapea-alaisiin päätöksiin, joissa jokaisella vaiheella on selkeät käyttöoikeudet ja rajoitettu vaikutusalue. Tämä vähentää arvaamatonta käyttäytymistä ja helpottaa suorituskyvyn seurantaa ja parantamista.

Sitten yhdistät kolme asiaa: havaittavuuden, toimintalokit ja ihmisen tekemän portinvartioinnin. Kaiken, mitä agentti tekee, tulisi olla jäljitettävissä, jotta voit tarkastaa, mitä tapahtui, ja tutkia sitä nopeasti. Vaikutuksiltaan suurille tai riskialttiille toimille lisäät työnkulkuun ihmisen hyväksyntävaiheen, jotta agentti voi ehdottaa ja valmistella toimia, mutta suorittaa ne vasta, kun henkilö on allekirjoittanut ne.

Se pitää asian liikkeessä nopeasti. Jos mahdollista, se hidastuu vain aavistuksen ihmisen valvonnassa, mutta se on tärkeä osa prosessia. Ihmisten ei tarvitse valvoa jokaista klikkausta, mutta he hallitsevat silti tärkeitä hetkiä. Tuloksena on nopeutta siellä, missä se on turvallista, ja valvontaa siellä, missä se on tarpeen.

Miten odotat autonomisten tekoälyagenttien roolin kehittyvän suurissa organisaatioissa seuraavien vuosien aikana, ja mikä erottaa agenttisen tekoälyn avulla menestyvät yritykset niistä, jotka kamppailevat?

Seuraavien vuosien aikana autonomiset tekoälyagentit siirtyvät mielenkiintoisista kokeiluista todelliseksi operatiiviseksi kerrokseksi suurten organisaatioiden sisällä. Niitä käytetään operatiivisessa toiminnassa, asiakaspalvelussa, taloushallinnossa ja henkilöstöhallinnossa. Luotettavuuden, hallinnon ja valvonnan parantuessa näemme yritysten siirtyvän erillisistä pilottihankkeista agenttitiimien pyörittämiseen kokonaisvaltaisissa työnkuluissa.

Suurin muutos on se, että nopeudesta, ketteryydestä, skaalautuvuudesta, tehokkuudesta ja kustannuksista tulee paljon suorempi kilpailutekijä. Uskon, että yrityksille on tulossa "Uber-liike". Ne, jotka todella hallitsevat agenttisen tekoälyn, pystyvät toimimaan perustavanlaatuisesti nopeammin kuin jälkeenjääneet, valtaamaan markkinoita nopeammin ja reagoimaan muutoksiin ilman tavanomaista operatiivista hidastusta.

Voittajat eivät erotu toisistaan ​​pelkästään agenttien käyttöönotossa, vaan niiden hyvässä käyttöönotossa. Hallittu autonomia, vahva havainnoitavuus ja toimintalokit sekä päätöksentekovaltaa rajaavat arkkitehtuurit ovat tässä avainasemassa. Yritykset, jotka käsittelevät agenttista tekoälyä keskeisenä toimintakykynä, oikeilla kontrolleilla, integraatiolla ja omistajuudella, käyttävät sitä enemmän, eivät vähempään. Tämä vapauttaa tiimit keskittymään kasvuun ja innovointiin sen sijaan, että he viettäisivät päivänsä hallinnon tehtävissä. Lyhyesti sanottuna radikaalista nopeudesta ja tehokkuudesta tulee todellinen kilpailuetu yritystasolla.

Kiitos upeasta haastattelusta, lukijoiden, jotka haluavat tietää lisää, kannattaa käydä Kovantti.