Ali Sarrafi, Kovantin toimitusjohtaja ja perustaja – haastattelusarja

Ali Sarrafi, Kovantin toimitusjohtaja ja perustaja, on kokenut teknologia- ja tekoälyjohtaja Tukholmassa, jolla on kokemusta nopeasti kasvavien tekoälyyritysten rakentamisesta ja kasvattamisesta. Perustettuaan Kovantin loppuvuodesta 2024 hän on hyödyntänyt syvää kokemusta yritysten tekoälystrategiassa, markkinoilleviennissä ja toiminnan kasvattamisessa. Aikaisemmin hän toimi strategiasta vastaavana johtajana Silo AI:ssa sen jälkeen, kun AMD oli ostanut sen, ja hän oli vastuussa yritysten tekoälystrategian muotoilemisesta ja laajan käytön edistämisestä. Uransa alussa hän oli mukana perustamassa Combient Mixiä ja johti yritystä nopeaan kasvuun ja onnistuneeseen yrityskauppaan Silo AI:n kanssa, ja on sen jälkeen toiminut neuvonantajana ja hallituksen jäsenenä koulutuksen ja tekoälystartuppien parissa, mikä heijastaa johdonmukaista painopistettä muuttaa edistynyt tekoäly konkreettisiksi liiketoimintahyödyiksi.

Kovant on tekoälyyritys, joka keskittyy siihen, että yritykset voivat siirtyä kokeellisesta tekoälykäytöstä täysin toiminnallisiin, itsenäisiin liiketoimintaprosesseihin. Yritys kehittää agenttipohjaista alustaa, joka on suunniteltu orkestroimaan tekoälyagentteja monimutkaisilla toiminnan aloilla, kuten hankinnassa, toimitusketjuissa, vaatimustenmukaisuudessa ja asiakaspalvelussa. Korostamalla turvallista, yrityskäyttöön soveltuvaa käyttöönottoa ja nopeaa arvon saavuttamista, Kovant asettaa itsensä sillaksi strategisen tekoälytavoitteen ja päivittäisen toiminnan toteutuksen välille, auttaen suuria organisaatioita sisällyttämään tekoälyn suoraan keskeisiin työnkulkuihin sen sijaan, että sitä käsiteltäisiin erillisenä työkaluna tai pilottiprojektina.

Olet johtanut suuria tekoälyhankkeita Spotifyssa, skaalannut ja myynyt Combient Mixin, ja myöhemmin muotoillut yritysten tekoälystrategiaa Silo AI:ssa ennen Kovantin perustamista. Mitkä tarkat puutteet tai turhautumisen aiheet kohtasit näissä rooleissa, jotka vakuuttivat sinut siitä, että on aika rakentaa itsenäinen yritysten tekoälyalusta, ja miten tuo historia muotoili Kovantin ydinsuunnittelufilosofian?

Edellisissä rooleissani samat puutteet toistuivat. Ensinnäkin useimmat toimialakohtaiset tekoälytyökalut ovat tehokkaita vain yhden ohjelmistopinon sisällä: ne tekevät yhden asian hieman paremmin kyseisen rajoituksen sisällä, mutta kamppailevat heti, kun työnkulku vaatii useita järjestelmiä. Samalla yritysten data on hajallaan useissa työkaluissa, ja monet automaatio-ratkaisut eivät pysty edes käsittelemään sitä. Lisää siihen vuosien mittaiset pistekohtaiset integraatiot, ja saat klassisen spagettirakenteen: monimutkaisuus kasvaa, muutokset hidastuvat, ja tiimit päätyvät automatisoimaan yksittäisiä askelia sen sijaan, että ne suunnittelisivat koko työnkulun uudelleen alusta loppuun. Seurauksena on, että tuotto saapuu usein hitaammin – ja pienemmässä määrin – kuin organisaatiot odottavat.

Kovant on suunniteltu vastaukseksi tälle todellisuudelle. Meidän ydinsuunnittelufilosofiamme on, että agenttien tulisi toimia enemmän kuin työntekijät: ne työskentelevät useiden työkalujen yli, ne “palkataan” tekemään töitä, eivät automatisoimaan yhtä ennalta ohjelmoitua toimintaketjua. Siksi integraatiot ja orkestraatio ovat sisäänrakennettuja, ja oletamme, että yritysten data on usein epäjärjestynyttä ja rakenteetonta – se tarvitsee enemmän inhimillistä lähestymistapaa poikkeusten ja epävarmuuden käsittelyyn.

Käytämme perusagentteja saavuttamaan nopeutta ja skaalautuvuutta, samalla pitäen datan suvereniteetin etusijalla: yritykset voivat käyttää ja käsitellä omaa dataansa eri järjestelmien välillä ilman, että se poistuu heidän tiloistaan.

Kovant asettaa itsensä itsenäiseksi yritysten tekoälyalustaksi, joka pystyy hallitsemaan koko toimintaa ja osastoja tekoälyagentteja käyttäen. Miten määrittelet “itsenäisen” yrityksen kontekstissa, ja miten se eroaa automaatio- ja agenttityökaluista, joita yritykset ovat jo kokeilleet tänään?

Yrityksen kontekstissa, kun puhumme “itsenäisyydestä”, emme tarkoita “valvomattomuutta”. Tarkoitamme, että tekoälyagentit voivat toteuttaa todellisia toimia koko toimintoketjun läpi selkeiden tavoitteiden ja rajoitusten kanssa, ja ne eskaloivat ihmisille, kun valvontaa tarvitaan.

Se, mikä tekee Kovantista erilaisen, on meidän perusagenttimme. Sen sijaan, että automatisoimme yksittäistä kiinteää prosessia tai seuraamme ennalta määriteltyä järjestystä, Kovantin agentit voivat työskennellä tiiminä (tai parvena) tietyn toiminnon parissa pelkkien ohjeiden ja blueprintiksi kutsumamme toimintakuvauksen avulla. Niitä ei ole suunniteltu yhdelle kapealle tehtävälle; ne ratkovat yhdessä monimutkaisia työnkulkuja, mukautuvat olosuhteiden muutoksiin ja siirtävät tehtävät ihmisille, kun tilanne vaatii valvontaa.

Esimerkiksi varastonhallinnan agenttitiimi voi suorittaa seuraavat tehtävät ilman, että ne olisi rakennettava alusta alkaen, mukaan lukien: viestintä toimittajien kanssa sähköpostitse, varastotason valvonta ja loppumisen valvonta, toimitusten ja ostotilauksien seuranta, tilatietojen päivittäminen järjestelmissä, poikkeamalippujen luominen varastosuunnittelijoille hyväksymistä varten, varaston uudelleenjako varastojen välillä, ja varastoraporttien konsolidointi.

Muutos tarkoittaa, että keskustelun ja työkalujen yhdistelmien tai mittakaavan kasvaessa rikkoutuvien hauraiden automaatioiden sijaan yritykset siirtyvät agenttien rakentamisesta niiden laajamittaiseen käyttöön.

Vaikka agenttipohjaiseen tekoälyyn on suuri mielenkiinto, monet organisaatiot ovat edelleen juuttuneet kokeiluvaiheeseen. Mitkä ovat pääsyyt, jotka estävät yrityksiä siirtymästä kokeilusta tuotantoon, mitä olet havainnut todellisissa käyttöönotoissa?

Se, mitä havaitsemme, on, että useimmat organisaatiot eivät jää juuttuneiksi kokeiluvaiheeseen, koska idea on väärä; he jäävät juuttuneiksi, koska ympäristö on vihamielinen skaalautumiselle.

Ensimmäinen este on fragmentoitu yritysten teknologiamaisema. Työnkulut ulottuvat useiden järjestelmien yli, data sijaitsee useissa paikoissa, ja kaiken yhdistäminen luotettavasti on vaikeaa. Ja agenttipohjainen tekoäly on usein käytössä olemassa olevien työkalujen lisäksi, eikä keinona suunnitella koko työnkulkua uudelleen alusta loppuun.

On myös oikea arkkitehtuuri- ja dataongelma. Monet SaaS-toimittajat yrittävät edelleen lukita datan sisään, mikä luo yhteensopimattomuutta ja rajoittaa sitä, mitä agentit voivat tehdä järjestelmien yli. Ja monissa tiimeissä aliarvioidaan sitä, että suurin osa yritysdatasta on rakenteetonta (sähköposteja, asiakirjoja, tukipyyntöjä, PDF-tiedostoja, chat-lokeja). Jos lähestymistapa olettaa puhdasta, rakenteista dataa, arvon saavuttaminen muuttuu pitkäksi, vaikeaksi ja hankalaksi toistaa pilotin ulkopuolella.

Lyhyesti: fragmentaatio, toimittajalukko ja rakenteeton data luovat kitkaa – ja pilotit eivät etene tuotantoon ennen kuin nämä realiteetit otetaan suunnittelussa huomioon.

Luotettavuus mainitaan usein suurimpana esteenä tekoälyagenttien käyttöönotolle todellisessa maailmassa. Miksi monet agenttijärjestelmät epäonnistuvat, kun ne jättävät valvotun testiympäristön, ja miten Kovantin lähestymistapa vähentää ongelmia, kuten hallusinaatioita ja ennalta arvaamattomia käyttäytymisiä?

Jotkut agenttijärjestelmät näyttävät hyvältä esittelyissä, mutta epäonnistuvat todellisessa maailmassa, koska ympäristö on sekava ja ennalta arvaamaton. Data on epätäydellistä tai epäjohdonmukaista, reunatapaukset ilmenevät jatkuvasti (hyvitykset, riidat, erityiset hyväksynnät). Työnkulut ulottuvat useiden työkalujen, alustojen ja integraatioiden yli, jotka muuttuvat ajan myötä, ja käyttöoikeudet vaihtelevat. Kun tekoälyagentilta pyydetään käsittelemään suurta tehtävää ja sille annetaan liikaa kontekstia kerralla, riski hallusinaatioista ja oudosta käyttäytymisestä kasvaa.

Kovant vähentää tätä suunnittelun kautta. Ainutlaatuinen arkkitehtuurimme rajaa mallien ongelma- ja päätösavaruutta sekä niiden käsittelemää kontekstia, vähentääkseen hallusinaatioita. Me myös jakamme toiminnat kapeisiin, fokusoituneisiin tehtäviin yksittäisille agenteille ja askelille. Se tekee käyttäytymisen ennalta arvattavammaksi ja lisää jäljitettävyyttä ja hallittavuutta järjestelmään ja voi hallita hallusinaatioita paremmin. Voimme nähdä, mitä kukin agentti teki, mistä epäonnistuminen alkoi, ja puuttua tai eskaloida, kun tarve vaatii.

Hallusinaatiot eivät katoa taianomaisesti, mutta rajoittamalla, kunkin agentin vastuualuetta, ja rajoittamalla kontekstia, jolla se voi toimia, voimme vähentää niiden esiintymistiheyttä ja rajoittaa niiden vaikutusta. Tämä “kapean tehtävän/kontekstin” lähestymistapa on myös saanut tukea Nvidian tutkimusryhmän viimeaikaisesta työstä, joka löysi samankaltaisia etuja agenttien päätöksenteon rajoittamisesta.

Vastuuvelvollisuus on suuri huolenaihe, kun tekoälyagentit alkavat tehdä todellisia toimia liiketoimintajärjestelmissä. Miten yksityiskohtaiset toimintalokit muuttavat keskustelun luottamuksen, vaatimustenmukaisuuden ja toiminnan riskin ympärillä?

Yksityiskohtaisilla toimintalokeilla voimme nähdä, mitä tapahtui, miksi se tapahtui ja mitä tapahtuu seuraavaksi.

Toimintalokit muuttavat koneen sisällä salaperäisesti toimivan botin järjestelmäksi, jota voidaan tarkastella.

Kovantissa jokaisen tekoälyagentin käyttöönotossa on riskikartta, jonka pohjalta organisaatio voi toimia, meillä on sisäänrakennettu portinvartijajärjestelmä ihmisille riskialttiille toimille, mikä tarkoittaa, että agentit voivat suorittaa vain ne tehtävät, jos ihminen tarkistaa ja hyväksyy päätöksen. Kaikki nämä tapahtumat kirjataan samaan tapaan kuin virallisen tietojärjestelmän tapahtumat ja ovat jäljitettävissä.

Uskomme, että on tärkeää yhdistää toimintalokit ihmisten valvontaan ja havainnoitavuuteen riskin vähentämiseksi. Se tarkoittaa, että saat edelleen nopeuden ja skaalautuvuuden edut, kun agentit suorittavat todellisia toimia.

On kasvava keskustelu siitä, voivatko tekoälyagentit edes olla vakuutettavissa niiden epäselvän päätöksenteon vuoksi. Miten tekoälytyönkulun tekeminen tarkasteltavaksi ja toistettavaksi auttaa ratkaisemaan “mustan laatikon” ongelman ja avaamaan oven vakuutettavuuteen?

“Musta laatikko” -ongelma on se, mikä tekee vakuutettavuuden hankalaksi. Jos et voi selvästi osoittaa, mitä agentti teki, miksi se teki sen, ja mitkä valvontamekanismit olivat paikalla, on vaikea kenellekään, erityisesti vakuutusyhtiöille, hinnoitella riskiä.

Lähestymistapamme on käytännössä laajennus edellisen vastauksen vastuuvelvollisuuden järjestelyistä. Jaamme päätöksenteon laajuuden ja toimien vaikutuksen pienempiin osiin, jotta malli ei tee yhtä suurta, epäselvää päätöstä, joka voi vaikuttaa koko toimintaan. Jokainen vaihe on rajatumpi, ennalta arvattavampi ja helpompi arvioida.

Me lisäämme yksityiskohtaiset lokit, havainnoitavuuden ja ihmisten valvontaa. Tärkeimmille ja vaikuttavimmille päätöksille käytämme ihmisen portinvartijaa, jotta agentti voi jatkaa vain, kun henkilö on tarkistanut ja hyväksynyt sen. Se luo paljon enemmän näkyvyyttä siihen, miten työnkulku toimii käytännössä.

Toimintaprosessien tekeminen tarkasteltavaksi ja toistettavaksi on viimeinen osa. Jos jotain menee pieleen, voit toistaa, mitä tapahtui, tutkia nopeasti, vahvistaa korjauksia ja osoittaa, kuinka usein ihmisten hyväksyntä vaaditaan ja missä varmistukset sijaitsevat. Vakuutusyhtiöiden kannalta se muuttaa salaperäisen tekoälykäyttäytymisen lähemmäs standardia toiminnan riskiä.

Agentic AI Foundationin kaltaiset hankkeet pyrkivät luomaan yhteisiä standardeja agenttipohjaisille järjestelmille. Mitkä ovat mielestäsi näiden pyrkimysten lupaavimmat puolet, ja missä ne eivät vielä vastaa yritysten todellisen toiminnan tarpeisiin?

Standardointi on yleensä hyvä asia. AAIF voi tehdä arkista mutta välttämätöntä työtä saadakseen agenttijärjestelmät puhumaan samaa kieltä. Tämän pitäisi helpottaa integraatioita ja vähentää ajan mittaan toimittajalukkoa.

Suhtaudun varovaisesti siihen, kenen näkökulmasta standardeja muotoillaan. Jos suurinta osaa työstä johtavat mallien kehittäjät ja kasvavat teknologiayritykset, vaarana on, että standardit optimoidaan sen mukaan, mikä on helpointa rakentaa tai esitellä, eikä sen mukaan, mitä suuret organisaatiot tarvitsevat agenttien turvalliseen päivittäiseen käyttöön.

Yritysten todellisessa toiminnassa puutteet liittyvät yleensä vähemmän liitäntöihin ja enemmän hallintaan: mihin agentti voi päästä ja mitä se voi muuttaa, millaiset hyväksyntäprosessit koskevat vaikutuksiltaan merkittäviä toimia, sekä auditoitaviin lokeihin ja havainnoitavuuteen. Niiden avulla tiimit voivat seurata käyttäytymistä, tutkia poikkeamia ja osoittaa vaatimustenmukaisuuden. Yritykset tarvitsevat myös käytännön standardeja sekavassa todellisuudessa toimimiseen: poikkeustapausten testaamiseen, muuttuvien järjestelmien käsittelyyn sekä toimien turvalliseen keskeyttämiseen, rajaamiseen tai peruuttamiseen vanhoissa järjestelmissä ja säännellyissä dataympäristöissä.

Suunta on siis lupaava, mutta vaikutus jää rajalliseksi, ellei yritysten vaatimuksia ja operatiivisten riskien hallintaa huomioida alusta lähtien.

Kovant on jo saanut merkittäviä tuloja suurilta pohjoismaisilta yrityksiltä toimiessaan pitkälti julkisuudelta piilossa. Millaiset liiketoiminnot tai työnkulut ovat nykyisin valmiimpia itsenäisten tekoälyagenttien käyttöön?

Todellisissa käyttöönotoissa valmiimpia ovat olleet reaktiivisesta toimistotyöstä koostuvat työnkulut: seuranta, asioiden perään kysyminen, tarkistukset, järjestelmien päivittäminen, poikkeusten käsittely ja toiminnan ylläpitäminen useiden työkalujen välillä.

Valmistuksessa ja yritysten laajemmissa toimitusketjuissa tämä näkyy seuraavilla alueilla:

• Hankinta: raaka-aineiden saatavuus, vastuullinen hankinta, vaatimustenmukaisuus, toimittajien valinta (myös kahden tai usean toimittajan käyttö), sopimusten hallinta, toimittajariskien hallinta sekä tarjouskilpailujen ja tarjousten hallinta.
• Tuotanto: kapasiteetin suunnittelu, tuotannon aikataulutus, kunnossapidon hallinta, laadunhallinta, pullonkaulojen hallinta ja hävikin ehkäisy.
• Varastointi: vastaanotto ja tarkastukset, varastonhallinta, varaston kierto (FIFO/FEFO) sekä kiertävä inventointi ja auditointi.
• Kuljetus ja logistiikka: kuljetusmuodon ja kuljetusliikkeen valinta, tullaus ja asiakirjat, seuranta ja näkyvyys, päästöjen seuranta sekä kaupan sääntelyn noudattaminen.
• Myynti ja palvelu: tuotteiden saatavuus, varastopuutteiden ehkäisy, myynnin ja palautusten hallinta, kuluttajakäyttäytymisen analyysi sekä jälkimarkkinapalvelut, kuten korjaukset, elinkaaren päättymisen seuranta, korjaamotoiminta ja huoltosopimukset.

Kun yritykset ottavat tekoälyagentteja käyttöön kriittisissä toiminnoissa, miten suosittelet tasapainottamaan itsenäisyyden ja ihmisten valvonnan niin, että hallinta säilyy hidastamatta kaikkea?

Tasapaino löytyy hallitusta itsenäisyydestä. Agenttien on annettava hoitaa vähäriskisiä tehtäviä nopeasti selkeiden rajojen sisällä, ja asia on siirrettävä ihmiselle, kun toiminta ylittää määritellyn riskirajan.

Monet epäonnistumiset johtuvat siitä, että mallille annetaan kerralla liian laaja vastuu ja liikaa kontekstia. Suosittelen jakamaan toiminnan pienempiin, tarkasti rajattuihin päätöksiin, joissa jokaisella vaiheella on selkeät käyttöoikeudet ja rajallinen vaikutusalue. Tämä vähentää arvaamatonta käyttäytymistä ja helpottaa suorituskyvyn seurantaa ja parantamista.

Sen jälkeen yhdistetään kolme asiaa: havainnoitavuus, toimintalokit ja ihmisen hyväksyntä. Kaiken agentin tekemän on oltava jäljitettävissä, jotta tapahtumia voidaan tarkastella ja tutkia nopeasti. Merkittäville tai riskialttiille toimille lisätään työnkulkuun ihmisen hyväksyntävaihe, jotta agentti voi ehdottaa ja valmistella mutta toteuttaa vasta ihmisen hyväksyttyä toimen.

Näin toiminta pysyy nopeana. Mahdollinen pieni hidastus osuu ihmisen valvontavaiheeseen, joka on tärkeä osa prosessia. Ihmisten ei tarvitse valvoa jokaista napsautusta, mutta he hallitsevat edelleen ratkaisevia hetkiä. Tuloksena on nopeutta siellä, missä se on turvallista, ja valvontaa siellä, missä sitä tarvitaan.

Millaisia odotuksia sinulla on agenttipohjaisten tekoälyjärjestelmien tulevaisuudesta suurten organisaatioiden sisällä seuraavien vuosien aikana, ja mitkä tekijät erottavat yritykset, jotka onnistuvat agenttipohjaisessa tekoälyssä, niistä, jotka kamppailevat?

Seuraavien vuosien aikana itsenäiset tekoälyagentit siirtyvät mielenkiintoisista kokeiluista todelliseksi toimintakerrokseksi suurten organisaatioiden sisällä. Niitä käytetään toiminnassa, asiakaspalvelussa, rahoituksessa ja HR:ssa. Kun luotettavuus, hallinto ja valvonta paranevat, näemme, miten yritykset siirtyvät eristetyistä piloteista agenttitiimien käyttöön kokonaisissa työnkuluissa alusta loppuun.

Suurin muutos on, että nopeus, joustavuus, skaalautuvuus, tehokkuus ja kustannukset muuttuvat entistä suoremmiksi kilpailutekijöiksi. Uskon, että “Uber-liike” on tulossa yritysten pariin. Yritykset, jotka todella hallitsevat agenttipohjaista tekoälyä, voivat toimia perustavanlaatuisesti nopeammin kuin jälkeenjääjät, vallata markkinoita nopeammin ja reagoida muutokseen ilman tavallista toiminnan hidastumista.

Se, mikä erottaa voittajat, ei ole ainoastaan agenttien käyttöönotto, vaan niiden käyttöönotto hyvin. Hallittu itsenäisyys, vahva havainnoitavuus ja toimintalokit, sekä päätöksenteon laajuutta rajaava arkkitehtuuri ovat tässä avainasemassa. Yritykset, jotka pitävät agenttipohjaista tekoälyä keskeisenä toimintakykynä, oikeilla valvontatoimilla, integraatiolla ja omistajuudella, käyttävät sitä saadakseen enemmän aikaan, eivät vähemmän. Se vapauttaa tiimit keskittymään kasvuun ja innovaatioon eikä viettämään päiväänsä haudattuna byrokratiaan. Lyhyesti: radikaali nopeus ja tehokkuus muuttuvat todelliseksi kilpailueduksi yritysten mittakaavassa.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Kovantissa.