AI-agentit voivat tehdä työn. Mutta voivatko yritykset hallita niitä?

AI-agentit tulevat merkittävästi paremmiksi tehtävien suorittamisessa. Anna agentille tavoite, pääsy oikeisiin työkaluihin, riittävä konteksti ja hyvin määritelty työnkulku, niin se voi tutkia tietoa, analysoida asiakirjoja, tehdä päätöksiä, päivittää järjestelmiä ja koordinoida muiden agenttien kanssa.

Se on agenttipohjaisen AI:n jännittävä osa. Se on myös se osa, jonka näemme demoissa.

Yritystoiminnot näyttävät erilaisilta. Lainahakemus muuttuu keskellä riskianalyysiä. Asiakas toimittaa uutta tietoa tarkistuksen valmistuttua. Kaksi järjestelmää on eri mieltä samasta tilistä. Hyväksyntä, joka oli voimassa eilen, ei välttämättä ole enää voimassa tänään. Agentti tiivistää tapauksen ennen kuin luovuttaa sen toiselle agentille, ja näennäisesti vähäpätöinen yksityiskohta katoaa prosessissa.

Hyväksytty polku voi kattaa 80 prosenttia siitä, mitä agentin täytyy tehdä. Yritykset toimivat jäljellä olevassa 20 prosentissa.

80/20 -kehys ei ole alan tilastotieto. Se on tapa kuvata, missä operatiivinen monimutkaisuus piilee. Yritystoimintojen vaikein osa on usein ei normaali tapaus, vaan poikkeukset, siirtymät, riippuvuudet, muuttuva konteksti ja päätökset, joissa organisaatio on vastuussa lopputuloksesta.

Kun AI siirtyy vastaamisesta toimien toteuttamiseen, tämä operatiivinen monimutkaisuus korostuu entisestään. Yritysten on ajateltava agenttien rakentamisen lisäksi myös niiden operointia.

Siinä kohtaa Agenttitoiminnot alkaa.

Vastausten tuottamisesta toimien toteuttamiseen

Yritysten generatiivisen AI:n ensimmäinen aallot keskittyi pääosin tietoon. Mallit tiivistivät asiakirjoja, loivat raportteja, vastasivat kysymyksiin, hakivat yrityksen tietämystä ja auttoivat työntekijöitä suorittamaan olemassa olevia tehtäviä nopeammin.

Agentit tuovat jotain perustavanlaatuisesti erilaista. Ne voivat toteuttaa toimia, jotka muuttavat liiketoimintaprosessin tilaa. Agentti voi hyväksyä tai hylätä jotain, päivittää tietojärjestelmää, lähettää asiakasviestin, käynnistää toisen työnkulun, kutsua toisen agentin tai tehdä päätöksen, joka määrittää, mitä seuraavaksi tapahtuu.

OpenAI kuvailee agentteja käytännön oppaassaan järjestelminä, jotka itsenäisesti suorittavat tehtäviä käyttäjien puolesta, käyttäen malleja työnkulun toteutuksen hallintaan ja työkaluja vuorovaikutukseen ulkoisten järjestelmien kanssa. Virheellisen vastauksen operatiivinen seuraus on hyvin erilainen kuin virheellisen toiminnon seuraus.

Yrityskysymys siis muuttuu. Ei enää riitä kysyä, onko malli tuottanut hyvän vastauksen tai onko agentti onnistuneesti suorittanut sille osoitetun tehtävän. Yritysten on yhä enemmän tiedettävä, pitäisikö toiminto olla tapahtunut lainkaan, ottaen huomioon liiketoiminnan konteksti, käytännöt, valtuudet ja kaikki prosessin aikaisemmin tapahtuneet asiat.

Kuva 1: Generatiivinen AI tuottaa tuloksen. Agenttipohjainen AI muuttaa liiketoiminnan tilaa.

Kun AI pystyy muuttamaan liiketoiminnan tilaa ja vaikuttamaan myöhempiin päätöksiin, luotettavuutta ei enää voida mitata pelkästään mallitasolla.

Agentti voi onnistua, vaikka liiketoimintaprosessi epäonnistuu

Käsitellään AI-pohjaista lainan riskianalyysityönkulkua. Yksi agentti poimii hakemusasiakirjat, toinen tarkistaa tulot, kolmas arvioi luottotiedot, ja myöhempi agentti tiivistää tapauksen ennen kuin riskianalyysiagentti tekee tai suosittelee päätöstä.

Jokaisella agentilla on selkeästi määritelty vastuu, ja jokainen voi suorittaa sen oikein. Asiakirja-agentti voi poimia oikean tiedon. Tulotarkistus-agentti voi suorittaa tehtävänsä onnistuneesti. Tiivistys-agentti voi luoda tarkan yhteenvedon sille saatavilla olevasta tiedosta. Riskianalyysi-agentti voi noudattaa ohjeitaan oikein.

Lopullinen liiketoimintapäätös voi edelleen olla väärä.

Kuvittele, että päivitetty tulotieto saapuu alkuperäisen tarkistuksen jälkeen. Uusi asiakirja käsitellään, mutta sen merkitys heikkenee, kun tapaus tiivistetään seuraavaa vaihetta varten. Lopullinen riskianalyysi-agentti saa kohtuullisen yhteenvedon, mutta ei koko prosessin aikana ollut täyttä liiketoimintakontekstia.

Mikään ei välttämättä kaatunut. Mikään API ei epäonnistunut. Yksikään agentti ei välttämättä harhaillut. Jokainen komponentti saattaa raportoida onnistuneesta suorituksesta, vaikka liiketoimintaprosessi johtaa väärään lopputulokseen.

Anthropic käsittelee siihen liittyvää haasteita ohjeistuksessaan tehokkaiden agenttien rakentamisesta, huomauttaen, että autonomiset järjestelmät voivat kohdata kumuloituja virheitä ottaessaan enemmän askeleita. Ongelma laajenee mallin tarkkuutta laajemmaksi, koska tila, konteksti, päätökset ja oletukset kulkevat työnkulun läpi.

Tämä luo tärkeän eron agentin luotettavuus ja liiketoimintaprosessin luotettavuus. Yritys ei lopulta koe yksittäistä agennia. Se kokee koko prosessin tuottaman lopputuloksen.

Kuva 2: Paikallinen menestys ei takaa liiketoiminnan menestystä

Tämä on yksi Agenttinen AI:n tuomista tärkeistä muutoksista. Työnkulku voi epäonnistua, vaikka jokainen komponentti vaikuttaisi terveeltä tarkasteltuna erikseen.

Kyvykkyys ei ole valtuus

Suuri osa nykyisestä agenttipinoista keskittyy ymmärrettävästi kyvykkyyteen. Tiimit haluavat tietää, pystyykö agentti tekemään päättelyä, valita oikean työkalun, suorittaa tehtävän, toipua virheistä ja toimia hyväksyttävällä tarkkuudella ja viiveellä.

Yrityksillä on toinen vaatimus: valtuus.

Oletetaan, että lainanmyöntöagentti pystyy hyväksymään lainan. Tämä ei tarkoita, että sen tulisi hyväksyä jokainen lainahakemus, jonka se voi arvioida. Sen valtuus voi riippua lainasummasta, riskiluokasta, asiakastyypistä, saatavilla olevasta todistusaineistosta, luottamustasosta, aikaisemmista päätöksistä tai siitä, onko hakemus muuttunut aikaisemman tarkastelun jälkeen.

Tämä luo rajan sen välillä, mitä agentti voi tehdä ja mitä agentti saa tehdä.

OpenAI suosittelee arvioimaan agenttityökaluihin liittyvät riskit ja lisäämään suojatoimia tai ihmisen väliintuloa herkkien ja peruuttamattomien toimien ympärille. Microsoft käyttää samankaltaista lähestymistapaa ohjeistuksessaan agenttien hallinnoimille keskeisille liiketoimintaprosesseille, jossa agentit voivat tehdä rutiinipäätöksiä määriteltyjen rajojen sisällä, kun taas päätösvaltuudet määrittävät, mitkä toimet voidaan toteuttaa itsenäisesti ja mitkä vaativat ihmisen hyväksynnän.

Kun agenttien kyvykkyys paranee, tämä eroavaisuus tulee entistä tärkeämmäksi, ei vähemmän. Kyvykkäämmät agentit voivat tehdä merkittävämpiä toimia. Yritysten on siksi löydettävä selkeämpiä tapoja määritellä ja valvoa niitä rajoja, joiden sisällä nämä toimet ovat sallittuja.

Kysymys siirtyy kohteesta Voiko agentti tehdä tämän? kohtaan Millä ehdoilla agentin tulisi saada tehdä tämä?

Liiketoimintapolitiikan on siirryttävä lähemmäs toteutusta

Yrityksillä on jo laajat mekanismit ihmisten hallinnoimien prosessien ohjaamiseen. Ne käyttävät SOP:ita, hyväksymismatriiseja, noudattamispolitiikkoja, riskirajoja, koulutusta, tehtävien erottelua, tarkastuksia ja eskalointimenettelyjä. Useimmat näistä mekanismeista on suunniteltu yksinkertaisen oletuksen pohjalta: henkilö lukee säännön, ymmärtää tilanteen ja soveltaa sääntöä työn suorittamisen aikana.

Agentit muuttavat tuon oletuksen.

Harkitse politiikkaa, joka vaatii toissijaista hyväksyntää transaktioille, jotka ylittävät tietyn rajan. Kun ihminen suorittaa tehtävän, politiikka voi olla asiakirjassa, jota tukevat koulutus ja työnkulun ohjaus. Kun agentti voi toteuttaa satoja tai tuhansia toimia nopeasti, pelkkä politiikka-asiakirjan olemassaolo ei itsessään estä sen vastaista toimintaa.

Jossain kirjoitetun politiikan ja liiketoimintatoimenpiteen välillä politiikka täytyy muuttaa operatiiviseksi.

Tämä ei tarkoita, että jokaisen politiikan täytyy muuttua deterministiseksi koodiksi. Jotkut ohjausmekanismit ovat deterministisiä, jotkut vaativat semanttista tulkintaa, jotkut riippuvat riskistä tai luottamuksesta, ja toiset vaativat edelleen ihmisen harkintaa. Suurempi arkkitehtoninen muutos on, että liiketoimintapolitiikka alkaa lähestyä toteutuspolkua.

AWS tekee tämän kohdan erityisesti Agenttinen AI:n kontekstissa rahoituspalveluissa, mukaan lukien tarve politiikkaperusteiselle agenttitoimien validoinnille ja tarkastusjäljille merkittävän toiminnan ympärillä.

Historiallisesti organisaatiot pystyivät määrittelemään monia hallintovaatimuksia ennen toteutusta ja tarkistamaan noudattamisen myöhemmin tarkastusten ja arviointien kautta. Kun autonomiset järjestelmät toimivat jatkuvasti ja koneen nopeudella, joidenkin ohjausmekanismien täytyy toimia prosessin ollessa käynnissä.

Ihminen silmukassa on tarpeen, mutta se ei ole toimintamalli

Yleisin reaktio epävarmuuteen AI-työnkulussa on asettaa ihminen silmukkaan. Tämä on järkevää, erityisesti merkittävissä päätöksissä, mutta se muuttuu ongelmalliseksi, kun ihmisen tarkastelua pidetään ratkaisuna kaikkiin poikkeuksiin.

Kuvittele agenttipohjainen toiminta, joka käsittelee tuhansia tai miljoonia päätöksiä. Jos jokainen epätavallinen tilanne, matalan luottamuksen tulos, politiikan epäselvyys tai poikkeus ohjataan henkilölle, organisaatio ei ole poistanut operatiivista pullonkaulaa. Se on vain siirtänyt pullonkaulan tarkistusjonoon. Ajan myötä tämä voi aiheuttaa toisen ongelman: kun ihmisiltä pyydetään hyväksymään liian monta rutiinipäätöstä, ihmisen valvonta itsessään voi menettää merkityksensä.

Ihmiset ovat edelleen välttämättömiä, mutta heidän rooliaan on muutettava. Sen sijaan että he tarkistaisivat jokaisen päätöksen, heidän tulisi keskittyä tilanteisiin, joissa harkintaa todella tarvitaan, joissa agentin valtuus on saavutettu tai joissa järjestelmä kohtaa olosuhteen, jota sen ei pitäisi ratkaista itsenäisesti.

Skaalautuva toimintamalli ei siis voi luottaa pelkästään riskipisteytykseen ja ihmisen tarkasteluun. Ennen kuin agentin toiminta muuttuu liiketoimintatoiminnaksi, järjestelmän on otettava huomioon nykyinen liiketoimintaympäristö, asiaankuuluvat politiikat, agentin valtuudet ja mitä on jo tapahtunut työnkulussa. Tulos voi olla jatkaa, pyytää lisätodisteita, pitää toiminta pidossa tai eskaloida päätös ihmiselle.

Kuva 3: Ihmisen tarkastus on yksi ajoaikaisen ohjauksen tuloksista

Tämä muuttaa ihmisen valvonnan roolia. Ihmistä ei enää oletuksena lisätä jokaiseen epävarmaan vaiheeseen. Ihmisen puuttuminen on yksi mahdollinen tulos, kun liiketoimintaympäristö, politiikka, valtuudet tai toiminnon seuraukset vaativat harkintaa.

Ero on tärkeä yritysten mittakaavassa. Jotkut toiminnot tulisi suorittaa automaattisesti, koska ne ovat selvästi politiikan ja valtuuksien rajoissa. Jotkut tulisi keskeyttää, koska vaadittavat todisteet puuttuvat tai liiketoimintatilanne on muuttunut. Toiset tulisi eskaloida, koska päätös on ylittänyt rajan, jonka organisaatio on tarkoituksellisesti varannut ihmisille.

Tavoitteena ei ole poistaa ihmisiä silmukasta. Tavoitteena on sijoittaa ihmiset oikeisiin silmukoihin, samalla kun sallitaan rutiinipäätösten edetä selkeästi määriteltyjen rajojen sisällä. Kun agenttipohjaiset järjestelmät skaalautuvat, ihmisen valvonnan laatu voi riippua vähemmän siitä, kuinka monta päätöstä ihmiset tarkistavat, ja enemmän siitä, pystyykö käyttöjärjestelmä tunnistamaan ne päätökset, joissa ihmisen harkinta todella merkitsee.

Havainnollisuus on välttämätöntä, mutta näkeminen ei ole hallintaa

Ala on edistynyt merkittävästi AI‑havainnollisuudessa. Tiimit voivat tarkastella kehotteita, mallivastauksia, jälkiä, työkalukutsuja, viivettä, token‑käyttöä ja yhä enemmän koko agentin kulkeman polun ennen tuloksen tuottamista.

Tämä näkyvyys on olennaista. OpenAI:n ohjeistus agenttien turvallisuudesta ja arvioinnista korostaa myös tekniikoita, kuten arviointeja ja jälkien luokittelua, agentin käyttäytymisen ymmärtämiseksi.

Mutta pelkkä näkyvyys ei ratkaise operatiivista ongelmaa.

Kuvittele, että huomaaisit, että riskienhallintaa tekevä agentti rikkoi hyväksymispolitiikkaa 2 700 kertaa viime viikolla. Se olisi erinomaista havainnollisuutta, mutta kauheita operaatioita.

Seuraavien liiketoimintaprosessien osalta yritykset tarvitsevat lopulta kyvyn paitsi ymmärtää agentin käyttäytymistä, myös reagoida prosessin ollessa käynnissä.

Kuva 4: Operatiivinen ohjauspiiri

Havainnollisuus vastaa mitä agentti teki. Agenttipohjainen toiminta tarvitsee myös vastauksen pitäisikö agentin jatkaa.

Ero on erityisen tärkeä, kun toiminto on kallis, merkittävä, vaikea peruuttaa tai kykenevä vaikuttamaan moniin myöhempiin päätöksiin.

Vaikeimmat epäonnistumiset saattavat tapahtua agenttien välillä

Toinen haaste nousee esiin, kun yritykset siirtyvät monen agentin ja pidempikestoisten työnkulkujen suuntaan. Monet liiketoimintapolitiikat eivät rajoitu yhteen toimintaan.

Harkitse politiikkaa, joka rajoittaa kokonaisrahoituksellista altistumista päätösketjun aikana. Jokainen yksittäinen tapahtuma saattaa olla sallitun rajan alapuolella, kun taas kumulatiivinen altistus ylittää sen. Jos tarkastellaan kutakin toimintaa erikseen, rikkomusta ei havaita.

Sama ongelma voi ilmetä valtuuksien kanssa. Agentti voi olla valtuutettu keräämään tietoa, mutta ei tekemään lopullista päätöstä. Useiden käsittelyvaiheiden jälkeen alapuolinen agentti voi saada tiedon ilman, että alkuperäiseen tehtävään liitetyt valtuusrajoitukset säilyvät. Jokainen yksittäinen vaihe voi vaikuttaa kohtuulliselta, vaikka koko ketju rikkoisi suunnitellun liiketoimintaprosessin.

Konteksti aiheuttaa samanlaisen ongelman. Tieto, joka oli merkityksellinen työnkulun ensimmäisessä vaiheessa, voidaan tiivistää, muuntaa tai jättää pois useita vaiheita myöhemmin. Alapuolinen agentti ei voi perustella päätöksiä tiedosta, jota sillä ei enää ole, vaikka sen päättely olisi muuten oikea.

Nämä epäonnistumiset viittaavat siihen, että luotettavuuden yksikköä on laajennettava.

Jatkamme mallien arviointia kysymällä, ovatko niiden vastaukset oikeita. Arvioimme agenteja kysymällä, ovatko ne suorittaneet tehtävänsä oikein. Mutta työnkulkotasolla kysymys on, ovatko tieto, valtuudet ja politiikka säilyneet toimintojen ketjun aikana. Liiketoimintatasolla kysymys on, oliiko lopputulos sekä oikea että sallittu.

Tämä on myös linjassa laajemman elinkaarinäkökulman kanssa NIST AI Risk Management Framework, joka korostaa AI‑riskin jatkuvaa mittaamista ja hallintaa sen sijaan, että arviointi nähtäisiin kertaluonteisena toimenpiteenä ennen käyttöönottoa.

Tässä on paikka, jossa agenttipohjainen toiminta alkaa

AI‑hallinto, mallien arviointi, LLMOps, havaittavuus, turvallisuus ja vastuullinen AI käsittelevät jo tärkeitä osia AI‑järjestelmien operoinnissa. Agenttinen toiminta ei korvaa näitä disiplinejä. Se käsittelee operatiivista kerrosta, joka nousee tärkeäksi, kun autonomiset ja puoliksi autonomiset järjestelmät alkavat osallistua suoraan liiketoimintaprosesseihin.

Agenttinen toiminta on autonomisten ja puoliksi autonomisten AI‑järjestelmien operoinnin disciplina todellisissa liiketoimintaprosesseissa, mukaan lukien se, miten valtuutus, konteksti, päätökset, poikkeukset, ihmisen puuttuminen ja vastuullisuus hallitaan suorituksen aikana.

Ero on merkittävä, koska hallittava kohde ei ole enää pelkkä malli. Se on jatkuva liiketoimintaprosessi, jossa ohjelmisto voi itsenäisesti tehdä päätöksiä ja toteuttaa toimia.

Käytännössä tämä luo erilaisen joukon operatiivisia kysymyksiä. Mitä agentti on valtuutettu tekemään? Mikä liiketoimintakonteksti on säilytettävä pitkän aikavälin työnkulussa? Mitä tapahtuu, kun uudet todisteet kumoavat aikaisemman päätöksen? Kuinka organisaatio voi havaita, että yksittäin hyväksyttävät toimet yhdessä rikkovat politiikkaa? Milloin agentin tulisi jatkaa, tauottaa, pysäyttää tai eskaloida? Kuukausia myöhemmin, pystyykö organisaatio rekonstruoimaan, miksi tietty päätös tehtiin?

Omistajuuteen liittyy myös kysymys. Kun agentti suorittaa teknisen tehtävänsä oikein, mutta liiketoiminnan lopputulos on väärä, kuka omistaa epäonnistumisen? Agentin käyttöön delegointi ei delegoi organisaation vastuuta sen operoinnista.

Agentit voivat toteuttaa työn. Yritys omistaa edelleen lopputuloksen.

Tavoitteena on hallittu autonomia

Agenttisen AI:n tulevaisuutta kuvataan joskus edistymisenä kohti täyttä autonomiaa, jossa ihmiset vähitellen katoavat liiketoimintatyönkulkuista. Useimmille yrityksille tämä on todennäköisesti väärä päämäärä.

Hyödyllisempi tavoite on hallittu autonomia.

Monet nykyiset AI-avusteiset prosessit noudattavat mallia, jossa agentti ehdottaa toimintaa ja henkilö tekee lopullisen päätöksen. Luottamuksen kasvaessa jotkut työnkulut sallivat agenteille päätöksenteon määritellyn valtuutuksen puitteissa, kun ympäröivä järjestelmä valvoo toteutusta ja ihmiset käsittelevät poikkeuksia. Kypsät, alhaisen riskin työnkulut saattavat lopulta sallia agenteille itsenäisen päätöksenteon ja toiminnan, kun merkittävät päätökset pysyvät valvottuina ja tallennettuina.

Kuva 5: Autonomian tason kasvu

Sopiva raja vaihtelee prosessin mukaan. Pankki saattaa sallia merkittävän autonomian asiakirjojen luokittelussa, mutta vaatia tiukkaa valvontaa luottopäätöksissä. Vakuutusyhtiö voi automatisoida rutiininomaiset korvausvaatimukset, mutta eskaloida epätavalliset todisteiden yhdistelmät. Terveydenhuollon organisaatio voi antaa agenteille tiedon keräämisen ja tiivistämisen, mutta varata merkittävät päätökset ihmisille.

Tärkeä kysymys ei siis ole pelkästään, kuinka autonominen agentti voi tulla. Kyse on siitä, kuinka paljon autonomiaa organisaatio voi vastuullisesti hallita.

Tämä muuttaa myös kontrollien roolia. Kontrollit eivät välttämättä ole keinoja autonomian rajoittamiseen. Hyvin toteutettuina ne mahdollistavat organisaatiolle autonomian laajentamisen suuremmalla varmuudella.

Agenttien operointi voi olla vaikeampaa kuin niiden rakentaminen

Mallit kehittyvät edelleen. Työkalujen käyttö paranee. Agenttikehykset kehittyvät. Päättelykyky paranee, ja monet tänään vaikeina koetut ongelmat muuttuvat lopulta rutiineiksi.

Paremmat mallit eivät kuitenkaan poista liiketoimintapolitiikkoja, muuttuvaa kontekstia, poikkeuksia, organisaatiorajoja tai vastuullisuutta. Joissain mielessä paremmat agentit tekevät näistä kysymyksistä entistä tärkeämpiä. Järjestelmä, joka ei pysty toimimaan autonomisesti, omaa rajoitetun operatiivisen valtuutuksen. Järjestelmä, joka pystyy toteuttamaan tuhansia liiketoimintapäätöksiä, luo täysin erilaisen vastuun.

Tämä on syy siihen, miksi yritys-AI:n seuraava vaihe ei välttämättä määräydy sen perusteella, kuka organisaatio ottaa käyttöön eniten agenteja. Se voi määräytyä sen perusteella, mitkä organisaatiot oppivat hallitsemaan niitä.

Ensimmäiset 80 prosenttia osoittavat, että agentti voi toimia. Jäljelle jäävät 20 prosenttia määrittävät, luottaako yritys siihen liiketoiminnan kannalta.

Kun agentit tulevat kykenevämmiksi, yrityksen määrittelevä kysymys voi siirtyä mitä agenttimme voivat tehdä johonkin vaikeampaan:

Mihin olemme valmiita antamaan heidän tehdä, millä ehdoilla, ja miten tiedämme, milloin nämä ehdot muuttuvat?

Siinä Agenttinen toiminta alkaa.