Automaatiosta kognitioon: Agenttisen AI:n kehitys

Vuosikymmenten ajan yritysautomaation on noudattanut tuttua logiikkaa: määritellä prosessi, koodata vaiheet ja antaa ohjelmiston suorittaa ne johdonmukaisesti. Skriptit automatisoivat komennot, runbookit tallensivat menettelyt, orkestrointi yhdisti tehtäviä eri järjestelmien välillä, ja AIOps toi koneoppimisen kasvavaan operatiivisen tiedon määrään. Jokainen edistys teki automaatiosta kykenevämmän, mutta ihmiset tekivät edelleen suurimman osan päätöksenteosta. He määrittelivät prosessin; ohjelmisto toteutti sen.

Agenttinen AI muuttaa tätä suhdetta. Sen sijaan, että aloitaisiin kiinteällä ohjeistuksella, agentti voi aloittaa tavoitteesta ja selvittää, miten sitä tavoitellaan määritellyissä rajoissa. Tämä vaatii enemmän kuin vastauksen tuottamista. Järjestelmän on tulkittava tavoite, koottava relevantti konteksti, arvioitava todisteet, käytettävä muistia, valittava työkalujen tai automaatioiden välillä ja mukaututtava olosuhteiden muuttuessa. Anthropic tekee samanlaisen eron työnkulkuihin, joissa mallit ja työkalut noudattavat ennalta määriteltyjä koodipolkuja, ja agenteihin, joissa malli voi dynaamisesti ohjata omaa prosessiaan ja työkalujen käyttöä.

Deterministinen suorituskyky adaptatiivisiin päätöksiin

Mikään tästä ei tee perinteistä automaatiota vanhentuneeksi. Itse asiassa deterministinen automaatio on yhä oikea ratkaisu, kun polku tunnetusta olosuhteesta toimintaan on hyvin ymmärretty. Jos palvelu epäonnistuu terveyden tarkastuksessa, käynnistä se uudelleen. Jos pyyntö täyttää tietyt kriteerit, ohjaa se oikeaan jonoon. Jos käyttöliittymä ylittää rajan, avaa tukipyyntö ja suorita diagnostiikka. Nämä ovat juuri niitä toistettavia toimintoja, joita automaatio hoitaa hyvin.

AIOps laajensi tätä mallia auttamalla organisaatioita tulkitsemaan, mitä tapahtui ennen automaation käynnistymistä: korreloimalla tapahtumia, tunnistamalla poikkeavuuksia, vähentämällä kohinaa ja lisäämällä kontekstia. Agenttinen AI ottaa seuraavan askeleen tuomalla arvostelun signaalin ja toiminnon väliin. Kysymys ei ole enää pelkästään, “Minkä työnkulun tämä olosuhde laukaisee?” vaan siitä tulee, “Ottaen huomioon tavoitteen ja nykyiset todisteet, mikä on paras seuraava askel?”

Kuvitellaan heikkenevä palvelu. Agentin täytyy tarkastella telemetriaa, topologiaa, viimeisimpiä muutoksia, tukipyyntöjä, konfiguraatiotietoja, historiallisia tapahtumia ja liiketoiminnan vaikutusta ennen päätöksen tekoa. Yhdessä tilanteessa todisteet voivat osoittaa tutun korjaustoimen, kun taas toisessa agentin täytyy kerätä lisää tietoa tai suorittaa vain‑lukutapaus‑diagnostiikka. Ja kun mahdollinen vaikutus on suuri tai todisteet ovat epävarmoja, oikea päätös voi olla ottaa ihminen mukaan. Tämä kyky mukauttaa polkua sen perusteella, mitä järjestelmä havaitsee, on merkittävä muutos.

Konteksti ja muisti muuttavat päätöksen laadun

Toimijuus ilman kontekstia ei ole kovin hyödyllinen. Sama oire voi merkitä täysin eri asiaa riippuen topologiasta, huoltotoiminnasta, viimeisimmistä muutoksista, riippuvuuksista tai asiakashaasteesta. Kokeneet operaattorit ymmärtävät tämän vaistomaisesti; he harvoin tekevät merkittäviä päätöksiä yhdestä erillisestä signaalista. He kokoavat kokonaiskuvan, erottelevat havainnon päätelmästä ja päättävät, kuinka paljon luottamusta todisteet ansaitsevat.

Muisti lisää toisen ulottuvuuden. Google Cloud määrittelee muistin ydinkomponentiksi agenttisarkkitehtuureissa, koska se auttaa agenteja ylläpitämään kontekstia ja käyttämään tietoa aiemmista vuorovaikutuksista. Operaatioissa mahdollisuus on laajempi kuin pelkkä vanhan tukipyynnön hakeminen. Hyödyllinen operatiivinen muisti voi säilyttää, mitä tapahtui, kun samankaltaisia olosuhteita ilmeni, mikä hypoteesi osoittautui oikeaksi, mitä korjaustoimenpiteitä kokeiltiin, toimiiko se vai peruttiin, ja mitä operaattorit oppivat sen jälkeen. Kun kokemus on vahvistettu, siitä voi tulla todiste seuraavaa päätöstä varten sen sijaan, että se katoaisi jälkimortemiksi tai pysyisi asiantuntijan mielessä.

Kognitiivisessa tieteessä on mielenkiintoinen rinnastus. Kognitiivisen kuormituksen siirtämisen tutkimus tarkastelee, miten ihmiset käyttävät ulkoisia työkaluja ja toimintoja vähentääkseen tehtävän henkistä kuormitusta, kun taas työkalujen käytön tutkimus on osoittanut, että toistuva vuorovaikutus työkalujen kanssa voi muuttaa ihmisten käsitystä omasta käytännöllisestä ulottuvuudestaan ja toiminta‑kyvystään. Vertaus yritys‑AI:hin ei saa ottaa kirjaimellisesti, mutta perusidea on hyödyllinen: työkalut tekevät enemmän kuin säästävät aikaa. Ajan myötä ne voivat muuttaa tapaamme lähestyä ongelmia. Tunnettu tutkimus Lontoon taksikuskeista ja navigointiosaamisesta tarjoaa toisen muistutuksen siitä, että kestävä kokemus voi muokata itse kognitiota. Yrityksille suunnittelukysymys on siis ei pelkästään, kuinka paljon työtä agentti voi ottaa, vaan onko ihmisen‑agentin järjestelmä parempi ymmärtämään ja toimimaan monimutkaisuudessa.

Agenttien tulisi orkestrointia, ei korvata sitä

Tämä on myös syy, miksi en pidä agenttista AI:ta automaation hylkäämisenä. Urani alussa vietin vuosia rakentaen operaatio‑automaatioita, ja yksi oppi jäi mieleeni: pelkkä toteutus ei riitä. Automaatio on ansaittava luottamus. Operaattorit tarvitsevat varmuuden siitä, että oikeaa toimintaa käytetään oikeassa tilanteessa, oikealla valtuutuksella ja riittävillä todisteilla sen ymmärtämiseksi.
Käytännöllinen agenttinen arkkitehtuuri rakentuu tähän sijoitukseen. Olemassa olevat skriptit, työnkulut, API:t, orkestrointialustat ja toimialakohtaiset työkalut muuttuvat kyvyiksi, joita agentti voi kutsua tarvittaessa. Jos todisteet tukevat tunnettua korjaustoimenpide, agentti voi käyttää todistettua automaatiota sen sijaan, että improvisoisi uuden toiminnon. Jos todisteet ovat puutteelliset, se voi tutkia tarkemmin. Arvo syntyy luotettavan toteutuksen yhdistämisestä entistä adaptatiivisempaan päätöksentekoon siitä, milloin ja miten toteutus tulisi tapahtua.

Enemmän autonomiaa tekee hallinnosta tärkeämpää

Heti kun ohjelmisto voi valita toimenpiteiden välillä, hallintaa ei voi enää käsitellä jälkikäteen lisättynä. Yritys‑agentin on ymmärrettävä, mitä se teknisesti pystyy tekemään, mutta myös, mitä se on valtuutettu tekemään tietyssä ympäristössä, tietyllä riskitasolla ja tietyllä identiteetillä tai roolilla. NIST:n AI Risk Management Framework heijastaa tätä laajempaa hallintanäkökulmaa, järjestäen AI‑riskienhallinnan hallinnan, kartoituksen, mittauksen ja hallinnan ympärille, ja hallinto toimii myös muiden toimintojen yli.

Käytännössä tämä tarkoittaa, että agentin on pystyttävä näyttämään suosituksen taustalla olevat todisteet, selventämään, mitä järjestelmiä ja dataa se käytti, paljastamaan epävarmuuden, kunnioittamaan hyväksymisvaatimuksia ja jättämään auditointijäljen tapahtuneesta. Käänteettömyys on myös tärkeää. Vain‑lukutapausdiagnostiikkaa ja tuotantokonfiguraation muutosta ei tulisi käsitellä samalla autonomia‑kynnyskynnyksellä.

Ihmisen valvonta muuttuu näin tarkemmaksi sen sijaan, että se yksinkertaisesti katoaisi. Sama agentti voi kerätä todisteet itsenäisesti, suositella korjausta, vaatia hyväksyntää ennen korkeamman riskin toimenpidettä ja sitten tarkistaa, toimiiko hyväksytty toimenpide. Tavoitteena ei ole julistaa ihmisiä yleisesti “silmukassa” tai “ulkona”. Tavoitteena on asettaa ihmisen harkinta kohtiin, joissa se tuo eniten arvoa.

Todellinen etu on se, mitä tapahtuu toiminnon jälkeen

Ehkä merkittävin ero ilmenee sen jälkeen, kun toiminto on suoritettu. Perinteinen automaatio kysyy yleensä, onnistuiko työnkulku. Kognitiivisen järjestelmän tulisi esittää vaikeampi kysymys: tuottiko toiminto halutun lopputuloksen, ja mitä meidän tulisi oppia tapahtuneesta?

Tämä muuttaa palautesilmukan arvoa. Onnistunut korjaus voi vahvistaa todisteita samankaltaisessa tilanteessa tulevaisuudessa. Epäonnistunut hypoteesi tulisi tehdä järjestelmästä vähemmän todennäköinen toistaa samaa päättelyä. Operaattorin korjaus voi parantaa seuraavaa suositusta, kun taas peruutus voi paljastaa, että luottamus ylitti saatavilla olevien todisteiden oikeuttaman. Ajan myötä tärkeä omaisuus ei ole pelkästään laajempi automaatio‑kirjasto, vaan kerätty suhde tilanteiden, todisteiden, päätösten, toimien ja lopputulosten välillä.

Tässä valossa yritysautomaatio ei kehity niin, että se korvaa yhden teknologiasukupolven toisella, vaan lisää uusia kykyjä siihen, mikä jo toimii. Skriptit koodasivat toimintoja, runbookit tallensivat menettelyt, orkestrointi yhdisti ne, ja AIOps auttoi tulkitsemaan yhä monimutkaisempia operatiivisia signaaleja. Agenttinen AI lisää kyvyn tavoitella tavoitteita, perustella päätöksiä kontekstin ja todisteiden perusteella, hyödyntää muistia, valita saatavilla olevista kyvyistä, toimia hallituissa rajoissa ja oppia tuloksesta.

Päätepisteen ei tulisi olla rajoittamaton autonomia. Sen tulisi olla vastuullinen autonomia: järjestelmiä, jotka pystyvät tunnistamaan, milloin toimia, milloin tutkia, milloin pyytää lupaa ja milloin lopettaa. Tämä on siirtymä automaatiosta kognitioon — ei koneita korvaamassa ihmistoimintoja, vaan yrityksiä kehittämässä parempaa tapaa havaita, päättää, toimia ja oppia.