Ajatusjohtajat
Aikomuksesta autonomiseksi toiminnaksi: tekoälyagenttien hallinta yrityksessä

Keskeiset kohdatHallinnon on sijaittava tuotteen sisällä, koska se määrittelee, mitkä vastuut…
Näytä lisää
- Hallinnon on sijaittava tuotteen sisällä, koska se määrittelee, mitkä vastuut organisaatio voi turvallisesti delegoida.
- Agenttinen ohjaustaso sitoo agentin identiteetin ja hyväksytyt kyvykkyydet käytännön valvontaan ja toteutuksen valvontaan.
- Organisaatioiden tulisi aloittaa kapeasta työnkulusta ja laajentaa agentin valtuuksia vain, kun toiminnallinen näyttö tukee sitä.
Käsky, kuten ”palauta palvelu”, kuulostaa yksinkertaiselta, kunnes tekoälyagentin on päätettävä, mitä se oikeuttaa tekemään. Sovelluksen uudelleenkäynnistys, asetusten muuttaminen ja infrastruktuurin käyttöönotto voivat kaikki edistää tätä tavoitetta, mutta niillä on erilaiset seuraukset. Kun agentit siirtyvät toimien suosittelusta niiden suorittamiseen, organisaatioiden on luotava selkeä yhteys liiketoiminnan tavoitteiden ja operatiivisen toimivallan välille.
Hallinnan on oltava osa tuotetta, sillä se määrittää, mitä vastuita organisaatio voi luottavaisin mielin delegoida. Agentti, joka pystyy suorittamaan tehtävän luotettavasti sovittujen rajojen puitteissa ja jonka toimista on näyttöä, tarjoaa vahvemman perustan yrityskäytölle kuin agentti, jonka toimivallan rajat ovat epäselvät. Arkkitehtuurin haasteena on sisällyttää nämä rajat järjestelmän toimintatapaan.
Näiden rajojen käytännön toteuttaminen edellyttää yhtenäistä tapaa ohjata agenttien toimintaa. Agenttien hallintataso voi tarjota tähän perustan yhdistämällä agenttien identiteetin, hyväksytyt kyvykkyydet, käytäntöjen valvonnan, muistinhallinnan ja suorituksen valvonnan olemassa olevissa yritysjärjestelmissä. Se määrittää, kuka pyysi toimintoa, mihin toimivaltaan se perustuu, mihin resursseihin se voi vaikuttaa ja miten sen tulos varmennetaan.
Tässä on kolme käytännön ohjenuoraa, joita suosittelemme tekoälyagenttien hallintaan yrityksissä:
Yhdistä kyvykkyydet selkeästi määriteltyyn toimivaltaan
Jokaisella agentilla tulee olla tunnistettava omistaja, määritelty tarkoitus ja tehtävään sopivat käyttöoikeudet. Tämä on linjassa NISTin tekoälyn riskienhallintakehyksen kanssa: siinä hallinta nähdään jatkuvana toimintona koko tekoälyn elinkaaren ajan. Agenttien kohdalla tämän periaatteen on ulotuttava hetkeen, jolloin toiminto muuttaa yritysjärjestelmää. Kun yksi agentti delegoi tehtävän toiselle, näiden rajojen tulee säilyä.
Kyvykkyyksien kartoittaminen edellyttää samanlaista huolellisuutta: hyväksytyssä luettelossa tulee kuvata kunkin työkalun tarkoitus, syötteet, tulosteet, sallitut käyttöympäristöt ja mahdolliset sivuvaikutukset. Työkalun löytäminen ei anna lupaa sen suorittamiseen, joten valtuutus on tarkistettava toimintoa käynnistettäessä. OWASPin liiallista toimivaltaa koskevissa ohjeissa tätä eroa korostetaan suosittelemalla toimintojen ja käyttöoikeuksien rajaamista sekä valtuutuksen valvontaa jatkokäsittelyjärjestelmissä.
Tarkastellaan esimerkkinä palvelun palautusprosessia, jossa agentti selvittää sovelluksen hidastumista ja ehdottaa komponentin uudelleenkäynnistystä. Käytäntö sallii pääsyn hyväksyttyihin telemetriatietoihin, mutta tuotantoympäristön uudelleenkäynnistys edellyttää näyttöä redundanssin toimivuudesta sekä palvelun omistajan hyväksyntää. Näin laaja ohje muuttuu rajatuksi operatiiviseksi päätökseksi.
Muuta operatiiviset tavoitteet hallituiksi työkaluiksi
Jos hyväksytty palautustyökalu on olemassa, agentti voi valmistella pyynnön tätä kyvykkyyttä hyödyntäen. Jos sopivaa työkalua ei ole, agentti voi auttaa laatimaan skriptin, toimintakäsikirjan, syöteskeeman ja työkalun kuvauksen, jolloin operatiivinen tavoite muuntuu ehdotetuksi kyvykkyydeksi, jonka muut voivat tarkastaa. Tämä on agenttipohjaisen työkalukoodauksen käytännön hyöty: agentit voivat osallistua operatiivisten työkalujen rakentamiseen ja myös käyttää niitä.
Työkalujen tuottaminen ei kuitenkaan saisi automaattisesti mahdollistaa niiden suorittamista tuotantoympäristössä. Ehdotetun kyvykkyyden käyttöönotto edellyttää riippumatonta julkaisuprosessia, jossa määritellään vastuutaho, tehdään tietoturvatarkistukset, hallitaan versioita ja testataan virheelliset syötteet, liian laaja käyttöala, osittaiset virheet ja toistuva suoritus. Agentin tuottamat testit voivat olla osa näyttöä, mutta riippumattomassa validoinnissa on selvitettävä, täyttääkö kyvykkyys operatiiviset vaatimukset, ennen kuin se lisätään hyväksyttyyn luetteloon.
Suorituksen rajoitusten tulee määrittää resurssien käyttöala, verkkoyhteydet, kesto ja kulut, ja mahdollinen hyväksyntä tulee liittää nimenomaiseen toimintoon, kohteeseen ja versioon. Myös palautumisjärjestelyihin on kiinnitettävä yhtä paljon huomiota, sillä jotkin muutokset voidaan perua, kun taas toiset edellyttävät korjaavia toimia tai niitä ei voi palauttaa ennalleen. Kunkin kyvykkyyden rajoitukset tulee kuvata selkeästi, ja operaattoreille tulee tarjota testattu tapa keskeyttää suorituksen jatkaminen.
Muisti tuo mukanaan uuden hallintavastuun, sillä säilytetyt havainnot voivat vaikuttaa tuleviin päätöksiin vielä kauan sen jälkeen, kun niiden alkuperäinen asiayhteys on muuttunut. Organisaatioiden tulee määrittää, mitä agentit saavat tallentaa, kuinka kauan tiedot ovat käytettävissä ja mitä käyttörajoituksia niihin sovelletaan. Tätä tulee tukea alkuperätiedoilla ja korjausmekanismeilla. Muistiin tallennettu lupa ei saa koskaan muuttua pysyväksi toimivallaksi, eivätkä vanhentuneet operatiiviset tiedot saa huomaamatta ohjata uusia toimia.
Lisää autonomiaa näyttöön perustuen
Mielekäs valvonta edellyttää näyttöä, joka yhdistää alkuperäisen pyynnön, sovellettavan käytännön, hyväksynnän, työkalun version, suorituksen tuloksen ja sitä seuranneen varmennuksen. Ihmistarkastajat tarvitsevat riittävästi asiayhteyttä arvioidakseen ehdotettua muutosta, siihen liittyvää epävarmuutta ja palautusvaihtoehtoja ilman, että he hukkuvat tarpeettomiin yksityiskohtiin. Valvonnan tueksi poikkeustilanteisiin siirtymisen tulee perustua ennalta määriteltyihin ehtoihin, kuten ristiriitaisiin havaintoihin tai tuntemattomaan järjestelmän tilaan, eikä yksinomaan agentin ilmaisemaan varmuuteen.
IT-johtajien kannattaa aloittaa rajatusta työnkulusta ja laajentaa agentin toimivaltaa sitä mukaa kuin käytännön toiminnasta kertyy näyttöä. Onnistuneiden tulosten ohella on mitattava poikkeamia, palautumisaikaa, käytäntörikkomuksia ja valvontaan käytettyä työmäärää. Näiden mittareiden avulla voidaan arvioida, onko agentti valmis suurempaan vastuuseen ja missä tarvitaan lisää suojatoimia tai testausta.
Tavoitteena on tehdä tehtävien delegoinnista toistettavaa niin, että jokainen hyväksytty kyvykkyys määrittää, mitä agentti voi tehdä, millä ehdoilla ja millaisin vastuin. Tällainen toimintamalli voi vahvistaa häiriönsietokykyä ja tehokkuutta sekä antaa organisaatioille perustellun pohjan agenttien autonomian lisäämiselle. Tärkein opetus on tämä: hallintamalli lunastaa paikkansa tuotteessa mahdollistamalla tämän kehityksen.












