Ajatusjohtajat

Tekoälyagenttien hallinnan edellyttämä arkkitehtoninen muutos

Sergio Gago
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
A photorealistic widescreen image of a technician viewed from behind, seated at a dark command center with multiple monitors. A large glass wall in front of him displays a complex, glowing architectural blueprint made of blue and green light. The hologram features intricate pathways, interconnected nodes, and two small silhouettes of figures standing together, representing a human and an AI
Keskeiset kohdatKohtele agentteja digitaalisina kollegoina, joilla on kulkuoikeusmerkit ja tietojen…
Näytä lisää
  • Kohtele agentteja digitaalisina kollegoina, joilla on kulkuoikeusmerkit ja tietojen luovutusrajoitukset, ei pikakorjauksia kehotteisiin.
  • Hallinta suunnittelun kautta edellyttää yhtenäistä hallintatasoa, jolla voidaan soveltaa käytäntöjä johdonmukaisesti kaikissa ympäristöissä.
  • Ilman reaaliaikaista seurantaa ja jäljitettävyyttä yritykset eivät pysty tarkastamaan agenttien toimia tai todistamaan vaatimustenmukaisuutta suorituksen aikana.

Tekoäly ei ole enää pelkkä tekstiä tuottava chatbot. Yritysympäristöissä tekoälyagentit hakevat arkaluonteisia tietoja, käynnistävät työnkulkuja, kutsuvat työkaluja ja kirjaavat toimintaa eri järjestelmiin. Autonomia muuttaa hallintaa koskevan keskustelun täysin: alun perin ihmiskäyttäjille ja perinteisille sovelluksille suunniteltuja valvontakeinoja ja menettelyjä ei rakennettu hallitsemaan ohjelmistoja, jotka voivat suorittaa monivaiheisia toimintoja ajon aikana.

Riski ei ole teoreettinen. Pienet puutteet näkyvyydessä, pääsynhallinnassa ja auditoitavuudessa voivat kasautua nopeasti ja johtaa ajonaikaisiin häiriöihin, joita on vaikea havaita ja joiden vaikutuksia on vielä vaikeampi perua.

Tämän uuden aikakauden vaatimuksiin vastaamiseksi tekoälyagenttien hallintaa ei voida toteuttaa vain lisäämällä toimintaperiaatteita kuvaavia asiakirjoja. Se edellyttää sisäänrakennettua hallintaa: arkkitehtonista lähestymistapaa, jossa valvontakeinot sisällytetään ohjaustasoon ja niitä sovelletaan jatkuvasti ajon aikana. Jos agentit toimivat digitaalisina kollegoina, niitä on koskettava samojen yrityksen suojakaiteiden kuin ihmisiäkin sekä vielä vahvemman ajonaikaisen valvonnan.

Miksi hallinta pettää lähentymisen aikakaudella

Yritysarkkitehtuuri on siirtynyt lähentymisen aikakauteen. Data ja työkuormat ulottuvat nyt useisiin pilviin, yksityisiin datakeskuksiin ja reunaympäristöihin.

Jotkin organisaatiot käyttävät alustojaan rinnakkaisissa järjestelmissä, koska niiden on hallittava useita prosesseja samanaikaisesti. Tähän kuuluvat erilliset identiteettijärjestelmät, lokiputket, luettelot ja hyväksytyt prosessit. Tuloksena on niin sanottu Frankenstein-alusta, jossa integraation vaatima lisätyö kasvaa jokaisen uuden työkalun tai pilviympäristön myötä. Tämä hajanaisuus näkyy jo arjessa.

Erään viimeaikaisen kyselyn mukaan 47 % vastaajista pitää monimutkaisia pääsyvaatimuksia ja prosesseja sekä 44 % rajallista näkyvyyttä datan sijaintiin esteinä datan tehokkaalle hyödyntämiselle.

Juuri näissä kohdissa agentit paljastavat järjestelmien väliset saumat.

Vastatakseen liiketoimintaa koskevaan kysymykseen agentti saattaa joutua hakemaan tietoja paikallisesta ERP-järjestelmästä, pilvessä toimivasta CRM-järjestelmästä, toisessa pilvessä olevasta operatiivisesta telemetriasta ja yhteistyöohjelmiston asiakirjoista. Jos organisaatio soveltaa sääntöjä eri tavoin eri paikoissa, agentti joko epäonnistuu tai, mikä pahempaa, onnistuu tavalla, jota ei voida selittää tai hallita.

Nyt yritysjohtajien on kiinnitettävä asiaan huomiota. Agentit nostavat vaatimustasoa: ympäristöjen on toimittava johdonmukaisesti ja vastuun on toteuduttava ajon aikana.

Siksi sääntely- ja turvallisuusviranomaiset nostavat hallinnan huomion keskipisteeseen. Esimerkkinä on NIST AI Risk Management Framework, jossa korostetaan riskienhallintaa tekoälyn koko elinkaaren ajan, ei vain kehitysvaiheessa. Se muistuttaa, että vaatimustenmukaisuus ja luottamus ovat operatiivisia vastuita, eivät kertaluonteisia tarkistuslistoja.

Toimintaperiaatteista alustaan

Sisäänrakennettu hallinta tarkoittaa, että hallinta kulkee työkuorman mukana sen sijaan, että se toteutettaisiin uudelleen jokaisessa siilossa. Käytännössä tämä perustuu kolmeen rakennuspalikkaan:

  • Yhtenäinen ohjaustaso

Yksi paikka identiteetin, pääsyn, sääntöjen, luetteloiden ja käyttöoikeuksien määrittämiseen ja valvontaan pilvien ja datakeskusten yli.

Tavoitteena on määrittää säännöt kerran ja panna ne täytäntöön kaikkialla, missä dataa käsitellään ja malleja ajetaan, sen sijaan että valvontajärjestelmät rakennettaisiin uudelleen järjestelmä kerrallaan. Näin estetään agentin toiminnan ajautuminen tilanteeseen, jossa sama agentti toimii turvallisesti yhdessä ympäristössä mutta vaarallisesti toisessa.

Käytännön testi on yksinkertainen: jos käyttäjällä ei ole pääsyä tiettyyn sarakkeeseen, varmista, ettei hänen puolestaan toimivalla agentillakaan ole siihen pääsyä. Tämän pitäisi osoittaa, toteutuvatko kirjalliset säännöt koko ohjaustasolla.

  • Avoimiin standardeihin perustuva data fabric

Agentit tarvitsevat toimintansa tueksi kontekstia. Kun konteksti on hajallaan eri tiimien omistamissa rakenteissa, data fabric auttaa yhdenmukaistamaan merkityksiä ja pääsytapoja, jotta agenttien ei tarvitse opetella uusia sääntöjä jokaiselle tietoaineistolle.

Avoimet taulukkomuodot, kuten Apache Iceberg, tukevat tätä sallimalla useiden käsittelymoottorien käyttää samaa hallittua dataa kopioimatta sitä uuteen siiloon. Tämä on tärkeää, sillä hallinta yleensä pettää juuri datan monistamisessa. Kun tiimit alkavat kopioida ”vain sitä, mitä agentti tarvitsee”, syntyy uusi, heikommin hallittu ympäristö.

Jos agentit voivat toimia eri tietoaineistojen parissa synnyttämättä uusia käyttöoikeusaukkoja, hallinta toimii tarkoitetulla tavalla.

  • Reaaliaikainen havainnoitavuus ja datan alkuperäketju

Agentteja voi hallita vain, jos niiden ajonaikainen toiminta on nähtävissä.

Havainnoitavuus ei tässä ole vain mukava lisä, vaan ajonaikaisten valvontakeinojen ja poikkeamiin reagoinnin perusta.

Agenttien toimista tarvitaan nimenomaan päästä päähän ulottuvaa näyttöä. Agenttien on pystyttävä osoittamaan esimerkiksi, mitä dataa ne käyttivät ja mitä työkaluja ne kutsuivat. Alkuperäketjun avulla tuotokset voidaan tämän jälkeen yhdistää syötteisiin. Näin tiimit voivat auditoida päätöksiä ja tarvittaessa selvittää häiriöitä sekä osoittaa yleisen vaatimustenmukaisuuden.

Kohtele agentteja digitaalisina kollegoina

Yksi hyödyllisimmistä ajattelumalleista on pitää agentteja digitaalisina kollegoina.

Asiaa selventää vertaus: työntekijöiden kulkukortit sallivat pääsyn joihinkin rakennuksiin ja huoneisiin mutta eivät muihin. Samoin hallinta antaa agenteille rajatun pääsyn. Tärkeänä lisävaatimuksena agenttien on ymmärrettävä tilanteen perusteella, mitä tietoja ne saavat paljastaa.

Ajatellaan asiakastukiagenttia. Se saattaa tarvita aiempia tukitapauksia ongelman ratkaisemiseen, mutta se ei saa samalla vuotaa toisen asiakkaan yksityisiä tietoja. Agentti voi siis hyödyntää rajoitettua tietoa päättelyssä, mutta sen on silti noudatettava tietojen luovuttamisen rajoja. Kyse ei ole aiemmin tutusta kehotteiden kirjoittamisen ongelmasta, vaan identiteetistä ja ajonaikaisesta sääntöjen täytäntöönpanosta.

Mikä muuttuu vuonna 2026: agentit siirtyvät kokeiluista tuotantoon

Vuonna 2026 kokeilut päättyvät ja agentit siirtyvät tuotantokäyttöön.

Tämä muutos pakottaa yritykset toimimaan kahdella nopeudella. Innovaationopeudella tiimit testaavat uusia malleja, työkaluja ja agenttityönkulkuja kilpailuedun saavuttamiseksi. Turvallisuuden määräämällä nopeudella järjestelmien on puolestaan täytettävä vaatimustenmukaisuutta ja toimintaa koskevat vaatimukset, joihin voivat kuulua tiukat pääsynhallintatoimet ja katvealueet.

Ilman vakiintunutta arkkitehtonista hallintaa nämä kaksi nopeutta joutuvat ristiriitaan.

Jos tiimit ottavat agentit käyttöön ennen niiden hallinnan järjestämistä, tuloksena on yksittäisistä valvontakeinoista koostuva tilkkutäkki ja toimintahäiriöitä. Päinvastaisessa tilanteessa tietoturva estää kaiken ja innovointi siirtyy varjo-IT:hen, mikä heikentää hallintaa.

Tavoitteena ei ole valita nopeutta, vaan rakentaa arkkitehtuuri, joka tukee molempia.

Käytännön tarkistuslista agenttien ajonaikaiseen hallintaan

  • Jos rakennat agentteja tai laajennat niiden käyttöä, sinun on kysyttävä seuraavat kysymykset selvittääksesi, onko hallinta aidosti arkkitehtonista: Voitko selittää päästä päähän, mitä dataa agentti käytti vastauksen tuottamiseen tai toiminnon suorittamiseen?
  • Ovatko pääsypäätökset yhdenmukaisia hybridiympäristöissä vai vaihtelevatko ne alustoittain?
  • Onko agenttien toiminnasta telemetriaa, joka kattaa työkalukutsut, sääntötarkistukset ja asioiden siirtämisen ihmisten käsiteltäväksi?
  • Voitko rajoittaa agentin toimintaa, keskeyttää sen tai siirtää sen karanteeniin ajon aikana, jos se käyttäytyy odottamattomasti?
  • Onko sinulla käyttöönoton jälkeinen seurantasuunnitelma, joka vastaa sääntelyvelvoitteitasi ja riskinottohalukkuuttasi?

Jos et pysty vastaamaan näihin, suhtaudu agentin käyttöönottoon kuin tuotantohäiriöön, joka vain odottaa toteutumistaan.

Hallinnan muutoksen on oltava arkkitehtoninen – muuten sitä ei ole

Agenteista tulee tavanomainen osa yritysten toimintaa. Kysymys on siitä, tuleeko niistä luotettava osa sitä.

Jos agentteja ei hallita vähintään yhtä varmasti kuin ihmisiä ja toiminnan kannalta kriittisiä ohjelmistoja, seuraukset ovat todellisia. Ne näkyvät tietovuotoina, vaatimustenmukaisuuden laiminlyönteinä, toimintakatkoina ja luottamuksen menettämisenä tekoälyohjelmiin.

Johtajien on lakattava käsittelemästä agenttien hallintaa dokumentointitehtävänä. Alustojen ominaisuuksien laajentuessa agenttien hallinnan pitäisi olla yksi niistä ominaisuuksista, jotka ottavat valvontavastuuta myös muista rooleista. Tämä tarkoittaa valvontakeinojen sisällyttämistä ohjaustasoon, toimien tekemistä havaittaviksi ja päätösten tekemistä auditoitaviksi. Sen jälkeen voidaan laajentaa toimintaa.

Näin saadaan agentteja, jotka toimivat nopeasti rikkomatta yrityksen toimintaa.

Sergio Gago on Clouderan CTO, joka tuo yli 20 vuoden kokemuksen AI/ML:stä, kvanttilaskennasta ja dataohjatuista arkkitehtuureista. Aikaisemmin hän on toiminut AI/ML- ja kvanttipalveluiden johtajana Moody’s Analyticsissa ja CTO-rooleissa Rakutenissa, Qapacityssa ja Ziniossa. Sergio on vakuuttunut luotettavan data-infrastruktuurin tärkeydestä ja uskoo, että AI kehittyy yrityksen käyttöjärjestelmäksi vuoteen 2030 mennessä.