Yksi käytäntö, tuhansia agentteja: miksi yritysten tekoälyn hallinta pettää mittakaavan kasvaessa

Suuri osa autonomisten tekoälyagenttien käyttöönottoa koskevasta keskustelusta on keskittynyt hallintaan keskeisenä haasteena, ja syystäkin. Gartner ennusti hiljattain, että 40 % yrityksistä alentaa autonomisten tekoälyagenttiensa asemaa tai poistaa ne käytöstä vuoteen 2027 mennessä – ei siksi, että teknologia olisi epäonnistunut, vaan siksi, että niiden hallinta epäonnistui. Gartnerin johtavan analyytikon Shiva Varman mukaan syynä on ”kaksijakoinen hallinta”: agentteja kohdellaan joko täysin rajoitettuina tai täysin luotettuina, eikä välimuotoja ole.

Tällä hetkellä monet organisaatiot päätyvät joko kieltämään tekoälytyökalut kokonaan tai ottamaan käyttöön agentteja, joiden suojatoimet ovat riittämättömät. Kumpikaan lähestymistapa ei skaalaudu hyvin. Vaikka IT-osasto kieltäisi ulkopuoliset tekoälytyökalut, varjoälyä esiintyy silti. Kehittäjät haluavat luonnostaan rakentaa ja ratkaista ongelmia; jos hallinta tuntuu liian byrokraattiselta, he kiertävät valvontakeinot ja käyttävät testaamattomia työkaluja pitääkseen työn liikkeessä. Toisaalta riittämättömät suojatoimet altistavat organisaatiot tietoturva-, vaatimustenmukaisuus- ja toiminnallisille riskeille, jotka kasvavat ajan myötä. 

Haasteena on, että tekoälyagentteja ei voida hallita yhdenmukaisesti jäykällä, kaikille sopivalla lähestymistavalla.  Kaikille sopivan hallinnan aikakausi on päättymässä, sillä näillä järjestelmillä ei ole samanlaista riskiprofiilia: niiden taustalla oleva ohjelmisto, kyvykkyydet, käyttöoikeustasot ja autonomian asteet vaihtelevat. Teollisen aikakauden jäykät valvontakeinot eivät toimi koneen nopeudella toimivissa ohjelmistoissa.  Tehokas hallinta edellyttää, että organisaatiot ymmärtävät kunkin agentin taustalla olevan ohjelmistojen toimitusketjun ja suhteuttavat valvontakeinot sen aiheuttamiin riskeihin.  

Agenttipohjaisten ohjelmistokehitysympäristöjen hallinta

Todellinen hallinta tarkoittaa kaikkien agenttiin sisältyvien ohjelmistoelementtien tehokasta hallintaa. Monet tiimit pitävät näitä agentteja virheellisesti ”luotettavina ja toimintavarmoina” ja sivuuttavat niiden toiminnallisuuteen ja tietoturvaan vaikuttavat tavanomaiset osat. 

Jokainen autonominen tekoälyagentti rakentuu tutunlaisesta kokonaisuudesta: perusmallista, MCP-palvelimista (Model Context Protocol), jotka yhdistävät sen yrityksen tietoihin ja ulkoisiin järjestelmiin, sen kyvykkyyksiä laajentavista lisäosista sekä sen toimintaa ohjaavista taitotiedostoista. IT-johtajien on syytä pitää mielessä seuraavat asiat: 

• Tekoälyagentit ovat ohjelmistoekosysteemejä: Ne perustuvat vakiomuotoiseen kokoonpanoon, johon kuuluvat mallit, MCP-palvelimet, työkalut, lisäosat, taidot ja avoimen lähdekoodin ohjelmistot.
• MCP-palvelimet voivat olla riskialttiita: Ne yhdistävät agentit yrityksen tietoihin, ja niitä voi ladata kuten mitä tahansa muutakin ohjelmistoa. Jos niitä ei tarkasteta, ne voivat päästää hakkerit järjestelmään. Esimerkiksi JFrog Security Researchin tuoreessa tutkimuksessa nostetaan esiin juuri nämä ohjelmistojen toimitusketjuun liittyvät riskit mcp-run-python-ohjelmistossa. Niihin kuuluu palvelinpuolen pyyntöjen väärentämisen (SSRF) haavoittuvuus (CVE-2026-25904) sekä eristyksen puutteesta johtuva haavoittuvuus (CVE-2026-25905), jotka voivat johtaa MCP-palvelimen täydelliseen haltuunottoon.
• Lisäosat voivat kasvattaa riskejä: Eri agentit tarvitsevat erilaisia lisäosia (esimerkiksi OpenAI-lisäosa ei toimi Microsoft Copilotissa), joten yritykset joutuvat usein hallitsemaan useita eri versioita. Yksikin haitallinen lisäosa voi varastaa arkaluonteisia tietoja.
• Taidoilla määritellään agentin toimintatapa: Nämä ohjetiedostot kertovat agentille, miten sen tulee toimia. Koska kehittäjät hakevat niitä yhteisölähteistä, vaarantunut taitotiedosto voi huomaamatta muuttaa agentin toimintaa.
• Avoimen lähdekoodin ohjelmistoihin liittyvät riskit: Agenttipohjaisella koodauksella rakennettujen ratkaisujen kaikki toiminnallisuus perustuu avoimen lähdekoodin binäärien hyödyntämiseen. Koodausagentit voivat yhtä helposti hyödyntää haitallisia paketteja turvallisten sijaan tiedostamatta riskiä.
• Näkyvyys on avainasemassa: Monet tiimit eivät tiedä näiden ongelmien olemassaolosta, minkä vuoksi niiden agentit ovat erittäin haavoittuvia. Organisaatiot hallitsevat edelleen ohjelmistoriippuvuuksia luottamuksen eivätkä perusteellisten tarkastusten pohjalta.

Virallisen tietojen tallennusjärjestelmän rooli tekoälyn tehokkaassa hallinnassa

Yritysten tekoälyagenttien käyttöönoton kilpailua ei voi voittaa eilispäivän ajattelutavalla. Monoliittisten ja raskaiden manuaalisten hyväksyntäketjujen ulottaminen kaikkiin työnkulkuihin tukahduttaa innovoinnin, kun taas agenttien jättäminen valvomatta aiheuttaa tarpeettomia riskejä.

Jotta tekoälyä voidaan ottaa turvallisesti käyttöön laajassa mittakaavassa, organisaatioiden on omaksuttava kerroksellinen lähestymistapa ohjelmistokomponenttien, kuten pakettien, binäärien, MCP-palvelinten, taitojen ja riippuvuuksien, hallintaan ja suojaamiseen. Luomalla virallisen tietojen tallennusjärjestelmän yritykset voivat valikoida kaikki käytettävät komponentit, tarkistaa kaiken ennen käyttöä, panna käytännöt täytäntöön kehityksen elinkaaren oikeassa vaiheessa ja säilyttää mahdollisuuden palauttaa aiempi versio välittömästi. Kun seuraavasta haavoittuvuudesta ilmoitetaan, kysymykseen ”olemmeko vaarassa?” saadaan vastaus minuuteissa, ei päivissä.

AI-agentit kuitenkin laajentavat hyökkäyspintaa ja saavat sen muuttumaan huomattavasti nopeammin. Suuren autonomian agentit voivat tehdä satoja päätöksiä minuutissa, ketjuttaa työkalukutsuja, käyttää tietoja ja suorittaa koodia nopeammin kuin perinteinen käyttöönoton valvonta pysyy mukana. Alustavilla arvioinneilla ja hyväksyntäprosesseilla on yhä tärkeä rooli, mutta ne eivät yksinään pysty turvaamaan koneen nopeudella toimivia järjestelmiä.

Nämä agentit edellyttävät dynaamista valvontaa suorituksen aikana: poikkeava toiminta on pystyttävä havaitsemaan heti sen ilmetessä ja siihen on voitava puuttua ennen kuin vahinko leviää. Ajattele tätä katkaisijana: vaarantuneen taidon käyttöoikeuden peruuttamisena, epäluotettavan datakontekstin katkaisemisena tai tietyn työkalukutsun estämisenä heti, kun jokin menee pieleen.

Siirtyminen pois ”yksi koko sopii kaikille” -ajattelusta

Jäykkä, kaikille samanlainen hallintamalli johtaa väistämättä epäonnistumiseen. Mahdollisuus ennakoida tätä on käymässä vähiin, ja hallintavelka kasvaa agenttien käyttöönoton kiihtyessä. Tässä on siis neljä toimenpidettä, joilla tietoturva- ja suunnittelujohtajat voivat vahvistaa yritysjärjestelmiensä suojausta jo nyt:

1. Kartoita, mitä on jo käytössä. Useimmilla yrityksillä ei ole kattavaa käsitystä organisaationsa AI-agenteista, puhumattakaan niitä käyttävistä MCP-palvelimista, lisäosista ja taitotiedostoista. Ennen kuin voit arvioida riskejä tai hallita mitään, sinun on tiedettävä, mitä ympäristössä on.
2. Käsittele AI-komponentteja ohjelmiston artefakteina. MCP-palvelimet, taitotiedostot ja lisäosat eivät ole määrityksiä, vaan koodia, johon liittyy samat toimitusketjuriskit kuin avoimen lähdekoodin riippuvuuksiin yleensäkin. Arvioi ja tarkista ne sekä seuraa niiden alkuperää samalla tavoin kuin minkä tahansa kolmannen osapuolen kirjaston kohdalla.
3. Luokittele agentit autonomian tason mukaan ja mitoita valvonta sen mukaisesti. Määrittele, mitä ”suuri autonomia” tarkoittaa organisaatiossasi, ja rakenna sen pohjalta porrastettu käytäntökehys. Suuren autonomian agentit tarvitsevat suoritusaikaista valvontaa, eivät pelkkiä käyttöönottotarkastuksia. Aloita arkaluonteisimmista järjestelmistä ja laajenna valvontaa siitä eteenpäin.
4. Tee hallinnasta niin sujuvaa, etteivät kehittäjät – ihmiset tai agentit – ala kiertää sitä. Varjoäly on kitkaongelma. Jos uuden MCP-palvelimen hyväksyminen kestää kaksi viikkoa, kehittäjät keksivät muun tavan. Automaattinen tarkistus yhdistettynä selkeään käytäntöjen valvontaan on ainoa malli, joka skaalautuu tekoälyn kehityksen todellisen etenemistahdin mukana.

Hallinta tehostuu huomattavasti, kun siinä otetaan huomioon kunkin agentin aiheuttamat todelliset riskit sen sijaan, että kaikkia kohdeltaisiin samalla tavalla. Edelleen menestyvät ne yritykset, jotka sovittavat hallinnan kunkin agentin todellisiin ominaisuuksiin ja tukeutuvat luotettavaan tietolähteeseen. Sen avulla käytäntöjä valvotaan jokaisessa rajapinnassa, kaikista komponenteista saadaan näkyvyys ja tiimit voivat reagoida heti, kun jokin menee pieleen.