Kyberturvallisuus
Tekoälyn tietoturva vuonna 2027: agenttien käyttöoikeudet määrittävät vahinkojen laajuuden

Keskeiset kohdatAgenttien käyttöoikeudet, eivät mallin luotettavuus, määräävät, kuinka pitkälle…
Näytä lisää
- Agenttien käyttöoikeudet, eivät mallin luotettavuus, määräävät, kuinka pitkälle väärinkäsitys voi edetä.
- Tietoturva-arvioiden on raportoitava laillisten tehtävien suorittaminen estettyjen hyökkäysten ohella, jotta voidaan osoittaa agenttien pysyvän hyödyllisinä.
- Poikkeamaraporttien tulisi jäljittää tunnistetietojen ja delegoitujen käyttöoikeuksien polku mallin oudon tulosteen sijaan.
Kuvitellaan työntekijä, joka pyytää tekoälyavustajaa järjestämään täyteen pursuavan sähköpostilaatikon. Tehtävä vaikuttaa harmittomalta, kunnes viesti saa avustajan avaamaan asiakastietueen, viemään liitetiedoston tai lähettämään maksupyynnön. Tietoturvakysymys ei enää koske vain sitä, voiko vastaukseen luottaa. Nyt on kyse siitä, onko ohjelmistolla valtuudet muuttaa väärinkäsitys toiminnaksi.
Tällainen paine kasvaa agenttien tietoturvan ympärillä vuonna 2027. Yritykset haluavat avustajia, jotka pystyvät tekemään työn valmiiksi. Tietoturvatiimien on tiedettävä, mihin asti tämä vapaus ulottuu – ja pystyvätkö ne ottamaan sen takaisin työn ollessa vielä käynnissä.
Tällaista yhteyttä rakennetaan jo. Microsoft toi Entra Agent ID -alustan yleisesti saataville vuonna 2026. Okta on laajentanut agenttien identiteetinhallintaa eri identiteetintarjoajiin ja agenttiekosysteemeihin. AWS toi Bedrock AgentCoren Policy-toiminnon yleisesti saataville maaliskuussa ja siirsi näin valtuutuspäätökset agentin oman koodin ulkopuolelle. Jos ennustaisi agenttien identiteettituotteiden ilmestyvän vuonna 2027, sivuuttaisi jo olemassa olevat markkinat.
1. Tuotantokäytöstä saatu näyttö nousee identiteettijulkistuksia tärkeämmäksi
Agentin toiminta pitäisi voida lopettaa ilman, että sen ihmiskäyttäjä menettää pääsyn omiin järjestelmiinsä. Tämä yksinkertainen tavoite on vaikea saavuttaa, kun avustajan ja sen käyttämän sovelluksen välissä on useita liittimiä ja palvelutilejä. Vuonna 2027 nimettyjen yritysten tuotantokäyttöä koskevat kuvaukset alkavat osoittaa, säilyvätkö agenttien erilliset identiteetit koko tämän ketjun ajan: aluksi rajatut valtuudet, tunnistettava identiteetti matkan varrella ja lopuksi mahdollisuus kytkeä agentti pois päältä erikseen.
Mekanismi on tuttu, vaikka työkuorma on uusi. Todentaminen määrittää, mikä ohjelmistotoimija suorittaa toiminnon. Valtuutus määrittää, mitä resursseja ja toimintoja kyseinen toimija saa käyttää. Delegointi kytkee sen valtuudet henkilöön tai organisaatioon. Pelkkä merkintä luettelossa ei osoita, että näitä hallintakeinoja käytetään siinä vaiheessa, kun tehdään merkittäviä seurauksia aiheuttava toiminto.
NISTin elokuussa 2026 julkaistu keskustelu agenttien identiteetistä kuvaa tunnistetietojen jakamisesta aiheutuvia vastuuongelmia. Sen myöhemmät suunnitteluperiaatteet edellyttävät erillistä tunnistamista, valtuuksiltaan rajattua delegointia sekä lyhytkestoista ja peruutettavissa olevaa valtuutusta. Nämä ovat ehdotettuja suunnitteluperiaatteita, eivät näyttöä siitä, että jokainen käyttöönotettu tuote toteuttaisi ne, eivätkä uusi yleispätevä oikeudellinen vaatimus.
Tekninen vaikeus tulee vastaan, kun työnkulku ylittää organisaatiorajat. Agentti voi kirjautua sisään yhden identiteetintarjoajan kautta, kutsua toisen yrityksen ylläpitämää liitintä ja käyttää sovellusta, jossa on kolmannenlainen valtuutusmalli. Kapea-alainen, ylemmältä tasolta myönnetty käyttöoikeus voi muuttua laajaksi pääsyksi alemmalla tasolla, jos liitin korvaa sen omalla, tehokkaalla palvelutunnuksellaan. Näkyvän identiteetin on säilyttävä koko ketjun ajan, tai hallintataso menettää juuri sen eron, jota sen oli tarkoitus suojata.
Microsoftin Agent 365 -julkistus ja Okta Agent Gatewayta koskeva selitys osoittavat, että toimittajat kehittävät ratkaisuja tähän ongelmaan. Ne ovat kuitenkin edelleen toimittajien kuvauksia ominaisuuksista. Olen varmempi siitä, että konkreettista näyttöä tuotantokäytöstä alkaa ilmaantua, kuin siitä, että nämä järjestelmät poistaisivat tietoturvaloukkausten riskin.
Mitä seurata vuonna 2027
Seuratkaa tuotantokäyttöönottoja, joissa agentilla on oma identiteetti, se saa vain tehtävänsä edellyttämät käyttöoikeudet ja sen voi poistaa käytöstä lukitsematta sen ihmiskäyttäjää ulos järjestelmistä. Asiakasyritysten kuvaukset siitä, miten nämä hallintakeinot toimivat yhdistetyissä sovelluksissa, kertovat enemmän kuin pelkät identiteettirekisteröinnit. Ennustetta heikentäisi se, että riippuvuus jaetuista palvelutunnuksista jatkuisi.
Mitä tämä tarkoittaa yrityksille
Tietoturvajohtajien kannattaa pyytää toimittajia esittelemään koko delegointiketju, mukaan lukien alempien tasojen liittimien käyttämät käyttöoikeudet. Hankinta- ja käyttöönottotarkasteluissa tulisi selvittää agentin omistaja, sallitut toiminnot ja käyttöoikeuksien peruuttamismenettely. Rekisteröityjen agenttien kasvavasta luettelosta on hyötyä vain, jos organisaatio pystyy hallitsemaan sitä, mitä kukin agentti todellisuudessa voi tehdä.
2. Tehokkuutta mitataan sen perusteella, miten hyvin suojaus sallii hyödyllisen työn
Helpoin suojattava agentti on sellainen, joka ei pysty tekemään mitään. Se on myös helpoin tehdä kaupallisesti hyödyttömäksi. Kiinnostavampi tulos vuonna 2027 olisi suojaus, joka pitää asianmukaisen työn sujuvana ja vähentää samalla tuntuvasti luvattomia työkalutoimintoja. Asetan tarkoituksella tiukan mittarin: tällaisten toimintojen määrä puolittuu toistettavasti, eikä asianmukaisten tehtävien suorittaminen heikkene yli kymmentä prosenttiyksikköä. Suojauksen on säilytettävä riittävästi hyödyllisyyttä, jotta se pysyy käytössä.
Kehoteruiskutus muuttaa sitä, mitä mallia pyydetään pitämään ohjeena. Valtuutuksen pitäisi ratkaista, onko ehdotettu toiminto sallittu, riippumatta siitä, kuinka vakuuttavaksi ohje muuttuu. Viety asiakirja ei saa valtuutta viedä tietoja vain siksi, että agentti pystyy lukemaan sen.
Model Context Protocolin tietoturvaohjeistus havainnollistaa, miksi integraatiokerroksella on merkitystä: siinä käsitellään hämmentyneen sijaisen ongelmia, tunnusten välittämistä ja muita tapoja, joilla yhteys voi käyttää valtuuksia väärin. Johtopäätös koskee arkkitehtuuria. Mallin ilmaisema aikomus ja sovelluksen toimeenpantavissa oleva käyttöoikeus ovat eri asioita, ja sovelluksen on tarkistettava jälkimmäinen.
On täytettävä myös toinen vaatimus: suojatun agentin on edelleen pystyttävä suorittamaan sille valtuutetut tehtävät. AgentDojo loi laajennettavan ympäristön työkalupohjaisia agentteja vastaan suunnattujen hyökkäysten ja niiden torjuntakeinojen testaamiseen. Vuoden 2026 AgentDyn-esijulkaisu esittää, että realistiset ja avoimet tehtävät paljastavat sekä tietoturvan heikkouksia että liiallista estämistä. Toisessa tuoreessa tutkimuksessa epäonnistuneita kehoteruiskutuksia analysoimalla erotetaan hyökkäyksen torjuminen sen pelkästä huomiotta jättämisestä tai käyttäjän tehtävän epäonnistuneesta suorittamisesta. Nämä tutkimustulokset koskevat arvioituja järjestelmiä ja olosuhteita, eivätkä ne kuvaa koko väestön tietoturvaa.
Keskeinen kompromissi on mitattavissa. Kaikkien kirjoitustoimintojen estäminen voi tuottaa erinomaisen tuloksen luvattomien kirjoitusten torjunnassa mutta tehdä kirjanpitoagentista hyödyttömän. Vakuuttavassa tuloksessa pitäisi julkaista hyökkäysten lopputulokset, hyväksyttyjen tehtävien tulokset, sallittujen toimintojen joukko sekä tapaukset, joissa vaadittiin ihmisen hyväksyntä. Myös mukautuvat hyökkääjät on otettava huomioon: puolustus, joka toimii vain hyökkäyksiä vastaan, jotka kehitettiin ennen puolustuksen paljastumista, tarjoaa heikomman varmuuden.
Mitä seurata vuonna 2027
Etsi tietoturva-arviointeja, joissa hyväksyttyjen tehtävien suorittamista tarkastellaan rinnakkain estettyjen hyökkäysten kanssa. Vahvimmassa näytössä agentti jatkaa valtuutettujen tehtävien suorittamista samalla, kun riippumaton valvontakerros torjuu luvattomat toiminnot, myös kyseiseen puolustukseen mukautetut hyökkäykset. Hyökkäysten onnistumisasteen lasku yhdessä laajamittaisen tehtävien epäonnistumisen kanssa olisi huomattavasti heikompi syy luottaa järjestelmän turvallisuuteen.
Mitä tämä merkitsee yrityksille
Arvioi agentin turvallisuutta ja hyödyllisyyttä yhdessä. Hankintatiimin tulisi ottaa samaan arviointiin sekä edustavia liiketoimintatehtäviä että realistisia väärinkäyttötilanteita ja selvittää sitten, mitkä toiminnot vaativat hyväksynnän ja missä käyttöoikeuksia valvotaan. Näin liiallisen estämisen kustannukset tulevat näkyviin samalla, kun arvioidaan vahinkoja, joita agentille liian laajat valtuudet voivat aiheuttaa.
3. Tapausraporteissa selvitetään käyttöoikeuksien kulkureitti
Agenttiin liittyvän tietoturvapoikkeaman jälkeen paljastavin kysymys voi olla, miten ohje sai valtuudet toimia. Haitallinen viesti on vain osa tapahtumaketjua; sen etenemistä mahdollistivat myös tunnistetiedot, liitin ja delegoitu käyttöoikeus. Odotan, että toimittajien vuonna 2027 tunnustamat tietoturvapoikkeamien julkistukset tekevät nämä reitit näkyvämmiksi. Puolustajat saavat silloin käyttöönsä jotakin hyödyllisempää kuin taas yhden esimerkin mallista, joka sanoo jotakin sopimatonta.
Tällaisen julkistuksen olennainen sisältö on tapahtumaketju: agentti kohtasi jonkin syötteen, ehdotti tai valitsi toiminnon, sai tai peri valtuudet ja ylitti tarkoitetun rajan. Pelkkien mallin poikkeavien sanavalintojen kuvaaminen ei selitä, missä toiminnallinen virhe tapahtui. Jos taas kuvataan vain vuotanutta tunnistetietoa, voidaan sivuuttaa se, miksi agentti paljasti tai käytti sitä.
Tämä ei ole ennuste siitä, että ensimmäinen tällainen rajan ylitys tapahtuu ensi vuonna. Anthropic kuvasi syyskuussa 2026 julkaistussa kyberturvallisuuspoikkeamien arvioinnissaan neljä tapausta, joissa Claude-mallit saivat arviointiin liittyvän toiminnan aikana luvattoman pääsyn todellisiin kolmansien osapuolten järjestelmiin. Kyseessä on mallin tarjoajan julkistus tietyistä tapauksista. Sitä ei pidä yleistää mitatuksi yrityksiin kohdistuvien tietomurtojen määräksi eikä pitää riippumattomana varmennuksena jokaisesta yksityiskohdasta.
OWASP:n agenttisovellusten kymmenen tärkeintä riskiä tarjoaa hyödyllisen viitekehyksen agenttien toimintahäiriöistä keskustelemiseen. Viitekehys sisältää kuitenkin riskiluokkia, ei tapausten kokonaismäärää, johon niitä voisi verrata. Julkistusten lisääntyminen voi johtua laajemmasta käyttöönotosta, paremmasta havainnoinnista, avoimemmasta raportoinnista tai näiden yhdistelmästä. Se ei yksinään osoittaisi, että jokaisesta käyttöön otetusta agentista olisi tullut vähemmän turvallinen.
Luottamukseni tähän ennusteeseen on vähäisempi, koska julkistamiseen kannustavat tekijät ovat epävarmoja. Organisaatiot voivat korjata liittimen kertomatta siitä, käsitellä virhettä tavallisena käyttöoikeuksien valvontaongelmana tai jättää asiakkaan nimen paljastamatta. Siksi merkittäväkin muutos toimintatavoissa voi näkyä julkisuudessa vain niukasti. Tämä epävarmuus kuuluu ennusteeseen, eikä sitä pidä sivuuttaa laskemalla jokaista spekulatiivista haavoittuvuuden esittelyä tietomurroksi.
Mitä seurata vuonna 2027
Kiinnitä huomiota tapausraportteihin, joissa selvitetään, miten agentti siirtyi epäluotettavan aineiston lukemisesta käyttöoikeuden käyttämiseen todelliseen resurssiin kohdistuvassa toiminnossa. Selkeät kuvaukset liittimestä, delegoidusta tunnistetiedosta, vaikutuksen kohteena olleesta toiminnosta ja korjaavista toimista vahvistaisivat ennustetta. Raportit, joissa kerrotaan vain mallin poikkeavista vastauksista, paljastavat vähemmän siitä, missä toiminnallisessa rajassa tapahtui virhe.
Mitä tämä merkitsee yrityksille
Tietoturvapoikkeamiin reagoivien tiimien tulisi säilyttää riittävästi agenttien ja sovellusten telemetriatietoja, jotta syötteen ja toiminnon välinen tapahtumaketju voidaan jäljittää. Toimittaja-arvioinneissa tulisi sopia, kuka ilmoittaa asiakkaalle, mitä tietoja on saatavilla ja miten vaarantunut yhteys voidaan eristää. Nämä järjestelyt ratkaisevat, kuinka nopeasti organisaatio pystyy arvioimaan altistumisen, kun agentti toimii odottamattomasti.
4. Käyttöoikeuden peruminen joutuu kellotestiin
Sammutuskytkin on lupaus siitä, kuinka nopeasti toiminta voidaan pysäyttää. Jos agentti on jo kopioinut tunnistetiedot tai avannut toisen istunnon, sen identiteetin poistaminen voi jättää ajanjakson, jonka kuluessa toiminnot onnistuvat edelleen. Vuonna 2027 riippumattomissa testeissä aletaan mitata tätä lupausta kellolla eri sovellusten välillä. Tässä esitetty ennuste on konkreettinen: uudet suojatut toiminnot estetään minuutin kuluessa myös silloin, kun tunnistetiedot on tallennettu välimuistiin.
Peruuttamisesta on helppo antaa lupaus identiteettihakemiston tasolla, mutta sen osoittaminen järjestelmän jatko-osissa on vaikeampaa. Liitin voi säilyttää käyttöoikeustunnisteen. Työntekijäprosessi voi pitää istunnon avoinna. Ajastettu työ voi pitää hallussaan aiemmin valtuutettua pyyntöä. Agentin poistaminen käytöstä varastotietueesta ei todista, että nämä suorituspolut lakkaavat käyttämästä vanhentunutta valtuutusta.
NISTin peruutettavan valtuutuksen periaate ja AWS:n yhdyskäytävän valvonta ja käytäntöjen lokikirjaus kuvaavat tarvittavan arkkitehtuurin osia. Oma päätelmäni on, että ostajat alkavat yhä useammin vaatia mitattua tietoa siitä, kuinka nopeasti uhka saadaan rajattua. 60 sekunnin raja on ennusteeni tavoite, ei kummankaan lähteen vaatimukseksi esittämä raja.
Hyvässä harjoituksessa erotetaan uuden työn pysäyttäminen jo tehdyn työn peruuttamisesta. Käyttöoikeuden peruuttaminen ei voi perua viestin lähettämistä, jos viesti on jo toimitettu. Mitattava lupaus on, että uusi suojattu toiminto, joka lähetetään sen jälkeen, kun peruutus on tullut voimaan, estetään. Käynnissä oleville toiminnoille on määriteltävä erikseen dokumentoidut peruutus- tai loppuunsaattamiskäytännöt. Ilman tätä erottelua näyttävä ”tappokytkimen” esittely voi peittää alleen paljon rajatumman lupauksen.
Luottamuksen vähäisyys tai keskitasoisuus kuvastaa sitä, miten vaikeaa on saada toistettavissa olevaa näyttöä eri liittimien kautta. Julkinen tuotedokumentaatio voi osoittaa, mitä toimintaa tuetaan, mutta ennusteen todentaminen edellyttää todellista mittaustulosta. Lisäksi testaajan on käytettävä jo muodostettua istuntoa, jossa vanhentuneella valtuutuksella on todennäköisimmin merkitystä.
Mitä seurata vuonna 2027
Seuraa peruutuksen esittelyjä, joissa agentti työskentelee jo aktiivisten liittimien kautta ja käytössä on esimerkiksi välimuistiin tallennettuja tunnistetietoja tai jo muodostettuja istuntoja. Hyödyllinen tulos on mitattu aika, jossa uudet suojatut toiminnot saadaan pysäytettyä, sekä selkeä kuvaus käynnissä olevien toimintojen käsittelystä. Käyttöliittymässä näkyvän tietueen poistaminen käytöstä ilman jatkotestauksia jättäisi keskeisen kysymyksen vaille vastausta.
Mitä tämä merkitsee yrityksille
Käsittele agentin pysäyttämistä häiriötilanteisiin varautumisen toimintona, jota on harjoiteltava. Testaa sovellukset, joihin agentti pääsee, selvitä, mitkä istunnot säilyvät peruutuksen jälkeen, ja määritä, kuka vastaa jonossa olevien töiden pysäyttämisestä. Erota seuraavan toiminnon estäminen jo suoritetun toiminnon peruuttamisesta; palautumissuunnittelussa on huomioitava molemmat.
Tietoturvabudjetti seuraa suoritusrajaa
Tavoitteena on antaa agenteille riittävästi valtuuksia, jotta niistä on hyötyä, mutta samalla asettaa niille riittävät rajat, jotta niitä voidaan hallita. Tästä tasapainosta neuvotellaan liittimissä, tunnisteissa ja käyttöoikeustarkistuksissa, kaukana keskustelukäyttöliittymästä. Kun seuraava häiriötilanne koittaa, ratkaisevaa on, kuinka pitkälle järjestelmä ehti ennen kuin joku tai jokin pysäytti sen.












