Varjotekoäly oli helppo ongelma: todellinen riski ovat hyväksyttyihin ohjelmistoihin piilotetut agentit

Kaksi vuotta sitten varjotekoäly tarkoitti sitä, että työntekijät liittivät asiakastietoja ChatGPT:hen. Ratkaisu oli pääpiirteissään hallittavissa: selvitettiin käytössä olevat työkalut, hyväksyttiin hyvät, estettiin huonot ja koulutettiin henkilöstöä. Useimmat organisaatiot ovat jossakin vaiheessa tämän toimintamallin toteutusta. Niistä 61 % on jo kohdannut varjotekoälyä omissa ympäristöissään, ja toimintamalli toimii enimmäkseen.

Tämä kuvaus ei kuitenkaan enää vastaa ongelmaa. Varjotekoäly on muuttunut käyttäytymiseen liittyvästä ongelmasta arkkitehtuurin ongelmaksi. Perinteinen hallintamalli ei pysy nykytilanteen mukana: toimittajien ohjelmistoihin upottamat ja työntekijöiden itse järjestelmiin kytkemät tekoälyagentit toimivat hyväksyttyjen järjestelmien sisällä perityillä tunnuksilla ja käyttöoikeuksilla. Siksi identiteetti on ainoa todellinen valvontapiste.

Kaksi varjoa, joita et seuraa

Vuonna 2026 kiinnostava kysymys ei ole se, minkä tekoälytyökalun työntekijä avasi. Kysymys on siitä, minkä tekoälyagentin hyväksytty toimittajasi toimitti kaikessa hiljaisuudessa viime vuosineljänneksen tuotepäivityksen mukana ja mitä oikeuksia agentti peri sen asentaneelta ihmiseltä.

Varjotekoäly liittyi ennen käyttäytymiseen. Sen saattoi havaita, nimetä ja sitä varten saattoi laatia toimintaperiaatteet. Nyt leviävä muoto on rakenteellinen. Se saapuu jo hyväksymäsi ohjelmiston mukana, toimii jo myöntämilläsi tunnuksilla ja käyttöoikeuksilla sekä jo auditoimissasi työnkuluissa. Varjo ei enää liity käyttäytymiseen vaan arkkitehtuuriin. Työntekijät ovat yhä mukana, mutta he ovat siirtyneet tekoälyn käyttämisestä sen käyttöönottoon: he kytkevät agentteja järjestelmiin, joihin heillä jo on pääsy, ja käyttävät tähän tarkoituksella helppokäyttöisiä käyttöliittymiä. Ensimmäistä toimintatapaa varten kirjoitetut käytännöt eivät ulotu jälkimmäiseen.

Siksi kysymys kieltämisestä ei koskaan ollut keskustelun varsinainen ydin. Tietoturvajohtajat, jotka ennakoivat varjotekoälyä hyväksymällä yrityskäyttöön sopivia työkaluja ja ohjaamalla työntekijöitä hallittujen vaihtoehtojen pariin, voittivat tuon kierroksen. He havaitsivat kuitenkin seuraavan jo alkaneen ja sen tulevan kahta reittiä yhden sijaan. Ensimmäinen reitti on se, mitä hyväksytyt toimittajat tuovat jo tuotannossa oleviin tuotteisiin: sisäänrakennettuja malleja, agenttitoimintoja ja uusia integraatioita, joista kerrottiin julkaisumuistiossa, jota kukaan ei lukenut. Toinen on se, mitä työntekijät kytkevät itse: CRM-järjestelmään ilman koodausta tehdyn automaation kautta liitetty kielimalli, tietovaraston API-avaimen saanut Custom GPT tai työpöytäavustajan MCP-yhteys tuotantojärjestelmään. Molemmat johtavat samaan lopputulokseen: agentit toimivat hyväksytyillä tunnuksilla ja oikeuksilla hyväksytyissä järjestelmissä, mutta työnkuluissa, joita ei ole tarkastettu nimenomaan tällaisten agenttien havaitsemiseksi. Hankintatoimi saattaa havaita ensimmäisen reitin ja ohittaa toisen kokonaan.

On myös syytä tunnustaa, kuinka epätasaisesti ensimmäinen kierros todella voitettiin. Yhdeksän organisaatiota kymmenestä suunnittelee tekoälyyn liittyvien IT-budjettien kasvattamista, ja monet aikovat laajentaa käyttöä IT-toiminnoissaan seuraavien 6–24 kuukauden aikana. Rahaa virtaa älykkäisiin toimintoihin. Valvonta kirii perässä hyvin hitaasti. Tämä epätasapaino on itse ongelma, ei sen sivuvaikutus.

Turvaraja rakentui aina ihmisen toiminnan ympärille

Ensimmäisessä aallossa toiminut ajattelumalli ei toimi tässä. Kun varjotekoäly nähtiin työntekijän käyttäytymisenä, oletuksena oli prosessiin osallistuva ihminen, joka teki valinnan, johon tietoturvatiimi saattoi vaikuttaa. Toimittajan arkkitehtuuriin sisältyvä varjotekoäly poistaa tuon valinnan. Sähköpostin laatinut malli, kokouksen aikatauluttanut agentti, asiakirjan tiivistänyt ja eteenpäin ohjannut avustaja: mikään näistä ei edellyttänyt työntekijältä muuta kuin sen ohjelmiston käytön jatkamista, jota häntä oli ohjeistettu käyttämään.

Rehellinen vastaus on, että useimpien tietoturvaohjelmien yhä puolustama turvaraja rakentui ihmisen toiminnan ympärille: työntekijät avasivat työkaluja, myönsivät pääsyn ja tekivät päätöksiä, joita tietoturvatiimi pystyi havainnoimaan ja ohjaamaan. Tuo raja murenee kahdesta suunnasta yhtä aikaa. Ylhäältä toimittajat tuovat agentteja hyväksyttyihin tuotteisiin nopeammin kuin mikään tarkastusprosessi ehtii seurata. Alhaalta työntekijät siirtyvät käyttäjistä integraattoreiksi kytkemällä agentteja järjestelmiin itsepalvelua varten suunniteltujen käyttöliittymien kautta, joihin ei koskaan rakennettu hallinnan edellyttämää seurantaa. Korvaava turvaraja perustuu siihen, mitä identiteetit tekevät, riippumatta siitä, ovatko ne ihmisiä ja kuka ne otti käyttöön. Se edellyttää yhtenäistä valvontarakennetta, jota useimmilla organisaatioilla ei vielä ole.

Ainoa jäljellä oleva paikka, josta toimintaa voi tarkastella

Identiteetti on oikea valvontapiste, mutta ajattelutavan on muututtava. Perinteisen muotoilun mukaan ”identiteetti on uusi turvaraja”, koska käyttäjiä, laitteita ja SaaS-palveluja on kaikkialla. Tämä piti paikkansa jo vuosikymmen sitten; nyt se on peruslähtökohta. Vuonna 2026 merkityksellinen versio on toinen: identiteetti on ainoa jäljellä oleva paikka, josta voi nähdä, mitä tekoäly todella tekee, sillä toiminnan alkaessa työkalun raja on jo ylitetty. Agentti toimii jonkun tunnuksilla ja käyttöoikeuksilla. Kenen tunnuksilla, millä oikeuksien laajuudella, mitä tietoja käyttäen ja kenen valtuutuksella? Vain nämä kysymykset tuottavat hyödyllisen kirjausketjun. Työkalutasoinen hallinta ei pysty vastaamaan niihin, koska työkalu ei enää ole tarkastelun yksikkö.

Lähes 90 % IT-johtajista tunnistaa jo yhtenäistämisen suoran vaikutuksen siihen, miten he pystyvät ottamaan tekoälyä käyttöön ja laajentamaan sen käyttöä turvallisesti. Vaikeampi kysymys on, mitä yhtenäistäminen valvontakerroksessa todella tarkoittaa. Se ei voi tarkoittaa vain pienempää määrää hallintanäkymiä. Se tarkoittaa yhtenäistä identiteettirakennetta, jossa jokainen toimija — ihminen, palvelutili, agentti tai sisäänrakennettu malli — saa käyttöönsä tarvittavat resurssit ja rajatut oikeudet, jossa sitä seurataan ja jossa sen käyttö lopetetaan samoilla menettelyillä. Tätä vähäisempi ratkaisu luo vaikutelman yhtenäisestä hallinnasta, vaikka sääntöjen toimeenpano on todellisuudessa pirstaleista.

Toimittaja-arviollasi on viimeinen voimassaolopäivä

Valitettavasti toimittaja-arvio pysyy pätevänä vain rajallisen ajan. Tästä seuraa hankalia kysymyksiä tietoturvaohjelmien rakenteelle. Useimmat tekoälyn hallintaryhmät on rakennettu työkalujen arvioinnin ympärille: toimittajat tulevat arvioitaviksi, ja ne hyväksytään tai hylätään ennen rekisteriin lisäämistä. Prosessi olettaa, että työkalun toiminta hyväksymishetkellä vastaa sen toimintaa tuotannossa. Tekoälyä sisältävissä ohjelmistoissa tämä oletus murtuu jo ennen kuin muste kuivuu. Toimittaja julkaisee uuden mallin, uuden agenttitilan tai uuden integraation, ja kuusi kuukautta aiemmin hyväksytty hallinta-arvio kuvaakin tuotetta, jota ei enää ole olemassa.

Hallinnan painopiste työkalusta identiteettiin

Kestävät ohjelmat siirtävät hallinnan työkalusta identiteettiin. Jokainen tietoihisi kohdistuva toimi, toimijasta riippumatta, voidaan jäljittää identiteettiin, jolla on tunnettu omistaja, rajatut käyttöoikeudet ja määritelty elinkaari. Olipa kyse ihmisestä tai muusta toimijasta, työntekijästä tai agentista, hyväksytystä työkalusta tai sisäänrakennetusta toimintatilasta, kysymys on sama: kuka tai mikä tämä on, mitä se saa tehdä ja mistä tiedämme, milloin oikeuksien pitäisi lakata olemasta voimassa? Näihin kysymyksiin vastaavien ohjelmien ei tarvitse voittaa työkalujen hyväksymiskilpailua. Muut joutuvat kirimään toimittajien ja työntekijöiden perässä, jotka julkaisevat ratkaisuja nopeammin kuin mikään tarkastusprosessi etenee.

Varjotekoäly ei ole katoamassa ilmiönä. Etenkin agenttipohjaisen työvoiman uuden aikakauden myötä jo 72 % organisaatioista käyttää tekoälyagentteja tuotannossa. Varjotekoälystä tulee sen sijaan pienempi osa suurempaa ongelmaa. Organisaatiot, jotka käyttävät seuraavan budjettikautensa työkalujen kartoittamiseen ja hyväksymiskäytäntöihin, ratkaisevat vuoden 2024 ongelmaa vuoden 2026 aikataululla. Ne, jotka panostavat identiteettitason havainnointiin ja seurantaan niin ihmisille, agenteille kuin niiden väliselle epäselvälle jatkumolle, ratkaisevat ongelmaa, jonka ne todella tulevat kohtaamaan.

Varjotekoälyn ensimmäinen aalto opetti tietoturvatiimeille, etteivät ne pysty toimimaan työntekijöiden uteliaisuutta nopeammin. Toinen aalto opettaa, etteivät ne pysy toimittajien nopeuden tai työntekijöiden kekseliäisyyden edellä. Molemmat opetukset johtavat samaan päätelmään: hallinnan yksiköksi ei koskaan ollut tulossa työkalu, vaan sen kautta toimiva identiteetti.