Varjo-ai on helppo ongelma: todellinen riski on piilotetut agentit hyväksyttyssä ohjelmistossa

Kaksi vuotta sitten varjo-ai tarkoitti työntekijöiden liittämistä asiakasdataa ChatGPT: hen. Korjaus, laajasti, oli hallittavissa: löytää työkalut, rangaista hyviä, estää huonoja, kouluttaa ihmisiä. Useimmat organisaatiot ovat jossakin vaiheessa toteuttamassa tätä pelikirjaa, jossa 61% on jo kohdannut varjo-ai ympäristöissään ja pelikirja toimii pääosin.

Kuitenkin tämä kuvaus ei enää kuvaa ongelmaa. Varjo-ai on siirtynyt käyttäytymisongelmasta arkkitehtuuriongelmaan. Perinteinen hallinta ei pysty pitämään vauhtia nykyaikaisen maiseman, mukaan lukien toimittajien upotetut ja työntekijöiden itse liittämät ai-agentit, jotka toimivat hyväksyttyjen järjestelmien sisällä ja perivät valtuudet, jotka tekevät identiteetistä ainoan todellisen valvontapisteen.

Kaksi varjoa, joita et ole seurannut

Mielenkiintoinen kysymys vuonna 2026 ei ole, mikä ai-työkalu työntekijä on avannut. Se on, mikä ai-agentti hyväksytty toimittaja on hiljaisesti toimittanut viime kuun tuote päivitykseen ja mitkä valtuudet se on perinyt ihmiseltä, joka asensi sen.

Varjo-ai oli aiemmin käyttäytymisongelma. Voit nähdä sen, nimeä sen ja luoda sille käytäntö. Leviävä versio on rakenteellinen. Se saapuu ohjelmistosta, jonka olet jo hyväksynyt, toimien valtuuksilla, jotka olet jo myöntänyt, työnkulussa, jonka olet jo tarkastanut. Varjo ei ole enää käyttäytymisongelma, se on arkkitehtuuriongelma. Työntekijät ovat edelleen kuvassa, mutta he ovat siirtyneet ai:n käytöstä sen asentamiseen: liittämällä agentteja järjestelmiin, joihin heillä on pääsy, ja tekemällä sen käyttäen liittymiä, jotka on suunniteltu helppokäyttöisiksi. Käytännöt, jotka on kirjoitettu ensimmäiselle käyttäytymiselle, eivät ulotu toiseen.

Tämä on syystä, miksi “kieltäminen” ei ollut todellinen keskustelu. CISO:t, jotka pääsivät eteenpäin varjo-ai:sta hyväksymällä yritysten työkalut ja ohjaamalla työntekijöitä kohti hallittuja vaihtoehtoja, voittivat ensimmäisen kierroksen ja löysivät, että seuraava oli jo käynnissä ja siinä oli kaksi vektoria, ei yksi. Ensimmäinen on, mitä hyväksyttyjä toimittajia toimittaa tuotteisiin, jotka ovat jo tuotannossa: upotetut mallit, agenteja, uudet integraatiot, jotka saapuivat julkaisumuistiin, jota kukaan ei luke. Toinen on, mitä työntekijät itse liittävät: LLM, joka on liitetty CRM:ään no-code-automatiikan kautta, Custom GPT, jolle on annettu API-avain tietovarastoon, MCP-yhteys työpöytäavustajasta tuotantojärjestelmään. Molemmat tuottavat saman lopputuloksen, joka sisältää agenteja, jotka toimivat hyväksyttyjen valtuuksilla, hyväksyttyjä järjestelmiä vastaan, työnkulussa, joka ei ole koskaan mennyt läpi tarkastelua, joka on suunniteltu niiden löytämiseksi. Hankinta voi nähdä ensimmäisen vektorin ja missata toisen kokonaan.

On syytä olla rehellisiä siitä, miten epätasaisesti ensimmäinen kierros todella voitettiin. Yhdeksän kymmenestä organisaatiosta suunnittelee ai:han liittyvien IT-budjettien kasvua, ja monet suunnittelevat laajempaa laajentumista IT-toimintojen ympärille seuraavien 6-24 kuukauden aikana. Meno on virtaamassa kohti älykkäitä kykyjä. Valvonta on saavuttamassa tasoa hitaasti. Tämä epätasapaino on ongelma, ei sivutuote.

Reunaehto oli aina inhimillinen

Mentaalinen malli, joka toimi ensimmäiselle aallolle, ei toimi tälle. Varjo-ai työntekijän käyttäytymisenä oletti, että ihminen tekee valinnan, jonka turvallisuustiimi voi vaikuttaa. Varjo-ai toimittajan arkkitehtuurina poistaa valinnan. Malli, joka laati sähköpostin, agentti, joka ajoitti kokouksen, avustaja, joka tiivisti asiakirjan ja ohjasi sen eteenpäin. Mikään näistä ei vaatinut työntekijää tekemään mitään muuta kuin jatkaa ohjelmiston käyttöä, jota heille oli kerrottu käytettäväksi.

Rehellinen vastaus on, että reunaehto, jota useimmat turvallisuusohjelmat edelleen puolustavat, oli reunaehto inhimillisestä toiminnasta. Työntekijät avasivat työkalut, työntekijät myönsivät pääsyn, työntekijät tekivät päätöksiä, joita turvallisuustiimi voi havaita ja muotoilla. Tämä reunaehto on hajoamassa kahteen suuntaan. Ylhäältä, toimittajat toimittavat agenteja hyväksyttyihin tuotteisiin nopeammin kuin katsastusprosessi voi pitää perässä. Alhaalta, työntekijät astuvat ulos käyttäjän roolista ja integraattorin rooliin liittämällä agenteja järjestelmiin käyttäen liittymiä, jotka on suunniteltu itsepalveluksi ja joita ei ole instrumentoitu valvontaa varten. Korvaava reunaehto, joka on rakennettu sille, mitä identiteetit tekevät, riippumatta siitä, ovatko ne ihmiset vai eivät, ja riippumatta siitä, kuka ne on asentanut, vaatii valvontaverkkoa, jota useimmat organisaatiot eivät vielä omista.

Ainoa paikka, jonne voi katsoa

Identiteetti on oikea valvontapiste, mutta kehys on muutettava. Perinteinen muotoilu sanoo, että “identiteetti on uusi reunaehto”, koska käyttäjät ovat joka paikassa ja laitteet ovat joka paikassa ja SaaS on joka paikassa. Tämä oli tosia dekadeja sitten, nyt se on enää vain perusvaatimus. Versio, joka on tärkeä vuonna 2026, on erilainen: identiteetti on ainoa paikka, jossa voit nähdä, mitä ai todella tekee, koska kun se tekee sen, työkalun raja on jo rikkoontunut. Agentti toimii jonkun valtuuksilla. Kenen, minkälaisten valtuuksilla, mihin dataan, kenen valtuutuksesta ovat ainoat kysymykset, jotka tuottavat hyödyllisen auditin. Työkalutasoinen valvonta ei voi vastata näihin, koska työkalu ei ole enää analyysiyksikkö.

Lähes 90% IT-johtajista tunnustaa jo, että yhdistäminen vaikuttaa suoraan heidän kykyynsä toteuttaa ja skaalata ai:ta turvallisesti. Vaikeampi kysymys on, mitä yhdistäminen todella tarkoittaa valvontatasolla. Se ei voi tarkoittaa vain vähemmän näyttöjä. Se tarkoittaa yhtä identiteettiverkkoa, jossa jokainen toimija, olipa se ihminen, palvelutili, agentti, upotettu malli, on määritelty, rajattu, seurattu ja poistettu saman mekanismin kautta. Mitään muuta antaa sinulle vaikutuksen konsolidoidusta valvonnasta, kun se todella on fragmentoitu valvonta.

Toimittajan tarkastus on vanhentunut

Valitettavasti toimittajan tarkastus on voimassa vain tietyn aikaa. Tämä on epämukava johtopäätös siitä, miten turvallisuusohjelmat on rakennettu. Useimmat ai-hallintolautakunnat on järjestetty työkalujen tarkastelun ympärille, jossa toimittajat tulevat ja arvioidaan, hyväksytään tai hylätään, jotta ne voidaan lisätä rekisteriin. Tämä prosessi olettaa, että työkalun käyttäytyminen tarkasteluhetkellä on työkalun käyttäytyminen tuotannossa. Ai-upotettuun ohjelmistoon tämä oletus on rikkoontunut ennen kuin muste on kuivunut. Toimittaja toimittaa uuden mallin, uuden agentin tilan, uuden integraation, ja hallintotarkastus, joka hyväksyttiin kuusi kuukautta sitten, on nyt kuvaus tuotteesta, joka ei enää ole olemassa.

Työkalun ulkopuolelle, identiteetin puolelle

Ohjelmat, jotka kestävät, ovat ne, jotka siirtävät valvonnan työkalun ulkopuolelle ja identiteetin puolelle. Jokainen toiminta vastaan datasi, minkä tahansa toimijan toimesta, on jäljitettävissä identiteettiin, jolla on tunnettu omistaja, rajattu valtuus, ja määritelty elinikä. Olipa se ihminen tai ei, työntekijä tai agentti, hyväksytty työkalu tai upotettu tila, kysymys on sama: kuka tämä on, mitä heille on sallittu tehdä, ja miten tiedämme, milloin se pitäisi lopettaa olemassaolon? Ohjelmat, jotka voivat vastata näihin kysymyksiin, eivät tarvitse voittaa työkalun hyväksymiskilpailua. Ohjelmat, jotka eivät voi, tulevat olemaan jäljessä toimittajia ja työntekijöitä, jotka toimittavat nopeammin kuin katsastusprosessi voi liikkua.

Varjo-ai ei ole katoamassa. Erityisesti uuden agenteja työvoiman aikakaudella, 72% organisaatioista on jo ai-agentteja tuotannossa. Sen sijaan se on muuttumassa pienemmäksi osaksi suurempaa ongelmaa. Organisaatiot, jotka käyttävät seuraavaa budjettisykliä työkalujen löytämiseen ja sanktiopolitiikkaan, ovat ratkaisemassa vuoden 2024 ongelman vuoden 2026 aikataululla. Ne, jotka käyttävät sitä identiteettikerroksen instrumentointiin ihmisille, agenteille, sekä epäselvälle jatkumolle heidän välillään, ovat ratkaisemassa ongelman, jonka he todella tulevat kohtaamaan.

Ensimmäinen aalto varjo-ai opetti turvallisuustiimille, etteivät he voi paeta työntekijöiden uteliaisuutta. Toinen aalto opettaa heille, etteivät he voi paeta toimittajien nopeutta tai työntekijöiden älykkyyttä. Molemmat opetukset osoittavat saman johtopäätöksen. Valvonnan yksikkö ei koskaan ollut työkalu. Se oli aina identiteetti, joka toimii sen kautta.