Varjon AI-jungat: Miksi alustan hyväksyminen ei ole sama kuin sen rakentamisen turvallisuus

Yritysten AI-omaksuminen on pitkään ollut kitkassa. Tietojen hallinnan, sääntelynmukaisuuden ja turvallisuuden huolenaiheita on seurannut jokaisessa vaiheessa. Mutta kun organisaatiot laajentavat toimintojaan suurilla alustoilla, kuten Microsoft, Salesforce ja ServiceNow, on kasvava tunne, että vaikeimmat hallinnolliset kysymykset ovat ainakin osittain ratkaistu. Yrityssopimukset ovat voimassa. Turvallisuuden arviointi on tehty. Alustat on hyväksytty.

Mitä tuo luottamus usein laiminlyö, on eri kysymys: ei sitä, onko alusta turvallinen, vaan mitä ja kuka rakentaa.

Teollisuudenalaan kuuluvassa hiljaisessa vallankumouksessa ei-tekniikkaa käyttävät työntekijät käyttävät yrityksen AI-alustoja luodakseen itsenäisiä agenteja, automaattisia työnkulkuja ja tietoihin liittyviä sovelluksia usein muutamassa minuutissa ilman yhtään koodiriviä. Perinteisten kehitysaikataulujen ja rajoitusten ulottumattomissa, nämä rakentajat ovat organisaation tehokkuuden edistäjiä. Mutta näitä työkaluja ei tarkasteta koskaan turvallisuustiimissä. Monissa tapauksissa turvallisuustiimit eivät edes tiedä niiden olemassaolosta.

Nämä työkalut, joita voidaan luokitella sovelluksiksi, agenteiksi tai automaatioiksi, ovat kasvavan ongelman, josta käytetään nimitystä Varjon AI, ja se edustaa yhtä merkittävintä muutoksia yritysten riskien hallinnassa viimeisen kymmenen vuoden aikana, yksinkertaisesti siksi, että uhkat ovat siirtyneet sisään.

Alkuperäinen Varjon IT -ongelma oli suhteellisen yksinkertainen: työntekijät käyttivät organisaation ulkopuolisia työkaluja, ja turvallisuuden tehtävä oli löytää ja estää niitä. Varjon AI on erilainen haaste. Työkalut ovat hyväksyttyjen alustojen sisällä. Niiden rakentajat ovat omat työntekijät. Käytetty pääsy on legitiimi. Eikä mikään näistä mene turvallisuusprosesseiden läpi, jotka on suunniteltu havaitsemaan ongelmat ennen kuin ne pääsevät tuotantoon.

Se, mikä tekee tästä erityisen haastavan ongelman, on mittakaava. Useimmat turvallisuusjohtajat aliarvioivat merkittävästi, kuinka paljon on rakennettu omiin ympäristöihin. Viimeaikaiset tutkimukset yli 200 yrityksen tietoturva- ja turvallisuusjohtajalta osoittavat, että keskivertoturvallisuustiimi pystyy tilastamaan vain 44% AI-agenteista, automaatioista ja sovelluksista, joita liiketoimintakäyttäjät ovat luoneet. Se ei ole aukko, se on sokea piste, joka peittää suurimman osan siitä, mitä suoritetaan.

Syy on yksinkertainen: liiketoimintakäyttäjät ovat johtavassa asemassa ammattimaisiin kehittäjiin nähden jopa 10:1-suhteessa joissakin organisaatioissa. He rakentavat jatkuvasti kaikissa osastoissa alustoilla, jotka on suunniteltu helpottamaan rakentamista, ja joita C-ryhmä kannustaa rakentamaan. Turvallisuustiimit ovat suunniteltu kehittäjien prosessien ja koodin varastojen ympärille. Ne eivät ole suunniteltu seuraamaan tätä.

Yleisin väärinkäsitys on uskomus, että alustan hyväksyminen ratkaisee turvallisuusongelman. Se ei ratkaise, se siirtää sen. Kun yritys allekirjoittaa sopimuksen Microsoftin, Salesforce:n tai UiPathin kanssa, alusta tarjoaja turvaa infrastruktuurinsa. Mitä työntekijät rakentavat sen päälle, ja miten he konfiguroivat sen, on yrityksen vastuulla kokonaan.

Ongelma on, että liiketoimintakäyttäjien luomat työkalut eivät näytä perinteisille turvallisuusjärjestelmille kuin ohjelmisto. Siinä ei ole koodia, jota voisi skannata, ei varastoa, jota voisi seurata, ei putkea, jota voisi tarkastella. AI-agentti, jonka HR-johtaja on rakentanut valikoiden ja tekstikomennoilla, on useimpien turvallisuustyökalujen näkökulmasta näkymätön.

Ja kuitenkin nämä työkalut eivät ole vähäpätöisiä. Tutkimukset ovat osoittaneet, että yli puolet tietoturva- ja turvallisuusjohtajista vahvistivat, että liiketoimintakäyttäjien luomat sovellukset tukevat jo liiketoiminnan kriittisiä prosesseja ja ovat päässeet herkän yritysdatan käyttöön. Panokset ovat todellisia, ja valvonta ei ole pysynyt mukana.

Nollasta katastrofiin

Käyttötarkoitukset ovat yhtä moninaisia kuin lukuisat ja tulevat lähes jokaisesta osastosta, jopa niistä, joita turvallisuustiimi ei olisi koskaan ajatellut valvoa.

Esimerkiksi markkinointikoordinaattori rakentaa asiakkaan kanssa vuorovaikuttavan AI-agentin täysin hyväksytyn alustan avulla vastaamaan tuotekysymyksiin. Muutamassa minuutissa sovellus on käynnissä, mutta turvallisuuskoulutuksen puutteen vuoksi kaksi pientä konfiguraatiota jää huomaamatta ja jättää agentin suoran pääsyn koko yrityksen tietokantaan ja rajoituksettomasti noutaa mitä tahansa. Tuotannossa käyttäjä pyytää sitä noutamaan henkilöstötietoja. Se tekee. Koska agentilla on myös sähköpostiominaisuus, käyttäjä ohjaa sitä lähettämään tiedot henkilökohtaiseen osoitteeseen. Koko järjestely kestää alle 60 sekuntia. Ei mitään laitonta pääsyä. Ei alustan loukkausta. Ei turvallisuushälytystä.

Tämä ei ole hienostunut hyökkäys. Se on ennustettavissa oleva seuraus hyvän tahdon omaavan työntekijän rakentamisesta jotain, jota hän ei täysin ymmärtänyt, alustalla, joka teki rakentamisen helpoksi ja hallinnon vapaaehtoiseksi.

Hallinnollinen aukko, jota kukaan ei ole hinannut

Useimmille organisaatioille Varjon AI -ongelma on abstrakti, kunnes jotain menee pieleen. Mutta liiketoimintariski on syvempi kuin loukkausvastuu.

Kun liiketoimintarakentaja vuotaa herkkiä tietoja, hallitus ei kysy ”miten määritysvirhe tapahtui?” Se kysyy ”miten kukaan ei tiennyt, että työkalu oli käynnissä?” He eivät tee eroa ulkoisen hyökkääjän aiheuttamaan loukkaukseen ja sisäisen työkalun aiheuttamaan loukkaukseen. Jos henkilötietoja paljastettiin ja organisaatiolla ei ollut näkyvyyttä siitä, mitä suoritetaan, valvonnan puute on itse vastuu. “Työntekijä rakensi sen hyväksytyn alustan avulla” ei ole puolustus, se on aukon kuvaus.

Kiireellisyys on todellista, mutta aikomus ja toteutus eivät ole sama asia, ja useimmille yrityksille niiden välillä on edelleen avoin kuilu.

Vastaus ei ole rajoittaa sitä, kuka voi rakentaa. Kansalaiskehityksen rajoittaminen uhraisi aitoa tuottavuuden parantamista, ja käytännössä se ei pitäisi. Työntekijät löytäisivät kiertoreitit. Vastaus on tuoda se, mitä rakennetaan, näkyviin, ja hallita sitä siinä vaiheessa, jossa riski todella ilmenee: suoritusaikana.

Se tarkoittaa ymmärtämistä siitä, mitä agenteja on olemassa, miten ne käyttäytyvät, mihin tietoihin ne pääsevät, mitkä järjestelmät ne koskettavat, ja pysyvätkö niiden toimet niiden rakentajien aikomuksien mukaisina. Se tarkoittaa asettamista esteitä, jotka toimivat organisaatiotasolla, ei ainoastaan konfiguraatiopisteessä. Ja se tarkoittaa pääsemistä siihen pisteeseen, jossa turvallisuustiimit voivat vastata perustavimpiin kysymyksiin minkä tahansa agentin suhteen heidän ympäristössään: kuka rakensi sen, mihin se pääsee, ja käyttäytyykö se suunnitellulla tavalla?

Useimmat yritykset eivät voi vastata näihin kysymyksiin tänään. Organisaatiot, jotka pääsevät sinne ensin, ovat ne, jotka voivat laajentaa AI-omaksumista luottavaisesti, koska he tietävät, mitä he todella suorittavat.