Varjon AI-jungat: Miksi alustan hyväksyminen ei ole sama kuin sen sisällön turvallisuuden varmistaminen

Yritysten AI-omaksuminen on pitkään ollut ongelmallista. Tietojen hallinnan, sääntelynmukaisuuden ja turvallisuuden huolenaiheita on seurannut jokaisessa vaiheessa. Mutta kun organisaatiot laajentavat toimintojaan suurilla alustoilla, kuten Microsoft (MSFT ), Salesforce ja ServiceNow, on kasvava tunne, että vaikeimmat hallinnolliset kysymykset ovat ainakin osittain ratkaistu. Yrityssopimukset ovat voimassa. Turvallisuuden arviointi on tehty. Alustat on hyväksytty.

Mitä tuo luottamus usein laiminlyö, on eri kysymys: ei siitä, onko alusta turvallinen, vaan siitä, mitä ja kuka rakentaa.

Teollisuudenala kohtaa hiljaisen vallankumouksen, kun ei-tekniikkaa harjoittavat työntekijät käyttävät yrityksen AI-alustoja luodakseen autonomiset agentit, automaattiset työnkulut ja tietoihin liittyvät sovellukset usein muutamassa minuutissa ilman yhtään koodiriviä. Perinteisten kehitysaikataulujen ja rajoitusten ulottumattomissa, nämä rakentajat ovat organisaatioiden tehokkuuden edistäjiä. Mutta nämä työkalut eivät ole koskaan turvallisuustiimin tarkastamia. Monissa tapauksissa turvallisuustiimit eivät edes tiedä niiden olemassaolosta.

Nämä työkalut, joita voidaan luokitella sovelluksiksi, agenteiksi tai automaatioiksi, ovat kasvavan ongelman, jota kutsutaan Varjon AI:ksi, ja se edustaa yhtä merkittävintä muutoksia yritysten riskien hallinnassa viimeisen kymmenen vuoden aikana, yksinkertaisesti siksi, että uhkat ovat nyt siirtyneet sisään.

Alkuperäinen Varjo-IT-ongelma oli suhteellisen yksinkertainen: työntekijät käyttivät organisaation ulkopuolisia työkaluja, ja turvallisuuden tehtävä oli löytää ja estää niitä. Varjo-AI on erilainen haaste. Työkalut ovat hyväksyttyjen alustojen sisällä. Rakentajat ovat omia työntekijöitä. Käytettävä pääsy on legitiimi. Eikä mikään näistä mene turvallisuusprosesseiden läpi, jotka on suunniteltu havaitsemaan ongelmat ennen kuin ne pääsevät tuotantoon.

Se, mikä tekee tästä erityisen haastavan ongelman, on mittakaava. Useimmat turvallisuusjohtajat aliarvioivat merkittävästi, mitä heidän omassa ympäristössään rakennetaan. Viimeaikaiset tutkimukset yli 200 yrityksen tietoturva- ja turvallisuusjohtajalta osoittivat, että keskivertoinen yritysten turvallisuustiimi pystyy tilastamaan vain 44% AI-agenteista, automaatioista ja sovelluksista, joita liiketoimintakäyttäjät ovat luoneet. Se ei ole aukko, se on sokea piste, joka peittää suurimman osan siitä, mitä suoritetaan.

Syy on yksinkertainen: liiketoimintakäyttäjät ovat johtavassa asemassa ammattimaisiin kehittäjiin verrattuna jopa 10:1-suhteessa joissakin organisaatioissa. He rakentavat jatkuvasti jokaisessa osastossa, alustoilla, jotka on suunniteltu helpottamaan rakentamista, ja kannustetaan C-suunnasta rakentamaan. Turvallisuustiimit ovat suunniteltu kehittäjien prosessien ja koodirepositorien ympärille. Ne eivät ole suunniteltu valvomaan tätä.

Yleisin väärinkäsitys on usko, että alustan hyväksyminen ratkaisee turvallisuusongelman. Se ei ratkaise, se siirtää sen. Kun yritys allekirjoittaa sopimuksen Microsoftin, Salesforce (CRM ):n tai UiPathin kanssa, alusta tarjoaja turvaa infrastruktuurinsa. Mitä työntekijät rakentavat sen päälle, ja miten he konfiguroivat sen, on kokonaan yrityksen vastuulla.

Ongelma on, että liiketoimintakäyttäjien luomat työkalut eivät näytä perinteisille turvallisuusjärjestelmille kuin ohjelmisto. Ei ole koodia skannattavaksi, ei repositorioita seurattavaksi, ei putkia tarkastettavaksi. AI-agentti, jonka HR-johtaja on rakentanut valikoiden ja tekstikomennoilla, on useimpien turvallisuustyökalujen näkökulmasta näkymätön.

Ja kuitenkin nämä työkalut eivät ole vähäpätöisiä. Tutkimukset ovat osoittaneet, että yli puolet CISO:ista vahvisti, että liiketoimintakäyttäjien luomat sovellukset tukevat nyt liiketoimintakriittisiä prosesseja ja pääsevät herkän yritysdatan ääreen. Panokset ovat reaalisia, ja valvonta ei ole pysynyt mukana.

Varjon AI-jungasta kohti katastrofia

Käyttötarkoitukset ovat yhtä moninaisia kuin lukuisat ja tulevat lähes jokaisesta osastosta, jopa niistä, joita turvallisuustiimi ei olisi koskaan ajatellut valvovan.

Esimerkiksi markkinointikoordinaattori rakentaa asiakkaan kanssa vuorovaikuttavan AI-agentin täysin hyväksytyn alustan avulla vastaamaan tuotekysymyksiin. Muutamassa minuutissa sovellus on käynnissä, mutta turvallisuuskoulutuksen puutteen vuoksi kaksi pientä konfiguraatiota havaitsematta, jättäen agentin suoran pääsyn koko yrityksen tietokantaan ja ilman rajoituksia siitä, mitä se voi hakea. Tuotannossa käyttäjä pyytää sitä hakemaan henkilöstötietoja. Se tekee niin. Koska agentilla on myös sähköpostiominaisuus, käyttäjä ohjaa sen lähettämään tiedot henkilökohtaiseen osoitteeseen. Koko järjestely kestää alle 60 sekuntia. Ei ole tapahtunut mitään laitonta pääsyä, ei alustan loukkausta, ei turvallisuushälytystä.

Tämä ei ole sofistikoitunut hyökkäys. Se on ennalta arvattavissa oleva seuraus hyvän tahdon omaavan työntekijän rakentamisesta jotain, jota hän ei täysin ymmärtänyt, alustalla, joka teki rakentamisen helpoksi ja hallinnon valinnaisksi.

Hallinnollinen aukko, jota kukaan ei ole hinannut

Useimmissa organisaatioissa Varjo-AI-ongelma pysyy abstraktina, kunnes jotain menee pieleen. Mutta liiketoimintariski juontuu syvemmältä kuin vain tietovuodon vastaus.

Kun liiketoimintakäyttäjän luoma agentti vuotaa herkkiä tietoja, hallitus ei kysy ”miten määräysten rikkominen tapahtui?” Se kysyy ”miten kukaan ei tiennyt, että työkalu oli käynnissä?” He eivät tee eroa ulkoisen hyökkääjän aiheuttamaan tietovuotoon ja sisäisen työkalun aiheuttamaan vuotoon. Jos henkilökohtaisia tietoja on paljastettu ja organisaatiolla ei ollut näkyvyyttä siitä, mitä suoritetaan, valvonnan puute on itse vastuullisuus. “Työntekijä rakensi sen hyväksytyn alustan päälle” ei ole puolustus, se on aukon kuvaus.

Kiireellisyys on todellista, mutta aikomus ja toteutus eivät ole sama asia, ja useimmissa yrityksissä niiden välinen aukko on edelleen avoin.

Vastaus ei ole rajoittaa sitä, kuka voi rakentaa. Kansalaiskehityksen rajoittaminen uhraisi aitoa tuottavuuden parantamista, ja käytännössä se ei pitäisi. Työntekijät löytäisivät kiertoreitit. Vastaus on tuoda se, mitä rakennetaan, näkyville, ja hallita sitä siinä vaiheessa, jossa riski todella ilmenee: suoritusaikana.

Se tarkoittaa ymmärtämistä siitä, mitä agenteja on olemassa, miten ne käyttäytyvät, mitä tietoja ne pääsevät käyttämään, mitä järjestelmiä ne koskettelevat, ja pysyvätkö niiden toimet niiden rakentajien aikomuksien mukaisina. Se tarkoittaa asettamista esteitä, jotka toimivat organisaatiotasolla, eikä ainoastaan konfiguraatiopisteessä. Ja se tarkoittaa pääsemistä siihen pisteeseen, jossa turvallisuustiimit voivat vastata perustavimpiin kysymyksiin minkä tahansa agentin suhteen heidän ympäristössään: kuka rakensi sen, mihin se pääsee, ja käyttäykö se niin kuin se oli suunniteltu?

Useimmat yritykset eivät voi vastata noihin kysymyksiin tänään. Organisaatiot, jotka pääsevät sinne ensimmäisenä, ovat niitä, jotka voivat laajentaa AI-omaksumista varmuudella, koska he tietävät, mitä he todella suorittavat.