Piilotetun tekoälyriskin paljastaminen

Yrityksillä ei kestänyt kauan, kun he kokivat laajamittaisen Generative AI (GenAI):n käytön työntekijöidensä keskuudessa. Mutta kun on kyse GenAI-riskeistä, työkalut, jotka ovat tuttuja organisaatiossanne, eivät ole niitä, joista pitäisi olla eniten huolissaan. Niistä, joita et tiedä, pitäisi olla enemmän huolissaan.

Kiitos nopean GenAI-työkalujen, kuten ChatGPT, Copilot, Gemini ja Perplexity, laajamittaisen käytön, sekä monien erikoistuneiden SaaS-pohjaisien avustajien, työntekijät omaksuvat niitä nopeammin kuin turvatiimit voivat pysyä perässä. Ja tämä käyttäytyminen luo nopeasti kasvavan sokean pisteen, jota kutsutaan varjotekoälyksi.

Jos varjotekoäly kuulostaa tutulta, se johtuu siitä, että se lainaa termiä varjotiedosto, jota käytetään kuvaamaan hyväksymättömien työkalujen ja palvelujen käyttöä työpaikalla. Mutta varjotekoälyssä panokset voivat olla jopa korkeammat. Sen sijaan, että kyseessä on rogue-tiedostojakelu, varjotekoäly voi johtaa siihen, että arkaluontoista tietoa liimataan chatbot-kyselyyn, joka sisällytetään ulkoisiin malleihin ja josta tulee tahattomasti alttiina kolmansille osapuolille.

Varjotekoäly edustaa yhtä vähiten näkyvää, mutta kiireellisintä uhkaa yritysten tietoturvaan tänään.

Mikä on varjotekoäly?

Varjotekoäly viittaa siihen, että työntekijät käyttävät tekoälytyökaluja, erityisesti GenAI:ta, ilman IT- tai turvatiimien tietoa tai hyväksyntää. Organisaatiossa käyttäjät voivat olla markkinointitiimi, joka laativat blogikirjoituksia suurten kielimallien (LLM) avulla, lakitiimi, joka tutkii sopimussanoja tekoälytyökaluissa, tai insinöörit, jotka debuggaavat koodia ilmaisten GPT-raporttien avulla.

Ja vaikka tämä kokeilu voi vaikuttaa vaarattomalta, se, mitä jaetaan näiden työkalujen kanssa, ei välttämättä ole. Se voi olla luottamuksellisia strategiaslaitteita tai asiakastietoja. Tämä tieto päätyy lopulta salaamattomiin kyselyihin, joissa ei ole hallintaa eikä tapaa seurata, mitä seuraavaksi tapahtuu.

Miksi varjotekoäly on ongelma?

Varjotekoälyn ongelma on ongelmallinen, koska se vaatii vain yhden työntekijän, jolla on hyvät aikomukset ja pääsy ChatGPT:hen, luodakseen tietoturvariskin. Toisin kuin hakkeri, varjotekoäly ei ole pahantahtoinen, mutta se ei tee siitä vähemmän vaarallista. Jokaisella kertaa, kun arkaluontoista tietoa lisätään kyselyyn, se on mahdollisesti alttiina mallille, toimittajalle ja kenelle tahansa, jolla on pääsy lokitietoihin. Se voi jopa tulla esiin toisen käyttäjän kyselyn vastauksena. Ja huonoin osa on, ettei kukaan turvallisuudesta tiedä, kun tällainen tapahtuma tapahtuu.

Tässä on viisi avainriskiä, joista pitäisi olla tietoinen varjotekoälyn suhteen.

1. Tietovuoto kyselysyötteiden kautta – Kyselykentät ovat tietoturvariskin musta aukko. Kun arkaluontoista tietoa, kuten lähdekoodia, fuusioidokumentteja ja palkkatietoja, jaetaan GenAI-työkalun kanssa, se on menettänyt hallinnan. Vaikka tekoälytoimittaja lupaa, ettei tietoa säilytetä, valvonta on epäselvää, ja siinä on vain vähän takeita koulutuksesta tai etäisyysmittauksesta.

2. Pääsyoikeuksien tai audit-lokien puute – Toisin kuin hyväksytyt yrityssovellukset, useimmat GenAI-työkalut eivät tarjoa roolipohjaisia pääsyoikeuksia, hienojakoa oikeuksia tai toimintalokkeja, mikä tarkoittaa, että turvatiimit eivät voi nähdä, kuka on käyttänyt mitäkin tietoa tai milloin. Jos tapahtuu onnettomuus, siinä ei ole mitään tutkittavaa.

3. Vaatimusten rikkomukset – Monet lukuisista vaatimussäännöksiä, joihin organisaatiot on sitoutunut noudattamaan, edellyttävät, että säännelty tieto on tallennettava, käsiteltävä ja käytettävä hyvin tiettyjä tavoja. Tämän tiedon syöttäminen ulkoiseen tekoälymalliin voi rikkoa nämä säännöt, altistaen organisaation oikeudellisille riskeille, sakkoja ja pakollisille tiedotteille.

4. Vanhentuneen tai harhaanjohtavan tiedon levittäminen – GenAI-työkalut usein tarjoavat vastauksia varmasti ja esittävät ne tosiasioina, vaikka ne ovatkin väärin. Riippuen näiden tuloksista asiakasviestinnässä, vaatimussummassa tai talousraporteissa ilman vahvistusta voi johtaa liiketoimintapäätöksiin, jotka perustuvat epätarkkaan tietoon. Hallusinaatiot ovat säännöllisiä eivätkä näytä häviävän, vaikka nämä LLM:t ovat fiksumpia.

5. Varjotekoäly, josta tulee varjotieto – GenAI-työkalujen tulokset, kuten yhteenvetot ja koodinpätkät, usein tallennetaan, jaetaan ja uudelleen käytetään. Koska ne on luotu virallisten työnkulkujen ulkopuolella, nämä tiedostot muodostuvat jäljittämättömiksi, luokittamattomiksi ja suojaamattomiksi varjotiedoiksi.

Useimmissa tapauksissa kukaan turvallisuudesta ei tiedä, kun varjotekoälyyn liittyvä onnettomuus tapahtuu. Nämä todelliset esimerkit saattavat tapahtua organisaatiossanne:

• Nuori ohjelmistosuunnittelija liimaa omistuksellisen koodin ilmaiseen GPT-pohjaiseen debuggaajaan.
• Myyntiedustaja syöttää viime vuosineljänneksen asiakasluettelon AI-sähköpostikirjoittimeen, jotta voidaan luoda myyntiponnisteluja.
• Henkilöstöjohtaja käyttää ulkoista AI-työkalua analysoimaan työntekijöiden tyytyväisyyttä koskevia vastauksia.
• Talousanalyytikko pyytää ChatGPT:ltä yksinkertaistamaan herkkien tuloksien kieltä johtajille.
• Asianajaja pyytää GenAI:ta uudelleenkirjoittamaan sopimuksen, joka sisältää luottamuksellisen asiakassopimuksen.

Miksi perinteiset turvallisuustyökalut eivät havaitse varjotekoälyä

Perinteiset turvallisuuspaketti eivät ole suunniteltu GenAI-pohjaisiin uhkiin. Esimerkiksi palomuuri ei voi estää selainpohjaisia AI-työkaluja. CASB ei näe, mitä kirjoitetaan chat-ikkunaan. Ja SIEM ei hälytä, kun joku pyytää LLM:ltä yhteenvetoa herkkää IP:stä.

Varjotekoäly toimii sovellustasolla ja elää selaimessa, missä näkyvyys on heikointa. Työntekijät käyttävät myös henkilökohtaisia laitteita. Ei ole olemassa lisäosaa, joka estäisi heitä, ei vesileimaa, joka seuraisi vuotaneita tietoja, eikä hälytystä, kun tieto ylittää rajan. Ja kun se lopulta ilmestyy DLP-hälytykseen, jos se koskaan ilmestyy, tieto on jo altistunut.

Miten tunnistaa ja korjata varjotekoälyn riskejä

Et voi hallita sitä, mitä et voi nähdä, ja GenAI:n suhteen useimmat organisaatiot lentävät sokeina. Perinteiset työkalut eivät ole suunniteltu ymmärtämään kyselypohjaisia vuorovaikutuksia tai seuraamaan, mitä tapahtuu, kun käyttäjä klikkaa “Enter”-nappia.

Kuitenkin uudet tekoälypohjaiset turvallisuuslähestymistavat ovat haasteen tasalla auttamaan organisaatioita saamaan varjotekoälyn valokeilaan. Tässä on muutamia turvallisuusratkaisujen tarjoamia suojauskeinoja:

Varjotekoälyn havaitseminen – Nämä työkalut tunnistavat, mitä GenAI-sovelluksia käyttäjät käyttävät, myös selainpohjaisia, jotka ohittavat perinteiset valvontatyökalut. Ne analysoivat tietoliikennettä, pääsykäytöstä ja asiayhteydestä havaitsemaan rikkomukset ilman tarvetta endpoint-agenneille tai invasiiviselle valvonnalle.

Herkin tiedon luokittelu – Modernit ratkaisut käyttävät asiayhteyden perustuvaa tekoälyä ymmärtämään sekä sisällön että asiayhteyden taustalla. Se tarkoittaa, että ne voivat merkitä riskejä, kuten tuloksia, jotka on upotettu PowerPoint-esitykseen tai asiakastietoja, jotka on piilotettu sähköpostin luonnokseen. Tämä on tietoa, jonka työntekijät voivat syöttää GenAI:hin ilman toisen ajattelua.

Riskyyn kyselykäyttäytymisen estäminen – Kun herkkä tieto on havaittu ja sen sijainti on tunnistettu, tekoälytietoturva estää sen altistumisen. Nämä työkalut merkitsevät, poistavat tai estävät riskialttiita kyselysyötteitä ennen kuin ne poistuvat organisaatiosta.

Varjotiedon puhdistaminen – GenAI-kyselyt usein tuottavat aallon uusia tiedostoja, kuten yhteenvetoja, luonnoksia ja vastauksia, jotka tallennetaan, jaetaan ja unohdetaan. Edistyneet tietoturva-alustat tunnistavat nämä alihankkijat, havaitsevat altistumisriskejä (kuten ylivaltuutettua pääsyä tai sopimatonta tallennusta) ja korjaavat ne ennen kuin tietohävikki muodostuu otsikoksi.

Varjotekoäly ei ole teoreettinen riski. Se on todellinen, se on kasvamassa, ja se tapahtuu ympäristössänne juuri nyt, riippumatta siitä, oletko nähnyt sen tai ei. Kieltäminen GenAI-työkalujen käyttö ei ole realistista, mutta sokeasti sulkeutuminen on erittäin riskaantista. Organisaatioilla on oltava näkyvyys, valvonta ja älykkyys GenAI-käytön ympärillä — ei vain siitä, mitä tulee ulos, vaan myös siitä, mitä sisään tulee.

Uudet lähestymistavat ovat saatavilla, jotka paljastavat riskialttiita käyttäytymistä, estävät tahattoman altistumisen ja puhdistavat tietomössin, jonka AI ja varjotekoäly jättävät jälkeensä.