Hvordan skal bedrifter håndtere overbelastning av AI-applikasjoner?

Ikke-så-personlig datamaskin

I årevis har teknologisk utvikling blitt drevet av ønsket om å gjøre datamaskiner mer tilgjengelige. Fra smarttelefoner til nettbrett, bærbare datamaskiner og wearables, er det en generell trend å gjøre datamaskiner og deres muligheter mer personlige. Bare tenk på nomenklaturen til industrikjernene: “Personlig datamaskin”, eller PC; “i” Pod, Pad, Phone og utover. Hver av disse enhetene er ment å fungere som en personlig kompanjong, som hjelper å strømlinje brukerens digitale erfaring, og dermed deres liv.

Utviklingen av kunstig intelligens (AI) – spesielt store språkmodeller (LLM) og agente løsninger – går hovedsakelig i samme retning. Liksom PC og iPhone, har AI-verktøy som ChatGPT gjort datamaskinaktiviteter som søking, redigering og brainstorming mer tilgjengelige for allmennheten. Men mens denne tilgjengeligheten har drevet økt bruk, har den også økt risikoen.

Uansett om det er gjennom forgiftede koblinger eller uavsiktlig søkemotorindeksering, truslene mot privat AI-bruk blir stadig vanskeligere å beskytte mot. Legg til usikkerheter rundt hvem som bruker hvilke verktøy, og bedrifter står overfor en perfekt storm av økende trusler og utilstrekkelig beskyttelse. Gitt løftene om AI-verktøy og usikkerheten rundt hvordan man skal sikre dem, hva skal en teknologi-orientert bedrift gjøre?

Veksten av ikke-godkjente AI-applikasjoner

Med over 700 millioner daglige brukere i 2025, har ChatGPT-bruk vokst mer enn 4 ganger fra år til år. Likevel er bare fem millioner av disse brukerne betalende forretningskunder. Dette gjør de andre 695 millioner eller så medlemmer av deres brukerbase enten personlige eller ikke-godkjente forretningsbrukere. Dette tallet ser stort ut til å være større enn det faktisk er, når man husker på at ChatGPT ikke er den eneste AI-løsningen på markedet. I virkeligheten er det langt ifra det – den samtidige eksplosjonen av AI og maskinlæring har generert hundredtusener av nye modeller og løsninger, både offentlige og private.

For bedrifter har den eksponentielle veksten av AI-løsninger gitt opphav til en ny dimensjon av cybertrusselfenomenet kjent som “Skygge-AI”. Liksom fenomenet “Skygge-IT”, er dette basert på ansattes bruk av AI-løsninger uten den foregående vurderingen og uttrykte godkjenningen fra organisasjonen. Dette går fullstendig utenom all IT- og sikkerhetskontroll, og fører til scenarier der ansatte kan bruke potensielt farlige eller usikre løsninger for sensitivt arbeid.

Skygge-AI-bruk er både utbredt og økende. En rapport fant at over 320 ikke-godkjente AI-applikasjoner brukes i gjennomsnitt per bedrift. Hver av disse ikke-godkjente appene, og deres bruk av ansatte, utvider trusselslandskapet videre.

De innebygde risikoene ved AI-overbelastning

Truslene forbundet med AI-overbelastning er flerfoldige og, dessverre, kontinuerlig økende. Noen, som datapforgiftning, promptinjeksjon, modellmanipulasjon og datasraping, er allmenn kjent. Disse direkte forsøkene på AI-manipulasjon og utnyttelse kan aktivere dårlige aktører med tilgang til sensitive bedriftsdata og interne systemer. Gitt denne risikoen, begynner bedrifter å aktivt beskytte seg mot slike angrep.

Men bedrifter kan bare beskytte seg mot truslene de kjenner. Tenk på å sikre en middelalderborg. Veggene, vakttårnene, portene, vollene og mer hjelper å sikre borgen mot ytre fiender og inntrengere. Men hva hvis kjøkkenpersonale har en hemmelig passasje som går utenom ytterveggene? Eller en høytaler vakt blir hørt diskutere vaktendringer på den lokale taverna? Enhver av disse ukjente truslene kunne hjelpe tyver å gå utenom sikkerheten og bryte inn i den indre borgen.

Skygge-AI har samme effekt på bedriftens datasikkerhet. Selv det velment bruk av ikke-godkjente LLM-er og copiloter kan bety katastrofe for sensitiv datavern, ettersom enhver usikker løsning kan fungere som inngangsporter for dårlige aktører. Enhver LLM-bruk øker risikoen for problemer som dataoppbevaring, promptinjeksjon eller modellbias, hver av disse krever sine egne relevante sikkerhetstiltak. Dette øker risikoen for datalekkasjer, overtradelser av retningslinjer og operasjonelle feil, som ofte bare blir identifisert etter skaden allerede er gjort.

Etablering av kontroll over AI-løsninger

Ettersom AI-bruk fortsetter å vokse på både personlig og bedriftsnivå, er det avgjørende at organisasjoner etablerer kontroll over disse løsningene før de blir for stor å kontrollere. Sikring av bedriftens AI og beskyttelse mot ikke-godkjente AI-risikoer innebærer:

1. Å få omfattende oversikt. Som nevnt, kan du ikke sikre dine data mot trusler du ikke er klar over. Sikkerhet begynner med oversikt over alle AI-løsningene som dine ansatte bruker – både godkjente og ikke-godkjente. Dette er lettere sagt enn gjort, men en skytjeneste for sikkerhet (CASB) kan hjelpe å etablere kontinuerlig oversikt over ansattes applikasjonsbruk.
2. Å gjennomføre grundige risikovurderinger. Teamene bør gjennomføre TPRM-innsats for å sikre at alle AI-løsninger vurderes for deres sikkerhet og potensielle risiko. Disse innsatsene bør også omfatte fjerdeparts-nivået, ettersom selv godkjente applikasjoner som CRM eller produktivitetsplattformer begynner å integrere eksterne LLM-kapasiteter i sine plattformer. Disse fjerdeparts-løsningene må følge samme sikkerhetsstandarder som enhver intern godkjent applikasjon.
3. Å etablere styringsrammer. Med denne oversikten over og forståelsen av løsningene, kan organisasjonene utvikle og distribuere konsistente AI-styringspolitikk-rammer gjennom hele applikasjonsøkosystemet. Liksom med data-tilgang, kan disse styringspolitikkene hjelpe å kontrollere hvilke AI-løsninger ansatte kan få tilgang til, hvilken informasjon de kan dele med dem, og gjennomsiktigheten av deres dag-til-dag-bruk.
4. Å automatisere risikodeteksjon. Den eksponentielle veksten av AI-antakelse gjør manuell risikodeteksjon og respons near umulig. Automatisering av disse prosessene basert på styringspolitikker og forventet brukeratferd kan hjelpe å proaktivt identifisere anomalier og begrense deres videre sikkerhetspåvirkning.
5. Å forklare ansattes forventninger. Det viktigste delen av sikker AI-antakelse og bruk er dine ansatte. Å gi tilstrekkelig trening og å sette klare forventninger vil hjelpe til å forebygge risikabelt AI-bruk og å tvinge den trygge, forretningsdrivende bruken av godkjente og beskyttede løsninger.

Å opprettholde sikker AI-antakelse

Ved å etablere slike proaktive sikkerhetstiltak, får bedriftene en mer helhetlig oversikt over måtene de bruker AI-løsninger på – både godkjente og i “skyggen”. Dette har en umiddelbar effekt på sikkerheten, og hjelper teamene å identifisere eksisterende risikoer og trusselsvektorer og å iverksette tiltak for å rette dem.

Mer viktig, imidlertid, er at det setter disse bedriftene i stand til langvarig AI-suksess. Ved å skape den tekniske grunnlaget for sikker AI-antakelse og en sikkerhets-orientert kultur blant AI-brukere, hjelper denne flerdelte tilnærmingen til å skape en bærekraftig modell for fremtidige AI-verktøy. Utstyrt med teknisk støtte og tilstrekkelig trening, kan ansatte nyte AI-fordelene uten å bli belastet av de innebygde risikoene.

Organisasjoner som gjør disse endringene tidligere snarere enn senere vil være best forberedt til å møte fremtiden for AI-løsninger, uansett hva de må bringe. Å legge ned front-arbeidet for å skape en sterk grunnlag – i stedet for å bare skynde seg å sjekke AI-antakelsesboksen – vil sette teamene i den beste mulige posisjonen for å oppnå varig AI-drevet suksess.