Afsløring af de skjulte risici i Skygge AI

Det tog ikke lang tid, før virksomhederne oplevede den omfattende brug af Generative AI (GenAI) blandt deres medarbejdere. Men når det kommer til GenAI-risiko, er det ikke de værktøjer, der er kendt inden for din organisation, som du skal være mest bekymret for. Det er de, du ikke kender til, som skal holde dig vågen om natten.

Takket være den hurtige udvikling af GenAI-værktøjer som ChatGPT, Copilot, Gemini og Perplexity, samt mange specialiserede SaaS-baserede assistenter, adopterer medarbejderne dem hurtigere, end sikkerhedsteams kan følge med. Og denne brug skaber en hurtigt voksende blind plet, der kaldes skygge AI.

Hvis skygge AI lyder bekendt, er det, fordi det låner fra begrebet skygge IT, der bruges til at beskrive brugen af ikke-godkendte værktøjer og tjenester på arbejdspladsen. Men med skygge AI kan risikoen være endnu højere. I stedet for en rogue fil-delingsapp kan skygge AI resultere i, at følsomme data indsættes i en chatbot-prompt, indtages i eksterne modeller og uvidende eksponeres for tredjeparts-systemer.

Skygge AI repræsenterer en af de mindst synlige, men mest presserende trusler mod virksomhedsdatasikkerheden i dag.

Hvad er Skygge AI?

Skygge AI refererer til den ikke-godkendte brug af AI-værktøjer – især GenAI – af medarbejdere uden viden eller godkendelse fra virksomhedens IT- eller sikkerhedsteams. Inden for en organisation kan brugere være en markedsføringshold, der udarbejder blogindlæg med store sprogmodeller (LLM’er), et juridisk hold, der udforsker kontrakt-sprog i AI-værktøjer, eller ingeniører, der fejlfinder kode med gratis GPT-værktøjer.

Og selvom denne eksperimentering kan synes harmløs, kan det, der deles med disse værktøjer, ikke være det. Det kan være fortrolige strategi-præsentationer eller kundeoplysninger. Disse data ender til sidst i ukrypterede prompts, uden nogen governance og ingen mulighed for at spore, hvad der sker herefter.

Hvorfor er Skygge AI et problem?

Spørgsmålet om skygge AI er problematisk, fordi det kun kræver en medarbejder med gode intentioner og adgang til ChatGPT for at skabe en datasikkerhedsrisiko. I modsætning til en hacker er skygge AI ikke ondsindet, men det gør det ikke mindre farligt. Hver gang følsomme data indsættes i en prompt, er det potentielt eksponeret for modellen, leverandøren og enhver med adgang til logfilerne. Det kan endda genopstå i et svar på en anden brugers prompt. Og det værste er, at du sandsynligvis aldrig vil vide, at det er sket.

Her er fem nøgle-risici ved skygge AI, som du skal være opmærksom på.

1. Data-lækage via prompt-indtastninger – Prompt-felter er en datasikkerheds sorte hul. Når følsomme oplysninger, såsom kildekode, M&A-dokumenter og løn detaljer, indsættes i en GenAI-værktøj, er det uden for din kontrol. Selv hvis AI-leverandøren lover, at data ikke gemmes, er gennemførelsen uklar, og der er få garantier med hensyn til træning eller telemetri.

2. Mangel på adgangskontrol eller overvågningslogfiler – I modsætning til godkendte virksomhedsapps tilbyder de fleste GenAI-værktøjer ikke rollebaseret adgangskontrol, granulerede tilladelser eller aktivitetlogfiler, hvilket betyder, at sikkerhedsteams ikke har nogen indsigt i, hvem der har adgang til hvilke data, eller hvornår. Hvis der sker en incident, er der intet at efterforske.

3. Overtrædelse af compliance-regler – Mange af de utallige compliance-regler, som organisationer skal overholde, kræver, at regulerede data skal gemmes, behandles og adgangs styres på meget bestemte måder. At føde disse data ind i en ekstern AI-model kan overtræde disse regler og udsætte din organisation for juridisk risiko, bøder og obligatoriske brudanmeldelser.

4. Cirkulation af forældede eller fordomsfulde oplysninger – GenAI-værktøjer leverer ofte svar med stor sikkerhed og præsenterer dem som fakta, selv når de er meget forkerte. At stole på disse output uden validering kan føre til forretningsbeslutninger baseret på ukorrekte data. Hallucinationer sker regelmæssigt og synes ikke at være på vej ud, selv som disse LLM’er bliver smartere.

5. Skygge AI, der bliver til skygge data – Output fra GenAI-værktøjer, herunder sammenfatninger og kode-udsnit, gemmes ofte, deles og genbruges. Da de er blevet oprettet uden for formelle arbejdsprocesser, bliver disse filer utilgængelige, uklassificerede og upassende skygge data.

I de fleste tilfælde ved skygge AI ingen i sikkerheden noget om, når et brud sker. Disse virkelige eksempler kan ske i din organisation:

• En junior software-ingeniør indsætter proprietær kode i en gratis GPT-baseret fejlfinder.
• En salgsrepræsentant indsætter sidste kvartals kundeliste i en AI-e-mail-skribent for at generere op-sælgningstiltag.
• En HR-chef bruger en ekstern AI-værktøj til at analysere medarbejder-tilfredshedsundersøgelser.
• En finansanalytiker beder ChatGPT om at simplificere sprogbrugen i følsomme omsætningsprognoser for ledere.
• En advokat beder GenAI om at omskrive en kontrakt ved hjælp af en fortrolig klausul fra en kundeaftale.

Hvorfor traditionelle sikkerheds-værktøjer ikke kan finde Skygge AI

Arv-sikkerhedsstakke er ikke bygget til GenAI-prompt-baserede trusler. For eksempel kan en brandmur ikke blokere browser-baserede AI-værktøjer. En CASB vil ikke se, hvad der skrives ind i chat-vinduer. Og en SIEM vil ikke alarmere, når nogen beder en LLM om at sammenfatte følsom IP.

Skygge AI opererer på applikationslaget og bor i browseren, hvor synligheden er svagest. Medarbejderne bruger også deres personlige enheder. Der er ingen plugin til at stoppe dem, ingen vandmærke til at spore, hvilke data der er lækket, og ingen alarm, når data krydser grænsen. Og når det dukker op i en DLP-advarsel, hvis det overhovedet sker, er data allerede eksponeret.

Hvordan man kan identificere og afhjælpe Skygge AI-risici

Man kan ikke kontrollere, hvad man ikke kan se, og med GenAI er de fleste organisationer blindt fløjtende. Traditionelle værktøjer var ikke bygget til at forstå prompt-baserede interaktioner eller spore, hvad der sker herefter, når en bruger klikker på “Indsend”.

Men nye AI-drevne sikkerheds-tilgange er op til udfordringen for at hjælpe organisationer med at bringe skygge GenAI ud af mørket. Her er nogle af de sikkerhedsforanstaltninger, der tilbydes af avancerede løsninger:

Opdagelse af skygge AI – Disse værktøjer identificerer, hvilke GenAI-applikationer dine brugere anvender, også browser-baserede, der omgår traditionelle kontroller. De analyserer data-bevægelser, adgangsmønstre og kontekst for at detektere overtrædelser uden at kræve endpoint-agenter eller invasiv overvågning.

Klassificering af, hvad der er følsomt – Moderne løsninger bruger kontekst-bevidst AI til at forstå både indhold og kontekst bag data. Det betyder, at de kan markere risici, såsom en omsætningsprognose indlejret i en PowerPoint-præsentation eller kunde-data gemt i en e-mail-udkast. Dette er den type indhold, medarbejdere kan føde ind i GenAI uden at give det en anden tanke.

Forebyggelse af risikabelt prompt-adfærd – Når følsomme data er opdaget og deres placering er identificeret, hjælper AI-data-sikkerhed med at forhindre, at de eksponeres. Disse værktøjer markerer, redigerer eller blokerer risikable prompt-indtastninger, før de forlader organisationen.

Rensning af skygge data – GenAI-prompts genererer ofte en bølge af nye filer, såsom sammenfatninger, udskrifter og svar, der gemmes, deles og glemmes. Avancerede data-sikkerheds-platforme identificerer disse nedstrøms-artefakter, detekterer eksponerings-risici (såsom over-tilgængelig adgang eller upassende lagring) og afhjælper dem, før data-tab skaber overskrifter.

Skygge AI er ikke en teoretisk risiko. Det er virkeligt, det vokser, og det sker i din omgang lige nu, uanset om du har set det eller ej. At forbyde GenAI-værktøjer er ikke realistisk, men at blinde øjnene er ekstremt risikabelt. Organisationer har brug for synlighed, kontrol og intelligens omkring GenAI-brug – ikke kun for, hvad der kommer ud, men for, hvad der går ind.

Nye tilgange er tilgængelige, der afslører risikabel adfærd, forhindrer utilsigtet eksponering og rydder op i den data-mæssige rod, som AI og skygge AI efterlader.