Hvordan AI har blitt den største kanalen for dataeksfiltrering

Bedriftsledere har investert milliarder i AI-verktøy for å fremme produktivitet og innovasjon. Men den siste dataen avslører en alvorlig risiko som mange organisasjoner ikke så komme. De samme AI-plattformene som hjelper ansatte å arbeide raskere, har blitt den største kanalen for sensitive data, og forlater bedriftsmiljøet. Nye funn viser at 77% av ansatte limmer inn data i generative AI-verktøy, og 40% av filene som lastes opp til disse plattformene inneholder personlige identifikatorer eller betalingskortdata. Dette skjer nå, i stor skala, over organisasjoner som tror de har riktige sikkerhetskontroller på plass. Hva det viser er en grunnleggende disconnect mellom hvordan bedrifter tenker AI brukes og hva som faktisk skjer når ansatte interagerer med disse verktøyene daglig. Å forstå denne endringen er det første skrittet mot å bygge sikkerhetsstrategier som matcher den nye virkeligheten.

Hvordan AI ble den nye datalekkasjekanalen

For to år siden, eksisterte generative AI knapt i bedriftsverktøy. I dag bruker 45% av alle bedriftsansatte aktivt AI-plattformer, og 11% av all bedriftsaktivitet skjer nå på disse verktøyene. ChatGPT alene har nådd 43% ansatt penetrering, en rate som andre kommunikasjonsplattformer tok tiår å oppnå.

Hastigheten på denne adopsjonen skapte et sikkerhetstomt rom. Tradisjonelle data tap forebyggingsystemer var bygget for filoverføringer, e-postvedlegg og nettverkstrafikk. De var aldri designet for å overvåke hva ansatte skriver inn i promptbokser eller limmer inn i chat-grensesnitt. Denne blinde flekken har blitt den primære fluktruten for sensitive opplysninger.

Generative AI står nå for 32% av all databevegelse fra bedrift til personlige kontoer. Dette gjør det til den største kanalen for dataeksfiltrering, og overgår fildeling, e-post og alle andre kanaler som sikkerhetsteamene har brukt år på å sikre. Problemet er ikke bare volum, men også naturen til lekkasjen. Når noen laster opp et dokument til en filserver, er det en rekord. Når de limmer inn kundedata i en AI-prompt, skjer denne overføringen ofte utenfor noen logg- eller overvåkingssystem.

Det personlige konto-problemet

Problemet er ikke AI-verktøybruk, men hvordan ansatte aksesserer disse verktøyene. Bedriftssikkerhetsmodeller antar at ansatte bruker bedriftskontoer med enkelt innlogging, logging og overvåking. Dataene viser at denne antagelsen er feil, og at ca. 67% av AI-bruk skjer gjennom upriviligerte personlige kontoer. Disse er Gmail-adresser, personlige Microsoft-kontoer eller direkte registreringer som bypasser bedriftsidentitetssystemer helt. Når noen logger inn på ChatGPT med sin personlige e-post, har bedriften ingen visibilitet i hva spørsmål de stiller, hva data de deler eller hva sensitive opplysninger som kan dukke opp i svarene.

Selv når ansatte bruker bedriftskontoer, mangler disse ofte føderasjon. 83% av ERP-innlogginger og 71% av CRM-innlogginger skjer uten enkelt innlogging. Dette betyr at den bedriftlige innloggingen tilbyr nesten ingen mer sikkerhet eller visibilitet enn en personlig konto. Brukernavnet kan ha bedriftsdomenet, men autentiseringsbypassen tillater de samme usynlige datastrømmene.

Kopier og lim: Den usynlige datalekkasjen

Tradisjonelle data tap forebyggingsstrategier var bygget med fokus på filsystemer. De overvåker lastinger, nedlastinger og vedlegg. Men dataene viser at den virkelige kilde til datalekkasjen ikke er filer. Det er en kopier- og lim-funksjon. 77% av ansatte limmer inn data i generative AI-verktøy. 82% av denne aktiviteten kommer fra upriviligerte personlige kontoer. I gjennomsnitt gjør hver ansatt 15 liminger per dag ved hjelp av sine personlige kontoer, og minst fire av disse inneholder sensitive personlige identifikatorer eller betalingskortinformasjon.

Dette betyr at sensitive opplysninger ikke lenger bare flytter gjennom filopplasting. De injiseres også direkte i prompter, chat-vinduer og tekstfelt. Disse fil-løse overføringene er nesten usynlige for tradisjonelle DLP-løsninger. De skjer med høy frekvens, over flere plattformer og utenfor bedrifts overvåking.

Resultatet er en kontinuerlig strøm av sensitive data som forlater organisasjonen på måter som er vanskelige å oppdage. Kopier og lim har blitt den nye eksfiltreringskanalen, og AI-verktøy er den nummer en destination.

Sensitive filer i usankjonerte destinasjoner

Filopplasting forbli en sentral del av bedriftsverktøy. Men destinasjonene har endret seg. Ansatte begrenser ikke lenger opplastingene til sankjonerte lagringsplasser eller e-post. De flytter filer inn i generative AI-verktøy, forbrukerappar og skygge SaaS-plattformer.

Dataene viser at 40% av filene som lastes opp i generative AI-verktøy inneholder personlige eller finansielle data. 41% av filene som lastes opp i filopplagringplattformer inneholder det samme. Nesten 4 av 10 av disse opplastingene skjer gjennom personlige kontoer.

Dette betyr at sensitive data flyter inn i miljøer hvor bedrifter ikke har visibilitet eller kontroll. Når en fil lastes opp i en personlig Google Drive, WhatsApp-chat eller AI-prompt, er den effektivt utenfor bedriftsområdet. Den kan ikke sporres, begrenses eller slettes.

Destinasjonene er diverse. Bedriftsverktøy som Egnyte og Zendesk dukker opp sammen med forbrukerplattformer som Canva, LinkedIn og WhatsApp. Denne blandingen av bedrifts- og forbrukerøkosystemer utvisker grensene for hvor bedriftsdata bor. Den avslører også begrensningene til tradisjonell DLP, som var designet for sankjonerte kanaler og sentralisert kontroll.

Hva dette betyr for bedriftssikkerhet

Den tradisjonelle sikkerhetsperimeteren har kollapset. Det var en gang mulig å kontrollere data ved å håndtere nettverk, sikre endepunkter og overvåke sankjonerte applikasjoner. Denne modellen antar at arbeid skjer innenfor bedriftssystemer og bare av og til anvender eksterne plattformer gjennom kontrollerte kanaler.

Virkeligheten er at arbeid nå skjer i nettlesere, over dusinvis av applikasjoner, gjennom både bedrifts- og personlige kontoer, ved hjelp av metoder som skaper ingen audit-spor. En ansatt som forsker på en kundeproblem kan søke i interne systemer, limme inn funn i ChatGPT for sammenfatting, kopiere den sammenfatte teksten inn i Slack for å dele med kolleger og sende den videre via personlig e-post for å se på senere. Hver enkelt steg innebærer sensitive data som flytter gjennom kanaler som tradisjonelle verktøy ikke kan se.

Nettleseren har blitt den primære arbeidsplassen, men sikkerhetskontrollene har ikke fulgt med. Ansatte tilbringer dagene sine med å flytte mellom applikasjoner, og dataene viser at de gjør liten forskjell på bedrifts- og personlige verktøy. De bruker hva som fungerer, hva som er praktisk, hva som ikke krever venting på IT-godkjenning. Dette skaper en miljø hvor sensitive opplysninger konstant flyter ut gjennom usynlige kanaler.

Omtenkning av bedriftssikkerhet for AI-æraen

Løsningen er ikke å blokkere AI-verktøy eller forbyde personlige kontoer helt. Disse tilgangene feiler fordi de kjemper mot hvordan ansatte faktisk arbeider. Verktøyene eksisterer fordi de gjør mennesker mer produktive. Personlige kontoer sprer seg fordi bedriftsprovisjon er langsom og begrensende. Sikkerhet som ignorerer disse realitetene vil bare bli bypasset.

Effektiv beskyttelse krever visibilitet på nettlesernivå, der arbeid faktisk skjer. Dette betyr å overvåke ikke bare filopplasting, men også lim-operasjoner, form-innsendinger, prompt-interaksjoner og hver enkelt måte data flytter mellom systemer. Det betyr å håndheve politikker som skiller mellom bedrifts- og personlige kontoer, uavhengig av hvilken applikasjon noen bruker.

Organisasjoner må utvide data tap forebygging beyond filer til å inkludere fil-løse overføringer. En prompt som sendes til ChatGPT bør motta samme granskning som en e-postvedlegg. En lim-operasjon inn i Slack bør utløse samme sjekker som en opplasting til Google Drive. Metoden for overføring bør ikke bestemme om sikkerhet gjelder.

Identitetskontroller må faktisk håndheves. Det er ikke nok å tilby enkelt innlogging hvis ansatte likevel kan aksessere bedriftsapplikasjoner gjennom personlige kontoer. Føderert autentisering må være obligatorisk for alle applikasjoner som håndterer sensitive data, ikke valgfri. Ikke-fødererte bedriftsinnlogginger bør behandles som sikkerhetsrisiko.

Bunnen av saken

AI har blitt den raskest voksende kategorien i bedriftsprogramvare. Det har også blitt den største kanalen for dataeksfiltrering. 77% av ansatte limmer inn data i AI-verktøy. 40% av opplastinger inneholder sensitive opplysninger. Det meste av denne aktiviteten skjer gjennom upriviligerte kontoer. Den gamle sikkerhetsperimeteren eksisterer ikke lenger. Det meste av arbeidet skjer i nettleseren, og selv enkle handlinger som å limme inn tekst kan føre til brudd. Bedrifter som ikke oppdaterer sine sikkerhetsstrategier for denne nye virkeligheten, har allerede tapt kontroll over sine mest verdifulle data.