Hvordan AI er blevet det største kanal for dataeksfiltration

Virksomhedsledere har investeret milliarder i AI-værktøjer for at accelerere produktivitet og innovation. Men den seneste data afslører en alvorlig risiko, som mange organisationer ikke havde set komme. De samme AI-platforme, der hjælper medarbejderne med at arbejde hurtigere, er blevet det største kanal for følsomme data, der forlader virksomhedens omgivelser. Nye opdagelser viser, at 77% af medarbejderne indsætter data i generative AI-værktøjer, og 40% af filerne, der uploades til disse platforme, indeholder personfølsomme oplysninger eller betalingskortdata. Det sker lige nu, i stor målestok, på tværs af organisationer, der tror, de har ordentlige sikkerheds kontroller på plads. Det viser en grundlæggende afkopling mellem, hvordan virksomheder tror AI bliver brugt, og hvad der faktisk sker, når medarbejderne interagerer med disse værktøjer dagligt. At forstå denne ændring er det første skridt mod at opbygge sikkerhedsstrategier, der matcher den nye virkelighed.

Hvordan AI blev det nye kanal for dataleaks

For to år siden fandtes generative AI næsten ikke i virksomhedsworkflows. I dag bruger 45% af alle virksomhedsmedarbejdere aktivt AI-platforme, og 11% af alle virksomhedsaktiviteter sker nu på disse værktøjer. ChatGPT alene har nået 43% medarbejderpenetration, en rate, som andre kommunikationsplatforme har taget årtier at opnå.

Hastigheden af denne adoption skabte et sikkerhedstomrum. Traditionelle data loss prevention systemer var bygget til filoverførsler, e-mail-vedhæftninger og netværkstrafik. De var aldrig designet til at overvåge, hvad medarbejderne skriver ind i promptbokse eller indsætter i chatgrænseflader. Dette blinde punkt er blevet det primære flugtvej for følsomme oplysninger.

Generative AI står nu for 32% af alle dataoverførsler fra virksomhedens til personlige konti. Dette gør det til den største kanal for dataeksfiltration, overgående fildeling, e-mail og enhver anden kanal, som sikkerhedsteams har brugt årtier på at sikre. Problemet er ikke kun mængden, men også naturen af lækkagen. Når nogen uploader en fil til en filserver, er der en registrering. Når de indsætter kundedata i en AI-prompt, sker denne overførsel ofte uden for enhver logning eller overvågningssystem.

Det personlige konto-problem

Problemet er ikke AI-værktøjsbrug, men hvordan medarbejderne får adgang til disse værktøjer. Virksomhedssikkerhedsmodeller antager, at medarbejderne bruger virksomhedskonti med single sign-on-autentificering, logning og overvågning. Data viser, at denne antagelse er forkert, og at omkring 67% af AI-brug sker gennem upersonlige konti. Disse er Gmail-adresser, personlige Microsoft-konti eller direkte tilmeldinger, der omgår virksomhedens identitetssystemer helt. Når nogen logger ind på ChatGPT med deres personlige e-mail, har virksomheden ingen indsigt i, hvilke spørgsmål de stiller, hvilke data de deler, eller hvilke følsomme oplysninger, der måske vises i svarene.

Selv når medarbejderne bruger virksomhedskonti, mangler disse ofte federation. 83% af ERP-logninger og 71% af CRM-logninger sker uden single sign-on. Dette betyder, at den virksomhedsmæssige login tilbyder næsten ingen mere sikkerhed eller indsigt end et personligt konto. Brugernavnet kan have virksomhedens domæne, men autentificeringsomgåelsen tillader de samme usynlige datastrømme.

Kopier og indsæt: Den usynlige datalekkage

Traditionelle data loss prevention-strategier (DLP) var bygget med fokus på filsystemer. De overvåger uploads, downloads og vedhæftninger. Men data viser, at den virkelige kilde til datalekkage ikke er filer. Det er en kopiering og indsætning. 77% af medarbejderne indsætter data i generative AI-værktøjer. 82% af denne aktivitet kommer fra upersonlige personlige konti. I gennemsnit indsætter hver medarbejder 15 gange om dagen ved hjælp af deres personlige konti, og mindst fire af disse indeholder følsomme personfølsomme oplysninger eller betalingskortinformation.

Dette betyder, at følsomme oplysninger ikke længere kun flytter gennem filuploads. De indsættes også direkte i prompter, chatvinduer og tekstfelter. Disse fil-løse overførsler er næsten usynlige for traditionelle DLP-løsninger. De sker i høj frekvens, på tværs af multiple platforme og uden for virksomhedens overvågning.

Resultatet er en kontinuerlig strøm af følsomme data, der forlader organisationen på måder, der er svære at opdage. Kopiering og indsætning er blevet den nye eksfiltrationskanal, og AI-værktøjer er nummer ét-destinationen.

Følsomme filer i unsanktionerede destinationer

Filuploads forbliver en central del af virksomhedsworkflows. Men destinationerne er ændret. Medarbejderne begrænser ikke længere uploads til sanktionerede lagringssteder eller e-mail. De flytter filer ind i generative AI-værktøjer, forbrugerapps og skygge SaaS-platforme.

Data viser, at 40% af filerne, der uploades til generative AI-værktøjer, indeholder personlige eller finansielle data. 41% af filerne, der uploades til fil-lagringsplatforme, indeholder det samme. Næsten 4 af 10 af disse uploads sker gennem personlige konti.

Dette betyder, at følsomme data flyder ind i miljøer, hvor virksomhederne ikke har nogen indsigt eller kontrol. Når en fil uploades til en personlig Google Drive, WhatsApp-chat eller AI-prompt, er den effektivt uden for virksomhedens område. Den kan ikke spores, begrænses eller slettes.

Destinationerne er diverse. Virksomheds-værktøjer som Egnyte og Zendesk vises sammen med forbrugerplatforme som Canva, LinkedIn og WhatsApp. Denne blanding af virksomheds- og forbrugerøkosystemer udvisker grænserne for, hvor virksomhedens data befinder sig. Det udsætter også grænserne for traditionel DLP, der var designet til sanktionerede kanaler og central kontrol.

Hvad det betyder for virksomhedssikkerhed

Den traditionelle sikkerhedsperimeter er kollapset. Det var tidligere muligt at kontrollere data ved at styre netværk, sikre endpunkter og overvåge sanktionerede applikationer. Denne model antager, at arbejdet sker inden for virksomhedens systemer og kun sjældent anvender eksterne platforme gennem kontrollerede kanaler.

Virkeligheden er, at arbejdet nu sker i browseren, på tværs af dusinvis af applikationer, gennem både virksomheds- og personlige konti, ved hjælp af metoder, der skaber ingen audit-spor. En medarbejder, der forsker i en kunde-problem, kan søge i interne systemer, indsætte resultaterne i ChatGPT til sammenfattelse, kopiere denne sammenfattelse ind i Slack til at dele med kolleger og videregive den via personlig e-mail til at gennemse senere. Hver enkelt skridt indebærer følsomme data, der flytter gennem kanaler, som traditionelle værktøjer ikke kan se.

Browseren er blevet det primære arbejdssted, men sikkerheds kontrollerne har ikke fulgt med. Medarbejderne tilbringer deres dage med at flytte mellem applikationer, og data viser, at de gør lidt forskel mellem virksomheds- og personlige værktøjer. De bruger, hvad der virker, hvad der er bekvemt, hvad der ikke kræver venten på IT-godkendelse. Dette skaber et miljø, hvor følsomme oplysninger konstant flyder ud gennem usynlige kanaler.

Omdefinering af virksomhedssikkerhed for AI-æraen

Løsningen er ikke at blokere AI-værktøjer eller forbyde personlige konti udtrykkeligt. Disse tilgange fejler, fordi de kæmper imod, hvordan medarbejderne faktisk arbejder. Værktøjerne findes, fordi de gør mennesker mere produktive. Personlige konti breder sig, fordi virksomhedens udlevering er langsom og begrænsende. Sikkerhed, der ignorerer disse realiteter, vil blot blive omgået.

Effektiv beskyttelse kræver indsigt på browser-niveau, hvor arbejdet faktisk sker. Dette betyder overvågning af ikke kun filuploads, men også indsætningsoperationer, formular-indsendelser, prompt-interaktioner og enhver anden måde, data flytter mellem systemer. Det betyder at gennemtvinge politikker, der skelner mellem virksomheds- og personlige konti, uanset hvilken applikation nogen bruger.

Organisationer behøver at udvide data loss prevention ud over filer til at omfatte fil-løse overførsler. En prompt, der indsendes til ChatGPT, skal modtage samme skærping som en e-mail-vedhæftning. En indsætningsoperation i Slack skal udløse samme kontroller som en upload til Google Drive. Overførselsmetoden skal ikke bestemme, om sikkerhed gælder.

Identitetskontroller skal faktisk gennemtvinges. Det er ikke nok at tilbyde single sign-on, hvis medarbejderne stadig kan få adgang til forretningsapplikationer gennem personlige konti. Federeret autentificering skal være obligatorisk for enhver applikation, der håndterer følsomme data, ikke valgfri. Ikke-federerede virksomhedslogninger skal behandles som den sikkerhedsrisiko, de er.

Bottom Line

AI er blevet den hurtigst voksende kategori i virksomhedssoftware. Det er også blevet den største kanal for dataeksfiltration. 77% af medarbejderne indsætter data i AI-værktøjer. 40% af uploads indeholder følsomme oplysninger. Det meste af denne aktivitet sker gennem upersonlige konti. Den gamle sikkerhedsperimeter eksisterer ikke længere. Det meste af arbejdet sker i browseren, og selv simple handlinger som indsætning af tekst kan føre til datalekkager. Virksomheder, der ikke opdaterer deres sikkerhedsstrategier for denne nye virkelighed, mister allerede kontrollen over deres mest værdifulde data.