Hoe AI het nummer 1-kanaal voor data-exfiltratie is geworden

Enterprise-leiders hebben miljarden geïnvesteerd in AI-hulpmiddelen om productiviteit en innovatie te versnellen. Maar de nieuwste gegevens onthullen een ernstig risico dat veel organisaties niet zagen aankomen. Dezelfde AI-platforms die helpen om sneller te werken, zijn het grootste kanaal voor gevoelige gegevens geworden, waardoor ze de corporate-omgeving verlaten. Recent onderzoek toont aan dat 77% van de medewerkers gegevens in generatieve AI-hulpmiddelen plakt, en 40% van de bestanden die naar deze platforms worden geüpload, persoonlijk identificeerbare informatie of betalingskaartgegevens bevatten. Dit gebeurt nu, op grote schaal, in organisaties die denken dat ze adequate beveiligingscontroles hebben. Wat het aantoont, is een fundamentele disconnect tussen hoe bedrijven denken dat AI wordt gebruikt en wat er werkelijk gebeurt wanneer medewerkers dagelijks met deze hulpmiddelen werken. Het begrijpen van deze verschuiving is de eerste stap naar het opbouwen van beveiligingsstrategieën die overeenkomen met de nieuwe realiteit.

Hoe AI het nieuwe data-lekkagevector is geworden

Twee jaar geleden bestond generatieve AI nauwelijks in enterprise-workflows. Vandaag gebruiken 45% van alle enterprise-medewerkers actief AI-platforms, en gebeurt 11% van alle enterprise-activiteit op deze hulpmiddelen. ChatGPT alleen al heeft een penetratie van 43% onder medewerkers bereikt, een tempo dat andere communicatieplatforms decennialang nodig hadden om te bereiken.

De snelheid van deze adoptie heeft een beveiligingsvacuüm gecreëerd. Traditionele data loss prevention-systemen waren gebouwd voor bestandsverplaatsingen, e-mailbijlagen en netwerkverkeer. Ze waren nooit ontworpen om te controleren wat medewerkers in promptboxen typen of in chatinterfaces plakken. Deze blind spot is het primaire ontsnappingsroute voor gevoelige informatie geworden.

Generatieve AI vertegenwoordigt nu 32% van alle gegevensverplaatsingen van corporate naar persoonlijke accounts. Dit maakt het het grootste kanaal voor data-exfiltratie, waarmee het bestandsdeling, e-mail en elk ander kanaal dat beveiligingsteams jarenlang hebben geprobeerd te beveiligen, overtreft. Het probleem is niet alleen het volume, maar ook de aard van de lekkage. Wanneer iemand een document naar een bestandsserver uploadt, is er een record. Wanneer ze klantgegevens in een AI-prompt plakken, gebeurt die overdracht vaak buiten elk log- of controlesysteem.

Het persoonlijke accountprobleem

Het probleem is niet het gebruik van AI-hulpmiddelen, maar hoe medewerkers toegang krijgen tot deze hulpmiddelen. Enterprise-beveiligingsmodellen gaan ervan uit dat medewerkers corporate-accounts met single sign-on-authenticatie, logging en toezicht gebruiken. De gegevens tonen aan dat deze veronderstelling onjuist is, en dat ongeveer 67% van het AI-gebruik plaatsvindt via onbeheerde persoonlijke accounts. Dit zijn Gmail-adressen, persoonlijke Microsoft-accounts of directe inschrijvingen die corporate-identiteitssystemen volledig omzeilen. Wanneer iemand inlogt op ChatGPT met zijn persoonlijke e-mail, heeft het bedrijf geen zicht op welke vragen ze stellen, welke gegevens ze delen of welke gevoelige informatie mogelijk in antwoorden verschijnt.

Zelfs wanneer medewerkers corporate-accounts gebruiken, ontbreken deze vaak aan federatie. 83% van de ERP-inloggen en 71% van de CRM-inloggen gebeuren zonder single sign-on. Dit betekent dat de corporate-inloggegevens nauwelijks meer beveiliging of zichtbaarheid bieden dan een persoonlijk account. De gebruikersnaam kan het bedrijfsdomein hebben, maar de authenticatie-omzeiling laat dezelfde onzichtbare gegevensstromen toe.

Kopiëren en plakken: de onzichtbare data-lekkage

Traditionele data loss prevention-strategieën (DLP) waren gebouwd met een focus op bestandssystemen. Ze controleren uploads, downloads en bijlagen. Maar de gegevens tonen aan dat de werkelijke bron van data-lekkage niet bestanden zijn. Het is een kopiëren en plakken. 77% van de medewerkers plakt gegevens in generatieve AI-hulpmiddelen. 82% van deze activiteit komt van onbeheerde persoonlijke accounts. Gemiddeld maakt elke medewerker 15 plakacties per dag met hun persoonlijke accounts, en minstens vier daarvan bevatten gevoelige persoonlijk identificeerbare gegevens of betalingskaartinformatie.

Dit betekent dat gevoelige informatie niet langer alleen via bestandsuploads wordt verplaatst. Het wordt ook rechtstreeks in prompts, chatvensters en tekstvelden geïnjecteerd. Deze bestandsloze overdrachten zijn bijna onzichtbaar voor traditionele DLP-oplossingen. Ze gebeuren op hoge frequentie, op meerdere platforms en buiten enterprise-toezicht.

Het resultaat is een continue stroom van gevoelige gegevens die de organisatie verlaten op manieren die moeilijk te detecteren zijn. Kopiëren en plakken is het nieuwe exfiltratiekanaal geworden, en AI-hulpmiddelen zijn de nummer één bestemming.

Gevoelige bestanden in niet-goedgekeurde bestemmingen

Bestandsuploads blijven een centraal onderdeel van enterprise-workflows. Maar de bestemmingen zijn veranderd. Medewerkers beperken uploads niet langer tot goedgekeurde opslag of e-mail. Ze verplaatsen bestanden naar generatieve AI-hulpmiddelen, consumentenapps en schaduw-SaaS-platforms.

De gegevens tonen aan dat 40% van de bestanden die naar generatieve AI-hulpmiddelen worden geüpload, persoonlijke of financiële gegevens bevatten. 41% van de bestanden die naar bestandsopslagplatforms worden geüpload, bevatten dezelfde gegevens. Bijna 4 op 10 van deze uploads gebeuren via persoonlijke accounts.

Dit betekent dat gevoelige gegevens naar omgevingen stromen waarin bedrijven geen zichtbaarheid of controle hebben. Zodra een bestand naar een persoonlijke Google Drive, WhatsApp-chat of AI-prompt wordt geüpload, is het effectief buiten de enterprise-omgeving. Het kan niet worden getraceerd, beperkt of verwijderd.

De bestemmingen zijn gevarieerd. Enterprise-hulpmiddelen zoals Egnyte en Zendesk verschijnen naast consumentenplatforms zoals Canva, LinkedIn en WhatsApp. Deze vermenging van enterprise- en consumentenecosystemen vertroebelt de grenzen van waar corporate-gegevens zich bevinden. Het maakt ook de beperkingen van traditionele DLP zichtbaar, die was ontworpen voor goedgekeurde kanalen en centrale controle.

Wat dit betekent voor enterprise-beveiliging

De traditionele beveiligingsperimeter is ingestort. Het was ooit mogelijk om gegevens te controleren door netwerken, eindpunten en goedgekeurde toepassingen te beveiligen. Dat model gaat ervan uit dat werk binnen corporate-systemen gebeurt en slechts af en toe externe platforms gebruikt via gecontroleerde kanalen.

De realiteit is dat werk nu in browsers gebeurt, over tientallen toepassingen, via zowel corporate- als persoonlijke accounts, met methoden die geen audittrail creëren. Een medewerker die een klantprobleem onderzoekt, kan interne systemen doorzoeken, bevindingen in ChatGPT plakken voor samenvatting, die samenvatting in Slack kopiëren om met collega’s te delen en het via persoonlijke e-mail doorsturen om later te bekijken. Elke stap omvat gevoelige gegevens die via kanalen verplaatsen die traditionele hulpmiddelen niet kunnen zien.

De browser is het primaire werkgebied geworden, maar beveiligingscontroles hebben hier niet mee kunnen blijven. Medewerkers brengen hun dagen door met het schakelen tussen toepassingen, en de gegevens tonen aan dat ze weinig onderscheid maken tussen corporate- en persoonlijke hulpmiddelen. Ze gebruiken wat werkt, wat handig is, wat niet vereist dat ze op goedkeuring van de IT-afdeling wachten. Dit creëert een omgeving waarin gevoelige informatie constant via onzichtbare kanalen naar buiten stroomt.

Beveiliging opnieuw overwegen voor het AI-tijdperk

De oplossing is niet om AI-hulpmiddelen te blokkeren of persoonlijke accounts volledig te verbieden. Deze benaderingen falen omdat ze tegen de manier waarop medewerkers werkelijk werken, ingaan. Deze hulpmiddelen bestaan omdat ze mensen productiever maken. Persoonlijke accounts zijn talrijk omdat corporate-inrichting traag en beperkend is. Beveiliging die deze realiteiten negeert, zal eenvoudig worden omzeild.

Effectieve bescherming vereist zichtbaarheid op browser-niveau, waar het werk daadwerkelijk gebeurt. Dit betekent niet alleen het controleren van bestandsuploads, maar ook plakoperaties, formulierverzendingen, prompt-interacties en elke andere manier waarop gegevens tussen systemen verplaatsen. Het betekent het afdwingen van beleid dat onderscheid maakt tussen corporate- en persoonlijke accounts, ongeacht welke toepassing iemand gebruikt.

Organisaties moeten data loss prevention uitbreiden tot meer dan alleen bestanden, om bestandsloze overdrachten te omvatten. Een prompt die naar ChatGPT wordt verzonden, moet dezelfde controle ondergaan als een e-mailbijlage. Een plakoperatie in Slack moet dezelfde controles uitlokken als een upload naar Google Drive. De methode van overdracht mag niet bepalen of beveiliging van toepassing is.

Identiteitscontroles moeten daadwerkelijk worden afgedwongen. Het is niet genoeg om single sign-on aan te bieden als medewerkers nog steeds toegang hebben tot bedrijfstoepassingen via persoonlijke accounts. Federated authentication moet verplicht zijn voor elke toepassing die gevoelige gegevens verwerkt, niet optioneel. Non-federated corporate-inloggen moeten worden behandeld als het beveiligingsrisico dat ze zijn.

De bottom line

AI is het snelst groeiende categorie in enterprise-software geworden. Het is ook het nummer één kanaal voor data-exfiltratie geworden. 77% van de medewerkers plakt gegevens in AI-hulpmiddelen. 40% van de uploads bevatten gevoelige informatie. De meerderheid van deze activiteit gebeurt via onbeheerde accounts. De oude beveiligingsperimeter bestaat niet langer. Het meeste werk gebeurt in de browser, en zelfs eenvoudige acties zoals tekst plakken, kunnen leiden tot beveiligingslekken. Bedrijven die hun beveiligingsstrategieën niet bijwerken voor deze nieuwe realiteit, verliezen al de controle over hun meest waardevolle gegevens.