Hur AI har blivit den största kanalen för dataexfiltration

Företagsledare har investerat miljarder i AI-verktyg för att påskynda produktivitet och innovation. Men den senaste datan avslöjar en allvarlig risk som många organisationer inte såg komma. De AI-plattformar som hjälper anställda att arbeta snabbare har blivit den största kanalen för känsliga data som lämnar företagsmiljön. Nya fynd visar att 77% av anställda klistrar in data i generativa AI-verktyg, och 40% av de filer som laddas upp till dessa plattformar innehåller personligt identifierbar information eller betalkortsuppgifter. Det händer just nu, i stor skala, över organisationer som tror att de har ordentliga säkerhetskontroller på plats. Vad det visar är en grundläggande diskonnekt mellan hur företag tror att AI används och vad som faktiskt händer när anställda interagerar med dessa verktyg dagligen. Att förstå denna förändring är det första steget mot att bygga säkerhetsstrategier som matchar den nya verkligheten.

Hur AI blev den nya data läckage vektorn

För två år sedan fanns generativ AI knappt i företagsflöden. Idag använder 45% av alla företagsanställda aktivt AI-plattformar, och 11% av all företagsaktivitet sker på dessa verktyg. ChatGPT har ensam nått 43% anställd penetration, en takt som andra kommunikationsplattformar tog decennier att uppnå.

Hastigheten på denna adoption skapade ett säkerhetsvakuum. Traditionella dataförlustsförebyggande system var byggda för filöverföringar, e-postbilagor och nätverkstrafik. De var aldrig utformade för att övervaka vad anställda skriver in i prompt-rutor eller klistrar in i chattgränssnitt. Denna blind fläck har blivit den primära flyktvägen för känslig information.

Generativ AI står nu för 32% av all dataöverföring från företagskonton till personliga konton. Detta gör det till den största kanalen för dataexfiltration, och överträffar fildelning, e-post och alla andra kanaler som säkerhetsteam har försökt att säkra. Problemet är inte bara volymen utan också naturen på läckaget. När någon laddar upp ett dokument till en filserver, finns det en post. När de klistrar in kunddata i en AI-prompt, sker den överföringen ofta utanför något loggnings- eller övervakningssystem.

Det personliga kontoproblemet

Frågan är inte AI-verktygsanvändning, utan hur anställda kommer åt dessa verktyg. Företagssäkerhetsmodeller antar att anställda använder företagskonton med enkel inloggning, loggning och tillsyn. Datan visar att denna antagande är fel, och att cirka 67% av AI-användningen sker genom ohanterade personliga konton. Dessa är Gmail-adresser, personliga Microsoft-konton eller direktregistreringar som kringgår företagsidentitetssystem helt. När någon loggar in på ChatGPT med sin personliga e-post, har företaget ingen insyn i vilka frågor de ställer, vilken data de delar eller vilken känslig information som kan visas i svar.

Även när anställda använder företagskonton, saknar dessa ofta federation. 83% av ERP-inloggningar och 71% av CRM-inloggningar sker utan enkel inloggning. Detta innebär att den företagsinloggning som erbjuds knappt erbjuder någon större säkerhet eller insyn än ett personligt konto. Användarnamnet kan ha företagsdomänen, men autentiseringsbypassen tillåter samma osynliga dataflöden.

Kopiera och klistra in: Den osynliga data läckan

Traditionella dataförlustsförebyggande strategier (DLP) byggdes med fokus på filsystem. De övervakar uppladdningar, nedladdningar och bilagor. Men datan visar att den verkliga källan till data läckage inte är filer. Det är en kopiera och klistra in. 77% av anställda klistrar in data i generativa AI-verktyg. 82% av denna aktivitet kommer från ohanterade personliga konton. I genomsnitt gör varje anställd 15 klistringar per dag med hjälp av sina personliga konton, och minst fyra av dessa innehåller känslig personligt identifierbar information eller betalkortsuppgifter.

Detta innebär att känslig information inte längre bara flyttas genom filuppladdningar. Den injiceras också direkt i prompter, chattfönster och textfält. Dessa fil-lösa överföringar är nästan osynliga för traditionella DLP-lösningar. De sker med hög frekvens, över flera plattformar och utanför företags tillsyn.

Resultatet är en kontinuerlig ström av känslig data som lämnar organisationen på sätt som är svåra att upptäcka. Kopiera och klistra in har blivit den nya exfiltrationskanalen, och AI-verktyg är den främsta destinationen.

Känsliga filer i obehöriga destinationer

Filuppladdningar förblir en central del av företagsflöden. Men destinationerna har förändrats. Anställda begränsar inte längre uppladdningar till sanktionerad lagring eller e-post. De flyttar filer till generativa AI-verktyg, konsumentappar och skugg-SaaS-plattformar.

Datan visar att 40% av filer som laddas upp till generativa AI-verktyg innehåller personlig eller finansiell data. 41% av filer som laddas upp till fil lagringsplattformar innehåller samma. Nästan 4 av 10 av dessa uppladdningar sker genom personliga konton.

Detta innebär att känslig data flyter in i miljöer där företag inte har någon insyn eller kontroll. När en fil laddas upp till en personlig Google Drive, WhatsApp-chatt eller AI-prompt, är den i princip utanför företagsområdet. Den kan inte spåras, begränsas eller raderas.

Destinationerna är diversifierade. Företagsverktyg som Egnyte och Zendesk visas bredvid konsumentplattformar som Canva, LinkedIn och WhatsApp. Denna blandning av företags- och konsumentekosystem suddar ut gränserna för var företagsdata bor. Det exponerar också begränsningarna för traditionell DLP, som var utformad för sanktionerade kanaler och centraliserad kontroll.

Vad detta innebär för företagssäkerhet

Den traditionella säkerhetsperimetern har kollapsat. Det var tidigare möjligt att kontrollera data genom att hantera nätverk, säkra slutpunkter och övervaka sanktionerade applikationer. Den modellen antar att arbete sker inom företagssystem och bara ibland använder externa plattformar genom kontrollerade kanaler.

Verkligheten är att arbete nu sker i webbläsare, över dussintals applikationer, genom både företags- och personliga konton, med metoder som skapar ingen revisionshistorik. En anställd som undersöker en kundfråga kan söka i interna system, klistra in resultat i ChatGPT för sammanfattning, kopiera den sammanfattningen till Slack för att dela med kollegor och vidarebefordra den via personlig e-post för att granska senare. Varje steg involverar känslig data som flyttas genom kanaler som traditionella verktyg inte kan se.

Webbläsaren har blivit den primära arbetsplatsen, men säkerhetskontroller har inte följt med. Anställda tillbringar sina dagar med att flytta mellan applikationer, och datan visar att de gör liten skillnad mellan företags- och personliga verktyg. De använder vad som fungerar, vad som är bekvämt, vad som inte kräver att de väntar på IT-godkännande. Det skapar en miljö där känslig information konstant flyter ut genom osynliga kanaler.

Omprövning av företagssäkerhet för AI-eran

Lösningen är inte att blockera AI-verktyg eller förbjuda personliga konton helt. Dessa tillvägagångssätt misslyckas eftersom de kämpar mot hur anställda faktiskt arbetar. Verktygen existerar eftersom de gör människor mer produktiva. Personliga konton sprids eftersom företagsprovisionering är långsam och restriktiv. Säkerhet som ignorerar dessa verkligheter kommer enbart att kringgås.

Effektivt skydd kräver insyn på webbläsarnivå, där arbetet faktiskt sker. Det innebär att övervaka inte bara filuppladdningar utan också klistringsoperationer, formöverföringar, promptinteraktioner och alla andra sätt data flyttas mellan system. Det innebär att verkställa policys som skiljer mellan företags- och personliga konton, oavsett vilken applikation någon använder.

Organisationer behöver utöka dataförlustsförebyggande åtgärder bortom filer för att inkludera fil-lösa överföringar. En prompt som skickas till ChatGPT bör få samma granskning som en e-postbilaga. En klistringsoperation i Slack bör utlösa samma kontroller som en uppladdning till Google Drive. Överföringsmetoden bör inte bestämma om säkerhet tillämpas.

Identitetskontroller måste faktiskt verkställas. Det räcker inte att erbjuda enkel inloggning om anställda fortfarande kan komma åt företagsapplikationer via personliga konton. Federerad autentisering behöver vara obligatorisk för alla applikationer som hanterar känslig data, inte valfri. Icke-federerade företagsinloggningar bör behandlas som den säkerhetsrisk de är.

Slutsatsen

AI har blivit den snabbast växande kategorin inom företagsprogramvara. Det har också blivit den största kanalen för dataexfiltration. 77% av anställda klistrar in data i AI-verktyg. 40% av uppladdningarna innehåller känslig information. Merparten av denna aktivitet sker genom ohanterade konton. Den gamla säkerhetsperimetern existerar inte längre. Större delen av arbetet sker i webbläsaren, och även enkla åtgärder som att klistra in text kan leda till säkerhetsincidenter. Företag som inte uppdaterar sina säkerhetsstrategier för denna nya verklighet har redan förlorat kontrollen över sin mest värdefulla data.