Nya säkerhetsexponeringar av snabb GenAI-antagande som organisationer måste åtgärda

Generativ AI (GenAI) har gått från att vara en nyfikenhet till en central kraft inom företagsteknologi. Dess förmåga att generera text, kod, bilder och insikter på begäran har gjort den oumbärlig för anställda som vill minska komplexitet och öka produktivitet. Men med denna innovation och effektivitet kommer också en enorm exponering för risk.

I samtal med chefer och AI-styrningsledare inom olika branscher dyker ett tema upp om och om igen: Dataskydd har gått från att vara en viktig fråga till att vara fokus för deras strategi och är nu den avgörande utmaningen för AI-antagande. Till skillnad från traditionell programvara eller tidigare vågor av maskinlärning förändrar GenAI på ett grundläggande sätt processen för att skydda data inom en organisation.

En nylig MIT-studie fann att 95% av företags GenAI-piloter misslyckas. Det är inte för att tekniken är svag, utan för att företagen saknar de styrsystem och säkerhetsramar som behövs för att operationalisera GenAI på ett lämpligt och ansvarsfullt sätt. I en annan MIT-studie angav företagsledare dataskydd som den främsta affärs- och säkerhetsrisken som hindrar en snabbare AI-antagande. Dessutom är “skugg-AI”, som är obehörig användning av offentliga verktyg av anställda, allmänt erkänd som en drivkraft för ökande datarisken utanför företagets kontroll.

Minsta behörighetsåtkomst är en säkerhetsmodell där varje enhet, oavsett om det är en användare, ett program eller en process, bara ges den minsta nivån av åtkomst och behörigheter som behövs för att utföra sina legitima funktioner. GenAI, däremot, vänder hela paradigm: Minsta behörighet i sig blir en begränsning som kommer i konflikt med hur dessa system är utformade för att fungera. Detta beror på att företags GenAI-verktyg tenderar att ge högre produktivitetsvinster när de har tillgång till mer affärsdata och affärs kontext.

När GenAI-antagandet accelererar, upptäcker användare fortfarande nya tillämpningar av GenAI, de flesta av dessa uppstår från organisk experiment och nyfikenhet, snarare än topp-ned, affärsdriven planering. Om en enhet inte kan definiera de uppgifter som GenAI kommer att användas för, eller de typer av data som den behöver tillgång till, blir det omöjligt att konfigurera minsta behörighetsåtkomst. Dessutom kan en användare ha lämplig tillgång till en dataset och legitimt tillhandahålla den som indata till ett GenAI-verktyg, men när data väl har tagits emot, är den inte längre bunden av användarens ursprungliga behörigheter. Istället kan den absorberas i modellen, visas i framtida utdata eller göras tillgänglig för andra som använder samma verktyg. Eftersom GenAI inte nödvändigtvis ärver dataparametrarna, gör den i princip minsta behörighet oförverkligbar.

GenAI-exponeringar att överväga

GenAI skapar en enorm och ständigt expanderande datayta, som komplicerar företags dataskydd och säkerhet på flera sammanhängande sätt. Dessa inkluderar:

Inmatningsläckage – GenAI kan ta emot data i sin råform, inklusive text, bilder, ljud, video och strukturerad data. Slut användare kan nu dirigera GenAI-verktyg till nya dataset med minimal ansträngning eller expertis. Istället för att vara begränsade till noggrant utvalda, strukturerade tabeller med definierade scheman och relationer, kan dessa dataset innehålla försäljningssamtal, CRM-e-postanteckningar, kundtjänsttranskriptioner och mer. I praktiken matar anställda in prompter med mycket känslig affärsinformation, inklusive kund-PII, immateriella rättigheter, finansiella prognoser och till och med källkod.

Utmatningsexponering – Generativa modeller konsumerar inte bara, de syntetiserar. En prompt kan oavsiktligt dra insikter från olika dataset och exponera dem för användare utan lämplig godkännande. I vissa fall kan utmatningar till och med “hallucinera” data som verkar legitim, men innehåller fragment av verklig, känslig utbildningsmaterial.

GenAI-verktyg fungerar bättre när de har kontext för den uppgift som ska utföras. Som ett resultat tar inte bara GenAI in befintlig information, utan användare skapar också ny data för att vägleda den i form av omfattande, detaljerade prompter som dokumenterar affärs kontext, interna processer och annan potentiellt känslig eller affärskritisk information.

Tillgänglighet utan tillsyn – Traditionella företagssystem krävde leverantörsregistrering och IT-utrustning. Idag är GenAI inbäddad överallt – i Microsoft Office-paket, webbläsare, chattverktyg och SaaS-plattformar. Anställda kan anta det direkt, utan att behöva följa styrsystem. Denna friktionsfria tillgång driver “skugg-AI”, och varje obehörig användning av GenAI är en potentiell dataexfiltreringshändelse som sker osynligt, i stor skala och utanför företagets styrsystem.

Andrahandens leverantörsrisk – En leverantör kan verka säker, men de förlitar sig ofta på underleverantörer som molnvärdar, annoteringstjänster eller tredjeparts AI-laboratorier. Var och en introducerar sina egna slutanvändaravtal (EULAs) och policys. Känslig företagsdata kan rinna genom flera osynliga händer, men ansvarigheten ligger fortfarande hos företaget. Till exempel kan ett företag ha en leverantör som tidigare har slutfört sin onboarding-process, men den leverantören använder nu ett GenAI-verktyg som kan tillåta företagets data att användas som utbildningsdata, med betydande nedströmskonsekvenser.

Styrsystemgap i utbildningsdata – När data kommer in i en AI-modell, slutar kontrollen i princip. Företag kan inte enkelt återkalla eller styra hur deras information används. Proprietär kunskap kan kvarstå och sedan dyka upp i utmatningar långt efter att dess ursprung har glömts. Vi har ännu inte mött något GenAI-verktyg som tillåter begäran om att ta bort information som den har tagit emot, liknande vad som ses i dataskyddsförordningar som den allmänna dataskyddsförordningen (GDPR) eller den kaliforniska dataskyddsförordningen (CCPA). Implementering av sådana processer är osannolik tills regleringen driver förändringen.

Programkodrisk – AI skriver alltmer den kod som ligger till grund för affärssystem. Utvecklare som använder GenAI-verktyg som Microsoft Copilot för att generera kod kan omedvetet introducera osäkra beroenden, sprida sårbarheter eller inbädda kod under konfliktande öppen källkodslicenser. När de väl har distribuerats, blir dessa svagheter inbäddade i programvaruleverantörskedjan.

Att åtgärda GenAI-risk

GenAI är redan inbäddad i företagsarbetsflöden, så frågan för företagen är inte om de ska anta det, utan hur de ska göra det på ett ansvarsfullt sätt. Att anta GenAI utan styrsystem riskerar dyra brott, regulatoriska straff och skador på ryktet. Men att blockera det driver bara anställda att använda obehöriga lösningar. Den enda vägen framåt är att möjliggöra det med synlighet och kontroll.

GenAI-styrsystem kräver kontextdriven synlighet, inte bara för att se vilken data ett företag har, var den finns och vem som har tillgång till den, utan också för att se hur GenAI används. Företag måste se vilka verktyg som används, vilka prompter som matas in och om känslig data lämnar deras miljö. Därifrån kan de tillämpa lämpliga kontroller för att övervaka prompter och utmatningar i realtid, flagga riskfyllda sessioner eller ovanliga dataflöden, blockera obehöriga verktyg, filtrera känsliga prompter innan de lämnar, avidentifiera känslig data när den matas in i prompter och tillämpa rollbaserade begränsningar för AI-drivna insikter.

GenAI är ett helt nytt lager av företagsrisk och möjlighet. Att hantera det kräver en inställning som säkerhet inte är en broms på innovation, utan grunden som gör det säkert.