Het ontdekken van de verborgen risico’s van Shadow AI

Het duurde niet lang voordat ondernemingen de wijdverbreide gebruik van Generatieve AI (GenAI) onder hun medewerkers meemaakten. Echter, als het gaat om GenAI-risico’s, zijn de tools die binnen uw organisatie bekend zijn, niet degenen waar u zich het meest zorgen over moet maken. Het zijn degenen die u niet kent, die u ‘s nachts wakker moeten houden.

Dankzij de snelle uitbreiding van GenAI-tools zoals ChatGPT, Copilot, Gemini en Perplexity, evenals veel gespecialiseerde SaaS-gebaseerde assistenten, nemen medewerkers ze sneller in gebruik dan beveiligingsteams kunnen bijhouden. En dit gebruik creëert een snel groeiende blind spot, bekend als shadow AI.

Als shadow AI u bekend voorkomt, is dat omdat het de term “shadow IT” leent, die wordt gebruikt om de gebruik van niet-goedgekeurde tools en diensten op de werkplek te beschrijven. Maar met shadow AI kunnen de inzetten nog hoger zijn. In plaats van een rogue bestandsdelingsapp, kan shadow AI resulteren in gevoelige gegevens die in een chatbot-prompt worden geplakt, ingevoerd in externe modellen en onbewust blootgesteld aan derden.

Shadow AI vertegenwoordigt een van de minst zichtbare, maar meest dringende bedreigingen voor de beveiliging van bedrijfsgegevens vandaag.

Wat is Shadow AI?

Shadow AI verwijst naar het niet-goedgekeurde gebruik van AI-tools, vooral GenAI, door medewerkers zonder de kennis of goedkeuring van de IT- of beveiligingsteams van het bedrijf. Binnen een organisatie kunnen gebruikers een marketingteam zijn dat blogposts schrijft met grote taalmodellen (LLM’s), een juridisch team dat contracttaal onderzoekt in AI-tools, of ingenieurs die code debuggen met gratis GPT-wrappers.

En hoewel dat experimenteel gebruik onschuldig lijkt, kan wat er met die tools wordt gedeeld dat niet zijn. Het kan vertrouwelijke strategiepresentaties of klantinformatie zijn. Deze gegevens belanden uiteindelijk in ongecodeerde prompts, zonder governance en zonder manier om te volgen wat er vervolgens gebeurt.

Waarom is Shadow AI een probleem?

Het probleem van shadow AI is problematisch omdat het alleen een medewerker met goede bedoelingen en toegang tot ChatGPT nodig heeft om een gegevensbeveiligingsrisico te creëren. In tegenstelling tot een hacker is shadow AI niet kwaadaardig, maar dat maakt het niet minder gevaarlijk. Elke keer dat gevoelige gegevens aan een prompt worden toegevoegd, worden ze mogelijk blootgesteld aan het model, de leverancier en iedereen met toegang tot de logbestanden. Ze kunnen zelfs opduiken in een antwoord op een andere gebruikersprompt. En het ergste is dat u waarschijnlijk nooit zult weten dat het is gebeurd.

Hier zijn vijf belangrijke risico’s van shadow AI waar u zich bewust van moet zijn.

1. Gegevenslekkage via prompt-input –Prompt-velden zijn een gegevensbeveiligingszwart gat. Zodra gevoelige informatie, zoals broncode, fusie- en overname-documenten en salarisdetails, wordt gedeeld met een GenAI-tool, is het buiten uw controle. Zelfs als de AI-leverancier belooft dat de gegevens niet worden bewaard, is handhaving onduidelijk en zijn er weinig garanties met betrekking tot training of telemetrie.

2. Gebrek aan toegangscontrole of auditlogboeken –In tegenstelling tot goedgekeurde bedrijfsapps bieden de meeste GenAI-tools geen rolgebaseerde toegangscontrole, gedetailleerde machtigingen of activiteitenlogboeken, wat betekent dat beveiligingsteams geen zicht hebben op wie welke gegevens hebben benaderd of wanneer. Als er een incident optreedt, is er niets om te onderzoeken.

3. Inbreuken op de naleving –Veel van de ontelbare inbreuken op de naleving die organisaties moeten naleven, vereisen dat gereguleerde gegevens op specifieke manieren moeten worden opgeslagen, verwerkt en benaderd. Het voeden van deze gegevens in een extern AI-model kan deze regels schenden, waardoor uw organisatie wordt blootgesteld aan juridisch risico, boetes en verplichte inbreukmeldingen.

4. Circulatie van verouderde of bevooroordeelde informatie –GenAI-tools geven vaak antwoorden met vertrouwen en presenteren ze als feiten, zelfs als ze heel verkeerd zijn. Het vertrouwen op deze uitvoer voor klantberichten, samenvattingen van de naleving of financiële rapporten zonder validatie kan leiden tot zakelijke beslissingen op basis van onnauwkeurige gegevens. Hallucinaties komen regelmatig voor en lijken niet te verdwijnen, zelfs als deze LLM’s slimmer worden.

5. Shadow AI die shadow-gegevens wordt –Uitvoer van GenAI-tools, waaronder samenvattingen en codefragmenten, worden vaak opgeslagen, gedeeld en hergebruikt. Aangezien ze buiten formele workflows zijn gegenereerd, worden deze bestanden ongevolgde, niet-geclassificeerde en onbeschermde shadow-gegevens.

In de meeste gevallen weet niemand in de beveiliging wanneer een inbreuk plaatsvindt met shadow AI. Deze echte voorbeelden kunnen in uw organisatie plaatsvinden:

• Een junior software-ingenieur plakt propriëtaire code in een gratis GPT-gebaseerde debugger.
• Een verkoopvertegenwoordiger voedt de klantenlijst van het afgelopen kwartaal in een AI-e-mailschrijver om upsell-pitches te genereren.
• Een HR-manager gebruikt een extern AI-hulpmiddel om antwoorden op een medewerkertevredenheidsenquête te analyseren.
• Een financieel analist vraagt ChatGPT om de taal van gevoelige omzetprognoses voor executives te vereenvoudigen.
• Een advocaat vraagt GenAI om een contract te herschrijven met een vertrouwelijke clausule uit een klantovereenkomst.

Waarom traditionele beveiligingstools Shadow AI missen

Erfgeneratiebeveiligingsstacks zijn niet gebouwd voor GenAI-prompt-gebaseerde bedreigingen. Een firewall kan bijvoorbeeld geen browsergebaseerde AI-tools blokkeren. Een CASB ziet niet wat er in chatvensters wordt getypt. En een SIEM waarschuwt niet als iemand een LLM vraagt om gevoelige IP samen te vatten.

Shadow AI werkt op het applicatieniveau en leeft in de browser, waar de zichtbaarheid het zwakst is. Medewerkers gebruiken ook hun persoonlijke apparaten. Er is geen plug-in om hen te stoppen, geen watermerk om te traceren welke gegevens zijn gelekt en geen waarschuwing als gegevens de grens overschrijden. En tegen de tijd dat het in een DLP-waarschuwing verschijnt, als dat al gebeurt, zijn de gegevens al blootgesteld.

Hoe Shadow AI-risico’s te identificeren en te remediëren

U kunt niet controleren wat u niet ziet, en met GenAI vliegen de meeste organisaties blind. Traditionele tools zijn niet gebouwd om prompt-gebaseerde interacties te begrijpen of te volgen wat er gebeurt nadat een gebruiker op “Enter” klikt.

Er zijn echter nieuwe AI-gedreven beveiligingsbenaderingen die wel aan de uitdaging kunnen voldoen om organisaties te helpen om shadow GenAI uit de schaduw te halen. Hier zijn een paar van de waarborgen die geavanceerde oplossingen bieden:

Ontdekking van shadow AI –Deze tools identificeren welke GenAI-toepassingen uw gebruikers gebruiken, zelfs browsergebaseerde toepassingen die traditionele controles omzeilen. Ze analyseren gegevensverplaatsing, toegangspatronen en context om schendingen te detecteren zonder eindpuntagents of invasieve monitoring te vereisen.

Classificatie van wat gevoelig is –Modieuze oplossingen gebruiken contextueel bewuste AI om zowel de inhoud als de context van gegevens te begrijpen. Dat betekent dat ze risico’s kunnen markeren, zoals een omzetaankondiging die in een PowerPoint-presentatie is ingebed of klantgegevens die in een e-mailontwerp zijn opgenomen. Dit is het soort inhoud dat medewerkers zonder tweede gedachte in GenAI kunnen voeden.

Voorkoming van riskant promptgedrag –Zodra gevoelige gegevens zijn ontdekt en hun locatie is geïdentificeerd, helpt AI-gegevensbeveiliging om te voorkomen dat ze worden blootgesteld. Deze tools markeren, wissen of blokkeren riskante prompt-inputs voordat ze de organisatie verlaten.

Opkuisen van shadow-gegevens –GenAI-prompts genereren vaak een golf van nieuwe bestanden, zoals samenvattingen, ontwerpen en antwoorden, die worden opgeslagen, gedeeld en vergeten. Geavanceerde gegevensbeveiligingsplatforms identificeren deze nevenproducten, detecteren blootstellingsrisico’s (zoals over-toegang of ongepaste opslag) en remediëren ze voordat gegevensverlies een kopje wordt.

Shadow AI is geen theoretisch risico. Het is echt, het groeit en het gebeurt in uw omgeving op dit moment, of u het nu ziet of niet. Het verbieden van GenAI-tools is niet realistisch, maar het negeren ervan is extreem riskant. Organisaties hebben zicht, controle en inzicht nodig in het gebruik van GenAI – niet alleen voor wat eruit komt, maar ook voor wat erin gaat.

Er zijn nieuwe benaderingen beschikbaar die riskant gedrag ontdekken, toevallige blootstelling voorkomen en de gegevensrommel opruimen die AI en shadow AI achterlaten.

tic, maar het negeren ervan is extreem riskant. Organisaties hebben zicht, controle en inzicht nodig in het gebruik van GenAI — niet alleen voor wat eruit komt, maar voor wat erin gaat. Nieuwe benaderingen zijn beschikbaar die riskant gedrag ontdekken, toevallige blootstelling voorkomen en de gegevensrommel opruimen die AI en shadow AI achterlaten.