Nieuwe beveiligingsrisico’s van snelle GenAI-adoptie die organisaties moeten aanpakken

Generatieve AI (GenAI) is van een curiositeit uitgegroeid tot een centrale kracht in enterprise-technologie. De mogelijkheid om tekst, code, afbeeldingen en inzichten op aanvraag te genereren, heeft het onmisbaar gemaakt voor medewerkers die complexiteit willen doorbreken en productiviteit willen versnellen. Maar met deze innovatie en efficiëntie komt een enorm risico.

In gesprekken met executives en AI-governance-leiders in verschillende industrieën, komt één thema telkens weer naar voren: gegevensbeveiliging is van een belangrijke zorg naar het centrale punt van hun strategie verschoven en is nu de grootste uitdaging bij de adoptie van AI. In tegenstelling tot traditionele software of zelfs eerdere golven van machine learning, verandert GenAI fundamenteel het proces voor het beveiligen van gegevens binnen een organisatie.

Een recente MIT-studie vond dat 95% van de enterprise GenAI-piloten faalt. Het is niet omdat de technologie zwak is; het is omdat ondernemingen de governance- en beveiligingskaders missen die nodig zijn om GenAI op een verantwoorde manier operationeel te maken. In een andere MIT-studie noemden ondernemingsleiders gegevensbeveiliging als het belangrijkste zakelijke en beveiligingsrisico dat de snellere adoptie van AI belemmert. Bovendien wordt “shadow AI”, dat ongeautoriseerd gebruik van openbare tools is, algemeen erkend als een driver van het snel stijgende datarisico’s buiten de controle van de onderneming.

Minimale-toegangsrechten zijn een beveiligingsmodel waarin elke entiteit, of het nu een gebruiker, programma of proces is, alleen de minimale toegang en rechten krijgt die nodig zijn om zijn legitieme functies uit te voeren. GenAI keert dit hele paradigma echter om: minimale toegang wordt een beperking die in conflict komt met de manier waarop deze systemen zijn ontworpen om te werken. Dit komt omdat enterprise GenAI-tools hogere productiviteitswinsten opleveren wanneer ze toegang hebben tot meer bedrijfsgegevens en bedrijfscontext.

Als GenAI-adoptie versnelt, ontdekken gebruikers voortdurend nieuwe toepassingen van GenAI, waarvan de meeste voortkomen uit organische experimenten en nieuwsgierigheid, in plaats van top-down, business-gedreven planning. Als een entiteit de taken waarvoor GenAI wordt gebruikt, of de soorten gegevens waartoe het toegang nodig heeft, niet kan definiëren, wordt het onmogelijk om minimale-toegangsrechten in te stellen. Bovendien kan een gebruiker toegang hebben tot een dataset en deze legitiem als invoer voor een GenAI-tool bieden, maar zodra die gegevens zijn ingevoerd, zijn ze niet langer gebonden aan de oorspronkelijke rechten van de gebruiker. In plaats daarvan kunnen ze worden opgenomen in het model, worden weergegeven in toekomstige uitvoer of toegankelijk worden gemaakt voor anderen die hetzelfde tool gebruiken. Aangezien GenAI de toegangscontroles van de gegevens niet noodzakelijkerwijs overneemt, maakt het effectief minimale toegang onafdwingbaar.

GenAI-risico’s om te overwegen

GenAI creëert een enorme en steeds uitdijende gegevensoppervlakte, waardoor enterprise-gegevensgovernance en -beveiliging op verschillende onderling verbonden manieren worden ingewikkeld. Deze omvatten:

Invoerlekkage – GenAI kan gegevens in hun ruwe vorm innemen, inclusief tekst, afbeeldingen, audio, video en gestructureerde gegevens. Eindgebruikers kunnen GenAI-tools nu met minimale inspanning of expertise naar nieuwe datasets leiden. In plaats van beperkt te zijn tot zorgvuldig gecureerde, gestructureerde tabellen met gedefinieerde schema’s en relaties, kunnen deze datasets salescall-opnames, CRM-e-mailnotities, klantenservicetranscripten en meer omvatten. In de praktijk voeden medewerkers prompts met zeer gevoelige bedrijfsinformatie, inclusief klant-PII, intellectueel eigendom, financiële prognoses en zelfs broncode.

Uitvoerblootstelling – Generatieve modellen consumeren niet alleen, maar synthetiseren ook. Een prompt kan onbewust inzichten uit verschillende datasets trekken en deze blootstellen aan gebruikers zonder adequate clearance. In sommige gevallen kunnen uitvoer zelfs “hallucineren” gegevens die legitiem lijken, maar fragmenten van echte, gevoelige trainingsmateriaal bevatten.

GenAI-tools werken beter wanneer ze context hebben voor de taak die moet worden uitgevoerd. Als gevolg daarvan neemt GenAI niet alleen bestaande informatie in, maar creëren gebruikers ook nieuwe gegevens om het te leiden in de vorm van uitgebreide, gedetailleerde prompts die bedrijfscontext, interne processen en andere potentieel gevoelige of bedrijfskritische informatie documenteren.

Toegankelijkheid zonder toezicht – Traditionele enterprise-systemen vereisten vendor-onboarding en IT-beheer. Tegenwoordig is GenAI ingebed in Microsoft Office-pakketten, browsers, chattools en SaaS-platforms. Medewerkers kunnen het onmiddellijk aannemen, waardoor governance volledig wordt omzeild. Deze wrijvingsloze toegang voedt “shadow AI”, en elk ongeautoriseerd gebruik van GenAI is een potentieel datatransportevenement dat onzichtbaar, op grote schaal en buiten het governance-perimeter van de onderneming plaatsvindt.

Tweede-trapssupplychainrisico – Een leverancier kan veilig lijken, maar ze hebben vaak te maken met onderaannemers zoals cloudhosts, annotatiediensten of derde partijen AI-labs. Elk van deze introduceert zijn eigen eindgebruikersovereenkomsten (EULAs) en beleid. Gevoelige ondernemingsgegevens kunnen door meerdere onzichtbare handen stromen, maar de verantwoordelijkheid blijft volledig bij de onderneming. Bijvoorbeeld, een onderneming kan een leverancier hebben die eerder het onboardingproces had voltooid, maar die leverancier gebruikt nu een GenAI-tool die de gegevens van de onderneming zou kunnen gebruiken als trainingsgegevens, met aanzienlijke downstream-impact.

Beleidsgaten in trainingsgegevens – Zodra gegevens een AI-model binnenkomen, eindigt de controle effectief. Ondernemingen kunnen hun informatie niet gemakkelijk terugtrekken of beheren hoe deze wordt gebruikt. Propriëtaire kennis kan voortbestaan en later in uitvoer naar boven komen, lang nadat de bron is vergeten. We hebben nog geen enkel GenAI-tool gevonden dat aanvragen toestaat om informatie te verwijderen die het heeft ingevoerd, zoals te zien is in privacyreglementen zoals de Algemene Verordening Gegevensbescherming (AVG) of de California Consumer Privacy Act (CCPA). De implementatie van dergelijke processen is onwaarschijnlijk totdat regelgeving de verandering afdwingt.

Toepassingscoderisico – AI schrijft steeds vaker de code die de bedrijfsystemen ondersteunt. Ontwikkelaars die GenAI-tools zoals Microsoft Copilot gebruiken om code te genereren, kunnen onbewust onveilige afhankelijkheden introduceren, kwetsbaarheden propageren of code embedden onder conflicterende open-source-licenties. Zodra deze zijn geïmplementeerd, worden deze zwakheden ingebed in de software-supplychain.

GenAI-risico’s aanpakken

GenAI is al ingebed in enterprise-workflows, dus de vraag voor ondernemingen is niet of ze het moeten aannemen, maar hoe ze het op een verantwoorde manier moeten doen. GenAI aannemen zonder governance riskeert dure inbreuken, regulatoire boetes en reputatieschade. Maar het blokkeren ervan drijft medewerkers alleen maar naar ongeautoriseerde oplossingen. De enige manier vooruit is inbedding met zichtbaarheid en controle.

GenAI-governance vereist contextgedreven zichtbaarheid, niet alleen in de gegevens die een onderneming heeft, waar ze zich bevinden en wie toegang heeft, maar ook in hoe GenAI wordt gebruikt. Ondernemingen moeten zien welke tools worden gebruikt, welke prompts worden ingevoerd en of gevoelige gegevens de omgeving verlaten. Vervolgens kunnen ze de juiste controles toepassen om prompts en uitvoer in real-time te bewaken, risicovolle sessies of ongebruikelijke gegevensstromen te markeren, ongeautoriseerde tools te blokkeren, gevoelige prompts te filteren voordat ze vertrekken, gevoelige gegevens te de-identificeren zodra ze in prompts worden ingevoerd en rolgebaseerde beperkingen op te leggen aan AI-gedreven inzichten.

GenAI is een geheel nieuwe laag van ondernemingsrisico en -kans. Het beheren ervan vereist een mentaliteit waarin beveiliging niet als een rem op innovatie wordt gezien, maar als de basis die het veilig maakt.