Nye Sikkerhedstrusler fra Hurtig GenAI-Adoption, som Organisationer Må Adresse

Generativ AI (GenAI) er skudt fra en nysgerrighed til en central kraft i virksomhedsteknologi. Dens evne til at generere tekst, kode, billeder og indsigt på krav har gjort det uundværligt for medarbejdere, der ønsker at reducere kompleksitet og accelerere produktivitet. Men med denne innovation og effektivitet kommer massive eksponeringer for risiko.

I samtaler med direktører og AI-governance-ledere på tværs af brancher, dukker ét tema op igen og igen: Data sikkerhed er gået fra en nøgle bekymring til fokus punktet for deres strategi og er nu den definerende udfordring for AI-adoption. I modsætning til traditionel software eller selv tidligere bølger af maskinlæring, ændrer GenAI fundamentalt processen for at sikre data inden for en organisation.

En ny MIT-studie fandt, at 95% af virksomhedens GenAI-piloter fejler. Det er ikke, fordi teknologien er svag; det er, fordi virksomhederne mangler governance og sikkerhedsrammer til at operationalisere GenAI på en passende og ansvarlig måde. I en anden MIT-studie, nævnte virksomhedsledere data sikkerhed som den øverste forretnings- og sikkerhedsrisiko, der hindrer en hurtigere AI-adoption. Derudover er “skygge-AI”, der er unsanktioneret medarbejderbrug af offentlige værktøjer, bredt anerkendt som en driver af stigende data-risici ud over virksomhedens kontrol.

Least-privilege-adgang er en sikkerhedsmodel, hvor enhver enhed, enten en bruger, et program eller en proces, tildeles kun det minimum niveau af adgang og tilladelser, der er nødvendigt for at udføre dens legitime funktioner. GenAI, dog, vælter hele paradigmet: Least privilege selv bliver en begrænsning, der kommer i konflikt med, hvordan disse systemer er designede til at fungere. Dette skyldes, at virksomhedens GenAI-værktøjer tenderer til at levere højere produktivitetsgevinster, når de har adgang til mere forretningsdata og forretningskontekst.

Da GenAI-adoption accelererer, fortsætter brugerne med at opdage nye anvendelser af GenAI, de fleste af dem opstår fra organisk eksperimentering og nysgerrighed, snarere end top-down, forretningsdrevet planlægning. Hvis en enhed ikke kan definere de opgaver, GenAI vil blive brugt til, eller de typer af data, det har brug for adgang til, bliver det umuligt at konfigurere least-privilege-adgangstilladelser. Derudover kan en bruger have passende adgang til en dataset og legitimerer tilføje det som input til et GenAI-værktøj, men når dataene er indtaget, er de ikke længere bundet af brugerens oprindelige tilladelser. I stedet kan det absorberes i modellen, fremkomme i fremtidige outputs eller gøres tilgængelige for andre, der bruger det samme værktøj. Da GenAI ikke nødvendigvis arver dataenes adgangskontroller, gør det efektivt least privilege uigennemførlig.

GenAI-Eksponeringer at Overveje

GenAI skaber en enorm og stadig udvidende datasurface, der komplicerer virksomhedens data governance og sikkerhed på flere sammenhængende måder. Disse inkluderer:

Input-lækage – GenAI kan indtage data i deres rå form, herunder tekst, billeder, lyd, video og struktureret data. End-brugere kan nu dirigere GenAI-værktøjer til nye datasets med minimal indsats eller ekspertise. I stedet for at være begrænsede til omhyggeligt kurerede, strukturerede tabeller med definerede skemaer og relationer, kan disse datasets inkludere salgsopkaldsoptagelser, CRM-e-mailnoter, kundeservice-transkriptioner og mere. I praksis føder medarbejdere prompts med højst følsomme forretningsoplysninger, herunder kunde-PII, immaterielle rettigheder, finansielle prognoser og endda kildekode.

Output-eksponering – Generative modeller ikke kun forbruger, de syntetiserer. En prompt kan utilsigtet trække indsigt fra tværs af datasets og eksponere dem for brugere uden passende godkendelse. I nogle tilfælde kan outputs endda “hallucinere” data, der ser legitime ud, men indeholder fragmenter af rigtige, højst følsomme træningsmateriale.

GenAI-værktøjer fungerer bedre, når de har kontekst for den opgave, der er på hånden. Som resultat heraf indtager GenAI ikke kun eksisterende information, men brugere skaber også nye data for at guide det i form af omfattende, detaljerede prompts, der dokumenterer forretningskontekst, interne processer og andre potentielt følsomme eller forretningskritiske oplysninger.

Tilgængelighed uden oversigt – Traditionelle virksomhedssystemer krævede leverandør-onboarding og IT-provisionering. I dag er GenAI integreret overalt – i Microsoft Office-pakker, browsere, chat-værktøjer og SaaS-platforme. Medarbejdere kan adoptere det øjeblikkeligt, uden at omgå governance. Denne friktionsløse adgang driver “skygge-AI”, og hver unsanktioneret brug af GenAI er et potentiel data-eksfiltrationsevent, der sker usynligt, i stor målestok og uden for en virksomheds governance-perimeter.

Anden-rangs leverandørrisiko – En leverandør kan synes sikker, men de afhænger ofte af underleverandører som cloud-værter, annotations-tjenester eller tredjeparts-AI-laboratorier. Hver introducerer deres egne slutbruger-licensaftaler (EULA’er) og politikker. Følsomme virksomhedsdata kan rippe gennem multiple usete hænder, men ansvarligheden forbliver kvadratisk med virksomheden. For eksempel kan en virksomhed have en leverandør, der tidligere har gennemført sin onboarding-proces, men den leverandør bruger nu et GenAI-værktøj, der kan tillade virksomhedens data at blive brugt som træningsdata, med betydelige downstream-impakter.

Styringsgap i træningsdata – Når data indgår i en AI-model, ophører kontrollen effektivt. Virksomheder kan ikke let trække eller styre, hvordan deres information bliver brugt. Ejendomsretlig viden kan bestå og derefter dukke op i outputs lang tid efter, at dens kilde er blevet glemt. Vi har endnu ikke mødt nogen GenAI-værktøj, der tillader anmodninger om at fjerne information, det har indtaget, ligesom det ses i privatlivsreguleringer som General Data Protection Regulation (GDPR) eller California Consumer Privacy Act (CCPA). Implementering af sådanne processer er usandsynlig, indtil regulering driver ændringen.

Programkode-risiko – AI skriver stadig mere kode, der understøtter virksomhedssystemer. Udviklere, der bruger GenAI-værktøjer som Microsoft Copilot til at generere kode, kan utilsigtet introducere usikre afhængigheder, propagere sårbarheder eller indlejre kode under modsætningsfulde open-source-licensaftaler. Når disse svagheder er deployet, bliver de indlejret i software-levykeden.

At Adresse GenAI-Risiko

GenAI er allerede integreret i virksomhedens arbejdsprocesser, så spørgsmålet for virksomhederne er ikke, om de skal adoptere det, men hvordan de skal gøre det på en ansvarlig måde. At adoptere GenAI uden governance risikerer dyre data-lækager, reguleringssanktioner og reputations-skader. Men at blokere det driver kun medarbejderne til at bruge unsanktionerede løsninger. Den eneste vej frem er enablement indpakket i synlighed og kontrol.

GenAI-governance kræver kontekst-drevet synlighed ikke kun over, hvilke data en virksomhed har, hvor det bor, og hvem der har adgang til det, men også over, hvordan GenAI bliver brugt. Virksomhederne har brug for at se, hvilke værktøjer der bliver adgang til, hvilke prompts der bliver indtastet, og om følsomme data forlader deres miljø. Derefter kan de anvende de passende kontroller til at overvåge prompts og outputs i realtid, flagge risikable sessioner eller anomale data-flux, blokere unsanktionerede værktøjer, filtere følsomme prompts, før de forlader, de-identificere følsomme data, mens de indtastes i prompts, og gennemtvinge rolle-baserede begrænsninger på AI-drevne indsigt.

GenAI er et helt nyt lag af virksomhedsrisiko og mulighed. At styre det kræver en holdning, der går ud på, at sikkerhed ikke er en bremse på innovation, men den grund, der gør det sikkert.