Hvorfor forbud mod AI øger sikkerhedsrisici og hvordan institutioner skal reagere

På tværs af USA er skoledistrikter og offentlige organisationer ved at begrænse eller blokere adgangen til generative AI-teknologier eller bestemte værktøjer. I Colorado har Boulder Valley School District for nylig forbudt ChatGPT på distriktets netværk, med henvisning til bekymringer om misbrug, sikkerhed og akademisk integritet.

Instinktet til at reducere eksponeringen for sikkerhedsincidenter eller datamisbrug er forståeligt. Platforme med svage sikkerhedsforanstaltninger eller uklare privatlivspolitikker, som DeepSeek, berettiger til begrænsninger og skærpede krav. Men at forbyde adgang til GenAI-værktøjer reducerer ikke risikoen væsentligt; det skifter ofte bare risikoen til miljøer, hvor oversigten forsvinder.

En undersøgelse fra College Board fandt, at 84% af high school-studerende rapporterede, at de brugte GenAI til skolearbejde, selv om 45% af skolelederne rapporterede, at der var visse begrænsninger på AI-adgang i skolen. Lignende en rapport fra IBM fandt, at 80% af kontorarbejdere brugte AI, men kun 22% afhængigt eksklusivt af arbejdsgiver-tilbudte værktøjer.

Adgangspolitikker alene bestemmer ikke adfærd. Studerende kan tage deres mobiltelefoner og bruge enhver AI-værktøj over deres cellulære datanetværk eller bruge platformen, mens de er hjemme eller på offentligt wifi. De kan også bruge VPN’er, fjernskrivebord og plugins til at omgå begrænsninger. Medarbejdere kan gøre det samme for at komme uden om arbejdspladskontroller.

Organisationer skal antage, at når der er en vilje til at bruge AI, er der en vej. Når teknologien begrænses på en måde, der skyder brugen ud over institutionel synlighed, stiger risikoen for skygge-AI. Der er ingen oversigt over, hvilken information der indtastes i prompts eller hvilke data der gemmes af modellen. Enhver kontrol over sikkerhed er øjeblikkeligt væk.

Ud over risikoen for skygge-AI skaber forbud en litterær lukke, der efterlader studerende fuldstændigt uforberedte på at bruge teknologien, der vil være en stor del af deres fremtid. Disse værktøjer er mere og mere integreret i søgemaskiner, forretningsplatforme, produktivitetssuiter og personlige enheder. En Pew Research-undersøgelse fandt, at 62% af amerikanske voksne siger, at de interagerer med AI mindst flere gange om ugen. Det er næsten garanteret, at studerende og medarbejdere vil møde GenAI-systemer uanset institutionelle politikker.

I denne omgang er uddannelse den mest pålidelige sikkerhedsforanstaltning mod bekymringer om misbrug eller sikkerhed og for at sikre, at studerende og medarbejdere er godt forberedt på at bruge et værktøj, der vil være integreret i deres karriere. At undervise i ansvarlig og etisk brug udstyrer brugerne til at genkende datarisici og træffe informerede beslutninger, hvor de end møder disse systemer.

Uddannelsesprogrammer skal fokusere på, hvordan store sprogmodeller (LLM’er) behandler og gemmer data, hvordan man genkender hallucinationer, hvordan man verificerer AI-genererede outputs og hvordan man genkender phishing-kampagner og AI-genererede billeder, for blot at nævne få. Lær brugerne at være skeptiske. AI-outputs præsenteres ofte med tillid og i poleret sprog, hvilket kan skabe en illusion af autoritet. Uden træning kan brugere antage, at en velformatet besked er inherent præcis.

Evnen til at stille spørgsmål ved digitale indhold er en frontlinjeforsvar, da deepfakes og AI-forbedrede phishing-kampagner bliver mere avancerede. En undersøgelse fra Gartner fandt, at 62% af organisationer oplevede en deepfake-angreb sidste år, og 32% stod over for et angreb på AI-applikationer. Hyppigheden og omfanget af disse episoder forventes kun at stige.

Offentlige institutioner som skoler og lokale myndigheder er særligt udsatte for deepfake-aktiveret social engineering, da så meget af deres aktivitet er optaget og offentligt tilgængeligt. Lydklip fra offentlige møder kan manipuleres og bruges til at generere overbevisende telefonsamtaler. Vi har set trusler, der bruger dette til svindel, såsom omdirigering af midler under følsomme transaktioner. Selv om dette sker mest i målrettede tilfælde, er brugere, der aldrig er blevet trænet til at genkende disse teknikker, eller endda ved, at de er mulige, i en ulempe fra starten.

Efter uddannelse skal organisationer have tydeligt kommunikeret politikker vedrørende AI-brug og styring. Disse skal definerer godkendte værktøjer, accepterede brugsområder og hvilke data kan og ikke kan indtastes i hvilken model(s). Politikker skal være konsistent gennemført på tværs af afdelinger og ikke variere fra klasse til klasse eller kontor til kontor. Klare forventninger reducerer tvetydighed og forstærker ansvar.

I stedet for blanke forbud skal organisationer se at forme, hvordan teknologien bruges i praksis. Når en organisation godkender et værktøj, der er tilgængeligt, sikkert og fungerer godt, bliver det standarden for de fleste brugere. Uformel skygge-AI-brug aftrapper, da der er en ligetil alternativ, der ikke inkluderer at downloade en VPN for at bruge det.

Organisationer og institutioner søger at give sikker adgang til LLM’er på en måde, så deres data er sikret og ikke deles eller bruges til træning. En voksende kategori af AI-aktivering og sikkerhedsværktøjer opstår for at gøre netop det. De kan give adgang til multiple LLM’er, mens institutionens data holdes sikkert containeriseret. Null-data-tilbageholdelsesaftaler giver den juridiske ramme for at sikre, at organisationens data forbliver ejendom af virksomheden eller institutionen, og LLM kan ikke trænes på det. Desuden, hvis en medarbejder forlader institutionen, forbliver enhver AI-brug, arbejdsgange eller data ejendom af organisationen.

Tekniske sikkerhedsforanstaltninger kan også anvendes på funktionniveau. En institution kan tillade studerende eller medarbejdere at stille generelle spørgsmål inden for en sanktioneret LLM, mens de deaktiverer filoverførsler, dokumentdeling eller andre højrisiko-funktioner. Disse konfigurationer bevarede produktivitetsfordele uden at åbne døren for ukontrolleret dataeksponering.

Mere avancerede værktøjer kan automatisk anonymisere følsomme oplysninger, før de når modellen. For eksempel erstatter patientnavne eller identifikatorer med neutrale placeringer, så læger og sygeplejersker stadig kan bruge GenAI uden at eksponere beskyttede data. Andre integrerer data-tab-forebyggelseskontroller, der registrerer og blokerer sociale sikkerhedsnumre, finansielle kontodata eller andre regulerede oplysninger fra at blive indsendt i prompts.

Klare politikker med tekniske sikkerhedsforanstaltninger, bygget på en grund af uddannelse, skaber den bedste forsvar, især da teknologien udvikler sig så hurtigt. GenAI udvikler sig hurtigere end de fleste offentlige organisationer – og deres budgetter – kan tilpasse sig. At forsøge at blokere hver ny model, som den opstår, er uholdbart, fordi den tid, en platform er begrænset, har en anden allerede fået fodfæste. Brugere, der er trænet til at forstå de underliggende risici, kan tilpasse sig på tværs af værktøjer og versioner.

Sikkerhed i en AI-aktiveret omgang afhænger af at anerkende, at GenAI nu er integreret i dagliglivet. Der er ingen måde at få genien tilbage i flasken på. Blanke forbud kan signalere forsigtighed, men de handler ofte synlig, styrbart risiko for usynlig, ustyrbar eksponering. Lær en person at bruge AI ansvarligt, og de vil være klar til, hvad der kommer herefter.