Hvorfor forbud mot AI øker sikkerhetsrisiko og hvordan institusjoner bør reagere

I hele USA har skoledistrikter og offentlige organisasjoner begynt å begrense eller blokkere adgangen til generativ AI (GenAI)-teknologier eller bestemte verktøy. I Colorado har Boulder Valley School District nylig forbudt ChatGPT på skoledistriktets nettverk, med henvisning til bekymringer om misbruk, sikkerhet og akademisk integritet.

Instinktet til å redusere eksponeringen for sikkerhetshendelser eller datamisbruk er forståelig. Plattformer med svake sikkerhetsskranker eller uklare personvernsforpliktelser, som DeepSeek, fortjener begrensninger og skarpsyn. Men å forby adgang til GenAI-verktøy reduserer ikke risikoen; det flytter den ofte bare til miljøer hvor tilsyn forsvinner.

En undersøkelse fra College Board fant at 84% av high school-elever rapporterte å bruke GenAI til skolearbeid, selv om 45% av rektorene rapporterte at det var begrensninger på AI-tilgang på skolen. På samme måte fant en rapport fra IBM at 80% av kontoransatte bruker AI, men bare 22% av dem er avhengige av arbeidsgiver-levert verktøy.

Tilgangspolitikk alene bestemmer ikke atferd. Elever kan ta frem telefonen og bruke et hvilket som helst AI-verktøy over mobilnettverket, eller bruke plattformen mens de er hjemme eller på offentlig Wi-Fi. De kan også bruke VPN-er, fjernskrivebord og utvidelser for å omgå begrensninger. Ansatte kan gjøre det samme for å komme rundt arbeidsplasskontroller.

Organisasjoner bør anta at når det er en vilje til å bruke AI, er det en måte. Når teknologien begrenses på en måte som skyver bruken utenfor institusjonell synlighet, øker risikoen for skygge-AI. Det er ingen tilsyn over hva slags informasjon som sendes inn i promter eller hva slags data som lagres av modellen. Enhver kontroll over sikkerhet er umiddelbart borte.

Forbi risikoen for skygge-AI, skaper forbud et kompetansegap, og etterlater elever fullstendig uforberedt på å bruke teknologien som vil være en stor del av deres fremtid. Disse verktøyene er stadig mer integrert i søkemotorer, forretningsplattformer, produktivitetspakker og personlige enheter. En undersøkelse fra Pew Research fant at 62% av voksne i USA sier de interagerer med AI minst flere ganger i uken. Det er nesten garantert at elever og ansatte vil møte GenAI-systemer uansett institusjonelle politikker.

I denne sammenhengen er utdanning den mest pålitelige sikkerhetsforanstaltning mot bekymringer om misbruk eller sikkerhet, og for å sikre at elever og arbeidere er godt forberedt på å bruke et verktøy som vil være avgjørende for deres karriere. Å undervise i ansvarlig og etisk bruk utstyrer brukerne til å gjenkjenne datarisiko og ta informerte beslutninger hvor de enn møter disse systemene.

Utdanningsprogrammer bør fokusere på hvordan store språkmodeller (LLM-er) prosesserer og lagrer data, hvordan man gjenkjenner hallucinasjoner, hvordan man verifiserer AI-genererte utdata og hvordan man gjenkjenner phishing-kampanjer og AI-genererte bilder, for å nevne noen få. Lær brukerne å være skeptiske. AI-utdata presenteres ofte på en selvbevisst og polert måte, som kan skape en illusjon av autoritet. Uten trening kan brukerne anta at et velformattert svar er innebygget nøyaktig.

Evnen til å stille spørsmål ved digitale innhold er en forsvarslinje mot dybfeks og AI-forbedrede phishing-kampanjer blir mer sofistikerte. En undersøkelse fra Gartner fant at 62% av organisasjonene hadde opplevd en dybfeks-angrep i fjor, og 32% hadde møtt et angrep på AI-applikasjoner. Frekvensen og omfanget av disse hendelsene forventes bare å øke.

Offentlige institusjoner som skoler og lokale myndigheter er særlig utsatt for dybfeks-aktiverende sosial manipulering fordi så mye av deres aktivitet er innspilt og offentlig tilgjengelig. Lydutklipp fra offentlige møter kan manipuleres og brukes til å generere overbevisende taleopptak. Vi har sett trusler som bruker dette for svindel, som omledning av midler under sensitive transaksjoner. Mens dette skjer mest i målrettede tilfeller, er brukere som aldri har blitt trent til å gjenkjenne disse teknikkene, eller som ikke vet at de er mulige, i en ulempe fra starten.

Etter utdanning bør organisasjonene ha tydelig kommuniserte politikker for AI-bruk og styring. Disse bør definere godkjente verktøy, akseptable bruksområder og hva slags data som kan og ikke kan sendes inn i hvilke modeller. Politikkene må være konsistente over avdelinger og ikke variere fra klasserom til klasserom eller kontor til kontor. Tydelige forventninger reduserer usikkerhet og forsterker ansvar.

I stedet for blanke forbud bør organisasjonene se på å forme hvordan teknologien brukes i praksis. Når en organisasjon godkjenner et verktøy som er tilgjengelig, sikkert og fungerer godt, blir det standarden for de fleste brukere. Uformell skygge-AI-bruk avtar fordi det finnes en enkel alternativ som ikke inkluderer å laste ned en VPN for å bruke det.

Organisasjoner og institusjoner ser på å gi sikker adgang til LLM-er på en måte som sikrer at deres data ikke deles eller brukes til trening. En voksende kategori AI-aktiverings- og sikkerhetsverktøy oppstår for å gjøre nettopp dette. De kan gi adgang til flere LLM-er samtidig som institusjonens data beholdes trygt innkapslet. Null datalagringssavtaler gir den juridiske rammen for å sikre at organisasjonens data forblir organisasjonens eiendom, og LLM-en kan ikke trenes på den. I tillegg, hvis en ansatt forlater institusjonen, forblir all AI-bruk, arbeidsflyter og data organisasjonens eiendom.

Tekniske sikkerhetsskranke kan også være aktuelle på funksjonsnivå. En institusjon kan tillate studenter eller ansatte å stille generelle spørsmål innen et godkjent LLM samtidig som de deaktiverer filopplasting, dokumentdeling eller andre høyrisikofunksjoner. Disse konfigurasjonene bevare produktivitetsfordelene uten å åpne døren for ukontrollert dataeksponering.

Mer avanserte verktøy kan automatisk anonymisere følsom informasjon før den noen gang når modellen. For eksempel, erstatter pasientnavn eller identifikatorer med nøytrale placeholdere så leger og sykepleiere kan fortsatt bruke GenAI uten å eksponere beskyttet data. Andre integrerer datatap-forhindringssystemer som oppdager og blokkerer personlige identifikatorer, finansielle kontoopplysninger eller andre regulerte informasjoner fra å bli sendt i promter.

Tydelige politikker med tekniske sikkerhetsskranke, bygget på en grunn av utdanning, skaper den beste forsvarslinjen, særlig ettersom teknologien utvikler seg så raskt. GenAI utvikler seg raskere enn de fleste offentlige organisasjoner – og deres budsjetter – kan tilpasse seg. Å forsøke å blokkere hver ny modell som dukker opp er ikke bærekraftig, fordi når en plattform er begrenset, har en annen allerede fått fotfeste. Brukere som er trent til å forstå de underliggende risikoene kan tilpasse seg over verktøy og versjoner.

Sikkerhet i en AI-aktiveringsmiljø avhenger av å anerkjenne virkeligheten som GenAI nå er innlejret i daglig liv. Det er ingen måte å sette genen tilbake i flasken på. Blanke forbud kan signalisere forsiktighet, men de bytter ofte synlig, håndterbar risiko mot usynlig, uhåndtert eksponering. Lær en person å bruke AI ansvarlig, og de vil være klar for hva som kommer neste.