Varför förbud mot AI ökar säkerhetsrisker och hur institutioner bör svara

I hela USA begränsar eller blockerar skoldistrikt och offentliga organisationer tillgång till generativ AI (GenAI) teknologier eller specifika verktyg. I Colorado har Boulder Valley School District nyligen förbjudit ChatGPT på skolnätverk, med hänvisning till oro över missbruk, säkerhet och akademisk integritet.

Instinkten att minska exponeringen för säkerhetsincidenter eller datamissbruk är förståelig. Plattformar med svaga skydd eller oklara integritetsåtaganden, som DeepSeek, förtjänar begränsningar och granskning. Men att förbjuda tillgång till GenAI-verktyg minskar inte risken; det flyttar den ofta bara till miljöer där tillsyn försvinner.

En undersökning av College Board fann att 84% av high school-studenter rapporterade att de använde GenAI för skolarbete, även om 45% av rektorerna rapporterade att det fanns vissa begränsningar för AI-tillgång i skolan. På liknande sätt fann en IBM-rapport att 80% av kontorsarbetare använder AI, men endast 22% förlitar sig uteslutande på arbetsgivar-tillhandahållna verktyg.

Tillgångspolicyn bestämmer inte beteendet. Studenter kan ta ut sina mobiltelefoner och använda vilket AI-verktyg som helst via sin cellulära datanätverk, eller använda plattformen medan de är hemma eller på offentligt wifi. De kan också använda VPN, fjärrskrivbord och tillägg för att kringgå begränsningar. Anställda kan göra detsamma för att komma runt arbetsplatskontroller.

Organisationer bör anta att när det finns en vilja att använda AI, finns det ett sätt. När teknologin begränsas på ett sätt som driver användningen bortom institutionell synlighet, ökar risken för skugg-AI. Det finns ingen tillsyn över vilken information som matas in i prompter eller vilka data som behålls av modellen. All kontroll över säkerhet försvinner omedelbart.

Förutom risken för skugg-AI skapar förbud ett kunskapsgap, som lämnar studenter helt oförberedda på att använda teknologin som kommer att utgöra en stor del av deras framtid. Dessa verktyg är alltmer inbäddade i sökmotorer, affärsplattformar, produktivitetssviter och personliga enheter. En undersökning av Pew Research fann att 62% av vuxna i USA säger att de interagerar med AI minst flera gånger i veckan. Det är så gott som säkert att studenter och anställda kommer att stöta på GenAI-system oavsett institutionella policys.

I denna miljö är utbildning den mest tillförlitliga garantin mot oro över missbruk eller säkerhet, och för att säkerställa att studenter och arbetare är väl förberedda på att använda ett verktyg som kommer att vara en integrerad del av deras karriärer. Att lära ut ansvarsfull och etisk användning utrustar användare med att känna igen datarisken och fatta informerade beslut var de än möter dessa system.

Utbildningsprogram bör fokusera på hur stora språkmodeller (LLM) bearbetar och behåller data, hur man identifierar hallucinationer, hur man verifierar AI-genererade utdata och hur man identifierar phishing-kampanjer och AI-genererade bilder, för att nämna några. Lär användare att vara skeptiska. AI-utdata presenteras ofta med självförtroende och i polerad språk, vilket kan skapa en illusion av auktoritet. Utan utbildning kan användare anta att ett välformat svar är inneboende korrekt.

Förmågan att ifrågasätta digitalt innehåll är en första försvarslinje när deepfakes och AI-förbättrade phishing-kampanjer blir mer sofistikerade. En undersökning av Gartner fann att 62% av organisationerna upplevde en deepfake-attack förra året, och 32% stod inför en attack på AI-applikationer. Frekvensen och omfattningen av dessa incidenter förväntas bara fortsätta att öka.

Offentliga institutioner som skolor och lokala myndigheter är särskilt utsatta för deepfake-aktiverad social ingenjörskonst eftersom så mycket av deras verksamhet spelas in och är offentligt tillgänglig. Ljudklipp från offentliga möten kan manipuleras och användas för att generera övertygande telefonsamtal. Vi har sett hotaktörer använda detta för bedrägeri, såsom omdirigering av medel under känsliga transaktioner. Medan detta händer oftast i riktade fall, är användare som aldrig har utbildats för att känna igen dessa tekniker, eller ens vet att de är möjliga, i en nackdel från början.

Efter utbildning bör organisationer ha tydligt kommunicerade policys avseende AI-användning och styrning. Dessa bör definiera godkända verktyg, acceptabla användningsfall och vilka data som kan och inte kan matas in i vilken modell som helst. Policys måste tillämpas konsekvent över avdelningar snarare än variera från klassrum till klassrum eller kontor till kontor. Tydliga förväntningar minskar tvetydighet och förstärker ansvar.

I stället för generella begränsningar bör organisationer försöka forma hur teknologin används i praktiken. När en organisation godkänner ett verktyg som är tillgängligt, säkert och fungerar bra, blir det standarden för de flesta användare. Informell skugg-AI-användning minskar eftersom det finns ett enkelt alternativ som inte inkluderar att ladda ner en VPN för att använda det.

Organisationer och institutioner försöker tillhandahålla säker tillgång till LLM i ett sätt där deras data är säker och inte delas eller används för utbildning. En växande kategori av AI-aktiverings- och säkerhetsverktyg uppstår för att göra exakt det. De kan tillhandahålla tillgång till flera LLM samtidigt som de håller institutionens data säkert innesluten. Avtal om noll datakvarhållning tillhandahåller den rättsliga ramen för att säkerställa att organisationens data förblir organisationens egendom, och LLM inte kan utbildas på den. Dessutom, om en anställd lämnar institutionen, förblir all AI-användning, arbetsflöden eller data institutionens egendom.

Tekniska skyddsvallar kan också tillämpas på funktionell nivå. En institution kan tillåta studenter eller anställda att ställa allmänna frågor inom en sanktionerad LLM medan de inaktiverar filöverföringar, dokumentdelning eller andra högriskfunktioner. Dessa konfigurationer bevarar produktivitetsfördelarna utan att öppna dörren för okontrollerad dataexponering.

Mer avancerade verktyg kan automatiskt anonymisera känslig information innan den ens når modellen. Till exempel, ersätta patientnamn eller identifierare med neutrala platshållare så att läkare och sjuksköterskor fortfarande kan använda GenAI utan att exponera skyddad data. Andra integrerar dataförlustsförebyggande kontroller som upptäcker och blockerar socialförsäkringsnummer, finansiella kontouppgifter eller annan reglerad information från att skickas i prompter.

Tydliga policys med tekniska skyddsvallar, byggda på en grund av utbildning, skapar det bästa försvaret, särskilt eftersom teknologin utvecklas så snabbt. GenAI utvecklas snabbare än de flesta offentliga organisationer – och deras budgetar – kan anpassa sig. Att försöka blockera varje ny modell som dyker upp är ohållbart eftersom den tiden en plattform är begränsad, har en annan fått fart. Användare som är utbildade för att förstå de underliggande riskerna kan anpassa sig över verktyg och versioner.

Säkerhet i en AI-aktiverad miljö beror på att erkänna verkligheten att GenAI nu är inbäddad i dagligt liv. Det finns ingen möjlighet att stoppa utvecklingen. Generella förbud signalerar försiktighet, men de handlar ofta synlig, hanterbar risk för osynlig, ohanterad exponering. Lär en person att använda AI på ett ansvarsfullt sätt, och de kommer att vara redo för vad som kommer härnäst.