Perché il divieto di utilizzare l’AI aumenta i rischi per la sicurezza e come le istituzioni dovrebbero rispondere

In tutto gli Stati Uniti, i distretti scolastici e le organizzazioni del settore pubblico stanno muovendosi per limitare o bloccare l’accesso alle tecnologie di intelligenza artificiale generativa (GenAI) o a strumenti specifici. In Colorado, il distretto scolastico di Boulder Valley ha recentemente vietato ChatGPT nelle reti del distretto, citando preoccupazioni relative all’uso improprio, alla sicurezza e all’integrità accademica.

L’istinto di ridurre l’esposizione a incidenti di sicurezza o a un uso improprio dei dati è comprensibile. Piattaforme con guardrail deboli o impegni di privacy poco chiari, come DeepSeek, giustificano restrizioni e scrutinio. Tuttavia, vietare l’accesso agli strumenti GenAI non riduce significativamente il rischio; spesso lo sposta solo in ambienti in cui la supervisione scompare.

Un sondaggio del College Board ha scoperto che l’84% degli studenti delle scuole superiori ha riferito di utilizzare GenAI per il lavoro scolastico, anche se il 45% dei presidi ha riferito almeno alcune restrizioni sull’accesso all’AI a scuola. Allo stesso modo, un rapporto IBM ha scoperto che l’80% dei lavoratori di ufficio utilizza l’AI, ma solo il 22% si affida esclusivamente a strumenti forniti dal datore di lavoro.

Le politiche di accesso da sole non determinano il comportamento. Gli studenti possono estrarre il loro telefono e utilizzare qualsiasi strumento AI sulla loro rete cellulare, o utilizzare la piattaforma mentre sono a casa o su Wi-Fi pubblico. Possono anche utilizzare VPN, desktop remoto e plugin per eludere le restrizioni. I dipendenti possono fare lo stesso per aggirare i controlli sul posto di lavoro.

Le organizzazioni dovrebbero supporre che quando c’è la volontà di utilizzare l’AI, c’è un modo. Quando la tecnologia è limitata in un modo che spinge l’uso al di fuori della visibilità istituzionale, il rischio di AI ombra aumenta. Non c’è alcun controllo su cosa viene inserito nei prompt o su quali dati vengono conservati dal modello. Qualsiasi controllo sulla sicurezza scompare immediatamente.

Oltre al rischio di AI ombra, i divieti creano un divario di alfabetizzazione, lasciando gli studenti completamente impreparati a utilizzare la tecnologia che sarà una grande parte del loro futuro. Questi strumenti sono sempre più integrati in motori di ricerca, piattaforme aziendali, suite di produttività e dispositivi personali. Un sondaggio di Pew Research ha scoperto che il 62% degli adulti statunitensi afferma di interagire con l’AI almeno diverse volte a settimana. È quasi garantito che gli studenti e i dipendenti incontreranno sistemi GenAI indipendentemente dalle politiche istituzionali.

In questo ambiente, l’istruzione è il più affidabile salvaguardia contro le preoccupazioni relative all’uso improprio o alla sicurezza, e per assicurarsi che gli studenti e i lavoratori siano ben preparati a utilizzare uno strumento che sarà fondamentale per le loro carriere. Insegnare un uso responsabile e etico equipaggia gli utenti per riconoscere i rischi per i dati e prendere decisioni informate ovunque incontrino questi sistemi.

I programmi di istruzione dovrebbero concentrarsi su come i grandi modelli linguistici (LLM) elaborano e conservano i dati, su come identificare le allucinazioni, su come verificare le uscite generate dall’AI, e su come identificare le campagne di phishing e le immagini generate dall’AI, solo per citarne alcune. Insegnare agli utenti di essere scettici. Le uscite dell’AI sono spesso presentate in modo confidente e in un linguaggio raffinato, il che può creare un’illusione di autorità. Senza formazione, gli utenti potrebbero supporre che una risposta ben formattata sia intrinsecamente precisa.

La capacità di mettere in discussione il contenuto digitale è una difesa di prima linea mentre i deepfake e le campagne di phishing avanzate dall’AI diventano più sofisticati. Un sondaggio di Gartner ha scoperto che il 62% delle organizzazioni ha subito un attacco di deepfake l’anno scorso, e il 32% ha affrontato un attacco alle applicazioni AI. La frequenza e la portata di questi incidenti sono destinate a continuare a salire.

Le istituzioni del settore pubblico, come le scuole e i governi locali, sono particolarmente esposte all’ingegneria sociale abilitata da deepfake perché gran parte della loro attività è registrata e disponibile pubblicamente. I frammenti audio dalle riunioni pubbliche possono essere manipolati e utilizzati per generare chiamate vocali convincenti. Abbiamo visto attori minacciosi utilizzare questo metodo per frodi, come ad esempio il reindirizzamento di fondi durante transazioni sensibili. Sebbene ciò accada più spesso in casi mirati, gli utenti che non sono stati addestrati a riconoscere queste tecniche, o anche solo a sapere che sono possibili, sono svantaggiati fin dall’inizio.

Dopo l’istruzione, le organizzazioni dovrebbero avere politiche chiaramente comunicate relative all’utilizzo e alla governance dell’AI. Queste dovrebbero definire gli strumenti approvati, i casi d’uso accettabili e quali dati possono e non possono essere inseriti in quali modelli. Le politiche devono essere applicate in modo coerente tra i dipartimenti, piuttosto che variare da classe a classe o da ufficio a ufficio. Le aspettative chiare riducono l’ambiguità e rafforzano la responsabilità.

Al posto di restrizioni generali, le organizzazioni dovrebbero cercare di plasmare come la tecnologia viene utilizzata nella pratica. Quando un’organizzazione sostiene uno strumento che è accessibile, sicuro e funziona bene, diventa il default per la maggior parte degli utenti. L’uso casuale di AI ombra diminuisce perché c’è un’alternativa semplice che non include il download di una VPN per utilizzarlo.

Le organizzazioni e le istituzioni stanno cercando di fornire un accesso sicuro ai LLM in un modo in cui i loro dati siano protetti e non condivisi o utilizzati per la formazione. Una categoria crescente di strumenti di abilitazione e sicurezza dell’AI sta emergendo per fare esattamente questo. Possono fornire l’accesso a più LLM mentre mantengono i dati dell’istituzione in un contenitore sicuro. Gli accordi di zero conservazione dei dati forniscono il quadro giuridico per garantire che i dati dell’organizzazione rimangano di proprietà dell’azienda o dell’istituzione, e che il LLM non possa essere addestrato su di essi. Inoltre, se un dipendente lascia l’istituzione, qualsiasi utilizzo dell’AI, flussi di lavoro o dati rimane di proprietà dell’organizzazione.

I guardrail tecnici possono anche essere applicati a livello di funzionalità. Un’istituzione potrebbe consentire agli studenti o ai dipendenti di porre domande generali all’interno di un LLM autorizzato mentre disabilita il caricamento di file, la condivisione di documenti o altre funzionalità ad alto rischio. Queste configurazioni preservano i benefici di produttività senza aprire la porta a un’esposizione dei dati non controllata.

Strumenti più avanzati possono anonimizzare automaticamente le informazioni sensibili prima che raggiungano il modello. Ad esempio, sostituendo i nomi dei pazienti o gli identificatori con segnaposto neutrali in modo che i medici e le infermiere possano ancora utilizzare GenAI senza esporre dati protetti. Altri integrano controlli di prevenzione della perdita di dati che rilevano e bloccano i numeri di sicurezza sociale, i dati dei conti finanziari o altre informazioni regolamentate dall’essere inviati in prompt.

Politiche chiare con guardrail tecnici, costruite su una base di istruzione, creano la migliore difesa, specialmente poiché la tecnologia cambia così rapidamente. GenAI sta evolvendo più velocemente di quanto la maggior parte delle organizzazioni del settore pubblico – e i loro budget – possa adattarsi. Tentare di bloccare ogni nuovo modello non appena emerge è insostenibile perché, nel momento in cui una piattaforma viene limitata, un’altra ha guadagnato trazione. Gli utenti addestrati a comprendere i rischi sottostanti possono adattarsi attraverso strumenti e versioni.

La sicurezza in un ambiente abilitato dall’AI dipende dal riconoscimento della realtà che GenAI è ormai integrato nella vita quotidiana. Non c’è modo di rimettere il genio nella bottiglia. I divieti generali possono segnalare cautela, ma spesso scambiano un rischio visibile e gestibile con un’esposizione invisibile e non gestita. Insegnare a una persona a utilizzare l’AI in modo responsabile, e sarà pronta per qualsiasi cosa venga dopo.