Illuminare l’aspetto oscuro dell’Intelligenza Artificiale

In tutti i settori, i lavoratori stanno sempre più utilizzando strumenti di intelligenza artificiale (AI) per trasformare le operazioni quotidiane. Che si tratti di professionisti del marketing che utilizzano ChatGPT per creare campagne o di ingegneri software che scrivono codice con strumenti generativi, l’AI si sta integrando silenziosamente in quasi ogni aspetto dell’attività commerciale. In realtà, il progetto NANDA del MIT ha scoperto che in oltre il 90% delle organizzazioni, i dipendenti utilizzano account di chatbot personali per supportare il loro lavoro quotidiano, spesso senza la supervisione del reparto IT, tuttavia, solo il 40% delle aziende ha abbonamenti ufficiali a strumenti di modello linguistico di grandi dimensioni (LLM). Questo disallineamento tra l’uso di AI autorizzato e segreto ha aperto un nuovo punto cieco per la sicurezza: l’Intelligenza Artificiale oscura. 

Senza una supervisione, i dati sensibili possono essere condivisi con modelli esterni, i risultati possono essere inaccurati o distorti e i team di conformità perdono la visibilità su dove e come le informazioni vengono elaborate. Mentre i dipendenti continuano a sperimentare con strumenti al di fuori dei canali approvati, le organizzazioni devono rivedere la loro strategia per la gestione dell’AI, altrimenti questi rischi continueranno a emergere. Per i CIO, vietare gli strumenti di AI non è la soluzione, poiché potrebbe influire sulla capacità competitiva. Invece, l’attenzione dovrebbe essere focalizzata su salvaguardie adattabili che bilancino l’innovazione con la gestione responsabile del rischio.

Per stare un passo avanti ai rischi legati all’AI, le organizzazioni dovrebbero stabilire politiche di AI che promuovano l’adozione responsabile. Queste linee guida dovrebbero incoraggiare i dipendenti a utilizzare l’AI con ragionevolezza, e qualsiasi politica stabilita deve essere allineata con i valori e la tolleranza al rischio dell’azienda. Per raggiungere un programma di successo, le organizzazioni devono andare oltre i modelli di governance obsoleti e gli strumenti legacy che non rilevano o tracciano l’uso di AI in tutta l’attività.

Mentre l’istituzione di una politica di AI è un passo importante, il vero fulcro è assicurarsi che siano progettate per essere pratiche, applicabili e allineate con la visione innovativa e le esigenze di conformità di ogni azienda, senza ostacolare il loro progresso.

Ecco quattro passaggi che le organizzazioni possono intraprendere:

1. Determinare il miglior quadro di riferimento

Le aziende non devono iniziare da zero. Diverse istituzioni leader hanno già sviluppato quadri di riferimento che offrono punti di riferimento preziosi. Risorse dell’Organizzazione per la Cooperazione e lo Sviluppo Economico (OCSE), dell’Istituto Nazionale degli Standard (NIST) e ISO/IEC, possono fornire orientamento sulla gestione dell’AI in modo sicuro ed efficace. Inoltre, gli organismi governativi stanno iniziando a intervenire. Le nuove regolamentazioni dell’Unione Europea (UE) stanno stabilendo aspettative sulla trasparenza, la responsabilità e la governance. Insieme, queste risorse aiuteranno a fornire una solida base per le aziende per costruire e raffinare i propri quadri di riferimento per guidare l’adozione responsabile dell’AI.

2. Aumentare la visibilità dell’AI

Mentre le organizzazioni tracciano il loro percorso verso una gestione efficace del rischio dell’AI, è essenziale che i leader della sicurezza sviluppino una solida comprensione di come l’AI viene effettivamente utilizzata in tutta l’azienda. Dovrebbero investire in strumenti che aiutino a fornire visibilità sull’attività attraverso le funzioni. Questi strumenti possono monitorare e accedere al comportamento degli utenti e non lasceranno nulla di intentato quando si tratta di identificare dove viene utilizzata l’AI generativa. Questa conoscenza è vitale quando si tratta di trovare l’uso di AI oscura e aiutare i leader a valutare i rischi e affrontarli.

3. Formare un Consiglio di AI

Una volta stabilita la visibilità, i leader della sicurezza possono utilizzarla per informare nuove politiche. Poiché l’uso dell’AI influisce sull’intera azienda, non dovrebbero isolare il processo decisionale. I CISO dovrebbero considerare la formazione di un Consiglio di AI che coinvolga stakeholder chiave da sicurezza, legale, IT e C-suite. In realtà, Gartner riporta che il 55% delle organizzazioni ha già stabilito un Consiglio di AI, mentre il 54% ha nominato un capo di AI o un leader di AI dedicato per sovrintendere alla strategia e all’attuazione.

Questi gruppi cross-funzionali possono valutare sia i rischi che le opportunità presentate dagli strumenti di AI, autorizzati o no, che iniziano a infiltrarsi nei loro ambienti di lavoro. Possono quindi plasmare nuove politiche insieme che affrontino le esigenze delle loro aziende e bilancino il rischio.

Ad esempio, se il Consiglio identifica uno strumento di AI popolare utilizzato senza autorizzazione che presenta preoccupazioni di sicurezza, può raccomandare di vietare quell’applicazione mentre approva un’alternativa più sicura. Queste politiche dovrebbero essere rafforzate da investimenti in controlli di sicurezza e piattaforme di AI approvate che soddisfano gli standard di conformità. Mentre nuove innovazioni arrivano sul mercato, il Consiglio può anche introdurre un processo formale per i dipendenti per proporre strumenti per la valutazione, aiutando l’organizzazione a rimanere adattabile e conforme alla sua strategia di AI.

4. Rafforzare l’istruzione sull’AI

Istruire e coinvolgere i dipendenti sull’AI sarà un’altra parte essenziale per ottenere un consenso a livello aziendale e ridurre l’uso di AI oscura. Anche con i modelli di governance appropriati in atto, il successo dipende da quanto bene i dipendenti comprendono e accettano.

In un sondaggio di Pew Research, tra i lavoratori che avevano ricevuto una formazione sul posto di lavoro (51%), solo un quarto (24%) ha detto che era relativo all’uso di AI. Le organizzazioni dovrebbero assicurarsi di avere programmi di formazione sull’AI, poiché possono aiutare i dipendenti a comprendere le opportunità e le funzionalità disponibili per loro. Una maggiore formazione può anche aiutarli a crescere nella loro carriera e sentirsi più soddisfatti della loro posizione.

I programmi di formazione sull’AI dovrebbero avere un focus che vada oltre l’uso di base e la conformità per aiutare i team a comprendere il contesto più ampio dell’AI e come opera nell’ecosistema dell’azienda. Gli argomenti da coprire includono perché l’uso responsabile dell’AI è importante, quali politiche esistono per proteggere sia l’azienda che i suoi clienti e come identificare potenziali rischi di gestione dei dati o di privacy. Quando i dipendenti sono dotati delle conoscenze giuste, sono in grado di diventare partner attivi nell’innovazione sicura.

Plasmare il futuro dell’AI responsabile 

L’AI oscura non scomparirà presto. Mentre le tecnologie generative si integrano ulteriormente nei flussi di lavoro quotidiani, le sfide per le organizzazioni si intensificheranno. I leader devono ora scegliere se trattare l’AI oscura come una minaccia incontrollabile o riconoscerla come un’opportunità per massimizzare l’efficienza e la produttività, quando gestita correttamente.

Sviluppare una politica di AI o un Consiglio di AI non è un atto unico. Proprio come l’AI si evolve rapidamente, anche la strategia dell’organizzazione deve evolversi. L’AI può aiutare a guidare decisioni più sagge, accelerare l’innovazione e migliorare la produttività in ogni funzione. Tuttavia, per sostenere quei guadagni, i dipendenti devono comprendere quali strumenti sono disponibili per loro e come utilizzarli in modo responsabile. Coloro che hanno successo rimarranno agili, raffinando proattivamente le loro politiche per stare davanti al cambiamento, non inseguirlo.