Aprire la scatola nera sull’esplicabilità dell’AI

L’Intelligenza Artificiale (AI) è diventata parte integrante di quasi tutti gli aspetti della nostra vita quotidiana, dalle raccomandazioni personalizzate alle decisioni critiche. È dato per scontato che l’AI continuerà ad avanzare, e con esso, le minacce associate all’AI diventeranno più sofisticate. Mentre le aziende attivano difese abilitate all’AI in risposta alla crescente complessità, il prossimo passo verso la promozione di una cultura aziendale della sicurezza è migliorare l’esplicabilità dell’AI.

Sebbene questi sistemi offrano capacità impressionanti, spesso funzionano come “scatole nere” – producendo risultati senza una chiara comprensione di come il modello sia arrivato alla conclusione che ha raggiunto. Il problema dei sistemi AI che fanno affermazioni false o prendono azioni false può causare problemi significativi e potenziali interruzioni aziendali. Quando le aziende commettono errori a causa dell’AI, i loro clienti e consumatori chiedono una spiegazione e, subito dopo, una soluzione.

Ma cosa è da incolpare? Spesso, i dati di qualità scadente vengono utilizzati per l’addestramento. Ad esempio, la maggior parte delle tecnologie GenAI pubbliche sono addestrate su dati disponibili su Internet, che sono spesso non verificati e inaccurati. Sebbene l’AI possa generare risposte rapide, l’accuratezza di quelle risposte dipende dalla qualità dei dati su cui è stata addestrata.

Gli errori dell’AI possono verificarsi in vari casi, tra cui la generazione di script con comandi errati e false decisioni di sicurezza, o l’esclusione di un dipendente dal lavoro sui sistemi aziendali a causa di false accuse fatte dal sistema AI. Tutti questi hanno il potenziale di causare interruzioni aziendali significative. Questo è solo uno dei molti motivi per cui garantire la trasparenza è fondamentale per costruire fiducia nei sistemi AI.

Costruire la fiducia

Esistiamo in una cultura in cui instilliamo fiducia in tutte le fonti e le informazioni. Tuttavia, allo stesso tempo, chiediamo prove e convalida sempre più spesso, avendo bisogno di convalidare costantemente notizie, informazioni e affermazioni. Quando si tratta di AI, stiamo riponendo fiducia in un sistema che ha il potenziale di essere inaccurato. Ancor più importante, è impossibile sapere se le azioni intraprese dai sistemi AI siano accurate senza alcuna trasparenza sulla base delle decisioni prese. E se il tuo sistema AI di sicurezza disattiva le macchine, ma ha commesso un errore nell’interpretare i segnali? Senza alcuna comprensione di quali informazioni abbiano portato il sistema a prendere quella decisione, non c’è modo di sapere se abbia preso la decisione giusta.

Sebbene l’interruzione aziendale sia frustrante, una delle preoccupazioni più significative legate all’uso dell’AI è la privacy dei dati. I sistemi AI, come ChatGPT, sono modelli di apprendimento automatico che attingono a risposte dai dati che ricevono. Pertanto, se gli utenti o gli sviluppatori forniscono accidentalmente informazioni sensibili, il modello di apprendimento automatico potrebbe utilizzare quei dati per generare risposte ad altri utenti che rivelano informazioni riservate. Questi errori hanno il potenziale di interrompere gravemente l’efficienza, la redditività e, soprattutto, la fiducia dei clienti di un’azienda. I sistemi AI sono progettati per aumentare l’efficienza e semplificare i processi, ma nel caso in cui sia necessaria una convalida costante perché i risultati non possono essere affidabili, le organizzazioni non solo sprecherebbero tempo, ma aprirebbero anche la porta a potenziali vulnerabilità.

Formazione dei team per un uso responsabile dell’AI

Al fine di proteggere le organizzazioni dai potenziali rischi dell’uso dell’AI, i professionisti IT hanno la responsabilità importante di formare adeguatamente i loro colleghi per garantire che l’AI venga utilizzata in modo responsabile. Facendo ciò, aiutano a mantenere le loro organizzazioni al sicuro da attacchi informatici che minacciano la loro vitalità e redditività.

Tuttavia, prima di formare i team, i leader IT devono allinearsi internamente per determinare quali sistemi AI saranno adatti alla loro organizzazione. Affrettarsi nell’adozione dell’AI porterà solo a problemi in seguito, quindi inizia con piccoli passi, concentrandoti sulle esigenze dell’organizzazione. Assicurati che gli standard e i sistemi selezionati siano allineati con l’attuale stack tecnologico e gli obiettivi aziendali, e che i sistemi AI soddisfino gli stessi standard di sicurezza di qualsiasi altro fornitore selezionato.

Una volta selezionato un sistema, i professionisti IT possono iniziare a far conoscere ai loro team questi sistemi per garantire il successo. Inizia utilizzando l’AI per compiti di piccola entità e vedere dove funziona bene e dove no, e impara quali sono i potenziali pericoli o convalida che devono essere applicati. Quindi, introduce l’uso dell’AI per aumentare il lavoro, abilitando una risoluzione rapida e autonoma, inclusi i semplici “come fare” alle domande. Da lì, può essere insegnato come mettere in atto convalida. Ciò è prezioso, poiché inizieremo a vedere più lavori diventare relativi alla definizione di condizioni di confine e convalida, e già visti in lavori come l’uso dell’AI per assistere nella scrittura del software.

In aggiunta a questi passi concreti per la formazione dei membri del team, è anche fondamentale avviare e incoraggiare discussioni. Incoraggia un dialogo aperto e basato sui dati su come l’AI stia servendo le esigenze degli utenti – sta risolvendo i problemi in modo accurato e veloce, stiamo guidando la produttività per l’azienda e l’utente finale, il nostro punteggio NPS del cliente sta aumentando a causa di questi strumenti guidati dall’AI? Sii chiaro sul ritorno sugli investimenti (ROI) e mantienilo al centro dell’attenzione. Una comunicazione chiara permetterà di aumentare la consapevolezza dell’uso responsabile e, man mano che i membri del team ottengono una migliore comprensione di come funzionano i sistemi AI, sono più probabili a utilizzarli in modo responsabile.

Come raggiungere la trasparenza nell’AI

Sebbene la formazione dei team e l’aumento della consapevolezza siano importanti, per raggiungere la trasparenza nell’AI è fondamentale che ci sia più contesto intorno ai dati utilizzati per addestrare i modelli, garantendo che solo dati di qualità vengano utilizzati. Sperabilmente, ci sarà eventualmente un modo per vedere come il sistema ragiona in modo che possiamo fidarci completamente di esso. Ma fino ad allora, abbiamo bisogno di sistemi che possano funzionare con convalida e limiti e dimostrare di aderirvi.

Mentre la piena trasparenza richiederà inevitabilmente del tempo per essere raggiunta, la rapida crescita dell’AI e del suo utilizzo la rende necessario lavorare rapidamente. Mentre i modelli AI continuano a aumentare di complessità, hanno il potere di fare una grande differenza per l’umanità, ma le conseguenze dei loro errori crescono anche. Di conseguenza, capire come questi sistemi arrivino alle loro decisioni è estremamente prezioso e necessario per rimanere efficaci e affidabili. Concentrando l’attenzione sui sistemi AI trasparenti, possiamo garantire che la tecnologia sia utile quanto è destinata a essere, rimanendo imparziale, etica, efficiente e precisa.