Ripensare la Resilienza dell’IA: Perché è Tempo di Abbandonare il Modello “Imposta e Dimentica”

Un recentissimo sondaggio Gallup indica una tendenza all’aumento dell’adozione dell’IA, poiché più della metà degli adulti occupati dichiara di utilizzare la tecnologia almeno qualche volta all’anno. Questi dati sono solo un’indicazione della rapida adozione dell’IA che si sta verificando negli ambienti aziendali. Sebbene numerosi leader d’impresa abbiano iniziato a mettere in dubbio il ROI dell’IA, ciò non ha impedito alle organizzazioni di affidarsi alla tecnologia per snellire le attività manuali e massimizzare la produttività.

Sebbene questa adozione continui, le organizzazioni possono essere tentate di ignorare gli errori dannosi nei flussi di lavoro automatizzati. Vedono l’IA come una soluzione chiavi in mano, richiedendo ai team IT solo di impostare la tecnologia, lasciarla funzionare e “dimenticare” la sua esistenza. Alcuni team di sicurezza cercano di contrastare questo approccio, creando playbook di automazione volti a promuovere un uso sicuro e protetto dell’IA. Tuttavia, anche i migliori team IT e di sicurezza lasciano poco spazio a modifiche in questi playbook. Di conseguenza, le imprese non riescono a evolvere in modo sicuro con l’IA, così come la tecnologia stessa evolve.

Man mano che le imprese concedono all’IA più autorità nei flussi di lavoro critici per il business, l’agilità operativa deve diventare il nuovo mandato per le organizzazioni odierne. Per trasformare ciò in una pratica universale, i leader della sicurezza aziendale devono abbandonare la mentalità “imposta e dimentica” e progettare per la resilienza.

Understanding the Automation Paradox

L’automazione alimentata dall’IA sta fornendo enormi guadagni di produttività in molteplici funzioni aziendali. Prendiamo la cybersecurity come esempio. Gli strumenti di IA consentono agli analisti di compiere passaggi aggiuntivi che non avevano mai tempo di fare nei centri operativi di sicurezza sovraccarichi e sopraffatti. Ciò include attività come la priorizzazione degli avvisi, la revisione degli eventi, la rilevazione delle minacce, la validazione incrociata e l’ottenimento di una seconda opinione. A differenza di alcuni dirigenti di alto livello, i CISOs rimangono generalmente ottimisti sul valore che l’IA potrà fornire in futuro. Secondo i dati del “The CISO Report: From Risk to Resilience in the AI Era”, l’83 % dei CISOs ritiene che l’automazione sia l’investimento più probabile a superare le aspettative.

Di fronte a questi vantaggi, persiste un paradosso. Lo stesso rapporto evidenzia lo scetticismo dei CISOs nei confronti dell’IA, temendo le conseguenze di errori autonomi. L’83 % dei CISOs classifica gli impatti delle “allucinazioni”, come avvisi mancati o falsi positivi, come la loro massima preoccupazione riguardo all’IA agente. Esistono prove sufficienti a sostegno di tali timori. Una grande compagnia aerea commerciale è stata ritenuta legalmente responsabile e condannata a pagare danni dopo che il suo chatbot di assistenza clienti ha “allucinato” una politica di rimborso per tariffe di lutto. Una società di intelligence sulle minacce sta affrontando problemi legali perché avrebbe pubblicato un rapporto che collegava una startup a hacker di una potenza straniera. Quando l’IA sbaglia, le ripercussioni possono estendersi oltre i sistemi interni, colpendo sia il capitale che la reputazione.

The Problem With Stale Playbooks

I playbook di sicurezza focalizzati sull’IA costituiscono una base per un’adozione efficace e sicura dell’IA. Tuttavia, i problemi sorgono quando tali playbook non cambiano mai. Le minacce, l’infrastruttura IT e gli ambienti di business evolvono costantemente. L’IA consente agli attori minacciosi di scalare gli attacchi, mentre ambienti IT sempre più ampi e complessi rendono più difficile la rilevazione. Parallelamente, man mano che le imprese affidano all’IA maggiori responsabilità, le conseguenze degli errori diventano più significative.

Se tutti questi fattori continuano a evolversi, anche la logica dell’automazione deve evolversi con essi. I playbook di automazione congelati impediscono questo avvenimento. Lasciando i team di sicurezza a confrontarsi con problemi attuali usando logiche obsolete, a volte la situazione può risultare peggiore di quanto non sarebbe se il team non avesse alcun playbook.

• Testati continuamente contro nuove informazioni sulle minacce
• Aggiornati dopo il verificarsi di incidenti reali
• Ritirati non appena non sono più efficaci o non offrono valore

Questo approccio è in linea con le linee guida della Cybersecurity and Infrastructure Security Agency (CISA) e di altre agenzie globali di sicurezza informatica, le quali promuovono il monitoraggio continuo dei sistemi IA e l’intervento umano costante.

Implementing the Resilience Formula

L’era dell’IA richiede alle imprese di superare la mentalità che vede l’IA come una soluzione puntuale, o semplicemente come un’aggiunta di automazione a casi d’uso esistenti. Le organizzazioni devono invece costruire una cultura di resilienza che consenta sia al personale IT sia ai sistemi di potenziare ciò che l’IA fa bene — e di rispondere in modo efficiente quando la tecnologia sbaglia.

Una formula pratica in tre parti può aiutare a incorporare questa resilienza nelle azioni automatizzate.

• Confidence: Per ogni flusso di lavoro automatizzato, i team dovrebbero chiedersi: Quanto siamo sicuri del trigger che ha avviato la risposta automatica?
• Reversibility: L’azione è reversibile? In tal caso, quanto rapidamente e in sicurezza possiamo farlo?
• Blast Radius: Quanto sono ampie le conseguenze se un errore si propaga, e quanto è critico per il business l’asset interessato?

Gli strumenti adeguati di osservabilità e monitoraggio sono fondamentali per rispondere a queste domande. I team dovrebbero sfruttare una piattaforma unificata di osservabilità e gestione dei dati, così da comprendere appieno dove, in un ambiente IT, una risposta automatizzata può verificarsi, quali altri asset colpisce e le relative conseguenze di business. Eseguire regolarmente questo esercizio consentirà ai team di sicurezza di mantenere i playbook IA aggiornati. Inoltre, favorirà pratiche corrette di “human‑in‑the‑loop”, poiché i team IT sapranno dove e come intervenire per evitare che azioni automatizzate inadeguate generino effetti diffusi e costosi.

Set It and Forget It No More

È fondamentale che il moderno CISO e i leader IT comprendano che la responsabilità ultima ricade su di loro quando si tratta del comportamento dell’IA. Più l’IA tocca attività aziendali cruciali, maggiore sarà l’onere per i chief cybersecurity officer. Una buona regola pratica da ricordare è: “L’automazione cambia chi preme il pulsante. Non cambia chi è responsabile del pulsante premuto.”

Le poste in gioco e l’onere sul CISO odierno sono troppo elevati per mantenere in vigore playbook “imposta e dimentica”. Invece, la resilienza deve essere sia una pratica sia una cultura che permea l’intera impresa, permettendole di riprendersi dopo un errore dell’IA. Quando i team inseriscono monitoraggio continuo, reversibilità, contenimento e proprietà umana nel playbook di automazione, le imprese possono impedire che una decisione automatizzata diventi un problema a livello aziendale.