Garantire la sicurezza resiliente per l’AI autonoma nel settore sanitario

La guerra in corso contro le violazioni dei dati rappresenta una sfida sempre più grande per le organizzazioni sanitarie in tutto il mondo. Secondo le statistiche attuali, il costo medio di una violazione dei dati è ora di 4,45 milioni di dollari in tutto il mondo, una cifra che più che raddoppia a 9,48 milioni di dollari per i fornitori di servizi sanitari che servono pazienti all’interno degli Stati Uniti. A questo problema già preoccupante si aggiunge il fenomeno moderno della proliferazione dei dati inter- e intra-organizzativi. Una preoccupante 40% delle violazioni dei dati denunciate coinvolge informazioni diffuse in più ambienti, ampliando notevolmente la superficie di attacco e offrendo molti punti di ingresso per gli attaccanti.

La crescente autonomia dell’AI generativa segna un’era di cambiamento radicale. Pertanto, con essa arrivano anche nuovi rischi per la sicurezza, poiché questi agenti intelligenti avanzati si spostano dalla teoria alle implementazioni in diversi domini, come il settore sanitario. Comprendere e mitigare queste nuove minacce è fondamentale per scalare l’AI in modo responsabile e aumentare la resilienza di un’organizzazione contro gli attacchi informatici di qualsiasi natura, che siano dovuti a minacce di software dannoso, violazioni dei dati o anche attacchi di supply chain ben orchestrati.

Resilienza nella fase di progettazione e implementazione

Le organizzazioni devono adottare una strategia di difesa proattiva globale e evolutiva per affrontare i crescenti rischi per la sicurezza causati dall’AI, in particolare nel settore sanitario, dove le poste in gioco coinvolgono sia il benessere dei pazienti che la conformità con le misure regolamentari.

Ciò richiede un approccio sistematico e articolato, a partire dalla progettazione e sviluppo dei sistemi AI e proseguendo fino al loro dispiegamento su larga scala.

• Il primo e più critico passo che le organizzazioni devono intraprendere è quello di mappare e modellare le minacce dell’intera pipeline AI, dalla ingestione dei dati all’addestramento del modello, validazione, dispiegamento e inferenza. Questo passo facilita l’identificazione precisa di tutti i punti potenziali di esposizione e vulnerabilità con granularità del rischio in base all’impatto e alla probabilità.
• In secondo luogo, è importante creare architetture sicure per il dispiegamento di sistemi e applicazioni che utilizzano grandi modelli linguistici (LLM), inclusi quelli con capacità AI Agentic. Ciò comporta la considerazione meticolosa di varie misure, come la sicurezza dei contenitori, la progettazione sicura delle API e la gestione sicura dei set di dati di addestramento sensibili.
• Terzo, le organizzazioni devono comprendere e implementare le raccomandazioni di vari standard/quadri. Ad esempio, aderire alle linee guida stabilite da NIST’s Quadro di gestione del rischio AI per l’identificazione e la mitigazione dei rischi completi. Potrebbero anche considerare OWASP’s consiglio sulle vulnerabilità uniche introdotte dalle applicazioni LLM, come l’iniezione di prompt e la gestione della produzione non sicura.
• Inoltre, le tecniche di modellazione delle minacce classiche devono anche evolvere per gestire efficacemente gli attacchi unici e intricati generati dall’AI di generazione, inclusi gli attacchi di avvelenamento dei dati insidiosi che minacciano l’integrità del modello e la potenziale generazione di contenuti sensibili, distorti o inappropriatamente prodotti negli output AI.
• Infine, anche dopo il dispiegamento, le organizzazioni dovranno rimanere vigili praticando manovre di red teaming regolari e rigorose e audit di sicurezza AI specializzati che bersagliano specificamente fonti come pregiudizio, robustezza e chiarezza per continuare a scoprire e mitigare le vulnerabilità nei sistemi AI.

In particolare, la base per la creazione di sistemi AI solidi nel settore sanitario è quella di proteggere fondamentalmente l’intero ciclo di vita dell’AI, dalla creazione al dispiegamento, con una chiara comprensione delle nuove minacce e un’adesione ai principi di sicurezza stabiliti.

Misure durante il ciclo di vita operativo

Oltre alla progettazione e al dispiegamento iniziali sicuri, una posizione di sicurezza AI robusta richiede un’attenzione vigile ai dettagli e una difesa attiva durante l’intero ciclo di vita dell’AI. Ciò necessita di un monitoraggio continuo dei contenuti, sfruttando la sorveglianza guidata dall’AI per rilevare immediatamente output sensibili o dannosi, aderendo alle politiche di rilascio delle informazioni e alle autorizzazioni degli utenti. Durante lo sviluppo del modello e nell’ambiente di produzione, le organizzazioni dovranno attivamente scansionare malware, vulnerabilità e attività avversarie allo stesso tempo. Questi sono, naturalmente, complementari alle misure di sicurezza informatica tradizionali.

Per incoraggiare la fiducia degli utenti e migliorare l’interpretazione della presa di decisioni AI, è essenziale utilizzare con cura gli strumenti Explainable AI (XAI) per comprendere la razionalità sottostante degli output e delle previsioni AI.

Un miglior controllo e sicurezza sono anche facilitati dalla scoperta automatizzata dei dati e dalla classificazione dei dati intelligenti con classificatori dinamicamente in evoluzione, che forniscono una visione critica e aggiornata dell’ambiente dei dati in continua evoluzione. Queste iniziative derivano dall’imperativo di applicare controlli di sicurezza solidi come metodi di controllo degli accessi basati su ruoli (RBAC) fini, framework di crittografia end-to-end per proteggere le informazioni in transito e a riposo, e tecniche di mascheramento dei dati efficaci per nascondere i dati sensibili.

La formazione sulla consapevolezza della sicurezza da parte di tutti gli utenti aziendali che lavorano con i sistemi AI è anch’essa essenziale, poiché stabilisce un firewall umano critico per rilevare e neutralizzare possibili attacchi di ingegneria sociale e altre minacce correlate all’AI.

Garantire il futuro dell’AI Agentic

La base della resilienza sostenibile di fronte alle minacce di sicurezza dell’AI in evoluzione risiede nel metodo proposto a più dimensioni e continuo di monitoraggio stretto, scansione attiva, spiegazione chiara, classificazione intelligente e sicurezza rigorosa dei sistemi AI. Ciò, naturalmente, è in aggiunta all’istituzione di una cultura di sicurezza umano-orientata e di controlli di sicurezza informatica tradizionali maturi. Mentre gli agenti AI autonomi vengono incorporati nei processi organizzativi, la necessità di controlli di sicurezza robusti aumenta. La realtà odierna è che le violazioni dei dati nelle nuvole pubbliche accadono e costano in media $5,17 milioni, sottolineando chiaramente la minaccia per le finanze di un’organizzazione nonché per la sua reputazione.

In aggiunta alle innovazioni rivoluzionarie, il futuro dell’AI dipende dallo sviluppo della resilienza con una base di sicurezza incorporata, framework operativi aperti e procedure di governance strette. Stabilire la fiducia in tali agenti intelligenti deciderà infine quanto estesamente e duramente saranno adottati, plasmando il corso stesso del potenziale trasformativo dell’AI.