Lo Stato della Sicurezza dell’Intelligenza Artificiale nel 2025: Insight Chiave dal Rapporto di Cisco

Mentre sempre più aziende adottano l’intelligenza artificiale, capire i rischi per la sicurezza è diventato più importante che mai. L’AI sta ridefinendo settori e flussi di lavoro, ma introduce anche nuove sfide di sicurezza che le organizzazioni devono affrontare. Proteggere i sistemi di intelligenza artificiale è essenziale per mantenere la fiducia, salvaguardare la privacy e garantire operazioni aziendali senza problemi. Questo articolo riassume gli insight chiave dal recente rapporto di Cisco “Stato della sicurezza dell’AI nel 2025”. Offre una panoramica di dove si trova oggi la sicurezza dell’AI e cosa le aziende dovrebbero considerare per il futuro.

Una Minaccia di Sicurezza in Crescita per l’AI

Se il 2024 ci ha insegnato qualcosa, è che l’adozione dell’AI sta procedendo più velocemente di quanto molte organizzazioni possano assicurarla. Il rapporto di Cisco afferma che circa il 72% delle organizzazioni utilizza ora l’AI nelle proprie funzioni aziendali, ma solo il 13% si sente completamente pronto a massimizzare il suo potenziale in modo sicuro. Questo divario tra adozione e preparazione è in gran parte dovuto a preoccupazioni di sicurezza, che rimangono il principale ostacolo all’utilizzo più ampio dell’AI aziendale. Ciò che rende questa situazione ancora più preoccupante è che l’AI introduce nuovi tipi di minacce che i metodi di sicurezza informatica tradizionali non sono completamente in grado di gestire. A differenza della sicurezza informatica convenzionale, che spesso protegge sistemi fissi, l’AI presenta minacce dinamiche e adattive che sono più difficili da prevedere. Il rapporto evidenzia diverse minacce emergenti di cui le organizzazioni dovrebbero essere consapevoli:

• Attacchi all’Infrastruttura: L’infrastruttura dell’AI è diventata un bersaglio primario per gli attaccanti. Un esempio notevole è il compromesso del toolkit di container di NVIDIA (NVDA ), che ha consentito agli attaccanti di accedere ai sistemi di file, eseguire codice maligno ed elevare i privilegi. Allo stesso modo, Ray, un framework di intelligenza artificiale open-source per la gestione della GPU, è stato compromesso in uno dei primi attacchi reali al framework dell’AI. Questi casi mostrano come le debolezze nell’infrastruttura dell’AI possano influenzare molti utenti e sistemi.
• Rischi nella Catena di Fornitura: Le vulnerabilità nella catena di fornitura dell’AI presentano un’altra preoccupazione significativa. Circa il 60% delle organizzazioni si affidano a componenti o ecosistemi di intelligenza artificiale open-source. Ciò crea un rischio poiché gli attaccanti possono compromettere questi strumenti ampiamente utilizzati. Il rapporto menziona una tecnica chiamata “Sleepy Pickle“, che consente agli avversari di manomettere i modelli di AI anche dopo la distribuzione. Ciò rende estremamente difficile la rilevazione.
• Attacchi Specifici dell’AI: Nuove tecniche di attacco stanno evolvendo rapidamente. Metodi come l’iniezione di prompt, il jailbreaking e l’estrazione dei dati di addestramento consentono agli attaccanti di bypassare i controlli di sicurezza e accedere a informazioni sensibili contenute all’interno dei set di dati di addestramento.

Vettori di Attacco che Bersagliano i Sistemi di AI

Il rapporto evidenzia l’emergere di vettori di attacco che gli attaccanti utilizzano per sfruttare le debolezze nei sistemi di intelligenza artificiale. Questi attacchi possono verificarsi in varie fasi del ciclo di vita dell’AI, dalla raccolta dei dati e dall’addestramento del modello alla distribuzione e all’inferenza. L’obiettivo è spesso quello di far comportare l’AI in modi inaspettati, far trapelare dati privati o eseguire azioni dannose.
Negli ultimi anni, questi metodi di attacco sono diventati più avanzati e più difficili da rilevare. Il rapporto evidenzia diversi tipi di vettori di attacco:

• Jailbreaking: Questa tecnica consiste nel creare prompt avversari che bypassano le misure di sicurezza del modello. Nonostante i miglioramenti nelle difese dell’AI, la ricerca di Cisco mostra che anche i jailbreak semplici rimangono efficaci contro modelli avanzati come DeepSeek R1.
• Iniezione Indiretta di Prompt: A differenza degli attacchi diretti, questo vettore di attacco coinvolge la manipolazione dei dati di input o del contesto che il modello di AI utilizza indirettamente. Gli attaccanti possono fornire materiali di origine compromessi come PDF o pagine web maliziose, facendo in modo che l’AI generi output inaspettati o dannosi. Questi attacchi sono particolarmente pericolosi perché non richiedono l’accesso diretto al sistema di AI, consentendo agli attaccanti di bypassare molte difese tradizionali.
• Estrazione e Avvelenamento dei Dati di Addestramento: I ricercatori di Cisco hanno dimostrato che i chatbot possono essere ingannati per rivelare parti dei loro dati di addestramento. Ciò solleva gravi preoccupazioni sulla privacy dei dati, la proprietà intellettuale e la conformità. Gli attaccanti possono anche avvelenare i dati di addestramento iniettando input maligni. In modo allarmante, l’avvelenamento solo dello 0,01% di grandi set di dati come LAION-400M o COYO-700M può influenzare il comportamento del modello, e ciò può essere fatto con un budget ridotto (circa 60 USD), rendendo questi attacchi accessibili a molti attaccanti.

Il rapporto evidenzia gravi preoccupazioni sullo stato attuale di questi attacchi, con i ricercatori che hanno raggiunto un tasso di successo del 100% contro modelli avanzati come DeepSeek R1 e Llama 2. Ciò rivela vulnerabilità di sicurezza critiche e potenziali rischi associati al loro utilizzo. Inoltre, il rapporto identifica l’emergere di nuove minacce come attacchi di jailbreaking basati sul suono, progettati specificamente per bersagliare modelli di AI multimodali.

Risultati della Ricerca sulla Sicurezza dell’AI di Cisco

Il team di ricerca di Cisco ha valutato vari aspetti della sicurezza dell’AI e ha rivelato diverse scoperte chiave:

• Jailbreaking Algoritmico: I ricercatori hanno mostrato che anche i migliori modelli di AI possono essere ingannati automaticamente. Utilizzando un metodo chiamato Tree of Attacks with Pruning (TAP), i ricercatori hanno bypassato le protezioni su GPT-4 e Llama 2.
• Rischi nell’Aggiornamento Fine: Molte aziende aggiornano i modelli di base per migliorare la rilevanza per specifici domini. Tuttavia, i ricercatori hanno scoperto che l’aggiornamento fine può indebolire le barriere di sicurezza interne. Le versioni aggiornate fine erano oltre tre volte più vulnerabili al jailbreaking e 22 volte più probabili a produrre contenuti dannosi rispetto ai modelli originali.
• Estrazione dei Dati di Addestramento: I ricercatori di Cisco hanno utilizzato un metodo di decomposizione semplice per ingannare i chatbot e farli riprodurre frammenti di articoli di notizie, consentendo loro di ricostruire le fonti del materiale. Ciò rappresenta un rischio per l’esposizione di dati sensibili o proprietari.
• Avvelenamento dei Dati: Il team di Cisco dimostra quanto sia facile e poco costoso avvelenare grandi set di dati web. Per circa 60 USD, i ricercatori sono riusciti ad avvelenare lo 0,01% di set di dati come LAION-400M o COYO-700M. Inoltre, evidenziano che questo livello di avvelenamento è sufficiente per causare cambiamenti significativi nel comportamento del modello.

Il Ruolo dell’AI nel Cybercrime

L’AI non è solo un bersaglio – sta anche diventando uno strumento per i cybercriminali. Il rapporto nota che l’automazione e l’ingegneria sociale guidata dall’AI hanno reso gli attacchi più efficaci e più difficili da rilevare. Dalle truffe di phishing alla clonazione vocale, l’AI aiuta i criminali a creare attacchi personalizzati e convincenti. Il rapporto identifica anche l’aumento di strumenti di AI maligni come “DarkGPT“, progettati specificamente per aiutare il cybercrime generando email di phishing o sfruttando vulnerabilità. Ciò che rende questi strumenti particolarmente preoccupanti è la loro accessibilità. Anche i criminali a bassa competenza possono ora creare attacchi personalizzati che eludono le difese tradizionali.

Migliori Pratiche per la Sicurezza dell’AI

Data la natura volatile della sicurezza dell’AI, Cisco raccomanda diversi passi pratici per le organizzazioni:

1. Gestire il Rischio in Tutte le Fasi del Ciclo di Vita dell’AI: È fondamentale identificare e ridurre i rischi in ogni fase del ciclo di vita dell’AI, dalla raccolta dei dati e dall’addestramento del modello alla distribuzione e al monitoraggio. Ciò include anche la sicurezza dei componenti di terze parti, l’applicazione di solide barriere di sicurezza e il controllo stretto dei punti di accesso.
2. Utilizzare Pratiche di Sicurezza Informatica Stabilite: Sebbene l’AI sia unica, le pratiche di sicurezza informatica tradizionali sono ancora essenziali. Tecniche come il controllo di accesso, la gestione delle autorizzazioni e la prevenzione della perdita di dati possono svolgere un ruolo vitale.
3. Concentrarsi su Aree Vulnerabili: Le organizzazioni dovrebbero concentrarsi sulle aree più probabili di essere attaccate, come le catene di fornitura e le applicazioni di AI di terze parti. Comprendendo dove si trovano le vulnerabilità, le aziende possono implementare difese più mirate.
4. Educazione e Formazione dei Dipendenti: Man mano che gli strumenti di AI diventano più diffusi, è importante formare gli utenti sull’uso responsabile dell’AI e sulla consapevolezza dei rischi. Un’azienda ben informata aiuta a ridurre l’esposizione accidentale dei dati e l’uso improprio.

Guardando Avanti

L’adozione dell’AI continuerà a crescere e, con essa, i rischi per la sicurezza evolveranno. Governi e organizzazioni di tutto il mondo stanno riconoscendo queste sfide e iniziando a costruire politiche e regolamenti per guidare la sicurezza dell’AI. Come evidenzia il rapporto di Cisco, l’equilibrio tra sicurezza dell’AI e progresso definirà la prossima era di sviluppo e distribuzione dell’AI. Le organizzazioni che danno priorità alla sicurezza insieme all’innovazione saranno meglio equipaggiate per gestire le sfide e cogliere le opportunità emergenti. Le politiche e i regolamenti per la sicurezza dell’AI saranno fondamentali per garantire che questo equilibrio sia mantenuto e che l’AI continui a essere uno strumento positivo per la società.