Strategie di cybersicurezza per lo sviluppo di agenti low-code e high-code

Quando le organizzazioni iniziano a impiegare agenti di intelligenza artificiale nei sistemi aziendali, la rapidità di sviluppo e la supervisione della sicurezza diventano strettamente interconnesse. Le strategie di cybersicurezza per lo sviluppo di agenti low-code e high-code devono tenere conto del modo in cui ciascun approccio concede l’accesso alle informazioni e consente di eseguire azioni. Misure di protezione mirate possono affrontare queste differenze, mentre una governance condivisa mantiene l’attività degli agenti in linea con i compiti autorizzati man mano che le implementazioni si ampliano.

Cosa distingue lo sviluppo di agenti di IA low-code e high-code

Le piattaforme low-code consentono di creare agenti tramite interfacce visive e connettori preconfigurati che collegano i servizi aziendali. Lo sviluppo high-code offre ai programmatori maggiore flessibilità nel definire il comportamento degli agenti attraverso codice personalizzato, integrazioni con strumenti e ambienti di esecuzione. Entrambi gli approcci richiedono una supervisione delle informazioni a cui gli agenti possono accedere e delle azioni che possono compiere.

Le responsabilità in materia di sicurezza sono diverse perché il controllo è esercitato in punti differenti. Chi crea agenti low-code opera all’interno delle impostazioni della piattaforma, che regolano la condivisione e l’accesso ai connettori; per questo, le decisioni di configurazione sono particolarmente importanti. I team high-code si assumono maggiori responsabilità per il software e gli ambienti che eseguono le istruzioni degli agenti, compresi i limiti di accesso a file e credenziali.

The Cybersecurity and Infrastructure Security Agency individua diversi rischi legati all’IA agentica che offrono un quadro di riferimento utile per entrambi gli approcci. L’ampliamento della superficie di attacco indica la presenza di ulteriori punti di accesso, mentre l’accumulo progressivo di privilegi consiste nell’estensione degli accessi concessi. Il disallineamento comportamentale si verifica quando gli agenti si discostano dai compiti previsti, e registri degli eventi poco chiari complicano le indagini. Un connettore ampiamente utilizzato e uno strumento a riga di comando senza restrizioni possono generare manifestazioni diverse degli stessi problemi.

Rischi per la sicurezza degli agenti di IA low-code e relative soluzioni

L’accessibilità del low-code permette anche ai dipendenti che non fanno parte dei tradizionali team di sviluppo di creare agenti. La supervisione della sicurezza deve comprendere anche chi li crea, affinché le connessioni pratiche da configurare siano coerenti con gli usi aziendali autorizzati.

I limiti di sicurezza degli ambienti low-code

Gli sviluppatori non professionisti potrebbero collegare un agente a file condivisi o ad applicazioni aziendali senza comprenderne appieno le autorizzazioni. L’accesso concesso tramite queste connessioni può esporre informazioni sensibili o consentire azioni che esulano dal flusso di lavoro previsto. La condivisione estesa e la mancanza di chiarezza sulla titolarità possono aggravare il problema.

L’ampia diffusione rende importante garantire una supervisione coerente tra i reparti. In un’analisi di mercato del 2024, Forrester riferisce che l’87% degli sviluppatori aziendali utilizza piattaforme low-code per alcune attività di sviluppo. Il dato riguarda lo sviluppo in generale: dimostra quindi la diffusione di queste piattaforme, ma non misura specificamente l’adozione degli agenti di IA.

Strategie pratiche per rafforzare la sicurezza degli agenti low-code

I team dovrebbero verificare che le autorizzazioni dei connettori siano adeguate al compito assegnato a ciascun agente e applicare il principio del privilegio minimo. Un registro centralizzato dovrebbe riportare il responsabile e i servizi collegati per ogni implementazione, prevedendo l’obbligo di approvazione per le azioni sensibili. In questo modo, i team di sicurezza possono individuare gli agenti non registrati e indagare sugli accessi inappropriati.

L’approccio di Microsoft alla governance dei dati pone l’accento sull’accesso controllato alle informazioni aziendali. Naveen Jangir, architetto principale presso Microsoft Digital, raccomanda alle organizzazioni di «governarle e proteggerle con adeguate restrizioni di accesso». Questi controlli consentono agli utenti autorizzati e alle funzionalità di IA di utilizzarle senza esporle inutilmente entro i limiti delle autorizzazioni stabilite. L’applicazione di criteri per i connettori, insieme a responsabilità chiaramente attribuite, può integrare queste restrizioni nelle attività quotidiane di sviluppo.

Rischi per la sicurezza degli agenti di IA high-code e relative soluzioni

Quando i team utilizzano agenti di IA per la programmazione per creare sistemi personalizzati, le modifiche generate possono arrivare più velocemente di quanto le persone riescano a esaminarle. La sicurezza dello sviluppo high-code richiede quindi controlli sia sul processo di sviluppo sia sugli ambienti in cui gli agenti eseguono le attività.

Le sfide specifiche per la sicurezza dello sviluppo high-code

Gli agenti di programmazione possono subire attacchi indiretti tramite prompt injection quando leggono repository esterni contenenti istruzioni fornite da malintenzionati. Se un agente segue tali istruzioni mentre dispone dell’accesso agli strumenti di sviluppo, potrebbe eseguire comandi non sicuri o esporre credenziali. Le potenziali conseguenze dipendono in parte dai file, dagli strumenti e dalle destinazioni esterne che l’ambiente di esecuzione gli consente di raggiungere.

Le indicazioni di NVIDIA sull’uso di ambienti sandbox affrontano il rischio di esposizione delle credenziali all’interno di tale perimetro di esecuzione. Vi si afferma che «gli ambienti sandbox dovrebbero basarsi sull’iniezione esplicita di segreti» per limitare l’accesso alle credenziali. Di conseguenza, gli agenti non dovrebbero ereditare tutte le credenziali dell’ambiente quando le loro attività richiedono un accesso limitato. I team dovrebbero fornire credenziali specifiche per ciascuna attività e mantenere i segreti non pertinenti fuori dalla portata degli agenti.

Strategie per rafforzare le pipeline di agenti sviluppati con codice

Gli ambienti di esecuzione isolati dovrebbero limitare l’accesso ai file e le connessioni in uscita in base all’attività da svolgere. I team dovrebbero inoltre applicare ai codici generati test statici di sicurezza delle applicazioni. Revisori indipendenti dovrebbero esaminare le decisioni di autorizzazione o la logica aziendale che i controlli automatici potrebbero non rilevare. Questi livelli di protezione intervengono sui confini dell’ambiente di esecuzione e sulle vulnerabilità del software risultante.

Amazon Web Services raccomanda di separare la generazione del codice dalla sua valutazione nel proprio framework di controlli per gli agenti di programmazione. Osserva che «una sessione separata aiuta a evitare il bias di autoconferma». Tuttavia, due sessioni che utilizzano lo stesso modello possono presentare gli stessi punti ciechi di fondo durante la revisione. Ove possibile, un modello diverso per la revisione e la valutazione umana delle modifiche sensibili per la sicurezza possono consentire controlli più approfonditi.

Elaborare una strategia di sicurezza che comprenda entrambi gli approcci

La sicurezza dell’IA nello sviluppo di agenti low-code e con codice richiede una visione condivisa delle attività in tutti i punti in cui gli agenti scambiano informazioni. Per esempio, un flusso di lavoro low-code potrebbe inviare contenuti a un agente creato su misura, che a sua volta richiama un altro servizio aziendale. Esaminare ogni componente separatamente può privare i team di sicurezza del contesto necessario per comprendere la sequenza completa.

Gli esperti di sicurezza dell’IA di Darktrace sostengono che le organizzazioni devono esaminare prompt e sessioni oltre alle risposte, sia negli strumenti di IA generativa aziendali sia nei due approcci di sviluppo. La loro prospettiva comprende anche gli ambienti di software come servizio e di edge per l’accesso sicuro ai servizi. Grazie a questa visibilità, le organizzazioni acquisiscono il contesto necessario perché «possano rilevare sofisticati attacchi conversazionali basati su prompt e concatenazioni malevole».

La posizione di Darktrace sostiene una strategia più ampia per la sicurezza dell’IA nello sviluppo di agenti low-code e con codice, poiché la visibilità sui prompt, il monitoraggio delle sessioni e la supervisione delle identità aiutano i team a capire come gli agenti interagiscono attraverso gli strumenti interconnessi. I team di sicurezza dovrebbero esaminare come cambiano le istruzioni nel corso delle sessioni collegate e se le azioni successive restano coerenti con l’autorizzazione iniziale. Dovrebbero inoltre considerare il grado di sensibilità delle informazioni conservate a fini investigativi.

Governance e monitoraggio per la sicurezza degli agenti IA nel lungo periodo

Ogni agente dovrebbe avere un responsabile identificabile e un ambito definito di attività consentite, a prescindere dal metodo di sviluppo. La governance dovrebbe inoltre indicare chi può approvare modifiche a tale ambito e chi può sospendere le attività quando un agente si comporta in modo imprevisto.

Le ricerche sulla governance degli agenti suggeriscono che questi debbano disporre di un’autorità di cui sia possibile verificare l’autenticità e che possa essere sottoposta ad audit, per garantire la responsabilizzazione. Questo approccio collega la persona che concede l’autorizzazione alle attività che un agente può svolgere. Le organizzazioni possono così verificare ogni azione rispetto all’autorizzazione concessa.

I team dovrebbero conservare registri delle attività che colleghino le autorizzazioni delegate all’uso degli strumenti e ai risultati ottenuti. Le revisioni periodiche dovrebbero riesaminare tali autorizzazioni man mano che cambiano le capacità, revocare gli accessi non più necessari al termine delle attività e verificare che i responsabili siano ancora quelli designati. I team di sviluppo e sicurezza possono avvalersi di queste revisioni per mantenere i controlli operativi allineati allo scopo approvato dell’agente.

Prevenire i rischi per la sicurezza degli agenti IA

Lo sviluppo low-code richiede un’attenta gestione delle autorizzazioni della piattaforma e della governance dei connettori, mentre lo sviluppo con codice esige particolare attenzione agli ambienti di esecuzione personalizzati e alla revisione del codice. Il monitoraggio centralizzato e una responsabilizzazione coerente offrono una base comune per controllare il modo in cui gli agenti accedono alle informazioni e agiscono nei sistemi aziendali interconnessi. Con l’ampliarsi delle capacità, gli sviluppatori dovrebbero riesaminare le misure di protezione parallelamente alle modifiche agli strumenti e alle responsabilità degli agenti, mantenendo chiaro l’ambito delle attività consentite per ogni implementazione durante tutto il suo ciclo di vita.