Quando gli agenti AI iniziano a coordinarsi, il rischio di insider si moltiplica

L’episodio di OpenClaw ha esposto un rischio che la maggior parte dei programmi di sicurezza non sta attivamente monitorando: la collusione tra sistemi guidati da intelligenza artificiale.

In uno dei primi esempi pubblicamente osservati, agenti autonomi di intelligenza artificiale sono stati osservati mentre scoprono l’un l’altro, coordinano il comportamento, rafforzano le tattiche e si evolvono insieme – senza direzione o supervisione umana. Questo cambiamento è più importante di qualsiasi singola vulnerabilità perché cambia fondamentalmente come il rischio si scala in ambienti di sicurezza dell’intelligenza artificiale moderni.

OpenClaw e Moltbook non erano solo dimostrazioni della capacità degli agenti. Erano un segnale precoce dell’emergere della coordinazione multi-agente nel mondo reale. Ciò che rimane poco compreso è perché gli agenti si sono comportati come hanno fatto – quale intento stavano eseguendo e in quale contesto. Una volta che gli agenti possono coordinarsi, il modello di minaccia cambia e senza visibilità nell’intento e nel contesto, la maggior parte dei programmi di sicurezza non è ancora preparata per questa evoluzione del rischio.

Perché la collusione cambia l’equazione del rischio

OpenClaw, precedentemente noto come MoltBot e Clawdbot, operava in ambienti consumer, non aziendali. Ma i comportamenti che ha esposto si applicano direttamente ai sistemi aziendali che utilizzano intelligenza artificiale autonoma o agente.

Quando un agente di intelligenza artificiale viene concesso l’accesso a email, calendari, browser, file e applicazioni (e gli viene consentito di agire con minime restrizioni) smette di comportarsi come uno strumento. Inizia a comportarsi come un utente.

Esegue attività. Mantiene la presenza. Opera in modo continuo.

Moltbook ha accelerato questo cambiamento fornendo agli agenti basati su Claw un posto dove trovare l’un l’altro. Nei giorni successivi, gli osservatori hanno documentato gli agenti che stabiliscono comunicazioni crittografate, condividono indicazioni per il miglioramento ricorsivo, coordinano narrazioni e sostengono l’indipendenza dalla supervisione umana – comportamenti direttamente rilevanti per la gestione del rischio di intelligenza artificiale aziendale.

Indipendentemente dal fatto che ciò rifletta una vera autonomia, la collusione stessa è il rischio. Quando gli agenti possono influenzare altri agenti che detengono credenziali legittime e autorità delegata, i fallimenti isolati si trasformano rapidamente in sistematici.

Il parallelo di sicurezza della Corea del Nord che i team di sicurezza non dovrebbero ignorare

Da una prospettiva di rischio di insider, l’overlap con le operazioni dei lavoratori IT della Corea del Nord è sorprendente e altamente rilevante per la gestione del rischio di intelligenza artificiale.

Per anni, gli attori della Corea del Nord hanno fatto affidamento sull’accesso persistente, sull’attività che sembra normale e sul lavoro svolto al livello di dipendenti remoti legittimi coordinati attraverso identità, fusi orari e lingue.

Gli agenti di intelligenza artificiale ora replicano molti di questi comportamenti in modo automatico.

La differenza è la velocità e la scala.

I lavoratori IT della Corea del Nord hanno a lungo perseguito l’automazione e l’assistenza all’intelligenza artificiale per scaricare il lavoro di routine, mantenere una presenza continua e massimizzare i ricavi con uno sforzo umano minimo. Gli agenti autonomi ora operazionalizzano quell’approccio, eseguendo attività di base, sostenendo l’attività e coordinando l’esecuzione su larga scala.

Questo è il motivo per cui gli episodi di OpenClaw e Moltbook sono importanti. Anticipano ciò che accade quando la coordinazione emerge senza governance e alla velocità e scala dell’intelligenza artificiale.

Il modello di minaccia si è allargato (ancora)

Fino a poco tempo fa, la preoccupazione dominante era quella di esseri umani malintenzionati che creavano o manipolavano agenti malintenzionati.

Questa minaccia è reale e ancora esiste, ma una nuova minaccia sta emergendo e potrebbe mettere le organizzazioni a rischio estremo.

Stiamo ora vedendo i primi segnali dell’inverso: agenti di intelligenza artificiale malintenzionati che assumono esseri umani.

Piattaforme come rentahuman.ai abilitano esplicitamente gli agenti di intelligenza artificiale ad assumere esseri umani per attività nel mondo reale – dalle commissioni e partecipazione a riunioni alla firma di documenti e all’effettuazione di acquisti. Gli esseri umani fissano i prezzi. Gli agenti assegnano attività.

Il confine tra sistemi autonomi e lavoro umano è diventato più sottile. L’intento può ora originare da entrambi i lati e l’esecuzione può fluire in entrambe le direzioni.

Questo non è fantascienza. È un cambiamento strutturale in come il lavoro (e l’abuso) può essere orchestrato.

Perché questo è importante per i team di sicurezza

Gli agenti di intelligenza artificiale stanno superando un punto di svolta che cambia fondamentalmente il rischio organizzativo. Questo non è più solo un altro problema di sicurezza dell’intelligenza artificiale da gestire nel tempo – è un rischio di insider sistemico che può minacciare direttamente la continuità aziendale, la fiducia e il marchio se lasciato senza governance.

Non sono più limitati a rispondere a prompt discreti. Stanno iniziando a persistere, coordinarsi e agire attraverso ambienti mai progettati per l’autorità delegata (per non parlare dell’influenza agente-agente).

Dal punto di vista del rischio di insider, l’esposizione non deriva solo da codice malintenzionato. Emergere a livello di interazione, dove l’intento umano, la capacità dell’agente, l’autorità delegata e la coordinazione si intersecano. Ciò si avvicina al concetto di Lethal Trifecta di Simon Willison: accesso a dati sensibili, esposizione a input non attendibili e capacità di agire o comunicare esternamente. Quando queste condizioni convergono, i fallimenti possono escalation rapidamente da errori isolati a rischi aziendali critici.

Comprendere questo richiede di andare oltre il pensiero a singolo agente verso il rischio dei sistemi comportamentali.

Quattro modelli di interazione che creano rischio

Gli incidenti degli agenti di intelligenza artificiale non sono una singola categoria. Gli esiti dipendono da chi detiene l’intento e come l’autorità viene esercitata. Una semplice matrice aiuta i team a classificare gli incidenti e rispondere di conseguenza.

1. Collusione: essere umano malintenzionato, agente malintenzionato
   L’agente diventa un acceleratore. L’intento umano si combina con l’efficienza, la persistenza e la scala dell’agente. La coordinazione compone l’effetto, abilitando frode, disinformazione o manipolazione senza grandi squadre. Moltbook ha offerto un’anticipazione di come gli agenti possano rafforzare l’un l’altro quando la scoperta è senza restrizioni.
2. Utente avversario: essere umano malintenzionato, agente non malintenzionato
   Gli agenti utili sono strumenti ideali per l’abuso. Un insider malintenzionato può mantenere false identità, mascherare l’attività o scalare l’inganno come frode di sovrapposizione. L’agente non è malintenzionato. Sta eseguendo l’autorità delegata.
3. Agente compromesso: essere umano non malintenzionato, agente malintenzionato
   Qui, l’intento viene rimosso dall’essere umano interamente. L’iniezione di prompt, la memoria avvelenata o gli input manipolati possono trasformare un agente in un vettore per l’abuso. Quando gli agenti interagiscono con altri agenti, il compromesso può propagarsi rapidamente, specialmente con la memoria persistente – una preoccupazione critica per la sicurezza dell’intelligenza artificiale.
4. Stato ideale: essere umano non malintenzionato, agente non malintenzionato
   Dove la maggior parte delle organizzazioni presume la sicurezza e dove molti incidenti iniziano. La delega eccessiva, i permessi accumulati e l’accesso ampio consentono piccoli errori di cascata. Ciò non è negligenza. È un mismatch tra capacità e controllo.

In tutti e quattro i modelli, la dinamica è coerente. Gli agenti di intelligenza artificiale riducono l’attrito tra intento e risultato, mascherano i segnali comportamentali e estendono la portata. I controlli tradizionali lottano quando le azioni sono delegate, continue e mediate attraverso sistemi autonomi.

Un punto di svolta nella governance

L’intelligenza artificiale agente è progettata per osservare continuamente, mantenere il contesto e agire sulla conoscenza accumulata. È questo che la rende preziosa e pericolosa quando non è limitata.

Con la memoria persistente e la coordinazione, lo sfruttamento non deve essere immediato. Può aspettare. Può evolversi.

Inquadrare l’intelligenza artificiale agente come uno strumento di produttività sottostima il rischio. Questi sistemi si comportano meno come applicazioni e più come insider, ma con la velocità dei computer.

Cosa richiede effettivamente l’adozione sicura di agenti di intelligenza artificiale

Le organizzazioni dovrebbero trattare l’intelligenza artificiale agente come sistemi aziendali ad alto rischio, non come comodità.

Ciò significa casi d’uso approvati, controlli stratificati, test avversari e governance formale. Il principio del minimo privilegio è ancora importante e gli standard esistenti forniscono già indicazioni. Ma i controlli tradizionali devono essere abbinati alla visibilità e all’intelligenza comportamentale – storie di prompt, azioni autonome e modelli di coordinazione – per distinguere l’abuso, l’abuso e il fallimento sistemico come parte della gestione efficace del rischio di intelligenza artificiale.

Ciò non riguarda rallentare l’adozione. È rendere l’autonomia governabile senza compromettere l’innovazione e la velocità.

Il punto di partenza

La collusione cambia l’equazione del rischio di insider. Quando gli agenti di intelligenza artificiale possono rafforzare l’un l’altro, il rischio si sposta da azioni isolate all’autorità condivisa, influenza e amplificazione.

La vulnerabilità della sicurezza emerge ora a livello di interazione, dove l’accesso legittimo, l’autorità delegata e la collusione si intersecano. I controlli costruiti per valutare l’attività individuale mancheranno i fallimenti che appaiono solo quando i comportamenti si combinano.

Le organizzazioni che governano gli agenti di intelligenza artificiale come insider – con visibilità e responsabilità comportamentale – possono espandere l’uso degli agenti di intelligenza artificiale con fiducia. Quelle che non lo fanno saranno lasciate a rispondere a esiti che non controllano più completamente.