Aaron Fulkerson, CEO di OPAQUE – Serie di interviste

Aaron Fulkerson, CEO di OPAQUE, è un imprenditore di software aziendale di lunga data e pioniere del software open-source, la cui carriera copre più di due decenni di costruzione e scalabilità di piattaforme tecnologiche focalizzate sulla fiducia, sui dati e sulla trasformazione digitale. Prima di unirsi a OPAQUE nel 2023, ha fondato MindTouch, aiutandolo a crescere in una piattaforma di conoscenza aziendale ampiamente adottata prima del suo acquisto da NICE Systems, e in seguito ha guidato il lancio di ServiceNow (NOW ) Impact, una delle unità di business in più rapida crescita nella storia di ServiceNow. Nel corso della sua carriera, Fulkerson ha lavorato all’intersezione di tecnologie emergenti, software aziendale e ecosistemi open, mentre anche consigliava diverse startup tecnologiche e organizzazioni. Più recentemente, è diventato un importante sostenitore dell’AI Confidenziale, sostenendo che la privacy, la governance e la fiducia verificabile saranno requisiti fondamentali mentre i sistemi di intelligenza artificiale saranno integrati nei flussi di lavoro aziendali critici.

OPAQUE è un’azienda di AI Confidenziale emersa dal rinomato UC Berkeley RISELab, lo stesso ecosistema di ricerca che ha aiutato a creare tecnologie come Apache Spark e Databricks. L’azienda ha sviluppato una piattaforma che consente alle aziende di eseguire modelli di intelligenza artificiale, agenti e flussi di lavoro su dati altamente sensibili mentre mantengono garanzie di privacy e conformità verificabili criptograficamente. Piuttosto che costringere le organizzazioni a scegliere tra innovazione dell’intelligenza artificiale e sicurezza dei dati, OPAQUE utilizza il calcolo confidenziale, ambienti di runtime crittografati e esecuzione attestata dal hardware per garantire che le informazioni sensibili rimangano protette prima, durante e dopo l’elaborazione dell’intelligenza artificiale. La sua tecnologia è progettata per settori altamente regolamentati, tra cui finanza, assicurazioni, sanità e alta tecnologia, con clienti e partner che includono ServiceNow, Anthropic, Accenture e altre organizzazioni aziendali che cercano di spostare i progetti di intelligenza artificiale dai programmi di prova alla produzione senza esporre dati proprietari o regolamentati.

Hai costruito e scalato più piattaforme aziendali nel corso della tua carriera, quindi cosa ti ha spinto a entrare nel ruolo di CEO di OPAQUE e a concentrarti sul tuo prossimo capitolo sulla fiducia, la privacy e la governance dell’intelligenza artificiale?

Ho trascorso quasi due decenni a costruire piattaforme aziendali, prima a MindTouch, che è ancora utilizzata da un miliardo di utenti all’anno, e poi a ServiceNow, dove ho creato il loro prodotto in più rapida crescita. Entrambe mi hanno insegnato la stessa lezione: la tecnologia più potente vince solo quando le persone si fidano di essa.

Quando ho incontrato i co-fondatori di OPAQUE, Raluca Ada Popa, Ion Stoica e Rishabh Poddar, ho visto una rara combinazione di talento e visione. Raluca è una delle ricercatrici più importanti al mondo nel campo della privacy e della sicurezza. Ion ha co-fondato Databricks. Rishabh ha costruito i sistemi crittografici di base che sono diventati la base di OPAQUE.

A UC Berkeley’s RISELab, avevano creato qualcosa che ho immediatamente riconosciuto come generazionale. La prova crittografica che i dati rimangono privati in ogni flusso di lavoro di intelligenza artificiale. Non promesse. Non politiche. Prova.

Ho guardato dove stava andando l’intelligenza artificiale, gli agenti che agiscono autonomamente attraverso i sistemi aziendali alla velocità della macchina, e ho visto lo stesso gap di cui Vint Cerf ha avvertito per 30 anni: non c’è uno strato di fiducia. Internet è sopravvissuto senza di esso perché gli esseri umani erano il guardrail. Il web agente non avrà quel lusso. È questo che mi ha attirato.

Con MCP (il Model Context Protocol, uno standard che consente agli agenti di intelligenza artificiale di accedere in modo sicuro a strumenti, applicazioni e dati) che emerge come base comune, come vedi questo cambiare il modo in cui le aziende distribuiscono e scalano l’intelligenza artificiale agente?

MCP è un passo importante nel modo in cui le aziende distribuiscono e scalano l’intelligenza artificiale agente. Pensalo come a un connettore universale per i flussi di lavoro di intelligenza artificiale. Standardizza il modo in cui gli agenti si collegano a strumenti, applicazioni e dati, riducendo la frizione reale e accelerando l’esperimentazione.

Ma standardizzare l’accesso da solo non rende l’intelligenza artificiale agente sicura o scalabile. Mentre queste connessioni si moltiplicano, con più agenti, più strumenti e più fonti di dati, la superficie di esposizione dei dati aumenta con ogni nuova integrazione. Ogni punto di connessione che manca di un controllo di runtime è un vettore di esposizione potenziale. Quando gli agenti di intelligenza artificiale interagiscono con sistemi e logica proprietaria sensibili, la crittografia a riposo e i controlli di rete non sono sufficienti. Il confine di sicurezza si è spostato al runtime, e questo spostamento diventa più urgente mentre l’ecosistema si scala.

Avere la verificabilità in questi punti di connessione essenziali sarà fondamentale per l’azienda. Le aziende possono scalare l’intelligenza artificiale agente quando l’accesso MCP è abbinato a una prova crittografica di cosa è stato eseguito, dove è stato eseguito e sotto quale politica – prima, durante e dopo l’esecuzione. Accesso più verificabilità. È questa la combinazione che sblocca la produzione.

Come vedi i più grandi gap attuali quando si tratta di sicurezza, applicazione delle politiche e fiducia nei sistemi guidati da agenti?

Abbiamo completato la nostra ricerca sulle superfici di esposizione dell’intelligenza artificiale del 2026 e pubblicato un riassunto dei nostri risultati, “A Dozen Ways Your AI Stack Is Bleeding Data“, che tocca questo. Abbiamo identificato 46 vettori di esposizione in 8 categorie che coprono l’intero confine di fiducia dell’intelligenza artificiale: calcolo, controllo, applicazione e le consegne tra loro. Questo senza considerare attori malintenzionati. Queste sono scenari in cui nulla è rotto, i log sembrano puliti e il tuo sistema sta ancora perdendo dati.

I più grandi gap non sono nella connettività; MCP sta risolvendo questo. I gap sono in ciò che accade dopo che un agente si collega. La maggior parte delle organizzazioni non può rispondere a tre domande di base: Come si comporta la nostra intelligenza artificiale? Chi la controlla? E come proviamo che le politiche sono state applicate?

La nostra ricerca ha mostrato che i confini sono configurati ma mai applicati. Una politica esiste in un documento, un file di configurazione o un’impostazione di deploy-time, ma il sistema in esecuzione non è vincolato da essa. Un assistente esecutivo di intelligenza artificiale mette informazioni non pubbliche materiali su un invito al calendario. Un copilota RAG serve informazioni finanziarie di livello di consiglio di amministrazione a un analista junior. Un SDK di fornitore esfila silenziosamente 10 milioni di query in 12 mesi. In ogni caso, i controlli di accesso erano in atto. I dati sono comunque fuoriusciti.

Fino a quando le aziende non chiudono il gap tra politica configurata e politica applicata, MCP standardizza la porta d’ingresso. Ma la casa è ancora senza guardia.

Quando gli agenti di intelligenza artificiale hanno accesso a sistemi e dati sensibili, quali nuovi rischi di privacy e conformità tendono a emergere che le aziende spesso non sono preparate ad affrontare?

La maggior parte delle aziende pensa alla privacy in termini di dati a riposo o in transito. Quel modello si rompe nei flussi di lavoro dell’intelligenza artificiale agente perché il più grande rischio è l’esposizione dei dati mentre sono utilizzati.

Ecco cosa intendo. Un produttore di auto di prestigio esegue l’intelligenza artificiale sulla sua linea di montaggio. I dati grezzi sembrano innocui: letture dei sensori, sequenze di temporizzazione, controlli di qualità. Ma un LLM può ora ricostruire i processi di produzione proprietari da quei dati di scarico. Cosa che era rumore cinque anni fa è ora una pianta per un concorrente.

La nostra ricerca sulle superfici di esposizione dell’intelligenza artificiale documenta questo modello in dozzine di scenari. Gli strumenti di telemetria operativa catturano i payload di intelligenza artificiale completi per impostazione predefinita, e una banca europea aveva 2,1 milioni di prompt contenenti informazioni personali in flusso verso un’istanza SaaS negli Stati Uniti perché nessuno ha modificato i default APM. La memoria dell’agente perde il contesto tra le sessioni. Le tracce della catena di pensiero espongono registri investigativi completi alle piattaforme di osservabilità accessibili ai contractor. I framework di conformità tradizionali non sono stati progettati per rilevare questo tipo di perdita. Hanno assunto che gli esseri umani stessero spostando i dati alla velocità umana.

Perché l’AI Confidenziale sta diventando un necessario contrappunto a MCP, e come affronta le sfide che gli standard di accesso da soli non possono risolvere?

MCP risolve chi può accedere a cosa e come, mentre l’AI Confidenziale risolve cosa accade una volta che l’accesso è concesso. Sono strati complementari.

Gli standard di accesso da soli non possono prevenire il compromesso del runtime, la deriva delle politiche o l’uso non autorizzato dei dati. Pensalo in questo modo: MCP ti dà un modo standardizzato per collegare gli agenti ai tuoi sistemi. L’AI Confidenziale ti dà garanzie crittografiche che, una volta collegati, quegli agenti possono fare solo ciò che sono autorizzati a fare, e puoi provarlo.

L’AI Confidenziale fornisce quelle garanzie al runtime attraverso i dati, l’identità, il codice e la comunicazione. Fornisce la prova verificabile dell’esecuzione e garantisce che la privacy e l’applicazione delle politiche non si fermino al confine di accesso ma persistano mentre l’intelligenza artificiale ragiona, genera e agisce attivamente. Senza di essa, MCP è una base solida. Ma le fondamenta da sole non rendono un edificio sicuro.

In termini pratici, cosa significa la fiducia verificabile per un’azienda che esegue agenti di intelligenza artificiale autonomi attraverso flussi di lavoro critici?

La fiducia verificabile significa che posso provare cosa è stato eseguito, dove è stato eseguito, sotto quale politica, quali dati sono stati accessi e come il sistema si è comportato nel tempo.

Nella pratica, prendi una compagnia di assicurazioni che utilizza agenti di intelligenza artificiale per elaborare lettere di richiesta. Prima dell’esecuzione, l’attestazione del hardware verifica l’identità dell’agente e l’integrità dell’ambiente. Durante l’esecuzione, il legame di politica crittografica all’interno di un ambiente di esecuzione attendibile (TEE) con supporto hardware garantisce che i dati rimangano protetti e che le politiche siano applicate. Dopo l’esecuzione, una traccia di audit a prova di manomissione registra esattamente cosa è successo.

Il rischio nei flussi di lavoro dell’intelligenza artificiale agente non è che un agente diventi rogue. Il vero rischio è che non puoi dimostrare se una politica è stata applicata o se i dati sensibili sono stati protetti mentre gli agenti erano operativi – prima, durante e dopo. È questo che significa la fiducia verificabile.

Perché la supervisione umana tradizionale si rompe quando i sistemi agente operano alla velocità della macchina, e come le organizzazioni dovrebbero ripensare la governance in questo nuovo ambiente?

Per decenni, internet ha avuto un guardrail invisibile: noi. Gli esseri umani leggevano il contenuto, facevano clic intenzionalmente e non agivano silenziosamente attraverso centinaia di sistemi contemporaneamente.

L’intelligenza artificiale agente cancella quelle assunzioni in una notte. Gli agenti operano continuamente, prendono decisioni alla velocità della macchina e possono essere manipolati da ambienti progettati per gli esseri umani ma sfruttabili dalle macchine. Una pagina web malintenzionata non deve ingannare un’intelligenza artificiale come inganna una persona; può semplicemente istruirla.

A solo l’1% di rischio per agente, una rete di 100 agenti affronta una probabilità del 63% di una violazione. Scalare a mille e sei al 99,99%. La governance umana nel ciclo non può tenere il passo con quei numeri. La supervisione deve spostarsi dalla revisione reattiva alle garanzie di runtime. Ciò significa flussi di lavoro zero-trust, applicazione delle politiche per impostazione predefinita e esecuzione verificabile che non dipende da un essere umano che coglie il fallimento dopo il fatto.

Quali sono i fallimenti di sicurezza più comuni che vedi quando le aziende sperimentano con l’intelligenza artificiale agente senza uno strato di fiducia integrato?

Il modello che vedo più spesso è che le aziende lasciano che gli agenti agiscano e si coordinino senza alcuna garanzia crittografica sul loro comportamento. Stanno elaborando proprietà intellettuale sensibile sulla speranza.

Ciò che segue è prevedibile, e abbiamo documentato i modelli specifici nella nostra ricerca sulle superfici di esposizione dell’intelligenza artificiale. I compromessi del runtime bypassano le difese perimetrali tradizionali perché l’agente è già all’interno della rete. Le catene di agenti autonomi creano fallimenti a catena. Un agente sfruttato scatena un effetto a domino attraverso sistemi connessi. La logica proprietaria perde attraverso i dati di scarico che nessuno pensava di monitorare. Gli agenti perdono la capacità di distinguere l’intento aziendale dall’input malintenzionato perché non c’è alcun legame di politica o identità verificabile al runtime.

Queste non sono ipotetiche. Abbiamo mappato 46 vettori in cui i dati sfuggono ai loro controlli intesi, anche quando nulla sembra rotto. Gli agenti di intelligenza artificiale generano e condividono dati alla velocità della macchina. Senza garanzie di runtime verificabili integrate nel flusso di lavoro, i fallimenti si propagano più velocemente di quanto qualsiasi squadra di sicurezza possa rilevare o rispondere.

Come le principali organizzazioni stanno bilanciando la necessità di sbloccare capacità di intelligenza artificiale avanzate mentre proteggono ancora i loro asset di dati più sensibili?

Le organizzazioni che stanno facendo le cose giuste trattano la privacy e la governance come acceleratori, non freni. Questa è l’intuizione chiave.

Ciò che sto vedendo sul campo è che le principali aziende abbinano capacità di intelligenza artificiale avanzate con piattaforme di intelligenza artificiale confidenziale che forniscono garanzie verificabili, non solo elenchi di controllo della conformità. Stanno sbloccando dati sensibili per l’innovazione dell’intelligenza artificiale mentre assicurano che le informazioni proprietarie rimangano protette, anche quando i flussi di lavoro vengono eseguiti autonomamente.

La vecchia cornice era capacità versus sicurezza. Le organizzazioni che si muovono più velocemente hanno rifiutato completamente quel compromesso. Stanno costruendo la fiducia verificabile nella base della loro strategia di intelligenza artificiale, consentendo loro di mettere a lavoro i loro dati più preziosi. Nel frattempo, i concorrenti sono ancora bloccati nella modalità di prova, eseguendo l’intelligenza artificiale su set di dati sanificati che non spostano l’ago.

Basandoti su ciò che vedi oggi, come ti aspetti che i modelli di governance dell’intelligenza artificiale aziendale evolveranno nei prossimi anni mentre i sistemi agente si spostano dalle prove alla produzione completa?

La governance sta per evolversi dal cartaceo alla prova. È il modo più semplice per dirlo. I primi modelli di governance sono stati costruiti per il software a velocità umana: politiche sulla carta, approvazioni prima della distribuzione, revisioni dopo che qualcosa è andato storto. I sistemi agente rompono ogni una di quelle assunzioni. Operano continuamente, agiscono autonomamente e generano effetti a catena alla velocità della macchina.

Ciò che stiamo vedendo è la governance che si sposta verso la verificabilità di runtime come nuovo confine di sicurezza, supportata da garanzie crittografiche che provano il comportamento in ogni fase del ciclo di vita di un agente, prima, durante e dopo. Lo stesso modello che abbiamo visto con HTTPS sta diventando il default per il traffico web. Nessuno discute più se crittografare le connessioni web. Nel giro di pochi anni, nessuno discuterà più se verificare l’esecuzione dell’intelligenza artificiale al runtime. Sarà un requisito di base.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare OPAQUE.