Chester Leung, Co-Fondatore e Responsabile della Piattaforma AI di OPAQUE – Serie di Interviste

Chester Leung è Co-Fondatore e Responsabile dell’Architettura della Piattaforma di OPAQUE, una startup di serie A che sta costruendo la piattaforma di dati e intelligenza artificiale confidenziale che consente ai team di estendere le loro pipeline di dati aziendali con un livello confidenziale, abilitando insight più rapidi con meno sforzo e privacy e controllo verificabili.

In precedenza, Chester era uno studente di laurea in informatica alla UC Berkeley, dove ha pubblicato articoli peer-reviewed alle migliori conferenze e ha anche ricoperto il ruolo di maintainer principale del progetto open-source MC2 per l’analisi e l’apprendimento automatico collaborativi sicuri.

Ha co-fondato Opaque dopo il suo periodo al RISELab della UC Berkeley, dove il suo lavoro ha collegato l’intelligenza artificiale e i sistemi sicuri. Qual è l’esatto gap nell’infrastruttura dei dati aziendali che ha visto e che ha portato alla creazione di OPAQUE, e come la sua esperienza accademica ha informato la direzione dell’azienda?

Al momento, c’era un’enorme attenzione, sia nell’ambito accademico che in quello industriale, sull’utilizzo dell’apprendimento automatico per casi d’uso specifici. Nel laboratorio, abbiamo avuto l’opportunità di lavorare a stretto contatto con importanti sponsor aziendali che ci hanno aiutato a plasmare il nostro lavoro per risolvere problemi più pressanti che stavano affrontando all’interno delle loro organizzazioni. Il nostro gruppo, in particolare, ha avuto l’opportunità unica di lavorare a stretto contatto con aziende tecnologiche e finanziarie, collaborando per risolvere difficili problemi di privacy legati all’utilizzo di dati sensibili ma preziosi per l’apprendimento automatico. Come tutte le aree dell’intelligenza artificiale, l’apprendimento automatico si basa su grandi quantità di dati di alta qualità per produrre insight preziosi e robusti.

Siamo incappati nello stesso modello più e più volte mentre collaboravamo con team provenienti da aziende come Amazon (AMZN ), Scotiabank e Ant Group (allora Ant Financial): i loro progetti basati sull’intelligenza artificiale si sono bloccati prima di raggiungere la produzione a causa di preoccupazioni relative all’utilizzo di dati sensibili ma critici per questi casi d’uso. In altre parole, questi team non sono stati in grado di utilizzare l’intelligenza artificiale in progetti che sapevano potevano generare valore per l’azienda, non a causa di un problema tecnico con l’intelligenza artificiale, ma perché non potevano accedere ai dati giusti.

In Opaque, stiamo risolvendo lo stesso problema. Stiamo aiutando i team ad accedere ai dati giusti, consentendo loro di sbloccare o di aumentare le loro capacità di intelligenza artificiale. L’unica differenza rispetto ai nostri giorni di ricerca è l’urgenza del problema: ora vediamo costantemente l’adozione e l’integrazione dell’intelligenza artificiale, che continua ad essere un’imperativa strategica a livello aziendale.

Nel panorama in cui le aziende stanno investendo molto in modelli di ragionamento e intelligenza artificiale autonoma, perché ritiene che le pipeline di dati sicure siano più importanti che mai?

Le pipeline di dati sicure sono la spina dorsale su cui le aziende costruiscono modelli di ragionamento e intelligenza artificiale autonoma. Tutto, dalla formazione di questi modelli di ragionamento all’implementazione dell’intelligenza artificiale autonoma, coinvolge dati sensibili e si basa su pipeline di dati sicure.

Ad esempio, stiamo vedendo un aumento degli investimenti nella generazione di dati di alta qualità per addestrare questi modelli. Alcuni rapporti hanno addirittura previsto che l’investimento computazionale nella generazione di dati di alta qualità sarà presto superiore all’investimento computazionale sull’addestramento dei modelli stessi. Naturalmente, la generazione dei dati è un processo multi-step alimentato da pipeline che producono il patrimonio intellettuale più prezioso di un’azienda: dati di alta qualità specifici del dominio che possono addestrare modelli che generano un enorme valore a valle. L’investimento nella generazione di questi dati è enorme, e i dati generati, data la loro provenienza, distinguono effettivamente un’azienda dai suoi concorrenti, fungendo da moat. Un’azienda deve fare tutto il possibile per mantenere sicura questa pipeline.

La piattaforma di calcolo confidenziale di OPAQUE consente analisi su dati crittografati. Quali sono le sfide tecniche principali nel rendere questo sia scalabile che facile da utilizzare per ambienti aziendali?

La nostra piattaforma di intelligenza artificiale confidenziale non solo consente analisi, apprendimento automatico e intelligenza artificiale generativa su dati crittografati, ma fornisce anche una prova verificabile del fatto che i vostri dati sono stati utilizzati solo nei modi che solo voi vi aspettate e permettete.

Le sfide principali, con la scalabilità, lo sviluppo e la gestione, stanno nel rendere l’orchestrazione del carico di lavoro sicura e verificabile su larga scala. In particolare, molte aziende oggi utilizzano servizi cloud gestiti quando devono scalare. Ciò può essere sia conveniente che economico. Tuttavia, una parte del software che alimenta i servizi cloud gestiti è intrinsecamente gestita dal fornitore del cloud. Quindi, la sfida diventa: come può un’organizzazione garantire e verificare il software che non è sotto il suo controllo? Se l’organizzazione riprende il controllo di tutto il software, cosa deve rinunciare a non utilizzando un servizio gestito, e cosa perde facendo ciò?

Ha detto che un’architettura progettata per la sicurezza può fornire un vantaggio competitivo duraturo. Può spiegare come questo principio si applichi praticamente ai team di intelligenza artificiale aziendale?

Ci sono due angoli da cui guardare a questo: un angolo di prodotto e un angolo di ingegneria.

Dall’angolo di prodotto, tutti capiscono che i loro dati sono radioattivi, il loro moat o entrambi. Le aziende stanno diventando sempre più mature nella valutazione della privacy dei dati, della sicurezza e della sovranità delle soluzioni. Di conseguenza, qualsiasi team che costruisca qualsiasi prodotto che elabori dati aziendali deve fornire garanzie che i dati elaborati siano visibili e utilizzati solo da parti e entità autorizzate. Un’architettura progettata per la sicurezza fornisce la fiducia che la privacy dei dati, la sicurezza e la sovranità siano state considerazioni di primo piano nella progettazione del prodotto e consentono al prodotto di fornire esplicitamente queste garanzie.

Dall’angolo di ingegneria, un’architettura progettata per la sicurezza è più estensibile e a prova di futuro. I team di legale, rischio e conformità stanno diventando sempre più severi in risposta a nuovi rischi e regolamenti. Pertanto, le organizzazioni di ingegneria dovrebbero voler costruire un sistema di intelligenza artificiale aziendale sicuro fin dall’inizio, in modo da non doverlo riarchitettare e/o correggere una volta che si rendono conto che il loro sistema esistente non è sufficientemente sicuro e a prova di rischio. Dovere riarchitettare e correggere costa mesi, se non anni, di preziosa larghezza di banda di ingegneria.

Man mano che i sistemi di intelligenza artificiale autonomi evolvono, come le organizzazioni dovrebbero ripensare il ruolo dei dati – al di là di una risorsa – come un moat difendibile?

C’è un consenso crescente nel settore che i dati potrebbero presto essere l’unico moat che un’organizzazione abbia. Stiamo vedendo ricerca e talenti di ingegneria, e le tecnologie e i prodotti geniali che costruiscono, saltare da un’organizzazione all’altra. Di conseguenza, numerose organizzazioni sono in grado di offrire gli stessi prodotti, supportati dalle stesse tecnologie.

Ciò che non può essere facilmente trasferito da un’organizzazione all’altra, tuttavia, sono i dati di un’organizzazione – a meno che non vengano persi. Inoltre, sono proprio quei dati che possono rendere un prodotto più attraente dei suoi concorrenti – più personalizzato, adattato e specifico del dominio. Le organizzazioni devono fare tutto il possibile per proteggere i loro dati, consentendo loro di sfruttare i loro dati come il vantaggio competitivo.

Cosa si intende per pipeline di intelligenza artificiale resiliente nella pratica, e come aiuta le aziende a evitare costi o rischi nascosti mentre ampliano i loro dispiegamenti di intelligenza artificiale?

Una pipeline di intelligenza artificiale resiliente è quella che è affidabile, a prova di guasti, ma soprattutto verificabilmente sicura da un capo all’altro. Prima dell’elaborazione, le aziende dovrebbero verificare sia i dati che stanno entrando nella pipeline, sia la pipeline stessa, per assicurarsi che non ci sia la possibilità che la pipeline utilizzi male i dati. Durante l’elaborazione, la pipeline di intelligenza artificiale dovrebbe essere a prova di manomissione, per garantire che nessuno possa rubare i dati che sta elaborando o distorcere le informazioni che fornisce. Dopo l’elaborazione, la pipeline di intelligenza artificiale dovrebbe essere verificabilmente auditabile, in modo che un team possa osservare e spiegare la logica decisionale e la traiettoria della pipeline di intelligenza artificiale, e in modo che un team possa vedere cosa è andato storto quando qualcosa va storto.

È imperativo considerare come una pipeline di intelligenza artificiale insicura e difettosa potrebbe far perdere i dati di un’organizzazione o il suo modello proprietario, e le implicazioni che ciò ha sui fattori di differenziazione di un’azienda o sulla sua reputazione. Ciò che è più importante, tuttavia, è questo: man mano che le aziende ampliano il dispiegamento dell’intelligenza artificiale in casi d’uso più critici e impattanti, il rischio di una pipeline di intelligenza artificiale insicura e inesplicabile cresce esponenzialmente. In un mondo in cui le decisioni di prestito e di assunzione sono già aumentate dall’intelligenza artificiale, influenzando tutto, dalle finanze personali alle carriere, un errore intenzionale o non intenzionale in una pipeline di intelligenza artificiale potrebbe avere un effetto drammatico sulla vita di un individuo.

Molte aziende si concentrano sull’accuratezza del modello o sulla latenza. Cosa stanno trascurando quando si tratta di integrità dei dati e di rischio operativo a lungo termine?

Mentre molte aziende si concentrano sul modello o sulla tecnologia di intelligenza artificiale, ho sempre creduto che i dati siano il collo di bottiglia fondamentale per il dispiegamento di intelligenza artificiale che genera valore.

Avere un modello che genera rapidamente una risposta accurata su un argomento che l’utente finale non si cura genera zero valore. Per costruire un prodotto unicamente attraente, le aziende devono assicurarsi che i loro modelli, e i prodotti che alimentano, siano addestrati con dati di alta qualità e pertinenti. I problemi di igiene dei dati che derivano dalla mancanza di dati di input di alta qualità potrebbero non emergere fino a mesi dopo.

In secondo luogo, abbiamo trovato che le aziende in generale non hanno una buona storia per rilevare la deriva dei dati, la contaminazione o la perdita, mettendo a repentaglio l’integrità del modello. Ciò è strettamente legato al mio primo punto, e mentre più di una soluzione reattiva, rende le valutazioni e l’osservabilità ancora più importanti.

OPAQUE si integra con gli stack cloud esistenti. Cosa ha imparato sull’equilibrio tra facilità di adozione e garanzie di sicurezza solide nei dispiegamenti aziendali?

Abbiamo trascorso quasi un decennio, a partire dai nostri giorni di ricerca, a risolvere questo problema. La sicurezza provabile dei sistemi di intelligenza artificiale, soprattutto in un ambiente aziendale, è un problema molto difficile. Richiede competenze in sistemi, sicurezza, crittografia e intelligenza artificiale. Di conseguenza, la maggior parte dei sistemi che abbiamo incontrato non sono stati fondamentalmente sicuri – perché la sicurezza è così difficile da implementare.

In Opaque, abbiamo costruito un prodotto che è il meglio di entrambi i mondi – intrinsecamente e verificabilmente sicuro fin dall’inizio, ma facilmente distribuibile attraverso i marketplace cloud e sufficientemente flessibile per integrarsi con nuove e esistenti applicazioni di intelligenza artificiale.

Quali tipi di minacce o vulnerabilità stanno emergendo intorno alle pipeline di intelligenza artificiale e al condivisione dei dati che i leader aziendali potrebbero non apprezzare ancora appieno?

Ciò che stiamo vedendo in questa corsa all’oro dell’intelligenza artificiale autonoma è un’urgenza cieca nel dispiegare agenti di intelligenza artificiale che interagiscono con vari sistemi di registrazione. Mentre questi agenti possono fornire valore, rappresentano anche enormi rischi perché toccano così tanti sistemi con dati preziosi. Gli agenti sono intrinsecamente non deterministici, e abbiamo visto innumerevoli istanze in cui vanno e fanno qualcosa che non ci aspettiamo. In un mondo in cui i vostri dati sono il vostro unico moat, i leader aziendali dovrebbero sempre chiedersi se possono fidarsi e affidarsi ad agenti di intelligenza artificiale che hanno accesso a tutti i loro dati per non utilizzarli male accidentalmente o intenzionalmente.

Man mano che la regolamentazione dell’intelligenza artificiale prende forma a livello globale, come vede l’interazione tra infrastrutture di dati sicure, responsabilità del modello e conformità evolversi nei prossimi anni?

Un’infrastruttura di dati sicura e verificabile consente la responsabilità del modello e dell’agente. In particolare, senza una prova verificabile della logica decisionale o dell’utilizzo degli strumenti di un agente o modello, non possiamo essere certi di nulla, quindi non potremo tracciare la responsabilità. Man mano che l’intelligenza artificiale si integra sempre più nella nostra vita quotidiana, vorremmo più spiegabilità e osservabilità nell’intelligenza artificiale. Tuttavia, quando l’intelligenza artificiale può operare a velocità di macchina, e noi no, un’intelligenza artificiale malvagia può facilmente ingannarci costruendo false storie. Abbiamo bisogno di verificabilità per tenere l’intelligenza artificiale responsabile.

Per me, la conformità regolamentare è molto reattiva. Lo sviluppo e l’approvazione delle regolamentazioni si muovono molto più lentamente dell’innovazione tecnologica. Ciò sarà sempre più vero man mano che l’intelligenza artificiale ci aiuterà ad aumentare il nostro ritmo di innovazione. Mentre la conformità alla fine spingerà i ritardatari ad adottare un’infrastruttura di dati sicura, i primi adottanti e la maggioranza riconoscono che è critico per la sicurezza dell’intelligenza artificiale, e l’adotteranno molto prima che la conformità lo renda obbligatorio. Capiscono che la responsabilità dell’agente, abilitata da un’infrastruttura di dati sicura, è critica per l’adozione dei propri prodotti alimentati dall’intelligenza artificiale.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare OPAQUE.