Mike Capps, Co-Fondatore & Amministratore Delegato di Diveplane – Serie di Interviste

Il Dr. Michael Capps è un noto tecnologo e Amministratore Delegato di Diveplane Corporation. Prima di co-fondare Diveplane, Mike ha avuto una carriera leggendaria nell’industria dei videogiochi come presidente di Epic Games, produttori di blockbuster come Fortnite e Gears of War. Il suo mandato includeva oltre cento premi “gioco dell’anno”, decine di keynote di conferenze, un premio per il lifetime achievement e una difesa di successo della libertà di parola dei videogiochi alla Corte Suprema degli Stati Uniti.

Diveplane offre soluzioni aziendali basate sull’intelligenza artificiale in diversi settori. Con sei brevetti approvati e molti altri in attesa di approvazione, l’AI comprensibile di Diveplane fornisce una completa comprensione e trasparenza decisionale a supporto di politiche di intelligenza artificiale etiche e strategie di protezione dei dati.

Ha avuto un ritiro di successo da una carriera di successo nell’industria dei videogiochi presso Epic Games, cosa l’ha ispirato a uscire dal ritiro per concentrarsi sull’intelligenza artificiale?

Creare giochi è stato divertente, ma – almeno all’epoca – non era una carriera ideale quando si aveva una nuova famiglia. Mi sono tenuto occupato con incarichi di amministratore e ruoli di consulente, ma non era gratificante. Quindi, ho fatto una lista di tre grandi problemi che il mondo stava affrontando e che potevo influenzare – e tra questi c’era la proliferazione di sistemi di intelligenza artificiale “black box”. Il mio piano era quello di trascorrere un anno su ciascuno di questi problemi, ma poche settimane dopo, il mio amico geniale Chris Hazard mi ha detto che stava lavorando in segreto a una piattaforma di intelligenza artificiale trasparente e completamente spiegabile. E così siamo arrivati a questo punto.

Diveplane è stata fondata con la missione di portare l’umanità nell’intelligenza artificiale, può spiegare cosa significa questo nello specifico?

Certo. Qui stiamo utilizzando il termine “umanità” per intendere “umanesimo” o “compassione”. Per assicurarsi che il meglio dell’umanità sia nel modello di intelligenza artificiale, non si può semplicemente addestrare, testare un po’ e sperare che tutto vada bene.

Dobbiamo esaminare attentamente i dati di input, il modello stesso e l’output del modello, e assicurarci che rifletta il meglio della nostra umanità. La maggior parte dei sistemi addestrati con dati storici o del mondo reale non saranno corretti al primo tentativo e non sono necessariamente privi di pregiudizi. Crediamo che l’unico modo per eliminare i pregiudizi in un modello – intesi come errori statistici e pregiudizi – sia la combinazione di trasparenza, verificabilità e spiegazione comprensibile per gli esseri umani.

La tecnologia principale di Diveplane si chiama REACTOR, cosa la rende un approccio innovativo per rendere l’apprendimento automatico spiegabile?

L’apprendimento automatico di solito comporta l’utilizzo di dati per costruire un modello che prende una particolare decisione. Le decisioni possono includere l’angolo di sterzo per un veicolo, se approvare o rifiutare un acquisto o segnalarlo come frode, o quale prodotto raccomandare a qualcuno. Se si vuole capire come il modello ha preso la decisione, di solito si deve chiedere al modello molte decisioni simili e poi provare di nuovo a prevedere cosa il modello stesso potrebbe fare. Le tecniche di apprendimento automatico sono limitate nei tipi di informazioni che possono offrire, se le informazioni riflettono effettivamente cosa il modello ha fatto per prendere la decisione, o se hanno un’accuratezza inferiore.

Lavorare con REACTOR è diverso. REACTOR caratterizza l’incertezza dei dati e i dati diventano il modello. Invece di costruire un modello per ogni tipo di decisione, si chiede semplicemente a REACTOR cosa si desidera che decida – può essere qualsiasi cosa relativa ai dati – e REACTOR richiede quali dati sono necessari per una decisione specifica. REACTOR può sempre mostrare i dati utilizzati, come sono collegati alla risposta, ogni aspetto di incertezza, ragionamento controfattuale e virtualmente qualsiasi altra domanda si desideri porre. Poiché i dati sono il modello, è possibile modificare i dati e REACTOR verrà aggiornato istantaneamente. Può mostrare se c’erano dati anomali che sono entrati nella decisione e tracciare ogni modifica ai dati e alla loro origine. REACTOR utilizza la teoria della probabilità in ogni sua parte, il che significa che possiamo dire le unità di misura di ogni parte della sua operazione. E, infine, è possibile riprodurre e convalidare qualsiasi decisione utilizzando solo i dati che hanno portato alla decisione e le incertezze, utilizzando matematica relativamente semplice senza nemmeno aver bisogno di REACTOR.

REACTOR è in grado di fare tutto ciò mantenendo un’accuratezza molto competitiva, specialmente per piccoli e sparsi set di dati.

GEMINAI è un prodotto che costruisce un gemello digitale di un set di dati, cosa significa questo e come assicura la protezione dei dati?

Quando si alimenta GEMINAI con un set di dati, costruisce una profonda conoscenza della forma statistica di quei dati. È possibile utilizzarlo per creare un gemello sintetico che assomiglia alla struttura dei dati originali, ma tutti i record sono nuovamente creati. Ma la forma statistica è la stessa. Ad esempio, la frequenza cardiaca media dei pazienti in entrambi i set sarebbe quasi la stessa, come lo sarebbero tutte le altre statistiche. Quindi, qualsiasi analisi dei dati utilizzando il gemello darebbe la stessa risposta dei dati originali, inclusa la formazione di modelli di apprendimento automatico.

E se qualcuno ha un record nei dati originali, non ci sarebbe un record per lui nel gemello sintetico. Non stiamo semplicemente rimuovendo il nome – ci assicuriamo che non ci sia un nuovo record che sia “vicino” al suo record (e a tutti gli altri) nello spazio delle informazioni. Cioè, non c’è un record che sia riconoscibile sia nel set originale che in quello sintetico.

E questo significa che il set di dati sintetico può essere condiviso molto più liberamente senza rischi di condivisione di informazioni confidenziali. Non importa se si tratta di transazioni finanziarie personali, informazioni sanitarie dei pazienti, dati classificati – finché le statistiche dei dati non sono confidenziali, il gemello sintetico non è confidenziale.

Perché GEMINAI è una soluzione migliore rispetto all’utilizzo della privacy differenziale?

La privacy differenziale è un insieme di tecniche che mantengono la probabilità che un individuo influenzi le statistiche più di una quantità marginale, ed è un pezzo fondamentale in quasi ogni soluzione di protezione dei dati. Tuttavia, quando la privacy differenziale viene utilizzata da sola, è necessario gestire un budget di privacy per i dati, con sufficiente rumore aggiunto a ogni query. Una volta che il budget è stato utilizzato, i dati non possono essere utilizzati nuovamente senza incorrere in rischi per la privacy.

Un modo per superare questo budget è quello di applicare il budget di privacy completo in una sola volta per addestrare un modello di apprendimento automatico a generare dati sintetici. L’idea è che questo modello, addestrato utilizzando la privacy differenziale, possa essere utilizzato in modo relativamente sicuro. Tuttavia, l’applicazione appropriata della privacy differenziale può essere difficile, specialmente se ci sono volumi di dati diversi per diversi individui e relazioni più complesse, come le persone che vivono nella stessa casa. E i dati sintetici prodotti da questo modello sono spesso probabili includere, per caso, dati reali che un individuo potrebbe affermare essere propri perché sono troppo simili.

GEMINAI risolve questi problemi e molti altri combinando più tecniche di privacy quando si sintetizzano i dati. Utilizza una forma pratica di privacy differenziale che può accogliere una vasta gamma di tipi di dati. È costruito sul nostro motore REACTOR, quindi sa anche la probabilità che pezzi di dati possano essere confusi gli uni con gli altri e sintetizza i dati assicurandosi che siano sempre sufficientemente diversi dai dati originali più simili. Inoltre, tratta ogni campo, ogni pezzo di dati come potenzialmente sensibili o identificativi, quindi applica forme pratiche di privacy differenziale per campi che non sono tradizionalmente considerati sensibili ma potrebbero identificare univocamente un individuo, come l’unico acquisto in un negozio aperto 24 ore su 24 tra le 2 e le 3 del mattino. Spesso ci riferiamo a questo come “privacy cross-shredding”.

GEMINAI è in grado di raggiungere un’alta accuratezza per quasi ogni scopo, che assomiglia ai dati originali, ma impedisce a chiunque di trovare dati sintetici troppo simili ai dati sintetici.

Diveplane è stata strumentale nella co-fondazione dell’Alleanza Dati & Fiducia, cosa è questa alleanza?

È un gruppo assolutamente fantastico di amministratori delegati di tecnologia, che collaborano per sviluppare e adottare pratiche di dati e intelligenza artificiale responsabili. Organizzazioni di classe mondiale come IBM, Johnson & Johnson, Mastercard (MA ), UPS, Walmart (WMT ) e Diveplane. Siamo molto orgogliosi di essere stati parte delle prime fasi e anche orgogliosi del lavoro che abbiamo collettivamente realizzato sui nostri progetti.

Diveplane ha recentemente raccolto un round di finanziamento di serie A di successo, cosa significherà questo per il futuro dell’azienda?

Siamo stati fortunati nel nostro successo con i progetti aziendali, ma è difficile cambiare il mondo un’azienda alla volta. Utilizzeremo questo sostegno per costruire il nostro team, condividere il nostro messaggio e portare l’intelligenza artificiale comprensibile in quanti più posti possibili!

C’è qualcos’altro che desidera condividere su Diveplane?

Diveplane è tutta questione di assicurarsi che l’intelligenza artificiale sia fatta correttamente mentre si diffonde. Siamo per un’intelligenza artificiale equa, trasparente e comprensibile, che mostra proattivamente cosa sta guidando le decisioni e si allontana dalla “mentalità della scatola nera” nell’intelligenza artificiale che ha il potenziale di essere ingiusta, non etica e pregiudicata. Crediamo che la spiegabilità sia il futuro dell’intelligenza artificiale e siamo entusiasti di svolgere un ruolo fondamentale nel guidarla!

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Diveplane.