Amy Steier, Principal Machine Learning Scientist at Gretel.ai – Intervista

Amy Steier è il Principal Machine Learning Scientist di Gretel.ai, la piattaforma di ingegneria della privacy più avanzata del mondo. Gretel rende facile l’integrazione della privacy per design nel tessuto della tecnologia guidata dai dati. Le sue librerie basate su intelligenza artificiale e open-source sono progettate per trasformare, anonimizzare e sintetizzare informazioni sensibili.

Amy è una scienziata di machine learning e data science molto esperta, con più di 20 anni di esperienza. La sua passione è il big data e portare alla luce l’intelligenza nascosta utilizzando tecniche di machine learning, data mining, intelligenza artificiale e statistica. È molto abile nel modeling predittivo, classificazione, clustering, rilevamento di anomalie, visualizzazione dei dati, metodi ensemble, recupero delle informazioni, analisi di sicurezza informatica, NLP, modelli di raccomandazione e analisi del comportamento degli utenti.

Cosa ti ha inizialmente attirato a perseguire una carriera nel computer science e machine learning?

Il mio amore puro, senza riserve e duraturo per i dati. Il potere, il mistero, l’intrigo e il potenziale dei dati mi hanno sempre affascinato. Il computer science e il machine learning sono strumenti per sfruttare questo potenziale. È anche terribilmente divertente lavorare in un campo dove lo stato dell’arte si muove così velocemente. Mi piace l’intersezione tra ricerca e prodotto. È molto soddisfacente prendere idee all’avanguardia, spingerle un po’ più in là e poi adattarle alle esigenze di prodotto esistenti e tangibili.

Per i lettori che non sono familiari, potresti spiegare cosa è il dato sintetico?

I dati sintetici sono dati che sembrano e agiscono come i dati originali, ma sono anche abbastanza diversi da soddisfare alcuni casi d’uso. Il caso d’uso più comune è la necessità di proteggere la privacy delle informazioni nei dati originali. Un altro caso d’uso è la necessità di creare ulteriori dati per aumentare le dimensioni del set di dati originale. Un altro caso d’uso è aiutare a risolvere un problema di squilibrio di classe o forse di pregiudizio demografico nel set di dati originale.

I dati sintetici ci consentono di continuare a sviluppare nuovi e innovativi prodotti e soluzioni quando i dati necessari per farlo altrimenti non sarebbero presenti o disponibili.

Come funziona la piattaforma Gretel per creare dati sintetici tramite API?

Le API di ingegneria della privacy di Gretel consentono di ingurgitare dati in Gretel ed esplorare i dati che possiamo estrarre. Queste sono le stesse API utilizzate dal nostro Console. Esporre le API attraverso un’interfaccia intuitiva, speriamo di potenziare gli sviluppatori e i data scientist per costruire i propri flussi di lavoro intorno a Gretel.

Mentre la console rende facile la creazione di dati sintetici, le API consentono di integrare la creazione di dati sintetici nel proprio flusso di lavoro. Mi piace utilizzare le API perché mi consentono di personalizzare la creazione di dati sintetici per un caso d’uso molto specifico.

Potresti discutere alcuni degli strumenti offerti da Gretel per aiutare a valutare la qualità dei dati sintetici?

Dopo la creazione dei dati sintetici, Gretel genererà un rapporto sintetico. In questo rapporto puoi vedere il Punteggio di qualità dei dati sintetici (SQS), nonché un grado di livello di protezione della privacy (PPL).

Il punteggio SQS è una stima di quanto bene i dati sintetici generati mantengono le stesse proprietà statistiche del set di dati originale. In questo senso, il punteggio SQS può essere visto come un punteggio di utilità o un punteggio di fiducia su cui le conclusioni scientifiche tratte dal set di dati sintetico sarebbero le stesse se si utilizzasse il set di dati originale.

Il Punteggio di qualità dei dati sintetici è calcolato combinando le metriche di qualità individuali: Stabilità della distribuzione dei campi, Stabilità della correlazione dei campi e Stabilità della struttura profonda.

La Stabilità della distribuzione dei campi è una misura di quanto bene i dati sintetici mantengono le stesse distribuzioni dei campi dei dati originali. La Stabilità della correlazione dei campi è una misura di quanto bene le correlazioni tra i campi sono mantenute nei dati sintetici. E infine, la Stabilità della struttura profonda misura l’integrità statistica delle distribuzioni e delle correlazioni multi-campo più profonde. Per stimare questo, Gretel confronta un’analisi dei componenti principali (PCA) calcolata prima sui dati originali e poi sui dati sintetici.

Come funzionano i filtri di privacy di Gretel?

I filtri di privacy di Gretel sono stati il culmine di molte ricerche sulla natura degli attacchi avversari ai dati sintetici. I filtri di privacy impediscono la creazione di dati sintetici con debolezze comunemente sfruttate dagli avversari. Abbiamo due filtri di privacy, il primo è il filtro di similarità e il secondo è il filtro di outlier. Il filtro di similarità impedisce la creazione di record sintetici che sono troppo simili a un record di addestramento. Questi sono bersagli primari degli avversari che cercano di ottenere informazioni sui dati originali. Il secondo filtro di privacy è il filtro di outlier. Questo impedisce la creazione di record sintetici che sarebbero considerati outlier nello spazio definito dai dati di addestramento. Gli outlier rivelati in un set di dati sintetico possono essere sfruttati da attacchi di inferenza di appartenenza, attributo e una vasta gamma di altri attacchi avversari. Sono un grave rischio per la privacy.

Come possono i dati sintetici aiutare a ridurre il bias dell’AI?

La tecnica più comune è quella di affrontare il pregiudizio rappresentativo dei dati che alimentano un sistema AI. Ad esempio, se esiste un forte squilibrio di classe nei tuoi dati o forse esiste un pregiudizio demografico nei tuoi dati, Gretel offre strumenti per aiutare a misurare lo squilibrio e poi risolverlo nei dati sintetici. Rimuovendo il pregiudizio nei dati, spesso si rimuove anche il pregiudizio nel sistema AI costruito sui dati.

Chiaramente, ti piace imparare nuove tecnologie di machine learning, come fai a stare al passo con tutti i cambiamenti?

Leggo, leggo e leggo ancora, lol! Mi piace iniziare la mia giornata leggendo di nuove tecnologie di ML. Mi piace leggere articoli in Towards Data Science, Analytics Vidhya e newsletter come The Sequence. Facebook (META ) AI, Google (GOOGL ) AI e OpenMined hanno tutti grandi blog. Ci sono una moltitudine di buone conferenze da seguire come NeurIPS, ICML, ICLR, AISTATS.

Mi piacciono anche gli strumenti che seguono le tracce delle citazioni, aiutano a trovare articoli simili a quelli che ti piacciono e che conoscono i tuoi interessi specifici e sono sempre in ascolto in sottofondo per un articolo che potrebbe interessarti. Zeta Alpha è uno strumento che utilizzo molto.

Infine, non si può sottovalutare il beneficio di avere colleghi con interessi simili. A Gretel, il team di ML segue le ricerche pertinenti ai campi che esploriamo e si riunisce frequentemente per discutere articoli interessanti.

Qual è la tua visione per il futuro del machine learning?

L’accesso facile ai dati inizierà una grande era di innovazione nel machine learning, che a sua volta aumenterà l’innovazione in una vasta gamma di campi come la sanità, la finanza, la produzione e le bioscienze. Storicamente, molte scoperte fondamentali nel ML possono essere attribuite a grandi volumi di dati ricchi. Tuttavia, storicamente, molte ricerche sono state ostacolate dall’incapacità di accedere o condividere i dati a causa di preoccupazioni sulla privacy. Come strumenti come Gretel rimuovono questa barriera, l’accesso ai dati sarà democratizzato. L’intera comunità di machine learning trarrà beneficio dall’accesso a set di dati ricchi e grandi, invece di solo poche aziende elite.

C’è qualcos’altro che ti piacerebbe condividere su Gretel?

Se ami i dati, amerai Gretel (evidentemente, io amo Gretel!). L’accesso facile ai dati è stato il problema di ogni data scientist che abbia mai conosciuto. A Gretel, ci prendiamo grande orgoglio nel aver creato una console e un set di API che rendono la creazione di dati privati e condivisibili così semplice. Crediamo profondamente che i dati siano più preziosi quando vengono condivisi.

Grazie per la grande intervista e per aver condiviso le tue idee, i lettori che desiderano saperne di più possono visitare Gretel.ai.