Alyssa Simpson Rochwerger, coautrice di Real World AI – Serie di interviste

Alyssa Rochwerger è un leader di prodotto orientato al cliente, dedicato a costruire prodotti che risolvono problemi difficili per persone reali. Ha ricoperto numerosi ruoli di leadership nel settore del machine learning. Ha lavorato come VP of product per Figure Eight (acquisita da Appen), VP of AI e data presso Appen e direttore del prodotto presso IBM Watson. Recentemente ha lasciato il settore per perseguire il suo sogno di utilizzare la tecnologia per migliorare la sanità. Attualmente lavora come direttore del prodotto presso Blue Shield of California, dove è felice di essere circondata da molti dati, problemi difficili e nulla se non opportunità per avere un impatto positivo.

Discutiamo del suo nuovo libro: Il mondo reale dell’AI: una guida pratica per il machine learning responsabile

Nell’introduzione del libro, descrivi come, quando eri product manager presso IBM, hai incontrato per la prima volta un problema con un sistema di intelligenza artificiale che forniva informazioni distorte quando una foto di una persona su una sedia a rotelle era classificata dall’algoritmo come “perdente”. Quanto è stato un campanello d’allarme per te sulla questione del pregiudizio dell’AI?

Non lo definirei un campanello d’allarme, ma piuttosto la mia prima esperienza di costruzione di un prodotto basato sul machine learning (ero solo pochi mesi nel ruolo) e non conoscevo ancora abbastanza bene come funzionava questa tecnologia per mettere in atto le dovute cautele e mitigare attivamente il pregiudizio indesiderato. È stata un’esperienza che mi ha aperto gli occhi su questo problema – e mi ha reso acutamente consapevole, in futuro, di quanto sia facile che il pregiudizio societario sistematico venga codificato nei prodotti basati sul machine learning se il team non si impegna attivamente a mitigarlo. Ero felice di lavorare in un’istituzione che si preoccupa profondamente dell’equità e mette risorse per mitigarla.

Cosa hai imparato personalmente, ricercando e scrivendo questo libro?

Da un punto di vista personale – ho dovuto ritagliarmi del tempo per scrivere questo libro mentre cambiavo lavoro, avevo un bambino di un anno e navigavo nel COVID. Ho imparato a ritagliarmi del tempo per rendere questa priorità e a chiedere aiuto alla mia famiglia, che mi ha concesso il tempo per dedicarmi alla scrittura del libro.

Professionalemente – è stato meraviglioso avere così tanti partecipanti che hanno condiviso volontariamente e generosamente le loro storie con noi per la pubblicazione. I professionisti del machine learning, a mio parere, sono un gruppo di persone incredibilmente pensierose e generose – disposte ad aiutare gli altri e a condividere errori e lezioni apprese. Purtroppo, molte di queste storie di lezioni apprese non sono state incluse in questo libro o hanno dovuto essere anonimizzate in modo significativo, a causa della preoccupazione di rendere pubbliche informazioni dietro le quinte che potrebbero far apparire una società o un individuo in cattiva luce se prese in modo errato. Sebbene questo sia certamente normale, personalmente ritengo che sia un peccato – credo molto nell’apprendimento e nella crescita attraverso l’esperienza e gli errori, se possono essere utili per gli altri.

Quali sono alcune delle lezioni più importanti che spera che le persone trarranno dalla lettura di questo libro?

Spero che le persone imparino che il machine learning non è super spaventoso o difficile da capire. Che si tratta di una tecnologia potente, ma a volte fragile, che necessita di guida e struttura per risolvere problemi difficili. E che l’uso responsabile e etico di questa tecnologia è fondamentale per la maturità e il successo – e che concentrarsi sulla mitigazione dei pregiudizi dannosi fin dall’inizio è fondamentale per il successo aziendale.

Un esempio di pregiudizio di genere dell’AI descritto nel libro è stato il caso della carta di credito Apple (AAPL ) che rilasciava linee di credito più basse alle donne rispetto agli uomini. Questo è stato un esempio di come omettere il genere come opzione non abbia tenuto conto di altre variabili che possono servire come proxy per il genere. L’esempio ha dimostrato che senza l’input “genere” è stato impossibile capire che l’esito era distorto fino a dopo il rilascio del prodotto finale. Quali tipi di input di dati ritiene che non dovrebbero mai essere omessi per evitare pregiudizi contro il genere o le minoranze?

Non esiste una regola ferrea – ogni set di dati, caso d’uso e situazione è diverso. Incoraggerei i pratici a immergersi nei dettagli e nella sottigliezza del problema che un algoritmo di machine learning sta cercando di risolvere – e quale pregiudizio dannoso potrebbe essere codificato in quella decisione.

Il libro descrive come una responsabilità primaria quando si comunica con il team di AI sia definire precisamente gli esiti importanti per l’azienda. Quanto spesso, a suo parere, le aziende falliscono in questo compito?

Direi che, a mio parere, la maggior parte delle volte gli esiti non sono definiti o sono definiti solo a livello generale. Entrare nei dettagli sugli esiti specifici è un modo semplice per preparare il team per il successo fin dall’inizio.

Il libro parla dell’importanza di rendersi conto che un sistema di AI non è un sistema “impostalo e dimenticalo”. Potresti discutere brevemente di questo?

Questo è l’errore classico che la maggior parte delle aziende commette quando lancia un nuovo sistema di ML in produzione. La realtà cambia – il tempo passa, ciò che era vero ieri (i dati di addestramento) potrebbe non essere vero domani. Dipende dalle circostanze, ma nella maggior parte dei casi, è importante essere in grado di apprendere e adattarsi e prendere decisioni migliori nel tempo sulla base di informazioni più recenti.

I prodotti basati sul machine learning sono essenzialmente dei decisori. Per paragonarlo a un esempio umano – è come un arbitro in una partita di football ad alto livello. Molte volte, se è un arbitro ben addestrato con esperienza, l’arbitro prende una buona decisione e la partita prosegue – ma a volte, quell’arbitro prende una cattiva decisione – o non è sicuro di cosa decidere – e deve tornare indietro e rivedere il video – chiedere ad alcune altre persone per prendere una decisione su una particolare giocata. Allo stesso modo, i prodotti di ML necessitano di feedback, addestramento e, a volte, non sono sicuri. Devono avere opzioni di riserva per tornare indietro, nonché nuove informazioni da cui imparare per migliorare nel tempo. Un buon arbitro impara nel tempo e migliora nel prendere giudizi.

Potresti parlare dell’importanza di creare un team cross-funzionale che possa identificare quali problemi sono meglio affrontati utilizzando l’AI?

La tecnologia del machine learning è generalmente adatta a problemi molto difficili e specifici che non vengono risolti con altri approcci. Ogni problema difficile – richiede un team per essere risolto. Quando le aziende sono nuove all’AI – c’è spesso una narrazione falsa secondo cui un solo scienziato del machine learning, o anche un team di machine learning, possa risolvere il problema da solo. Non ho mai trovato che questo sia vero. Richiede un team con background e approcci diversi per affrontare un problema difficile – e sicuramente per implementare con successo la tecnologia del machine learning in produzione.

Grazie per la grande intervista, per i lettori (e in particolare per gli esecutivi aziendali) che sono interessati a saperne di più, consiglio di leggere il libro Il mondo reale dell’AI: una guida pratica per il machine learning responsabile.