Alyssa Simpson Rochwerger, Co-Autore di Real World AI – Serie di Interviste

Alyssa Rochwerger è un leader di prodotto orientato al cliente, dedicato a costruire prodotti che risolvono problemi difficili per persone reali. Ha ricoperto numerosi ruoli di leadership nel settore dei prodotti per organizzazioni di apprendimento automatico. Ha lavorato come VP di prodotto per Figure Eight (acquisita da Appen), VP di AI e dati presso Appen, e direttore di prodotto presso IBM Watson. Recentemente ha lasciato il settore per perseguire il suo sogno di utilizzare la tecnologia per migliorare la sanità. Attualmente lavora come direttore di prodotto presso Blue Shield of California, dove è felice di essere circondata da molti dati, problemi difficili e nulla se non opportunità per avere un impatto positivo.

Discutiamo del suo nuovo libro: Il mondo reale dell’AI: una guida pratica per l’apprendimento automatico responsabile

Nell’introduzione del libro, descrivi come, quando eri un product manager di IBM, hai incontrato per la prima volta un problema con un sistema di intelligenza artificiale che forniva informazioni distorti quando una foto di una persona su una sedia a rotelle è stata classificata dall’algoritmo come “perdente”. Quanto è stato un campanello d’allarme per te sulla questione del pregiudizio dell’AI?

Non lo chiamerei un campanello d’allarme, ma piuttosto la mia prima esperienza di costruzione di un prodotto basato sull’apprendimento automatico (ero solo pochi mesi nel ruolo) e non conoscevo ancora abbastanza bene come funzionava questa tecnologia per mettere in atto le dovute precauzioni e mitigare attivamente i pregiudizi indesiderati. È stata un’esperienza che mi ha aperto gli occhi e mi ha reso acutamente consapevole di questo problema – e mi ha fatto capire che l’equità, l’accesso e l’inclusione sono temi di cui sono appassionata – e lo sono stata per molto tempo – ho anche vinto un premio al college per la mia attività di sensibilizzazione per gli studenti con disabilità. Questa esperienza presso IBM mi ha aiutato a capire, da un punto di vista tecnico, quanto sia facile che i pregiudizi sistematici della società vengano codificati nei prodotti basati sull’apprendimento automatico se il team non si impegna attivamente a mitigarli. Ero felice di lavorare in un’istituzione che si preoccupa profondamente dell’equità e mette risorse per mitigarla.

Cosa hai imparato personalmente ricercando e scrivendo questo libro?

Sul piano personale – ho dovuto ritagliarmi del tempo per scrivere questo libro mentre cambiavo lavoro, avevo un bambino di 1 anno e stavo navigando il COVID. Ho imparato a ritagliarmi del tempo per rendere questa priorità e a chiedere aiuto alla mia famiglia, il che mi ha concesso il tempo di dedicarmi alla scrittura del libro.

Professionalmente – è stato meraviglioso avere così tanti partecipanti che hanno condiviso volontariamente e generosamente le loro storie con noi per la pubblicazione. I professionisti dell’apprendimento automatico, a mia esperienza, sono un gruppo di persone incredibilmente pensierose e generose – disposte ad aiutare gli altri e a condividere errori e lezioni apprese. Purtroppo, molte di queste storie non sono state incluse in questo libro o hanno dovuto essere anonimizzate in modo significativo, a causa della preoccupazione di rendere pubblica informazione dietro le quinte che potrebbe far apparire una società o un individuo in cattiva luce se presa in modo errato. Sebbene questo sia certamente normale, personalmente mi dispiace – credo che imparare e crescere dagli errori e dalle esperienze passate sia utile per gli altri.

Quali sono alcune delle lezioni più importanti che spera che le persone trarranno dalla lettura di questo libro?

Spero che le persone imparino che l’apprendimento automatico non è super spaventoso o difficile da capire. Che è una tecnologia potente ma anche a volte fragile che necessita di guida e struttura per essere efficace nel risolvere problemi difficili. E che l’uso etico e responsabile di questa tecnologia è fondamentale per la maturità e il successo – e che concentrarsi sulla mitigazione dei pregiudizi dannosi fin dall’inizio è fondamentale per il successo aziendale.

Un esempio di pregiudizio di genere dell’AI descritto nel libro è stato il caso della carta di credito Apple che rilasciava linee di credito più basse alle donne rispetto agli uomini. Questo è stato un esempio di come l’omissione del genere come opzione non ha tenuto conto di altre variabili che possono servire come proxy per il genere. L’esempio ha dimostrato che senza l’input “genere” è stato impossibile capire che il risultato era distorto fino a dopo la pubblicazione del prodotto finale. Quali sono alcuni tipi di input di dati che ritiene non dovrebbero mai essere omessi per evitare pregiudizi contro il genere o le minoranze?

Non c’è una regola fissa – ogni set di dati, caso d’uso e situazione è diverso. Incoraggerei i pratici a entrare nei dettagli e nella sottigliezza del problema che un algoritmo di apprendimento automatico è applicato per risolvere – e quali pregiudizi dannosi potrebbero essere codificati in quella decisione.

Il libro descrive come una responsabilità primaria quando si comunica con il team di AI è quella di definire precisamente gli esiti che sono importanti per l’azienda. Quanto spesso, secondo lei, le aziende falliscono in questo compito?

Direi che, a mia esperienza, la maggior parte delle volte gli esiti non sono definiti o sono definiti solo a livello generale. Entrare nei dettagli sugli esiti specifici è un modo facile per impostare il team per il successo fin dall’inizio.

Il libro parla dell’importanza di rendersi conto che un sistema di AI non è un tipo di sistema “impostalo e dimenticalo”. Potresti discutere brevemente di questo?

Questo è l’errore classico che la maggior parte delle aziende commette quando lancia un nuovo sistema di apprendimento automatico in produzione. La realtà cambia – il tempo passa, ciò che era vero ieri (i dati di addestramento) potrebbe non essere vero domani. Dipende dalle circostanze, ma nella maggior parte dei casi, è importante essere in grado di imparare e adattarsi e prendere decisioni migliori nel tempo in base a informazioni più recenti.

I prodotti basati sull’apprendimento automatico sono essenzialmente dei decisori. Per paragonarlo a un esempio umano – è come un arbitro in una partita di football ad alto livello. Molte volte, se è un arbitro ben addestrato con esperienza, l’arbitro prende una buona decisione e la partita prosegue – ma a volte, quell’arbitro prende una cattiva decisione – o non è sicuro di cosa decidere – e deve tornare indietro e rivedere il video – chiedere ad alcune altre persone per prendere una decisione su un particolare gioco. Allo stesso modo – i prodotti di apprendimento automatico necessitano di feedback, addestramento e a volte non sono sicuri. Hanno bisogno di avere opzioni di riserva per tornare indietro e anche di nuove informazioni per imparare e migliorare nel tempo. Un buon arbitro impara nel tempo e migliora nel prendere giudizi.

Potresti parlare dell’importanza di creare un team cross-funzionale che possa identificare quali problemi sono migliori da affrontare utilizzando l’AI?

La tecnologia di apprendimento automatico è generalmente adatta per problemi molto difficili e specifici che non sono risolti con altri approcci. Qualsiasi problema difficile – richiede un team per essere di successo. Quando le aziende sono nuove all’AI – c’è spesso una narrazione falsa che un solo scienziato di apprendimento automatico, o anche un team di apprendimento automatico, possa risolvere il problema da solo. Non ho mai trovato che questo sia vero. Richiede un team con background e approcci diversi per affrontare un problema difficile – e certamente per distribuire con successo la tecnologia di apprendimento automatico.

Grazie per la grande intervista, per i lettori (e in particolare per gli esecutivi aziendali) che sono interessati a saperne di più, consiglio di leggere il libro Il mondo reale dell’AI: una guida pratica per l’apprendimento automatico responsabile.