Alyssa Simpson Rochwerger, yhteiskirjoittaja teoksesta Real World AI – Haastattelusarja

Alyssa Rochwerger on asiakaslähtöinen tuotejohtaja, joka on omistautunut tuotteiden kehittämiseen, jotka ratkaisevät vaikeita ongelmia oikeille ihmisille. Hän on toiminut useissa tuotejohtajan rooleissa koneoppimisen organisaatioissa. Hän toimi tuotepäällikkönä Figure Eightissa (jonka Appen hankki), AI- ja datajohtajana Appenissa ja tuotejohtajana IBM Watsonissa. Hän jätti alan vastikään ja lähti takaisin mukaan toteuttaakseen unelmansa käyttää teknologiaa terveydenhuollon parantamiseksi. Tällä hetkellä hän toimii tuotejohtajana Blue Shield of Californiassa, jossa hän on iloinen siitä, että hänen ympärillään on paljon dataa, monia vaikeita ongelmia ja vain mahdollisuuksia tehdä positiivinen vaikutus.

Keskustelemme hänen uudesta kirjastaan: The Real World of AI: A Practical Guide for Responsible Machine Learning

Kirjan johdannossa kuvailet, kuinka IBM:n tuotejohtajana kohtasit ensimmäisen kerran ongelman, jossa AI-järjestelmä toimitti sisällön, joka oli sisällöltään harhaanjohtavaa, kun kuvaa pyörätuolissa olevasta henkilöstä luokiteltiin algoritmin toimesta “häviäjäksi”. Kuinka paljon tämä oli herätyskello sinulle AI-väärinkäsitysten suhteen?

En kutsuisi sitä herätyskelloksi, vaan se oli ensimmäinen kerta, kun rakensin koneoppimiseen perustuvaa tuotetta (olin vasta muutaman kuukauden tuotejohtajana) ja en tiennyt vielä tarpeeksi paljon tämän teknologian toiminnasta, jotta olisin voinut asettaa varotoimia ja aktiivisesti lieventää ei-toivottua harhaa. Se oli silmä avaava kokemus, joka terävöitti huomiotani tämän asian suhteen – ja teki minut tietoiseksi siitä eteenpäin. Oikeudenmukaisuus, pääsy ja sisällyttäminen on aihe, josta olen intohimoinen – ja olen ollut siitä pitkään – voittaminen palkinnon yliopistossa vuonna opiskelijoiden puolesta, joilla on vaikeuksia. Tämä kokemus IBM: ssä auttoi minua ymmärtämään teknisestä näkökulmasta, kuinka helppoa on koodata järjestelmällistä yhteiskunnallista harhaa koneoppimiseen perustuviin tuotteisiin, jos tiimi ei aktiivisesti lievennä. Olin iloinen, että työskentelin instituutiossa, joka välittää syvästi oikeudenmukaisuudesta ja panee resursseja harhan vähentämiseen.

Mitä sinä henkilökohtaisesti opit tutkimalla ja kirjoittaessasi tätä kirjaa?

Henkilökohtaisesti – minun piti luoda aikaa kirjan kirjoittamiseen samalla, kun vaihdoin työpaikkaa, minulla oli 1-vuotias ja samalla navigoin COVID-19: ää. Opetin itseni, kuinka luoda aikaa, jotta voin antaa kirjan kirjoittamiselle huomioni.

Ammattimaisesti – se oli ihanaa, kun niin moni osallistuja jakoi vapaaehtoisesti ja armollisesti tarinoitaan julkaisemista varten. Koneoppimisen ammattilaiset ovat kokemukseni mukaan erittäin mietiskelevä ja armollinen joukko ihmisiä – halukkaita auttamaan toisia ja jakamaan virheitä ja oppimaan niistä. Valitettavasti monet näistä opitun tarinoista eivät sisälly tähän kirjaan tai ne on anonyymisoitu merkittävästi, koska yhtiöt tai yksilöt eivät halunneet julkaista taustatietoja, jotka voivat tehdä heistä huonon vaikutuksen, jos ne tulkitaan väärin. Vaikka se on varmasti osa peliä, minusta se on valitettavaa – minä uskon, että oppiminen ja kasvaminen aiemmista kokemuksista ja virheistä on tärkeää, jos ne voivat olla hyödyllisiä muille.

Mitä ovat joitain tärkeimmistä opetuksista, joita toivot, että ihmiset ottavat lukemalla tämän kirjan?

Toivon, että ihmiset oppivat, että koneoppiminen ei ole pelottavaa tai vaikeaa ymmärtää. Se on voimakas, mutta toisinaan hauras teknologia, joka tarvitsee ohjausta ja rakennetta ollakseen onnistunut ratkaisemassa vaikeita ongelmia. Myös se, että vastuullinen eettinen käyttö tätä teknologiaa on kriittinen menestykseksi ja kypsyysasteelle – ja että huomion kiinnittäminen haitallisen harhan vähentämiseen on avainliiketoiminnan menestykseen.

Yksi esimerkki AI-sukupuoliharhasta, joka kuvattiin kirjassa, oli Apple Credit Card, joka myönsi alempia luottorajoja naisille kuin miehille. Tämä oli esimerkki siitä, kuinka sukupuolen poissulkeminen ei ottanut huomioon muita muuttujia, jotka voivat toimia sukupuolen välittäjänä. Esimerkki osoitti, että ilman “sukupuoli”-syötettä oli mahdotonta selvittää, oliko lopputulos harhaanjohtava, kunnes lopullinen tuote julkaistiin. Mitkä ovat joitain tietojen syötteitä, joita et usko, että niiden tulisi jätettävä pois välttääkseen sukupuoliharhaa tai vähemmistöjä vastaan?

Ei ole yhtä oikein ja yksinkertaista sääntöä – jokainen tietojoukko, käyttötapa ja tilanne on erilainen. Rohkeasti kannustan käytännön soveltajia tutustumaan yksityiskohtiin ja hienouksiin siitä ongelmasta, jota koneoppimisalgoritmi sovelletaan ratkaisemaan – ja mitä haitallista harhaa voisi olla koodattu siihen päätökseen.

Kirja kuvaa, kuinka ensisijainen vastuu AI-tiimille viestimisessä on määritellä tarkasti ne tulokset, jotka ovat tärkeitä liiketoiminnalle. Mielestäsi kuinka usein liiketoiminta epäonnistuu tässä tehtävässä?

Sanon, että kokemukseni mukaan useimmiten tulokset eivät ole määriteltyjä tai ne on määritelty vain löyhästi tai yleisellä tasolla. Pääsy yksityiskohtiin tarkoituksellisista tuloksista on helppo tapa asettaa tiimi menestykseen alusta alkaen.

Kirja puhuu siitä, kuinka tärkeää on ymmärtää, että AI-järjestelmä ei ole “Aseta ja unohda” -tyyppinen järjestelmä. Voitko lyhyesti keskustella tästä?

Tämä on klassinen virhe, jonka useimmat yritykset tekevät käynnistäessään uuden ML-järjestelmän tuotantoon. Todellisuus muuttuu – aika kulkee, mitä oli tosi eilen (koulutusdata) ei välttämättä ole totta huomenna. Se riippuu olosuhteista, mutta useimmissa tapauksissa on tärkeää pystyä oppimaan ja sopeutumaan ja tekemään parempia päätöksiä ajan myötä perustuen uudempaan tietoon.

Koneoppimiseen perustuvat tuotteet ovat periaatteessa päätöksentekijöitä. Vertaamalla sitä ihmisen esimerkkiin – se on kuin erotuomari korkean panoksen jalkapallopelissä. Usein, jos se on hyvin koulutettu erotuomari, jolla on kokemusta, erotuomari tekee hyvän päätöksen ja peli jatkuu – mutta joskus tuo erotuomari joko tekee huonon päätöksen – tai ei ole varma, mitä päätöstä tehdä – ja tarvitsee palata ja tarkastella videota – kysyä muutamalta muulta henkilöltä, jotta voi tehdä päätöksen tietystä pelistä. Vastavuoroisesti – ML-tuotteet tarvitsevat palautetta, koulutusta, ja toisinaan eivät ole varmoja. Niiden on oltava valmiina varajärjestelyjä ja uutta tietoa, josta oppia, jotta ne voivat parantua ajan myötä. Hyvä erotuomari oppii ajan myötä ja parantaa päätöksentekoa.

Voitko puhua siitä, kuinka tärkeää on luoda monialainen tiimi, joka voi tunnistaa, mitkä ongelmat ovat parhaiten ratkaistavissa käyttämällä AI:ta?

Koneoppimistechnologia on yleensä sovellettavissa hyvin vaikeisiin, tarkasti määriteltyihin ongelmiin, joita ei voida ratkaista muilla lähestymistavoilla. Jokainen vaikea ongelma – se vaatii tiimin, jotta se olisi onnistunut. Kun yritykset ovat uusia AI:lle, on usein väärä käsitys, että yksinäinen koneoppimisen tutkija tai jopa koneoppimisen tiimi voi ratkaista ongelman yksin. En ole koskaan löytänyt sitä todeksi. Se vaatii tiimin, jolla on erilaiset taustat ja lähestymistavat, jotta voidaan ratkaista vaikea ongelma – ja varmasti ottaa koneoppimistechnologiaa käyttöön onnistuneesti tuotantoon.

Kiitos haastattelusta, lukijoille (erityisesti liiketoimintajohtajille), jotka ovat kiinnostuneita oppimasta lisää, suosittelen, että he lukevat kirjaa The Real World of AI: A Practical Guide for Responsible Machine Learning.