Alyssa Simpson Rochwerger, The Real World of AI -kirjan kirjoittaja – Haastattelusarja

Alyssa Rochwerger on asiakaslähtöinen tuotejohtaja, joka on omistautunut tuotteiden kehittämiseen, jotka ratkaisevät vaikeita ongelmia oikeille ihmisille. Hän on toiminut useissa tuotejohtajan rooleissa koneoppimisen organisaatioissa. Hän toimi tuotepäällikkönä Figure Eightilla (jonka Appen hankki), AI- ja datajohtajana Appenilla ja tuotepäällikkönä IBM Watsonilla. Hän jätti alan vastikään ja siirtyi toteuttamaan unelmaansa käyttää teknologiaa terveydenhuollon parantamiseen. Tällä hetkellä hän toimii tuotepäällikkönä Blue Shield of Californiassa, jossa hän on ympäröity paljon dataa, monia vaikeita ongelmia ja vain mahdollisuuksia tehdä positiivinen vaikutus.

Keskustelemme hänen uudesta kirjastaan: The Real World of AI: A Practical Guide for Responsible Machine Learning

Kirjan johdannossa kuvaat, kuinka IBM:n tuotejohtajana kohtasit ensimmäisen kerran ongelman, jossa AI-järjestelmä toimitti vääristyneitä tietoja, kun henkilön kuvaa pyörätuolissa luokiteltiin algoritmin toimesta “häviäjäksi”. Kuinka paljon tämä oli herätyskello sinulle AI-väärinkäsitysten suhteen?

En kutsuisi sitä herätyskelloksi, vaan enemminkin ensimmäiseksi kokemukseksi, jossa rakensin koneoppimiseen perustuvaa tuotetta (olin vasta muutaman kuukauden tuotejohtajana) ja en tiennyt vielä tarpeeksi paljon tämän teknologian toiminnasta, jotta olisin voinut asettaa asianmukaiset varotoimet ja vähentää ei-toivottuja harhoja. Se oli silmä avaava kokemus, joka terävöitti huomioni tämän asian suhteen – ja teki minut tietoiseksi siitä, kuinka helppoa on koodata järjestelmiin epätasa-arvoa, jos tiimi ei toimi aktiivisesti sen estämiseksi. Olin iloinen voidessani työskennellä instituutiossa, joka välittää tasa-arvosta ja panostaa resursseja sen edistämiseen.

Mitä henkilökohtaisesti opit tutkimalla ja kirjoittaessasi tätä kirjaa?

Henkilökohtaisesti – minun piti luoda aikaa kirjan kirjoittamiseen samalla, kun vaihdoin työpaikkaa, kasvatin 1-vuotiasta lasta ja navigoin COVID-19-pandemian aikana. Opetin itseni priorisoimaan aikaa ja pyytämään apua perheeltäni, jotta voisin antaa kirjan kirjoittamiselle tarvittavan aikani.

Ammattimaisesti – se oli ihanaa saada niin monia osallistujia, jotka jaksoivat jaettavat tarinoitaan julkaisemista varten. Koneoppimisen ammattilaiset ovat kokemukseni mukaan erittäin ajatteleva ja armollinen ryhmä ihmisiä – jotka ovat valmiita auttamaan toisiaan ja jakamaan virheitään ja oppimaansa. Valitettavasti monet näistä opitun tarinoina jätettiin pois tästä kirjasta tai anonymisoitiin merkittävästi, koska niiden julkaiseminen voisi tehdä yhtiölle tai yksilölle haittaa, jos niitä tulkittaisiin väärin. Vaikka se on varmasti normaalia, henkilökohtaisesti koen, että se on pahasta – olen suuri uskija siinä, että voidaan oppia ja kasvaa aiemmista kokemuksista ja virheistä, jos ne voivat olla hyödyllisiä muille.

Mitä tärkeimpiä oppeja toivot, että ihmiset ottavat kirjasta?

Toivon, että ihmiset ymmärtävät, että koneoppiminen ei ole pelottavaa tai vaikeaa ymmärtää. Se on voimakas, mutta toisinaan hauras teknologia, joka tarvitsee ohjausta ja rakennetta ongelman ratkaisemiseksi. Myös, että vastuullinen eettinen käyttö tätä teknologiaa on kriittinen sen onnistumiselle – ja että huomion kiinnittäminen haitallisten harhojen vähentämiseen on avainliikettä liiketoiminnan menestykselle.

Yksi esimerkki AI-sukupuoliväärinkäsityksestä, joka esiteltiin kirjassa, oli Apple (AAPL ) Credit Cardin myöntäminen pienempiä luottorajoja naisille kuin miehille. Tämä oli esimerkki siitä, kuinka sukupuolen pois jättäminen ei ottaa huomioon muita muuttujia, jotka voivat toimia sukupuolen välittäjänä. Esimerkki osoitti, että ilman “sukupuoli”-syötettä oli mahdotonta havaita, että lopputulos oli vääristynyt, kunnes lopullinen tuote oli julkaistu. Mitkä syötearvot uskot, että ei pidä jättää pois välttääkseen sukupuoliväärinkäsityksiä tai vähemmistöjä vastaan?

Ei ole yhtä oikeaa sääntöä – jokainen tietojoukko, käyttötapaus ja tilanne on erilainen. Rohkean kannustan käytännön ammattilaisia tutkimaan yksityiskohtia ja hienovaraisuutta ongelmaa, jota koneoppimisalgoritmi pyritään ratkaisemaan – ja mitä haitallista harhaa voisi olla koodattu siihen päätökseen.

Kirjassa kerrotaan, kuinka yksi ensisijainen vastuu AI-tiimille on määritellä tarkasti ne tulokset, jotka ovat tärkeitä liiketoiminnalle. Mielestäsi kuinka usein yritykset epäonnistuvat tässä tehtävässä?

Sanon, että kokemukseni mukaan useimmiten tulokset määritellään joko epätarkasti tai vain yleisellä tasolla. Tarkentaminen yksityiskohtiin on helppo tapa asettaa tiimi menestykseen alusta alkaen.

Kirja puhuu siitä, kuinka tärkeää on ymmärtää, että AI-järjestelmä ei ole “aseta ja unohda” -tyyppinen järjestelmä. Voitko lyhyesti keskustella tästä?

Tämä on klassinen virhe, jonka useimmat yritykset tekevät käyttäessään uutta ML-järjestelmää tuotannossa. Todellisuus muuttuu – aika kulkee, ja mitä oli tosi eilen (koulutusdata), ei välttämättä ole tosi huomenna. Se riippuu olosuhteista, mutta useimmissa tapauksissa on tärkeää pystyä oppimaan ja sopeutumaan ja tekemään parempia päätöksiä ajan myötä perustuen uudempaan tietoon.

Koneoppimiseen perustuvat tuotteet ovat perimmältään päätöksentekijöitä. Vertauksena ihmiseen – se on kuin erotuomari korkean panoksen jalkapallo-ottelussa. Usein, jos erotuomari on kokenut ja hyvin koulutettu, hän tekee hyvän päätöksen ja peli jatkuu – mutta toisinaan tuo erotuomari joko tekee virheellisen päätöksen tai ei ole varma, mitä päätöstä tehdä – ja tarvitsee palata ja tarkastella videota – kysyä muutamalta muulta taholta, jotta voi tehdä päätöksen tietyistä pelaamisista. Vastaavasti – ML-tuotteet tarvitsevat palautetta, koulutusta, ja toisinaan eivät ole varmoja. Niiden on oltava takaisinvalintamahdollisuuksia ja uusia tietoja, joista voidaan oppia ja parantaa ajan myötä. Hyvä erotuomari oppii ajan myötä ja parantaa päätöksentekoaan.

Voitko puhua siitä, kuinka tärkeää on luoda monialainen tiimi, joka voi tunnistaa, mitkä ongelmat ovat parhaiten ratkaistavissa käyttämällä AI:ta?

Koneoppimisteknologia on tyypillisesti hyvin sovellettavissa erittäin vaikeisiin ja tarkasti määriteltyihin ongelmiin, joita ei voida ratkaista muilla lähestymistavoilla. Kaikkiin vaikeisiin ongelmiin tarvitaan tiimi. Kun yritykset ovat uusia AI:ssa, on usein väärä käsitys, että yksinäinen koneoppimisen tutkija tai jopa koneoppimisen tiimi voi ratkaista ongelman yksin. En ole koskaan löytänyt sitä todeksi. Se vaatii tiimin, jolla on erilaiset taustat ja lähestymistavat, jotta voidaan ratkaista vaikea ongelma – ja varmasti ottaa koneoppimisteknologiaa tuotantoon onnistuneesti.

Kiitos haastattelusta, lukijoille (erityisesti liiketoimintajohtajille), jotka ovat kiinnostuneita oppimasta lisää, suosittelen, että he lukevat kirjan The Real World of AI: A Practical Guide for Responsible Machine Learning.