Alyssa Simpson Rochwerger, medforfatter av Real World AI – Intervju-serie

Alyssa Rochwerger er en kundeorientert produktleder som er dedikert til å bygge produkter som løser vanskelige problemer for virkelige mennesker. Hun har hatt flere produktlederroller for maskinlæringsorganisasjoner. Hun tjenestegjorde som VP for produkt for Figure Eight (kjøpt av Appen), VP for AI og data i Appen, og direktør for produkt i IBM Watson. Hun forlot nylig bransjen for å følge sin drøm om å bruke teknologi til å forbedre helsevesenet. For tiden tjener hun som direktør for produkt i Blue Shield of California, hvor hun er omgitt av mye data, mange vanskelige problemer og ingen andre muligheter enn å ha en positiv innvirkning.

Vi diskuterer hennes nye bok: Den virkelige verden av AI: En praktisk guide for ansvarlig maskinlæring

I bokens innledning beskriver du hvordan du som IBM-produsentleder først møtte et problem med et AI-system som leverte forvrengt informasjon når et bilde av en person i rullestol ble klassifisert av algoritmen som “taper”. Hvor mye var dette en vekkerklokke for deg om AI-forvrengning?

Jeg ville ikke kalle det en vekkerklokke så mye som det var min første gang med å bygge et maskinlæringsbasert produkt (jeg var bare noen måneder inn i rollen) og jeg visste ikke nok om hvordan denne teknologien fungerte for å sette i verk ønskede beskyttelsesforanstaltninger og aktivt motvirke uønsket forvrengning. Det var en øyneåpner som skjerpet min oppmerksomhet på dette problemet – og gjorde meg akutt mer bevisst om å gå videre. Likhet, tilgang og inklusjon er et tema jeg er lidenskapelig om – og har vært i lang tid – jeg vant sogar en pris på college for min forkjemperrolle for studenter med funksjonsnedsettelser. Denne erfaringen hos IBM hjalp meg å forstå fra et teknisk perspektiv hvor enkelt det er for systematisk samfunnsforvrengning å bli kodet inn i maskinlæringsbaserte produkter hvis teamet ikke aktivt motvirker. Jeg var glad for å jobbe i en institusjon som bryr seg dypt om likhet og satte ressurser inn i å motvirke.

Hva lærte du personlig av å forske og skrive denne boken?

På en personlig note – jeg måtte skaffe tid til å skrive denne boken mens jeg skiftet jobb, hadde en 1-åring og navigerte COVID. Jeg lærte hvordan jeg kunne skaffe tid til å gjøre dette til en prioritet, og hvordan jeg kunne be om hjelp fra min familie, som ga meg tid til å gi bokskrivingen min oppmerksomhet.

Profesjonelt – det var fantastisk å ha så mange deltakere som villig og nådig delte sine historier med oss for publisering. Maskinlæringsprofesjonelle i min erfaring er en usedvanlig tankefulle og nådige gruppe mennesker – villige til å hjelpe andre og dele feil og lærdommer. Dessverre var mange av disse lærdomshistoriene ikke inkludert i denne boken eller måtte anonymiseres betydelig, på grunn av bekymring for å gå offentlig med bakgrunnsinformasjon som kunne gjøre et selskap eller enkeltperson dårlig hvis den ble tatt feil. Mens dette er helt vanlig, føler jeg personlig at det er synd – jeg er en stor tilhenger av å lære og vokse fra tidligere erfaringer og feil hvis de kan være nyttige for andre.

Hva er noen av de viktigste lærdommene du håper folk vil ta med seg fra å lese denne?

Jeg håper folk vil lære at maskinlæring ikke er super skremmende eller vanskelig å forstå. At det er en kraftfull, men også iblant skjør teknologi som trenger veiledning og struktur for å være suksessfullt med å løse vanskelige problemer. Og at ansvarlig, etisk bruk av denne teknologien er kritisk for å nå modenhet og suksess – og at fokus på å motvirke skadelig forvrengning tidlig er nøkkel til forretnings-suksess.

Et eksempel på AI-kjønnsforvrengning som ble avbildet i boken var Apple (AAPL ) Credit Card som ga lavere kredittgrenser til kvinner enn til menn. Dette var et eksempel på hvordan utelating av kjønn som en valgmulighet ikke tok hensyn til andre variabler som kan fungere som en proxy for kjønn. Eksemplet viste at uten “kjønn”-inndata var det umulig å fastslå at utfallet var forvrent før sluttfinalen var lansert. Hva er noen typer datainndata du tror aldri burde utelates for å unngå forvrengning mot kjønn eller minoriteter?

Det finnes ingen fast og hard regel – hver datasett, brukstilfelle og situasjon er forskjellig. Jeg ville oppmuntre praktikere til å gå inn i detaljene og nyansene av hva problem et maskinlæringsalgoritme brukes til å løse – og hva skadelig forvrengning som kan bli kodet inn i den beslutningen.

Boken beskriver hvordan en primær ansvar når man kommuniserer med AI-teamet er å nøyaktig definere resultater som er viktige for bedriften. Hvor ofte mener du at bedrifter feiler i denne oppgaven?

Jeg ville si at i min erfaring, de fleste gangene, er resultater enten ikke definert eller bare definert på et løst eller høyt nivå. Å gå inn i detaljene om de spesifikke resultater er en enkel måte å sette opp teamet for suksess tidlig.

Boken snakker om viktigheten av å innse at et AI-system ikke er et “Sett det og glem det”-system. Kan du kort diskutere dette?

Dette er den klassiske feilen som de fleste selskaper gjør når de lanserer et nytt ML-system i produksjon. Virkeligheten endrer seg – tiden går, hva som var sant i går (treningdata) kan ikke være sant i morgen. Det avhenger av omstendighetene, men i de fleste tilfeller er det viktig å kunne lære og tilpasse og ta bedre beslutninger over tid basert på mer nylig informasjon.

Maskinlæringsbaserte produkter er essensielt beslutningstakere. For å sammenligne dette med et menneskelig eksempel – det er som en dommer i en høyrisikofotballkamp. Mange ganger, hvis det er en vel trent dommer med erfaring, tar dommeren en god beslutning og kampen fortsetter – men iblant tar dommeren en dårlig beslutning – eller er usikker på hva beslutningen skal være – og må gå tilbake og se på videoen – spør noen andre for å ta en beslutning om en bestemt spille. Liksom – ML-produkter trenger tilbakemelding, trening og iblant er de ikke sikre. De må ha reservevalg å falde tilbake på, samt ny informasjon å lære fra for å bli bedre over tid. En god dommer vil lære over tid og bli bedre til å dømme.

Kan du snakke om viktigheten av å skape et tverrfaglig team som kan identifisere hva slags problemer som er best løst ved å bruke AI?

Maskinlærings-teknologi er vanligvis godt egnet for svært vanskelige og spesifikke problemer som ikke løses med andre tilnærminger. Ethvert vanskelig problem – det krever et team for å være suksessfullt. Når selskaper er nye til AI – er det ofte en feilfortelling at en enkelt maskinlæringsvitenskapsmann eller selv maskinlærings-team kan løse problemet på egen hånd. Jeg har aldri funnet at dette er sant. Det krever et team med forskjellige bakgrunner og tilnærminger for å løse et vanskelig problem – og sikkert for å deployere maskinlærings-teknologi suksessfullt til produksjon.

Takk for det flotte intervjuet, for lesere (og spesielt bedriftsledere) som er interessert i å lære mer, anbefaler jeg at de leser boken Den virkelige verden av AI: En praktisk guide for ansvarlig maskinlæring.