Alyssa Simpson Rochwerger, medforfatter af Real World AI – Interviewserie

Alyssa Rochwerger er en kundeorienteret produktleder, der er dedikeret til at bygge produkter, der løser svære problemer for rigtige mennesker. Hun har haft adskillige produktlederroller for maskinlæringsorganisationer. Hun fungerede som VP for produkt hos Figure Eight (opkøbt af Appen), VP for AI og data hos Appen og direktør for produkt hos IBM Watson. Hun forlod recently rummet for at forfølge sin drøm om at bruge teknologi til at forbedre sundheden. I øjeblikket fungerer hun som direktør for produkt hos Blue Shield of California, hvor hun er omgivet af masser af data, mange svære problemer og intet andet end muligheder for at have en positiv indvirkning.

Vi diskuterer hendes nye bog: Den virkelige verden af AI: En praktisk vejledning til ansvarlig maskinlæring

I bogens introduktion beskriver du, hvordan du som IBM-produktchef første gang stødte på et problem med et AI-system, der leverede fordomsfuld information, da et billede af en person i en kørestol blev klassificeret af algoritmen som “taber”. Hvor meget var dette en vækkelsesoplevelse for dig om AI-forudomme?

Jeg ville ikke kalde det en vækkelsesoplevelse, så meget som det var min første gang med at bygge et maskinlæringsbaseret produkt (jeg var kun få måneder i rollen), og jeg vidste ikke nok endnu om, hvordan denne teknologi fungerede, til at sætte passende vagter og aktivt mindske uønsket fordom. Det var en øjenåbner-oplevelse, der skærpede min opmærksomhed på dette spørgsmål – og gjorde mig akut bevidst om fremover. Lighed, adgang og inklusion er et emne, jeg er passioneret om – og har været i lang tid – jeg vandt endda en pris i college for min forkæmpelse for studerende med handicaps. Denne oplevelse hos IBM hjalp mig med at forstå fra et teknisk perspektiv, hvor let det er for systemisk samfundsmæssig fordom at blive indkodet i maskinlæringsbaserede produkter, hvis holdet ikke aktivt mindske uønsket fordom. Jeg var glad for at arbejde på en institution, der holder meget af lighed og lagde ressourcer i at mindske.

Hvad lærte du personligt af at forskere og skrive denne bog?

På en personlig note – jeg måtte skære tid ud til at skrive denne bog, mens jeg skiftede job, havde en 1-årig og navigerede COVID. Jeg lærte, hvordan jeg kunne skære tid ud til at gøre dette til en prioritet, og hvordan jeg kunne bede om hjælp fra min familie, som gav mig tid til at give bogen min opmærksomhed.

Professionelt – det var dejligt at have så mange deltagere, der villigt og nådigt delte deres historier med os til offentliggørelse. Maskinlæringsfagfolk i min erfaring er en utrolig tankefuld og nådig gruppe mennesker – villige til at hjælpe andre og dele fejl og lærestof. Desværre blev mange af disse lærestofhistorier ikke inkluderet i denne bog eller måtte anonymiseres betydeligt, på grund af bekymring for at gå offentligt med baggrundsinformation, der kunne gøre et selskab eller en person dårlig, hvis den blev taget i forkert lys. Mens det bestemt er par for kurset, føler jeg personligt, det er dårligt – jeg er en stor tilhænger af at lære og vokse fra tidligere erfaringer og fejl, hvis de kan være nyttige for andre.

Hvad er nogle af de vigtigste lærepenge, du håber, folk vil tage med fra at læse denne?

Jeg håber, folk vil lære, at maskinlæring ikke er super skræmmende eller svært at forstå. At det er en kraftfuld, men også til tider skrøbelig teknologi, der har brug for vejledning og struktur for at være succesfuld med at løse svære problemer. At ansvarlig etisk brug af denne teknologi er kritisk for modning og succes – og at fokus på at mindske skadelig fordom tidligt er nøgle til forretnings succes.

Et eksempel på AI-kønsforudom, der blev afbildet i bogen, var Apple (AAPL ) Credit Card, der udstedte lavere kreditgrænser til kvinder end til mænd. Dette var et eksempel på, hvordan udeladelse af køn som en mulighed ikke tog hensyn til andre variabler, der kan fungere som en proxy for køn. Eksemplet viste, at uden “køn”-indtastning var det umuligt at opdage, at udfaldet var fordomsfuldt, før produktet var udgivet. Hvad mener du om, hvilke typer af dataindtastninger, der aldrig burde udelades for at undgå fordom mod køn eller minoriteter?

Der er ingen fast regel – hver dataserie, brugs tilfælde og situation er forskellig. Jeg ville opmuntre praktikere til at gå i detaljer og nuancer om, hvilket problem et maskinlæringsalgoritme anvendes til at løse – og hvilken skadelig fordom, der kan være indkodet i denne beslutning.

Bogen beskriver, hvordan en primær ansvar, når man kommunikerer med AI-holdet, er at præcist definere de resultater, der er vigtige for forretningsvirksomheden. I din mening, hvor ofte fejler virksomheder i denne opgave?

Jeg ville sige, at i min erfaring, de fleste gange, er resultaterne enten ikke defineret eller kun defineret på et løst eller højt niveau. At gå i detaljer om de specifikke resultater er en let måde at sætte holdet op for succes tidligt.

Bogen taler om vigtigheden af at indse, at et AI-system ikke er et “Sæt det og glem det”-system. Kan du kort diskutere dette?

Dette er den klassiske fejl, som de fleste virksomheder begår, når de lancerer et nyt ML-system i produktion. Virkeligheden ændrer sig – tiden passerer, hvad der var sandt i går (træningsdataene) kan ikke være sandt i morgen. Det afhænger af omstændighederne, men i de fleste tilfælde er det vigtigt at kunne lære og tilpasse og træffe bedre beslutninger over tid baseret på mere nylig information.

Maskinlæringsbaserede produkter er essentielt beslutningstagerne. For at sammenligne dette med et menneskeligt eksempel – det er som en dommer i en højrisikofodboldkamp. Mange gange, hvis det er en veltrænet dommer med erfaring, tager dommeren en god beslutning, og kampen fortsætter – men til tider tager dommeren enten en dårlig beslutning – eller er ikke sikker på, hvad beslutningen skal være – og har brug for at gå tilbage og se videoen – spørge nogle andre i holdet for at træffe en beslutning om en bestemt spil. Lignende – ML-produkter har brug for feedback, træning og til tider ikke er sikre. De har brug for at have reserve muligheder til at falde tilbage på samt nye oplysninger til at lære fra for at blive bedre over tid. En god dommer lærer over tid og bliver bedre til at træffe beslutninger.

Kunne du tale om vigtigheden af at skabe et tværfagligt hold, der kan identificere, hvilke problemer der bedst løses ved hjælp af AI?

Maskinlærningsteknologi er typisk bedst egnet til meget svære specifikke problemer, der ikke løses med andre tilgange. Ethvert svært problem – det tager et hold at være succesfuld. Når virksomheder er nye til AI – er der ofte en falsk narrative om, at en enkelt maskinlæringsvidenskabsmand eller selv et maskinlæringshold kan løse problemet alene. Jeg har aldrig fundet, at det er sandt. Det tager et hold med forskellige baggrunde og tilgange til at løse et svært problem – og bestemt til at implementere maskinlærningsteknologi succesfuldt i produktion.

Tak for det store interview, for læsere (og især erhvervsledere), der er interesseret i at lære mere, anbefaler jeg, at de læser bogen Den virkelige verden af AI: En praktisk vejledning til ansvarlig maskinlæring.