Alyssa Simpson Rochwerger, współautorka książki Real World AI – wywiad

Alyssa Rochwerger to liderka produktowa, która koncentruje się na tworzeniu produktów rozwiązujących trudne problemy dla prawdziwych ludzi. Pełniła wiele ról kierowniczych w firmach zajmujących się machine learning. Była wiceprezesem ds. produktu w firmie Figure Eight (nabyty przez Appen), wiceprezesem ds. AI i danych w firmie Appen, oraz dyrektorem ds. produktu w IBM Watson. Ostatnio opuściła ten sektor, aby realizować swoje marzenie o wykorzystaniu technologii do poprawy opieki zdrowotnej. Obecnie pełni funkcję dyrektora ds. produktu w Blue Shield of California, gdzie jest otoczona przez wiele danych, trudne problemy i wiele możliwości, aby mieć pozytywny wpływ.

Omawiamy jej nową książkę: Świat rzeczywisty sztucznej inteligencji: Praktyczny przewodnik po odpowiedzialnym machine learning

W wprowadzeniu do książki opisujesz, jak jako menedżerka produktu w IBM po raz pierwszy spotkałaś się z problemem związanych z AI, który dostarczał tendencyjne informacje, gdy zdjęcie osoby na wózku inwalidzkim zostało zakwalifikowane przez algorytm jako “przegrany”. Jak duże było to przebudzenie dla ciebie w kwestii tendencyjności AI?

Nie nazwałabym tego przebudzeniem, ale raczej pierwszym doświadczeniem związanych z tworzeniem produktu opartego na machine learning (byłam tylko kilka miesięcy na stanowisku) i nie wiedziałam jeszcze wystarczająco o tym, jak ta technologia działa, aby odpowiednio zabezpieczyć się przed niepożądaną tendencyjnością. Było to doświadczenie, które zwiększyło moją uwagę na ten problem – i uczyniło mnie bardziej świadomą w przyszłości. Równość, dostęp i integracja to temat, którym jestem zainteresowana – i którym zajmowałam się przez długi czas – nawet otrzymałam nagrodę na studiach za moją działalność na rzecz studentów z niepełnosprawnościami. To doświadczenie w IBM pomogło mi zrozumieć z technicznego punktu widzenia, jak łatwo jest dla tendencyjności społecznej zakodować ją w produktach opartych na machine learning, jeśli zespół nie aktywnie jej przeciwdziała. Byłam szczęśliwa, że pracowałam w instytucji, która bardzo dba o równość i wkłada środki w przeciwdziałanie tendencyjności.

Co osobiście nauczyłaś się, badając i pisząc tę książkę?

Osobiście – musiałam wygospodarować czas na napisanie tej książki, zmieniając pracę, mając 1-letnie dziecko i nawigując przez COVID. Nauczyłam się, jak wygospodarować czas, aby uczynić to priorytetem, i jak prosić o pomoc moją rodzinę, co pozwoliło mi na poświęcenie czasu na pisanie książki.

Zawodowo – było wspaniale mieć tak wielu uczestników, którzy chętnie i z łaską podzielili się ze mną swoimi historiami do publikacji. Specjaliści od machine learning, z mojego doświadczenia, to niezwykle thoughtfull i grzeczni ludzie – chętni do pomocy innym i dzielenia się błędami i nauką. Niestety, wiele z tych historii nie zostało uwzględnionych w tej książce lub musiało zostać znacznie zanonimizowane, ze względu na obawy o udostępnienie poufnych informacji, które mogłyby sprawić, że firma lub osoba wyglądałaby źle, gdyby zostały źle zinterpretowane. Chociaż to jest pewnie normalne, osobiste czuję, że jest to szkoda – jestem wielką zwolenniczką uczenia się i rozwoju z doświadczeń i błędów, jeśli mogą one być pomocne dla innych.

Jakie są najważniejsze nauki, których sobie życzyłabyś, aby ludzie wzięli z czytania tej książki?

Mam nadzieję, że ludzie nauczą się, że machine learning nie jest strasznie skomplikowany ani trudny do zrozumienia. To potężna, ale czasem krucha technologia, która potrzebuje kierunku i struktury, aby rozwiązywać trudne problemy. Również, że odpowiedzialne i etyczne wykorzystanie tej technologii jest kluczowe dla dojrzałości i sukcesu – i że koncentrowanie się na przeciwdziałaniu szkodliwej tendencyjności na wczesnym etapie jest kluczowe dla sukcesu biznesowego.

Jednym z przykładów tendencyjności AI wobec płci, przedstawionym w książce, było wydawanie przez kartę kredytową Apple (AAPL ) niższych limitów kredytowych dla kobiet niż dla mężczyzn. Był to przykład tego, jak pominięcie płci jako opcji nie uwzględniało innych zmiennych, które mogą służyć jako proxy dla płci. Przykład ten pokazał, że bez “wejścia płci” było niemożliwe, aby stwierdzić, że wynik był tendencyjny, dopóki nie opublikowano ostatecznego produktu. Jakie typy danych wejściowych uważasz, że nigdy nie powinny być pomijane, aby uniknąć tendencyjności wobec płci lub mniejszości?

Nie ma jednej, uniwersalnej reguły – każdy zestaw danych, przypadku użycia i sytuacji jest inny. Zachęcam praktyków do zagłębienia się w szczegóły i nuans tego problemu, jakiemu machine learning ma rozwiązać – i jakiej szkodliwej tendencyjności może być zakodowane w tej decyzji.

Książka opisuje, jak podstawową odpowiedzialnością przy komunikowaniu się z zespołem AI jest precyzyjne określenie wyników, które są ważne dla biznesu. Jak często, według twojego doświadczenia, firmy nie wykonują tego zadania?

Powiedziałabym, że w moim doświadczeniu, większość czasu wyniki są albo nieokreślone, albo określone tylko na poziomie luźnym lub wysokim. Wniknięcie w szczegóły dotyczące konkretnych wyników jest łatwym sposobem, aby zapewnić zespołowi sukces na wczesnym etapie.

Książka mówi o ważności zrozumienia, że system AI nie jest “ustaw i zapomnij” typu systemu. Czy możesz krótko omówić to?

To jest klasyczny błąd, który większość firm popełnia przy uruchamianiu nowego systemu ML do produkcji. Rzeczywistość się zmienia – czas mija, to, co było prawdą wczoraj (dane szkoleniowe), może nie być prawdą jutro. Zależy to od okoliczności, ale w większości przypadków ważne jest, aby móc się uczyć i dostosowywać, oraz podejmować lepsze decyzje na podstawie bardziej aktualnych informacji.

Produkty oparte na machine learning są podstawowo decydentami. Można to porównać do sędziego w wysoko stawce meczu piłki nożnej. Często, jeśli jest to dobrze wyszkolony sędzia z doświadczeniem, sędzia podejmuje dobrą decyzję i mecz się toczy – ale czasem ten sędzia albo podejmuje złą decyzję, albo nie jest pewien, jaką decyzję podjąć – i musi wrócić i obejrzeć nagranie – poprosić kilku innych ludzi, aby podjąć decyzję o konkretnym fragmencie. Podobnie – produkty ML potrzebują informacji zwrotnej, szkolenia i czasem nie są pewne. Potrzebują opcji awaryjnych, na które mogą się powołać, oraz nowych informacji, aby się uczyć i stawać się lepszymi z czasem. Dobry sędzia będzie się uczył z czasem i stawał się lepszym w podejmowaniu decyzji.

Czy możesz powiedzieć o ważności tworzenia zespołu wielofunkcyjnego, który może określić, jakie problemy są najlepiej rozwiązywane za pomocą AI?

Technologia machine learning jest najlepiej dostosowana do bardzo trudnych, konkretnych problemów, które nie są rozwiązywane za pomocą innych podejść. Każdy trudny problem – wymaga zespołu, aby osiągnąć sukces. Kiedy firmy są nowe w AI – często jest fałszywa narracja, że samotny naukowiec machine learning, lub nawet zespół machine learning, może rozwiązać problem samodzielnie. Nigdy nie znalazłam, aby to było prawdą. Wymaga to zespołu z różnymi tłem i podejściami, aby rozwiązać trudny problem – i na pewno, aby wdrożyć technologię machine learning do produkcji.

Dziękuję za wspaniały wywiad, czytelnikom (szczególnie menedżerom) zainteresowanym dowiedzeniem się więcej, polecam przeczytanie książki Świat rzeczywisty sztucznej inteligencji: Praktyczny przewodnik po odpowiedzialnym machine learning.