Reid Blackman, Ph.D, Założyciel i Dyrektor Generalny Virtue Consultants – Seria Wywiadów

Reid Blackman jest założycielem i dyrektorem generalnym Virtue Consultants. W tej roli pracował z firmami, aby zintegrować etykę i ograniczyć ryzyko etyczne w kulturze firmy oraz w rozwoju, wdrażaniu i zakupie produktów technologii wschodzących. Jest również starszym doradcą w firmie Ernst & Young i zasiada w ich Radzie Doradczej ds. Sztucznej Inteligencji, a także jest członkiem inicjatywy IEEE Ethically Aligned Design Initiative.

Praca Reida została przedstawiona w The Wall Street Journal i Dell Perspectives, a on sam napisał artykuły do The Harvard Business Review, TechCrunch, VentureBeat i Risk & Compliance Magazine. Był cytowany w wielu artykułach prasowych, a także regularnie występuje na różnych wydarzeniach, w tym The World Economic Forum, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University i AIG.

Czy mógłbyś opowiedzieć, kiedy zacząłeś wprowadzać etykę sztucznej inteligencji do swoich zajęć jako profesor filozofii na Colgate University w latach 2009-2018?

Często prowadziłem kurs z filozofii społecznej i politycznej, gdzie omawiałem Marksa. Jednym z głównych twierdzeń Marksa jest to, że kapitalizm ostatecznie ustąpi miejsca komunizmowi z powodu ogromnego wzrostu „środków produkcji”. Innymi słowy, kapitalizm prowadzi do coraz większej wydajności w imię konkurencji i otwierania nowych rynków, co oznacza wzrost tworzenia technologii, które mogą produkować coraz więcej w coraz krótszym czasie. Marks przewidział również, że to spowoduje coraz większe nagromadzenie pieniędzy w rękach nielicznych i wypchnie coraz więcej ludzi w biedę, co ostatecznie doprowadzi do obalenia struktur kapitalistycznych przez rewolucję prowadzoną przez rosnącą liczbę ludzi biednych. To wszystko prowadzi do dyskusji na temat etyki technologii, która eliminuje potrzebę pracy ludzkiej, co jest kluczowym elementem etyki sztucznej inteligencji.

Mała historia poboczna, jeśli jesteś zainteresowany: W 2002 roku byłem studentem prowadzącym dyskusję o Marksie z studentami na Northwestern University. W pewnym momencie student podniósł rękę i powiedział: „W końcu nie będziemy potrzebowali ludzi do pracy”. Klasa była zdezorientowana. Ja również. Więc powiedziałem: „No to kto będzie pracował?” Odpowiedział w bardzo fakturalny sposób: „Roboty”. Klasa wybuchnęła śmiechem. Ja również. Ale jest dość oczywiste, kto miał ostatni śmiech.

W 2018 roku założyłeś Virtue Consultants, firmę konsultingową zajmującą się etyką, która umożliwia liderom danych i sztucznej inteligencji identyfikowanie i ograniczanie ryzyka etycznego ich produktów. Co skłoniło cię do rozpoczęcia tego przedsięwzięcia?

Zazdrość. Cóż, w pewnym sensie. Założyłem firmę zajmującą się hurtową sprzedażą fajerwerków, kiedy byłem studentem, myślę, że około 2003 lub 2004 roku. To poszło lepiej, niż oczekiwałem, a firma nadal istnieje, choć teraz jestem doradcą i nie zajmuję się już bieżącymi operacjami. To istotne, ponieważ wyjaśnia, jak zostałem mentorem dla startupów w programie przedsiębiorczości Colgate (zwanym TIA, Thought Into Action, prowadzonym przez dwóch fantastycznych inwestorów, Andy’ego Greenfielda i Willsa Hapwortha, którzy prowadzą TIA Ventures). Jako mentor widziałem studentów podejmujących się ekscytujących projektów, gdy próbowali znaleźć sposób na założenie i skalowanie swoich startupów i pomyślałem: „Chcę tego!” Ale co mogłoby być moim nowym przedsięwzięciem? Musiało to mieć związek z moją miłością do filozofii i etyki, a pierwszą rzeczą, która miała sens, była firma konsultingowa zajmująca się etyką. Nie widziałem rynku dla takich usług w tamtym czasie, ponieważ go nie było, więc poczekałem. A potem Cambridge Analytica, BLM i #MeToo stały się nagłówkami ogólnokrajowymi, i nagle pojawiła się większa świadomość potrzeby.

Jak ważne jest, aby firmy wprowadziły Oświadczenie o etyce sztucznej inteligencji?

Oświadczenie o etyce sztucznej inteligencji nie jest niezbędne, ale jest to bardzo użyteczne narzędzie do ustalenia celów. Kiedy wprowadzasz program etyki sztucznej inteligencji do Twojej organizacji, chcesz, aby identyfikował i ograniczał oraz zarządzał różnymi ryzykami etycznymi, reputacyjnymi, regulacyjnymi i prawnymi. To jest jego główna funkcja. Oświadczenie o etyce pomaga w sformułowaniu, jak będzie wyglądać sytuacja, gdy będziesz miał infrastrukturę, proces i praktyki w miejscu, aby osiągnąć tę funkcję. O tyle, o ile strategia potrzebuje celu – co zawsze ma – Oświadczenie o etyce sztucznej inteligencji jest ładnym sposobem na sformułowanie tych celów, choć nie jest to jedyny sposób.

Jak firmy mogą zapewnić, że oświadczenie o etyce zostanie przeniesione do procesu i praktyki?
Oświadczenie o etyce jest tylko małym krokiem w dobrym kierunku. Jeśli chcesz iść dalej, następnym logicznym krokiem jest przeprowadzenie oceny, gdzie jesteś w stosunku do celów sformułowanych w tym oświadczeniu. Gdy już wiesz, gdzie są największe, najbardziej ryzykowne luki – czyli gdzie jesteś najbardziej narażony na niepowodzenie w osiągnięciu swoich celów – wtedy możesz zacząć opracowywać rozwiązania, które pomogą zmniejszyć te luki. Może to być komitet etyki. Może to być proces due diligence podczas rozwoju produktu. Może to być lepsze radzenie sobie z danymi w nieprodukcyjnych działach, takich jak marketing i HR. Prawdopodobnie jest to wszystko i więcej.

Jakie rozwiązania powinny wprowadzić firmy, aby uniknąć uprzedzeń w samym algorytmie sztucznej inteligencji?

Istnieje wiele technicznych narzędzi do identyfikacji uprzedzeń, ale są one ograniczone. Pozwalają one porównać dane wyjściowe Twojego modelu z dziesiątkami ilościowych miar, które zostały zaproponowane w literaturze akademickiej dotyczącej etyki sztucznej inteligencji, ale musisz być ostrożny, ponieważ te miary nie są wzajemnie kompatybilne. Zatem konieczna jest istotna, etyczna decyzja: która, jeśli któraś z tych miar, jest odpowiednia w tym kontekście?

Ponadto, używając narzędzia takiego jak to, uzupełnionego o odpowiedzialny sposób odpowiedzi na to pytanie, zespoły produkcyjne powinny dobrze przemyśleć, gdzie uprzedzenia mogą się pojawić, zanim zaczną budować. Jak mogą być one zawarte lub odzwierciedlone w zbiorach danych szkoleniowych? Jak o tym myśleć przy określaniu funkcji celu? Co z określaniem progu? Są wiele miejsc, w których uprzedzenia mogą się pojawić. Przemyślenie, gdzie to mogłoby się zdarzyć w Twoim bieżącym projekcie i jak mogłoby się tam dostać, jest niezbędne do identyfikacji i ograniczania uprzedzeń.

Firmy sztucznej inteligencji są znane z dominacji białych mężczyzn, którzy nieumyślnie mogą wprowadzić pewne uprzedzenia do systemu sztucznej inteligencji. Aby uniknąć tego, jakie cechy powinny szukać działy HR?

Jestem za większą możliwością i różnorodnością wśród inżynierów i zespołów produkcyjnych. Powiedziałbym, że to spojrzenie na sprawę przez niewłaściwą optykę. Główny problem, jeśli chodzi o uprzedzenia w algorytmach, nie polega na tym, że uprzedzenia pewnego białego mężczyzny prowadzą do uprzedzeń w kodzie. To, że zbiory danych szkoleniowych są uprzedzone. W rzeczywistości, niedawne badanie z Columbia – „Uprzedzeni programiści? Czy uprzedzone dane? Eksperyment terenowy w operacjonalizacji etyki sztucznej inteligencji” – stwierdziło, że „[p]rogramiści, którzy rozumieją wskazówki techniczne, skutecznie redukują uprzedzenia”, i że „[p]rzewidywania algorytmiczne dokonane przez programistów AI kobiet i mniejszości nie wykazują mniejszych uprzedzeń ani dyskryminacji”. Więc, chociaż działy HR powinny zwrócić uwagę na problemy różnorodności, to nie jest wcale jasne, że strategie ograniczania uprzedzeń w danych wyjściowych sztucznej inteligencji powinny koncentrować się przede wszystkim – a nawet wyłącznie – na decyzjach związanych z zatrudnieniem w odniesieniu do wysiłków na rzecz różnorodności.

Czy mógłbyś omówić, co to jest due diligence etycznego ryzyka i dlaczego firmy powinny je wdrożyć?

Due diligence etycznego ryzyka to próba zidentyfikowania różnych etycznych ryzyk, które mogą być zrealizowane z produktem, który tworzysz, w tym, jak jest wdrożony, jak może być używany i nadużywany itd. Chcesz się skoncentrować na cechach produktu – zarówno tych, które posiada, jak i tych, których nie posiada – i sposobach, w jakie mogą one prowadzić, gdy są wdrażane w różnych kontekstach, do etycznego niewłaściwego postępowania. Gdy jest to robione dobrze, jest to systematyczne i wyczerpujące badanie. Oczywiście, chociaż możesz spróbować bardzo ciężko spojrzeć za rogiem, są możliwe pewne rzeczy, których możesz nie zauważyć, co sprawia, że ciągłe monitorowanie jest ważne.

Jeśli chodzi o to, dlaczego firmy powinny je wdrożyć: muszą tylko rozważyć etyczne, reputacyjne, regulacyjne i prawne ryzyka związane z tym, że nie robią tego. Pomyśl o Optum w wiadomościach i pod regulacyjnym śledztwem za (rzekomo) uprzedzony algorytm, który zalecał opiekunom zdrowia, aby zwrócili większą uwagę na białych pacjentów niż na chorzych pacjentów czarnoskórych. Albo o Goldman Sachs (GS ), pod śledztwem za limity kredytowe dla karty Apple (AAPL ), które (rzekomo) dyskryminują kobiety. Albo o oprogramowaniu do rekrutacji Amazon (AMZN ), które zostało zlikwidowane z powodu obaw o uprzedzenia, zanim zostało wdrożone. Albo o IBM, który jest pozwany przez Los Angeles za (rzekomo) nieuprawnione wykorzystanie danych zebranych z jego aplikacji pogodowej. Albo o Facebook (META ) …

Czy jest coś jeszcze, co chciałbyś podzielić się na temat Virtue Consultants?

Virtue pomaga seniorom liderom w praktycznym wdrożeniu etyki sztucznej inteligencji, czy to poprzez edukację i podnoszenie umiejętności ludzi na ten temat, pisanie Oświadczenia o etyce sztucznej inteligencji, tworzenie i wdrażanie realizowanego ramowego etycznego ryzyka sztucznej inteligencji, czy po prostu pełnienie funkcji doradców ds. etyki sztucznej inteligencji. Jeśli to brzmi interesująco, ludzie powinni przyjść i się przywitać.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej o Reidzie, powinni odwiedzić Reida Blackmana, lub mogą odwiedzić Virtue Consultants.