Bradford Newman, Przewodniczący Praktyki Handlu Tajemnicami w Ameryce Północnej – Seria Wywiadów

Bradford specjalizuje się w sprawach związanych z tajemnicami handlowymi i sztuczną inteligencją. Jest przewodniczącym Podkomisji ds. Sztucznej Inteligencji Amerykańskiej Izby Adwokackiej. W 2019 roku został uznany przez Daily Journal za jednego z 20 najlepszych prawników ds. sztucznej inteligencji w Kalifornii, Bradford odegrał instrumentalną rolę w proponowaniu federalnych przepisów dotyczących sztucznej inteligencji na miejscu pracy i własności intelektualnej, które w 2018 roku zostały przekształcone w projekt ustawy Izby Reprezentantów Stanów Zjednoczonych. Opracował również najlepsze praktyki nadzoru i zarządzania sztuczną inteligencją, zaprojektowane w celu zapewnienia sprawiedliwości algorytmicznej.

Czym było to, co początkowo rozpaliło Twoje zainteresowanie sztuczną inteligencją?

Reprezentowałem przez wiele lat wiodących innowatorów i producentów produktów i technologii sztucznej inteligencji. Moim zainteresowaniem zawsze było zajrzenie za kulisy i zrozumienie prawnych i technicznych aspektów uczenia maszynowego, oraz obserwowanie ewolucji sztucznej inteligencji. Jestem fascynowany tym, co jest możliwe w przypadku aplikacji w różnych dziedzinach.

Jesteś gorącym orędownikiem racjonalnej regulacji sztucznej inteligencji, szczególnie w regulacji, która chroni zdrowie publiczne, możesz omówić niektóre z Twoich głównych obaw?

Wierzę, że jesteśmy na początku jednej z najgłębszych rewolucji, jakie ludzkość doświadczyła. Sztuczna inteligencja ma potencjał wpłynąć na każdy aspekt naszego życia, od momentu, w którym się budzimy rano, do momentu, w którym idziemy spać — oraz również, gdy śpimy. Wiele aplikacji sztucznej inteligencji będzie pozytywnie wpływać na jakość naszego życia i prawdopodobnie naszą długowieczność jako gatunku.

Obecnie, z punktu widzenia informatyki i uczenia maszynowego, ludzie są nadal bardzo zaangażowani w proces, od kodowania algorytmów, przez zrozumienie zbiorów danych szkoleniowych, po przetwarzanie wyników, rozpoznawanie słabości i produkowanie technologii.

Jednakże jesteśmy w wyścigu z czasem na dwóch głównych frontach. Po pierwsze, co jest powszechnie określane jako “problem czarnej skrzynki”: zaangażowanie i zrozumienie ludzi sztucznej inteligencji będzie się zmniejszać z czasem, gdy sztuczna inteligencja stanie się bardziej zaawansowana (np. sieci neuronowe). Po drugie, użycie sztucznej inteligencji przez rządy i interesy prywatne będzie rosło.

Moja obawa jest taka, że sztuczna inteligencja będzie wykorzystywana, zarówno celowo, jak i niecelowo, w sposób sprzeczny z zachodnimi ideałami demokracji i wolności jednostki.

Jak rozwiązać te obawy?

Społeczeństwo jest w punkcie, w którym musimy rozwiązać nie to, co jest możliwe w odniesieniu do sztucznej inteligencji, ale to, co powinno być zabronione i/lub częściowo ograniczone.

Po pierwsze, musimy określić konkretnie decyzje, które nigdy nie mogą być podejmowane w całości lub w części przez algorytmiczne dane wyjściowe generowane przez sztuczną inteligencję. Oznacza to, że nawet w sytuacjach, w których wszyscy eksperci zgadzają się, że dane wejściowe i wyjściowe są całkowicie niezależne, przejrzyste i dokładne, musi istnieć zakaz ustawowy dotyczący korzystania z nich do jakiegokolwiek rodzaju decyzji predykcyjnych lub istotnych.

Zgodnie z oczekiwaniami, jest to sprzeczne z naszym pragnieniem matematycznej pewności, ale ustanowienie “strefy zakazu lotów” sztucznej inteligencji jest niezbędne do zachowania wolności, które wszyscy ceniszmy i które służą jako podstawa naszego społeczeństwa.

Po drugie, dla innych zidentyfikowanych decyzji opartych na analizach sztucznej inteligencji, które nie są całkowicie zabronione, potrzebujemy ustawodawstwa, które wyraźnie określa te, w których zaangażowany musi być człowiek w procesie decyzyjnym.

Zostałeś ważnym proponentem federalnych przepisów dotyczących sztucznej inteligencji na miejscu pracy i własności intelektualnej, które w 2018 roku zostały przekształcone w projekt ustawy Izby Reprezentantów Stanów Zjednoczonych. Możesz omówić niektóre z tych propozycji?

Ustawa o ochronie danych sztucznej inteligencji ma na celu promowanie innowacji i jest zaprojektowana w celu (1) zwiększenia przejrzystości w odniesieniu do natury i użycia sztucznej inteligencji oraz budowania zaufania publicznego w sztuczną inteligencję; (2) rozwiązania problemu wpływu sztucznej inteligencji na rynek pracy oraz (3) ochrony zdrowia publicznego i bezpieczeństwa.

Ma kilka kluczowych składników. Na przykład, zabrania objętym firmom wyłącznego polegania na sztucznej inteligencji w podejmowaniu pewnych decyzji, w tym decyzji dotyczącej zatrudnienia osób lub odmowy lub ograniczenia leczenia medycznego, oraz zabrania ubezpieczycielom medycznym podejmowania decyzji dotyczących pokrycia leczenia medycznego wyłącznie na podstawie analiz sztucznej inteligencji. Ustanawia również Radę Sztucznej Inteligencji — nową agencję federalną odpowiedzialną za konkretną odpowiedzialność za regulację sztucznej inteligencji w odniesieniu do zdrowia publicznego i bezpieczeństwa. Wymaga również, aby objęte podmioty wyznaczyły Głównego Oficera Sztucznej Inteligencji.

Opracowałeś również najlepsze praktyki nadzoru i zarządzania sztuczną inteligencją, zaprojektowane w celu zapewnienia sprawiedliwości algorytmicznej. Jakie są niektóre z obecnych problemów, które widzisz w kwestii uczciwości lub uprzedzeń w systemach sztucznej inteligencji?

Ten temat był przedmiotem intensywnej kontroli ze strony akademików i obecnie zaczyna być interesujący dla agencji rządowych USA, takich jak Komisja ds. Równych Szans Zatrudnienia (EEOC) oraz prawników powodów. Większość czasu przyczyną jest wada w zbiorach danych szkoleniowych lub brak zrozumienia i przejrzystości w środowisku testowym. Jest to pogarszane przez brak centralnej własności i nadzoru sztucznej inteligencji przez kadry kierownicze.

Brak technicznego zrozumienia i świadomości sytuacyjnej jest znaczącym problemem odpowiedzialności. Z rozmawiałem z kilkoma wybitnymi prawnikami powodów, którzy polują na przypadki uprzedzeń sztucznej inteligencji.

Czy uważasz, że głębokie uczenie się często cierpi na “problem czarnej skrzynki”, w którym wprowadzamy dane do sztucznej sieci neuronowej, a następnie otrzymujemy dane wyjściowe, bez możliwości poznania, w jaki sposób zostały one wygenerowane?

Tak. A gdy algorytmy i sieci neuronowe będą nadal ewoluować, a ludzie będą coraz mniej “w pętli”, istnieje realne ryzyko przekroczenia punktu, w którym nie będziemy już w stanie zrozumieć krytycznych elementów funkcjonowania i danych wyjściowych.

Wraz z COVID-19 kraje na całym świecie wprowadziły systemy nadzoru państwowego oparte na sztucznej inteligencji. Jak duży problem stanowi potencjalne nadużycie tego rodzaju nadzoru?

Jest naiwne, a wręcz nieodpowiedzialne z punktu widzenia praw i wolności jednostki, ignorować lub bagatelizować ryzyko nadużycia. Chociaż śledzenie kontaktów wydaje się rozsądne w czasie pandemii globalnej, a rozpoznawanie twarzy oparte na sztucznej inteligencji stanowi skuteczny środek do wykonania czegoś, czego ludzie sami by nie byli w stanie osiągnąć, społeczeństwo musi ustanowić prawnicze zakazy nadużycia wraz z skutecznymi mechanizmami nadzoru i egzekwowania. W przeciwnym razie, zrzekamy się na rzecz państwa podstawowego elementu naszych podstawowych praw i wolności. Gdy raz zostaną one oddane w sposób całościowy, ten podstawowy element naszej wolności i prywatności nie zostanie zwrócony.

Wcześniej stwierdziłeś, że “Musimy ustanowić ‘strefę zakazu lotów’ sztucznej inteligencji, jeśli chcemy zachować wolności, które Amerykanie wszystkim cenią i które służą jako podstawa naszego społeczeństwa.” Czy mógłbyś podzielić się niektórymi z tych obaw, które masz?

Gdy dyskutujemy o sztucznej inteligencji, musimy zawsze koncentrować się na podstawowym celu sztucznej inteligencji: wytwarzaniu dokładnych analiz predykcyjnych z bardzo dużych zbiorów danych, które są następnie wykorzystywane do klasyfikacji ludzi i podejmowania decyzji. Następnie musimy zbadać, kim są decydenci, co decydują i na czym opierają swoje decyzje.

Jeśli zrozumiemy, że decydenci to ci, którzy mają największy wpływ na nasze zdrowie, utrzymanie i wolność — pracodawcy, właściciele, lekarze, ubezpieczyciele, organy ścigania i każde inne przedsiębiorstwo prywatne, handlowe i rządowe, które mogą generować, gromadzić lub kupować analizy sztucznej inteligencji — staje się łatwo zrozumieć, że w zachodniej demokracji liberalnej, w przeciwieństwie do reżimu totalitarnego, powinny istnieć decyzje, które nie powinny, i nie mogą, być pozostawione wyłącznie sztucznej inteligencji.

Chociaż wiele oczywistych decyzji przychodzi na myśl, takich jak zakaz więzienia kogoś przed popełnieniem przestępstwa, powszechna adopcja sztucznej inteligencji we wszystkich aspektach naszego życia przedstawia znacznie bardziej zawikłane przypadki dylematów etycznych. Na przykład, jeśli algorytm dokładnie przewiduje, że pracownicy, którzy publikują zdjęcia na mediach społecznościowych z wakacji na plaży, gdzie piją alkohol, zostają zwolnieni lub są zwalniani z pracy średnio 3,5 roku wcześniej niż ci, którzy publikują zdjęcia ze swojej pracy, czy powinny one być pozbawione awansu lub podwyżki wyłącznie na podstawie danych wyjściowych algorytmu? Jeśli algorytm prawidłowo określa, że nastolatkowie, którzy grają w gry wideo średnio ponad 2 godziny dziennie, są mniej prawdopodobni do ukończenia czteroletnich studiów, czy powinni oni być pozbawieni przyjęcia? Jeśli azjatyckie kobiety w wieku 60 lat, które są hospitalizowane z objawami COVID-19, mają wyższy wskaźnik przeżycia niż afroamerykańscy mężczyźni w wieku 70 lat, czy kobiety powinny otrzymać preferencyjne leczenie medyczne?

Te uproszczone przykłady to tylko kilka z wielu decyzji, w których poleganie wyłącznie na sztucznej inteligencji sprzeciwia się naszym poglądom na to, co wymagają prawa człowieka.

Czy jest coś jeszcze, co chciałbyś podzielić się w odniesieniu do sztucznej inteligencji lub Baker McKenzie?

Jestem niezwykle zainspirowany, aby pomóc poprowadzić prawdziwie międzynarodową praktykę sztucznej inteligencji Baker McKenzie wśród ewoluującego krajobrazu. Rozpoznajemy, że nasi klienci są głodni wskazówek we wszystkich sprawach związanych z sztuczną inteligencją, od negocjowania umów, przez ustanowienie wewnętrznego nadzoru, po unikanie roszczeń o uprzedzenia, po zrozumienie powstającego krajowego i międzynarodowego ramy regulacyjnego.

Firmy chcą postępować słusznie, ale jest bardzo niewiele kancelarii prawnych, które mają niezbędną ekspertyzę i zrozumienie sztucznej inteligencji i uczenia maszynowego, aby mogły im pomóc. Dla tych z nas, którzy są zarówno miłośnikami sztucznej inteligencji, jak i prawnikami, jest to ekscytujący czas, aby dodać prawdziwą wartość dla naszych klientów.

Dziękuję za wspaniałe odpowiedzi dotyczące niektórych z tych głównych problemów społecznych związanych z sztuczną inteligencją. Czytelnicy, którzy chcą dowiedzieć się więcej o Bradfordzie Newmanie, powinni kliknąć tutaj.