Bradford Newman, Przewodniczący Praktyki Handlu Tajemnicami w Ameryce Północnej – Wywiad

Bradford specjalizuje się w sprawach związanych z tajemnicami handlowymi i sztuczną inteligencją. Jest przewodniczącym Podkomisji AI Amerykańskiej Izby Adwokackiej. W 2019 roku został uznany przez Daily Journal (DJCO ) za jednego z 20 najlepszych prawników AI w Kalifornii, Bradford odegrał kluczową rolę w proponowaniu federalnych przepisów dotyczących AI w miejscu pracy i własności intelektualnej, które w 2018 roku zostały przekształcone w projekt ustawy Izby Reprezentantów Stanów Zjednoczonych. Opracował również najlepsze praktyki nadzoru i zarządzania AI, zaprojektowane w celu zapewnienia sprawiedliwości algorytmicznej.

Czym było to, co początkowo zapaliło Twoją pasję do sztucznej inteligencji?

Reprezentowałem światowych liderów i producentów produktów i technologii AI przez wiele lat. Moim zainteresowaniem zawsze było zajrzenie za kulisy i zrozumienie prawnych i technicznych aspektów uczenia maszynowego, oraz obserwowanie, jak AI ewoluuje. Jestem fascynowany tym, co jest możliwe w przypadku aplikacji w różnych dziedzinach.

Jesteś gorącym orędownikiem racjonalnej regulacji sztucznej inteligencji, szczególnie w regulacji, która chroni zdrowie publiczne, możesz omówić niektóre z Twoich głównych obaw?

Uważam, że jesteśmy na początku jednej z najbardziej głębokich rewolucji, jakie ludzkość doświadczyła. AI ma potencjał wpłynąć na każdy aspekt naszego życia, od momentu, w którym budzimy się rano, do momentu, w którym idziemy spać – i również, gdy śpimy. Wiele aplikacji AI będzie miało pozytywny wpływ na jakość naszego życia i prawdopodobnie naszą długowieczność jako gatunku.

Obecnie, z punktu widzenia informatyki i uczenia maszynowego, ludzie są nadal bardzo zaangażowani w proces, od kodowania algorytmów, poprzez zrozumienie zbiorów danych szkoleniowych, po przetwarzanie wyników, rozpoznawanie braków i produkowanie technologii.

Ale jesteśmy w wyścigu z czasem na dwóch głównych frontach. Po pierwsze, co jest powszechnie określane jako “problem czarnej skrzynki”: zaangażowanie i zrozumienie AI przez ludzi będzie się zmniejszać w czasie, w miarę ewolucji złożoności AI (myśl o sieciach neuronowych). Po drugie, użycie AI przez rządy i interesy prywatne będzie rosło.

Moja obawa jest taka, że AI będzie używana, zarówno celowo, jak i nieumyślnie, w sposób sprzeczny z ideałami zachodniej demokracji, takimi jak indywidualna wolność i swoboda.

Jak możemy rozwiązać te obawy?

Społeczeństwo jest w punkcie, w którym musimy rozstrzygnąć nie to, co jest możliwe w odniesieniu do AI, ale co powinno być zabronione lub częściowo ograniczone.

Po pierwsze, musimy określić decyzje, które nigdy nie mogą być podejmowane w całości lub w części przez wyjście algorytmiczne generowane przez AI. Oznacza to, że nawet w sytuacjach, w których wszyscy eksperci zgadzają się, że dane wejściowe i wyjściowe są całkowicie niezależne, przejrzyste i dokładne, musi istnieć zakaz ustawowy na korzystanie z nich do jakiegokolwiek rodzaju decyzji przewidywanych lub istotnych.

Przyznaję, że jest to sprzeczne z intuicją w świecie, w którym pragniemy matematycznej pewności, ale ustanowienie “strefy zakazu” AI jest niezbędne do zachowania wolności, które wszyscy cenimy i które służą jako podstawa naszego społeczeństwa.

Po drugie, dla innych zidentyfikowanych decyzji opartych na analizach AI, które nie są całkowicie zabronione, potrzebujemy ustawodawstwa, które wyraźnie określa te, w których człowiek musi być zaangażowany w proces decyzyjny.

Byłeś instrumentalny w proponowaniu federalnych przepisów dotyczących AI w miejscu pracy i własności intelektualnej, które w 2018 roku zostały przekształcone w projekt ustawy Izby Reprezentantów Stanów Zjednoczonych. Możesz omówić niektóre z tych propozycji?

Ustawa o ochronie danych AI ma na celu promowanie innowacji i jest zaprojektowana w celu (1) zwiększenia przejrzystości w zakresie natury i użycia, oraz budowania zaufania publicznego w AI; (2) rozwiązania problemu wpływu AI na rynek pracy oraz (3) ochrony zdrowia publicznego i bezpieczeństwa.

Ma kilka kluczowych składników. Na przykład, zabrania firmom objętym zakazem polegania wyłącznie na AI do podejmowania pewnych decyzji, w tym decyzji dotyczącej zatrudnienia osób lub odmowy lub ograniczenia leczenia medycznego, oraz zabrania ubezpieczycielom medycznym podejmowania decyzji dotyczących objęcia leczenia medycznego wyłącznie na podstawie analiz AI. Ustanawia również Radę AI – nową agencję federalną odpowiedzialną za regulację AI w odniesieniu do zdrowia publicznego i bezpieczeństwa. Wymaga również, aby podmioty objęte przepisami wyznaczyły Głównego Oficera AI.

Byłeś również zaangażowany w rozwój najlepszych praktyk nadzoru i zarządzania AI, zaprojektowanych w celu zapewnienia sprawiedliwości algorytmicznej. Jakie są niektóre z obecnych problemów, które widzisz w zakresie sprawiedliwości lub uprzedzeń w systemach AI?

Ten temat był przedmiotem intensywnej debaty wśród akademików i obecnie zyskuje zainteresowanie amerykańskich agencji rządowych, takich jak Komisja ds. Równych Szans Zatrudnienia (EEOC), oraz adwokatów. Większość czasu przyczyną jest wada w zbiorach danych szkoleniowych lub brak zrozumienia i przejrzystości w środowisku testowym. Jest to pogarszane przez brak centralnej własności i nadzoru AI przez kadry kierownicze.

Brak zrozumienia technicznego i świadomości sytuacyjnej jest znaczącym problemem odpowiedzialności. Rozmawiałem z kilkoma prominentnymi adwokatami, którzy są na poszukiwaniu przypadków uprzedzeń AI.

Głębokie uczenie się często cierpi na problem “czarnej skrzynki”, w której wprowadzamy dane do sztucznej sieci neuronowej (ANN), a następnie otrzymujemy wyjście, bez możliwości poznania, w jaki sposób to wyjście zostało wygenerowane. Uważasz, że jest to duży problem?

Tak. I w miarę ewolucji algorytmów i sieci neuronowych, oraz w miarę coraz mniejszego zaangażowania ludzi, istnieje realne ryzyko przekroczenia punktu, w którym nie będziemy już w stanie zrozumieć krytycznych elementów funkcjonowania i wyjścia.

Z powodu COVID-19 kraje na całym świecie wprowadziły systemy nadzoru państwowego opartego na AI. Jak duży problem masz z potencjalnym nadużyciem tego rodzaju nadzoru?

Jest naiwnością, a nawet nieodpowiedzialnością, z punktu widzenia praw i wolności jednostki, ignorować lub bagatelizować ryzyko nadużycia. Podczas gdy śledzenie kontaktów wydaje się rozsądne w czasie pandemii globalnej, a rozpoznawanie twarzy oparte na AI zapewnia skuteczny środek do tego, co ludzie nie są w stanie osiągnąć, społeczeństwo musi ustanowić prawnicze zakazy nadużycia, a także skuteczne mechanizmy nadzoru i egzekwowania. W przeciwnym razie, oddajemy państwu podstawowy element naszych podstawowych praw i wolności. Gdy raz oddamy je w całości, ten podstawowy element naszej wolności i prywatności nie zostanie zwrócony.

Wcześniej stwierdziłeś, że “Musimy ustanowić strefę zakazu AI, jeśli chcemy zachować wolności, które Amerykanie wszystkim cenią i które służą jako podstawa naszego społeczeństwa.” Czy mógłbyś podzielić się niektórymi z Twoich obaw?

Gdy dyskutujemy o AI, musimy zawsze koncentrować się na podstawowym celu AI: wytwarzaniu dokładnych analiz przewidywanych z bardzo dużych zbiorów danych, które są następnie wykorzystywane do klasyfikacji ludzi i podejmowania decyzji. Następnie musimy zbadać, kim są decydenci, co decydują i na czym opierają swoje decyzje.

Jeśli zrozumiemy, że decydenci to ci, którzy mają największy wpływ na nasze zdrowie, utrzymanie i wolność – pracodawcy, właściciele, lekarze, ubezpieczyciele, organy ścigania i każde inne przedsiębiorstwo prywatne, komercyjne i rządowe, które mogą generować, gromadzić lub kupować analizy AI – staje się łatwo zrozumieć, że w zachodniej demokracji liberalnej, w przeciwieństwie do reżimu totalitarnego, powinny istnieć decyzje, które nie powinny, i nie mogą być pozostawione wyłącznie AI.

Chociaż wiele oczywistych decyzji przychodzi na myśl, takich jak zakaz więzienia kogoś przed popełnieniem przestępstwa, powszechny zakres AI w każdy aspekt naszego życia przedstawia wiele bardziej skomplikowanych przypadków dylematów etycznych. Na przykład, jeśli algorytm dokładnie przewiduje, że pracownicy, którzy publikują zdjęcia na portalach społecznościowych z wakacji na plaży, gdzie piją alkohol, zostaną zwolnieni lub stracą pracę średnio 3,5 roku wcześniej niż ci, którzy publikują zdjęcia ze swojej pracy, czy powinna być odmówiona im awans lub podwyżka wyłącznie na podstawie wyjścia algorytmicznego? Jeśli algorytm określa, że nastolatkowie, którzy grają w gry wideo średnio ponad 2 godziny dziennie, są mniej prawdopodobni do ukończenia czteroletnich studiów, czy powinny być im odmówione przyjęcie? Jeśli kobiety azjatyckie w wieku 60 lat, które zostały przyjęte na oddział intensywnej terapii z objawami związanymi z COVID-19, okazują się mieć wyższy wskaźnik przeżycia niż mężczyźni afrykańscy w wieku 70 lat, czy powinny otrzymać priorytetowe leczenie medyczne?

Te uproszczone przykłady są tylko kilkoma z wielu decyzji, w których poleganie wyłącznie na AI sprzeciwia się naszym poglądom na to, co wymagają prawa człowieka.

Czy jest coś jeszcze, co chciałbyś podzielić się w odniesieniu do AI lub Baker McKenzie?

Jestem niezwykle zainspirowany, aby pomóc prowadzić prawdziwie międzynarodową praktykę AI Baker McKenzie wśród ewoluującego krajobrazu. Rozpoznajemy, że naszym klientom potrzebne jest wsparcie we wszystkich sprawach związanych z AI, od negocjowania umów, ustanawiania nadzoru wewnętrznego, unikania roszczeń o uprzedzenia, po zrozumienie powstającego krajowego i międzynarodowego ramowego prawa.

Firmy chcą postąpić słusznie, ale jest niewiele kancelarii prawnych, które mają niezbędną ekspertyzę i zrozumienie AI i uczenia maszynowego, aby mogły im pomóc. Dla tych z nas, którzy są zarówno uzależnionymi od AI, jak i prawnikami, jest to ekscytujący czas, aby dodać prawdziwą wartość dla naszych klientów.

Dziękujemy za wspaniałe odpowiedzi dotyczące niektórych z tych głównych problemów społecznych związanych z AI. Czytelnicy, którzy chcą dowiedzieć się więcej o Bradfordzie Newmanie, powinni kliknąć tutaj.