Co czego Biały Dom wymaga od praw osób fizycznych w odniesieniu do sztucznej inteligencji oznacza dla Ameryki i reszty świata

Biuro Polityki Nauki i Technologii Białego Domu (OSTP) opublikowało niedawno białą księgę zatytułowaną “Plan praw osób fizycznych w odniesieniu do sztucznej inteligencji: sprawowanie nadzoru nad systemami automatycznymi dla dobra amerykańskiego społeczeństwa”. Ten plan został opublikowany rok po tym, jak OSTP ogłosiło rozpoczęcie prac nad “prawami osób fizycznych w świecie napędzanym przez sztuczną inteligencję”.

We wstępie do tego dokumentu wyraźnie widać, że Biały Dom rozumie zagrożenia dla społeczeństwa, jakie niesie ze sobą sztuczna inteligencja. To, co jest napisane we wstępie, brzmi następująco:

“Wśród wielkich wyzwań stawianych demokracji dzisiaj jest używanie technologii, danych i systemów automatycznych w sposób, który zagraża prawom amerykańskiej społeczności. Zbyt często te narzędzia są używane do ograniczania naszych możliwości i uniemożliwiania dostępu do krytycznych zasobów lub usług. Te problemy są dobrze udokumentowane. W Ameryce i na całym świecie systemy, które mają pomagać w opiece nad pacjentami, okazały się nieskuteczne, niesprawiedliwe lub tendencyjne. Algorytmy używane w procesach rekrutacji i podjęcia decyzji kredytowych zostały uznane za odbicie i powielenie niechcianych nierówności lub wprowadzenie nowych szkodliwych uprzedzeń i dyskryminacji. Niekontrolowane zbieranie danych w mediach społecznościowych zostało użyte do zagrażania ludziom, podważania ich prywatności lub śledzenia ich działań – często bez ich wiedzy lub zgody.”

To, co ten dokument o prawach osób fizycznych w odniesieniu do sztucznej inteligencji i proponowana ramy oznaczą dla przyszłości sztucznej inteligencji, pozostaje jeszcze nieznane. To, co wiemy, to fakt, że nowe rozwiązania pojawiają się w coraz szybszym tempie. To, co kiedyś było uważane za niemożliwe, tłumaczenie języka w czasie rzeczywistym, jest teraz rzeczywistością, a jednocześnie mamy rewolucję w zakresie zrozumienia języka naturalnego (NLU), której przewodzi OpenAI i ich słynna platforma GPT-3.

Od tego czasu widzieliśmy natychmiastowe generowanie obrazów za pomocą techniki zwanej Stable Diffusion, która może wkrótce stać się produktem konsumenckim. W istocie, dzięki tej technologii użytkownik może po prostu wpisać dowolne zapytanie, a sztuczna inteligencja wygeneruje obraz, który odpowiada temu zapytaniu.

Gdy weźmiemy pod uwagę eksponencjalny wzrost i prawo przyspieszonych powrotów, wkrótce nastąpi czas, kiedy sztuczna inteligencja zajmie się każdym aspektem życia codziennego. Osoby i firmy, które zdają sobie z tego sprawę i wykorzystują tę zmianę paradigmatyczną, zyskają na tym. Niestety, duży segment społeczeństwa może paść ofiarą zarówno złych, jak i niezamierzonych konsekwencji sztucznej inteligencji.

Prawa osób fizycznych w odniesieniu do sztucznej inteligencji mają na celu wspieranie rozwoju polityk i praktyk, które chronią prawa obywatelskie i promują wartości demokratyczne w budowaniu, wdrażaniu i zarządzaniu systemami automatycznymi. Jak to porównać do podejścia Chin, pozostaje jeszcze nieznane, ale jest to dokument, który ma potencjał zmienić krajobraz sztucznej inteligencji i prawdopodobnie zostanie przyjęty przez sojuszników, takich jak Australia, Kanada i Unia Europejska.

To, co zostało powiedziane, Prawa osób fizycznych w odniesieniu do sztucznej inteligencji są nieobowiązujące i nie stanowią polityki rządu Stanów Zjednoczonych. Nie zastępują, nie modyfikują i nie interpretują istniejących ustaw, przepisów, polityk ani międzynarodowych instrumentów. To, co to oznacza, to fakt, że będzie to zależało od przedsiębiorstw i rządów, aby stosować się do polityk określonych w tym dokumencie.

Ten dokument wskazał pięć zasad, które powinny kierować projektowaniem, używaniem i wdrażaniem systemów automatycznych w celu ochrony amerykańskiej społeczności w erze sztucznej inteligencji, poniżej przedstawiamy 5 zasad:

1. Bezpieczne i skuteczne systemy

Istnieje wyraźne i niebezpieczne zagrożenie dla społeczeństwa ze strony systemów sztucznej inteligencji, szczególnie tych, które opierają się na głębokim uczeniu. To jest próba rozwiązania tych problemów za pomocą tych zasad:

“Powinieneś być chroniony przed niebezpiecznymi lub nieskutecznymi systemami. Systemy automatyczne powinny być opracowane we współpracy z różnymi społecznościami, zainteresowanymi stronami i ekspertami branżowymi w celu identyfikacji problemów, ryzyk i potencjalnych skutków systemu. Systemy powinny przechodzić testy przed wdrożeniem, identyfikację ryzyka i mitigację, oraz ciągłe monitorowanie, które potwierdza, że są one bezpieczne i skuteczne w związku z ich przeznaczeniem, mitigacją niebezpiecznych wyników, w tym tych poza przeznaczeniem, oraz przestrzeganiem standardów branżowych. Wyniki tych środków ochrony powinny obejmować możliwość niewdrożenia systemu lub usunięcia go z użycia. Systemy automatyczne nie powinny być projektowane z zamiarem lub rozsądną możliwością narażenia Twojego bezpieczeństwa lub bezpieczeństwa Twojej społeczności. Powinny być one projektowane w sposób proaktywny w celu ochrony Ciebie przed szkodami wynikającymi z niezamierzonych, ale przewidywalnych, zastosowań lub skutków systemów automatycznych. Powinieneś być chroniony przed niewłaściwym lub nieodpowiednim użyciem danych w projektowaniu, rozwoju i wdrażaniu systemów automatycznych, oraz przed kumulowaną szkodą ich ponownego użycia. Niezależna ocena i raportowanie, które potwierdza, że system jest bezpieczny i skuteczny, w tym raportowanie działań podjętych w celu mitigacji potencjalnych szkód, powinny być przeprowadzane i wyniki powinny być udostępniane publicznie, o ile jest to możliwe.”

2. Ochrona przed dyskryminacją algorytmiczną

Te polityki dotyczą niektórych z największych problemów, z którymi mamy do czynienia w przypadku przedsiębiorstw, które wykorzystują osoby fizyczne.

Typowy problem, z którym mamy do czynienia przy zatrudnianiu pracowników za pomocą systemów sztucznej inteligencji, polega na tym, że systemy głębokiego uczenia często uczą się na tendencyjnych danych, aby dochodzić do wniosków związanych z zatrudnieniem. To oznacza, że słabe praktyki zatrudniania w przeszłości mogą skutkować dyskryminacją ze względu na płeć lub rasę ze strony agenta rekrutacyjnego. Jedno z badań wskazało na trudności w próbach usunięcia tendencyjności z danych szkoleniowych.

Inny podstawowy problem z tendencyjnymi danymi ze strony rządów to ryzyko niesłusznych aresztowań, lub nawet gorsze algorytmy predykcji przestępczości, które oferują dłuższe wyroki skazujące mniejszości.

“Powinieneś nie doświadczać dyskryminacji ze strony algorytmów i systemy powinny być używane i projektowane w sposób równy. Dyskryminacja algorytmiczna występuje, gdy systemy automatyczne przyczyniają się do nieuzasadnionego różnicowania lub wpływają na ludzi w sposób niekorzystny ze względu na ich rasę, kolor skóry, pochodzenie etniczne, płeć (w tym ciążę, poród i powiązane warunki medyczne, tożsamość płciową, status interseksualny i orientację seksualną), religię, wiek, pochodzenie narodowe, niepełnosprawność, status weterana, informacje genetyczne lub jakąkolwiek inną klasyfikację chronioną przez prawo. W zależności od konkretnych okoliczności, takie dyskryminacje algorytmiczne mogą naruszać ochronę prawną. Projektanci, deweloperzy i wdrożeniowcy systemów automatycznych powinni podejmować proaktywne i ciągłe środki w celu ochrony osób i społeczności przed dyskryminacją algorytmiczną i używać systemów w sposób równy. Ta ochrona powinna obejmować proaktywne oceny równości jako część projektowania systemu, użycie reprezentatywnych danych i ochronę przed pełnomocnikami cech demograficznych, zapewnienie dostępności dla osób niepełnosprawnych w projektowaniu i rozwoju, testowanie i mitigację dysproporcji przed wdrożeniem i w trakcie eksploatacji, oraz wyraźny nadzór organizacyjny. Niezależna ocena i raportowanie w postaci oceny wpływu algorytmicznego, w tym wyników testów dysproporcji i informacji o mitigacji, powinny być przeprowadzane i udostępniane publicznie, o ile jest to możliwe, w celu potwierdzenia tych ochron.

Należy zauważyć, że Stany Zjednoczone przyjęły bardzo przejrzyste podejście w odniesieniu do sztucznej inteligencji, są to polityki, które mają na celu ochronę ogółu społeczeństwa, co jest wyraźnym kontrastem do podejścia Chin w odniesieniu do sztucznej inteligencji.

3. Ochrona danych

Ta zasada ochrony danych jest najbardziej prawdopodobna do wpływu na największy segment społeczeństwa. Pierwsza połowa tej zasady wydaje się zajmować się zbieraniem danych, szczególnie z Internetu, znanym problemem, szczególnie dla platform mediów społecznościowych. Te same dane mogą być następnie użyte do sprzedaży reklam, lub co gorsza, do manipulowania opinią publiczną i wpływania na wyniki wyborów.

“Powinieneś być chroniony przed nadużyciami danych za pomocą wbudowanych ochron. Powinieneś być chroniony przed naruszeniami prywatności za pomocą wyborów projektowych, które zapewniają takie ochrony, w tym zapewnienie, że zbieranie danych odpowiada rozsądnym oczekiwaniom, oraz że zbiera się tylko te dane, które są ściśle niezbędne w danym kontekście. Projektanci, deweloperzy i wdrożeniowcy systemów automatycznych powinni szukać Twojej zgody i szanować Twoje decyzje dotyczące zbierania, używania, dostępu, transferu i usuwania Twoich danych w odpowiedni sposób i w największym możliwym zakresie; tam, gdzie jest to niemożliwe, powinny być używane alternatywne zabezpieczenia prywatności. Systemy nie powinny używać decyzji dotyczących doświadczenia użytkownika i projektowania, które utrudniają wybór użytkownika lub obciążają użytkowników ustawieniami domyślnymi, które są inwazyjne dla prywatności. Zgoda powinna być używana tylko w celu uzasadnienia zbierania danych w przypadkach, w których może być ona odpowiednio i znacząco udzielona. Wszelkie wnioski o zgodę powinny być krótkie, zrozumiałe w prostym języku i dawać Ci kontrolę nad zbieraniem danych i konkretnym kontekstem użycia; obecne praktyki powiadomienia i wyboru dla szerokiego użycia danych powinny być zmienione.”

Druga połowa zasady ochrony danych wydaje się zajmować się nadzorem ze strony rządów i przedsiębiorstw.

Przedsiębiorstwa są w stanie monitorować i szpiegować pracowników, czasem w celu poprawy bezpieczeństwa w miejscu pracy, podczas pandemii COVID-19 w celu egzekwowania noszenia masek, najczęściej po prostu w celu monitorowania, jak czas pracy jest wykorzystywany. W wielu z tych przypadków pracownicy czują, że są monitorowani i kontrolowani w sposób, który nie jest uważany za akceptowalny.

“Wzmocnione ochrony i ograniczenia dla danych i wnioskowań dotyczących wrażliwych dziedzin, w tym zdrowia, pracy, edukacji, wymiaru sprawiedliwości i finansów, oraz danych dotyczących młodzieży powinny stawiać Ciebie na pierwszym miejscu. W wrażliwych dziedzinach Twoje dane i powiązane wnioski powinny być używane tylko w celach niezbędnych, a Ty powinieneś być chroniony przez przeglądy etyczne i zakazy użycia. Ty i Twoja społeczność powinni być wolni od niekontrolowanego nadzoru; technologie nadzoru powinny podlegać wzmocnionemu nadzorowi, który obejmuje co najmniej ocenę przed wdrożeniem potencjalnych szkód i ograniczeń zakresu w celu ochrony prywatności i wolności obywatelskich. Ciągły nadzór i monitorowanie nie powinny być używane w edukacji, pracy, mieszkaniach lub w innych kontekstach, w których użycie takich technologii nadzoru jest prawdopodobne do ograniczania praw, możliwości lub dostępu. Gdziekolwiek jest to możliwe, powinieneś mieć dostęp do raportowania, które potwierdza, że Twoje decyzje dotyczące danych zostały uszanowane i zapewnia ocenę potencjalnego wpływu technologii nadzoru na Twoje prawa, możliwości lub dostęp.”

Należy zauważyć, że sztuczna inteligencja może być używana dla dobra w celu ochrony prywatności ludzi.

4. Zawiadomienie i wyjaśnienie

To powinno być wezwaniem do działania dla przedsiębiorstw w celu wdrożenia radcy ds. etyki sztucznej inteligencji, a także do przyspieszenia rozwoju wyjaśnialnej sztucznej inteligencji. Wyjaśnialna sztuczna inteligencja jest konieczna w przypadku, gdy model sztucznej inteligencji popełnia błąd, zrozumienie, jak działa sztuczna inteligencja, umożliwia łatwą diagnozę problemu.

Wyjaśnialna sztuczna inteligencja pozwoli również na przejrzyste udostępnianie informacji o tym, jak dane są używane i dlaczego sztuczna inteligencja podjęła określoną decyzję. Bez wyjaśnialnej sztucznej inteligencji będzie niemożliwe spełnienie tych polityk z powodu problemu czarnej skrzynki głębokiego uczenia.

Przedsiębiorstwa, które skupią się na poprawie tych systemów, odniosą również pozytywne korzyści z zrozumienia niuansów i złożoności, które leżą u podstaw decyzji podejmowanych przez algorytmy głębokiego uczenia.

“Powinieneś wiedzieć, że system automatyczny jest używany i rozumieć, jak i dlaczego przyczynia się do wyników, które wpływają na Ciebie. Projektanci, deweloperzy i wdrożeniowcy systemów automatycznych powinni zapewnić ogólnie dostępną dokumentację w prostym języku, w tym jasne opisy ogólnego funkcjonowania systemu i roli automatyki, zawiadomienie o tym, że takie systemy są używane, osobę lub organizację odpowiedzialną za system, oraz wyjaśnienia wyników, które są klarowne, terminowe i dostępne. Takie zawiadomienie powinno być aktualizowane, a osoby dotknięte systemem powinny być powiadamiane o znaczących zmianach w przypadku użycia lub kluczowych funkcjonalności. Powinieneś wiedzieć, jak i dlaczego wynik, który wpływa na Ciebie, został określony przez system automatyczny, w tym, gdy system automatyczny nie jest jedynym wejściem określającym wynik. Systemy automatyczne powinny zapewniać wyjaśnienia, które są technicznie ważne, znaczące i użyteczne dla Ciebie i dla każdego operatora lub innych osób, które muszą zrozumieć system, oraz skalibrowane do poziomu ryzyka w zależności od treści. Raportowanie, które obejmuje informacje podsumowujące o tych systemach automatycznych w prostym języku i oceny klarowności i jakości zawiadomienia i wyjaśnień, powinny być udostępniane publicznie, o ile jest to możliwe.”

5. Alternatywy ludzkie, rozważanie i awaryjne

W przeciwieństwie do większości powyższych zasad, ta zasada jest najbardziej odpowiednia dla podmiotów rządowych lub prywatyzowanych instytucji, które działają w imieniu rządu.

Nawet z radą ds. etyki sztucznej inteligencji i wyjaśnialną sztuczną inteligencją, ważne jest, aby powrócić do przeglądu ludzkiego, gdy życie jest na szali. Zawsze istnieje potencjał błędu, a posiadanie ludzkiego przeglądu w przypadku wniosku może uniknąć sytuacji, takiej jak sztuczna inteligencja, która wysyła niewłaściwych ludzi do więzienia.

Systemy sądowe i karne mają największy potencjał do spowodowania nieodwracalnej szkody dla marginalizowanych członków społeczeństwa i powinny zwrócić szczególną uwagę na tę zasadę.

“Powinieneś mieć możliwość rezygnacji, gdzie jest to odpowiednie, i mieć dostęp do osoby, która może szybko rozważyć i naprawić problemy, z którymi się zmagasz. Powinieneś mieć możliwość rezygnacji z systemów automatycznych na rzecz alternatywy ludzkiej, gdzie jest to odpowiednie. Odpowiedniość powinna być określona na podstawie rozsądku w danym kontekście i z uwzględnieniem zapewnienia szerokiej dostępności i ochrony społeczeństwa przed szczególnie szkodliwymi skutkami. W niektórych przypadkach alternatywa ludzka może być wymagana przez prawo. Powinieneś mieć dostęp do szybkiego rozważenia i rozwiązania problemu przez awaryjne i eskalacyjne rozwiązanie, jeśli system automatyczny zawiedzie, wyprodukuje błąd lub chcesz odwołać się lub zakwestionować jego wpływ na Ciebie. Rozważanie i awaryjne powinny być dostępne, równoprawne, skuteczne, utrzymane, towarzyszy im odpowiednie szkolenie operatorów i nie powinny nakładać nieuzasadnionego obciążenia na społeczeństwo. Systemy automatyczne, których przeznaczeniem jest użycie w wrażliwych dziedzinach, w tym w systemie karnym, zatrudnieniu, edukacji i ochronie zdrowia, powinny dodatkowo być dostosowane do celu, zapewniać znaczący dostęp do nadzoru, obejmować szkolenie dla osób, które wchodzą w interakcję z systemem, oraz uwzględniać rozważanie ludzkie w przypadku niekorzystnych lub wysokiego ryzyka decyzji. Raportowanie, które obejmuje opis tych procesów zarządzania przez ludzi i ocenę ich terminowości, dostępności, wyników i skuteczności, powinno być udostępnione publicznie, o ile jest to możliwe.”

Podsumowanie

OSTP powinno być pochwalone za próbę wprowadzenia ramy, która łączy protokoły bezpieczeństwa niezbędne dla społeczeństwa, bez wprowadzania surowych polityk, które mogłyby hamować postęp w rozwoju sztucznej inteligencji.

Po przedstawieniu zasad dokument kontynuuje się, dostarczając techniczne uzupełnienie problemów omawianych, a także szczegółowe informacje o każdej zasadzie i najlepszych sposobach postępowania w celu wdrożenia tych zasad.

Przedsiębiorcy i firmy powinni zwrócić uwagę na ten dokument, ponieważ może być tylko korzystne, aby wdrożyć te polityki jak najszybciej.

Wyjaśnialna sztuczna inteligencja będzie nadal dominować w zakresie ważności, co widać w tym cytacie z dokumentu.

“W całym rządzie federalnym agencje prowadzą i wspierają badania nad systemami sztucznej inteligencji, które mogą być wyjaśnione. NIST prowadzi podstawowe badania nad wyjaśnialnością systemów sztucznej inteligencji. Zespół multidyscyplinarny badaczy ma na celu opracowanie metod pomiaru i najlepszych praktyk w celu wspierania wdrożenia podstawowych zasad wyjaśnialnej sztucznej inteligencji. Agencja Defense Advanced Research Projects ma program Explainable Artificial Intelligence, który ma na celu stworzenie zestawu technik uczenia maszynowego, które produkują bardziej wyjaśnialne modele, przy jednoczesnym utrzymaniu wysokiego poziomu wydajności uczenia (dokładności predykcji), oraz umożliwiają ludziom zrozumienie, odpowiednie zaufanie i skuteczne zarządzanie nową generacją sztucznie inteligentnych partnerów. Program Fundacji Narodowej Nauki na rzecz sztucznej inteligencji obejmuje również specjalne zainteresowanie badaniami nad podstawami wyjaśnialnej sztucznej inteligencji.”

To, co nie powinno być pominięte, to fakt, że ostatecznie zasady przedstawione w tym dokumencie staną się nowym standardem.