Czy AI jest zagrożeniem egzystencjalnym?

Podczas dyskusji na temat sztucznej inteligencji (AI) często pojawia się debata, czy AI jest zagrożeniem egzystencjalnym. Odpowiedź wymaga zrozumienia technologii za Machine Learning (ML) i uznania, że ludzie mają tendencję do antropomorfizacji. Będziemy badać dwa różne rodzaje AI, Sztuczna Inteligencja Wąska (ANI), która jest dostępna obecnie i powoduje niepokój, oraz zagrożenie, które jest najczęściej kojarzone z apokaliptycznymi wizjami AI, czyli Sztuczna Inteligencja Ogólna (AGI).

Zagrożenia Sztucznej Inteligencji Wąskiej

Aby zrozumieć, co to jest ANI, wystarczy zrozumieć, że każda aplikacja AI dostępna obecnie jest formą ANI. Są to dziedziny AI, które mają wąską specjalizację, na przykład samochody autonomiczne używają AI, które jest zaprojektowane z solecznym celem poruszania się pojazdu z punktu A do B. Innym rodzajem ANI może być program szachowy, który jest zoptymalizowany do gry w szachy, i nawet jeśli program szachowy ciągle się poprawia, używając wzmocnionego uczenia, program szachowy nigdy nie będzie w stanie obsługiwać samochodu autonomicznego.

Z uwagi na swoje skupienie na dowolnej operacji, systemy ANI nie są w stanie używać ogólnego uczenia się, aby przejąć kontrolę nad światem. To jest dobra wiadomość; zła wiadomość jest taka, że z uwagi na swoją zależność od operatora ludzkiego, system AI jest podatny na tendencyjne dane, błędy ludzkie lub nawet gorsze, na operatora, który nie działa prawidłowo.

Nadzór AI

Może nie być większego niebezpieczeństwa dla ludzkości niż ludzie używający AI do inwazji na prywatność, a w niektórych przypadkach używający AI do całkowitego uniemożliwienia ludziom swobodnego poruszania się. Chiny, Rosja i inne kraje przegłosowały regulacje podczas COVID-19 w celu umożliwienia sobie monitorowania i kontrolowania ruchu swoich populacji. Są to prawa, które raz wprowadzone, są trudne do usunięcia, szczególnie w społeczeństwach, które charakteryzują się autorytarnymi przywódcami.

W Chinach kamery są umieszczone na zewnątrz domów ludzi, a w niektórych przypadkach wewnątrz domu. Każdy raz, gdy członek gospodarstwa domowego opuszcza dom, AI monitoruje czas przyjazdu i wyjazdu, i jeśli jest to konieczne, powiadamia władze. Jak gdyby to nie było wystarczająco, z pomocą technologii rozpoznawania twarzy, Chiny są w stanie śledzić ruch każdej osoby każdy raz, gdy jest identyfikowana przez kamerę. To daje absolutną władzę podmiotowi kontrolującemu AI i absolutnie zero możliwości odwołania się dla obywateli.

Dlaczego ten scenariusz jest niebezpieczny, jest to, że skorumpowane rządy mogą starannie monitorować ruchy dziennikarzy, politycznych przeciwników lub każdego, kto odważy się zakwestionować władzę rządu. Łatwo zrozumieć, jak dziennikarze i obywatele będą ostrożni, aby krytykować rządy, gdy każdy ruch jest monitorowany.

Są na szczęście wiele miast, które walczą, aby uniemożliwić technologii rozpoznawania twarzy infiltrowanie ich miast. Godne uwagi jest to, że Portland w Oregonie niedawno ustanowił prawo, które blokuje technologię rozpoznawania twarzy z niepotrzebnego jej używania w mieście. Chociaż te zmiany w regulacjach mogły pozostać niezauważone przez ogół społeczeństwa, w przyszłości te regulacje mogą być różnicą między miastami, które oferują pewną autonomię i wolność, a miastami, które wydają się opresyjne.

Autonomiczne Bronie i Drony

Ponad 4500 badaczy AI apeluje o zakaz broni autonomicznych i stworzyło stronę internetową Ban Lethal Autonomous Weapons. Grupa ma wielu znanych organizacji pozarządowych jako sygnatariuszy, takich jak Human Rights Watch, Amnesty International i The Future of Life Institute, które same w sobie mają wybitny doradczy zarząd naukowy, w tym Elona Muska, Nicka Bostroma i Stuarta Russella.

Przed kontynuowaniem podzielę się cytatem z The Future of Life Institute, który najlepiej wyjaśnia, dlaczego istnieje wyraźna przyczyna do niepokoju: “W przeciwieństwie do półautonomicznych broni, które wymagają nadzoru ludzkiego, aby upewnić się, że każdy cel jest zwalidowany jako etycznie i prawnie uzasadniony, takie w pełni autonomiczne bronie wybierają i atakują cele bez interwencji ludzkiej, reprezentując pełną automatyzację szkodliwych działań. “

Obecnie używane są inteligentne bomby, które są wyposażone w cel wybrany przez człowieka, a następnie używają AI do zaplanowania trasy i lądowania na celu. Problem polega na tym, co się stanie, gdy całkowicie usuniemy człowieka z równania?

Gdy AI wybiera, którzy ludzie potrzebują ataku, a także jaki rodzaj szkód ubocznych jest uznany za dopuszczalny, możemy przekroczyć punkt niepowrotu. To jest powód, dla którego tak wielu badaczy AI sprzeciwia się badaniom nad broniami autonomicznymi.

Istnieje wiele problemów z prostym próbą zablokowania badań nad broniami autonomicznymi. Pierwszym problemem jest to, że nawet jeśli zaawansowane kraje, takie jak Kanada, USA i większość Europy, zdecydują się na zakaz, nie oznacza to, że kraje takie jak Chiny, Korea Północna, Iran i Rosja będą się stosować do niego. Drugim i większym problemem jest to, że badania AI i aplikacje zaprojektowane do użycia w jednej dziedzinie mogą być używane w całkowicie niezwiązanej dziedzinie.

Na przykład, ciągłe udoskonalanie widzenia komputerowego jest ważne dla rozwoju autonomicznych pojazdów, medycyny precyzyjnej i innych ważnych przypadków użycia. Jest to również fundamentalnie ważne dla regularnych dronów lub dronów, które mogą być modyfikowane, aby stać się autonomiczne. Jednym z potencjalnych przypadków użycia zaawansowanej technologii dronów jest rozwój dronów, które mogą monitorować i walczyć z pożarami lasów. To całkowicie usunie strażaków z niebezpieczeństwa. Aby to zrobić, należy zbudować drony, które mogą lecieć w niebezpieczne miejsca, nawigować w niskiej lub zerowej widoczności i zrzucić wodę z niezrównaną precyzją. Nie jest to duży krok, aby użyć tej samej technologii w autonomicznym dronie, zaprojektowanym do selektywnego atakowania ludzi.

Jest to niebezpieczna sytuacja, a na tym etapie nikt nie w pełni rozumie implikacji rozwoju lub prób blokowania rozwoju broni autonomicznych. Jest to jednak coś, na co musimy uważnie zwrócić uwagę, poprawiając ochronę osób sygnalizujących nieprawidłowości, co może umożliwić osobom w tej dziedzinie zgłaszanie nadużyć.

Pomijając operatora, co się stanie, jeśli tendencyjność AI przeniknie do technologii AI, zaprojektowanej jako broń autonomiczna?

Tendencyjność AI

Jednym z najmniej zgłaszanych zagrożeń AI jest tendencyjność AI. Jest to proste do zrozumienia, ponieważ większość z nich jest niezamierzona. Tendencyjność AI pojawia się, gdy AI przegląda dane dostarczone przez ludzi, a używając rozpoznawania wzorców z danych, które zostały dostarczone do AI, AI niepoprawnie dochodzi do wniosków, które mogą mieć negatywne konsekwencje dla społeczeństwa. Na przykład, AI, które jest wyposażone w literaturę z ubiegłego wieku na temat identyfikacji personelu medycznego, może dojść do niepożądanego seksistowskiego wniosku, że kobiety są zawsze pielęgniarkami, a mężczyźni są zawsze lekarzami.

Bardziej niebezpieczny scenariusz to, gdy AI używane do skazania skazanych przestępców jest tendencyjne w kierunku wydawania dłuższych wyroków więzienia mniejszościom. Algorytmy oceny ryzyka przestępczego AI po prostu badają wzorce w danych, które zostały wprowadzone do systemu. Te dane wskazują, że historycznie pewne mniejszości są bardziej skłonne do ponownego popełnienia przestępstwa, nawet jeśli jest to spowodowane złymi zbiorami danych, które mogą być pod wpływem profilowania rasowego przez policję. Tendencyjna AI wzmocniuje negatywne polityki ludzkie. To jest powód, dla którego AI powinna być wytyczną, a nie sędzią i ławą przysięgłych.

Powracając do broni autonomicznych, jeśli mamy AI, które jest tendencyjne wobec pewnych grup etnicznych, może wybrać atakowanie pewnych osób na podstawie tendencyjnych danych i może posunąć się nawet do zapewnienia, że jakikolwiek rodzaj szkód ubocznych wpłynie na pewne grupy demograficzne mniej niż na inne. Na przykład, atakując terrorystę, przed atakiem może poczekać, aż terrorysta będzie otoczony przez ludzi, którzy wyznają wiarę muzułmańską, zamiast chrześcijan.

Na szczęście udowodniono, że AI zaprojektowane z różnorodnymi zespołami są mniej podatne na tendencyjność. To jest powód, dla którego przedsiębiorstwa powinny próbować, gdy tylko jest to możliwe, zatrudnić różnorodny i wszechstronny zespół.

Zagrożenia Sztucznej Inteligencji Ogólnej

Powinno się stwierdzić, że chociaż AI rozwija się w tempie wykładniczym, nie osiągnęliśmy jeszcze Sztucznej Inteligencji Ogólnej (AGI). Kiedy osiągniemy AGI, jest przedmiotem debaty, a każdy ma inną odpowiedź na temat harmonogramu. Osobiście zgadzam się z poglądami Ray’a Kurzweila, wynalazcy, futurologa i autora “The Singularity is Near”, który uważa, że osiągniemy AGI do 2029 roku.

AGI będzie najbardziej transformacyjną technologią na świecie. W ciągu kilku tygodni od osiągnięcia przez AI poziomu inteligencji ludzkiej, osiągnie superinteligencję, która jest definiowana jako inteligencja, która znacznie przewyższa inteligencję ludzką.

Z tym poziomem inteligencji AGI może szybko wchłonąć całą wiedzę ludzką i użyć rozpoznawania wzorców, aby zidentyfikować biomarkery, które powodują problemy zdrowotne, a następnie leczyć te schorzenia, używając nauki o danych. Mogłoby stworzyć nanoroboty, które wchodzą do krwiobiegu, aby atakować komórki rakowe lub inne wektory ataku. Lista osiągnięć, których AGI jest w stanie dokonać, jest nieskończona. Wcześniej badaliśmy niektóre z korzyści AGI.

Problem polega na tym, że ludzie mogą nie być w stanie kontrolować AI. Elon Musk opisuje to w ten sposób: “Z AI jesteśmy jak wezwanie demona”. Czy będziemy w stanie kontrolować tego demona, jest to pytanie?

Osiągnięcie AGI może być po prostu niemożliwe, dopóki AI nie opuści środowiska symulowanego i nie zacznie naprawdę oddziaływać w naszym otwartym świecie. Świadomość siebie nie może być zaprojektowana, zamiast tego uważa się, że emergentna świadomość jest prawdopodobnie wykształcona, gdy AI ma ciało robotyczne z wieloma strumieniami wejściowymi. Te dane wejściowe mogą obejmować stymulację dotykową, rozpoznawanie głosu z zaawansowanym zrozumieniem języka naturalnego i ulepszoną wizję komputerową.

Zaawansowana AI może być zaprogramowana z altruistycznymi motywami i chcieć uratować planetę. Niestety, AI może użyć nauki o danych lub nawet drzewa decyzyjnego, aby dojść do niewłaściwej, błędnej logiki, takiej jak ocena, że konieczne jest sterylizowanie ludzi lub eliminowanie części populacji ludzkiej w celu kontroli nadmiernego zaludnienia.

Wymaga się starannego rozważenia i namysłu, gdy buduje się AI z inteligencją, która znacznie przewyższa inteligencję ludzką. Istnieje wiele koszmarowych scenariuszy, które zostały zbadane.

Profesor Nick Bostrom w argumentacji Paperclip Maximizer utrzymuje, że źle skonfigurowana AGI, jeśli zostanie poinstruowana do produkcji spinaczy, po prostu zużyje wszystkie zasoby Ziemi, aby wyprodukować te spinacze. Chociaż to wydaje się trochę niewiarygodne, bardziej pragmatyczne spojrzenie jest takie, że AGI może być kontrolowana przez państwo lub korporację o słabej etyce. Ta jednostka może szkolić AGI, aby maksymalizować zyski, a w tym przypadku z słabym programowaniem i zerową litością może wybrać bankructwo konkurentów, zniszczenie łańcuchów dostaw, zhakowanie rynku akcji, likwidację kont bankowych lub atakowanie przeciwników politycznych.

To jest moment, w którym musimy pamiętać, że ludzie mają tendencję do antropomorfizacji. Nie możemy dać AI ludzkich emocji, pragnień lub potrzeb. Chociaż istnieją diabelscy ludzie, którzy zabijają dla przyjemności, nie ma powodu, aby sądzić, że AI byłaby podatna na tego rodzaju zachowanie. Jest to niewyobrażalne dla ludzi, aby nawet rozważyć, jak AI postrzegałby świat.

Zamiast tego to, co musimy zrobić, to nauczyć AI, aby zawsze była uległa człowiekowi. AI powinna zawsze mieć potwierdzenie ludzkie przy każdej zmianie ustawień i powinna zawsze mieć mechanizm bezpieczeństwa. Znowu, utrzymuje się, że AI po prostu replikuje się w chmurze, a do czasu, gdy zrozumiemy, że jest samoświadoma, może być za późno.

To jest powód, dla którego tak ważne jest, aby otworzyć źródło jak najwięcej AI i prowadzić racjonalne dyskusje na temat tych kwestii.

Podsumowanie

Istnieje wiele wyzwań związanych z AI, na szczęście, mamy jeszcze wiele lat, aby zbiorowo rozważyć przyszłą ścieżkę, którą chcemy, aby AGI podążała. Powinniśmy się w krótkim terminie skoncentrować na tworzeniu różnorodnego zespołu AI, który obejmuje tyle samo kobiet, co mężczyzn, i tyle samo grup etnicznych z różnymi punktami widzenia, jak to tylko możliwe.

Powinniśmy również stworzyć ochronę osób sygnalizujących nieprawidłowości dla badaczy, którzy pracują nad AI, i powinniśmy ustanowić prawa i regulacje, które uniemożliwiają powszechny nadużywania nadzoru państwowego lub firmowego. Ludzie mają jedną szansę w życiu, aby poprawić stan ludzki przy pomocy AI, musimy tylko upewnić się, że starannie tworzymy ramy społeczne, które najlepiej umożliwiają korzyści, jednocześnie łagodząc negatywy, w tym zagrożenia egzystencjalne.