Zaawansowane technologie sztucznej inteligencji przedstawiają wyzwania etyczne – Liderzy myśli

Przez Alfred Crews, Jr wiceprezes i główny doradca prawnego sektora Wywiadu i Bezpieczeństwa BAE Systems Inc.

Na początku tego roku, przed pandemią, uczestniczyłem w Konferencji Etyki Wywiadu w The Citadel, gdzie omawialiśmy temat etyki w zbieraniu informacji wywiadowczych w odniesieniu do ochrony bezpieczeństwa narodowego. W branży obronnej obserwujemy proliferację wiedzy, komputowania i zaawansowanych technologii, szczególnie w dziedzinie sztucznej inteligencji (AI) i uczenia maszynowego (ML). Niemniej jednak mogą pojawić się znaczne problemy podczas wdrożenia AI w kontekście zbierania informacji wywiadowczych lub walki w czasie rzeczywistym.

AI połączone z obliczeniami kwantowymi przedstawiają ryzyko

To, co musimy poddać pod rozwagę, analizę i określić drogę do przodu, to kiedy używać AI połączonego z możliwościami obliczeniowymi kwantowymi w procesie podejmowania decyzji w czasie wojny. Na przykład, pamiętacie film Terminator? Nasza technologia robi ogromne postępy, a rzeczywistość tego, co przedstawił Skynet, jest przed nami. Moglibyśmy zadawać sobie pytanie: “Czy Skynet przyjdzie po nas?” Zróbmy krótką wędrówkę po pamięci; maszyny AI wzięły kontrolę, ponieważ miały możliwość myślenia i podejmowania decyzji bez ludzkiej ingerencji. Kiedy maszyny uznały, że ludzie są błędem, postanowiły zniszczyć ludzkość. Nie myślcie, że AI nie ma potencjału, ale uważam, że musi mieć parametry kontroli ze względu na czynnik ryzyka.

Etyczne niejasności AI i dylemat filozoficzny

Uważam, że to jest dokładnie dlaczego Departament Obrony Stanów Zjednoczonych (DoD) wydał własne Zasady etyczne dla AI, ponieważ użycie AI podnosi nowe niejasności etyczne i ryzyko. Kiedy łączymy AI z możliwościami obliczeniowymi kwantowymi, zdolność do podejmowania decyzji zmienia się, a ryzyko utraty kontroli wzrasta – więcej niż możemy sobie wyobrazić dzisiaj. Obliczenia kwantowe są wstydliwe dla ludzkiego systemu operacyjnego, ponieważ superkomputery mogą wykonać znacznie więcej obliczeń szybciej i z większą dokładnością niż nasz ludzki mózg.

Dodatkowo, użycie AI połączone z obliczeniami przedstawia dylemat filozoficzny. W którym momencie świat pozwoli maszynom mieć własną wolę; i jeśli maszyny są pozwalane myśleć samodzielnie, czy oznacza to, że maszyna sama stała się świadoma? Czy bycie świadomym stanowi życie? Jako społeczeństwo, nie określiliśmy jeszcze, jak zdefiniować tę sytuację. W związku z tym, maszyny podejmujące działania samodzielnie bez ludzkiej ingerencji mogą prowadzić do konsekwencji. Czy maszyna może przeszkodzić ludzkiej interwencji, aby powstrzymać ogień? Jeśli maszyna działa samodzielnie, czy będziemy w stanie ją wyłączyć?

Widzę to w ten sposób: użycie AI z punktu widzenia obrony jest łatwe do zrobienia. Niemniej jednak, jak łatwo byłoby przenieść to do ofensywy? Na ofensywie maszyny podejmowałyby decyzje o strzelaniu w czasie rzeczywistym. Czy maszyna strzelająca do wroga stanowiłaby naruszenie Konwencji Genewskiej i praw konfliktów zbrojnych? Wkraczając w tę przestrzeń w szybkim tempie, świat musi uzgodnić, że użycie AI i obliczeń kwantowych w walce musi uwzględniać prawa, które obecnie obowiązują.

DoD ma stanowisko w sprawie użycia AI z systemami autonomicznymi i stwierdza, że zawsze będzie osoba zaangażowana w proces podejmowania decyzji; osoba podejmie ostateczną decyzję o strzelaniu z broni. To jest nasza zasada, ale co się stanie, jeśli przeciwnik zdecyduje się pójść inną drogą i pozwolić AI-kompetentnej maszynie podejmować wszystkie ostateczne decyzje? Wtedy maszyna, która, jak omawialiśmy, jest już szybsza, mądrzejsza i bardziej dokładna, będzie miała przewagę.

Spójrzmy na drona wyposażonego w AI i rozpoznawanie twarzy: Dron strzela samodzielnie z powodu wcześniej określonego celu oznaczonego jako terrorysta. Kto jest odpowiedzialny za strzelanie? Czy jest odpowiedzialność, jeśli występuje błędna pomyłka?

Sesja w AI/ML

Badania wskazują, że maszyna jest mniej skłonna do popełniania błędów niż człowiek. Niemniej jednak badania również dowodzą, że istnieją sesje w uczeniu maszynowym opartym na ludzkim “nauczycielu” uczącym maszynę. Pięć Zasad Etycznych AI DoD odnosi się do istniejących sesji, gdy stwierdza, “Departament podejmie celowe kroki w celu zminimalizowania niezamierzonych sesji w możliwościach AI.” Już wiemy dzięki udowodnionym badaniom, że w przypadku aplikacji rozpoznawania twarzy istnieją sesje w kierunku osób kolorowych z fałszywymi pozytywami. Kiedy osoba tworzy kod, który uczy maszynę, jak podejmować decyzje, występują sesje. Mogą to być niezamierzone sesje, ponieważ osoba tworząca AI nie była świadoma sesji, które istniały w nich samych.

Więc, jak można wyeliminować sesje? Wyjście AI jest tak dobre, jak dane wejściowe. Dlatego też muszą istnieć kontrolki. Musisz kontrolować dane wpływające, ponieważ to może sprawić, że wyniki AI będą mniej ważne. Deweloperzy będą musieli stale przepisywać kod, aby wyeliminować sesje.

Świat definiuje najlepsze użycie technologii

Technologia sama w sobie nie jest dobra ani zła. To, jak kraj ją wykorzystuje, może sprawić, że najlepsze intencje pójdą nie tak. W miarę postępu technologii, która wpływa na ludzkie życie, świat musi współpracować, aby określić odpowiednie działanie. Jeśli usuniemy człowieka z równania w aplikacjach AI, również usuniemy tę pauzę przed strzelaniem – ten kompas moralny, który nas prowadzi; tę pauzę, kiedy zatrzymujemy się i pytamy: “Czy to jest słuszne?” Maszyna nauczona do angażowania się nie będzie miała tej pauzy. Więc pytanie brzmi, w przyszłości, czy świat zaakceptuje to? Jak daleko świat pójdzie, aby pozwolić maszynom podejmować decyzje bojowe?