Grupa doradcza ds. technologii naciska na ograniczenia w wykorzystaniu sztucznej inteligencji przez Pentagon

Pentagon wyraźnie zaznaczył, że zamierza zainwestować dużo w sztuczną inteligencję, twierdząc, że AI sprawi, że amerykańskie wojsko będzie bardziej potężne i odporniejsze na możliwe zagrożenia bezpieczeństwa narodowego. Jak donosi Engadget, w zeszły czwartek Rada Innowacji Obrony przedstawiła szereg proponowanych wytycznych etycznych dotyczących wykorzystania sztucznej inteligencji w wojsku. Lista propozycji obejmuje strategie unikania niezamierzonego uprzedzenia i zarządzalnej sztucznej inteligencji, która miałaby procedury awaryjnego zatrzymania, aby zapobiec niepotrzebnej szkodzie.

Wired donosi, że Rada Innowacji Obrony została utworzona przez administrację Obamy w celu udzielania porad Pentagonowi w zakresie pozyskiwania doświadczenia i talentów z branży technologicznej. Radę przewodniczy były prezes Google (GOOGL ), Eric Schmidt. Departament został niedawno zobowiązany do ustanowienia wytycznych dotyczących etycznego wdrożenia sztucznej inteligencji w projektach wojskowych. W czwartek rada opublikowała swoje wytyczne i zalecenia do przeglądu. Raport stwierdza, że czas na poważne dyskusje o wykorzystaniu sztucznej inteligencji w kontekście wojskowym to teraz, zanim jakiś poważny incydent wymusi konieczność ich przeprowadzenia.

Według Artificial Intelligence News, były urzędnik wojskowy niedawno stwierdził, że Pentagon pozostawał w tyle, jeśli chodzi o wykorzystanie sztucznej inteligencji. Pentagon dąży do zlikwidowania tej różnicy i ogłosił, że rozwój i rozbudowa sztucznej inteligencji w wojsku to priorytet narodowy. Etycy sztucznej inteligencji obawiają się, że w pośpiechu Pentagonu, aby zostać liderem w dziedzinie sztucznej inteligencji, systemy sztucznej inteligencji mogą być wykorzystywane w nieetyczny sposób. Chociaż różne niezależne rady etyki sztucznej inteligencji przedstawiły swoje sugestie, Rada Innowacji Obrony zaproponowała co najmniej pięć zasad, których wojsko powinno przestrzegać zawsze przy tworzeniu i wdrażaniu systemów sztucznej inteligencji.

Pierwsza zasada proponowana przez radę to zasada, że ludzie powinni zawsze być odpowiedzialni za wykorzystanie, wdrożenie i wyniki każdej platformy sztucznej inteligencji wykorzystywanej w kontekście wojskowym. To przypomina politykę z 2012 roku, która nakazywała, aby ludzie byli ostatecznie częścią procesu decyzyjnego, gdy mogłaby być użyta siła śmiercionośna. Jest kilka innych zasad na liście, które zapewniają ogólne porady, takie jak upewnienie się, że systemy sztucznej inteligencji są zawsze tworzone przez inżynierów, którzy rozumieją i dokładnie dokumentują swoje programy. Inna zasada radzi, aby systemy sztucznej inteligencji wojskowej były zawsze testowane pod kątem ich niezawodności. Te wytyczne wydają się być zdrowym rozsądkiem, ale rada chce podkreślić ich znaczenie.

Pozostałe zasady na liście dotyczą kontroli uprzedzeń w algorytmach sztucznej inteligencji i zdolności sztucznej inteligencji do wykrycia, czy mogłaby powodować niezamierzoną szkodę, i automatycznego wyłączenia. Wytyczne określają, że jeśli niepotrzebna szkoda wystąpi, sztuczna inteligencja powinna móc się wyłączyć i przekazać kontrolę operatorowi ludzkiemu. Projekt wytycznych zaleca również, aby dane wyjściowe sztucznej inteligencji były śledzone, aby analitycy mogli zobaczyć, co doprowadziło do podjęcia przez sztuczną inteligencję danej decyzji.

Zestaw zaleceń przedstawionych przez radę podkreśla dwa różne pomysły. Zasady są odzwierciedleniem faktu, że sztuczna inteligencja będzie integralną częścią przyszłych operacji wojskowych, ale także, że wiele sztucznej inteligencji nadal zależy od zarządzania i podejmowania decyzji przez ludzi.

Pomimo że Pentagon nie musi przyjąć zaleceń rady, wydaje się, że Pentagon traktuje zalecenia poważnie. Jak donosi Wired, dyrektor Centrum Sztucznej Inteligencji, generał porucznik Jack Shanahan, oświadczył, że zalecenia rady pomogą Pentagonowi w „utrzymywaniu najwyższych standardów etycznych, określonych w strategii AI Departamentu Obrony, jednocześnie przyjmując silną historię amerykańskiego wojska w stosowaniu rygorystycznych standardów testowania i wdrażania innowacji technologicznych”.

Cała branża technologiczna pozostaje ostrożna wobec wykorzystania sztucznej inteligencji w tworzeniu sprzętu i oprogramowania wojskowego. Pracownicy Microsoftu i Google protestowali przeciwko współpracy z podmiotami wojskowymi, a Google niedawno zdecydował się nie przedłużać umowy, która pozwalała im przyczyniać się do projektu Maven. Wiele CEO, naukowców i inżynierów również podpisało zobowiązanie, aby nie „uczestniczyć w rozwoju, produkcji, handlu ani użyciu śmiercionośnych broni autonomicznych”. Jeśli Pentagon przyjmie wytyczne sugerowane przez radę, może to sprawić, że branża technologiczna będzie bardziej skłonna do współpracy nad projektami, choć tylko czas pokaże.