Teknisk rådgivningsgrupp trycker på för begränsningar av Pentagons AI-användning

Pentagon har gjort det tydligt att de avser att investera kraftigt i artificiell intelligens, och har uttalat att AI kommer att göra den amerikanska militären mer kraftfull och robust mot eventuella nationella säkerhetshot. Enligt Engadget föreslog försvarsinnovationsstyrelsen (Defense Innovation Board) på torsdagen en rad etiska riktlinjer för användning av AI inom militären. Förslagen inkluderar strategier för att undvika oavsiktlig partiskhet och styrbart AI som har nödstoppningsförfaranden som förhindrar att AI orsakar onödig skada.

Wired rapporterar att Försvarsinnovationsstyrelsen skapades av Obama-administrationen för att vägleda Pentagon i att skaffa erfarenhet och talang från tech-industrin. Styrelsen leds för närvarande av Eric Schmidt, tidigare VD för Google (GOOGL ). Departementet fick nyligen i uppdrag att fastställa riktlinjer för etisk implementering av AI i militära projekt. På torsdagen publicerade styrelsen sina riktlinjer och rekommendationer för granskning. Rapporten påpekar att det är dags att ha allvarliga diskussioner om användningen av AI i en militär kontext, innan något allvarligt incident kräver att det måste finnas en.

Enligt Artificial Intelligence News uttalade en tidigare militär tjänsteman nyligen att Pentagon höll på att halka efter när det gäller användningen av AI. Pentagon syftar till att hämta igen detta och har deklarerat att utveckling och utvidgning av AI inom militären är en nationell prioritet. AI-etiker är oroliga för att Pentagon i sin iver att bli en ledare inom AI kan använda AI-system på oetiska sätt. Medan olika oberoende AI-etiska styrelser har lagt fram sina egna förslag, har Försvarsinnovationsstyrelsen föreslagit minst fem principer som militären bör följa alltid när de utvecklar och implementerar AI-system.

Den första principen som styrelsen föreslagit är principen att människor alltid bör vara ansvariga för användning, distribution och resultat av alla artificiella intelligensplattformar som används i en militär kontext. Detta påminner om en policy från 2012 som krävde att människor skulle vara delaktiga i beslutsprocessen när dödlig kraft kunde användas. Det finns ett antal andra principer på listan som ger allmänna råd, som att se till att AI-system alltid byggs av ingenjörer som förstår och dokumenterar sina program. En annan princip råder att militära AI-system alltid bör testas för tillförlitlighet. Dessa riktlinjer verkar vara sunt förnuft, men styrelsen vill understryka deras vikt.

De andra principerna på listan handlar om kontroll av partiskhet för AI-algoritmer och förmågan hos AI att upptäcka om oavsiktlig skada kan orsakas och att automatiskt koppla ur. Riktlinjerna specificerar att om onödig skada kommer att ske, bör AI kunna koppla ur sig och låta en mänsklig operatör ta över. Utkastet till principer rekommenderar också att AI:s utdata bör vara spårbara så att analytiker kan se vad som ledde till att AI fattade ett visst beslut.

Rekommendationerna som styrelsen lagt fram understryker två olika idéer. Principerna speglar det faktum att AI kommer att vara en integrerad del av militära operationers framtid, men att mycket av AI fortfarande är beroende av mänsklig hantering och beslutsfattning.

Medan Pentagon inte måste anta styrelsens rekommendationer, verkar det som om Pentagon tar rekommendationerna på allvar. Enligt Wired uttalade chefen för Joint Artificial Intelligence Center, lieutenantgeneral Jack Shanahan, att styrelsens rekommendationer skulle hjälpa Pentagon att “upprätthålla de högsta etiska standarderna som anges i DoD AI-strategin, samtidigt som de omfamnar den amerikanska militärens starka historia av att tillämpa rigorösa test- och fältstandarder för tekniska innovationer”.

Tech-industrin som helhet förblir försiktig när det gäller att använda AI i skapandet av militär hårdvara och programvara. Microsoft (MSFT ) och Google-anställda har båda protesterat mot samarbeten med militära enheter, och Google har nyligen valt att inte förnya kontraktet som hade dem bidragande till Project Maven. Ett antal VD:ar, forskare och ingenjörer har också undertecknat ett löfte att inte “deltaga i eller stödja utveckling, tillverkning, handel eller användning av dödliga autonoma vapen”. Om Pentagon antar de riktlinjer som styrelsen föreslagit, kan det göra tech-industrin mer villig att samarbeta på projekt, även om endast tiden kommer att visa.