Teknisk rådgivningsgruppe fremmer begrensninger på Pentagons bruk av AI

Pentagon har gjort det klart at de har til hensikt å investere tungt i kunstig intelligens, og har uttalt at AI vil gjøre den amerikanske hæren mer powerful og robust mot mulige nasjonale sikkerhetstrusler. Ifølge Engadget, fremmet Forsvarsinnovasjonsstyret på torsdag en rekke foreslåtte etiske retningslinjer for bruk av AI i militæret. Listen over forslag inkluderer strategier for å unngå uønsket bias og styrbare AI som vil ha nødstopp-prosedyrer som forhindrer AI fra å forårsake unødvendig skade.

Wired rapporterer at Forsvarsinnovasjonsstyret ble opprettet av Obama-administrasjonen for å veilede Pentagon i å skaffe teknisk industri-erfaring og talent. Styret ledes for tiden av tidligere CEO av Google (GOOGL ), Eric Schmidt. Departementet ble nylig bedt om å etablere retningslinjer for den etiske implementeringen av AI i militære prosjekter. På torsdag la styret frem sine retningslinjer og anbefalinger for gjennomgang. Rapporten bemerker at det er på tide å ha alvorlige diskusjoner om bruken av AI i en militær kontekst nå, før noen alvorlig hendelse krever at det må være en.

Ifølge Artificial Intelligence News, uttalte en tidligere militær tjenestemann nylig at Pentagon var på vei til å bli forsinket når det kom til bruken av AI. Pentagon har som mål å gjøre opp for denne forskjellen og har erklært utviklingen og utvidelsen av AI i militæret som en nasjonal prioritet. AI-etikere er bekymret for at i Pentagons hastverk til å bli en leder i AI, kan AI-systemer bli brukt på uetiske måter. Mens ulike uavhengige AI-etikkomitéer har fremmet sine egne forslag, har Forsvarsinnovasjonsstyret foreslått minst fem prinsipper som militæret bør følge alltid når de utvikler og implementerer AI-systemer.

Det første prinsippet som styret har foreslått, er prinsippet om at mennesker alltid bør være ansvarlige for bruken, utrullingen og resultater av enhver kunstig intelligens-plattform som brukes i en militær kontekst. Dette minner om en policy fra 2012 som krevde at mennesker skulle være en del av beslutningsprosessen når det kunne brukes dødelig makt. Det er en rekke andre prinsipper på listen som gir generell råd som å sikre at AI-systemer alltid er bygget av ingeniører som forstår og dokumenterer sine programmer grundig. Et annet prinsipp råder at militære AI-systemer alltid bør testes for deres pålitelighet. Disse retningslinjene synes å være sunt fornuft, men styret ønsker å understreke deres viktighet.

De andre prinsippene på listen handler om kontrollen av bias for AI-algoritmer og evnen til å detektere om uønsket skade kan bli forårsaket og å automatisk frakoble. Retningslinjene spesifiserer at hvis unødvendig skade vil oppstå, bør AI kunne frakoble seg selv og la en menneskelig operatør ta over. Utkastet til prinsipper anbefaler også at AI-utgangen bør være sporable så at analytikere kan se hva som ledet til at AI tok en bestemt beslutning.

Settet av anbefalinger som styret har fremmet, understreker to forskjellige ideer. Prinsippene reflekterer det faktum at AI vil være en integrert del av fremtidens militære operasjoner, men at mye av AI ennå avhenger av menneskelig ledelse og beslutning.

Mens Pentagon ikke må følge styrets anbefalinger, høres det ut som om Pentagon tar anbefalingene alvorlig. Ifølge Wired, uttalte direktøren for Joint Artificial Intelligence Center, Lieutenant General Jack Shanahan, at styrets anbefalinger ville hjelpe Pentagon med å “opprettholde de høyeste etiske standardene som er oppført i DoD AI-strategien, samtidig som de omfavner USAs militæres sterke historie med å anvende strenge tester og standarder for teknologiske innovasjoner”.

Teknologibransjen som helhet er fortsatt skeptisk til å bruke AI i skapelsen av militær hård- og programvare. Microsoft (MSFT ) – og Google-ansatte har begge protestert mot samarbeid med militære enheter, og Google har nylig valgt å ikke fornye kontrakten som hadde dem bidra til Project Maven. En rekke CEOs, vitenskapsmenn og ingeniører har også undertegnet en avtale om ikke å “deltake i eller støtte utviklingen, produksjonen, handelen eller bruken av dødelige autonome våpen”. Hvis Pentagon følger retningslinjene som styret har foreslått, kan det gjøre teknologibransjen mer villig til å samarbeide om prosjekter, selv om bare tiden vil vise.