Teknisk rådgivningsgruppe søger begrænsninger på Pentagons brug af kunstig intelligens

Pentagon har gjort det klart, at de har intentioner om at investere kraftigt i kunstig intelligens, og har erklæret, at kunstig intelligens vil gøre den amerikanske hær mere magtfuld og robust over for mulige nationale sikkerhetstrusler. Ifølge Engadget fremsendte Forsvarsinnovationsboardet på torsdag en række forslag til etiske retningslinjer for brugen af kunstig intelligens i militæret. Listen over forslag indeholder strategier for at undgå uventet bias og styrbare kunstig intelligens, der har nødstopsprocedurer, der forhindrer, at kunstig intelligens forårsager unødig skade.

Ifølge Wired blev Forsvarsinnovationsboardet oprettet af Obama-administrationen for at vejlede Pentagon i at erhverve erfaring og talent fra tech-industrien. Boardet ledes i øjeblikket af den tidligere administrerende direktør for Google (GOOGL ), Eric Schmidt. Afdelingen blev nylig bedt om at etablere retningslinjer for den etiske implementering af kunstig intelligens i militære projekter. Onsdag offentliggjorde boardet deres retningslinjer og anbefalinger til gennemsyn. Rapporten bemærker, at det er tid til at have alvorlige diskussioner om brugen af kunstig intelligens i en militær kontekst, før en alvorlig begivenhed kræver, at der skal være en.

Ifølge Artificial Intelligence News udtalte en tidligere militærchef nylig, at Pentagon var blevet overhalet, når det kom til brugen af kunstig intelligens. Pentagon sigter mod at indhente denne forskel og har erklæret, at udviklingen og udvidelsen af kunstig intelligens i militæret er en national prioritet. Kunstig intelligens-etikere er bekymrede for, at Pentagon i sin hast til at blive en leder i kunstig intelligens kan bruge kunstig intelligens på uetiske måder. Mens forskellige uafhængige kunstig intelligens-etikkomitéer har fremsendt deres egne forslag, har Forsvarsinnovationsboardet fremsendt mindst fem principper, som militæret skal følge til enhver tid, når de udvikler og implementerer kunstig intelligens-systemer.

Den første princip, som boardet har foreslået, er princippen om, at mennesker altid skal være ansvarlige for udnyttelsen, udrulningen og resultaterne af enhver kunstig intelligens-platform, der bruges i en militær kontekst. Dette minder om en politik fra 2012, der krævede, at mennesker skulle være en del af beslutningsprocessen, når det kom til brugen af dødelig magt. Der er en række andre principper på listen, der giver generel rådgivning om, at kunstig intelligens-systemer altid skal være bygget af ingeniører, der forstår og dokumenterer deres programmer grundigt. En anden princip råder, at militære kunstig intelligens-systemer altid skal testes for deres pålidelighed. Disse retningslinjer synes at være sund fornuft, men boardet ønsker at understrege deres vigtighed.

De andre principper på listen handler om kontrollen af bias for kunstig intelligens-algoritmer og evnen til at registrere, om uventet skade kan være årsag til, at kunstig intelligens automatisk frakobler sig. Retningslinjerne specificerer, at hvis unødig skade vil opstå, skal kunstig intelligens kunne frakoble sig selv og have en menneskelig operatør overtage. Udkastet til principper anbefaler også, at outputtet fra kunstig intelligens skal være sporbart, så analytikere kan se, hvad der førte til, at kunstig intelligens traf en given beslutning.

Sættet af anbefalinger, som boardet har fremsendt, understreger to forskellige ideer. Principperne afspejler, at kunstig intelligens vil være en integreret del af fremtidens militære operationer, men at meget af kunstig intelligens stadig afhænger af menneskelig ledelse og beslutningstagning.

mens Pentagon ikke er nødt til at følge boardets anbefalinger, lyder det, som om Pentagon tager anbefalingerne alvorligt. Ifølge Wired udtalte direktøren for Joint Artificial Intelligence Center, lieutenantgeneral Jack Shanahan, at boardets anbefalinger ville hjælpe Pentagon med at “opretholde de højeste etiske standarder, som er fastlagt i DoD’s AI-strategi, samtidig med at vi omfatter den amerikanske hærs stærke historie med at anvende strenge test- og udrulningsstandarder for teknologiske innovationer”.

Tech-industrien som helhed er stadig forsigtig med hensyn til at bruge kunstig intelligens i udviklingen af militær hård- og software. Microsoft (MSFT ) – og Google-ansatte har begge protesteret over samarbejder med militære enheder, og Google har nylig valgt ikke at forlænge kontrakten, der havde dem bidragende til Project Maven. En række CEO’er, videnskabsmænd, ingeniører og forskere har også underskrevet en løfte ikke at “deltage i eller støtte udviklingen, produktionen, handlen eller brugen af dødelige autonome våben”. Hvis Pentagon følger retningslinjerne, som boardet har foreslået, kunne det gøre tech-industrien mere villig til at samarbejde om projekter, selv om kun tiden vil vise det.