Technisch Adviesgroep Pleit Voor Beperkingen Op Het Gebruik Van AI Door Het Pentagon

Het Pentagon heeft duidelijk gemaakt dat het zwaar wil investeren in kunstmatige intelligentie, en heeft verklaard dat AI de Amerikaanse strijdkrachten krachtiger en robuuster zal maken tegen mogelijke nationale veiligheidsbedreigingen. Volgens Engadget heeft de Defense Innovation Board donderdag een aantal voorgestelde ethische richtlijnen voor het gebruik van AI in het leger naar voren gebracht. De lijst met voorstellen omvat strategieën om ongewenste vooroordelen te voorkomen en beheersbare AI die noodstopprocedures hebben om te voorkomen dat de AI onnodige schade veroorzaakt.

Wired meldt dat de Defense Innovation Board is opgericht door de regering-Obama om het Pentagon te helpen bij het verwerven van ervaring en talent uit de technologie-industrie. Het bestuur wordt momenteel voorgezeten door de voormalige CEO van Google (GOOGL ), Eric Schmidt. Het departement is onlangs belast met het opstellen van richtlijnen voor de ethische implementatie van AI in militaire projecten. Donderdag heeft het bestuur zijn richtlijnen en aanbevelingen voor herziening gepubliceerd. Het rapport merkt op dat het tijd is om serieuze discussies te voeren over het gebruik van AI in een militaire context, voordat een ernstig incident ertoe leidt dat er een moet zijn.

Volgens Artificial Intelligence News heeft een voormalig militair functionaris onlangs verklaard dat het Pentagon achterloopt bij het gebruik van AI. Het Pentagon streeft ernaar om deze achterstand in te halen en heeft de ontwikkeling en uitbreiding van AI in het leger tot een nationale prioriteit verklaard. AI-ethici zijn bezorgd dat het Pentagon in zijn haast om een leider in AI te worden, AI-systemen op onethische wijze kan gebruiken. Terwijl verschillende onafhankelijke AI-ethiekboards hun eigen suggesties hebben gedaan, heeft de Defense Innovation Board ten minste vijf principes voorgesteld die het leger altijd moet volgen bij de ontwikkeling en implementatie van AI-systemen.

Het eerste principe dat door het bestuur wordt voorgesteld, is het principe dat mensen altijd verantwoordelijk moeten zijn voor het gebruik, de inzet en de resultaten van elk kunstmatig intelligentieplatform dat in een militaire context wordt gebruikt. Dit is vergelijkbaar met een beleid uit 2012 dat vereiste dat mensen uiteindelijk deel moeten uitmaken van het beslissingsproces wanneer dodelijk geweld kan worden gebruikt. Er zijn een aantal andere principes op de lijst die algemene adviezen geven, zoals ervoor zorgen dat AI-systemen altijd zijn gebouwd door ingenieurs die hun programma’s begrijpen en grondig documenteren. Een ander principe adviseert dat militaire AI-systemen altijd moeten worden getest op hun betrouwbaarheid. Deze richtlijnen lijken op gezond verstand, maar het bestuur wil hun belang benadrukken.

De andere principes in de lijst zijn gerelateerd aan de controle van vooroordelen voor AI-algoritmen en de mogelijkheid van AI’s om te detecteren of onbedoelde schade kan worden veroorzaakt en om zichzelf automatisch uit te schakelen. De richtlijnen specificeren dat als onnodige schade zal optreden, de AI zichzelf moet kunnen uitschakelen en een menselijke operator moet overnemen. De ontwerp van principes beveelt ook aan dat de output van AI’s traceerbaar moet zijn, zodat analisten kunnen zien wat leidde tot de beslissing van de AI.

Het set van aanbevelingen dat door het bestuur naar voren is gebracht, benadrukt twee verschillende ideeën. De principes weerspiegelen het feit dat AI integraal zal zijn aan de toekomst van militaire operaties, maar dat veel van AI nog steeds afhankelijk is van menselijk beheer en besluitvorming.

Terwijl het Pentagon de aanbevelingen van het bestuur niet hoeft te volgen, lijkt het erop dat het Pentagon de aanbevelingen serieus neemt. Volgens Wired heeft de directeur van het Joint Artifical Intelligence Center, luitenant-generaal Jack Shanahan, verklaard dat de aanbevelingen van het bestuur het Pentagon zullen helpen bij “het handhaven van de hoogste ethische normen zoals uiteengezet in de DoD AI-strategie, en het omarmen van de sterke geschiedenis van het Amerikaanse leger bij het toepassen van strikte test- en veldstandaarden voor technologie-innovaties”.

De technologie-industrie als geheel blijft achterdochtig over het gebruik van AI bij de creatie van militaire hardware en software. Medewerkers van Microsoft (MSFT ) en Google hebben beiden geprotesteerd tegen samenwerking met militaire entiteiten, en Google heeft onlangs besloten om het contract niet te verlengen dat hen liet bijdragen aan Project Maven. Een aantal CEO’s, wetenschappers en ingenieurs hebben ook een belofte ondertekend om niet deel te nemen aan “de ontwikkeling, fabricage, handel of gebruik van dodelijke autonome wapens”. Als het Pentagon de richtlijnen die door het bestuur zijn voorgesteld, aanneemt, kan dit ertoe leiden dat de technologie-industrie meer bereid is om samen te werken aan projecten, hoewel alleen de tijd zal leren.