Technische Beratungsgruppe fordert Einschränkungen für den Einsatz von künstlicher Intelligenz durch das Pentagon

Das Pentagon hat seine Absicht, stark in künstliche Intelligenz zu investieren, deutlich gemacht und erklärt, dass künstliche Intelligenz das US-Militär stärker und widerstandsfähiger gegen mögliche Bedrohungen der nationalen Sicherheit machen wird. Wie Engadget berichtet, hat die Defense Innovation Board am vergangenen Donnerstag eine Reihe von vorgeschlagenen ethischen Richtlinien für den Einsatz von künstlicher Intelligenz im Militär vorgelegt. Die Liste der Vorschläge umfasst Strategien, um ungewollte Vorurteile zu vermeiden und kontrollierbare künstliche Intelligenz mit Notstoppschaltern zu entwickeln, die verhindern, dass die künstliche Intelligenz unnötigen Schaden anrichtet.

Wired berichtet, dass die Defense Innovation Board von der Obama-Regierung eingerichtet wurde, um das Pentagon bei der Gewinnung von Erfahrung und Talenten aus der Technologiebranche zu unterstützen. Der Vorstand wird derzeit von Eric Schmidt, dem ehemaligen CEO von Google (GOOGL ), geleitet. Das Ministerium wurde kürzlich beauftragt, Richtlinien für die ethische Umsetzung von künstlicher Intelligenz in militärischen Projekten zu erstellen. Am Donnerstag legte der Vorstand seine Richtlinien und Empfehlungen zur Überprüfung vor. Der Bericht betont, dass es an der Zeit ist, ernsthafte Diskussionen über den Einsatz von künstlicher Intelligenz in einem militärischen Kontext zu führen, bevor ein ernsthafter Vorfall eine solche Diskussion erzwingt.

Laut Artificial Intelligence News hat ein ehemaliger Militäroffizier kürzlich erklärt, dass das Pentagon beim Einsatz von künstlicher Intelligenz zurückliegt. Das Pentagon strebt danach, diese Lücke zu schließen, und hat die Entwicklung und Ausweitung von künstlicher Intelligenz im Militär zu einer nationalen Priorität erklärt. Künstliche Intelligenz-Ethiker sind besorgt, dass das Pentagon bei seinem Eifer, ein Vorreiter in der künstlichen Intelligenz zu werden, künstliche Intelligenz-Systeme auf unethische Weise einsetzen könnte. Während verschiedene unabhängige künstliche Intelligenz-Ethikkomitees ihre eigenen Vorschläge gemacht haben, hat die Defense Innovation Board mindestens fünf Grundsätze vorgeschlagen, die das Militär bei der Entwicklung und Implementierung von künstlichen Intelligenz-Systemen immer beachten sollte.

Der erste Grundsatz, den der Vorstand vorgeschlagen hat, ist der Grundsatz, dass Menschen immer für die Nutzung, den Einsatz und die Ergebnisse jeder im militärischen Kontext eingesetzten künstlichen Intelligenz-Plattform verantwortlich sein sollten. Dies erinnert an eine Richtlinie von 2012, die vorschrieb, dass Menschen letztendlich Teil des Entscheidungsprozesses sein sollten, wenn tödliche Gewalt eingesetzt werden kann. Es gibt eine Reihe anderer Grundsätze auf der Liste, die allgemeine Ratschläge wie die Sicherstellung, dass künstliche Intelligenz-Systeme immer von Ingenieuren entwickelt werden, die ihre Programme verstehen und gründlich dokumentieren, geben. Ein anderer Grundsatz empfiehlt, dass militärische künstliche Intelligenz-Systeme immer auf ihre Zuverlässigkeit getestet werden sollten. Diese Richtlinien scheinen common sense zu sein, aber der Vorstand will ihre Bedeutung unterstreichen.

Die anderen Grundsätze in der Liste befassen sich mit der Kontrolle von Vorurteilen bei künstlichen Intelligenz-Algorithmen und der Fähigkeit von künstlicher Intelligenz, zu erkennen, ob unbeabsichtigter Schaden verursacht werden könnte, und sich automatisch zu trennen. Die Richtlinien legen fest, dass, wenn unnötiger Schaden entsteht, die künstliche Intelligenz in der Lage sein sollte, sich selbst zu trennen und einen menschlichen Bediener zu übernehmen. Der Entwurf der Grundsätze empfiehlt auch, dass die Ausgabe von künstlicher Intelligenz nachvollziehbar sein sollte, damit Analysten sehen können, was zu einer bestimmten Entscheidung der künstlichen Intelligenz geführt hat.

Die Reihe von Empfehlungen, die der Vorstand vorgelegt hat, unterstreicht zwei verschiedene Ideen. Die Grundsätze spiegeln die Tatsache wider, dass künstliche Intelligenz integraler Bestandteil der Zukunft militärischer Operationen sein wird, aber dass viel von künstlicher Intelligenz immer noch auf menschliches Management und Entscheidungsfindung angewiesen ist.

Während das Pentagon die Empfehlungen des Vorstands nicht annehmen muss, scheint es, als ob das Pentagon die Empfehlungen ernst nimmt. Wie Wired berichtet, erklärte der Direktor des Joint Artificial Intelligence Center, Lieutenant General Jack Shanahan, dass die Empfehlungen des Vorstands dem Pentagon helfen würden, “die höchsten ethischen Standards einzuhalten, wie sie in der DoD-AI-Strategie skizziert sind, während es die starke Geschichte des US-Militärs bei der Anwendung strenger Test- und Feldstandards für technologische Innovationen aufrechterhält”.

Die Technologiebranche als Ganzes bleibt misstrauisch gegenüber der Verwendung von künstlicher Intelligenz bei der Entwicklung von Militärhardware und -software. Mitarbeiter von Microsoft (MSFT ) und Google haben gegen Zusammenarbeiten mit militärischen Einheiten protestiert, und Google hat kürzlich beschlossen, den Vertrag nicht zu verlängern, der sie zur Teilnahme am Project Maven verpflichtete. Eine Reihe von CEOs, Wissenschaftlern und Ingenieuren haben auch eine Verpflichtung unterzeichnet, “nicht an der Entwicklung, Herstellung, dem Handel oder der Verwendung von tödlichen autonomen Waffen” teilzunehmen. Wenn das Pentagon die vom Vorstand vorgeschlagenen Richtlinien annimmt, könnte dies die Technologiebranche eher bereit machen, bei Projekten zusammenzuarbeiten, auch wenn nur die Zeit zeigen wird.