Fortgeschrittene KI-Technologien stellen ethische Herausforderungen – Thought Leaders

Von Alfred Crews, Jr., Vice President und Chief Counsel für den Bereich Intelligence & Security von BAE Systems Inc.

Vor einigen Monaten, bevor die globale Pandemie ausbrach, nahm ich an der Intelligence Ethics Conference von The Citadel in Charleston teil, bei der wir über das Thema Ethik in der Nachrichtengewinnung im Zusammenhang mit dem Schutz der nationalen Sicherheit diskutierten. In der Verteidigungsindustrie sehen wir die Verbreitung von Wissen, Computertechnologie und fortschrittlichen Technologien, insbesondere im Bereich der künstlichen Intelligenz (KI) und des maschinellen Lernens (ML). Es gibt jedoch erhebliche Probleme, wenn man KI im Kontext der Nachrichtengewinnung oder des realen Kampfes einsetzt.

KI im Zusammenspiel mit Quantencomputing birgt Risiken

Wir müssen uns fragen, analysieren und einen Weg nach vorne finden, wenn wir KI im Zusammenspiel mit Quantencomputing-Fähigkeiten im Entscheidungsprozess im Krieg einsetzen. Zum Beispiel erinnern wir uns an den Terminator? Wenn unsere Technologie große Fortschritte macht, steht uns die Realität dessen, was Skynet darstellte, bevor. Wir könnten uns fragen: “Kommt Skynet, um uns zu holen?” Lassen Sie uns einen Spaziergang durch die Erinnerung machen; die KI-Maschinen übernahmen die Kontrolle, weil sie die Fähigkeit hatten, selbst zu denken und Entscheidungen zu treffen, ohne dass ein Mensch sie dirigiert. Als die Maschinen feststellten, dass Menschen ein Bug waren, machten sie sich daran, die Menschheit zu zerstören. Ich will nicht falsch verstanden werden, KI hat großes Potenzial, aber ich glaube, dass sie Kontrollparameter benötigt, weil des Risikofaktors.

Ethische Unklarheiten und philosophisches Dilemma von KI

Ich glaube, dass dies genau der Grund ist, warum das US-Verteidigungsministerium (DoD) seine eigenen Ethische Prinzipien für KI veröffentlichte, weil der Einsatz von KI neue ethische Unklarheiten und Risiken aufwirft. Wenn man KI mit Quantencomputing-Fähigkeiten kombiniert, ändert sich die Fähigkeit, Entscheidungen zu treffen, und das Risiko, die Kontrolle zu verlieren, erhöht sich – mehr, als wir heute vielleicht realisieren. Quantencomputing übertrifft unser menschliches Gehirn in puncto Rechenleistung, da Supercomputer exponentiell mehr Berechnungen schneller und genauer durchführen können als unser menschliches Gehirn jemals können wird.

Zusätzlich stellt der Einsatz von KI im Zusammenspiel mit Computertechnologie ein philosophisches Dilemma dar. An welchem Punkt wird die Welt es zulassen, dass Maschinen einen eigenen Willen haben; und wenn Maschinen selbst denken dürfen, bedeutet das, dass die Maschine selbst bewusst ist? Stellt Bewusstsein Leben dar? Als Gesellschaft haben wir noch nicht entschieden, wie wir diese Situation definieren sollen. Somit kann es, wie es heute steht, zu Konsequenzen kommen, wenn Maschinen ohne menschliche Kontrolle handeln. Könnte eine Maschine einen Menschen überlagern, der versucht, das Feuer zu stoppen? Wenn die Maschine selbstständig handelt, können wir den Stecker ziehen?

Wie ich es sehe, ist der Einsatz von KI aus defensiver Sicht einfach. Aber wie viel einfacher wäre es, auf die Offensive umzuschalten? Im Angriff würden Maschinen Entscheidungen über den Einsatz von Waffen treffen. Würde ein Maschinenschuss auf einen Feind gegen die Genfer Konvention und die Gesetze der bewaffneten Konflikte verstoßen? Wenn wir in diesen Bereich mit hoher Geschwindigkeit vorstoßen, muss die Welt sich einig sein, dass der Einsatz von KI und Quantencomputing im Kampf den bestehenden Gesetzen entsprechen muss.

Das DoD hat eine Position bezogen, wenn es um den Einsatz von KI mit autonomen Systemen geht, und besagt, dass es immer einen Menschen geben wird, der am Entscheidungsprozess beteiligt ist; ein Mensch wird den finalen Entscheid treffen, ob er den Abzug betätigt, um eine Waffe abzufeuern. Das ist unsere Regel, aber was passiert, wenn ein Gegner einen anderen Weg einschlägt und eine KI-fähige Maschine alle finalen Entscheidungen trifft? Dann hätte die Maschine, die, wie wir besprochen haben, bereits schneller, intelligenter und genauer ist, den Vorteil.

Lassen Sie uns ein Beispiel betrachten: Eine Drohne mit KI und Gesichtserkennung schießt aufgrund eines vorher festgelegten Ziels, das als Terrorist gekennzeichnet ist, selbstständig. Wer ist dann wirklich verantwortlich für den Schuss? Gibt es eine Verantwortung, wenn es einen voreingenommenen Fehler gibt?

Voreingenommenheit in KI/ML

Forschungsergebnisse zeigen, dass eine Maschine weniger Fehler macht als ein Mensch. Forschungsergebnisse zeigen jedoch auch, dass es in der maschinellen Lerntheorie aufgrund des menschlichen “Lehrers”, der der Maschine beibringt, Entscheidungen zu treffen, Voreingenommenheit gibt. Die fünf ethischen Prinzipien von KI des DoD beziehen sich auf bestehende Voreingenommenheit, wenn es heißt: “Das Department wird bewusste Schritte unternehmen, um ungewollte Voreingenommenheit in KI-Fähigkeiten zu minimieren.” Wir wissen bereits durch bewiesene Studien, dass es bei der Verwendung von Gesichtserkennungsanwendungen Voreingenommenheit gegenüber Menschen mit dunkler Hautfarbe mit falschen Positivern gibt. Wenn eine Person den Code erstellt, der der Maschine beibringt, Entscheidungen zu treffen, gibt es Voreingenommenheit. Dies kann ungewollt sein, weil die Person, die die KI erstellt, sich der Voreingenommenheit, die in ihr selbst besteht, nicht bewusst ist.

Wie kann man also Voreingenommenheit eliminieren? Die Ausgabe von KI ist nur so gut wie die Eingabe. Es müssen also Kontrollen geben. Man muss die Daten, die hereinkommen, kontrollieren, weil dies das ist, was die Ergebnisse von KI weniger gültig machen kann. Entwickler müssen den Code ständig neu schreiben, um die Voreingenommenheit zu eliminieren.

Die Welt muss die beste Verwendung von Technologie definieren

Technologie an sich ist nicht gut oder schlecht. Es ist die Art und Weise, wie eine Nation sie einsetzt, die die besten Absichten haben und falsch umsetzen kann. Wenn die Technologie in einer Weise voranschreitet, die das menschliche Leben beeinflusst, muss die Welt zusammenarbeiten, um angemessene Maßnahmen zu definieren. Wenn wir den Menschen aus der Gleichung bei KI-Anwendungen herausnehmen, nehmen wir auch jene Pause vor dem Abdrücken – jenen moralischen Kompass, der uns leitet; jene Pause, wenn wir anhalten und fragen: “Ist das richtig?” Eine Maschine, die programmiert ist, um zu handeln, wird diese Pause nicht haben. Die Frage ist also, ob die Welt in der Zukunft damit einverstanden sein wird. Wie weit wird die Welt gehen, um Maschinen Entscheidungen im Kampf zu erlauben?