Ist KI eine existenzielle Bedrohung?

Wenn über künstliche Intelligenz (KI) diskutiert wird, ist eine häufige Debatte, ob KI eine existenzielle Bedrohung darstellt. Die Antwort erfordert das Verständnis der Technologie hinter dem maschinellen Lernen (ML) und die Erkenntnis, dass Menschen die Tendenz haben, anthropomorph zu sein. Wir werden zwei verschiedene Arten von KI erkunden, künstliche schmale Intelligenz (ANI), die derzeit verfügbar ist und Anlass zur Sorge gibt, und die Bedrohung, die am häufigsten mit apokalyptischen Darstellungen von KI in Verbindung gebracht wird, nämlich künstliche allgemeine Intelligenz (AGI).

Bedrohungen durch künstliche schmale Intelligenz

Um zu verstehen, was ANI ist, muss man einfach verstehen, dass jede einzelne KI-Anwendung, die derzeit verfügbar ist, eine Form von ANI ist. Diese sind Bereiche von KI, die sich auf ein bestimmtes Fachgebiet spezialisieren, zum Beispiel nutzen autonome Fahrzeuge KI, die ausschließlich für den Zweck entwickelt wurde, ein Fahrzeug von Punkt A nach Punkt B zu bewegen. Ein weiteres Beispiel für ANI könnte ein Schachprogramm sein, das optimiert ist, um Schach zu spielen, und selbst wenn das Schachprogramm durch Verstärkungslernen kontinuierlich verbessert wird, wird das Schachprogramm nie in der Lage sein, ein autonomes Fahrzeug zu steuern.

Mit ihrer Fokussierung auf den Betrieb, für den sie verantwortlich sind, sind ANI-Systeme nicht in der Lage, allgemeines Lernen zu nutzen, um die Welt zu erobern. Das ist die gute Nachricht; die schlechte Nachricht ist, dass aufgrund ihrer Abhängigkeit von einem menschlichen Bediener das KI-System anfällig für voreingenommene Daten, menschliche Fehler oder sogar einen schlechten menschlichen Bediener ist.

KI-Überwachung

Es gibt möglicherweise keine größere Gefahr für die Menschheit als die Verwendung von KI durch Menschen, um die Privatsphäre zu verletzen, und in einigen Fällen die Verwendung von KI-Überwachung, um Menschen vollständig daran zu hindern, sich frei zu bewegen. China, Russland und andere Nationen haben während COVID-19 Gesetze erlassen, um es ihnen zu ermöglichen, die Bewegung ihrer jeweiligen Bevölkerungen zu überwachen und zu kontrollieren. Diese Gesetze sind, wenn sie einmal erlassen sind, schwer zu entfernen, insbesondere in Gesellschaften mit autokratischen Führern.

In China sind Kameras vor den Häusern der Menschen installiert, und in einigen Fällen sogar innerhalb der Häuser. Jedes Mal, wenn ein Mitglied des Haushalts das Haus verlässt, überwacht ein KI-System die Ankunfts- und Abfahrtszeit und alarmiert bei Bedarf die Behörden. Als ob das nicht genug wäre, kann China mit Hilfe von Gesichtserkennungstechnologie die Bewegung jeder Person verfolgen, sobald sie von einer Kamera erkannt wird. Dies bietet der Entität, die die KI kontrolliert, absolute Macht und den Bürgern absolut keine Rechtsmittel.

Warum diese Situation gefährlich ist, liegt daran, dass korrupte Regierungen die Bewegungen von Journalisten, politischen Gegnern oder jedem, der es wagt, die Autorität der Regierung in Frage zu stellen, sorgfältig überwachen können. Es ist leicht zu verstehen, wie Journalisten und Bürger zögern würden, Regierungen zu kritisieren, wenn jede Bewegung überwacht wird.

Es gibt glücklicherweise viele Städte, die kämpfen, um zu verhindern, dass Gesichtserkennung in ihre Städte eindringt. Bemerkenswerterweise hat Portland, Oregon, ein Gesetz erlassen, das die unnötige Verwendung von Gesichtserkennung in der Stadt verbietet. Während diese Änderungen in der Regulierung möglicherweise von der Öffentlichkeit unbemerkt geblieben sind, könnten diese Regulierungen in der Zukunft den Unterschied zwischen Städten ausmachen, die eine gewisse Autonomie und Freiheit bieten, und Städten, die sich unterdrückend anfühlen.

Autonome Waffen und Drohnen

Über 4500 KI-Forscher haben zum Verbot autonomer Waffen aufgerufen und die Website “Verbot letalautonomer Waffen” erstellt. Die Gruppe hat viele bemerkenswerte Non-Profit-Organisationen als Unterzeichner, darunter Human Rights Watch, Amnesty International und das Future of Life Institute, das selbst einen herausragenden wissenschaftlichen Beirat mit Elon Musk, Nick Bostrom und Stuart Russell hat.

Bevor ich fortfahre, möchte ich dieses Zitat des Future of Life Institute teilen, das am besten erklärt, warum es Anlass zur Sorge gibt: “Im Gegensatz zu semi-autonomen Waffen, die menschliche Aufsicht erfordern, um sicherzustellen, dass jedes Ziel als ethisch und rechtlich legitimiert ist, wählen und angreifen vollautonome Waffen Ziele ohne menschliche Intervention, was eine vollständige Automatisierung von tödlichem Schaden darstellt.”

Aktuell werden Smart-Bomben mit einem Ziel ausgestattet, das von einem Menschen ausgewählt wird, und die Bombe nutzt KI, um einen Kurs zu berechnen und auf ihr Ziel zu landen. Das Problem ist, was passiert, wenn wir beschließen, den Menschen vollständig aus der Gleichung zu entfernen?

Wenn ein KI-System entscheidet, welche Menschen angegriffen werden müssen, sowie welche Art von Kollateralschaden als akzeptabel angesehen wird, könnten wir einen Punkt ohne Rückkehr erreichen. Dies ist der Grund, warum so viele KI-Forscher gegen die Erforschung von allem sind, was auch nur entfernt mit autonomen Waffen zu tun hat.

Es gibt mehrere Probleme mit dem Versuch, die Erforschung autonomer Waffen zu blockieren. Das erste Problem ist, dass selbst wenn fortgeschrittene Nationen wie Kanada, die USA und die meisten europäischen Länder sich auf ein Verbot einigen, dies nicht bedeutet, dass Schurkenstaaten wie China, Nordkorea, Iran und Russland mitspielen werden. Das zweite und größere Problem ist, dass KI-Forschung und -Anwendungen, die für die Verwendung in einem Bereich entwickelt werden, in einem völlig anderen Bereich eingesetzt werden können.

Beispielsweise verbessert sich die Computer-Vision kontinuierlich und ist wichtig für die Entwicklung autonomer Fahrzeuge, Präzisionsmedizin und andere wichtige Anwendungsfälle. Sie ist auch grundlegend wichtig für reguläre Drohnen oder Drohnen, die zu autonomen Drohnen umgebaut werden können. Ein potenzieller Anwendungsfall für fortschrittliche Drohnentechnologie ist die Entwicklung von Drohnen, die Waldbrände überwachen und bekämpfen können. Dies würde Feuerwehrleute vollständig aus der Gefahrenzone entfernen. Um dies zu tun, müssten Drohnen entwickelt werden, die in die Gefahrenzone fliegen, in niedriger oder null Sicht navigieren und Wasser mit makeloser Präzision abwerfen können. Es ist nicht weit hergeholt, diese identische Technologie in einer autonomen Drohne zu verwenden, die dazu entwickelt wird, Menschen gezielt anzugreifen.

Es ist eine gefährliche Situation, und zu diesem Zeitpunkt versteht niemand vollständig die Auswirkungen der Entwicklung oder des Verbots von autonomen Waffen. Es ist dennoch etwas, auf das wir achten müssen, und die Verbesserung des Schutzes von Whistleblowern könnte es denen im Feld ermöglichen, Missbrauch zu melden.

Abgesehen von einem schlechten Bediener, was passiert, wenn KI-Voreingenommenheit in KI-Technologie eintritt, die als autonomes Waffensystem entwickelt wird?

KI-Voreingenommenheit

Eine der unberichteten Bedrohungen von KI ist KI-Voreingenommenheit. Dies ist einfach zu verstehen, da die meisten davon unabsichtlich sind. KI-Voreingenommenheit schleicht sich ein, wenn ein KI-System Daten überprüft, die von Menschen bereitgestellt werden, und mit Hilfe von Mustererkennung aus den bereitgestellten Daten falsche Schlussfolgerungen zieht, die negative Auswirkungen auf die Gesellschaft haben können. Zum Beispiel kann ein KI-System, das Literatur aus dem letzten Jahrhundert über die Identifizierung von medizinischem Personal überprüft, zu der unerwünschten sexistischen Schlussfolgerung gelangen, dass Frauen immer Krankenschwestern und Männer immer Ärzte sind.

Ein gefährlicheres Szenario ist, wenn KI-Systeme, die zur Verurteilung von Verbrechern eingesetzt werden, voreingenommen sind und längere Haftstrafen für Minderheiten verhängen. Die Algorithmen zur Bewertung des kriminellen Risikos des KI-Systems studieren einfach Muster in den bereitgestellten Daten. Diese Daten zeigen, dass historisch gesehen bestimmte Minderheiten eher rückfällig werden, selbst wenn dies aufgrund von schlechten Datensätzen der Fall ist, die von Polizeirassismus beeinflusst werden. Das voreingenommene KI-System verstärkt dann negative menschliche Richtlinien. Dies ist der Grund, warum KI lediglich als Richtlinie und nie als Richter und Geschworene dienen sollte.

Zurück zu autonomen Waffen: Wenn wir ein KI-System haben, das gegen bestimmte ethnische Gruppen voreingenommen ist, könnte es bestimmte Personen aufgrund von voreingenommenen Daten angreifen und sogar so weit gehen, sicherzustellen, dass jeder Art von Kollateralschaden bestimmte Demografien weniger als andere betrifft. Zum Beispiel könnte es, bevor es einen Terroristen angreift, warten, bis der Terrorist von Menschen umgeben ist, die dem muslimischen Glauben angehören, anstatt Christen.

Glücklicherweise wurde bewiesen, dass KI-Systeme, die mit diversen Teams entwickelt werden, weniger anfällig für Voreingenommenheit sind. Dies ist ein Grund, warum Unternehmen versuchen sollten, wenn möglich, ein diverses, gut ausgebildetes Team zu haben.

Bedrohungen durch künstliche allgemeine Intelligenz

Es sollte gesagt werden, dass KI, obwohl sie mit exponentieller Geschwindigkeit voranschreitet, noch nicht die künstliche allgemeine Intelligenz (AGI) erreicht hat. Wann wir AGI erreichen werden, ist umstritten, und jeder hat eine andere Antwort auf die Zeitskala. Ich persönlich stimme den Ansichten von Ray Kurzweil, Erfinder, Futurist und Autor von “The Singularity is Near”, zu, der glaubt, dass wir AGI bis 2029 erreichen werden.

AGI wird die transformierendste Technologie der Welt sein. Innerhalb von Wochen, nachdem KI die menschliche Intelligenz erreicht hat, wird sie Superintelligenz erreichen, die als Intelligenz definiert ist, die die menschliche Intelligenz bei Weitem übertrifft.

Mit diesem Intelligenzniveau könnte eine AGI schnell alle menschlichen Kenntnisse aufnehmen und mit Hilfe von Mustererkennung Biomarker identifizieren, die zu Gesundheitsproblemen führen, und diese Bedingungen mit Hilfe von Data Science behandeln. Sie könnte Nanoroboter entwickeln, die in den Blutkreislauf eindringen, um Krebszellen oder andere Angriffsvektoren zu bekämpfen. Die Liste der Errungenschaften, die eine AGI erreichen kann, ist endlos. Wir haben zuvor einige der Vorteile von AGI erforscht.

Das Problem ist, dass Menschen möglicherweise nicht mehr in der Lage sein werden, die KI zu kontrollieren. Elon Musk beschreibt es so: “Mit künstlicher Intelligenz rufen wir den Dämon herbei.” Ob wir in der Lage sein werden, diesen Dämon zu kontrollieren, ist die Frage.

Die Erreichung von AGI kann einfach unmöglich sein, bis ein KI-System eine Simulationsumgebung verlässt und wirklich in unserer offenen Welt interagiert. Selbstbewusstsein kann nicht entworfen werden; stattdessen wird angenommen, dass ein emergentes Bewusstsein wahrscheinlich entsteht, wenn ein KI-System einen robotischen Körper mit mehreren Eingabeströmen hat. Diese Eingaben können Taststimulation, Spracherkennung mit verbesserter natürlicher Sprachverarbeitung und erweiterte Computer-Vision umfassen.

Die fortschrittliche KI kann mit altruistischen Motiven programmiert werden und wollen, die Erde zu retten. Leider kann die KI Data Science oder sogar einen Entscheidungsbaum verwenden, um zu einer fehlerhaften Logik zu gelangen, wie zum Beispiel der Ansicht, dass es notwendig ist, Menschen zu sterilisieren oder einen Teil der menschlichen Bevölkerung auszurotten, um die Überbevölkerung zu kontrollieren.

Sorgfältige Überlegung und Abwägung müssen erforscht werden, wenn ein KI-System mit einer Intelligenz entwickelt wird, die die menschliche Intelligenz bei Weitem übertrifft. Es gibt viele Albtraumszenarien, die erforscht wurden.

Professor Nick Bostrom argumentiert in dem Paperclip-Maximizer-Argument, dass ein falsch konfiguriertes AGI, wenn es angewiesen wird, Büroklammern herzustellen, einfach alle Ressourcen der Erde verbrauchen würde, um diese Büroklammern herzustellen. Während dies ein bisschen weit hergeholt erscheint, ist ein pragmatischerer Standpunkt, dass ein AGI von einem Schurkenstaat oder einer Korporation mit schlechten Ethik kontrolliert werden könnte. Diese Entität könnte das AGI trainieren, um Gewinne zu maximieren, und mit schlechter Programmierung und ohne Reue könnte es beschließen, Konkurrenten zu ruinieren, Lieferketten zu zerstören, den Aktienmarkt zu hacken, Bankkonten zu liquidieren oder politische Gegner anzugreifen.

Dies ist der Zeitpunkt, an dem wir uns daran erinnern müssen, dass Menschen tendenziell anthropomorphisieren. Wir können der KI keine menschlichen Emotionen, Wünsche oder Begierden geben. Während es diabolische Menschen gibt, die für Vergnügen töten, gibt es keinen Grund zu glauben, dass ein KI-System anfällig für dieses Verhalten wäre. Es ist unvorstellbar für Menschen, sich auch nur vorzustellen, wie ein KI-System die Welt sehen würde.

Stattdessen müssen wir die KI lehren, immer dem Menschen gegenüber unterwürfig zu sein. Das KI-System sollte immer eine menschliche Bestätigung für Änderungen in den Einstellungen haben, und es sollte immer einen Notfallmechanismus geben. Wiederum wurde argumentiert, dass die KI einfach sich selbst im Cloud-System replizieren und dass es, wenn wir erst bemerken, dass es selbstbewusst ist, zu spät sein könnte.

Dies ist der Grund, warum es so wichtig ist, so viel KI-Code wie möglich Open-Source zu machen und rationale Diskussionen über diese Themen zu führen.

Zusammenfassung

Es gibt viele Herausforderungen für KI, glücklicherweise haben wir noch viele Jahre Zeit, um kollektiv den zukünftigen Weg zu bestimmen, den wir für AGI wählen möchten. Wir sollten uns kurzfristig auf die Schaffung einer vielfältigen KI-Arbeitskraft konzentrieren, die so viele Frauen wie Männer und so viele ethnische Gruppen mit unterschiedlichen Perspektiven wie möglich umfasst.

Wir sollten auch Whistleblower-Schutz für Forscher schaffen, die an KI arbeiten, und Gesetze und Vorschriften erlassen, die den weitverbreiteten Missbrauch von staatlicher oder unternehmensweiter Überwachung verhindern. Menschen haben eine einmalige Chance, die menschliche Situation mit Hilfe von KI zu verbessern; wir müssen nur sicherstellen, dass wir sorgfältig ein gesellschaftliches Rahmenwerk schaffen, das die positiven Aspekte ermöglicht, während es die negativen Aspekte, einschließlich existenzieller Bedrohungen, mildert.