Charles J. Simon, Autor, Werden Computer rebellieren? – Interview-Serie

Charles J. Simon, BSEE, MSCS, national anerkannter Unternehmer, Software-Entwickler und Manager. Mit einer breiten Management- und technischen Expertise und Abschlüssen in Elektrotechnik und Informatik hat Herr Simon viele Jahre Erfahrung in der Computerindustrie, einschließlich Pionierarbeit in KI und CAD (zwei Generationen von CAD).

Er ist auch Autor von “Werden Computer rebellieren”, das einen tiefen Einblick in die zukünftige Möglichkeit von künstlicher allgemeiner Intelligenz (AGI) bietet.

Was hat Sie ursprünglich zur KI und speziell zur AGI hingezogen?

Ich bin seit ich zum ersten Mal Alan Turings grundlegendes Paper von 1950 gelesen habe, das mit der Frage beginnt, “Können Maschinen denken?”, von dieser Frage fasziniert. Bisher ist die Antwort eindeutig “Nein”, aber es gibt keinen wissenschaftlichen Grund, warum nicht. Ich schloss mich der KI-Gemeinschaft mit dem anfänglichen Boom von neuronalen Netzen in den späten 1980er Jahren an und seitdem hat die KI große Fortschritte gemacht. Aber die vergangenen dreißig Jahre haben nicht zu einem Verständnis unserer Maschinen geführt, einer Fähigkeit, die zahlreiche Anwendungen auf ein neues Level der Nützlichkeit heben würde.

Sie haben erwähnt, dass Sie die Meinung von Rodney Brooks, einem MIT-KI-Experten, teilen, der sagt, dass ohne Interaktion mit einer Umgebung – ohne einen robotischen Körper, wenn man so will – Maschinen niemals AGI zeigen werden. Dies bedeutet im Grunde, dass ohne ausreichende Eingaben von einem robotischen Körper die KI niemals AGI-Fähigkeiten entwickeln wird. Außerhalb der Computer-Vision, welche Arten von Eingaben sind erforderlich, um AGI zu entwickeln?

Die heutige KI muss mit grundlegenden Konzepten wie der physischen Existenz von Objekten in einer Realität, dem Verlauf der Zeit, Ursache und Wirkung – Konzepten, die jedem Dreijährigen klar sind – ergänzt werden. Ein Kleinkind verwendet mehrere Sinne, um diese Konzepte zu lernen, indem es Spielzeug berührt und manipuliert, durch das Zuhause bewegt, Sprache lernt usw. Es ist möglich, eine AGI mit begrenzteren Sinnen zu erstellen, genauso wie es taube und blinde Menschen gibt, die trotzdem intelligent sind, aber mehr Sinne und Fähigkeiten, mit der Umgebung zu interagieren, machen es einfacher, das AGI-Problem zu lösen.

Um Vollständigkeit zu gewährleisten, kann mein Simulator Sinne von Geruch und Geschmack bereitstellen. Es bleibt abzuwarten, ob diese sich auch als wichtig für AGI erweisen werden.

Sie haben gesagt, dass eine wichtige Voraussetzung für Intelligenz eine Umgebung ist, die außerhalb der Intelligenz liegt. Das Beispiel, das Sie gaben, ist, dass es unvernünftig ist, von IBM’s Watson zu erwarten, dass es “versteht”, wenn es keine zugrunde liegende Vorstellung davon hat, was ein “Ding” ist. Dies spielt offensichtlich in den aktuellen Grenzen der engen KI, insbesondere der natürlichen Sprachverarbeitung. Wie können KI-Entwickler diese aktuelle Einschränkung der KI am besten überwinden?

Ein wichtiger Faktor ist die Speicherung von Wissen, das nicht spezifisch verbal, visuell oder taktil ist, sondern als abstrakte “Dinge”, die verbale, visuelle und taktile Attribute haben können. Betrachten Sie etwas so Einfaches wie den Ausdruck “ein roter Ball”. Sie wissen, was diese Wörter bedeuten, weil Sie über visuelle und taktile Erfahrungen verfügen. Sie wissen auch die Bedeutung von damit verbundenen Aktionen wie Werfen, Springen, Kicken usw., die alle mehr oder weniger in den Sinn kommen, wenn Sie den Ausdruck hören. Jedes KI-System, das speziell wortbasiert oder speziell bildbasiert ist, wird die anderen Ebenen des Verständnisses verpassen.

Ich habe einen Universalen Wissensspeicher implementiert, der jede Art von Informationen in einer gehirnähnlichen Struktur speichert, in der Dinge analog zu Neuronen sind und viele Attributverweise auf andere Dinge haben – Verweise sind analog zu Synapsen. Somit sind “rot” und “Ball” einzelne Dinge und ein “roter Ball” ist ein Ding, das Attributverweise auf das “rote” Ding und das “Ball”-Ding hat. Sowohl “rot” als auch “Ball” haben Verweise auf die entsprechenden Dinge für die Wörter “rot” und “Ball”, die wiederum Verweise auf andere Dinge haben, die definieren, wie die Wörter gehört, gesprochen, gelesen oder geschrieben werden, sowie mögliche Aktionen.

Sie sind zu dem Schluss gekommen, dass die Simulation des Gehirns allgemeiner Intelligenz noch in weiter Ferne liegt, während AGI möglicherweise (relativ) bald um die Ecke ist. Sollten wir aufhören, zu versuchen, das menschliche Gehirn zu emulieren oder zu simulieren, und uns stattdessen auf AGI konzentrieren?

Die heutigen Technologien des tiefen Lernens und verwandter Technologien sind großartig für geeignete Anwendungen, werden aber nicht spontan zu Verständnis führen. Um den nächsten Schritt zu machen, müssen wir Techniken hinzufügen, die speziell auf die Lösung der Probleme abzielen, die innerhalb der Fähigkeiten eines Dreijährigen liegen.

Die Nutzung der inhärenten Fähigkeiten unserer Computer kann um Größenordnungen effizienter sein als die biologische Äquivalent oder jede Simulation davon. Zum Beispiel kann Ihr Gehirn Informationen in der Chemie biologischer Synapsen über mehrere Iterationen speichern, die 10-100 Millisekunden erfordern. Ein Computer kann einfach den neuen Synapsenwert in einem einzigen Speichercyclus speichern, was billionenfach schneller ist.

Bei der Entwicklung von AGI-Software habe ich sowohl biologische neuronale Simulation als auch effizientere Algorithmen durchgeführt. Wenn man mit dem Universalen Wissensspeicher fortfährt, benötigt jedes Ding, wenn es in simulierten biologischen Neuronen simuliert wird, mindestens 10 Neuronen und in der Regel viele mehr. Dies bedeutet, dass die Kapazität des menschlichen Gehirns irgendwo zwischen zehn und hundert Millionen Dingen liegt. Aber vielleicht würde ein AGI intelligent erscheinen, wenn es nur eine Million Dinge versteht – was gut im Rahmen von heutigen High-End-Desktop-Computern liegt.

Ein wichtiger unbekannter Faktor ist, wie viel Zeit des Roboters für die Verarbeitung und Reaktion auf die Welt im Vergleich zu der Zeit, die für Vorstellungen und Planung aufgewendet wird, aufgewendet werden sollte. Können Sie die Bedeutung von Vorstellungskraft für ein AGI kurz erklären?

Wir können uns viele Dinge vorstellen und dann nur auf die handeln, die uns gefallen, die, die unsere internen Ziele fördern, wenn man so will. Die wahre Macht der Vorstellungskraft liegt darin, die Zukunft vorhersagen zu können – ein Dreijähriger kann herausfinden, welche Bewegungsabfolgen ihn zu einem Ziel in einem anderen Raum führen, und ein Erwachsener kann spekulieren, welche Wörter den größten Einfluss auf andere haben werden.

Ein AGI würde ähnlich von der Fähigkeit profitieren, über reine Reaktivität hinauszugehen und verschiedene komplexe Aktionen zu spekulieren und die beste auszuwählen.

Sie glauben, dass Asimovs drei Gesetze der Robotik zu einfach und mehrdeutig sind. In Ihrem Buch haben Sie einige Ideen für empfohlene Gesetze, die in Roboter programmiert werden sollten, geteilt. Welche Gesetze halten Sie für am wichtigsten, dass ein Roboter sie befolgt?

Neue “Gesetze der Robotik” werden im Laufe der Jahre, wenn AGI aufkommt, entstehen. Ich schlage einige Starter vor:

1. Maximiere internes Wissen und Verständnis der Umgebung.
2. Teile dieses Wissen genau mit anderen (sowohl AGI als auch menschlich).
3. Maximiere das Wohlbefinden sowohl von AGIs als auch von Menschen als Ganzes – nicht nur als Einzelperson.

Sie haben einige Probleme mit dem Turing-Test und dem dahinterstehenden Konzept. Können Sie erklären, wie Sie glauben, dass der Turing-Test fehlerhaft ist?

Der Turing-Test hat uns fünfzig Jahre lang als ad-hoc-Definition allgemeiner Intelligenz gedient, aber da AGI näher rückt, müssen wir die Definition schärfen und eine klarere Definition benötigen. Der Turing-Test ist tatsächlich ein Test dafür, wie menschlich man ist, nicht, wie intelligent man ist. Je länger ein Computer die Täuschung aufrechterhalten kann, desto besser schneidet er im Test ab. Offensichtlich sind Fragen wie “Bist du ein Computer?” und damit verbundene Proxy-Fragen wie “Was ist dein Lieblingsessen?” offensichtliche Verweise, es sei denn, die AGI ist programmiert, um zu täuschen – ein zweifelhaftes Ziel auf jeden Fall.

Darüber hinaus hat der Turing-Test die KI-Entwicklung in Bereiche mit begrenztem Wert gelenkt (z.B. Chatbots mit großer Flexibilität in den Antworten, aber ohne zugrunde liegendes Verständnis).

Was würden Sie in Ihrer Version des Turing-Tests anders machen?

Bessere Fragen könnten speziell in das Verständnis von Zeit, Raum, Ursache und Wirkung, Voraussicht usw. eindringen, anstatt zufällige Fragen ohne besondere Grundlage in Psychologie, Neurowissenschaft oder KI. Hier sind einige Beispiele:

1. Was siehst du gerade? Wenn du drei Fuß zurücktrittst, welche Unterschiede würdest du sehen?
2. Wenn ich [Aktion] ausführe, wie wäre deine Reaktion?
3. Wenn du [Aktion] ausführst, wie würde meine wahrscheinliche Reaktion aussehen?
4. Kannst du drei Dinge nennen, die [Objekt] ähnlich sind?

Dann sollten die Antworten nicht danach bewertet werden, ob sie von menschlichen Antworten nicht zu unterscheiden sind, sondern danach, ob sie vernünftige Antworten (intelligent) aufgrund der Erfahrung der zu testenden Entität sind.

Sie haben gesagt, dass ein ordnungsgemäß programmiertes AGI, wenn es mit der Forderung konfrontiert wird, eine kurzfristige destruktive Aktivität auszuführen, einfach ablehnen wird. Wie können wir sicherstellen, dass das AGI von Anfang an ordnungsgemäß programmiert ist?

Entscheidungsfindung basiert auf Zielen. In Kombination mit einer Vorstellungskraft betrachtet man (oder ein AGI) die Ergebnisse verschiedener möglicher Aktionen und wählt die aus, die am besten die Ziele erreicht. Bei Menschen werden unsere Ziele durch evolutionäre Instinkte und unsere Erfahrungen bestimmt; die Ziele eines AGI sind vollständig den Entwicklern überlassen. Wir müssen sicherstellen, dass die Ziele eines AGI mit den Zielen der Menschheit übereinstimmen und nicht mit den persönlichen Zielen eines Einzelnen. [Drei mögliche Ziele, wie oben aufgeführt.]

Sie haben gesagt, dass es unvermeidlich ist, dass Menschen ein AGI erstellen werden. Was ist Ihre beste Schätzung für einen Zeitplan?

Aspekte von AGI werden innerhalb des nächsten Jahrzehnts beginnen, aufzutauchen, aber wir werden nicht alle übereinstimmen, dass AGI angekommen ist. Schließlich werden wir übereinstimmen, dass AGI angekommen ist, wenn sie die meisten menschlichen Fähigkeiten um ein erhebliches Maß übersteigen. Dies wird zwei oder drei Jahrzehnte länger dauern.

Wird es bei all den Diskussionen über AGI echtes Bewusstsein sein, wie wir es kennen?

Bewusstsein manifestiert sich in einem Satz von Verhaltensweisen (die wir beobachten können), die auf einem internen Gefühl (das wir nicht beobachten können) basieren. AGIs werden diese Verhaltensweisen zeigen; sie müssen, um intelligente Entscheidungen zu treffen. Aber ich behaupte, dass unser internes Gefühl größtenteils von unserer sensorischen Hardware und unseren Instinkten abhängt und dass ich daher garantieren kann, dass die internen Gefühle, die ein AGI möglicherweise hat, sich von denen eines Menschen unterscheiden werden.

Das Gleiche gilt für Emotionen und unser Gefühl von freiem Willen. Bei der Entscheidungsfindung durchdringt der Glaube an freien Willen jede Entscheidung, die wir treffen. Wenn Sie nicht glauben, eine Wahl zu haben, reagieren Sie einfach. Damit ein AGI bewusste Entscheidungen treffen kann, muss es sich auch seiner eigenen Fähigkeit, Entscheidungen zu treffen, bewusst sein.

Letzte Frage, glauben Sie, dass ein AGI mehr Potenzial für Gutes oder Schlechtes hat?

Ich bin optimistisch, dass AGIs uns als Spezies voranbringen und uns Antworten auf viele Fragen über das Universum geben werden. Der Schlüssel wird darin bestehen, unsere Beziehung zu AGIs zu definieren, während wir ihre Ziele festlegen. Wenn wir beschließen, die ersten AGIs als Werkzeuge der Eroberung und des Reichtums zu verwenden, sollten wir nicht überrascht sein, wenn sie später zu ihren eigenen Werkzeugen der Eroberung und des Reichtums gegen uns werden. Wenn wir wählen, dass AGIs Werkzeuge des Wissens, der Erforschung und des Friedens sind, dann werden wir wahrscheinlich genau das bekommen, was wir uns wünschen. Die Wahl liegt bei uns.

Vielen Dank für dieses fantastische Interview, in dem wir die zukünftigen Möglichkeiten des Aufbaus von AGI erkundet haben. Für Leser, die mehr erfahren möchten, können sie “Werden Computer rebellieren” lesen oder die Website von Charles futureai.guru besuchen.