Charles Simon, Autor von Brain Simulator II – Interview-Serie

Charles Simon ist der Autor von Brain Simulator II, einem Begleitbuch zum Brain Simulator II, einem kostenlosen, quelloffenen Softwareprojekt, das darauf abzielt, ein umfassendes künstliches Intelligenzsystem (AGI) zu erstellen

Die ursprüngliche Brain-Simulator-Software wurde 1988 veröffentlicht, was in der Softwarewelt eine enorme Zeitspanne ist. Wie groß ist der Sprung von Brain Simulator II im Vergleich zu seinem Vorgänger?

Das heutige System ist über eine Million Mal schneller. Die ursprüngliche Version wurde in FORTRAN geschrieben, lief auf einem IBM-AT-Klon, unterstützte ein festes Array von 1.200 Neuronen und berechnete etwa zwei Zyklen pro Sekunde. Das heutige Programm kann auf einem Netzwerk laufen und 2,5 Milliarden Synapsen pro Sekunde auf einem leistungsstarken Desktop-CPU verarbeiten.

Das Buch handelt von Brain Simulator II, einem quelloffenen Softwareprojekt, das darauf abzielt, eine umfassende künstliche Intelligenz zu erstellen. Welche Art von Codiererfahrung ist erforderlich, um diese Software auszuführen?

Keine Erfahrung erforderlich. Wenn Sie kein Programmierer sind, können Sie Zeit mit dem Brain Simulator verbringen und ein Verständnis für die Fähigkeiten und Grenzen von Neuronen, ein bisschen über Wissensrepräsentation und sogar eigene begrenzte Netzwerke aufbauen. Wenn Sie ein Programmierer sind, werden Sie den tieferen technischen Erklärungen folgen und eigene Module erstellen, um das System zu erweitern, um fortgeschrittenere AGI-Strategien zu erreichen.

Warum ist es wichtig, zu den biologisch inspirierten Wurzeln der künstlichen Intelligenz zurückzukehren, um AGI zu erreichen?

In den 1980er Jahren dachte man, dass man, wenn man nur ein großes genug neuronales Netzwerk aufbaut, es spontan intelligent wird. In den letzten vierzig Jahren ist diese Vorstellung jedoch zunehmend unwahrscheinlich geworden. Wenn also die klassischen Ansätze der künstlichen Intelligenz nicht für AGI funktioniert haben, sollten wir uns andere Ansätze ansehen, und das einzige funktionierende AGI-Modell, das wir haben, ist das menschliche Gehirn.

Zugleich gibt es keinen Grund für eine sklavische Anpassung an biologische Plausibilität. Zum Beispiel wissen wir, dass unser Gehirn Entfernungen zu Objekten aufgrund geringer Unterschiede in den von unseren beiden Augen empfangenen Bildern schätzen kann, was der Grund für 3D-Filme ist. Wir wissen jedoch nicht, wie dies im Gehirn funktioniert, also habe ich diese Funktionalität in einem Modul programmiert, das Entfernungen mit Hilfe einiger Zeilen Trigonometrie schätzt. Wir können ziemlich sicher sein, dass Ihr Gehirn nicht so funktioniert, aber der trigonometrische Ansatz ist wahrscheinlich schneller und genauer.

Sie erklären in dem Buch, dass AGI Robotics erfordert, warum ist dies so wichtig?

Stellen Sie sich vor, Sie müssten Farbe einem blinden Menschen oder Musik einem tauben Menschen erklären. Wenn ein potenzielles AGI nur ein Programm auf einem Computer ist, wie kann es dann ein grundlegendes Verständnis für Dinge erlangen, die jedes drei Jahre alte Kind kennt? Das Kind hat eine Perspektive und ist von Realität umgeben. Das Kind weiß, dass Objekte in dieser Realität existieren und dass viele von ihnen manipuliert werden können. Durch das Spielen mit Blöcken kann ein Kind über Form, Größe, Festigkeit, Schwerkraft, visuelle Okklusion, Entfernung und so weiter lernen. Mit autonomen Bewegungen, Sicht und Manipulatoren kann ein AGI auf einer fundamentalen Ebene über Realität lernen, als jedes Programm, das nur auf Bergen von Text- und Bilddaten angewiesen ist.

Nachdem ein robuster AGI ein grundlegendes Verständnis für Objekte in der Realität erlangt hat, kann diese Erkenntnis in nicht-robotische Denkmaschinen kopiert und das Verständnis wird bestehen bleiben. Genau wie jemand, der seine Sinne für Sehen oder Hören verliert, Dinge auf eine andere Weise verstehen kann als jemand, der diese Sinne nie hatte.

Eine wichtige Aspekt von Brain Simulator II ist, dass es keine Rückwärtspropagation verwendet, was ist die Begründung für die Nichtanwendung dieser Methode?

Ihr Gehirn funktioniert ohne Rückwärtspropagation, also muss AGI auch ohne sie möglich sein. Tatsächlich ist Rückwärtspropagation fundamental unvereinbar mit einem biologischen Modell, da sie darauf angewiesen ist, Synapsengewichte mit erheblicher Genauigkeit zu messen und zu modifizieren. Nach einiger Zeit mit dem Brain Simulator werden Sie zu dem Schluss kommen, dass das Festlegen von Synapsengewichten mit einer bestimmten Genauigkeit sehr schwierig ist und das genaue Erfassen dieser Synapsengewichte unmöglich ist. Das grundlegende Problem ist, dass feuende Neuronen Synapsengewichte modifizieren, aber es gibt keine Möglichkeit, eine Synapsengewicht ohne feuende Neuronen zu erfassen, also kann ein Synapsengewicht nicht ohne Modifizierung erfasst werden.

Rückwärtspropagation hat keine biologische Analogie und ich halte sie für eine extrem leistungsfähige statistische Methode. Viele Menschen arbeiten damit, einige mit ausgezeichneten Ergebnissen. Mein Punkt ist, verschiedene Ansätze auszuprobieren. Durch die Verwendung von Spike-Neuronen in Kombination mit Plug-in-Software-Modulen betrachte ich die Probleme von AGI aus einer anderen Perspektive.

Wenn das Gehirn untersucht wird, scheint es Unordnung und Zufall zu geben, ist dies etwas, das wir in ein Software-System einführen müssen, damit wahres AGI entsteht?

Ich denke nicht. Wenn man auf die einzelnen Neuronen und Synapsen schaut, ist ihre Funktion ziemlich deterministisch, wie auch der Transistor. Im Gehirn sieht es chaotisch aus, weil die Rauschpegel ziemlich hoch sind und die Informationskomponenten nicht in einer offensichtlichen Reihenfolge sind. Aber denken Sie an Ihr Sehen, Sie können Text mit Klarheit lesen und es gibt keine Unordnung oder Zufall im Leseprozess. Also kommen wir zu dem Schluss, dass zumindest Ihr visueller Kortex ziemlich zuverlässig und wiederholbar ist. Trotzdem sieht es aus, als ob es genauso chaotisch ist wie der Rest des Gehirns, wenn man es untersucht. Also ist der Rest des Gehirns wahrscheinlich genauso zuverlässig und wiederholbar wie der visuelle Kortex, wir sehen nur noch nicht die Organisation und Ordnung. Es ist ein bisschen wie Chinesisch lesen, für mich sind es chaotische, halb zufällige Markierungen, aber für jemanden, der die Sprache lesen kann, gibt es eine absolute Organisation. Wir können die interne Sprache des Gehirns noch nicht lesen.

Sie führen ein Konzept namens Universaler Wissensspeicher (UKS) ein, können Sie bitte kurz darüber sprechen, was dies ist und warum es wichtig ist?

Wenn man an die Frage der Robotik zurückdenkt, kann man sehen, dass eine Facette der allgemeinen Intelligenz die Fähigkeit ist, Wissen aus verschiedenen Sinnen zu integrieren. Sie wissen über einen Block Bescheid, weil Sie ihn sehen, berühren und Wörter darüber hören können. All dies stellt Informationen über einen Block dar. Also muss ein AGI ein allgemeines Speichermedium haben, das eine Vielzahl von disparaten Informationen verarbeiten und nützliche Beziehungen zwischen den verschiedenen Elementen herstellen kann. Der UKS ist ein Wissensgraph in einer sehr allgemeinen Weise, so dass er jede Art von Informationen und jede Art von Beziehungen verarbeiten kann.

Der UKS kann die räumlichen Informationen speichern, die für die Maze-Anwendung erforderlich sind, zusammen mit dem Entscheidungs- und Ergebnisbaum, der verwendet wird, um die Maze zu durchqueren und ein Ziel zu erreichen. Die gleiche Struktur wird verwendet, um Wörter mit Farben zu verknüpfen. Diese Art von Allgemeingültigkeit ist fundamental für AGI.

Was ist Ihre Zeithorizont für das Entstehen von AGI?

Es ist schwierig zu sagen. Wir haben bereits die Hardware notwendig für AGI und ich sehe, dass ein einziger Durchbruch erforderlich ist, und dieser kann jederzeit kommen. Lassen Sie mich versuchen, diesen Durchbruch zu beschreiben:

Stellen Sie sich vor, dass Sie nur wissen, dass Rot eine Farbe ist und Blau eine Farbe ist, ich kann Sie bitten, einige Farben zu nennen, und Sie können Rot und Blau sagen. Die Frage ist, wie kann ein AGI lernen, dass die “ist-eine”-Beziehung etwas ist. Ich könnte eine solche Beziehung leicht programmieren, aber dann wird mein AGI nicht in der Lage sein, neue Beziehungen zu lernen, wenn es auf sie trifft. Ein Kind kann lernen, über Beziehungen von näher/weiter, größer/kleiner, früher/später, vorher/nachher und so weiter. Aber diese basieren auf noch fundamentalere Konzepte von Größe, Entfernung, Zeit und so weiter.

Wie kann ein Gehirn voller Neuronen all diese grundlegenden Dinge lernen? Dies hängt mit der Notwendigkeit von Robotik zusammen. Wie kann ein AGI das Konzept von Entfernung lernen, wenn es nicht gehen oder greifen kann? Es hängt auch mit der Notwendigkeit von universellem Speicher zusammen. Wie kann ein AGI begreifen, dass es irgendwo hingeht, was die Konzepte von Ort und Zeit kombiniert? Irgendwo hinzugehen ist relativ einfach. Zu verstehen, was es bedeutet, irgendwo hinzugehen, ist viel schwieriger. Ich glaube, dass diese grundlegenden Fragen alle Manifestationen desselben zugrunde liegenden Problems sind und die Lösung für dieses Problem der notwendige Durchbruch ist.

Es gibt nicht viele Menschen, die an diesem Problem arbeiten, hauptsächlich weil es so schwierig ist, ein Projekt zu vermitteln, das, wenn es wirklich erfolgreich ist, die Fähigkeiten eines drei Jahre alten Kindes nach drei Jahren und die Fähigkeiten eines zehn Jahre alten Kindes nach einem Jahrzehnt haben wird. Also wird die Lösung wahrscheinlich von kleineren, unabhängigen Forschern kommen, die die Zeit und Energie haben, sich Problemen ohne kurzfristige Rückkehr zu widmen.

Gibt es noch etwas, das Sie über Brain Simulator II oder AGI im Allgemeinen teilen möchten?

Wenn man versucht, mit Neuronen und Synapsen Schaltkreise zu entwerfen, die diese grundlegenden Probleme angehen, kommt man zu dem Schluss, dass anstelle eines Konzepts, das durch einige Dutzend Synapsen dargestellt wird, jedes einige Dutzend Neuronen erfordert. Dies bedeutet, dass anstelle der Kapazität des Gehirns, die viele Milliarden Dinge umfasst, wie allgemein angenommen wird, es auf das Verständnis von einigen Zehn oder Hundert Millionen Dingen begrenzt ist. Mit dieser Erkenntnis sollte ein AGI, das nur zehn Millionen Dinge verstehen kann, zumindest in der Lage sein, einige dieser grundlegenden Konzepte zu erfassen. Und ein Computersystem, das zehn Millionen Dinge darstellt, ist innerhalb des Rahmens der heutigen Hardware, vielleicht sogar des heutigen Desktop-Computers.

Die V1.0-Veröffentlichung des Brain Simulators ist wirklich sein “Coming of Age”. Es hat jetzt die Kapazität und die polierte Benutzeroberfläche, die es für ein allgemeineres Forschungspublikum viel nützlicher machen. Es ist ein Gemeinschaftsprojekt mit einem wachsenden Entwicklungsteam und einem größeren Corps von Endbenutzern. Zusammen werden wir viele neue Ideen ausprobieren und Fortschritte bei einigen der grundlegenden Fragen der Intelligenz und AGI machen.

Vielen Dank für das großartige Interview, es ist immer aufschlussreich, über AGI mit Ihnen zu diskutieren. Leser, die mehr erfahren möchten, sollten das Buch Brain Simulator II lesen.