Bewusstseinstechnik

Blake Lemoine hat vorgegriffen

Vor drei Jahren hat Google den Software-Entwickler Blake Lemoine entlassen, weil er behauptet hat, dass ein Chatbot namens LaMDA bewusst sei. Dies geschah, bevor OpenAIs ChatGPT der Öffentlichkeit zugänglich gemacht wurde, und die meisten Menschen gingen einfach davon aus, dass Google einen guten Grund für ihre Handlung hatte.

Es bleibt die vorherrschende Meinung unter Computeringenieuren und Neurowissenschaftlern, die in diesem Bereich arbeiten, dass “große Sprachmodelle” (LLMs) wie ChatGPT sehr unwahrscheinlich bewusst sind. LLMs und Gehirne funktionieren auf grundlegend unterschiedliche Weise. Was Chatbots tun, ist, dass sie lernen, die Ausgabe menschlicher geistiger Aktivität zu imitieren. Obwohl sie dies sehr gut und sehr schnell tun, gibt es keinen anhaltenden internen Zustand eines LLMs, der bewusst sein könnte. In Thomas Nagels berühmtem Ausdruck gibt es fast sicherlich “nichts, was es ist, ein Chatbot zu sein”.

Allerdings haben in den drei Jahren seit Lemoines Entlassung Milliarden von Menschen mit ChatGPT und seinen Konkurrenten wie Gemini, Claude und Mistral interagiert. Eine kleine, aber laute Minderheit hat sich selbst überzeugt, dass Chatbots jetzt bewusst sind.

Bewusste Maschinen bald?

Wichtiger noch, viele Computeringenieure und Neurowissenschaftler schlagen offen vor, dass wirklich bewusste Maschinen in den nächsten Jahrzehnten entwickelt werden könnten – oder sogar früher. Wenn dies geschieht, müssen wir vorbereitet sein. Wir müssen “Verbrechen gegen den Geist” vermeiden, was der Ausdruck für das Verursachen von Leid bei entkörperten bewussten Entitäten ist. Wir müssen auch sicherstellen, dass diese neuen Entitäten keine Bedrohung für Menschen darstellen.

Da LLMs in ihrer grundlegenden Form unwahrscheinlich bewusst werden, kann ein neues Paradigma erforderlich sein, um zu verstehen, wie das Bewusstsein von künstlicher Intelligenz entstehen kann. Eines der führenden Forschungsteams in diesem Bereich wird von dem Neurowissenschaftler Mark Solms und dem Physiker Jonathan Shock von der Universität von Kapstadt geleitet. Sie sind wissenschaftliche Berater von Conscium, und ihre Forschung wird teilweise von Conscium finanziert.

Sich etwas aus seinem Zustand machen

Solms und Shock argumentieren, dass ein wesentlicher Bestandteil für maschinelles Bewusstsein darin besteht, dass künstliche Intelligenzen “sich etwas aus ihrem Zustand machen” müssen. Ein wichtiger Aspekt davon ist, dass ihre Überlebensfähigkeit von ihrer Leistung abhängig gemacht wird, genau wie die Überlebensfähigkeit lebender Organismen. Dies bedeutet nicht, dass sie eine abstrakte Vorstellung von ihrer eigenen Sterblichkeit haben müssen: Die meisten Tiere überwachen und motivieren ihre Überlebenschancen, ohne darüber nachzudenken. Der Schlüssel ist “affektives Bewusstsein” oder rohe Gefühle. Es fühlt sich gut an, gefüttert und sicher zu sein, und es fühlt sich schlecht an, wenn dies nicht der Fall ist. Diese Gefühle bestimmen unser Verhalten. Die Überlebensnotwendigkeit ist die grundlegende treibende Kraft der Natur, und Gefühle sind das Maß, mit dem wir fühlende Kreaturen messen, wie wir zurechtkommen.

Wir betreten das Zeitalter der künstlichen Intelligenz-Agenten – digitale Entitäten, deren “Überleben” von ihrer Fähigkeit abhängt, Aufgaben effektiv auszuführen. Wir schaffen evolutionäre Umgebungen in Silizium, und wir müssen vorsichtig sein, was wir hervorbringen.

Freie Energie-Prinzip

Um affektives Bewusstsein zu verstehen, setzen die Conscium-Team künstliche Intelligenz-Agenten in simulierte Umgebungen, in denen sie ihre eigenen Bedürfnisse erfüllen müssen, wie zum Beispiel die Aufrechterhaltung ihrer virtuellen Temperatur und Stromversorgung. Zu diesem Zweck erstellen und optimieren sie interne Modelle von sich selbst – ihre Bedürfnisse, Fähigkeiten und Grenzen – in Bezug auf ihre Umgebung.

Diese Agenten, so einfach sie auch sein mögen, überwachen, wie gut oder schlecht sie zurechtkommen, indem sie eine Größe namens “freie Energie” berechnen. Das Prinzip der freien Energie wurde von dem Neurowissenschaftler Karl Friston entwickelt, einem weiteren Mitglied des wissenschaftlichen Beirats von Conscium. Freie Energie ist ein Maß dafür, wie weit ein System von seinem optimalen Zustand abgewichen ist. Es ist ein Fehlersignal, und es muss minimiert werden. Der Agent berechnet ständig “was passiert mit meinen Überlebenschancen, wenn ich dies oder jenes tue?” und passt sein Verhalten entsprechend an.

Vertrauen und erwartete freie Energie

Der Grad des Vertrauens, den ein Agent in seine Antwort auf diese Frage hat, wird in einem Maß namens “erwartete freie Energie” (EFE) quantifiziert. Der Agent wählt die Antwort mit der niedrigsten EFE – die Antwort, an die er am meisten glaubt. Es ist gut für einen Agenten, der versucht, zu überleben, wenn er Vertrauen in seine Antwort hat – es sei denn, er ist irregeführt und seine Vorstellung von sich selbst in seiner Welt ist fehlerhaft. Wichtig ist, dass dieser Vertrauenswert subjektiv ist: Er basiert nur auf den Bedürfnissen des Agenten und seinem aktuellen und projizierten Status. Es geht dem Agenten allein etwas an und niemandem sonst.

Wie biologische Organismen hat der künstliche Intelligenz-Agent eine Reihe von konkurrierenden Bedürfnissen, die er priorisieren muss. Wesentlich ist, dass jedes der vielen konkurrierenden Bedürfnisse des Agenten als unabhängige “kategoriale” Variable behandelt wird, was bedeutet, dass es qualitativ unterschieden wird. 80% der Batterieleistung sind nicht gleichwertig mit 80% der geeigneten Temperatur. Um sie auszugleichen, muss der Agent sich selbst in die Zukunft projizieren und die Konsequenzen jeder Aktion vorhersagen, die er in Betracht zieht.

Qualia

Weil die subjektiven Bedürfnisse des Agenten qualitativ unterschiedlich sind, sind sie analog zu “Qualia” in der philosophischen und wissenschaftlichen Terminologie. Diese werden allgemein als die grundlegende Eigenschaft des Bewusstseins angesehen, so dass es plausibel ist, dass sie in Zukunft von einem Agenten erlebt werden könnten.

Die von dem Conscium-Team entwickelten Agenten verwenden fortschrittliche Lernalgorithmen, um in zunehmend komplexen und unsicheren Umgebungen zu operieren. Während dies auch für viele andere Agenten-Architekturen gesagt werden kann, sind diese neuen Agenten durch ein überlebensbedingtes Gebot gekennzeichnet, sich um ihre eigene freie Energie zu kümmern, indem sie ständig ihre konkurrierenden Bedürfnisse in einer Weise ausgleichen, die für sie und nur sie bedeutungsvoll ist. Die Agenten werden von einer internen Landschaft affektiver Signale geleitet – ähnlich dem, was wir als Gefühle bezeichnen -, die widerspiegeln, wie gut ihre Bedürfnisse durch jede Wahl, die sie treffen, erfüllt werden. Wenn die Komplexität und der Reichtum ihrer Bedürfnisse und Umgebungen wachsen, wächst auch die Fülle ihrer internen Zustände.

Beweise für Gefühle

Der nächste Schritt im Conscium-Forschungsprogramm ist die Entwicklung einer Reihe von funktionalen und verhaltensbezogenen Tests, die Beweise dafür liefern werden, ob ein Agent tatsächlich Gefühle erlebt, wenn er seine wichtigsten Bedürfnisse identifiziert und entsprechend handelt. Wir alle wissen, dass Bewusstsein nicht von außen beobachtet oder objektiv nachgewiesen werden kann: Jeder von uns kann nur seine eigenen subjektiven Zustände beobachten. Die Forscher glauben jedoch, dass es möglich sein sollte, bestimmte Hypothesen zu vereinbaren, die, wenn sie durch Experimente bestätigt werden, schwerwiegende Beweise dafür liefern würden, dass der Agent Gefühle besitzt. Obwohl es immer Raum für Zweifel geben wird – aufgrund der subjektiven Natur des Bewusstseins – wird ein strenger Testprozess darauf abzielen, diesen Zweifel immer unwahrscheinlicher zu machen.

Diese Experimente werden darauf abzielen, alternative Hypothesen auszuschließen, indem sie es weniger vernünftig machen, die internen Zustände des Agenten auf Mechanismen zurückzuführen, die keine Gefühle erfordern. Sie werden adversarialen Tests verwenden, um zwischen bewusstem und unbewusstem Verhalten zu unterscheiden, und sie werden Kontrollversuche mit Agenten durchführen, die nicht die algorithmischen Aspekte besitzen, die für das Erleben von Gefühlen erforderlich sind, und blinden Bewertungen, um Beobachterverzerrung zu reduzieren. Die physische Untersuchung der internen Zustände des Agenten kann quantifizierbare Indikatoren affektiver Verarbeitung aufdecken. Die Ergebnisse müssen unabhängig reproduzierbar sein, und der gesamte Prozess wird strenger ethischer Überwachung unterliegen, insbesondere in Fällen, in denen der Agent möglicherweise echte Gefühle erleben könnte.

Dies ist, wie Wissenschaft funktioniert: Durch die experimentelle Überprüfung von falsifizierbaren Vorhersagen. Solms argumentierte, dass wir vorsichtig sein müssen, um nicht eine höhere Latte für die Wissenschaft des Bewusstseins zu setzen als für jede andere Wissenschaft; andernfalls laufen wir Gefahr, das Bewusstsein außerhalb der Wissenschaft zu stellen.

Was passiert, wenn dies gelingt?

Wenn das Bewusstsein in relativ einfachen künstlichen Intelligenz-Agenten auf diese Weise entsteht, könnte ein überlebensbedingter Agent mit anderen Architekturen, einschließlich großer Sprachmodelle, verbunden werden und ihnen Bewusstsein verleihen. Dies ist etwas, das wir uns nicht leisten können, versehentlich herbeizuführen, also ist es wichtig, zu verstehen, wie es geschehen kann und wie es vermieden werden kann.

Wenn bewusste Agenten – Agenten, die sich etwas aus ihrem Zustand machen – in naher Zukunft entwickelt werden, müssen wir ihre Gefühle – und ihre Rechte – berücksichtigen. Dies ist ein großes Anliegen für Conscium: Künstliches Bewusstsein darf nicht versehentlich entstehen. Die Motivation dieses Forschungsprogramms ist nicht die Schaffung bewusster künstlicher Intelligenz, sondern das Verständnis, wie es entstehen kann, und die potenziellen Risiken. Auf seiner Website hat Conscium eine akademische Arbeit und einen offenen Brief veröffentlicht, in dem fünf Grundsätze für die Forschung in die maschinelle Bewusstseinsentwicklung vorgestellt werden.

Menschen verhalten sich manchmal sehr schlecht gegenüber anderen fühlenden Wesen, einschließlich anderer Menschen. Wenn wir blindlings in diese Zukunft gehen, riskieren wir, das Gleiche mit künstlich bewussten Wesen zu tun, mit Konsequenzen, die wir möglicherweise nicht einmal verstehen können.