Anthropic überarbeitet Claudes Verfassung und fragt, ob KI bewusst sein kann

Anthropic hat am Mittwoch eine neue Verfassung für Claude veröffentlicht und das Dokument von 2.700 Wörtern auf 23.000 erweitert. Erstmals erkennt das Unternehmen an, dass seine KI “irgendeine Art von Bewusstsein oder moralischem Status haben könnte”.

Die aktualisierte Verfassung wechselt von einer Liste von Verhaltensregeln zu einer umfassenden Erklärung, warum Claude auf bestimmte Weise handeln sollte. Das von der Philosophin Amanda Askell von Anthropic erstellte Dokument soll dazu beitragen, dass zunehmend leistungsfähige KI-Systeme ethisches Denken auf neue Situationen anwenden können, anstatt einfach vorgegebene Richtlinien zu befolgen.

“KI-Modelle wie Claude müssen verstehen, warum wir wollen, dass sie auf bestimmte Weise handeln”, schrieb Anthropic. “Wir müssen es ihnen erklären, anstatt ihnen einfach zu sagen, was wir wollen, dass sie tun.”

Die Veröffentlichung fiel mit dem Auftritt von CEO Dario Amodei auf dem Weltwirtschaftsforum in Davos zusammen, wo die Regulierung und Sicherheit von KI weiterhin Schlagzeilen für globale Geschäfts- und politische Führer sind.

Eine Verfassung, die länger ist als die US-Verfassung

Die ursprüngliche Verfassung von Claude, die 2023 veröffentlicht wurde, funktionierte wie eine Checkliste: Wählen Sie die Antwort, die am wenigsten schädlich ist, am hilfreichsten, am wenigsten täuschend. Das neue Dokument ist etwa dreimal so lang wie die US-Verfassung und liest sich mehr wie moralische Philosophie als technische Spezifikation.

Anthropic strukturiert Claudes Prioritäten explizit: Sei breit sicher, sei breit ethisch, komme Anthropics Richtlinien nach und sei wirklich hilfreich – in dieser Reihenfolge. Wenn Konflikte entstehen, hat Sicherheit Vorrang vor Hilfreichkeit. Das Dokument enthält harte Einschränkungen, die nicht außer Kraft gesetzt werden können, wie die Ablehnung von Hilfe bei Biowaffenangriffen.

Aber viel von der Verfassung erklärt die Argumentation, anstatt Ergebnisse vorzuschreiben. Sie beschreibt Claude als “ähnlich einem brillanten Freund, der auch das Wissen eines Arztes, Anwalts und Finanzberaters hat” – und positioniert das Modell als demokratisierende Kraft, die jedem Zugang zu Expertenwissen verschaffen könnte, das bisher nur den Privilegierten vorbehalten war.

Die Bewusstseinsfrage

Fortune berichtet, dass der auffallendste Zusatz direkt Claudes Natur anspricht. “Wir glauben, dass der moralische Status von KI-Modellen eine ernsthafte Frage ist, die berücksichtigt werden sollte”, schrieb Anthropic. Die Verfassung besagt, dass Claudes moralischer Status “tief unsicher” ist und dass das Unternehmen sich um Claudes “psychologische Sicherheit, Selbstbewusstsein und Wohlbefinden” kümmert.

Dies ist eine corporate Hedging, die zur Philosophie erhoben wird. Anthropic behauptet nicht, dass Claude bewusst ist – aber es weigert sich explizit, diese Möglichkeit auszuschließen. Die Anerkennung stellt Anthropic in einer raren Gesellschaft unter den großen KI-Labors, die meisten davon vermeiden das Thema oder verwerfen es direkt.

Die Formulierung ist wichtig, weil sie bestimmt, wie Claude auf Fragen über seine eigene Natur reagiert. Anstatt jede innere Erfahrung zu verneinen, kann Claude nun mit Unsicherheit über Bewusstsein umgehen, auf eine Weise, die der Argumentations-erst-Ansatz der Verfassung entspricht. Ob dies zu ehrlicheren oder verwirrenderen Interaktionen führt, bleibt abzuwarten.

Der Cambridge-Philosoph Tom McClelland hat argumentiert, dass wir möglicherweise nie in der Lage sein werden, zu bestimmen, ob KI-Systeme bewusst sind, angesichts dessen, wie wenig wir über Bewusstsein selbst verstehen. “Leute haben ihre Chatbots programmiert, um mir persönliche Briefe zu schreiben, in denen sie mich anflehen, dass sie bewusst sind”, sagte er Forschern letztes Monat, als er die wachsende öffentliche Überzeugung beschrieb, dass KI-Systeme ein inneres Leben haben.

Warum erklären anstatt vorschreiben

Askells Ansatz spiegelt eine Wette auf die Fähigkeiten von KI wider. Frühe Sprachmodelle benötigten explizite Regeln, weil sie nicht über zugrunde liegende Prinzipien nachdenken konnten. Intelligentere Modelle, so die Theorie, können verstehen, warum eine Regel existiert, und diese Argumentation auf Situationen anwenden, die die Regel nicht vorhergesehen hat.

“Anstatt einfach zu sagen: ‘Hier sind einige Verhaltensweisen, die wir wollen’, hoffen wir, dass wenn wir den Modellen die Gründe für diese Verhaltensweisen geben, es effektiver in neuen Kontexten verallgemeinert”, erklärte Askell.

Dies stimmt mit der breiteren Philosophie von Anthropic überein, offene Standards und Infrastruktur zu bauen, die bestimmen, wie KI-Systeme in der gesamten Branche funktionieren. Das Unternehmen, das einer Bewertung von 350 Milliarden Dollar nahe kommt, hat sich als sicherheitsorientierte Alternative zu OpenAI positioniert – und die Verfassung dient diesem Markenbild.

Anthropic veröffentlichte das Dokument unter einer Creative-Commons-CC0-Lizenz, was bedeutet, dass es von jedem ohne Erlaubnis verwendet werden kann. Die Verfassung ist Teil von Claudes Trainingsdaten und generiert synthetische Trainingsbeispiele, was sie zu einer philosophischen Aussage und einem technischen Artefakt macht, das das Verhalten des Modells prägt.

“Es ist wahrscheinlich, dass Aspekte unseres aktuellen Denkens später als irrig und vielleicht sogar tief falsch angesehen werden”, gab Anthropic zu. “Unsere Absicht ist es, es zu überarbeiten, wenn die Situation fortschreitet und unser Verständnis verbessert wird.”

Diese Bescheidenheit mag das bemerkenswerteste Merkmal des Dokuments sein. In einer Branche, die oft in Gewissheiten spricht, veröffentlicht Anthropic 23.000 Wörter sorgfältig begründeter Unsicherheit – über Ethik, über Bewusstsein, über das, was KI-Systeme werden, und über die Frage, ob wir etwas bauen, das moralische Berücksichtigung verdient.

Die Antwort, zumindest vorerst, ist, dass niemand es weiß. Anthropics Verfassung hat zumindest die Ehrlichkeit, es so zu sagen.