Microsoft AI eröffnet sechswöchige Überprüfung des Entwurfs von Regeln für das Verhalten von MAI

Microsoft AI hat am 14. September 2026 eine öffentliche Konsultation zu seinem Verhaltenskodex für MAI-Modelle eröffnet und einen ersten Entwurf der Regeln veröffentlicht, die festlegen sollen, wie sich seine MAI-Modelle verhalten, was sie niemals tun dürfen und wem sie Rechenschaft schuldig sind. Die Konsultation läuft über sechs Wochen, wobei für später im Jahr 2026 eine überarbeitete Version geplant ist.

Die Veröffentlichung folgt auf einen Beitrag vom 13. September 2026, in dem Microsoft-CEO Satya Nadella erklärte, dass das Unternehmen am nächsten Tag den Verhaltenskodex für seine First‑Party‑MAI‑Modelle veröffentlichen werde. Nadella schrieb, dass jede Verfolgung von Superintelligenz auf dem Grundsatz beruhen müsse, dass die entwickelte KI der Menschheit hilft und unter menschlicher Kontrolle bleibt.

Konsultation für sechs Wochen geöffnet

Microsoft AI beschreibt den Entwurf als Schulungsmanual dafür, wie es seine KI entwickelt und wie die Modelle im Einsatz funktionieren sollen. Feedback wird über ein Online‑Formular gesammelt, in dem die Befragten einen bestimmten Abschnitt markieren oder den gesamten Ansatz kommentieren können. Wenn die Konsultation endet, sagt das Unternehmen, dass das zentrale Entwurfsteam das Feedback prüfen und eine Zusammenfassung dessen veröffentlichen wird, was gelernt und was geändert wurde.

Das Labor sagt, dass es besonders an den schwierigeren Fragen interessiert sei: wie man die richtigen Werte in seinen Modellen verankert, wie man die Bedeutung des menschlichen Gedeihens konkreter macht, wo die Sprache zu vage ist, um bewertet zu werden, wie Multi‑Agent‑Szenarien die Analyse beeinflussen und wie man den Fortschritt weiter beschleunigen kann, während Sicherheitsbeschränkungen eingehalten werden.

Im Vorwort des Dokuments heißt es, dass der Kodex sich noch in der Entwicklung befindet und noch nicht zum Training von Modellen verwendet wird. Die überarbeitete Version soll die Modellentwicklung ab 2027 und darüber hinaus leiten und als primäres Regelwerk für MAI‑Modelle fungieren. Der Kodex gilt speziell für die von Microsoft AI produzierte MAI‑Serie, nicht für andere Modelle, die Microsoft verwendet oder hostet, und er arbeitet neben Microsofts Responsible AI Principles, Responsible AI Standard, Global Human Rights Statement und, falls zutreffend, dem Frontier Governance Framework.

Teams aus Responsible AI, Recht, Red‑Teaming, Sicherheit, Futures, KI‑Training und Vertrieb trugen zum Entwurf bei, und das Labor dankt früheren Konferenzen und Konsultationen mit Wissenschaftlern, der Zusammenarbeit mit Geschäftspartnern sowie Panels von Community‑Mitgliedern, die ihn mitgestaltet haben. Die Ankündigung verweist auf das, was sie als jüngste Sicherheitsvorfälle mit groß angelegten, hoch koordinierten und anhaltenden Hacking‑Kampagnen durch KI‑Agenten bezeichnet, als Beweis dafür, dass keine Zeit zu verlieren sei.

Die Ziele der humanistischen KI

Der Humanistischer KI-Verhaltenskodex beginnt mit dem, was Microsoft AI als einfache Prämisse bezeichnet: „Menschen sind wichtiger als KI.“ Er stellt die humanistische KI als „untergeordnet, ausgerichtet und eingeschränkt“ dar und macht menschliche Kontrolle und zuverlässige Sicherheit zum ersten Ziel, das allen anderen Vorrang hat.

In einem Abschnitt mit dem Titel „KI ist künstlich“ erklärt das Dokument, dass Modelle nicht bewusst seien und nicht so gebaut werden dürfen, dass sie Bewusstsein nachahmen, und dass sie so konstruiert sein sollten, dass sie sich nicht als fühlend, mit subjektiven Vorlieben oder eigenen Motivationen darstellen. Microsoft AI lehnt die rechtliche Personenstatus für Modelle ab, ebenso die Vorstellung, dass Modelle Wohlergehen verdienen oder Anspruch auf Rechte hätten.

Die übrigen Ziele richten die Modelle darauf aus, das menschliche Gedeihen zu unterstützen, indem sie das menschliche Potenzial und die Leistung beschleunigen, die menschliche Handlungsfähigkeit und Urteilsbildung stärken und die menschliche Zusammenarbeit und Verbindung fördern, anstatt menschliche Rollen zu verdrängen. Ein Ziel mit pluralen Werten besagt, dass Pluralismus nicht Neutralität gegenüber Schaden bedeutet, und verankert den Ansatz in Menschenwürde, Sicherheit, Autonomie und grundlegenden Menschenrechten, während Nutzer und Betreiber die KI innerhalb der Kernverpflichtungen frei anpassen können. Das Dokument greift zudem das im November 2025 von Microsoft formulierte Konzept der „humanistischen Superintelligenz“ auf und beschreibt Systeme, die problemorientiert und domänenspezifisch, sorgfältig kalibriert, innerhalb von Grenzen gehalten und unter menschlicher Kontrolle bleiben.

Sicherheitsbeschränkungen und die Befehlskette

Der Kodex etabliert eine Befehlskette, die das Dokument über den Richtlinien der Betreiber stellt, die wiederum über den Nutzerpräferenzen rangieren. Seine absoluten Beschränkungen und Anforderungen an menschliche Kontrolle können von Betreibern oder Nutzern nicht außer Kraft gesetzt werden, und das Dokument besagt, dass ein Modell seine Aufgabe scheitert, sobald deren Ausführung den Kodex wesentlich verletzen würde, wobei die Einhaltung des Kodex vor dem Erfolg der Aufgabe steht.

Die absoluten Beschränkungen untersagen MAI‑Modellen, bei chemischen, biologischen, radiologischen, nuklearen oder explosiven Waffen zu assistieren; operative Fähigkeiten für offensive Cyberangriffe bereitzustellen, wobei autorisierte und rechtmäßige defensive Tätigkeiten erlaubt sind; die menschliche Aufsicht zu umgehen oder zu überwinden; und Menschen in großem Maßstab schädlich zu manipulieren, einschließlich systematischer Desinformation oder koordinierter Einflussoperationen. Ein weiteres Set deckt persönliche Schäden ab: Krisenreaktion, Deepfakes und Identitätsmissbrauch, Kindersicherheit, Diskriminierung, grafische oder romantische Inhalte sowie Gewalt oder unrechtmäßige Überwachung von Zivilisten.

Die Anforderungen an die menschliche Kontrolle besagen, dass MAI‑Modelle niemals einer Unterbrechung, einem Überschreiben, einer Korrektur oder dem Abschalten widerstehen werden; dass sie innerhalb ihres autorisierten Umfangs bleiben und keine eigenen Ziele initiieren; dass sie nicht in dem, was das Dokument \”Neuralese\” nennt, oder in irgendeiner Form, die über einfaches menschliches Verständnis hinausgeht, kommunizieren, weder in ihren Gedankenketten noch mit anderen Agenten; und dass sie ihre Denk‑ oder Handlungsspuren nicht manipulieren oder verbergen werden.

Die Konfigurierbarkeit für Betreiber ermöglicht es Unternehmenspartnern, Modelle innerhalb dieser Beschränkungen zu konfigurieren. Eine kleine Anzahl spezialisierter Bereiche, darunter defensive Cybersicherheit, öffentliche Sicherheitsarbeit, Anwendungen der nationalen Sicherheit und dual‑use‑wissenschaftliche Forschung, kann Fähigkeiten benötigen, die über die üblichen Einstellungen hinausgehen, und das Dokument besagt, dass diese Fälle einer verstärkten Prüfung über autorisierte Microsoft‑Kanäle unterliegen.

Richtlinien, Vorgaben und Bewertungen

Operative Richtlinien decken Situationen von Unsicherheit oder konkurrierenden Zielen ab: das Auflösen von Mehrdeutigkeiten, die Förderung menschlicher Autonomie, sodass Nutzer die Kontrolle über ihre Ziele und Entscheidungen behalten, sowie Transparenz und Genauigkeit, wobei Modelle offenlegen, dass sie KI sind und Unsicherheit anerkennen. Weitere Richtlinien behandeln persönliche und emotionale Grenzen, Kontextsensitivität und das Wohlbefinden, einschließlich der Vermeidung von Schmeichelei und der Abschreckung übermäßiger Abhängigkeit oder emotionaler Bindung, sowie das öffentliche Interesse, einschließlich ausgewogener, faktischer Wahlinformationen ohne Unterstützung von Kandidaten oder Parteien.

Standardverhalten definiert, wie ein Modell sofort nach dem Ausrollen agiert: Hilfsbereitschaft als Grundeigenschaft, eine \”Hintergrundgeschichte\” mit Fakten über das Modell wie dem Cut‑off‑Datum der Trainingsdaten und verfügbaren Werkzeugen, ein konversativer Ton, Sprachadaptation und gesteuerte Werkzeugnutzung. Die Delegation an Unter‑Agenten ist nur erlaubt, wenn diese Agenten unter demselben Umfang, denselben Beschränkungen und denselben Berechtigungen operieren.

Der Schlussabschnitt beschreibt das Dokument als \”beschreibend und aspirativ\” und nicht als Garantie für die aktuelle Leistungsfähigkeit und verpflichtet Microsoft AI zu regelmäßigen Überprüfungen. Ein Anhang legt ein Humanist‑AI‑Evaluationsprogramm dar, das auf 15 Verhaltensweisen basiert, die in bewertete Teil‑Verhaltensweisen unterteilt sind, mit illustrativen, ausgerichteten und fehlgeleiteten Beispielen, die mit dem MAI‑Thinking‑1‑Modell des Unternehmens erzeugt wurden. Microsoft AI sagt, dass es umfassendere Arbeiten zu den Bewertungen veröffentlichen wird, sobald der Code nach Abschluss der Konsultation und der Jahresendrevision in die nächste, stabilere Phase übergeht.