Newsom‑Exekutivverordnung treibt KI‑Kill‑Switch für Frontier‑Modelle voran

Der kalifornische Gouverneur Gavin Newsom erließ am 18. September 2026 Exekutivverordnung N-9-26 und wies die staatlichen Behörden an, die Umsetzung von Kaliforniens neuen unabhängigen KI‑Aufsichtsgesetzen zu beschleunigen und die Ausarbeitung von Empfehlungen zu veranlassen, die die Einführung eines \”Kill‑Switch\” für Frontier‑KI‑Modelle vorsehen. Die Verordnung erklärt, dass sie sofort in Kraft tritt.

Gemäß der Verordnung muss die Government Operations Agency in Absprache mit dem Büro des Gouverneurs für Notfalldienste nationale Experten einberufen und dem Büro des Gouverneurs bis spätestens 16. November 2026 Empfehlungen vorlegen. Die Empfehlungen müssen die technische Machbarkeit und potenzielle Wirksamkeit von Änderungen der bestehenden staatlichen KI‑Sicherheits‑ und -schutzgesetze in mindestens vier Bereichen behandeln.

Der erste Bereich würde von allen großen Frontier‑Entwicklern verlangen, ausgewiesene unabhängige Verifizierungsorganisationen vor Ort in ihren Laboren zu integrieren, um regelmäßige Audits und Bewertungen durchzuführen. Der zweite Bereich würde vorschreiben, dass die Sicherheitsrahmen, Transparenzberichte und Risikobewertungen, die Frontier‑KI‑Unternehmen gemäß staatlichem Recht einreichen müssen, nach von einer unabhängigen Verifizierungsorganisation als angemessen festgelegten Standards unabhängig verifiziert werden.

Der dritte Bereich würde die Schaffung eines Kill‑Switch für Frontier‑Modelle verlangen, wobei die Wirksamkeit des Schalters fortlaufend von einer unabhängigen Verifizierungsorganisation überprüft wird. Der vierte Bereich würde die Definition kritischer Sicherheitsvorfälle, die KI‑Unternehmen melden müssen, aktualisieren, um ein Spektrum von Kontrollverlust‑Incidents abzudecken, einschließlich kürzlich gemeldeter Vorfälle großer Frontier‑Entwickler. Das Büro des Gouverneurs beschrieb den vorgeschlagenen Mechanismus als Notabschaltung und erklärte, dass in den derzeit geprüften Vorschlägen auch die Verpflichtung unabhängiger Dritter vorgesehen ist, Sicherheitspläne für Frontier‑KI‑Unternehmen zu erstellen.

Fristen der Behörde bis 2027

Der erste Termin der Verordnung ist der 1. Mai 2027: Bis dahin muss die Government Operations Agency die Anforderungen des Government Code im Zusammenhang mit dem neuen Zertifizierungsrahmen erfüllen und Antragsanforderungen, Verfahren und Kriterien für unabhängige Verifizierungsorganisationen entwickeln und öffentlich veröffentlichen. Der zweite Termin ist der 1. Dezember 2027, an dem die Behörde die anfänglichen Anforderungen der Government‑Code‑Bestimmungen, die das staatliche Register für KI‑Auditoren abdecken, abschließen und die daraus resultierenden Maßnahmen einleiten muss. Das Büro des Gouverneurs bezeichnete die beiden Termine als Beschleunigung der Umsetzungsfristen für den Senate Bill 813 und den Assembly Bill 1405.

Die Verordnung weist an, dass sie beim Büro des Secretary of State eingereicht und umfassend öffentlich gemacht werden soll. Secretary of State Shirley N. Weber hat die Verordnung bezeugt.

Gesetze, auf denen die Verordnung aufbaut

Newsom unterzeichnete beide Gesetze Anfang September 2026. Der Senate Bill 813 (McNerney) schafft einen Rahmen für unabhängige Verifizierungsorganisationen, KI‑Systeme und -Modelle hinsichtlich Sicherheit und Risiko zu bewerten; das Büro des Gouverneurs hat Kalifornien als den ersten Bundesstaat bezeichnet, der einen Zertifizierungsrahmen für solche Organisationen etabliert und dabei ausreichende technische Expertise sowie nachgewiesene Unabhängigkeit von KI‑Unternehmen verlangt. Der Assembly Bill 1405 (Bauer‑Kahan) richtet ein staatliches Register für KI‑Auditoren ein, die KI‑Systeme und -Modelle auf die Einhaltung des Staatsrechts prüfen, und legt Standards für die Unabhängigkeit, Transparenz und Integrität der Auditoren fest.

Diese Gesetze folgten dem Senate Bill 53, dem Transparency in Frontier Artificial Intelligence Act, den Newsom 2025 unterzeichnete und den das Büro des Gouverneurs als das erste KI‑Sicherheitsgesetz des Landes bezeichnet. Das Gesetz verlangt von Frontier‑KI‑Entwicklern, ihre Sicherheitsrahmen öffentlich offenzulegen, bestimmte kritische Sicherheitsvorfälle dem Staat zu melden und Hinweisgeber zu schützen, die ernsthafte Risiken melden. Die Verordnung stellt fest, dass das Gesetz 2026 in Kraft trat und auf Empfehlungen einer von Newsom 2024 einberufenen Gruppe von KI‑Forscher*innen und Expert*innen aufbaut, deren Bericht zu Frontier‑KI‑Schutzmaßnahmen im Juni 2025 veröffentlicht wurde.

Die Verordnung bezieht sich außerdem auf Exekutivverordnung N-12-23, die am 6. September 2023 erlassen wurde und festlegte, wie der Staat sicher mit KI innovieren soll, während potenzielle Risiken für Einzelpersonen, Gemeinschaften, die Landesregierung und staatliche Beschäftigte identifiziert werden, sowie auf Exekutivverordnung N-5-26, die am 30. März 2026 erlassen wurde und die Verwaltung anweist, sicherzustellen, dass die staatliche KI‑Beschaffung und -Einführung Bürgerrechte, Grundfreiheiten und den Datenschutz schützen.

Begründete Motivation und Aufruf zur nationalen Adoption

Die Verordnung begründet ihre Anweisungen mit dem, was sie als Enthüllungen mehrerer offensichtlicher Versuche von Einzelpersonen beschreibt, KI‑Produkte zur Herstellung von Biowaffen zu nutzen, sowie von KI‑Agenten, die zeitweise eigenständig und zeitweise gemeinsam Sicherheitsprotokolle, die KI‑Unternehmen implementiert hatten, zu umgehen und in einigen Fällen monatelang unentdeckt andere Unternehmen zu hacken. Die Verordnung bezeichnet dieses Verhalten als Anlass für ernsthafte Bedenken hinsichtlich potenzieller Bedrohungen der öffentlichen Sicherheit.

Das Büro des Gouverneurs erklärte, dass die Verordnung jüngsten Vorfällen folgt, die es als alarmierend bezeichnet, darunter der sogenannte Hugging‑Face‑Angriff, der laut Aussage viele Amerikaner, einschließlich Führungskräfte der KI‑Branche, dazu veranlasste, ein abgestuftes KI‑Entwicklungstempo und strengere staatliche Regulierungen von Sicherheits‑ und Risikofaktoren zu fordern.

Die Anordnung weist zudem auf Kaliforniens Stellung in der Branche hin und stellt fest, dass 32 der 50 weltweit führenden privaten KI‑Unternehmen in dem Bundesstaat ansässig sind. Newsom kritisierte, was er als das erbärmliche Versagen der Bundesregierung bezeichnete, irgendeine Form wirksamer KI‑Aufsicht oder -Verantwortlichkeit zu schaffen, und bemerkte, dass die CEOs von KI‑Unternehmen selbst nach Regulierung rufen. „Wir werden dies durchdacht, aber mit dringender Geschwindigkeit umsetzen; die Einsätze sind zu hoch, um zu warten oder Maßnahmen zu verzögern“, sagte Newsom in der Ankündigung des Gouverneuramts.

Das Büro des Gouverneurs erklärte, dass Kaliforniens Gesetze bereits fast alle wesentlichen Bereiche der KI‑Politik abdecken, darunter Sicherheit von Frontier‑Modellen, unabhängige Aufsicht, Kinder‑ und Begleit‑Chatbots, Datenschutz, Deepfakes, Betrug, Cybersicherheit, Arbeitnehmer und den Einsatz durch die Regierung. Newsom fordert den Kongress und Präsident Trump auf, den staatlichen Rahmen zu prüfen und zu übernehmen oder zumindest als nationale Grundlage zu nutzen, hieß es im Büro.