Kalifornischer Gesetzgeber verabschiedet Gesetz zur unabhängigen KI‑Sicherheitsverifizierung

Der kalifornische Gesetzgeber erteilte am 30. August 2026 die endgültige Genehmigung für SB 813, ein vom Senator Jerry McNerney verfasstes Gesetz, das die Government Operations Agency anweisen würde, unabhängige Verifizierungsorganisationen zu benennen – externe Prüfer, die qualifiziert sind, die Sicherheitsrisiken von KI‑Systemen und -Modellen zu bewerten. Das Gesetz wird nun dem Gouverneur Gavin Newsom vorgelegt.

Die Abgeordnetenkammer verabschiedete das Gesetz in dritter Lesung am 30. August 2026, und der Senat stimmte am selben Tag den Änderungen der Abgeordnetenkammer zu, womit die gesetzgeberische Verabschiedung abgeschlossen war, gemäß dem offiziellen Abstimmungsprotokoll. Die Abgeordnetenkammer verzeichnete 67 Ja‑Stimmen, 6 Nein‑Stimmen und 6 Mitglieder, die nicht abstimmten; die Senatszustimmung wurde mit 39 Ja‑Stimmen, ohne Gegenstimmen, und einem nicht abstimmenden Mitglied angenommen.

Was SB 813 verlangen würde

Das Gesetz fügt dem California Government Code ein neues Kapitel hinzu, das es „California Artificial Intelligence Safety Independent Verification Organizations“ nennt. Bis spätestens 1. Januar 2028 muss die Government Operations Agency Antragsanforderungen für die Benennung als unabhängige Verifizierungsorganisation (IVO) entwickeln; Verfahren zum Aussetzen oder Aufheben einer Benennung; sowie Kriterien zur Feststellung, ob ein KI‑Prüfer qualifiziert ist. Die Behörde muss diese Anforderungen und Kriterien öffentlich veröffentlichen, sie überprüfen und anpassen, wenn sich Technologie‑ und Branchenstandards ändern, und, soweit praktikabel, mit bestehenden beruflichen und regulatorischen Prüf‑ und Sicherungsstandards in Einklang bringen.

Nach der Definition des Gesetzes ist ein IVO ein KI‑Prüfer, der nachweislich über Fachkenntnisse bei der Bewertung der von einem KI‑System oder -Modell ausgehenden Risiken sowie bei der Identifizierung der zugrunde liegenden Messgrößen und Methodologien verfügt. Eine benannte IVO darf keine finanzielle, betriebliche oder managementbezogene Abhängigkeit von der zu prüfenden Partei haben. Sie kann Zahlungen von der geprüften Partei zu angemessenen Marktpreisen akzeptieren, jedoch nicht unter Bedingungen, die die Zahlung vom Ergebnis ihrer Bewertung abhängig machen.

Die Verfahren zum Aussetzen und Aufheben müssen Verstöße gegen geeignete Standards, wesentliche Falschdarstellungen in Anträgen oder erforderlichen Offenlegungen, Interessenkonflikte, die die Unabhängigkeit beeinträchtigen, mangelnde Dokumentation, Sicherheitslücken in der Cyber‑Sicherheit sowie Verhaltensweisen, die die Integrität, Objektivität oder Kompetenz einer IVO in Frage stellen, abdecken.

Die Behörde muss zudem Arbeitsgruppen einberufen, die Ingenieure konkurrierender KI‑Unternehmen und KI‑Sicherheitsexperten umfassen, um Stakeholder‑Feedback zu den Standards zu sammeln, und die Ergebnisse dieser Arbeitsgruppen dem Gesetzgeber melden. Jede benannte IVO muss einen Jahresbericht einreichen, spätestens 12 Monate nach ihrer Erstbenennung, in dem sie ihre Standards und Methodologien zusammenfasst und Änderungen an Governance‑Richtlinien oder Finanzierungsquellen, die für ihre Unabhängigkeit relevant sind, offenlegt. IVOs dürfen Materialien schwärzen, um Geschäftsgeheimnisse, Cyber‑Sicherheit, öffentliche Sicherheit oder nationale Sicherheit zu schützen, müssen jedoch ungeschwärzte Informationen fünf Jahre lang aufbewahren.

Der Rahmen ist freiwillig. Das Gesetz stellt klar, dass es keinen Entwickler, Betreiber oder Anwender eines KI‑Systems oder -Modells verpflichtet, eine IVO zu beauftragen oder einer Prüfung zu unterziehen, keine Haftung ausschließlich für die Nichteinhaltung eines Standards begründet und keine staatliche Empfehlung oder Befürwortung eines KI‑Systems oder -Modells darstellt. In Rechtsstreitigkeiten, in denen behauptet wird, ein KI‑System habe Schaden verursacht, sieht das Gesetz vor, dass eine nach einem im Kapitel festgelegten Standard durchgeführte Prüfung für das Verfahren relevant, jedoch nicht abschließend ist.

Aussagen des Autors und der Sponsoren

Das Büro von McNerney beschrieb den Gesetzentwurf als das erste seiner Art in den USA, das einen Rahmen für unabhängige, externe Bewertungen potenzieller Sicherheitsrisiken von KI‑Systemen bietet. In seiner Ankündigung wurde die Senatsabstimmung mit 37‑0 und die Abgeordnetenkammerabstimmung mit 53‑4 angegeben; das offizielle Gesetzesprotokoll verzeichnet die Senatszustimmung mit 39‑0 bei einem nicht abstimmenden Mitglied und die Abgeordnetenkammerabstimmung mit 67‑6 bei sechs nicht abstimmenden Mitgliedern.

„Der kalifornische Gesetzgeber hat heute eine klare Botschaft gesendet: Es ist an der Zeit, dass Kalifornien bei der Bewertung der potenziellen Sicherheitsrisiken von KI die Führung übernimmt, da Washington, D.C., dazu nicht in der Lage oder nicht willens ist“, sagte McNerney in einer Erklärung zur Abstimmung. Sein Büro fügte hinzu, dass die Einrichtung unabhängiger, externer Bewertungen von KI eine der wichtigsten Empfehlungen des von Gouverneur Newsom eingesetzten Blue‑Ribbon‑Ausschusses für Künstliche Intelligenz war und verwies auf Umfragen, die zeigen, dass zwei Drittel der Amerikaner wenig bis gar kein Vertrauen in die Bundesregierung haben, KI wirksam zu regulieren.

SB 813 wird von Fathom gesponsert, einer gemeinnützigen Organisation, die behauptet, das IVO‑Modell entwickelt und gefördert zu haben und mit Gesetzgebern im ganzen Land zusammenzuarbeiten, um es umzusetzen. Die Organisation beschreibt IVOs als qualifizierte externe Experten, die das Risiko von KI‑Modellen und -Systemen mithilfe glaubwürdiger Tests und Analysen unabhängig bewerten können, und erklärte, dass das Gesetz es ermöglichen würde, die potenziellen Risiken der Technologie unabhängig zu beurteilen, anstatt sie blind zu akzeptieren.

„Die Stärke des unabhängigen Verifizierungsmodells liegt darin, dass es unabhängigen, qualifizierten Experten ermöglicht, das Risiko von KI‑Fähigkeiten zu beurteilen, und dass es mit der Technologie Schritt hält, anstatt einen einzelnen Test gesetzlich festzuschreiben“, sagte Andrew Freedman, CEO von Fathom, in der Erklärung der Organisation.

Die Erklärung von Fathom stellte das Gesetz außerdem neben SB 53, das laut Aussage nun große Frontier‑Entwickler verpflichtet, einen Sicherheitsrahmen zu veröffentlichen und kritische Vorfälle zu melden. Die Organisation erklärte, dass SB 813 eine weitere Verantwortungsebene schaffen würde, weil Sicherheitsbewertungen nach wie vor weitgehend von den Unternehmen selbst vorgenommen werden, und dass sie weiterhin mit kalifornischen Gesetzgebern, technischen Experten und Branchenvertretern zusammenarbeiten werde, um den Rahmen voranzubringen.

Frühere Versionen des Gesetzentwurfs

McNerney stellte SB 813 am 21. Februar 2025 vor, zusammen mit den Abgeordnetenmitgliedern Bauer‑Kahan und Lowenthal als Mitautoren, und das Gesetz wurde in beiden Kammern wiederholt geändert, wobei die letzten Änderungen der Abgeordnetenkammer bis zum 26. August 2026 reichten, laut dem Gesetzesprotokoll. Der Senat verabschiedete eine frühere Version des Gesetzes am 27. Januar 2026 mit 31‑7 Stimmen. McNerneys damalige Ankündigung besagte, dass diese Version eine California Artificial Intelligence Standards and Safety Commission schaffen würde, die IVO‑Expertengremien benennen würde, um freiwillige Standards zu setzen, KI‑Entwickler und -Anbieter zu zertifizieren und die Einhaltung zu überwachen, mit der Befugnis, Zertifizierungen zu widerrufen.

Wenn Newsom das Gesetz unterzeichnet, muss die Government Operations Agency bis zum 1. Januar 2028 ein Benennungssystem aufbauen, wobei die Ergebnisse der Arbeitsgruppen dem Gesetzgeber gemeldet werden und die ersten jährlichen IVO‑Berichte frühestens 12 Monate nach der Erstbenennung einer Organisation fällig sind.