Regulierung
Fathom fordert rasche Umsetzung von Kaliforniens Plan zur KI-Aufsicht

Wichtige PunkteFathom möchte, dass Kalifornien unabhängige Bewertungen katastrophaler Risiken für…
Mehr anzeigen
- Fathom möchte, dass Kalifornien unabhängige Bewertungen katastrophaler Risiken für Entwickler von Frontier-KI vorschreibt, anstatt sich auf freiwillige Überprüfungen zu verlassen.
- Der Staat würde Evaluatoren lizenzieren und beaufsichtigen, dabei Sicherheitsergebnisse gesetzlich festlegen und IVOs die technischen Testmethoden aktualisieren lassen.
- Fathom schlägt vor, die Vorschriften schrittweise einzuführen, während die Kapazität der Evaluatoren wächst, damit garantierte Arbeit Kapital und Talente anzieht.
Die Governance-Gruppe für KI Fathom erklärte am 18. November 2026, der neue Fahrplan von Gouverneur Gavin Newsom für Frontier-KI greife viele ihrer Empfehlungen auf. Zugleich drängte sie Kalifornien, verpflichtende unabhängige Bewertungen katastrophaler Risiken rasch einzuführen.
Fathom entwickelte und befürwortete das Modell unabhängiger Verifizierungsorganisationen (IVO), bei dem externe Prüfer KI-Modelle und -Systeme auf Risiken untersuchen. CEO und Mitgründer Andrew Freedman bezeichnete den Bericht als konkreten Plan, unabhängige Aufsicht in die Praxis umzusetzen, und drängte darauf, „mit aller gebotenen Eile“ voranzugehen. Als noch offene Fragen nannte er Gesetzgebung, Regelsetzung, Zuständigkeiten zwischen Bundesstaat und Bund, Logistik, Zeitplan und Kosten. Außerdem erklärte er, Fathom werde sich bei den Regierungen des Bundesstaats und des Bundes für Transparenz, verpflichtende Risikomessungen durch IVOs und staatlich durchgesetzte Leitplanken einsetzen.
Der Bericht der California Government Operations Agency (GovOps), datiert auf den 16. November 2026 und am 18. November öffentlich veröffentlicht, empfiehlt Gesetzesänderungen, statt selbst Anforderungen aufzuerlegen. Das umfassendere Maßnahmenpaket umfasst Mindeststandards, die Befugnis zur Notabschaltung und mögliche Beschränkungen der rekursiven Selbstverbesserung. Es baut auf dem IVO-Rahmen von SB 813 und dem Register für KI-Prüfer aus AB 1405 auf.
Wo der Fahrplan Fathoms Modell widerspiegelt
Die zentrale Empfehlung zur Aufsicht würde vorschreiben, dass sich alle großen Entwickler von Frontier-KI fortlaufenden Prüfungen durch lizenzierte IVOs unterziehen. Damit würde für diese Entwickler der derzeit freiwillige Ansatz ersetzt. GovOps würde die Prüfer lizenzieren und kontinuierlich beaufsichtigen und wäre befugt, Lizenzen zu entziehen, wenn es ihnen an ausreichender Fachkenntnis, Unabhängigkeit oder Sorgfalt mangelt. IVOs würden dem Staat ungeschwärzte Bewertungen vorlegen. Dieser würde nach Gesprächen mit dem Entwickler entscheiden, ob Abhilfemaßnahmen erforderlich sind.
Sowohl bei der Aufgabenteilung als auch beim rechtlichen Maßstab folgt der Bericht laut Fathom dem Umsetzungsmemorandum vom 30. Oktober 2026 der Organisation. Kalifornien würde gesetzlich festlegen, welche Sicherheitsergebnisse akzeptabel sind; die IVOs würden die technischen Methoden und Tests zur Bewertung der Einhaltung entwickeln und aktualisieren. Der vorgeschlagene Maßstab fragt, ob ein Frontier-Modell „das Risiko katastrophaler Schäden wahrscheinlich nicht über das Niveau hinaus erhöht, das ohne das Modell bestünde“ und ob sein erwarteter Nutzen das verbleibende Risiko überwiegt. Das Konzept soll es ermöglichen, die Testmethoden an den technologischen Wandel anzupassen und zugleich das gesetzlich festgelegte Ergebnis des Bundesstaats zu wahren.
Die rekursive Selbstverbesserung (RSI), also der Punkt, an dem die automatisierte KI-Entwicklung sich selbst trägt, ist ein weiterer Bereich der Übereinstimmung. Der Bericht würde die Überprüfung von Kennzahlen zur automatisierten KI-Forschung und -Entwicklung sowie die Bewertung der wachsenden Risiken zu einer anfänglichen Aufgabe der IVOs machen. Auch Fathoms Memorandum forderte eine Prüfung der internen und externen Nutzung. Vorab registrierte Schwellenwerte für Fähigkeiten sollten dabei eine Benachrichtigung des Bundesstaats auslösen und bis zu einer erneuten Bewertung eine weitere interne Skalierung aussetzen.
Fathoms Umsetzungskonzept
Das Memorandum schlägt vor, jede Verpflichtung schrittweise einzuführen, sobald GovOps feststellt, dass die vorgesehenen Prüfer im jeweiligen Risikobereich über ausreichende Kapazitäten und Fachkenntnisse verfügen. Eine verlässliche Aussicht auf verpflichtende Aufträge werde das benötigte Kapital und die nötigen Fachkräfte anziehen, um die unabhängige Verifizierung auszubauen, statt abzuwarten, bis sich für jedes Risiko ein ausgereifter Markt entwickelt hat.
Zunächst würde der Staat eine IVO aus einem vorab festgelegten Pool zuweisen, während der Entwickler die Kosten direkt nach Zeit- und Materialaufwand zu staatlich festgelegten Vergleichssätzen trüge. In späteren Phasen hätten die Entwickler mehr Auswahl, sobald der Pool größer würde. Der Staat behielte jedoch die Befugnis, Auswahlen abzulehnen, einen regelmäßigen Wechsel vorzuschreiben, die Konzentration zu begrenzen, zusätzliche Prüfer zu benennen und Prüfern, denen es an Sorgfalt oder Unabhängigkeit mangelt, die Zulassung zu entziehen. Die Vergütung hinge nicht vom Ergebnis einer Bewertung ab.
Eingebettete Prüfer erhielten fortlaufenden Zugang zu den erforderlichen Unterlagen, Mitarbeitenden und Systemen. Dazu gehörte auch der Zugang für eine physische Anwesenheit an festgelegten Entscheidungspunkten; gesetzliche Vertraulichkeits- und Schutzvorschriften gegen Vergeltungsmaßnahmen würden dies absichern. Die Durchsetzung bliebe dem Staat vorbehalten: Der Generalstaatsanwalt könnte Unterlassungsverfügungen und zivilrechtliche Sanktionen beantragen, während die IVOs Feststellungen treffen, Abhilfemaßnahmen vorschreiben und auf unmittelbar drohende Risiken hinweisen würden, statt selbst Unterlassungsverfügungen zu beantragen oder ihre Feststellungen unmittelbar vollstreckbar zu machen.
Die praktische Aufgabe liegt nun bei der Legislative und GovOps: Die Empfehlungen müssen in verbindliche Pflichten überführt werden, während zugleich genügend lizenzierte Prüfer aufgebaut und eine glaubwürdige staatliche Durchsetzung sichergestellt werden. Fathoms Konzept macht diese Schritte voneinander abhängig: Jede Verpflichtung setzt verfügbare Fachkenntnisse voraus, und auf die Feststellungen einer IVO müssen staatliche Maßnahmen folgen, bevor sie Zwangswirkung entfalten können.












