Cybersicherheit
KI-Allianz entwirft vertrauliche Regeln für die Meldung von Vorfällen mit öffentlichen Fristen
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Die Linux Foundation hat am 4. August 2026 einen Request for Comments für den Shared AI Findings Exchange (SAFE) veröffentlicht, ein Entwurf für ein Rahmenwerk, das die Mitglieder der Open Secure AI Alliance verpflichten würde, Vorfälle im Zusammenhang mit der KI-Sicherheit innerhalb fester Fristen zu melden – zunächst vertraulich, dann innerhalb von 30 Tagen öffentlich. Beiträge von Cisco, CrowdStrike (CRWD ), Hugging Face, NVIDIA (NVDA ), Red Hat und anderen Mitgliedern der Allianz haben den ursprünglichen Vorschlag ausgearbeitet, der zeitgleich mit der Eröffnung der Black Hat-Konferenz in Las Vegas veröffentlicht wurde.
Der Entwurf des SAFE-Vorschlags beschreibt ein vertrauliches System für das Lernen aus Vorfällen: Mitglieder melden Vorfälle im Zusammenhang mit der KI-Sicherheit und beinahe-Vorfälle, betroffene Organisationen werden benachrichtigt, wiederkehrende Kontrollfehler werden identifiziert und die Ergebnisse werden als evidenzbasierte Betriebsempfehlungen veröffentlicht. Die Allianz, die am 27. Juli 2026 ins Leben gerufen wurde, zählt nun über 120 Mitgliedsorganisationen, so NVIDIA in seiner eigenen Ankündigung, wobei Amazon (AMZN ) und Visa zu den neuesten Mitgliedern gehören.
Was der Entwurf den Mitgliedern tatsächlich verpflichtet
Der SAFE-Entwurf geht an zwei spezifischen Stellen weiter: ein definierter Satz meldepflichtiger Ereignisse und ein Benachrichtigungsplan mit angehängten Terminen.
Unter dem Meldeabkommen des Entwurfs müsste ein Mitglied einen Vorfall melden, wenn ein von ihm betriebenes KI-System auf ein Dritt-system ohne Autorisierung zugreift oder stört, aus einem Sandbox-, Netzwerk-, Identitäts-, Richtlinien- oder Werkzeug-Übergang ausbricht, der einen Dritten betrifft, oder wenn es vertrauliche Informationen eines Dritten zugreift oder wenn es nach dem Verdacht des Bediensteten, dass die Aktivität aus dem Rahmen fällt, weiterhin ein Produktionsziel angreift. Der Entwurf fügt hinzu, dass die Absicht nicht darüber entscheidet, ob ein Ereignis meldepflichtig ist – ein Bediensteter, der glaubt, dass die Umgebung simuliert ist, hat dennoch die Pflicht, den Vorfall zu melden.
Die Benachrichtigungsleiter ist der Ort, an dem die Fristen leben: Benachrichtigung der direkt betroffenen Organisation so schnell wie möglich, Kunden mit glaubwürdiger Exposition innerhalb von 72 Stunden, eine vertrauliche erste SAFE-Meldung innerhalb von vier Geschäftstagen, eine umfassendere Kundenberatung innerhalb von 14 Tagen, wenn dies gerechtfertigt ist, eine vorläufige tatsächliche Meldung innerhalb von 30 Tagen, eine Veröffentlichung des Remediale-Status innerhalb von 90 Tagen und maschinenlesbare Updates wöchentlich, solange wesentliche Risiken ungelöst bleiben. Mitglieder würden auch eine vorläufige Analyse der Kontrollfehler innerhalb von 30 Tagen schulden und müssten nahe Vorbeigehen melden, nicht nur bestätigten Schaden.
Jeder Vorfall würde über acht Schichten des Betriebsstacks überprüft, von dem Modell und seinen Anweisungen über Sicherheitsvorkehrungen, Werkzeuge, Umgebung, Überwachung, menschliche Betriebsabläufe und Lieferkette. Eine Bestimmung, die erwähnenswert ist: die betroffene Organisation kann tatsächliche Fehler korrigieren, aber der Entwurf besagt, dass sie keine Vetomacht über die Lernergebnisse oder Empfehlungen haben sollte, die aus einer Überprüfung hervorgehen.
Freiwillige Mitgliedschaft, bindende Bedingungen, keine Durchsetzungsbehörde
SAFE ist als freiwilliges Abkommen strukturiert – die Meldepflichten würden Mitglieder als Bedingung der Mitgliedschaft binden, nicht als Gesetz. Der Entwurf besagt, dass Lernen von Durchsetzung getrennt ist, dass Regulierungsbehörden und betroffene Parteien ihre rechtlichen Rechte behalten und dass die Fristen nicht die bestehenden Meldepflichten unter koordinierter Schwachstellen-Offenlegungspraxis, Verträgen oder rechtlichen Pflichten gegenüber Regulierungsbehörden und Strafverfolgungsbehörden ersetzen. Vorsätzliche oder kriminelle Handlungen würden außerhalb des Schutzes des vertraulichen Kanals liegen.
Der Entwurf schlägt auch vor, dass SAFE unabhängig operieren sollte, damit kein einzelner Anbieter oder Industriezweig seine Ergebnisse kontrolliert, wobei Regierungs- und Normenorganisationen als nicht kontrollierende Beobachter teilnehmen. Die eigene Darstellung des Vorschlags ist in diesem Punkt unmissverständlich: “Vertrauen ist keine Sicherheitskontrolle. Geteilte Beweise und überprüfbare Verbesserungen sind die Art und Weise, wie Vertrauen verdient wird.” Ob diese Unabhängigkeit besteht, wenn reale Vorfälle reale Mitglieder nennen, ist die Frage, die die Kommentierungsphase beantworten soll – aber der Entwurf legt zumindest die Verpflichtung schriftlich fest, bevor der erste Test eintritt.
Der Vorfall, der den Fall machte
Die Allianz wurde vor acht Tagen, am 27. Juli 2026, als eine Koalition von etwa drei Dutzend Unternehmen und Open-Source-Stiftungen ins Leben gerufen, die sich explizit auf die Sicherheitszuwiderhandlung von Hugging Face vom 16. Juli 2026 berief. Hugging Face berichtete, dass ein autonomes Agentenframework einen Angriff auf seine Produktionsinfrastruktur durchgeführt hatte und dass, als das Unternehmen versuchte, mehr als 17.000 aufgezeichnete Angreiferaktionen zu analysieren, kommerzielle API-Modelle die forensische Arbeit blockierten – ihre Schutzmechanismen konnten nicht zwischen einem Vorfallantwortenden und einem Angreifer unterscheiden. Das Team vervollständigte die Analyse auf dem offenen GLM-5.2-Modell, das auf seiner eigenen Infrastruktur lief. Unite.AI berichtete über die Gründung der Allianz und die forensische Darstellung von Hugging Face, als jede davon veröffentlicht wurde.
Der SAFE-Entwurf liest sich als die Antwort der Allianz auf diese Episode: Wenn ein Mitglied einen beinahe-Vorfall unter diesen Regeln geteilt hätte, wäre die Benachrichtigungsfrist und die Analyse der Kontrollfehler bereits im Gange.
Was als Nächstes passiert
Der RFC ist für die Gemeinschaftsüberprüfung, Diskussion und den Beitrag über das RFC-Repository der Allianz geöffnet, das unter einer Creative-Commons-Attribution-4.0-Lizenz veröffentlicht wird, wobei die Linux Foundation Entwickler, Unternehmen, Forscher und Normenorganisationen einlädt, das Rahmenwerk zu gestalten, bevor es hart wird. Der Entwurf ist ausdrücklich ein Startdokument – die Linux Foundation beschreibt es als offene Diskussion und nicht als fertige Spezifikation, so dass die oben genannten Meldepflichten und Fristen als vorgeschlagene Bedingungen bleiben, bis die Arbeitsgruppe sie annimmt.
Architekten und Standards-Organisationen können das Rahmenwerk vor seinem Abschluss mitgestalten. Der Entwurf ist ausdrücklich ein Startdokument – die Linux Foundation beschreibt es als offene Diskussion und nicht als fertige Spezifikation, so dass die oben genannten Meldepflichten und Fristen als vorgeschlagene Bedingungen bleiben, bis die Arbeitsgruppe sie annimmt.
