Vordenker
Schutzvorkehrungen für Unternehmens-KI könnten wichtiger sein als KI-Spitzenmodelle
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Vergessen wir die KI-Spitzenmodelle. Kunden drängen Unternehmen dazu, mehr Schutzvorkehrungen für bereits eingesetzte KI zu treffen. Die Erfahrungen mit PCI DSS bieten dafür ein hilfreiches Modell.
Die Schonzeit für KI bei der Regulierung ist vorbei. Jüngste Offenlegungen haben Diskussionen darüber ausgelöst, die Entwicklung von Spitzenmodellen zu verlangsamen und Kontrollen vorzuschreiben. Einigkeit besteht zumindest in einem Punkt: Die Kontrollen sollten außerhalb der Modelle angesiedelt sein und unabhängig überprüft werden.
Wie es weitergeht, wird noch diskutiert, doch die Regulierungsbehörden handeln bereits. Das KI-Gesetz der Europäischen Union führt schrittweise Sicherheitsverpflichtungen ein, darunter auch eine Haftung der Käufer. In den Vereinigten Staaten wird das NIST-Risikomanagement-Framework für KI als Maßstab für angemessene Sorgfaltspflicht übernommen. Weltweit dient die OWASP Top 10 für LLM-Anwendungen zunehmend als gängige Referenz bei Sicherheitsprüfungen, und die Zertifizierung nach ISO/IEC 42001 findet Eingang in Beschaffungsunterlagen.
Damit stehen nicht nur die Entwickler von Modellen in der Verantwortung. Sicherheitsverpflichtungen und -risiken treffen auch Unternehmen, die bereits veröffentlichte Modelle einsetzen – insbesondere bei Anwendungsfällen mit hohem Risiko. Falsche Antworten auf einen Sicherheitsfragebogen eines Kunden oder in einer Antwort auf eine Angebotsanfrage können einen B2B-Abschluss gefährden.
PCI DSS weist den Weg
Zum Glück haben wir das schon einmal erlebt. Vor zwanzig Jahren beruhte die Sicherheit von Webanwendungen größtenteils auf regelmäßigen Codeprüfungen, statischen Analysen und der Sorgfalt der Entwickler. Dann schrieb PCI-DSS-Anforderung 6.6, die 2006 veröffentlicht und ab 2008 durchgesetzt wurde, vor, dass Organisationen, die Karteninhaberdaten verarbeiten, entweder den gesamten Anwendungscode auf Schwachstellen überprüfen oder automatisierte technische Kontrollen einrichten mussten. Später entfiel die Möglichkeit der Codeprüfung, und technische Kontrollen wurden verpflichtend.
PCI DSS begann jedoch nicht als Gesetz. Am Anfang stand ein vertraglicher Standard, der den Markt veränderte – vermutlich schneller, als es ein Gesetz getan hätte, denn Verträge kommen schneller zustande als staatliche Gesetze.
Ähnlich geraten Organisationen heute unter Druck, Schutzvorkehrungen für eingesetzte KI zu schaffen – nicht durch Regulierungsbehörden, sondern durch Kunden und Partner, etwa über Sicherheitsfragebögen, Klauseln in Angebotsanfragen und Anforderungen in Versicherungspolicen.
Lösen Sie das betriebliche Problem – dann folgt die Compliance
Dieser Druck lässt sich nur schwer bewältigen, denn bei der KI-Governance geht es nicht allein um Richtlinien. Entscheidend sind kontinuierliche technische Nachweise.
Viele Unternehmen, mit denen ich spreche, setzen mindestens ein halbes Dutzend Modelle produktiv ein. Häufig verknüpfen oder orchestrieren sie diese so, dass die Ausgabe eines Modells als Eingabe für ein anderes dient. Stellen Sie sich vor, Sie müssten unter diesen Bedingungen die systemweite Durchsetzung auch nur einer einzigen Richtlinie nachweisen – etwa, dass die Modellausgabe keine personenbezogenen Informationen (PII) enthält. Mehrere individuell konfigurierte Modelle manuell zu prüfen, würde Entwicklerressourcen binden. Zudem haben die meisten Organisationen Schwierigkeiten, nicht genehmigte und risikoreiche KI-Nutzung in den Griff zu bekommen, etwa wenn Mitarbeitende vertrauliche Daten in verbraucherorientierte KI-Tools einfügen oder SaaS-Anbieter unbemerkt neue KI-Funktionen aktivieren. Die Haftung liegt dennoch vollständig beim Unternehmen.
In solch anspruchsvollen Situationen lassen sich die Anforderungen auf eine einfache Aufgabe herunterbrechen: Sie müssen nachweisen, dass Sie Eingaben und Ausgaben von Modellen fortlaufend beschränken und diese Vorgänge zur Überprüfung protokollieren können. Wenn Anwendungen Modelle aufrufen, Agenten Werkzeuge nutzen und Modelle Aktionen ausführen oder Arbeitsabläufe anstoßen, muss die jeweilige Aktion kontrolliert werden – der Werkzeugaufruf, die API-Anfrage oder der Auslöser eines Arbeitsablaufs.
Sicherheit in den Inferenzpfad verlagern
Diese Aktion bildet den Durchsetzungspunkt, den Experten für Anwendungssicherheit seit 20 Jahren für den Anwendungsdatenverkehr schaffen. Insbesondere wenn Inferenzen über eine gemeinsam genutzte Infrastruktur geleitet werden, wird dieser Inferenzpfad zum idealen Kontrollpunkt für alle Modelle und sogar für nicht genehmigte KI-Nutzung. Der Inferenzverkehr von KI muss wie jede andere wichtige Interaktion mit einer Anwendung weitergeleitet, geprüft, authentifiziert und gesteuert werden – abhängig davon, woher der Datenverkehr kommt und was damit erreicht werden soll. Anders als manuelle Prüfungen lässt sich die Steuerung des Inferenzverkehrs skalieren.
So gelingt der Einstieg
Angesichts der absehbaren regulatorischen Entwicklung sollten Organisationen jetzt drei Dinge angehen:
- Erfassen Sie, wo in Ihrem Verantwortungsbereich Haftungsrisiken bestehen – von SaaS-APIs und gehosteten Endpunkten bis hin zu Schatten-KI.
- Entkoppeln Sie Sicherheitsrichtlinien und deren Durchsetzung von den Modellen und verlagern Sie sie in den Inferenzpfad.
- Stellen Sie sicher, dass Prüfprotokolle außerhalb des Einflussbereichs von Modellen und Agenten erstellt werden. Es ist nachgewiesen, dass diese versuchen, Aufzeichnungen ihrer eigenen Aktionen zu verändern.
Was als angemessene Überwachung und Durchsetzung gilt, wird noch festgelegt. Ihre Betriebs- und Sicherheitsteams wissen jedoch, was sich tatsächlich durchsetzen lässt, welche Kosten eine Kontrolle in Bezug auf Latenz und Komplexität verursacht und wo eine gut gemeinte Regel zu unerwünschten Ergebnissen führen könnte. Beziehen Sie diese Teams jetzt ein. Die Sicherheitsrisiken und Verpflichtungen im Zusammenhang mit dem Einsatz von KI sind real, und Ihren Kunden und Führungskräften sind die Risiken, denen sie heute ausgesetzt sind, zweifellos wichtiger als die Bedrohungen durch Spitzenmodelle von morgen.
