Können Sie das, was Ihre KI gerade getan hat, verteidigen?

Regulatorische Fristen für KI rücken immer weiter nach hinten, aber das Bedürfnis nach KI‑Verantwortlichkeit bleibt bestehen 

Seit zwei Jahren ist die regulatorische Diskussion rund um Unternehmens‑KI um Fristen herum strukturiert. Die Hochrisikobestimmungen des EU‑KI‑Gesetzes sollten am 2. August in Kraft treten. Colorados erstes KI‑Gesetz des Landes sollte am 30. Juni wirksam werden. Washington sollte schließlich klären, wer was regulieren darf. 

Sehen wir also Fortschritte gegenüber diesen Fristen? Sozusagen. 

In etwa sechs Wochen im Frühjahr hat die EU zugestimmt, die Hochrisiko‑Verpflichtungen aus Anhang III auf Dezember 2027 zu verschieben und produktintegrierte Hochrisikosysteme auf den 2. August 2028. In Colorado, ein Bundesgerichtsentscheid verhinderte, dass die Staatsanwaltschaft das ursprüngliche Gesetz durchsetzt, und ersetzte es durch ein engeres, auf Mitteilungen basierendes Rahmenwerk, das am 1. Januar 2027 wirksam wird. Am 2. Juni unterzeichnete das Weiße Haus eine KI‑Exekutivverordnung, die bewusst eine pro‑Innovations‑Haltung einnimmt und freiwillige Zusammenarbeit mit Vorreiter‑Entwicklern gegenüber verpflichtenden Lizenz‑ oder Vorab‑Genehmigungsanforderungen für KI‑Modelle bevorzugt. 

Verschiebende Zeitpläne und die Illusion regulatorischer Entlastung

Der wesentliche Punkt für Unternehmen ist, dass verschobene Fristen die KI‑Verantwortlichkeit nicht verschwinden lassen. In Europa wurden selbst dann, wenn einige Hochrisikobestimmungen verschoben wurden, Verpflichtungen zu Transparenz, KI‑Kompetenz, synthetischen Inhalten und Durchsetzung weiter ausgebaut. Colorado erzählt eine ähnliche Geschichte: Gesetzgeber haben einige der aufwendigsten Compliance‑Anforderungen gestrichen, aber die Grundprinzipien bewahrt, etwa die Offenlegung, wenn KI eingesetzt wird, die Erklärung nachteiliger Entscheidungen, die Korrektur fehlerhafter Daten und einen Weg zur menschlichen Überprüfung bereitzustellen.

Das ist ein nützliches Signal dafür, wo sich die Regulierung letztlich angleichen könnte. Gesetzgeber können sich über Folgenabschätzungen, Lizenzmodelle und welche Regierungsebene die Regeln festlegen soll, uneinig sein. Doch die Fähigkeit, zu erklären, was ein KI‑System getan hat, zu dokumentieren, wie ein Ergebnis zustande kam, und den Betroffenen sinnvolle Rechtsmittel zu bieten, erweist sich als weitaus schwieriger, gesetzlich zu beseitigen. Eine Bank muss weiterhin eine von KI beeinflusste Kreditentscheidungs‑Begründung liefern. Ein Krankenhaus muss weiterhin nachvollziehen können, wie eine KI‑unterstützte Empfehlung zustande kam. Ein Unternehmen muss wissen, was passiert, wenn ein automatisiertes System ein Ergebnis erzeugt, das es verteidigen muss.

Umgekehrt macht die zunehmende Verfügbarkeit offener Modelle diese Verantwortung noch wichtiger. Je mehr Kontrolle ein Unternehmen darüber hat, wie und wo ein Modell läuft, desto schwieriger wird es, Verantwortung als das Problem anderer zu behandeln. Wenn eine Organisation nicht rekonstruieren, erklären und verteidigen kann, was ihre KI‑Systeme tun, bieten regulatorische Verzögerungen nur vorübergehende Erleichterung.

Wenn Sie Chief AI Officer, Leiter des Model‑Risikomanagements sind oder andere Verantwortlichkeiten im Zusammenhang mit dem KI‑Einsatz in einer regulierten Branche tragen und bereits andere Innovations‑ und Regulierungsphasen erlebt haben, wissen Sie, dass das erstere das letztere stets übertrifft – und echte Verantwortung davon abhängt, was Ihr Unternehmen bei der Bereitstellung tut, unabhängig von regulatorischen Vorgaben oder unter deren Einbeziehung.

Die KI‑Vertrauens‑Verifikationslücke: Warum Marktrisiken die Compliance überholen

Verantwortung wird durch Entscheidungen definiert, die ohne Aufsicht getroffen werden, und sie verstärkt sich in beide Richtungen. Obwohl die Verantwortung für Unternehmens‑KI häufig fälschlicherweise als ein von Regulierungsbehörden erfundenes konsequenzbasiertes Konzept angesehen wird, entsteht sie in dem Moment, in dem ein Unternehmen einsetzt, unabhängig davon, ob bereits eine durchsetzbare Konsequenz benannt wurde. Und die Einführung beschleunigt sich weitaus schneller als jeder Compliance‑Zeitplan – am schnellsten jetzt, da autonome Agenten in die Produktion übergehen, Handlungen ausführen, Daten berühren und Entscheidungen mit einer Geschwindigkeit treffen, die kein menschlicher Prüfer erreichen kann. Gartner erwartet, dass bis zum Jahresende 40 % der Unternehmensanwendungen aufgaben‑spezifische KI‑Agenten enthalten, gegenüber weniger als 5 % im Jahr 2025.  

Deshalb kommt das aufschlussreichste Signal für Unternehmens‑KI derzeit nicht von Regulierungsbehörden – es stammt aus den Vorstandsetagen und wird auf den Karriereseiten von Unternehmen verschiedener Branchen präsentiert. Die Aufsicht auf Vorstandsebene über KI ist in den Offenlegungen börsennotierter Unternehmen um 84 % gestiegen und Forrester prognostiziert, dass 60 % der Fortune‑100‑Unternehmen in diesem Jahr einen dedizierten Leiter für KI‑Governance einsetzen werden. Morgan Stanley und BlackRock haben begonnen, die Reife der KI‑Governance in die Bewertung von Unternehmen einzubeziehen. Das ist keine Reaktion auf ein Gesetz, sondern auf das Risiko, das Unternehmen, die bereits KI einsetzen, in allen Bereichen von der Unternehmensführung bis zu Stellenanzeigen anerkennen.  

Der AI Index 2026 von Stanford ergab, dass Sicherheit und Risiko – nicht Modellqualität oder Kosten – jetzt die größte Hürde für die Skalierung agentischer KI darstellen, von 62 % der Organisationen genannt und technische Einschränkungen sowie regulatorische Unsicherheit deutlich übertreffend. Diese Distanz – zwischen dem, was ein System tut, und dem, was sein Eigentümer tatsächlich darüber beweisen kann – ist die KI‑Vertrauens‑Verifikationslücke, und sie schließt sich nicht nach dem Zeitplan der Regulierungsbehörden. 

Das Muster, dass Innovation die Regulierung überholt, ist dasselbe Muster, das wir bei der Cloud‑Einführung, dem Aufkommen der Verschlüsselung und der gesamten Cyber‑Sicherheitsbranche in den letzten drei Jahrzehnten beobachtet haben – die Medien berichten darüber, Regulierungsbehörden erkennen es an, und jede Branche ringt mit den praktischen Auswirkungen und einzigartigen Szenarien, während sie von Zurückhaltung über Experimente bis hin zu unterschiedlichen Graden der Unternehmens‑Adoption übergeht. Beim Cloud‑Computing startete AWS 2006, und Unternehmen migrierten fast ein Jahrzehnt lang sensible Daten und Kernsysteme, bevor das Compliance‑Gerüst nachholte. FedRAMP kam erst 2011, die Branche musste das „Shared‑Responsibility‑Modell“ erfinden, um Verantwortlichkeit zuzuweisen, die Verträge nicht hatten, und GDPR brachte erst 2018 wirkliche Durchsetzung im Umgang mit Daten. Die Cyber‑Sicherheit folgte demselben Bogen: PCI DSS wurde erst 2004 formalisiert, lange nachdem Kartendaten bereits online waren; das Gesetz zur Meldung von Datenschutzverletzungen begann 2003 mit einem einzelnen kalifornischen Gesetz und ist heute ein Flickenteppich von bundesstaatlichen Regelungen; und die SEC verlangte erst 2023, dass Unternehmen wesentliche Cyber‑Vorfälle offenlegen. In beiden Fällen bestand die Verantwortlichkeit lange vor der Regel, und es waren Markt, Kunden, Prüfer, Versicherer und gelegentliche sehr öffentliche Verstöße, die sie bei Unternehmen durchsetzten, die das Gegenteil vorgaben.

Von Pilotfähigkeit zur Ergebnisverteidigung in der Produktion

Geschwindigkeit und Leistungsfähigkeit brachten KI in Unternehmens‑Pilotprojekte, und wie bei jeder anderen bedeutenden Technologieinnovation geschah dies aus Notwendigkeit. Doch das reicht nicht aus, um KI in hoch regulierten Umgebungen mit komplexen Datensätzen und Arbeitsabläufen in die Produktion zu bringen – Banken, Versicherer, kritische Infrastrukturen, Verteidigungsprogramme – Umgebungen, in denen letztlich jemand eine KI‑gesteuerte Entscheidung vor einem Regulierer, einem Vorstand oder dem Anwalt eines Klägers präsentieren und verteidigen muss. In diesen Räumen ist „das Modell ist sehr leistungsfähig“ keine verantwortungsvolle Antwort.  

Diese Unterscheidung ist zur eigentlichen Trennlinie geworden, und immer mehr Unternehmen erkennen, dass es zunächst ein Architektur‑Problem und erst danach ein Politik‑Problem ist. Man kann eine Black‑Box nachträglich nicht zur Verantwortung auditieren. Erklärbarkeit, Rückverfolgbarkeit und eine klare Besitzkette müssen entweder im System verankert sein oder sie existieren nicht, und die Organisationen, die dies auf die harte Tour lernen, sind jene, die zuerst implementiert und erst danach nach Verantwortung gefragt haben. Gartner prognostiziert, dass bis 2027 40 % der Unternehmen autonome Agenten herabstufen oder stilllegen müssen, weil sie Governance‑Lücken erst nach einem Produktionsfehler entdeckt haben. 

Der Klue‑Verstoß vom frühen Sommer ist ein prägnantes Beispiel, das mit seiner Entwicklung immer lehrreicher wurde. Klue ist eine KI‑gestützte Plattform für Wettbewerbs‑Intelligence, und die Angreifer überwanden nicht hochentwickelte Verteidigungen, sondern nutzten ein einziges Integrations‑Credential, das 2022 für einen Pilot ausgestellt wurde, später aufgegeben und nie widerrufen wurde, um sich in die CRM‑Verbindungen der Kunden einzuloggen und Datensätze über automatisierte Abfragen abzurufen. Was als einige wenige Offenlegungen begann, zog mehrere Unternehmen in den Fokus. Selbst nachdem der ursprüngliche Angreifer kooperierte, tauchte eine zweite Gruppe auf, die dieselben gestohlenen Daten beanspruchte und ihre eigene Erpressungsaktion startete.  

Die Schwachstelle war kein Modellfehler oder ein cleverer Zero‑Day‑Exploit; es war ein vertrauenswürdiger, automatisierter Zugriffsweg, für den niemand aktiv verantwortlich war, und der lange nach dem vermeintlich „gelösten“ Vorfall weiterhin Konsequenzen erzeugte. Wenn Unternehmen KI und ihre Agenten in immer mehr ihrer Systeme einbinden, wird jede dieser Verbindungen zur selben Frage, die gestellt werden muss: Wer besitzt sie, wer überwacht sie und wer antwortet dafür, wenn sie schneller agiert, als jemand sie kontrollieren kann? 

Regulierungsbehörden verschieben Termine genau wegen dieses zugrundeliegenden Problems. Diese Systeme lesbar, testbar und verantwortungsfähig zu machen, ist wirklich schwierig, und die Standards sowie Werkzeuge sind noch nicht ausgereift. Das ist jedoch kein Grund zu warten, sondern das deutlichste Signal dafür, was sofort Priorität haben muss. Unternehmen, die die zusätzliche Zeit als Erlaubnis zum Aufschieben ansehen, werden 2027 das tun, was ihre Konkurrenten bereits jetzt aus eigenem Antrieb erledigen, jedoch unter Druck. 

Die Definition von Erfolg bei der Einführung von KI in Unternehmen muss sich von der Pilotfähigkeit hin zur Verteidigung von Ergebnissen verschieben. In der Praxis bedeutet das, drei Prüfungen für jeden Entscheidungsweg, an dem KI beteiligt ist, zu bestehen: ein dauerhaftes Protokoll dessen, was das System getan hat, eine Erklärung, die auch ein Nicht‑Ingenieur nachvollziehen kann, und ein Weg für die betroffene Person, das Ergebnis anzufechten. Das ist kein von einem Anbieter erfundenes Rahmenwerk, sondern nahezu Zeile für Zeile das, was die Deregulierung in Colorado überstanden hat. 

Die Frage, ob KI im abstrakten Sinne vertrauenswürdig ist, war 2025 noch eine philosophische Debatte. Jetzt und in Zukunft müssen Unternehmen in der Lage sein, die Frage zu beantworten, ob sie die von KI gelieferten Ergebnisse verteidigen können, und dies jedes Mal jedem, der fragt, nachweisen. 

Die Fristen können verschoben und weitere Verlängerungen möglich sein, aber im Gegensatz zu Regulierungsbehörden, dem Markt und den Kunden, denen Ihr Unternehmen letztlich dient, gewähren sie keine Verlängerungen und akzeptieren keine Ausreden.