Vordenker

Ja, das EU-KI-Gesetz erfasst agentische KI – so funktioniert es

Dr. Ley Muller Gyda Grodås Christiansen
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Wichtige PunkteAgentische KI fällt bereits unter den EU AI Act, da sie die Definition eines KI-Systems…
Mehr anzeigen
  • Agentische KI fällt bereits unter den EU AI Act, da sie die Definition eines KI-Systems erfüllt.
  • Der AI Act reguliert, was Technologie tut und welche Risiken sie schafft, anstatt bestimmte Technologien zu benennen.
  • Tech-Giganten, die gegen den AI Act lobbyieren, drängen auf Selbstregulierung, die einer regulatorischen Vereinnahmung gleichkommt.

Derzeit ist die Erzählung weit verbreitet, agentische KI und KI-Agenten fielen durch ein regulatorisches Raster – die EU-KI-Verordnung sei nicht dafür geeignet, sie zu regulieren. Wir haben dies in renommierten norwegischen Medien gelesen (Morgenbladet und Dagensnæringsliv), und führende Wissenschaftler haben es wiederholt (University of Oslo). Wir sehen zwei grundlegende Fehler in diesen Behauptungen … und glauben, dass sie auf Ängsten beruhen, nicht auf Fakten.

Erstens unterliegt agentische KI der EU-KI-Verordnung.

Zweitens untergraben solche Behauptungen bestehende Vorschriften. Sie bestärken die Vorstellung, dass KI-Unternehmen besser in der Lage seien, die mit ihren eigenen Systemen verbundenen Risiken zu bewältigen – ein gängiges Argument, das zu regulatorischer Vereinnahmung führt.

Wir befassen uns intensiv mit der KI-Verordnung, unter anderem als ernannte Mitglieder des nationalen KI-Ausschusses von Standards Norway. Außerdem gehören wir europäischen Ausschüssen an, die harmonisierte Normen für Anbieter von Hochrisiko-KI-Systemen entwickeln. Diese Normen helfen Unternehmen, die rechtlichen Anforderungen der KI-Verordnung zu erfüllen.

Agentische KI wird durch die EU-KI-Verordnung auf verschiedene Weise reguliert

Die Europäische Kommission hat mehrere FAQs in einfacher, leicht verständlicher Sprache zu „Agenten“ und „agentischer KI“ veröffentlicht und klargestellt: Ja, sie fallen in den Anwendungsbereich der Verordnung, ganz einfach, weil sie unter die weiter gefasste Definition eines KI-Systems fallen (Wie werden KI-Agenten im KI-Gesetz behandelt? | AI Act Service Desk). Hier einige weitere Beispiele:

  • Agentische KI basiert häufig auf großen Sprachmodellen, die als KI-Modelle mit allgemeinem Verwendungszweck reguliert werden.
  • Wenn ein agentisches KI-System mit Menschen interagiert, greifen auch die Transparenzanforderungen der Verordnung.
  • Wird ein KI-Modell als mit einem systemischen Risiko behaftet eingestuft, gelten für den Anbieter zusätzliche Anforderungen. Dazu gehören unter anderem Bewertungen der Fähigkeiten des Modells – einschließlich seiner autonomen und agentischen Funktionen.

Die KI-Verordnung erwähnt das Wort „Agent“ nicht. Das liegt daran, dass sie keine bestimmten Technologietypen reguliert. Stattdessen regelt sie, wofür eine Technologie entwickelt wurde und welche Risiken mit diesen Funktionen verbunden sind.

Die KI-Verordnung soll unsere Grundrechte schützen

Ein großer Teil der Kritik an der KI-Verordnung vonseiten derer, die mehr Regulierung fordern, geht auf die strukturelle Unmöglichkeit zurück, Risiken vollständig auszuschließen. Es wäre jedoch unmöglich gewesen, dass ein internationaler Rechtsrahmen jedes künftige Risiko vorhersehen kann.

Stattdessen konzentriert sich die KI-Verordnung auf Risiken durch KI-Systeme, die sich auf Gesundheit, Sicherheit und Grundrechte auswirken könnten – ein Punkt, der bereits im allerersten Satz des ersten Artikels genannt wird.

Was wir in diesem ersten Satz nicht hervorgehoben haben, ist ebenfalls entscheidend: Die KI-Verordnung ist marktorientiert. Sie soll die Nutzung von KI fördern. Sie soll Innovation unterstützen. Mit anderen Worten: Die KI-Verordnung ist KI-freundlich. In diesem Rahmen werden bestimmte Anwendungen und Bereiche reguliert.

Bestimmte Bereiche sind bereits als Hochrisikobereiche eingestuft

Beispiele sind KI-Systeme, die eingesetzt werden in:

  • der Personalgewinnung
  • der Zuteilung grundlegender Dienstleistungen
  • Medizinprodukten
  • Systemen, die in kritische Infrastrukturen integriert sind, in denen Sicherheit oberste Priorität hat.

Anbieter von KI-Systemen – ob agentisch oder nicht –, die sich auf unsere Rechte auswirken könnten, müssen umfassende Risikomanagementsysteme einrichten. Dazu gehört auch eine Bewertung, wie Nutzer das KI-System missbräuchlich verwenden könnten.

Regulatorische Vereinnahmung: Wenn Anbieter Selbstregulierung vorschlagen

Wenn wir Anthropic, OpenAI und Meta sowie bestimmten Stimmen in der norwegischen Debatte Gehör schenken, könnte man den Eindruck gewinnen, KI und agentische KI seien zu komplex für die KI-Verordnung. Zu fortschrittlich für die EU. Zu gefährlich, um von jemand anderem als den Unternehmen selbst reguliert zu werden.

Wir sollten vorsichtig sein, wenn die mächtigsten Technologieunternehmen der Welt – die sich intensiv für eine weniger strenge Umsetzung der KI-Verordnung eingesetzt haben – nun behaupten, die Verordnung sei ungeeignet, ihre leistungsfähigsten Systeme zu regulieren. Ihre vorgeschlagene Lösung lautet, sich selbst zu „regulieren“.

Dies ist ein klassischer Mechanismus der regulatorischen Vereinnahmung: Dabei werden Gesetze und Vorschriften nach und nach von genau denjenigen geprägt, die sie eigentlich regulieren sollen – zu deren eigenem Vorteil.

Die Vereinigten Staaten liefern ein anschauliches Beispiel dafür (Einläuten des Zeitalters der Superintelligenz – Das Weiße Haus). Das Abkommen des Weißen Hauses zur Superintelligenz ist eine „freiwillige Vereinbarung“ mit führenden Vertretern von X, Meta, Anthropic, OpenAI und Google, in der diese Unternehmen versprechen, sich selbst zu regulieren. In dem Dokument heißt es, dass Gesetze irgendwann in einer hypothetischen Zukunft angemessen sein könnten: „Mit der Zeit könnte es sinnvoll sein, diese Schritte in Gesetzen oder Vorschriften festzuschreiben.“ Mit der Zeit. Vielleicht. Es könnte sinnvoll sein, Vorschriften in Betracht zu ziehen.

Vorerst wird jedoch von den Amerikanern erwartet, dass sie darauf vertrauen, dass diese großen Technologieunternehmen sich selbst regulieren.

Anders als in den Vereinigten Staaten gibt es in Europa ein verbindliches Gesetz: die KI-Verordnung.

Und doch besteht weiterhin das Risiko einer regulatorischen Vereinnahmung, auch dadurch, dass das Vertrauen in dieses Gesetz schwindet. Denn wenn Tech-Giganten die Menschen davon überzeugen können, dass die KI-Verordnung nicht gut genug ist, werden wir ihre Durchsetzung nicht mehr unterstützen. Behauptungen, agentische KI sei schlicht zu fortgeschritten, zu intelligent oder zu gefährlich, als dass die KI-Verordnung mit ihr umgehen könne, schwächen unsere Unterstützung für Regulierung.

Hat die regulatorische Vereinnahmung erst einmal eingesetzt, lässt sie sich nur schwer rückgängig machen.

Wir teilen die Sorge, dass manche KI-Systeme Folgen haben könnten, die sich nur schwer vorhersehen lassen. Gerade deshalb brauchen wir Verfahren zum Risikomanagement – wie sie auch die KI-Verordnung vorschreibt. (Dr. Muller arbeitet in dem Ausschuss mit, der die Entwicklung der harmonisierten Norm für das Risikomanagement 18228 fast abgeschlossen hat.)

Die EU-KI-Verordnung ist nicht perfekt und muss wahrscheinlich weiterentwickelt werden. Agentische KI jedoch als einen Bereich darzustellen, der außerhalb des Geltungsbereichs der EU-KI-Verordnung liegt, schafft nur Unsicherheit, keine Sicherheit.

Dr. Ley Muller ist auf ethische KI-Governance spezialisiert. Sie gehört KI-Standardisierungsgremien an und führt außerdem das KI-Governance-Beratungsunternehmen Values-driven AI. Die Hälfte ihrer Zeit hilft sie europäischen KI-Anbietern dabei, die Anforderungen des AI Act zu erfüllen; in der anderen Hälfte unterstützt sie große öffentliche Organisationen dabei, die Nutzung von Schatten-KI zu steuern und eine breitere Abstimmung der Interessengruppen zu KI-Strategien zu erreichen.

Gyda Grodås Christiansen ist als Senior-Beraterin in den Bereichen digitale Gesundheit, Gesundheitsinformatik und Governance im Bereich künstliche Intelligenz tätig. Sie wirkt über den Gemeinsamen Technischen Ausschuss 21 von CEN/CENELEC und Standard Norway an der internationalen Normung mit. Ihre Arbeit konzentriert sich auf Interoperabilität, Gesundheitsdaten und die verantwortungsvolle Einführung von KI im Gesundheitswesen.