Die Mängel des Entwurfs des EU-KI-Gesetzes

Eine neue juristische Kritik am Entwurf des “KI-Gesetzes” der Europäischen Union kritisiert die vorgeschlagenen Regulierungen , die im April veröffentlicht wurden, und kommt zu dem Schluss, dass ein Großteil des Dokuments “zusammengenäht” ist aus kaum anwendbaren Verbraucherschutzregelungen der 1980er Jahre; dass es tatsächlich eine deregulierte KI-Umgebung in Europa fördert, anstatt den Sektor unter eine kohärente Regulierung zu stellen; und – unter einer Reihe anderer Kritikpunkte – dass die Vorschläge einen zukünftigen regulatorischen KI-Rahmen umreißen, der “wenig Sinn und Auswirkungen” hat.

Der Titel des Papiers lautet Demystifizierung des Entwurfs des EU-KI-Gesetzes und ist eine Zusammenarbeit zwischen Forschern der UCL London und der Radboud-Universität in Nijmegen.

Das Papier ist Teil einer wachsenden Kritik am vorgeschlagenen Umsetzungsplan (und nicht an der viel gelobten Absicht) eines regulatorischen KI-Rahmens, einschließlich der Behauptung im April, dass die vorgeschlagenen Richtlinien “lahm, kurzsichtig und bewusst vage” seien, und dass das Dokument der Europäischen Kommission ein Befürworter von “Fake-Ethik” sei.

Manipulative KI-Systeme

Das neue Papier behauptet, dass die vorgeschlagenen Einschränkungen des KI-Gesetzes für “manipulative Systeme” durch eine vage und sogar widersprüchliche Definition von “Schaden” behindert sind, und kommentiert, dass “[e]in Zyniker denken könnte, die Kommission sei mehr an den rhetorischen Wert der Verbote interessiert als an ihre praktische Wirkung”.

Die Entwurfsregulierungen umreißen zwei verbotene Praktiken:

(a)  die Bereitstellung auf dem Markt, die Inbetriebnahme oder die Verwendung eines KI-Systems, das subliminale Techniken jenseits des Bewusstseins einer Person einsetzt, um das Verhalten einer Person in einer Weise zu verändern, die physischen oder psychischen Schaden verursacht oder wahrscheinlich verursachen wird;

(b)  die Bereitstellung auf dem Markt, die Inbetriebnahme oder die Verwendung eines KI-Systems, das die Verwundbarkeiten einer bestimmten Gruppe von Personen ausnutzt, um das Verhalten einer Person, die zu dieser Gruppe gehört, in einer Weise zu verändern, die physischen oder psychischen Schaden verursacht oder wahrscheinlich verursachen wird;

Die Forscher argumentieren, dass diese Einschränkungen nicht ansprechen, ob die Dienstleistungen oder Software eines KI-Anbieters erfolgreich sind, seine eigenen Ziele zu verfolgen, sondern nur, ob der Endbenutzer “Schaden” erleidet. Sie fügen hinzu, dass die Definition von Schaden im Entwurf auf individuelle Benutzer beschränkt ist, anstatt auf den kollektiven oder gesellschaftlichen Schaden, der aus einer Reihe von KI-basierten Kontroversen in den letzten Jahren abgeleitet werden kann, wie dem Cambridge-Analytica-Skandal.

Das Papier bemerkt, dass “im realen Leben Schaden anhäufen kann, ohne dass ein einzelnes Ereignis eine Schwelle der Ernsthaftigkeit überschreitet, was es schwierig macht, dies zu beweisen”.

Schädliche KI-Systeme erlaubt, aber nicht für den EU-Verbrauch

Das KI-Gesetz schlägt vor, ein Verbot von “Echtzeit”-Biometrie-Systemen in öffentlichen Räumen durch die Strafverfolgung zu implementieren. Obwohl einige öffentliche Skepsis gegenüber den Ausnahmen der Vorschläge für Anti-Terrorismus, Kinderhandel und die Verfolgung eines europäischen Haftbefehls geäußert wurde, bemerken die Forscher auch, dass nichts die Lieferanten daran hindern würde, verstoßende Biometrie-Systeme an unterdrückerische Regime zu verkaufen.

Das Papier bemerkt, dass dies bereits historische Praxis ist, wie in einem Bericht von Amnesty International aus dem Jahr 2020 aufgedeckt wurde.

Es wird weiterhin festgestellt, dass die Spezifikation des KI-Gesetzes für “Echtzeit”-Biometrie-Systeme willkürlich ist und Offline-Analyse-Systeme, wie die spätere Verarbeitung von Videoaufnahmen von Protestveranstaltungen, ausschließt.

Zusätzlich wird bemerkt, dass die Vorschläge keine Mechanismen bieten, um Biometrie-Systeme zu beschränken, die nicht mit der Strafverfolgung zusammenhängen, die stattdessen faul auf die DSGVO verweisen; und dass die DSGVO selbst “eine Anforderung von hochwertiger, individueller Zustimmung für jede gescannte Person erfordert, die effektiv unmöglich zu erfüllen ist”.

Die Formulierung dieses Abschnitts des KI-Gesetzes wird auch von den Forschern kritisiert. Der Entwurf legt fest, dass eine vorherige Genehmigung für die Bereitstellung von Biometrie-Systemen für die “individuelle Verwendung” durch die zuständigen Behörden erforderlich ist – aber es wird nicht geklärt, was “individuelle Verwendung” in diesem Zusammenhang bedeutet. Das Papier bemerkt, dass umstrittene Haftbefehle thematisch sein können und sich auf breite Organisationen, Zwecke und Orte beziehen.

Darüber hinaus legen die Entwurfsregulierungen nicht fest, dass ein Transparenzmechanismus für die Anzahl und Art der erteilten Genehmigungen erforderlich ist, was die öffentliche Überwachung problematisch macht.

Outsourcing der Regulierung an “Harmonisierte Standards”

Die Forschung besagt, dass die wichtigsten Entitäten im KI-Gesetz tatsächlich nicht einmal im Entwurf erwähnt werden: CEN (Europäisches Komitee für Normung) und CENELEC (Europäisches Komitee für Elektrotechnische Normung) – zwei der drei europäischen Normungsorganisationen (ESOs), die die Europäische Kommission beauftragen können, harmonisierte Standards zu formulieren, die in vielen Fällen die regulatorischen Rahmenbedingungen für bestimmte Arten von KI-Dienstleistungen und -Einsätzen bleiben würden.

Dies bedeutet im Wesentlichen, dass KI-Hersteller wählen können, den Standards zu folgen, was in Wirklichkeit konkurrierende und nicht komplementäre Regulierungen sind, anstatt die wesentlichen Anforderungen des KI-Gesetzes zu erfüllen. Dies ermöglicht es Anbietern, die vorgeschlagenen Regulierungen lockerer zu interpretieren, wenn sie 2024-5 in Kraft treten.

Die Forscher des Papiers sind auch der Meinung, dass die intervenierenden Jahre der industriellen Lobbyarbeit unter den Normungsorganisationen diese “wesentlichen Standards” wahrscheinlich erheblich umdefinieren werden und schlagen vor, dass “ideale” Regulierungen von einem höheren ethischen Niveau und legislativer Klarheit ausgehen sollten, um diesem unvermeidlichen Prozess des Verfalls Rechnung zu tragen.

Legitimierung des Trugschlusses von Emotions-Erkennungssystemen

Das KI-Gesetz enthält eine Bestimmung gegen die Bereitstellung von Emotions-Erkennung und -Kategorisierungssystemen – Rahmenbedingungen, die nicht unbedingt eine Person identifizieren, sondern entweder behaupten, zu verstehen, was sie fühlen, oder sie in Bezug auf Geschlecht, Ethnie und verschiedene andere wirtschaftliche und soziale Merkmale zu kategorisieren.

Die Forscher argumentieren, dass diese Klausel sinnlos ist, da die DSGVO bereits die Anbieter solcher Systeme verpflichtet, den Benutzern klare Informationen über die Verwendung solcher Systeme zu geben, damit die Benutzer opt-out können (was bedeuten kann, dass sie keinen Online-Service nutzen oder nicht in einen Bereich eintreten, in dem solche Systeme angekündigt sind).

Wichtiger ist, dass das Papier behauptet, dass diese Klausel eine widerlegte Technologie legitimiert und geht weiter, FACS-ähnliche Emotions-Erkennungssysteme im Lichte der schändlichen Geschichte der Phrenologie und anderer nahe-shamanistischer Ansätze zur sozialen Kategorisierung aus der frühen Industriezeit zu charakterisieren.

‘Diejenigen, die Emotionen erkennen, verwenden vereinfachte, fragwürdige Taxonomien; nehmen universellität über Kulturen und Kontexte an; und riskieren, ‘[zurück zur phrenologischen Vergangenheit] zu gehen’, um Charaktereigenschaften aus Gesichtsstrukturen zu analysieren. Die Bestimmungen des Gesetzes über Emotions-Erkennung und biometrische Kategorisierung scheinen unzureichend, um die Risiken zu mindern.’

Ein Zu-Bescheidener Vorschlag

Neben diesen Punkten behandeln die Forscher andere vermeintliche Mängel im KI-Gesetz in Bezug auf die Regulierung von Deepfakes, den Mangel an Aufsicht über die Kohlenstoffemissionen von KI-Systemen, die Duplizierung der regulatorischen Aufsicht mit anderen Rahmenbedingungen und die unzureichende Definition von strafrechtlich verfolgbaren Rechtspersonen.

Sie drängen die Gesetzgeber und zivilen Aktivisten, Maßnahmen zu ergreifen, um die identifizierten Probleme zu beheben, und bemerken weiter, dass sogar ihre umfassende Dekonstruktion des Entwurfs viele andere Bereiche von Bedenken ausgelassen hat, aufgrund von Platzmangel.

Trotzdem lobt das Papier den Versuch des Gesetzes, ein System der horizontalen Regulierung von KI-Systemen einzuführen, und zitiert seine vielen “sinnvollen Elemente”, wie die Schaffung einer Hierarchie von Risikobewertungsstufen, die Verpflichtung, Verbote einzuführen, und die Vorschlagung einer öffentlichen Datenbank von Systemen, zu denen die Anbieter beitragen müssten, um europäische Legitimität zu erlangen, wobei jedoch die rechtlichen Probleme, die diese spätere Anforderung wahrscheinlich aufwerfen wird, beachtet werden.