EU startet erste AI-Regulierungen

Am 21. April wird die Europäische Union ihren ersten regulatorischen Rahmen für die Nutzung von künstlicher Intelligenz bekanntgeben. Die neuen Regulierungen werden “hochriskante” Maschinenlernsysteme vollständig verbieten und Mindeststandards für andere Maschinenlern-Technologien einführen, mit Strafen von 20 Millionen Euro oder 4% des Unternehmensumsatzes für Verstöße.

Ein Entwurf des neuen Gesetzes, der von Politico erhalten wurde, soll die Innovation und Entwicklung von KI-Systemen für den allgemeinen Nutzen der EU-Wirtschaft und -Gesellschaft in Bereichen wie Fertigung, verbesserter Energieeffizienz und Klimamodellierung fördern; es würde jedoch die Verwendung von Maschinenlernen in Kreditscoring-Systemen, automatisierter Bewertung von Strafen und der Beurteilung der Eignung für Sozialleistungen und Asyl- oder Visaanträge verbieten, sowie andere Verbote, die später bekannt gegeben werden.

Der Entwurf stellt ausdrücklich fest, dass chinesische Sozialpunktesysteme für Einzelpersonen und Unternehmen den Werten der Europäischen Union widersprechen und unter der Regulierung verboten werden, zusammen mit “Massenüberwachungstechnologien”, die von KI angetrieben werden.

Regulatorische Aufsicht

Nach der Ernennung einer Hochrangigen Expertengruppe für künstliche Intelligenz im März 2021 plant die EU auch die Einrichtung eines neuen Europäischen KI-Boards, mit Vertretern jedes Mitgliedstaats, sowie einem Vertreter der Europäischen Kommission und der EU-Datenschutzbehörde.

Vielleicht die umfassendste und potenziell umstrittenste Anordnung im Entwurf ist, dass sie Systeme verbietet, die der EU-Bevölkerung durch “Manipulation ihres Verhaltens, ihrer Meinungen oder Entscheidungen” schaden, was wahrscheinlich viele Technologien umfassen würde, die die Analyse von kommerzieller und politischer Werbung antreiben.

Die Regulierungen werden Ausnahmen für die Bekämpfung schwerer Verbrechen zulassen, die Verwendung von Gesichtserkennungssystemen innerhalb bestimmter Grenzen von Umfang und Dauer der Verwendung erlauben.

Wie bei der weiten Reichweite der DSGVO scheint es, dass diese neuen Regulierungen allgemein genug sein könnten, um in Bereichen, in denen keine strengen Richtlinien für die Verwendung von KI vorliegen, eine “Abschreckungswirkung” auszulösen, wobei Unternehmen Risiken ausgesetzt sind, wenn ihre Verwendung von Maschinenlernen in einen potenziellen Graubereich innerhalb der Regulierungen fällt.

Voreingenommenheit unter neuen EU-KI-Regulierungen

Allerdings ist die größte Herausforderung und mögliche rechtliche Verstrickung die Feststellung im Entwurf, dass Datensätze keine “beabsichtigten oder unbeabsichtigten Voreingenommenheiten” enthalten dürfen, die Diskriminierung begünstigen.

Datenvoreingenommenheit ist eines der schwierigsten Aspekte bei der Entwicklung von Maschinenlernsystemen – schwer zu beweisen, schwierig zu angehen und tief mit den zentralen Kulturen von Daten sammelnden Körperschaften verbunden. Das Problem versetzt private und staatliche Forschungskörperschaften in einen Konflikt zwischen der Notwendigkeit, unterschiedliche Gruppen genau abzubilden (praktisch das Gründungsziel der computergestützten Mathematik und empirischen statistischen Analyse) und der Möglichkeit, rassistische Profilierung und kulturelle Dämonisierung zu verbreiten, unter anderen Überlegungen.

Daher ist es wahrscheinlich, dass Nicht-EU-Märkte hoffen, dass die neue Regulierung zumindest einige spezifische Bereiche der Orientierung und eine Reihe von anwendbaren Definitionen in dieser Hinsicht bereitstellen wird.

Äußerer Widerstand gegen EU-KI-Regulierung

Die neue Regulierung wird wahrscheinlich tiefgreifende Auswirkungen auf die rechtlichen Auswirkungen der Verwendung von Maschinenlernen zur Analyse öffentlich zugänglicher Daten haben – sowie auf solche Daten, die noch aus Web-Benutzern in der post-tracking-Ära extrahiert werden können, die derzeit von Apple, Firefox und (in geringerem Umfang) Chrome eingeführt wird.

Die Gerichtsbarkeit muss möglicherweise klar definiert werden, beispielsweise in Fällen, in denen die FAANG-Riesen Benutzerdaten in Übereinstimmung mit der DSGVO sammeln, diese Daten jedoch durch Maschinenlern-Systeme außerhalb der Europäischen Union verarbeiten. Es ist unklar, ob Algorithmen, die durch solche Systeme abgeleitet werden, auf Plattformen innerhalb der EU angewendet werden können und noch weniger klar, wie eine solche Anwendung überhaupt nachgewiesen werden könnte.

Im Falle der Verwendung von KI zur Informierung von Entscheidungen über Haft und Strafmaße, einem wachsenden Trend in den Vereinigten Staaten, wären die gelegentlichen Experimente des Vereinigten Königreichs in diesem Sektor unter die neuen Regulierungen gefallen, wenn das Land nicht aus der Europäischen Union ausgetreten wäre.

Im Jahr 2020 erklärte ein Entwurf einer Weisung des Weißen Hauses zur Regulierung von KI, dass ‘Bundesbehörden regulatorische oder nicht-regulatorische Maßnahmen vermeiden müssen, die die KI-Innovation und das Wachstum unnötig behindern’. Arguably, diese Einstellung scheint wahrscheinlich, das Trump-Regime, unter dem die Weisung veröffentlicht wurde, zu überleben, sondern spiegelt vielmehr den kommenden Konflikt zwischen den USA und der EU im Gefolge der neuen Regulierung wider.

Ähnlich äußert sich der AI-Rat des Vereinigten Königreichs in seinem ‘AI-Roadmap’, der großen Enthusiasmus für die wirtschaftlichen Vorteile der KI-Adoption zeigt, aber allgemeine Bedenken äußert, dass neue Regulierungen nicht die Fortschritte behindern dürfen.

Das erste echte Gesetz für KI

Das Engagement der EU für eine rechtliche Haltung zu KI ist innovativ. Die letzten zehn Jahre waren durch einen Schneesturm von Weißbüchern und vorläufigen Ausschussberichten und Empfehlungen von Regierungen auf der ganzen Welt gekennzeichnet, die sich auf die Ethik von KI konzentrierten, mit wenigen tatsächlichen Gesetzen, die verabschiedet wurden.

Geografische Verteilung der Aussteller von KI-Ethik-Richtlinien nach Anzahl der veröffentlichten Dokumente, in einer Umfrage aus dem Jahr 2019. Die höchste Anzahl von Ethik-Richtlinien wird in den Vereinigten Staaten und innerhalb der Europäischen Union veröffentlicht, gefolgt vom Vereinigten Königreich und Japan. Kanada, Island, Norwegen, die Vereinigten Arabischen Emirate, Indien, Singapur, Südkorea, Australien sind mit jeweils einem Dokument vertreten. Nachdem sie zu einer bestimmten G7-Erklärung beigetragen haben, werden die Mitgliedstaaten der G7-Länder separat hervorgehoben. Quelle: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Weiterführende Literatur

Nationale KI-Politiken und -Strategien (OECD)