Was die AI-Bill-of-Rights des Weißen Hauses für Amerika und den Rest der Welt bedeutet

Das Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses (OSTP) hat kürzlich ein Whitepaper mit dem Titel “The Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People” veröffentlicht. Dieses Framework wurde ein Jahr nach der Ankündigung der OSTP veröffentlicht, ein “Bill of Rights für eine AI-gesteuerte Welt” zu entwickeln.

Der Vorwort in diesem Gesetzesentwurf illustriert klar, dass das Weiße Haus die drohenden Gefahren für die Gesellschaft versteht, die durch KI entstehen. Dies ist, was im Vorwort angegeben ist:

“Zu den großen Herausforderungen, die heute der Demokratie gegenüberstehen, gehört die Verwendung von Technologie, Daten und automatisierten Systemen auf eine Weise, die die Rechte der amerikanischen Öffentlichkeit bedroht. Zu oft werden diese Werkzeuge verwendet, um unsere Chancen zu begrenzen und unseren Zugang zu kritischen Ressourcen oder Dienstleistungen zu verhindern. Diese Probleme sind gut dokumentiert. In Amerika und auf der ganzen Welt haben Systeme, die dazu bestimmt sind, Patienten zu unterstützen, sich als unsicher, unwirksam oder voreingenommen erwiesen. Algorithmen, die bei Einstellungs- und Kreditentscheidungen verwendet werden, haben sich als Spiegelbild und Verstärker bestehender unerwünschter Ungleichheiten oder als Einbettung neuer schädlicher Voreingenommenheit und Diskriminierung erwiesen. Unkontrollierte soziale Medien-Datenerfassung wurde verwendet, um Menschen Chancen zu nehmen, ihre Privatsphäre zu untergraben oder ihre Aktivitäten umfassend zu verfolgen – oft ohne ihr Wissen oder ihre Zustimmung.”

Was dieser Bill of Rights und das vorgeschlagene Framework für die Zukunft von KI bedeuten, bleibt abzuwarten. Was wir wissen, ist, dass neue Entwicklungen mit exponentieller Geschwindigkeit entstehen. Was einst als unmöglich galt, ist jetzt Realität, und gleichzeitig erleben wir eine Revolution im Bereich der natürlichen Sprachverarbeitung (NLU), die von OpenAI und ihrer berühmten Plattform GPT-3 angeführt wird.

Seitdem haben wir die instantane Erstellung von Bildern via einer Technik namens Stable Diffusion gesehen, die bald zu einem Massenmarkt-Produkt werden könnte. Im Wesentlichen kann ein Benutzer mit dieser Technologie einfach eine Abfrage eingeben, die er sich vorstellen kann, und wie durch Magie erzeugt die KI ein Bild, das der Abfrage entspricht.

Wenn man das exponentielle Wachstum und das Gesetz der beschleunigten Rückkehr berücksichtigt, wird es bald eine Zeit geben, in der KI jeden Aspekt des täglichen Lebens übernommen hat. Die Personen und Unternehmen, die dies erkennen und von diesem Paradigmenwechsel profitieren, werden profitieren. Leider wird ein großer Teil der Gesellschaft möglicherweise Opfer von böswilligen und ungewollten Folgen von KI.

Der AI-Bill-of-Rights soll die Entwicklung von Richtlinien und Praktiken unterstützen, die die bürgerlichen Rechte schützen und demokratische Werte in der Entwicklung, dem Einsatz und der Regulierung von automatisierten Systemen fördern. Wie sich dieser Gesetzesentwurf im Vergleich zu Chinas Ansatz entwickeln wird, bleibt abzuwarten, aber es ist ein Bill of Rights, der das Potenzial hat, die KI-Landschaft zu verändern, und es ist wahrscheinlich, dass er von Verbündeten wie Australien, Kanada und der EU übernommen wird.

Es ist jedoch zu beachten, dass der AI-Bill-of-Rights nicht bindend ist und keine US-Regierungspolitik darstellt. Er ersetzt, modifiziert oder interpretiert keine bestehenden Gesetze, Vorschriften, Richtlinien oder internationalen Instrumente. Was dies bedeutet, ist, dass es Unternehmen und Regierungen sein werden, die sich an die in diesem Whitepaper dargelegten Richtlinien halten müssen.

Dieses Gesetz hat fünf Grundsätze identifiziert, die die Entwicklung, den Einsatz und die Implementierung von automatisierten Systemen leiten sollten, um die amerikanische Öffentlichkeit im Zeitalter der künstlichen Intelligenz zu schützen. Im Folgenden werden wir diese 5 Grundsätze erläutern:

1. Sichere und effektive Systeme

Es gibt eine klare und gegenwärtige Gefahr für die Gesellschaft durch missbräuchliche KI-Systeme, insbesondere solche, die auf Deep Learning basieren. Dies wird mit diesen Grundsätzen angegangen:

“Sie sollten vor unsicheren oder unwirksamen Systemen geschützt werden. Automatisierte Systeme sollten in Absprache mit diversen Gemeinschaften, Interessenvertretern und Fachexperten entwickelt werden, um Bedenken, Risiken und mögliche Auswirkungen des Systems zu identifizieren. Systeme sollten vor der Implementierung getestet, Risiken identifiziert und gemindert und kontinuierlich überwacht werden, um zu zeigen, dass sie sicher und effektiv sind, basierend auf ihrem beabsichtigten Einsatz, der Minderung unsicherer Ergebnisse, einschließlich solcher, die über den beabsichtigten Einsatz hinausgehen, und der Einhaltung branchenspezifischer Standards. Die Ergebnisse dieser Schutzmaßnahmen sollten die Möglichkeit umfassen, das System nicht zu implementieren oder es aus dem Einsatz zu entfernen. Automatisierte Systeme sollten nicht so konzipiert sein, dass sie Ihre Sicherheit oder die Sicherheit Ihrer Gemeinschaft gefährden. Sie sollten so konzipiert sein, dass sie Sie proaktiv vor Schäden schützen, die durch unbeabsichtigte, aber vorhersehbare, Verwendungen oder Auswirkungen von automatisierten Systemen entstehen. Sie sollten vor unangemessener oder irrelevanten Datenverwendung bei der Entwicklung, Implementierung und dem Einsatz von automatisierten Systemen geschützt werden und vor dem kumulativen Schaden durch deren Wiederverwendung. Unabhängige Bewertung und Berichterstattung, die bestätigt, dass das System sicher und effektiv ist, einschließlich der Berichterstattung über die zur Minderung von Schäden ergriffenen Maßnahmen, sollten durchgeführt und die Ergebnisse öffentlich zugänglich gemacht werden, wenn immer möglich.”

2. Schutz vor algorithmischer Diskriminierung

Diese Richtlinien behandeln einige der Elefanten im Raum, wenn es um den Missbrauch von Personen durch Unternehmen geht.

Ein häufiges Problem beim Einstellen von Personal mithilfe von KI-Systemen ist, dass das Deep-Learning-System oft auf voreingenommene Daten trainiert, um Einstellungsentscheidungen zu treffen. Dies bedeutet im Wesentlichen, dass schlechte Einstellungspraktiken in der Vergangenheit zu Geschlechter- oder Rassendiskriminierung durch einen Einstellungsagenten führen können. Eine Studie hat die Schwierigkeit beim Versuch, Trainingsdaten zu entgeschlechtlichen, gezeigt.

Ein weiteres Kernproblem mit voreingenommenen Daten von Regierungen ist das Risiko für unrechtmäßige Inhaftierung oder sogar schlimmer Kriminalitätsvorhersage-Algorithmen, die längere Haftstrafen für Minderheiten anbieten.

“Sie sollten nicht diskriminiert werden, indem Algorithmen und Systeme auf eine Weise verwendet und konzipiert werden, die fair ist. Algorithmische Diskriminierung tritt auf, wenn automatisierte Systeme zu ungerechtfertigter unterschiedlicher Behandlung oder Auswirkungen führen, die Menschen aufgrund ihrer Rasse, Farbe, Ethnie, Geschlecht (einschließlich Schwangerschaft, Geburt und damit verbundener medizinischer Zustände, Geschlechtsidentität, Intersexualität und sexueller Orientierung), Religion, Alter, nationaler Herkunft, Behinderung, Veteranenstatus, genetischer Informationen oder jeder anderen nach Gesetz geschützten Klassifizierung benachteiligen. Abhängig von den spezifischen Umständen kann algorithmische Diskriminierung gesetzliche Schutzmaßnahmen verletzen. Entwickler, Hersteller und Betreiber von automatisierten Systemen sollten proaktive und kontinuierliche Maßnahmen ergreifen, um Personen und Gemeinschaften vor algorithmischer Diskriminierung zu schützen und Systeme auf eine Weise zu konzipieren und zu verwenden, die fair ist. Dieser Schutz sollte proaktive Gleichheitsbewertungen als Teil der Systemkonzeption umfassen, die Verwendung repräsentativer Daten und den Schutz vor Stellvertretern für demografische Merkmale, die Gewährleistung der Barrierefreiheit für Menschen mit Behinderungen bei der Konzeption und Entwicklung, die vorherige und laufende Diskrepanztestung und -minderung sowie klare organisatorische Aufsicht umfassen. Unabhängige Bewertung und Berichterstattung in Form einer algorithmischen Auswirkungsanalyse, einschließlich Diskrepanztestergebnissen und Minderungsinformationen, sollten durchgeführt und öffentlich zugänglich gemacht werden, wenn immer möglich, um diese Schutzmaßnahmen zu bestätigen.”

Es sollte beachtet werden, dass die USA einen sehr transparenten Ansatz bei der KI verfolgen, was im klaren Gegensatz zu den KI-Ansätzen Chinas steht.

3. Datenschutz

Dieser Datenschutz-Grundsatz ist derjenige, der wahrscheinlich den größten Teil der Bevölkerung betreffen wird. Der erste Teil des Grundsatzes befasst sich mit der Datenerfassung, insbesondere mit Daten, die über das Internet erhoben werden, ein bekanntes Problem, insbesondere für soziale Medien-Plattformen. Diese Daten können dann verwendet werden, um Werbung zu verkaufen oder schlimmer noch, um öffentliche Meinungen zu manipulieren und Wahlen zu beeinflussen.

“Sie sollten vor missbräuchlichen Datenpraktiken durch eingebaute Schutzmaßnahmen geschützt werden und Sie sollten die Kontrolle über die Verwendung von Daten über Sie haben. Sie sollten vor Verletzungen der Privatsphäre durch Konstruktionsentscheidungen geschützt werden, die solche Schutzmaßnahmen beinhalten, einschließlich der Gewährleistung, dass die Datenerfassung den vernünftigen Erwartungen entspricht, und dass nur die Daten erhoben werden, die für den spezifischen Kontext unbedingt erforderlich sind. Entwickler, Hersteller und Betreiber von automatisierten Systemen sollten Ihre Erlaubnis einholen und Ihre Entscheidungen bezüglich der Erfassung, Verwendung, Zugänglichkeit, Übertragung und Löschung Ihrer Daten auf angemessene Weise und im größtmöglichen Umfang respektieren; wo dies nicht möglich ist, sollten alternative Datenschutz-Schutzmaßnahmen verwendet werden. Systeme sollten nicht Benutzeroberflächen- und Konstruktionsentscheidungen verwenden, die die Benutzerwahl verschleiern oder die Benutzer mit datenschutzinvasiven Standardvorgaben belasten. Die Zustimmung sollte nur verwendet werden, um die Erfassung von Daten zu rechtfertigen, wenn sie angemessen und sinnvoll gegeben werden kann. Zustimmungsanfragen sollten kurz, in verständlicher Sprache formuliert und Ihnen die Kontrolle über die Datenerfassung und den spezifischen Kontext der Verwendung geben; aktuelle schwer verständliche Informations- und Auswahlpraktiken für den umfassenden Einsatz von Daten sollten geändert werden.”

Der zweite Teil des Datenschutz-Grundsatzes befasst sich mit der Überwachung durch Regierungen und Unternehmen.

Derzeit können Unternehmen Mitarbeiter überwachen und ausspionieren, in einigen Fällen kann dies dazu dienen, die Arbeitsplatzsicherheit zu verbessern, während der COVID-19-Pandemie wurde dies getan, um das Tragen von Masken durchzusetzen, meistens wird dies jedoch einfach getan, um zu überwachen, wie die Arbeitszeit genutzt wird. In vielen dieser Fälle fühlen sich die Mitarbeiter so, als ob sie übermäßig überwacht und kontrolliert würden.

“Erhöhte Schutzmaßnahmen und Einschränkungen für Daten und Schlussfolgerungen im Zusammenhang mit sensiblen Bereichen, einschließlich Gesundheit, Arbeit, Bildung, Strafjustiz und Finanzen, und für Daten, die Jugendliche betreffen, sollten Sie an erste Stelle setzen. In sensiblen Bereichen sollten Ihre Daten und damit verbundene Schlussfolgerungen nur für notwendige Funktionen verwendet werden, und Sie sollten durch ethische Überprüfung und Verwendungseinschränkungen geschützt werden. Sie und Ihre Gemeinschaften sollten frei von unkontrollierter Überwachung sein; Überwachungstechnologien sollten einer erhöhten Aufsicht unterliegen, die mindestens eine vorherige Bewertung der möglichen Schäden und des Umfangs der Überwachungstechnologien umfasst, um die Privatsphäre und die bürgerlichen Freiheiten zu schützen. Kontinuierliche Überwachung und Überwachung sollten nicht in Bildung, Arbeit, Wohnung oder in anderen Kontexten eingesetzt werden, in denen der Einsatz solcher Überwachungstechnologien wahrscheinlich Rechte, Chancen oder Zugang einschränkt. Sie sollten, wenn immer möglich, Zugang zu Berichten haben, die bestätigen, dass Ihre Datenentscheidungen respektiert wurden und eine Bewertung der möglichen Auswirkungen von Überwachungstechnologien auf Ihre Rechte, Chancen oder Zugang liefern.”

Es sollte beachtet werden, dass KI zum Schutz der Privatsphäre der Menschen eingesetzt werden kann.

4. Mitteilung und Erklärung

Dies sollte der Aufruf zu den Waffen für Unternehmen sein, um einen AI-Ethik-Beirat einzusetzen, sowie um die Entwicklung von erklärbarer KI zu beschleunigen. Erklärbare KI ist notwendig, wenn ein KI-Modell einen Fehler macht, da das Verständnis, wie die KI funktioniert, die einfache Diagnose eines Problems ermöglicht.

Erklärbare KI ermöglicht auch die transparente Weitergabe von Informationen darüber, wie Daten verwendet werden und warum eine Entscheidung durch die KI getroffen wurde. Ohne erklärbare KI wird es unmöglich sein, diesen Richtlinien zu entsprechen, da das Blackbox-Problem des Deep Learning besteht.

Unternehmen, die sich auf die Verbesserung dieser Systeme konzentrieren, werden auch positive Vorteile aus dem Verständnis der Nuancen und Komplexitäten hinter der Entscheidungsfindung eines Deep-Learning-Algorithms ziehen.

“Sie sollten wissen, dass ein automatisiertes System verwendet wird und verstehen, wie und warum es zu Ergebnissen beiträgt, die Sie betreffen. Entwickler, Hersteller und Betreiber von automatisierten Systemen sollten allgemein zugängliche Dokumentation in verständlicher Sprache bereitstellen, einschließlich klarer Beschreibungen der Gesamtsystemfunktion und der Rolle der Automatisierung, Mitteilung, dass solche Systeme im Einsatz sind, der Person oder Organisation, die für das System verantwortlich ist, und Erklärungen der Ergebnisse, die klar, rechtzeitig und zugänglich sind. Solche Mitteilung sollte auf dem neuesten Stand gehalten und Personen, die von dem System betroffen sind, sollten über wesentliche Änderungen der Verwendung oder der Hauptfunktion informiert werden. Sie sollten wissen, wie und warum ein Ergebnis, das Sie betrifft, durch ein automatisiertes System bestimmt wurde, einschließlich der Fälle, in denen das automatisierte System nicht die alleinige Eingabe für die Ergebnisbestimmung ist. Automatisierte Systeme sollten Erklärungen liefern, die technisch gültig, sinnvoll und nützlich für Sie und für alle Betreiber oder andere, die das System verstehen müssen, sind und die auf das Risiko abgestimmt sind. Berichte, die Zusammenfassungsinformationen über diese automatisierten Systeme in verständlicher Sprache und Bewertungen der Klarheit und Qualität der Mitteilung und Erklärung enthalten, sollten, wenn immer möglich, öffentlich zugänglich gemacht werden.”

5. Menschliche Alternativen, Berücksichtigung und Ausfall

Im Gegensatz zu den meisten der oben genannten Grundsätze ist dieser Grundsatz am ehesten auf Regierungsbehörden oder privatisierte Institutionen anwendbar, die im Auftrag der Regierung tätig sind.

Selbst mit einem AI-Ethik-Beirat und erklärbarer KI ist es wichtig, auf menschliche Überprüfung zurückzugreifen, wenn Menschenleben auf dem Spiel stehen. Es gibt immer das Potenzial für Fehler, und die Überprüfung eines Falls durch einen Menschen könnte möglicherweise ein Szenario vermeiden, in dem eine KI die falschen Menschen ins Gefängnis schickt.

Das Justiz- und Strafsystem haben den größten Spielraum, um unverzeihlichen Schaden bei marginalisierten Mitgliedern der Gesellschaft zu verursachen und sollten diese Grundsätze besonders beachten.

“Sie sollten die Möglichkeit haben, sich auszuschließen, wenn angebracht, und Zugang zu einer Person haben, die schnell Probleme berücksichtigen und beheben kann. Sie sollten die Möglichkeit haben, sich von automatisierten Systemen auf eine menschliche Alternative zurückzuziehen, wenn angebracht. Die Angemessenheit sollte auf der Grundlage vernünftiger Erwartungen in einem bestimmten Kontext und mit dem Fokus auf die Gewährleistung der breiten Zugänglichkeit und den Schutz der Öffentlichkeit vor besonders schädlichen Auswirkungen bestimmt werden. In einigen Fällen kann eine menschliche oder andere Alternative gesetzlich vorgeschrieben sein. Sie sollten Zugang zu einer zeitnahen menschlichen Überprüfung und Berücksichtigung sowie einer Ausfall- und Eskalationslösung haben, wenn ein automatisiertes System fehlschlägt, einen Fehler produziert oder Sie die Auswirkungen auf Sie anfechten oder in Frage stellen möchten. Menschliche Überprüfung und Ausfall sollten zugänglich, gerecht, effektiv, aufrechterhalten und von angemessener Betreiber-Schulung begleitet werden und dürfen keine unangemessene Belastung der Öffentlichkeit darstellen. Automatisierte Systeme, die für den Einsatz in sensiblen Bereichen bestimmt sind, einschließlich, aber nicht beschränkt auf das Strafrechtssystem, Beschäftigung, Bildung und Gesundheit, sollten zusätzlich auf den Zweck zugeschnitten, sinnvolle Zugänglichkeit zu Aufsicht bieten, Schulung für alle Personen umfassen, die mit dem System interagieren, und menschliche Überprüfung für ungünstige oder hochriskante Entscheidungen beinhalten. Berichte, die eine Beschreibung dieser menschlichen Regierungsprozesse und eine Bewertung ihrer Zeitnahigkeit, Zugänglichkeit, Ergebnisse und Effektivität enthalten, sollten, wenn immer möglich, öffentlich zugänglich gemacht werden.”

Zusammenfassung

Das OSTP sollte Anerkennung für den Versuch erhalten, ein Framework vorzustellen, das die Sicherheitsprotokolle, die für die Gesellschaft notwendig sind, mit den notwendigen Schutzmaßnahmen verbindet, ohne dabei drakonische Richtlinien einzuführen, die den Fortschritt in der Entwicklung des maschinellen Lernens behindern könnten.

Nachdem die Grundsätze erläutert wurden, geht das Gesetz weiter und bietet einen technischen Begleiter zu den diskutierten Themen sowie detaillierte Informationen zu jedem Grundsatz und die besten Wege, um diese Grundsätze umzusetzen.

Unternehmen, die sich dieser Richtlinien bewusst sind, sollten sich bemühen, diese Richtlinien so schnell wie möglich umzusetzen, da dies nur von Vorteil sein kann.

Erklärbare KI wird weiterhin an Bedeutung gewinnen, wie aus diesem Zitat aus dem Gesetz hervorgeht.

“Über die gesamte Bundesregierung hinweg führen Behörden Forschung zu erklärbarer KI durch und unterstützen sie. Das NIST führt grundlegende Forschung zu der Erklärbarkeit von KI-Systemen durch. Ein multidisziplinäres Team von Forschern zielt darauf ab, Messmethoden und Best Practices zu entwickeln, um die Umsetzung der Kernprinzipien von erklärbarer KI zu unterstützen. Die Defense Advanced Research Projects Agency hat ein Programm zu erklärbarer künstlicher Intelligenz, das darauf abzielt, eine Reihe von maschinellen Lernverfahren zu entwickeln, die erklärbare Modelle produzieren, während sie gleichzeitig eine hohe Lernleistung (Vorhersagegenauigkeit) beibehalten und es menschlichen Benutzern ermöglichen, das System zu verstehen, ihm zu vertrauen und es effektiv zu steuern, und die Entwicklung der neuen Generation künstlicher Intelligenzpartner. Das Programm der National Science Foundation zu Fairness in der künstlichen Intelligenz umfasst auch ein spezifisches Interesse an Forschungsgrundlagen für erklärbare KI.”

Was nicht übersehen werden sollte, ist, dass die in diesem Gesetz enthaltenen Grundsätze schließlich zum neuen Standard werden.