Was die AI-Bill-of-Rights des Weißen Hauses für Amerika und den Rest der Welt bedeutet

Das White House Office of Science and Technology Policy (OSTP) hat kürzlich ein Whitepaper mit dem Titel “The Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People” veröffentlicht. Dieses Rahmenwerk wurde ein Jahr nach der Ankündigung der OSTP veröffentlicht, ein “Bill of Rights für eine von künstlicher Intelligenz (KI) angetriebene Welt” zu entwickeln.

Der Vorwort in diesem Gesetz zeigt klar, dass das Weiße Haus die drohenden Gefahren für die Gesellschaft versteht, die durch KI entstehen. Im Vorwort heißt es:

“Zu den großen Herausforderungen, vor denen die Demokratie heute steht, gehört die Verwendung von Technologie, Daten und automatisierten Systemen auf eine Weise, die die Rechte der amerikanischen Öffentlichkeit bedroht. Zu oft werden diese Werkzeuge verwendet, um unsere Chancen zu begrenzen und unseren Zugang zu kritischen Ressourcen oder Dienstleistungen zu verhindern. Diese Probleme sind gut dokumentiert. In Amerika und auf der ganzen Welt haben Systeme, die dazu bestimmt sind, die Patientenversorgung zu unterstützen, sich als unsicher, unwirksam oder voreingenommen erwiesen. Algorithmen, die bei der Einstellung und bei Kreditentscheidungen verwendet werden, haben sich als Spiegelbild und Verstärker bestehender unerwünschter Ungleichheiten oder als neue schädliche Voreingenommenheit und Diskriminierung erwiesen. Unkontrollierte soziale Medien-Datenerfassung wurde verwendet, um die Chancen der Menschen zu bedrohen, ihre Privatsphäre zu untergraben oder ihre Aktivitäten umfassend zu verfolgen – oft ohne ihr Wissen oder ihre Zustimmung.”

Was diese Bill of Rights und das vorgeschlagene Rahmenwerk für die Zukunft von KI bedeuten, bleibt abzuwarten. Was wir wissen, ist, dass neue Entwicklungen mit exponentieller Geschwindigkeit auftauchen. Was einst als unmöglich galt, ist jetzt Realität, und gleichzeitig erleben wir eine Revolution im Bereich der natürlichen Sprachverarbeitung (NLU), die von OpenAI und ihrer berühmten Plattform GPT-3 angeführt wird.

Seitdem haben wir die instantane Erstellung von Bildern via einer Technik namens Stable Diffusion gesehen, die bald zu einem Mainstream-Verbraucherprodukt werden könnte. Im Wesentlichen kann ein Benutzer einfach jede Anfrage eingeben, die er sich vorstellen kann, und wie durch Magie erzeugt die KI ein Bild, das der Anfrage entspricht.

Wenn man das exponentielle Wachstum und das Gesetz der beschleunigten Rückkehr berücksichtigt, wird es bald eine Zeit geben, in der KI jeden Aspekt des täglichen Lebens übernommen hat. Die Personen und Unternehmen, die dies wissen und von diesem Paradigmenwechsel profitieren, werden davon profitieren. Leider wird ein großer Teil der Gesellschaft möglicherweise den böswilligen und ungewollten Folgen von KI zum Opfer fallen.

Die AI-Bill-of-Rights soll die Entwicklung von Richtlinien und Praktiken unterstützen, die die Bürgerrechte schützen und demokratische Werte bei der Erstellung, dem Einsatz und der Regulierung von automatisierten Systemen fördern. Wie sich dieses Gesetz mit dem Ansatz Chinas vergleichen lässt, bleibt abzuwarten, aber es ist ein Gesetz, das das Potenzial hat, die KI-Landschaft zu verändern, und es wird wahrscheinlich von Verbündeten wie Australien, Kanada und der EU übernommen.

Wie bereits erwähnt, ist die AI-Bill-of-Rights nicht bindend und stellt keine Regierungspolitik der USA dar. Sie setzt keine bestehenden Gesetze, Vorschriften, Richtlinien oder internationalen Instrumente außer Kraft, modifiziert oder interpretiert sie nicht. Was dies bedeutet, ist, dass es Unternehmen und Regierungen obliegt, den in diesem Whitepaper dargelegten Richtlinien zu folgen.

Dieses Gesetz hat fünf Grundsätze identifiziert, die die Gestaltung, den Einsatz und die Implementierung von automatisierten Systemen leiten sollten, um die amerikanische Öffentlichkeit im Zeitalter der künstlichen Intelligenz zu schützen. Im Folgenden werden wir diese 5 Grundsätze darlegen:

1. Sichere und effektive Systeme

Es gibt eine klare und gegenwärtige Gefahr für die Gesellschaft durch missbräuchliche KI-Systeme, insbesondere solche, die auf Deep Learning basieren. Dies wird mit diesen Grundsätzen angegangen:

“Sie sollten vor unsicheren oder unwirksamen Systemen geschützt werden. Automatisierte Systeme sollten in Absprache mit diversen Gemeinschaften, Interessenvertretern und Fachleuten entwickelt werden, um Bedenken, Risiken und mögliche Auswirkungen des Systems zu identifizieren. Systeme sollten vor der Implementierung getestet, Risiken identifiziert und gemindert und kontinuierlich überwacht werden, um zu zeigen, dass sie sicher und effektiv sind, basierend auf ihrem beabsichtigten Einsatz, der Minderung unsicherer Ergebnisse, einschließlich solcher, die über den beabsichtigten Einsatz hinausgehen, und der Einhaltung branchenspezifischer Standards. Die Ergebnisse dieser Schutzmaßnahmen sollten die Möglichkeit umfassen, das System nicht zu implementieren oder es aus dem Einsatz zu entfernen. Automatisierte Systeme sollten nicht so konzipiert werden, dass sie Ihre Sicherheit oder die Sicherheit Ihrer Gemeinschaft gefährden. Sie sollten so konzipiert werden, dass sie Sie proaktiv vor Schäden schützen, die durch unvorhergesehene, aber vorhersehbare, Verwendungen oder Auswirkungen von automatisierten Systemen entstehen. Sie sollten vor unangemessener oder unzureichender Datennutzung bei der Gestaltung, Entwicklung und Implementierung von automatisierten Systemen geschützt werden und vor dem kumulativen Schaden durch deren Wiederverwendung. Unabhängige Bewertung und Berichterstattung, die bestätigt, dass das System sicher und effektiv ist, einschließlich der Berichterstattung über die zur Minderung möglicher Schäden ergriffenen Maßnahmen, sollten durchgeführt und die Ergebnisse öffentlich gemacht werden, wenn möglich.”

2. Schutz vor algorithmischer Diskriminierung

Diese Richtlinien befassen sich mit einigen der Elefanten im Raum, wenn es um den Missbrauch von Personen durch Unternehmen geht.

Ein häufiges Problem beim Einstellen von Personal mithilfe von KI-Systemen ist, dass das Deep-Learning-System oft auf voreingenommene Daten trainiert, um Einstellungsentscheidungen zu treffen. Dies bedeutet im Wesentlichen, dass schlechte Einstellungspraktiken in der Vergangenheit zu Geschlechts- oder Rassendiskriminierung durch einen Einstellungsagenten führen können. Eine Studie wies auf die Schwierigkeit hin, Trainingsdaten zu entgeschlechtlichen.

Ein weiteres Kernproblem mit voreingenommenen Daten von Regierungen ist das Risiko für unrechtmäßige Inhaftierung oder sogar Algorithmen zur Vorhersage von Kriminalität, die längere Haftstrafen für Minderheiten vorschlagen.

“Sie sollten nicht diskriminiert werden, indem Algorithmen und Systeme verwendet werden und Systeme sollten so konzipiert und verwendet werden, dass sie fair sind. Algorithmische Diskriminierung tritt auf, wenn automatisierte Systeme zu ungerechtfertigter unterschiedlicher Behandlung oder Auswirkungen führen, die Menschen aufgrund ihrer Rasse, Farbe, Ethnie, Geschlecht (einschließlich Schwangerschaft, Geburt und damit verbundener medizinischer Bedingungen, Geschlechtsidentität, Intersexualität und sexueller Orientierung) Religion, Alter, nationaler Herkunft, Behinderung, Veteranenstatus, genetischer Informationen oder jeder anderen durch Gesetz geschützten Klassifizierung benachteiligen. Abhängig von den spezifischen Umständen kann algorithmische Diskriminierung gesetzliche Schutzmaßnahmen verletzen. Entwickler, Hersteller und Betreiber von automatisierten Systemen sollten proaktive und kontinuierliche Maßnahmen ergreifen, um Personen und Gemeinschaften vor algorithmischer Diskriminierung zu schützen und Systeme so zu konzipieren und zu verwenden, dass sie fair sind. Dieser Schutz sollte proaktive Gleichheitsbewertungen als Teil der Systemgestaltung, die Verwendung repräsentativer Daten und den Schutz vor Stellvertretern für demografische Merkmale umfassen, die Barrierefreiheit für Menschen mit Behinderungen in der Gestaltung und Entwicklung sicherstellen, vor der Implementierung und kontinuierliche Tests und Minderung von Ungleichheiten durchführen und klare organisatorische Aufsicht sicherstellen. Unabhängige Bewertung und Berichterstattung in einfacher Sprache in Form einer algorithmischen Auswirkungsbewertung, einschließlich der Ergebnisse von Ungleichheitstests und Minderungsinformationen, sollten durchgeführt und öffentlich gemacht werden, wenn möglich, um diese Schutzmaßnahmen zu bestätigen.”

3. Datenschutz

Dieser Grundsatz des Datenschutzes ist derjenige, der den größten Teil der Bevölkerung am meisten betreffen wird. Der erste Teil des Grundsatzes befasst sich mit der Erfassung von Daten, insbesondere mit Daten, die über das Internet erhoben werden, ein bekanntes Problem, insbesondere für soziale Medien-Plattformen. Diese Daten können dann verwendet werden, um Werbung zu verkaufen oder sogar, um die öffentliche Meinung zu manipulieren und Wahlen zu beeinflussen.

“Sie sollten vor missbräuchlichen Datenerfassungspraktiken geschützt werden und Sie sollten die Kontrolle über die Verwendung von Daten über Sie haben. Sie sollten vor Verletzungen der Privatsphäre durch Designentscheidungen geschützt werden, die sicherstellen, dass solche Schutzmaßnahmen standardmäßig enthalten sind, einschließlich der Sicherstellung, dass die Datenerfassung den vernünftigen Erwartungen entspricht und dass nur die Daten erhoben werden, die für den spezifischen Kontext unbedingt erforderlich sind. Entwickler, Hersteller und Betreiber von automatisierten Systemen sollten Ihre Erlaubnis einholen und Ihre Entscheidungen über die Erfassung, Verwendung, Zugriff, Übertragung und Löschung Ihrer Daten auf angemessene Weise respektieren und in dem größtmöglichen Umfang; wenn dies nicht möglich ist, sollten alternative Schutzmaßnahmen zur Privatsphäre durch Design verwendet werden. Systeme sollten nicht Benutzeroberflächen- und Designentscheidungen verwenden, die die Benutzerwahl verschleiern oder die Benutzer mit Standards belasten, die die Privatsphäre verletzen. Die Zustimmung sollte nur verwendet werden, um die Erfassung von Daten zu rechtfertigen, wenn sie angemessen und sinnvoll gegeben werden kann. Alle Zustimmungsanfragen sollten kurz, in einfacher Sprache verständlich und Ihnen die Kontrolle über die Datenerfassung und den spezifischen Kontext der Verwendung geben; aktuelle schwer verständliche Hinweise und Auswahlmöglichkeiten für die Verwendung von Daten sollten geändert werden.”

Der zweite Teil des Grundsatzes des Datenschutzes befasst sich mit der Überwachung durch Regierungen und Unternehmen.

Derzeit können Unternehmen Mitarbeiter überwachen und ausspionieren, in einigen Fällen, um die Arbeitssicherheit zu verbessern, während der COVID-19-Pandemie, um das Tragen von Masken durchzusetzen, meistens wird dies jedoch einfach getan, um zu überwachen, wie die Arbeitszeit genutzt wird. In vielen dieser Fälle fühlen sich die Mitarbeiter so, als ob sie überwacht und kontrolliert würden, was über das hinausgeht, was als angemessen gilt.

“Erhöhte Schutzmaßnahmen und Einschränkungen für Daten und Rückschlüsse auf sensible Bereiche, einschließlich Gesundheit, Arbeit, Bildung, Strafjustiz und Finanzen, und für Daten, die Jugendliche betreffen, sollten Sie in den Vordergrund stellen. In sensiblen Bereichen sollten Ihre Daten und damit verbundene Rückschlüsse nur für notwendige Funktionen verwendet werden, und Sie sollten durch ethische Überprüfung und Nutzungsverbote geschützt werden. Sie und Ihre Gemeinschaften sollten frei von unkontrollierter Überwachung sein; Überwachungstechnologien sollten einer verstärkten Aufsicht unterliegen, die mindestens eine vorherige Bewertung ihrer möglichen Schäden und ihres Umfangs umfasst, um die Privatsphäre und die bürgerlichen Freiheiten zu schützen. Kontinuierliche Überwachung und Überwachung sollten nicht in der Bildung, der Arbeit, der Wohnung oder in anderen Kontexten verwendet werden, in denen die Verwendung solcher Überwachungstechnologien die Rechte, Chancen oder den Zugang einschränken kann. Wenn möglich sollten Sie Zugang zu Berichten haben, die bestätigen, dass Ihre Datenerfassungsentscheidungen respektiert wurden und eine Bewertung der möglichen Auswirkungen von Überwachungstechnologien auf Ihre Rechte, Chancen oder Zugang liefern.”

Es sollte beachtet werden, dass KI verwendet werden kann, um die Privatsphäre der Menschen zu schützen.

4. Mitteilung und Erklärung

Dies sollte der Aufruf zu den Waffen für Unternehmen sein, um einen Beirat für KI-Ethik zu implementieren, sowie um die Entwicklung von erklärbarer KI zu beschleunigen. Erklärbare KI ist notwendig, wenn ein KI-Modell einen Fehler macht, da das Verständnis, wie die KI funktioniert, die einfache Diagnose eines Problems ermöglicht.

Erklärbare KI ermöglicht auch die transparente Weitergabe von Informationen darüber, wie Daten verwendet werden und warum eine Entscheidung von der KI getroffen wurde. Ohne erklärbare KI wird es unmöglich sein, diesen Richtlinien zu entsprechen, da das Blackbox-Problem des Deep Learning besteht.

Unternehmen, die sich auf die Verbesserung dieser Systeme konzentrieren, werden auch positive Vorteile aus dem Verständnis der Nuancen und Komplexitäten dahinter ziehen, warum ein Deep-Learning-Algorithmus eine bestimmte Entscheidung getroffen hat.

“Sie sollten wissen, dass ein automatisiertes System verwendet wird und verstehen, wie und warum es zu Ergebnissen beiträgt, die Sie betreffen. Entwickler, Hersteller und Betreiber von automatisierten Systemen sollten allgemein zugängliche Dokumentation in einfacher Sprache bereitstellen, einschließlich klarer Beschreibungen der Gesamtsystemfunktion und der Rolle, die die Automatisierung spielt, Mitteilung, dass solche Systeme verwendet werden, der Person oder Organisation, die für das System verantwortlich ist, und Erklärungen der Ergebnisse, die klar, rechtzeitig und zugänglich sind. Eine solche Mitteilung sollte auf dem neuesten Stand gehalten werden und Personen, die von dem System betroffen sind, sollten über wesentliche Änderungen der Verwendung oder der Hauptfunktion informiert werden. Sie sollten wissen, wie und warum ein Ergebnis, das Sie betrifft, durch ein automatisiertes System bestimmt wurde, einschließlich der Fälle, in denen das automatisierte System nicht die alleinige Eingabe ist, die das Ergebnis bestimmt. Automatisierte Systeme sollten Erklärungen liefern, die technisch gültig, sinnvoll und nützlich für Sie und für alle Betreiber oder andere, die das System verstehen müssen, sind und die dem Risiko entsprechend kalibriert sind. Berichte, die Zusammenfassungsinformationen über diese automatisierten Systeme in einfacher Sprache und Bewertungen der Klarheit und Qualität der Mitteilung und Erklärung enthalten, sollten öffentlich gemacht werden, wenn möglich.”

5. Menschliche Alternativen, Berücksichtigung und Ausfall

Im Gegensatz zu den meisten oben genannten Grundsätzen ist dieser Grundsatz am meisten auf Regierungsstellen oder privatisierte Institutionen anwendbar, die im Auftrag der Regierung tätig sind.

Selbst mit einem KI-Ethik-Beirat und erklärbarer KI ist es wichtig, auf menschliche Überprüfung zurückzugreifen, wenn Menschenleben auf dem Spiel stehen. Es gibt immer das Potenzial für Fehler, und die Anforderung einer menschlichen Überprüfung eines Falls kann möglicherweise ein Szenario vermeiden, in dem KI die falschen Menschen ins Gefängnis schickt.

Das Justiz- und Strafsystem haben den größten Spielraum, um unverzeihlichen Schaden bei benachteiligten Mitgliedern der Gesellschaft zu verursachen und sollten besonderes Augenmerk auf diesen Grundsatz legen.

“Sie sollten in der Lage sein, auszusteigen, wo angemessen, und Zugang zu einer Person haben, die schnell Probleme berücksichtigen und beheben kann. Sie sollten in der Lage sein, aus automatisierten Systemen auszusteigen und sich für eine menschliche Alternative zu entscheiden, wo angemessen. Die Angemessenheit sollte auf der Grundlage vernünftiger Erwartungen in einem bestimmten Kontext und mit dem Fokus auf die Gewährleistung einer umfassenden Zugänglichkeit und den Schutz der Öffentlichkeit vor besonders schädlichen Auswirkungen bestimmt werden. In einigen Fällen kann eine menschliche Alternative durch Gesetz vorgeschrieben sein. Sie sollten Zugang zu einer zeitnahen menschlichen Berücksichtigung und Abhilfe durch eine Ausfall- und Eskalationsproblematik haben, wenn ein automatisiertes System fehlschlägt, einen Fehler erzeugt oder Sie die Auswirkung auf Sie anfechten oder beanstanden möchten. Menschliche Berücksichtigung und Ausfall sollten zugänglich, gerecht, effektiv, aufrechterhalten und von angemessener Betreiber-Schulung begleitet werden und sollten der Öffentlichkeit keine unangemessene Belastung auferlegen. Automatisierte Systeme mit einer beabsichtigten Verwendung in sensiblen Bereichen, einschließlich, aber nicht beschränkt auf das Strafsystem, die Beschäftigung, die Bildung und die Gesundheit, sollten zusätzlich auf den Zweck zugeschnitten, sinnvollen Zugang zu Aufsicht bieten, Schulung für alle Personen, die mit dem System interagieren, beinhalten und menschliche Berücksichtigung für ungünstige oder hochriskante Entscheidungen umfassen. Berichte, die eine Beschreibung dieser menschlichen Regierungsvorgänge und eine Bewertung ihrer Rechtzeitigkeit, Zugänglichkeit, Ergebnisse und Effektivität enthalten, sollten öffentlich gemacht werden, wenn möglich.”

Zusammenfassung

Die OSTP sollte Anerkennung dafür erhalten, dass sie versucht, ein Rahmenwerk einzuführen, das die notwendigen Sicherheitsprotokolle für die Gesellschaft mit den notwendigen Schutzmaßnahmen verbindet, ohne dabei drakonische Richtlinien einzuführen, die den Fortschritt bei der Entwicklung des maschinellen Lernens behindern könnten.

Nachdem die Grundsätze dargelegt wurden, geht das Gesetz weiter und bietet einen technischen Begleiter zu den diskutierten Themen sowie detaillierte Informationen über jeden Grundsatz und die besten Wege, um diese Grundsätze umzusetzen.

Klugen Unternehmenseignern und Unternehmen sollte es ein Anliegen sein, dieses Gesetz zu studieren, da es nur von Vorteil sein kann, diese Richtlinien so schnell wie möglich umzusetzen.

Erklärbare KI wird weiterhin an Bedeutung gewinnen, wie aus diesem Zitat aus dem Gesetz hervorgeht.

“Über die gesamte Bundesregierung hinweg führen Behörden Forschung zu erklärbarer KI durch. Das NIST führt grundlegende Forschung zu der Erklärbarkeit von KI-Systemen durch. Ein multidisziplinäres Team von Forschern zielt darauf ab, Messmethoden und Best Practices zu entwickeln, um die Umsetzung der Kernprinzipien der erklärbarer KI zu unterstützen. Die Defense Advanced Research Projects Agency hat ein Programm zur Erklärbarkeit künstlicher Intelligenz, das darauf abzielt, eine Reihe von maschinellen Lernverfahren zu erstellen, die erklärbarere Modelle produzieren, während sie gleichzeitig eine hohe Lernleistung (Vorhersagegenauigkeit) beibehalten und es menschlichen Benutzern ermöglichen, die entstehende Generation künstlich intelligenter Partner zu verstehen, zu vertrauen und effektiv zu verwalten. Das Programm der National Science Foundation zu Fairness in künstlicher Intelligenz umfasst auch ein spezifisches Interesse an Forschungsgrundlagen für erklärbarer KI.”

Was nicht übersehen werden sollte, ist, dass die in diesem Gesetz dargelegten Grundsätze schließlich zum neuen Standard werden.