KI-Forscher schlagen Prämien für KI-Vorrechte vor, um KI ethischer zu machen

Ein Team von KI-Forschern aus Unternehmen und KI-Entwicklungslabors wie Intel (INTC ), Google (GOOGL ) Brain und OpenAI hat die Verwendung von Prämien zur Förderung der ethischen Nutzung von KI empfohlen. Das Team der Forscher hat kürzlich eine Reihe von Vorschlägen zur ethischen Nutzung von KI veröffentlicht und schlug vor, dass die Belohnung von Personen, die Vorurteile in KI entdecken, eine effektive Methode sein könnte, um KI fairer zu machen.

Wie VentureBeat berichtet, haben Forscher aus verschiedenen Unternehmen in den USA und Europa zusammengearbeitet, um eine Reihe von ethischen Richtlinien für die KI-Entwicklung sowie Vorschläge für die Umsetzung dieser Richtlinien zu erstellen. Einer der Vorschläge der Forscher bestand darin, Prämien an Entwickler zu vergeben, die Vorurteile in KI-Programmen finden. Der Vorschlag wurde in einem Papier mit dem Titel “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims” gemacht.

Als Beispiele für die Vorurteile, die das Team der Forscher ansprechen möchte, wurden voreingenommene Daten und Algorithmen in allem von Gesundheitsanwendungen bis hin zu Gesichtserkennungssystemen, die von Strafverfolgungsbehörden verwendet werden, gefunden. Ein Beispiel für ein solches Vorurteil ist das PATTERN-Risikobewertungstool, das kürzlich vom US-Justizministerium verwendet wurde, um Gefangene zu triieren und zu entscheiden, welche entlassen werden konnten, um die Gefängnisbevölkerung im Rahmen der Coronavirus-Pandemie zu reduzieren.

Die Praxis, Entwickler für das Finden unerwünschten Verhaltens in Computerprogrammen zu belohnen, ist alt, aber dies könnte das erste Mal sein, dass ein KI-Ethikrat diese Idee ernsthaft als Option zur Bekämpfung von KI-Vorurteilen vorschlägt. Es ist unwahrscheinlich, dass es genug KI-Entwickler gibt, um genug Vorurteile zu finden, um KI ethisch zu garantieren, aber es würde Unternehmen helfen, den Gesamtvorurteilswert zu reduzieren und ein Gefühl dafür zu bekommen, welche Arten von Vorurteilen in ihre KI-Systeme eindringen.

Die Autoren des Papiers erklärten, dass das Bug-Bounty-Konzept auf KI mit der Verwendung von Vorurteils- und Sicherheitsprämien erweitert werden kann und dass die ordnungsgemäße Verwendung dieser Technik zu besser dokumentierten Datensätzen und Modellen führen kann. Die Dokumentation würde die Einschränkungen sowohl des Modells als auch der Daten besser widerspiegeln. Die Forscher bemerken sogar, dass die gleiche Idee auf andere KI-Eigenschaften wie Interpretierbarkeit, Sicherheit und Datenschutz angewendet werden kann.

Im Laufe der Diskussion um die ethischen Prinzipien von KI haben viele bemerkt, dass Prinzipien allein nicht ausreichen und dass Maßnahmen ergriffen werden müssen, um KI ethisch zu halten. Die Autoren des Papiers bemerken, dass “bestehende Vorschriften und Normen in Industrie und Wissenschaft unzureichend sind, um eine verantwortungsvolle KI-Entwicklung zu gewährleisten”. Der Mitbegründer von Google Brain und KI-Branchenführer Andrew Ng äußerte sich auch dahingehend, dass Leitprinzipien allein nicht in der Lage sind, sicherzustellen, dass KI verantwortungsvoll und fair verwendet wird, und sagte, dass viele von ihnen expliziter und mit umsetzbaren Ideen ausgestattet sein müssen.

Die Empfehlung des kombinierten Forscherteams, eine Prämie für Vorurteile zu bieten, ist ein Versuch, über ethische Prinzipien hinauszugehen und in den Bereich ethischer Maßnahmen einzutreten. Das Forscherteam hat auch eine Reihe anderer Empfehlungen gemacht, die ethische Maßnahmen im KI-Bereich fördern können.

Das Forscherteam hat eine Reihe von Empfehlungen gemacht, die Unternehmen befolgen können, um ihre KI-Nutzung ethischer zu machen. Sie schlagen vor, dass eine zentrale Datenbank von KI-Vorfällen erstellt und innerhalb der breiteren KI-Gemeinschaft geteilt werden sollte. Ebenso schlagen die Forscher vor, dass eine Prüfungsspur erstellt und dass diese Spuren Informationen über die Erstellung und Bereitstellung von sicherheitskritischen Anwendungen in KI-Plattformen aufbewahren sollten.

Um die Privatsphäre der Menschen zu schützen, schlug das Forscherteam vor, dass datenschutzorientierte Techniken wie verschlüsselte Kommunikation, verteiltes Lernen und differentielle Privatsphäre eingesetzt werden sollten. Darüber hinaus schlug das Forscherteam vor, dass Open-Source-Alternativen weit verbreitet verfügbar gemacht und dass kommerzielle KI-Modelle streng geprüft werden sollten. Schließlich schlägt das Forscherteam vor, dass die Regierungsförderung erhöht werden sollte, damit akademische Forscher die Leistungsansprüche von Hardware überprüfen können.