Ethik
KI-Forscher schlagen vor, Kopfgelder für KI-Vorrechte zu bieten, um KI ethischer zu machen
Ein Team von KI-Forschern aus Unternehmen und KI-Entwicklungslabors wie Intel, Google Brain und OpenAI hat die Verwendung von Kopfgeldern vorgeschlagen, um die ethische Verwendung von KI sicherzustellen. Das Team der Forscher hat kürzlich eine Reihe von Vorschlägen zur ethischen Nutzung von KI veröffentlicht und schlug vor, dass die Belohnung von Personen für das Entdecken von Vorurteilen in KI eine effektive Methode sein könnte, um KI fairer zu machen.
Wie VentureBeat berichtet, haben Forscher aus verschiedenen Unternehmen in den USA und Europa zusammen gearbeitet, um einen Satz ethischer Richtlinien für die KI-Entwicklung sowie Vorschläge für die Umsetzung dieser Richtlinien zu erstellen. Einer der Vorschläge, die die Forscher gemacht haben, war, Kopfgelder für Entwickler anzubieten, die Vorurteile in KI-Programmen finden. Der Vorschlag wurde in einem Paper mit dem Titel “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims” gemacht.
Als Beispiele für die Vorurteile, die das Team der Forscher ansprechen möchte, wurden voreingenommene Daten und Algorithmen in allem gefunden, von Gesundheitsanwendungen bis hin zu Gesichtserkennungssystemen, die von Strafverfolgungsbehörden verwendet werden. Ein solches Beispiel für Vorurteile ist das PATTERN-Risikobewertungstool, das kürzlich vom US-Justizministerium verwendet wurde, um Gefangene zu triieren und zu entscheiden, welche von ihnen nach Hause geschickt werden könnten, um die Gefängnisbevölkerung im Rahmen der Coronavirus-Pandemie zu reduzieren.
Die Praxis, Entwickler für das Finden unerwünschten Verhaltens in Computerprogrammen zu belohnen, ist eine alte, aber dies könnte das erste Mal sein, dass ein KI-Ethikrat diese Idee ernsthaft als Option zum Bekämpfen von KI-Vorurteilen vorangetrieben hat. Obwohl es unwahrscheinlich ist, dass es genug KI-Entwickler gibt, um genug Vorurteile zu finden, um KI ethisch zu machen, würde es den Unternehmen dennoch helfen, den Gesamtvorurteil zu reduzieren und ein Gefühl dafür zu bekommen, welche Arten von Vorurteilen in ihre KI-Systeme eindringen.
Die Autoren des Papiers erklärten, dass das Bug-Bounty-Konzept auf KI mit der Verwendung von Vorurteil- und Sicherheitsbounty erweitert werden kann und dass die ordnungsgemäße Verwendung dieser Technik zu besser dokumentierten Datensätzen und Modellen führen kann. Die Dokumentation würde die Einschränkungen sowohl des Modells als auch der Daten besser widerspiegeln. Die Forscher bemerken sogar, dass die gleiche Idee auf andere KI-Eigenschaften wie Interpretierbarkeit, Sicherheit und Datenschutz angewendet werden kann.
Da immer mehr Diskussionen um die ethischen Prinzipien von KI stattfinden, haben viele bemerkt, dass Prinzipien allein nicht ausreichen und dass Maßnahmen ergriffen werden müssen, um KI ethisch zu halten. Die Autoren des Papiers bemerken, dass “bestehende Vorschriften und Normen in Industrie und Wissenschaft unzureichend sind, um eine verantwortungsvolle KI-Entwicklung zu gewährleisten”. Der Mitbegründer von Google Brain und KI-Branchenführer Andrew Ng äußerte sich auch, dass Leitprinzipien allein nicht in der Lage sind, sicherzustellen, dass KI verantwortungsvoll und fair verwendet wird, und sagte, dass viele von ihnen expliziter sein und handhabbare Ideen benötigen.
Die Empfehlung des kombinierten Forschungsteams, nach Vorurteilen zu jagen, ist ein Versuch, über ethische Prinzipien hinauszugehen und in ein Gebiet ethischen Handelns zu gelangen. Das Forschungsteam hat auch eine Reihe anderer Empfehlungen gemacht, die Unternehmen befolgen können, um ihre KI-Nutzung ethischer zu machen. Sie schlagen vor, dass eine zentrale Datenbank von KI-Vorfällen erstellt und innerhalb der breiteren KI-Gemeinschaft geteilt werden sollte. Ebenso schlagen die Forscher vor, dass eine Prüfungsspur eingerichtet werden sollte und dass diese Spuren Informationen über die Erstellung und Bereitstellung von sicherheitskritischen Anwendungen in KI-Plattformen aufbewahren sollten.
Um die Privatsphäre der Menschen zu schützen, schlugen die Forscher vor, dass datenschutzorientierte Techniken wie verschlüsselte Kommunikation, verteiltes Lernen und differenzieller Datenschutz eingesetzt werden sollten. Darüber hinaus schlugen die Forscher vor, dass Open-Source-Alternativen weit verbreitet verfügbar gemacht werden sollten und dass kommerzielle KI-Modelle stark überprüft werden sollten. Schließlich schlugen die Forscher vor, dass die Regierungsfinanzierung erhöht werden sollte, damit akademische Forscher Hardware-Leistungsansprüche überprüfen können.
