Koalition für ethische KI verurteilt Algorithmen zur Vorhersage von Kriminalität

Am Dienstag veröffentlichten eine Reihe von KI-Forschern, Ethikern, Datenwissenschaftlern und Sozialwissenschaftlern einen Blog-Beitrag, in dem sie argumentieren, dass akademische Forscher die Forschung einstellen sollten, die darauf abzielt, die Wahrscheinlichkeit vorherzusagen, dass eine Person eine kriminelle Handlung begeht, basierend auf Variablen wie Kriminalitätsstatistiken und Gesichtsscans.

Der Blog-Beitrag wurde von der Coalition for Critical Technology verfasst, die argumentierte, dass die Verwendung solcher Algorithmen einen Teufelskreis von Vorurteilen gegen Minderheiten aufrechterhält. Viele Studien über die Wirksamkeit von Gesichtserkennungs- und Vorhersage-Algorithmen für die Polizei finden heraus, dass die Algorithmen Minderheiten häufig strenger beurteilen, was die Autoren des Blog-Beitrags darauf zurückführen, dass die Ungerechtigkeiten im Strafrechtssystem vorherrschen. Das Strafrechtssystem produziert voreingenommene Daten, und daher verbreiten die Algorithmen, die auf diesen Daten trainiert werden, diese Voreingenommenheit, so die Coalition for Critical Technology. Die Koalition argumentiert, dass die Vorstellung von “Kriminalität” oft auf Rasse basiert und daher Forschung auf diesem Gebiet die Neutralität der Algorithmen voraussetzt, obwohl es keine solche Neutralität gibt.

Wie The Verge berichtet, plante ein großer Verlag von akademischen Werken, Springer, eine Studie mit dem Titel “A Deep Neural Network Model to Predict Criminality using Image Processing” zu veröffentlichen. Die Autoren der Studie behaupteten, einen Gesichtserkennungs-Algorithmus entwickelt zu haben, der in der Lage ist, die Wahrscheinlichkeit vorherzusagen, dass eine Person eine kriminelle Handlung begeht, ohne Voreingenommenheit und mit einer Genauigkeit von etwa 80 %. Die Coalition for Critical Technology verfasste jedoch einen offenen Brief an Springer, in dem sie den Verlag aufforderte, die Veröffentlichung der Studie oder ähnlicher Forschungsergebnisse zu unterlassen.

„Die Verbreitung dieser Arbeit durch einen großen Verlag wie Springer würde einen bedeutenden Schritt zur Legitimierung und Anwendung wiederholt widerlegter, gesellschaftsschädlicher Forschung in der realen Welt darstellen“, argumentiert die Koalition.

Springer erklärte, dass es die Veröffentlichung der Studie nicht vornehmen werde, wie vom MIT Technology Review berichtet. Springer erklärte, dass die Studie für eine anstehende Konferenz eingereicht worden sei, aber nach dem Peer-Review-Prozess die Veröffentlichung abgelehnt worden sei.

Die Coalition for Critical Technology argumentiert, dass die Studie zur Vorhersage von Kriminalität nur ein Beispiel für einen größeren, schädlichen Trend ist, bei dem KI-Ingenieure und Forscher versuchen, Verhalten auf der Grundlage von Daten vorherzusagen, die sensible, sozial konstruierte Variablen enthalten. Die Koalition argumentiert auch, dass viel von dieser Forschung auf wissenschaftlich zweifelhaften Ideen und Theorien basiert, die nicht durch die verfügbaren Beweise aus Biologie und Psychologie unterstützt werden. Als Beispiel veröffentlichten Forscher von Princeton und Google (GOOGL ) einen Artikel, in dem sie warnen, dass Algorithmen, die behaupten, Kriminalität auf der Grundlage von Gesichtszügen vorherzusagen, auf diskreditierten und gefährlichen Pseudowissenschaften wie der Physiognomie basieren. Die Forscher warnen davor, maschinelles Lernen zu verwenden, um längst widerlegte Theorien wiederzubeleben, die zur Unterstützung rassistischer Systeme verwendet werden.

Der jüngste Schwung der Black-Lives-Matter-Bewegung hat viele Unternehmen, die Gesichtserkennungs-Algorithmen verwenden, dazu veranlasst, die Verwendung dieser Systeme zu überdenken. Forschung hat ergeben, dass diese Algorithmen häufig voreingenommen sind und auf nicht repräsentativen, voreingenommenen Trainingsdaten basieren.

Die Unterzeichner des Briefes argumentieren, dass KI-Forscher nicht nur die Forschung zur Vorhersage von Kriminalität einstellen sollten, sondern auch, dass Forscher die Art und Weise überdenken sollten, wie der Erfolg von KI-Modellen bewertet wird. Die Koalition empfiehlt, dass die gesellschaftliche Auswirkung von Algorithmen als Maßstab für den Erfolg verwendet werden sollte, zusätzlich zu Metriken wie Genauigkeit, Trefferquote und Präzision. Wie die Autoren des Papiers schreiben:

„Wenn maschinelles Lernen das ‘gesellschaftliche Gute’ bringen soll, das in Förderanträgen und Pressemitteilungen angepriesen wird, müssen Forscher in diesem Bereich aktiv über die Machtstrukturen (und die damit verbundenen Unterdrückungen) nachdenken, die ihre Arbeit ermöglichen.”