USA erlebt ersten Fall von falscher Verhaftung aufgrund eines schlechten Algorithmus

Letzte Woche berichtete die New York Times über den ersten Fall einer falschen Verhaftung, die durch einen schlechten Algorithmus in den Vereinigten Staaten verursacht wurde. Der Vorfall ereignete sich in Detroit, als Robert Julian-Borchak Williams, ein afroamerikanischer Mann, nach einer falschen Identifizierung mit einer Person, die in einem Überwachungsvideo zu sehen ist, wie sie ein Ladendiebstahl begeht, verhaftet wurde.

Die American Civil Liberties Union (ACLU) reagierte schnell und reichte eine Beschwerde gegen die Polizei von Detroit ein. Nachdem die ACLU die Entlassung von Williams’ Fall und die Entfernung seiner Informationen aus den Strafdatenbanken in Detroit gefordert hatte, gingen die Staatsanwälte auf diese Forderungen ein.

Diese Entwicklung ist die erste ihrer Art in den Vereinigten Staaten und unterstreicht einige ernsthafte Bedenken, die weltweit mit der Verwendung von Gesichtserkennungstechnologie durch den Staat entstehen.

Probleme mit Gesichtserkennungssystemen

Gesichtserkennungssysteme sind bereits seit einiger Zeit umstritten und werden zunehmend zu einem Thema der Debatte unter denen, die sich um die Privatsphäre und falsche Anschuldigungen sorgen.

Mit den jüngsten Protesten im ganzen Land und in vielen Teilen der Welt gegen Polizeibrutalität und Diskriminierung hat diese Kritik nur zugenommen.

Diese Algorithmen haben einen völlig neuen Aspekt der Strafverfolgung gebracht und sind voller Fehler.

Die falsche Anschuldigung

Der Raub, für den Williams fälschlicherweise identifiziert wurde, fand im Oktober 2018 statt. Das Überwachungsvideo wurde dann im März 2019 in die Gesichtserkennungsdatenbank des Bundesstaates Michigan hochgeladen.

Williams’ Foto gelangte in eine Fotoline, in der ein Sicherheitswachmann Williams als denjenigen identifizierte, der das Verbrechen begangen hatte.

Laut der ACLU hatte der Wachmann den Raub jedoch nie persönlich beobachtet.

Im Januar erhielt Williams einen Anruf von der Polizei von Detroit, der ihn über seine Verhaftung informierte. Als er den Anruf als Scherz abtat, erschienen die Polizisten nur eine Stunde später bei ihm zu Hause.

Williams wurde dann in ein Gewahrsamszentrum gebracht, wo er fotografiert, seine Fingerabdrücke genommen und seine DNA analysiert wurden, und er wurde anschließend die ganze Nacht auf der Wache festgehalten.

Was folgte, war eine Vernehmung wegen eines Verbrechens, das er nie begangen hatte, alles wegen eines fehlerhaften Erkennungssystems.

Williams’ Fall wurde zwei Wochen nach seiner Verhaftung fallen gelassen, aber im größeren Kontext bedeutete dieser Vorfall viel mehr und hat massive Auswirkungen auf die Privatsphäre. Mit der zunehmenden Verwendung von Gesichtserkennungssoftware durch Regierungen und Strafverfolgungsbehörden könnte dieser Fall der Beginn von ernsthaften Verletzungen sein, die bereits in Ländern wie China im Gange sind, aber noch nicht in den Vereinigten Staaten, zumindest nicht öffentlich bekannt.

Eine solche Verletzung ist, dass Williams’ DNA-Probe, sein Foto und seine Fingerabdrücke jetzt alle aufgrund der Technologie aufgezeichnet sind. Nicht nur das, sondern seine Verhaftung ist auch aktenkundig.

Private Unternehmen und Strafverfolgung

Williams’ Fall kommt zu einem Zeitpunkt, an dem große Unternehmen wie IBM, Microsoft und Amazon ihre Gesichtserkennungstechnologie nicht mehr an Strafverfolgungsbehörden liefern.

Das erste große Unternehmen, das dies tat, war IBM, als CEO Arvind Krishna einen Brief an den Kongress schrieb, in dem er mitteilte, dass das Unternehmen keine allgemeine Gesichtserkennung oder Analyse-Software mehr anbieten wird. Darüber hinaus stellte das Unternehmen seine Forschung und Entwicklung dieser Technologie ein.

“IBM lehnt jede Verwendung von [Gesichtserkennungstechnologie] ab und wird sie nicht dulden, einschließlich der Gesichtserkennungstechnologie, die von anderen Anbietern angeboten wird, für Massenüberwachung, Rassenprofilierung, Verletzungen von Grundrechten und Freiheiten oder für jeden Zweck, der nicht mit unseren Werten und Grundsätzen von Vertrauen und Transparenz vereinbar ist”, heißt es in dem Brief. “Wir glauben, dass es jetzt an der Zeit ist, eine nationale Debatte über die Verwendung von Gesichtserkennungstechnologie durch inländische Strafverfolgungsbehörden zu beginnen.”

Amazon folgte diesem Beispiel, als es eine einjährige Aussetzung der Verwendung der Gesichtserkennungsplattform Rekognition durch Strafverfolgungsbehörden ankündigte.

Die Ankündigung erfolgte nur wenige Tage nach IBMs Entscheidung.

Eine der wichtigsten Arbeiten, die zu dem Thema Diskriminierung und Gesichtserkennungstechnologie durchgeführt wurden, war ein 2018-Papier, das von Joy Buolamwini und Timnit Gebru co-autorisiert wurde. Buolamwini ist eine Forscherin am MIT Media Lab, und Gebru ist eine Mitgliederin bei Microsoft Research.

Das 2018-Papier fand heraus, dass “maschinelle Lernalgorithmen aufgrund von Klassen wie Rasse und Geschlecht diskriminieren können”, unter anderem.

Der Fall von Robert Julian-Borchak Williams ist extrem besorgniserregend für viele, die in den Vereinigten Staaten leben, aber es ist auch ein Indikator für das, was weltweit passiert. Die Verwendung von Gesichtserkennungstechnologie durch Regierungen und Strafverfolgungsbehörden ist gerade erst im Gange, und es gibt sehr wenig, um zu verhindern, dass sie unethisch verwendet wird. Ob es sich um die weit verbreitete Verwendung von Gesichtserkennungstechnologie in China zur Überwachung oder um den Fall von Williams, der in den Vereinigten Staaten fälschlicherweise identifiziert wurde, handelt, die Technologie öffnet die Weltbevölkerung für eine Reihe neuer Verletzungen von Privatsphäre und Menschenrechten, die bisher nicht existierten.