Wachsende Forderungen nach AI-Regulierung nach Wochen von Nachrichtenberichten

In den letzten Wochen gibt es wachsende Forderungen nach einer stärkeren Regulierung künstlicher Intelligenz (KI). Die Besorgnis kommt nach verschiedenen Nachrichtenberichten, die das Potenzial für Missbrauch der Technologie gezeigt haben. Jetzt werden mit der Veröffentlichung des viel erwarteten Weißbuchs über künstliche Intelligenz der Europäischen Kommission (EU) noch mehr Fragen aufgeworfen, das erste pan-nationale Versuch, KI zu regulieren. Gleichzeitig veröffentlichte das White House Office of Science and Technology Policy (OSTP) einen Bericht über seine American Artificial Intelligence Initiative.

Bevor die EU ihr Weißbuch veröffentlichte, berichtete The Intercept über eine Nachrichtengeschichte über geleakte interne Dokumente der Europäischen Union. Laut den Dokumenten erwog die EU die Schaffung eines Netzwerks von Gesichtserkennungsdatenbanken in ganz Europa. Die nationalen Polizeikräfte von 10 EU-Mitgliedstaaten erstellten einen Bericht, in dem die Schaffung und Vernetzung der Datenbanken in jedem Mitgliedstaat gefordert wurde. Viele befürchten, dass die Schaffung solcher Datenbanken unweigerlich mit ähnlichen Datenbanken in den Vereinigten Staaten verbunden wird, was zu einer Konsolidierung großer Mengen biometrischer Daten führen würde. Viele erwarteten, dass das Weißbuch der EU einen Verbot von Gesichtserkennung vorschlagen würde, aber es war nicht darin enthalten.

Laut Edin Omanovic, Advocacy Director für Privacy International, “ist dies besorgniserregend auf nationaler Ebene und auf europäischer Ebene, besonders da einige EU-Länder autoritärer Regierungen zuneigen.”

Eine der großen Nachrichtengeschichten der letzten Wochen, die von einer New York Times-Untersuchung im Januar ausgelöst wurde, hat mit dem Start-up Clearview AI zu tun. Die Gesichtserkennungs-App des Unternehmens identifiziert Menschen durch die Verwendung einer Datenbank von Bildern, die aus sozialen Medien stammen. Die App vergleicht ein Foto mit der Datenbank von über 3 Milliarden Bildern von Seiten wie Facebook, Venmo und Youtube. Sobald die App Übereinstimmungen findet, antwortet sie mit Links zu den Seiten, auf denen die Fotos ursprünglich stammten. Diese Technologie könnte zur Entdeckung persönlicher Details über eine Person führen. Laut dem Bericht wurde die App von über 600 Strafverfolgungsbehörden verwendet. Während Clearviews Datenbank über 3 Milliarden Bilder enthält, enthält die Datenbank des FBI nur 641 Millionen Bilder von US-Bürgern.

Die Geschichte ist erneut aufgeflammt mit einem neuen Bericht von BuzzFeed News letzte Woche. Laut dem Bericht hat das Unternehmen die Ausweitung auf mehr als nur Strafverfolgungszwecke in Betracht gezogen, mit Einzelhandel, Immobilien, Bankwesen und internationalen Märkten. Der Bericht besagt auch, dass die Gesichtserkennungs-App bereits an Tausende von Organisationen auf der ganzen Welt verkauft und von der Justizbehörde, ICE, Macys, Walmart und der NBA verwendet wurde. Vielleicht am problematischsten auf der Liste der Kunden ist ein souveräner Reichtumsfonds in den Vereinigten Arabischen Emiraten und Tausende von Regierungsstellen.

Die neuen Entwicklungen haben bei Datenschützern Bedenken hinsichtlich möglicher Massenüberwachungszwecke aufgeworfen. Ein weiteres Anliegen ist die Möglichkeit von Ungenauigkeiten bei der Technologie, die zu einer gezielten Verfolgung unschuldiger Personen durch die Strafverfolgungsbehörden führen könnte. Neben allen Datenschutzbedenken drohen Unternehmen wie Facebook, Google und Twitter mit rechtlichen Schritten. Neben privaten rechtlichen Schritten haben mindestens zwei US-Senatoren angekündigt, dass sie das Unternehmen überprüfen werden.

Ein Beispiel für den Missbrauch dieser Technologie kann innerhalb der US-Immigrations- und Zollbehörde (ICE) gesehen werden. The Washington Post berichtete letzte Woche, dass ICE-Beamte die Erlaubnis erhalten haben, Gesichtserkennungstechnologie zu verwenden, um Millionen von Fahrerlaubnisfotos in Maryland zu durchsuchen, und sie können dies ohne Zustimmung des Staates oder des Gerichts tun.

Laut Harrison Rudolph, einem Senior-Associate am Center on Privacy and Technology der Georgetown University Law School, “verwendet ICE biometrische Informationen im Verborgenen, ohne staatliche oder öffentliche Zustimmung, um die verletzlichsten Menschen zu jagen.”

Dies sind nur einige der öffentlichsten Beispiele dafür, wie diese Technologie verwendet wird, aber viel mehr geschieht hinter den Kulissen. Deshalb gibt es eine verstärkte Forderung nach Prüfung und Regulierung. Erhöhte Transparenz, sei es freiwillig oder durch investigative Berichterstattung, bringt viele Praktiken ans Licht. Ohne das Verständnis der Öffentlichkeit für künstliche Intelligenz und ihre möglichen Auswirkungen auf die Wirtschaft, Regierung, Strafverfolgung, Überwachung und jeden anderen Aspekt der Gesellschaft gibt es wenig Hoffnung, dass Unternehmen und Regierungen sich selbst regulieren. Die Gesellschaft sieht sowohl die enormen Vorteile von KI als auch die massiven Bedenken, und all dies geschieht zu schnell, als dass Unternehmen, Regierungen und Einzelpersonen mithalten können.