Wachsende Forderungen nach AI-Regulierung nach Wochen von Nachrichtenberichten

In den letzten Wochen gibt es wachsende Forderungen nach einer stärkeren Regulierung künstlicher Intelligenz (KI). Die Besorgnis entsteht nach verschiedenen Nachrichtenberichten, die das Potenzial für Missbrauch der Technologie zeigen. Jetzt werden noch mehr Fragen aufgeworfen durch die Veröffentlichung des viel erwarteten Weißbuchs der Europäischen Kommission über künstliche Intelligenz, das der erste pan-nationale Versuch ist, KI zu regulieren. Gleichzeitig veröffentlichte das White House Office of Science and Technology Policy (OSTP) einen Bericht über seine American Artificial Intelligence Initiative.

Bevor das Weißbuch der EU veröffentlicht wurde, berichtete The Intercept über eine Nachrichtengeschichte bezüglich geleakter interner Dokumente der Europäischen Union. Laut den Dokumenten erwog die EU die Schaffung eines Netzwerks von Gesichtserkennungsdatenbanken in ganz Europa. Die nationalen Polizeikräfte von 10 EU-Mitgliedstaaten erstellten einen Bericht, der die Schaffung und Vernetzung der Datenbanken in jedem Mitgliedstaat forderte. Viele befürchten, dass die Schaffung solcher Datenbanken unweigerlich mit ähnlichen in den Vereinigten Staaten verbunden sein wird, was zu einer Konsolidierung großer Mengen an biometrischen Daten führen würde. Viele erwarteten, dass das Weißbuch der EU einen Verbot von Gesichtsregulierung vorschlagen würde, aber es war nicht darin enthalten.

Laut Edin Omanovic, Advocacy-Direktor von Privacy International, “ist dies besorgniserregend auf nationaler Ebene und auf europäischer Ebene, insbesondere da einige EU-Länder autoritärer werden.”

Eine der großen Nachrichtengeschichten der letzten Wochen, die von einer New York Times-Untersuchung im Januar ausgelöst wurde, hat mit dem Start-up Clearview AI zu tun. Die Gesichtserkennungs-App des Unternehmens identifiziert Personen durch die Verwendung einer Datenbank von Bildern, die aus sozialen Medien stammen. Die App vergleicht ein Foto mit der Datenbank von über 3 Milliarden Bildern von Seiten wie Facebook (META ), Venmo und Youtube. Sobald die App Übereinstimmungen findet, antwortet sie mit Links zu den Seiten, auf denen die Fotos ursprünglich stammten. Diese Technologie könnte zur Entdeckung von persönlichen Details über eine Person führen. Laut dem Bericht wurde die App von über 600 Strafverfolgungsbehörden verwendet. Während Clearviews Datenbank über 3 Milliarden Bilder enthält, enthält die Datenbank des FBI nur 641 Millionen Bilder von US-Bürgern.

Die Geschichte ist erneut aufgeflammt mit einem neuen Bericht von BuzzFeed News (BZFD ) letzte Woche. Laut dem Bericht erwog das Unternehmen, sich auf mehr als nur Strafverfolgungszwecke auszudehnen, mit Einzelhandel, Immobilien, Bankwesen und internationalen Märkten. Der Bericht besagt auch, dass die Gesichtserkennungs-App bereits an Tausende von Organisationen auf der ganzen Welt verkauft und von dem Justizministerium, ICE, Macy’s (M ), Walmart (WMT ) und der NBA verwendet wurde. Vielleicht am problematischsten auf der Liste der Kunden ist ein souveräner Reichtumsfonds in den Vereinigten Arabischen Emiraten und Tausende von Regierungsbehörden.

Die neuen Entwicklungen haben bei Datenschützern Bedenken hinsichtlich möglicher Massenüberwachungszwecke aufgeworfen. Ein weiteres Anliegen ist die Möglichkeit von Ungenauigkeiten bei der Technologie, die zu einer Zielsetzung unschuldiger Personen durch Strafverfolgungsbehörden führen könnte. Neben allen Datenschutzbedenken drohen Unternehmen wie Facebook, Google (GOOGL ) und Twitter mit rechtlichen Schritten. Neben privaten rechtlichen Schritten haben mindestens zwei US-Senatoren angekündigt, dass sie das Unternehmen untersuchen werden.

Ein Beispiel für den Missbrauch dieser Technologie kann innerhalb der US-Immigrations- und Zollbehörde (ICE) gesehen werden. The Washington Post berichtete letzte Woche, dass ICE-Beamte die Erlaubnis erhalten haben, Gesichtserkennungstechnologie zu verwenden, um Millionen von Fahrerlizenzfotos in Maryland zu durchsuchen, und dass sie dies ohne Zustimmung des Staates oder des Gerichts tun können.

Laut Harrison Rudolph, einem Senior-Associate am Center on Privacy and Technology der Georgetown University Law School, “verwendet ICE biometrische Informationen im Verborgenen, ohne staatliche oder öffentliche Zustimmung, um die verletzlichsten Menschen zu jagen.”

Dies sind nur einige der öffentlichsten Beispiele dafür, wie diese Technologie verwendet wird, aber viel mehr geschieht im Verborgenen. Deshalb gibt es einen erhöhten Ruf nach Prüfung und Regulierung. Erhöhte Transparenz, ob freiwillig oder durch investigativen Journalismus, bringt viele Praktiken ans Licht. Ohne das Verständnis der Öffentlichkeit für künstliche Intelligenz und ihre möglichen Auswirkungen auf die Wirtschaft, Regierung, Strafverfolgung, Überwachung und jeden anderen Aspekt der Gesellschaft, gibt es wenig Hoffnung für Regierungen und Unternehmen, sich selbst zu regulieren. Die Gesellschaft sieht sowohl die enormen Vorteile von KI als auch die massiven Bedenken, und all dies geschieht zu schnell für Unternehmen, Regierungen und Einzelpersonen, um Schritt zu halten.