AI-Now-Institut warnt vor Missbrauch von Emotions-Erkennungs-Software und anderen ethischen Problemen

Das AI-Now-Institut hat einen Bericht veröffentlicht, in dem es Gesetzgeber und andere Regulierungsbehörden auffordert, strenge Grenzen für die Verwendung von Emotions-Erkennungstechnologie zu setzen und sie in Fällen zu verbieten, in denen sie zur Entscheidungsfindung bei der Einstellung von Mitarbeitern oder der Zulassung von Studenten verwendet werden könnte. Darüber hinaus enthält der Bericht eine Reihe von Vorschlägen zu verschiedenen Themen im Bereich der künstlichen Intelligenz.

Das AI-Now-Institut ist ein Forschungsinstitut mit Sitz an der NYU, das die Aufgabe hat, die Auswirkungen von künstlicher Intelligenz auf die Gesellschaft zu untersuchen. AI Now veröffentlicht jährlich einen Bericht, in dem die Ergebnisse der Forschung zu künstlicher Intelligenz und den ethischen Auswirkungen ihrer aktuellen Verwendung präsentiert werden. Wie die BBC berichtet, behandelte der diesjährige Bericht Themen wie algorithmische Diskriminierung, mangelnde Vielfalt in der künstlichen Intelligenz-Forschung und Arbeitsplatzprobleme.

Affekt-Erkennung, der technische Begriff für Emotions-Erkennungsalgorithmen, ist ein rasant wachsendes Forschungsgebiet im Bereich der künstlichen Intelligenz. Diejenigen, die diese Technologie zur Entscheidungsfindung einsetzen, behaupten oft, dass die Systeme verlässliche Informationen über die emotionalen Zustände von Menschen liefern können, indem sie Mikroausdrücke sowie andere Hinweise wie Tonfall und Körpersprache analysieren. Das AI-Now-Institut weist darauf hin, dass die Technologie in einer Vielzahl von Anwendungen eingesetzt wird, wie z.B. bei der Entscheidung, wen einzustellen, bei der Festlegung von Versicherungspreisen und bei der Überwachung, ob Schüler im Unterricht aufmerksam sind.

Prof. Kate Crawford, Mitbegründerin von AI Now, erklärte, dass es oft angenommen wird, dass menschliche Emotionen mit relativ einfachen Modellen genau vorhergesagt werden können. Crawford sagte, dass einige Unternehmen die Entwicklung ihrer Software auf der Arbeit von Paul Ekman basieren, einem Psychologen, der die Theorie aufgestellt hat, dass es nur sechs grundlegende Arten von Emotionen gibt, die im Gesicht registriert werden. Allerdings weist Crawford darauf hin, dass seit Ekmans Theorie aufgestellt wurde, Studien gezeigt haben, dass es eine viel größere Variabilität in Gesichtsausdrücken gibt und dass Ausdrücke sich leicht über Situationen und Kulturen ändern können.

“Zugleich mit der Einführung dieser Technologien zeigen zahlreiche Studien, dass es… keine wesentlichen Beweise dafür gibt, dass Menschen eine konsistente Beziehung zwischen der Emotion, die sie empfinden, und dem Ausdruck in ihrem Gesicht haben”, sagte Crawford der BBC.

Aus diesem Grund argumentiert das AI-Now-Institut, dass ein großer Teil der Affekt-Erkennung auf unzuverlässigen Theorien und fragwürdiger Wissenschaft basiert. Daher sollten Emotions-Erkennungssysteme nicht eingesetzt werden, bis weitere Forschung durchgeführt wurde und dass “Regierungen speziell die Verwendung von Affekt-Erkennung in Entscheidungsprozessen mit hohen Einsätzen verbieten sollten”. AI Now argumentiert, dass wir insbesondere die Verwendung der Technologie in “sensiblen sozialen und politischen Kontexten” stoppen sollten, Kontexte, die Beschäftigung, Bildung und Polizeiarbeit umfassen.

Mindestens ein Unternehmen, das sich auf die Entwicklung von Affekt-Erkennungstechnologie spezialisiert hat, Emteq, stimmt zu, dass es Regulierungen geben sollte, um den Missbrauch der Technologie zu verhindern. Der Gründer von Emteq, Charles Nduka, erklärte der BBC, dass zwar AI-Systeme unterschiedliche Gesichtsausdrücke genau erkennen können, es jedoch keine einfache Zuordnung von Ausdruck zu Emotion gibt. Nduka äußerte Bedenken, dass eine Regulierung zu weit gehen und die Forschung behindern könnte, und betonte, dass, wenn “Dinge verboten werden, es sehr wichtig ist, dass die Leute das Kind nicht mit dem Bade ausgeschüttet werden”.

Wie NextWeb berichtet, empfiehlt AI Now auch eine Reihe von Richtlinien und Normen, die die künstliche Intelligenz-Branche in Zukunft leiten sollten.

AI Now betont die Notwendigkeit, dass die künstliche Intelligenz-Branche die Arbeitsplätze diverser gestaltet und dass Arbeitnehmer das Recht haben sollten, Bedenken hinsichtlich invasiver und ausbeuterischer künstlicher Intelligenz zu äußern. Technologie-Arbeiter sollten auch das Recht haben, zu wissen, ob ihre Bemühungen zur Konstruktion schädlicher oder unethischer Arbeit eingesetzt werden.

AI Now schlägt auch vor, dass Gesetzgeber Schritte unternehmen sollten, um die informierte Zustimmung für die Verwendung von Daten, die aus gesundheitsbezogener künstlicher Intelligenz stammen, zu erfordern. Darüber hinaus wird empfohlen, dass der Datenschutz ernster genommen werden sollte und dass die Staaten Gesetze zum Schutz biometrischer Daten für private und öffentliche Einrichtungen entwerfen sollten.

Schließlich rät das Institut, dass die künstliche Intelligenz-Branche globaler denken und handeln sollte, um die größeren politischen, gesellschaftlichen und ökologischen Auswirkungen von künstlicher Intelligenz anzugehen. Es wird empfohlen, dass ein erheblicher Aufwand unternommen werden sollte, um den Einfluss von künstlicher Intelligenz auf geografische Verdrängung und Klima zu berücksichtigen, und dass Regierungen den Klimaeinfluss der künstlichen Intelligenz-Branche öffentlich zugänglich machen sollten.