Ethische Überlegungen bei der Entwicklung von KI für Emotionserkennung

Künstliche Intelligenz für Emotionsregulation ist einer der neuesten technologischen Fortschritte im Bereich des maschinellen Lernens. Obwohl sie großes Potenzial zeigt, sind ethische Fragen bereit, ihre Akzeptanzrate und Langlebigkeit zu beeinflussen. Können KI-Entwickler sie überwinden? 

Was ist Emotionserkennung-KI? 

Emotionserkennung-KI ist eine Art maschineller Lernmodell. Sie verlässt sich oft auf Computer-Vision-Technologie, die Gesichtsausdrücke erfasst und analysiert, um Stimmungen in Bildern und Videos zu entschlüsseln. Sie kann jedoch auch auf Audio-Snippets hören, um den Tonfall der Stimme oder geschriebenen Text zu analysieren, um die Stimmung der Sprache zu bewerten.

Dieser Algorithmus stellt faszinierenden Fortschritt im Bereich der KI dar, da Modelle bisher nicht in der Lage waren, menschliche Gefühle zu verstehen. Während große Sprachmodelle wie ChatGPT Stimmungen und Persönlichkeiten überzeugend simulieren können, können sie nur logisch Wörter zusammenfügen – sie können nichts fühlen und zeigen keine emotionale Intelligenz. Während ein Emotionserkennungsmodell nicht in der Lage ist, Gefühle zu haben, kann es sie dennoch erkennen und katalogisieren. Diese Entwicklung ist bedeutend, da sie darauf hindeutet, dass KI bald in der Lage sein könnte, echte Freude, Traurigkeit oder Wut zu verstehen und zu zeigen. Technologische Sprünge wie diese deuten auf beschleunigten Fortschritt hin.

Anwendungsbereiche für KI-Emotionserkennung

Unternehmen, Bildungseinrichtungen, Berater und Gesundheitsfachleute sind einige der Gruppen, die KI für Emotionserkennung nutzen können.

Risikobewertung im Büro

Personalabteilungen können Algorithmen verwenden, um Stimmungsanalysen auf E-Mail-Korrespondenz oder In-App-Chats zwischen Teammitgliedern durchzuführen. Alternativ können sie ihren Algorithmus in ihr Überwachungssystem oder Computer-Vision-System integrieren. Benutzer können die Stimmung verfolgen, um Metriken wie Fluktuationsrisiko, Burnout-Rate und Mitarbeiterzufriedenheit zu berechnen.

Unterstützung von Kundenservice-Mitarbeitern

Einzelhändler können interne KI-Kundenservice-Mitarbeiter für Endbenutzer oder virtuelle Assistenten verwenden, um hochstressige Situationen zu lösen. Da ihr Modell Stimmungen erkennen kann, kann es Deeskalationstechniken vorschlagen oder seinen Ton ändern, wenn es realisiert, dass ein Verbraucher wütend wird. Gegenmaßnahmen wie diese können die Kundenzufriedenheit und -bindung verbessern. 

Unterstützung von Schülern im Klassenzimmer

Bildungseinrichtungen können diese KI verwenden, um remote Lernende davon abzuhalten, zurückzufallen. Ein Startup hat bereits sein Tool verwendet, um Muskelpunkte auf den Gesichtern von Schülern zu messen, während es ihre Geschwindigkeit und Noten katalogisierte. Diese Methode bestimmt ihre Stimmung, Motivation, Stärken und Schwächen. Der Gründer des Startups behauptet, sie erzielen 10% bessere Noten in Tests, wenn sie die Software verwenden.

Durchführung von Marktforschung im Unternehmen 

Unternehmen können interne Marktforschung mit einem Emotionserkennungsmodell durchführen. Es kann ihnen helfen, genau zu verstehen, wie ihre Zielgruppe auf ihr Produkt, ihre Dienstleistung oder ihr Marketing-Material reagiert, und ihnen wertvolle datengetriebene Erkenntnisse liefern. Als Ergebnis können sie ihre Zeit bis zum Markteintritt beschleunigen und ihren Umsatz steigern. 

Das Problem mit der Verwendung von KI zur Emotionserkennung

Forschungsergebnisse deuten darauf hin, dass die Genauigkeit stark von den Trainingsdaten abhängt. Eine Forschungsgruppe – die versuchte, Gefühle aus Bildern zu entschlüsseln – bewies diesen Begriff anekdotisch, als ihr Modell eine Genauigkeit von 92,05% im Japanese Female Facial Expression-Datensatz und eine Genauigkeit von 98,13% im Extended Cohn-Kanade-Datensatz erzielte.

Während der Unterschied zwischen 92% und 98% unwesentlich erscheinen mag, ist er wichtig – dieser geringe Unterschied könnte erhebliche Auswirkungen haben. Als Referenz kann eine Datensatz-Vergiftungsrate von nur 0,001% effektiv sein, um Model-Backdoors zu etablieren oder absichtlich Fehlklassifizierungen zu verursachen. Selbst ein Bruchteil eines Prozentsatzes ist bedeutend.

Darüber hinaus zeigen Studien, obwohl sie vielversprechend erscheinen – Genauigkeitsraten über 90% zeigen Potenzial – Forscher führen sie in kontrollierten Umgebungen durch. In der realen Welt sind unscharfe Bilder, gefälschte Gesichtsausdrücke, schlechte Winkel und subtile Gefühle viel häufiger. Mit anderen Worten: KI kann möglicherweise nicht konsistent performen.

Aktueller Stand der Emotionserkennung-KI

Algorithmische Stimmungsanalyse ist der Prozess der Verwendung eines Algorithmus, um zu bestimmen, ob der Ton des Textes positiv, neutral oder negativ ist. Diese Technologie ist möglicherweise die Grundlage für moderne Emotionserkennungsmodelle, da sie den Weg für algorithmische Stimmungsbewertungen ebnete. Ähnliche Technologien wie Gesichtserkennungssoftware haben auch zum Fortschritt beigetragen. 

Heutige Algorithmen können hauptsächlich nur einfache Stimmungen wie Freude, Traurigkeit, Wut, Angst und Überraschung mit unterschiedlichen Genauigkeitsgraden erkennen. Diese Gesichtsausdrücke sind angeboren und universell – sie sind natürlich und global verstanden – also ist es relativ einfach, ein KI-Modell zu trainieren, um sie zu identifizieren. 

Darüber hinaus sind grundlegende Gesichtsausdrücke oft übertrieben. Menschen runzeln die Stirn, wenn sie wütend sind, falten die Augenbrauen, wenn sie traurig sind, lächeln, wenn sie glücklich sind, und weiten die Augen, wenn sie schockiert sind. Diese einfachen, dramatischen Blicke sind leicht zu unterscheiden. Komplexere Emotionen sind schwieriger zu identifizieren, da sie entweder subtil oder grundlegende Gesichtsausdrücke kombinieren.

Da dieser Teil der KI größtenteils in Forschung und Entwicklung bleibt, hat er noch nicht begonnen, komplexe Gefühle wie Sehnsucht, Scham, Trauer, Eifersucht, Erleichterung oder Verwirrung abzudecken. Obwohl es wahrscheinlich ist, dass er dies in Zukunft tun wird, gibt es keine Garantie, dass er in der Lage sein wird, sie alle zu interpretieren.

In Wirklichkeit können Algorithmen möglicherweise nie mit Menschen mithalten. Als Referenz ist OpenAI’s GPT-4-Datensatz etwa 1 Petabyte groß, während ein einzelner Kubikmillimeter des menschlichen Gehirns etwa 1,4 Petabyte an Daten enthält. Neurologen können nicht vollständig verstehen, wie das Gehirn Emotionen wahrnimmt, obwohl sie seit Jahrzehnten Forschung betreiben, also kann es schwierig sein, ein hochpräzises KI-Modell zu erstellen.

Während die Verwendung dieser Technologie für Emotionserkennung Vorläufer hat, ist dieses Feld immer noch technisch in den Kinderschuhen. Es gibt eine Fülle von Forschung über das Konzept, aber nur wenige Beispiele für eine groß angelegte Umsetzung. Einige Anzeichen deuten darauf hin, dass eine verzögerte Akzeptanz auf Bedenken hinsichtlich inkonsistenter Genauigkeit und ethischen Fragen zurückzuführen sein könnte.

Ethische Überlegungen für KI-Entwickler

Laut einer Umfrage stimmen 67% der Befragten zu, dass KI eher oder viel strenger reguliert werden sollte. Um die Menschen zu beruhigen, sollten Entwickler Bias minimieren, sicherstellen, dass ihre Modelle wie erwartet funktionieren, und Ergebnisse verbessern. Diese Lösungen sind möglich, wenn sie ethische Überlegungen während der Entwicklung priorisieren.

1. Einvernehmliche Datenerfassung und -nutzung 

Einvernehmen ist alles in einem Zeitalter, in dem die KI-Regulierung zunimmt. Was passiert, wenn Mitarbeiter herausfinden, dass ihre Gesichtsausdrücke ohne ihr Wissen katalogisiert werden? Müssen Eltern ihre Zustimmung für eine auf Bildung basierende Stimmungsanalyse erteilen oder können Schüler selbst entscheiden?

Entwickler sollten explizit offenlegen, welche Informationen das Modell sammeln wird, wann es in Betrieb sein wird, wofür die Analyse verwendet wird und wer auf diese Details zugreifen kann. Zusätzlich sollten sie Opt-out-Funktionen einbeziehen, damit Einzelpersonen ihre Berechtigungen anpassen können. 

2. Anonymisierte Stimmungsanalyse-Ausgabe 

Datenanonymisierung ist sowohl ein Datenschutzproblem als auch ein Sicherheitsproblem. Entwickler sollten die Emotionsinformationen, die sie sammeln, anonymisieren, um die beteiligten Personen zu schützen. Sie sollten zumindest in Betracht ziehen, eine Verschlüsselung zu verwenden. 

3. Menschliche Entscheidungsfindung im Entscheidungsprozess

Der einzige Grund, KI zu verwenden, um den emotionalen Zustand einer Person zu bestimmen, ist, um Entscheidungen zu treffen. Entwickler sollten menschliche Sicherheitsvorkehrungen im Entscheidungsprozess nutzen, um unerwartetes Verhalten zu minimieren. 

4. Menschliche Rückmeldung für KI-Ausgabe

Selbst wenn ein Algorithmus fast 100% Genauigkeit hat, wird er immer noch Falschpositivergebnisse produzieren. Angesichts der Tatsache, dass es nicht ungewöhnlich ist, dass Modelle 50% oder 70% erreichen – und dass dies ohne Berücksichtigung von Bias oder Halluzinationsproblemen ist – sollten Entwickler die Implementierung eines Rückmeldesystems in Betracht ziehen. 

Menschen sollten in der Lage sein, zu überprüfen, was KI über ihren emotionalen Zustand sagt, und Einspruch erheben, wenn sie glauben, dass es falsch ist. Obwohl ein solches System Schutzvorkehrungen und Rechenschaftspflichten erfordern würde, würde es negative Auswirkungen minimieren, die durch ungenaue Ausgaben entstehen. 

Die Folgen der Missachtung von Ethik

Ethische Überlegungen sollten für KI-Ingenieure, maschinelle Lernentwickler und Unternehmenseigner eine Priorität sein, da sie sie betrifft. Angesichts der zunehmend unsicheren öffentlichen Meinung und der verschärften Vorschriften können die Folgen der Missachtung von Ethik erheblich sein.