Startups entwickeln KI-Tools zur Erkennung von E-Mail-Belästigung

Seit die Me Too-Bewegung Ende 2017 an Bedeutung gewann, wird Vorfällen sexueller Belästigung, einschließlich Belästigung am Arbeitsplatz und Belästigung per E-Mail oder Instant Messaging, immer mehr Aufmerksamkeit geschenkt.

Wie von The Guardian berichtet, KI-Forscher und -Ingenieure haben Tools entwickelt, um Belästigungen durch Textkommunikation zu erkennen, sogenannte MeTooBots. MeTooBots werden von Unternehmen auf der ganzen Welt eingesetzt, um potenziell schädliche und belästigende Kommunikation zu kennzeichnen. Ein Beispiel hierfür ist ein Bot der Firma Nex AI, der derzeit bei rund 50 verschiedenen Unternehmen im Einsatz ist. Der Bot nutzt einen Algorithmus, der Unternehmensdokumente, Chats und E-Mails untersucht und diese mit seinen Trainingsdaten zu Mobbing- oder Belästigungsnachrichten vergleicht. Nachrichten, die als potenziell belästigend oder schädlich gelten, können dann zur Überprüfung an einen Personalmanager gesendet werden, obwohl Nex AI die spezifischen Begriffe, nach denen der Bot in den von ihm analysierten Kommunikationen sucht, nicht preisgegeben hat.

Andere Startups haben ebenfalls KI-gestützte Tools zur Belästigungserkennung entwickelt. Das KI-Startup Spot besitzt einen Chatbot, der es Mitarbeitern ermöglicht, Vorwürfe sexueller Belästigung anonym zu melden. Der Bot wird Fragen stellen und Ratschläge geben, um weitere Details zu sammeln und die Untersuchung des Vorfalls voranzutreiben. Spot möchte HR-Teams dabei helfen, sensibel mit Belästigungsproblemen umzugehen und gleichzeitig die Wahrung der Anonymität sicherzustellen.

Laut The Guardian erklärte Prof. Brian Subirana, KI-Professor am MIT und Harvard, dass Versuche, KI zur Erkennung von Belästigungen einzusetzen, ihre Grenzen haben. Belästigung kann sehr subtil und schwer zu erkennen sein und manifestiert sich häufig nur als Muster, das bei der Untersuchung wochenlanger Daten zum Vorschein kommt. Bots können bislang auch nicht über die Erkennung bestimmter Triggerwörter hinausgehen und die breitere zwischenmenschliche oder kulturelle Dynamik analysieren, die möglicherweise eine Rolle spielt. Trotz der Komplexität der Erkennung von Belästigungen glaubt Subirana, dass Bots eine Rolle bei der Bekämpfung von Online-Belästigungen spielen könnten. Subirana konnte sehen, dass die Bots dazu verwendet werden, Menschen darin zu schulen, Belästigungen zu erkennen, wenn sie sie sehen, und so eine Datenbank mit potenziell problematischen Nachrichten zu erstellen. Subirana gab außerdem an, dass es einen Placebo-Effekt geben könnte, der die Wahrscheinlichkeit verringert, dass Menschen ihre Kollegen belästigen, selbst wenn sie vermuten, dass ihre Nachrichten überprüft werden, selbst wenn dies nicht der Fall ist.

Während Subirana glaubt, dass Bots potenzielle Einsatzmöglichkeiten bei der Bekämpfung von Belästigungen haben, argumentierte Subirana auch, dass die Vertraulichkeit von Daten und die Privatsphäre ein großes Anliegen seien. Subirana gibt an, dass eine solche Technologie bei Missbrauch möglicherweise eine Atmosphäre des Misstrauens und des Misstrauens schaffen könnte. Sam Smethers, Geschäftsführerin der Frauenrechts-NGO Fawcett Society, äußerte sich ebenfalls besorgt darüber, wie die Bots missbraucht werden könnten. Smethers erklärte:

„Wir möchten sorgfältig prüfen, wie die Technologie entwickelt wird, wer dahinter steckt und ob der gewählte Ansatz von einer Arbeitsplatzkultur geprägt ist, die darauf abzielt, Belästigung zu verhindern und Gleichstellung zu fördern, oder ob es sich tatsächlich nur um einen anderen Weg handelt.“ ihre Mitarbeiter zu kontrollieren.“

Methoden zum Einsatz von Bots zur Erkennung von Belästigungen und zum Schutz der Anonymität und Privatsphäre müssen zwischen Bot-Entwicklern, Unternehmen und Regulierungsbehörden ausgearbeitet werden. Zu den möglichen Methoden, die Vorhersagekraft von Bots und KI zu nutzen und gleichzeitig die Privatsphäre zu schützen, gehört die Anonymisierung der Kommunikation. Beispielsweise könnten vom Bot Berichte erstellt werden, die nur das Vorhandensein potenziell schädlicher Sprache umfassen und zählen, wie oft die möglicherweise belästigende Sprache vorkommt. Die Personalabteilung könnte dann nach Sensibilisierungsseminaren eine Vorstellung davon bekommen, ob die Verwendung giftiger Sprache zurückgeht, oder umgekehrt entscheiden, ob sie nach verstärkter Belästigung Ausschau halten sollte.

Trotz der Meinungsverschiedenheiten über den angemessenen Einsatz von maschinellen Lernalgorithmen und Bots zur Erkennung von Belästigungen scheinen sich beide Seiten darin einig zu sein, dass die letztendliche Entscheidung, bei Belästigungen einzugreifen, von einem Menschen getroffen werden sollte und dass Bots die Menschen immer nur auf übereinstimmende Muster aufmerksam machen sollten als definitiv zu sagen, dass es sich um eine Belästigung handelte.