Chatroulette kehrt mit Hilfe der KI-gesteuerten Inhaltsmoderation zurück

Chatroulette wurde in den frühen 2010er Jahren berühmt, weil es Menschen ermöglichte, mit anderen, zufälligen Menschen zu sprechen. Berühmt wurde die Seite jedoch auch wegen der Leichtigkeit, mit der Menschen auf Nacktheit und andere „R-Rated“-Inhalte stoßen konnten. Wie von Wired berichtet, Chatroulette strebt nun danach mach ein Comeback mit besserer Inhaltsmoderation mithilfe von KI.

KI-gesteuerte Inhaltsmoderation

Da KI- und Computer-Vision-Algorithmen immer ausgefeilter und zuverlässiger geworden sind, haben sich ihre Anwendungen zur Erkennung anstößiger Inhalte verbessert. Dies ist ein Segen für jedes Unternehmen, das Benutzern das Hochladen oder anderweitige Erstellen von Inhalten ermöglicht. Unternehmen wie Youtube, Facebook und Twitter Setzen Sie KI-gestützte Inhaltsfilterungsalgorithmen ein zu Umgang mit anstößigem Material. Vor allem Chatroulette war einst von Nacktheit und anderen obszönen Handlungen geplagt, die viele Nutzer abschreckten. Die Pandemie hat erneutes Interesse an Chatroulette geweckt, das dank Fortschritten in der KI-Bilderkennung von Benutzern gestreamte Inhalte effektiver überwachen kann.

Im Jahr 2019 gründete Chatroulette-Gründer Andrey Ternovskiy das Unternehmen in der Schweiz mit dem Ziel, mit professionellen Managern und KI-Spezialisten zusammenzuarbeiten. Andrew Done, Experte für maschinelles Lernen, wurde von Ternovskiy beauftragt, die Entwicklung der KI-Technologie für das neue Chatroulette zu überwachen. Done wurde Anfang des Jahres CEO und fügte dem Team weitere Produktforscher und Manager hinzu.

Unter der neuen Führung nutzte Chatroulette den Anstieg des Traffics, um Nutzerrecherchen durchzuführen und verschiedene Methoden zur Moderation von Inhalten zu testen. Das Chatroulette-Team hat zwei neue Chat-Kanäle entworfen. Ein Chat-Kanal heißt Random Chat und soll anstößige Inhalte ausschließen, während der andere Kanal Unmoderiert heißt. Diese Aufteilung wird vorgenommen, um Benutzer anzulocken, die daran interessiert sind, mit anderen Menschen in Kontakt zu treten, ohne sich über anstößige Inhalte Gedanken machen zu müssen. Der ungefilterte Kanal wird schließlich Mitte 2021 abgeschafft.

Partnerschaft mit AI Company Hive

Chatroulette ist eine Partnerschaft mit einem KI-Unternehmen eingegangen Bienenstock um KIs zur Nacktheitserkennung zu entwickeln. Hive ist auch für die Moderation von Reddit-Inhalten verantwortlich und vermittelt so Erfahrung mit der Verwaltung von Inhalten in einem großen sozialen Netzwerk. Laut Done ist das KI-Überwachungssystem von Hive so genau, dass die Einbeziehung menschlicher Moderatoren die Genauigkeit der Moderation insgesamt tatsächlich beeinträchtigt. Hive trainiert KI-Modelle anhand von Daten, die von einer Belegschaft von über 2 Millionen verteilten Mitarbeitern mit Anmerkungen versehen wurden. Die verteilten Mitarbeiter suchen nach anstößigen Inhalten wie Nacktheit und dem Vorhandensein von Schusswaffen und kommentieren die Bilder, um sie beim Training der Hive-KI zu verwenden. Während Chatroulette versuchte, das KI-System Cloud Vision von Google und Amazon Rekognition zur Unterstützung bei der Moderation von Inhalten zu verwenden, stellte es letztendlich fest, dass die KI von Hive für seine Anforderungen am genauesten und zuverlässigsten war.

Die KI von Hive hat über 600 Millionen Videobilder von Chatroulette verarbeitet. Bei jeder Verbindung zwischen zwei Benutzern werden drei Frames erstellt. Zu Beginn der Verbindung wird für beide Benutzer ein Frame erstellt, für den Benutzer, der die Verbindung beendet, wird ein Frame generiert. Inhalte, die gegen die Nutzungsbedingungen verstoßen, können Berichten zufolge innerhalb einer einzigen Sekunde identifiziert werden. Eine Warnmeldung wird an einen menschlichen Moderator gesendet, der den Benutzer entweder sperren oder warnen kann.

Zu Beginn des Jahres verzeichnete Chatroulette etwa 4 Millionen einzelne Besucher pro Monat, was die meisten Besucher seit Anfang 2016 für das Unternehmen darstellt. Die Bemühungen, obszöne Inhalte einzudämmen, scheinen sich ausgezahlt zu haben, denn mittlerweile sind etwa 34 % davon Frauen alle Benutzer, gegenüber nur 11 % der Benutzer im Jahr 2018.

Während Social-Media-Unternehmen kommen und gehen, scheint Chatroulette wieder an Bedeutung gewonnen zu haben. Ternovskiy räumt jedoch ein, dass das Unternehmen über die bloße Moderation von Inhalten hinaus noch andere Probleme zu lösen hat. Laut Ternovskiy kehren fast 90 % der Erstbesucher nie wieder zurück, da sie ihre Interaktionen als mittelmäßig empfinden.

„Die Herausforderung besteht wirklich darin, etwas Wertvolles zu bauen, das das Interesse der Menschen weckt, es regelmäßig zu nutzen, anstatt dass es nur eine einmalige Sache ist.“ erklärte Ternovskiy über Wired.