Chatroulette kehrt mit Hilfe von künstlicher Intelligenz-gesteuerter Inhaltsmoderation zurück

Chatroulette wurde in den frühen 2010er Jahren berühmt, weil es Menschen ermöglichte, mit anderen, zufälligen Personen zu sprechen. Allerdings wurde die Website auch wegen der Leichtigkeit, mit der Menschen auf Nacktheit und andere “R-bewertete” Inhalte stoßen konnten, berüchtigt. Wie von Wired berichtet wurde, versucht Chatroulette nun, mit besserer Inhaltsmoderation, die durch künstliche Intelligenz unterstützt wird, ein Comeback zu machen.

Künstlicher Intelligenz-gesteuerter Inhaltsmoderation

Da künstliche Intelligenz und Computer-Vision-Algorithmen immer komplexer und zuverlässiger geworden sind, haben sich ihre Anwendungen für die Erkennung von unangemessenen Inhalten verbessert. Dies ist ein Segen für jedes Unternehmen, das es Benutzern ermöglicht, Inhalte hochzuladen oder auf andere Weise zu erstellen. Unternehmen wie Youtube, Facebook (META ) und Twitter verwenden künstliche Intelligenz-gesteuerte Inhalts-Filter-Algorithmen, um mit unangemessenen Materialien umzugehen. Chatroulette war insbesondere früher von Nacktheit und anderen obszönen Akten heimgesucht, die viele Benutzer vertrieben. Die Pandemie hat zu einem erneuten Interesse an Chatroulette geführt, das dank der Fortschritte in der künstlichen Intelligenz-Bilderkennung Inhalte, die von Benutzern gestreamt werden, effektiver überwachen kann.

Im Jahr 2019 gründete Chatroulette-Gründer Andrey Ternovskiy das Unternehmen in der Schweiz, mit dem Ziel, mit professionellen Managern und künstlicher Intelligenz-Spezialisten zusammenzuarbeiten. Der Maschinenlern-Experte Andrew Done wurde von Ternovskiy eingestellt, um die Entwicklung von künstlicher Intelligenz-Technologie für das neue Chatroulette zu überwachen. Done wurde Anfang dieses Jahres zum CEO ernannt und fügte dem Team weitere Produktforscher und Manager hinzu.

Unter der neuen Führung nutzte Chatroulette den Anstieg des Traffics, um Benutzerforschung durchzuführen und verschiedene Methoden der Inhaltsmoderation zu testen. Das Chatroulette-Team entwarf zwei neue Chat-Kanäle. Ein Chat-Kanal heißt Zufälliger Chat, der so konzipiert ist, dass er unangemessene Inhalte ausschließt, während der andere Kanal Unmoderierter Chat heißt. Diese Aufteilung wird vorgenommen, um Benutzer anzuziehen, die daran interessiert sind, mit anderen Menschen in Verbindung zu treten, ohne sich um unangemessene Inhalte sorgen zu müssen. Der unmoderierte Kanal wird schließlich Mitte 2021 eliminiert.

Partnerschaft mit dem künstlichen Intelligenz-Unternehmen Hive

Chatroulette hat eine Partnerschaft mit dem künstlichen Intelligenz-Unternehmen Hive geschlossen, um künstliche Intelligenz-gesteuerte Nacktheit-Erkennungssysteme zu entwickeln. Hive ist auch für die Moderation von Reddit-Inhalten verantwortlich, was ihnen Erfahrung bei der Verwaltung von Inhalten in einem großen sozialen Netzwerk gibt. Laut Done ist Hives künstliche Intelligenz-Überwachungssystem so genau, dass die Einbeziehung von menschlichen Moderatoren tatsächlich die Genauigkeit der Moderation verringert. Hive trainiert künstliche Intelligenz-Modelle mit Daten, die von einer Arbeitskraft von über 2 Millionen verteilten Arbeitern annotiert werden. Die verteilte Arbeitskraft sucht nach unangemessenen Inhalten wie Nacktheit und dem Vorhandensein von Schusswaffen und annotiert die Bilder für die Verwendung bei der Ausbildung von Hives künstlicher Intelligenz. Während Chatroulette versuchte, Googles Cloud-Vision-künstliche Intelligenz-System und Amazon (AMZN ) -Rekognition zur Unterstützung der Inhaltsmoderation zu verwenden, stellte es schließlich fest, dass Hives künstliche Intelligenz für ihre Bedürfnisse am genauesten und zuverlässigsten war.

Hives künstliche Intelligenz hat über 600 Millionen Frames von Chatroulette verarbeitet. Jede Verbindung zwischen zwei Benutzern ergibt drei Frames. Ein Frame wird für beide Benutzer am Anfang der Verbindung erstellt und ein Frame wird für den Benutzer erstellt, der die Verbindung beendet. Inhalte, die gegen die Nutzungsbedingungen verstoßen, können angeblich innerhalb von einer Sekunde identifiziert werden. Eine Warnmeldung wird an einen menschlichen Moderator gesendet, der den Benutzer entweder sperren oder warnen kann.

Am Anfang des Jahres hatte Chatroulette etwa 4 Millionen eindeutige Besucher pro Monat, was die meisten Besucher sind, die das Unternehmen seit Anfang 2016 hatte. Die Bemühungen, unangemessene Inhalte zu bekämpfen, scheinen sich ausgezahlt zu haben, da Frauen nun etwa 34% aller Benutzer sind, im Vergleich zu nur 11% der Benutzer im Jahr 2018.

Während soziale Medien-Unternehmen kommen und gehen, scheint Chatroulette wieder an Prominenz gewonnen zu haben. Allerdings erkennt Ternovskiy an, dass das Unternehmen auch andere Probleme zu lösen hat, die über die Inhaltsmoderation hinausgehen. Laut Ternovskiy gibt es fast 90% der ersten Besucher, die nie zurückkehren, da sie ihre Interaktionen als mittelmäßig empfinden.

„Die Herausforderung besteht wirklich darin, etwas Würdiges zu bauen, das die Menschen dazu bringen würde, es regelmäßig zu verwenden, anstatt es nur als einmaliges Ereignis zu betrachten“, erklärte Ternovskiy gegenüber Wired.