Artificial Intelligence
Chatroulette が AI 主導のコンテンツ モデレーションを利用して復活
Chatroulette は、人々が他のランダムな人々と会話できるようにするものとして 2010 年代初頭に有名になりました。 しかし、このサイトはヌードやその他の「R 指定」コンテンツに簡単に遭遇できることから悪名も高くなりました。 Wired の報道によると, Chatrouletteが今目指しているのは、 カムバックする AI を活用したより優れたコンテンツモデレーションにより、
AI 主導のコンテンツモデレーション
AI およびコンピューター ビジョン アルゴリズムがより洗練され、信頼性が高まるにつれて、不快なコンテンツを検出するためのアプリケーションも改善されました。これは、ユーザーがコンテンツをアップロードしたり、コンテンツを作成したりできる企業にとっては恩恵です。 Youtube、Facebook、Twitter などの企業 AIを活用したコンテンツフィルタリングアルゴリズムを採用 〜へ 不快な内容に対処する。 特に Chatroulette はかつて、ヌードやその他のわいせつな行為に悩まされ、多くのユーザーを遠ざけていました。 パンデミックにより、Chatroulette に対する新たな関心が高まっています。Chatroulette は、AI 画像認識の進歩により、ユーザーがストリーミングするコンテンツをより効果的に監視できるようになりました。
2019 年、Chatroulette の創設者である Andrey Ternovskiy は、プロのマネージャーや AI スペシャリストとの連携を目指してスイスに会社を設立しました。機械学習の専門家である Andrew Done 氏は、新しい Chatroulette の AI テクノロジーの開発を監督するために Ternovskiy 氏に雇われました。 Done氏は今年初めにCEOに就任し、製品研究者やマネージャーをチームに加えた。
新しいリーダーシップの下、Chatroulette はトラフィックの増加を利用してユーザー調査を実施し、コンテンツをモデレートするさまざまな方法をテストしました。 Chatroulette チームは 2021 つの新しいチャット チャネルを設計しました。 XNUMX つのチャット チャネルはランダム チャットと呼ばれ、不快なコンテンツを排除するように設計されており、もう XNUMX つのチャネルは非モデレートと呼ばれます。 この分割は、不快なコンテンツを気にせずに他の人々とつながることに興味のあるユーザーを引き付けるために行われます。 フィルタリングされていないチャンネルは最終的に XNUMX 年半ばに廃止される予定です。
AI企業Hiveとのパートナーシップ
ChatrouletteがAI企業と提携 ハイブ ヌード検出AIを開発する。 Hive は Reddit コンテンツのモデレートも担当しており、主要なソーシャル ネットワーク上のコンテンツ管理の経験を提供しています。 Done 氏によると、Hive の AI 監視システムは非常に正確であるため、人間のモデレータを含めると全体的なモデレーションの精度が実際に低下します。 Hive は、2 万人以上の分散労働者によって注釈が付けられたデータに基づいて AI モデルをトレーニングします。 分散した従業員は、ヌードや銃器の存在などの不快なコンテンツを探し、Hive AI のトレーニングに使用する画像に注釈を付けます。 Chatroulette はコンテンツのモデレーションを支援するために Google の Cloud Vision AI システムと Amazon Rekognition の使用を試みましたが、最終的には Hive の AI がそのニーズに対して最も正確で信頼できることが判明しました。
Hive の AI は、Chatroulette からの 600 億フレームを超えるビデオを処理しました。 XNUMX 人のユーザー間の接続により、XNUMX つのフレームが作成されます。 接続の開始時に両方のユーザーに対して XNUMX つのフレームが作成され、接続を終了するユーザーに対して XNUMX つのフレームが生成されます。 規約に違反するコンテンツは XNUMX 秒以内に特定できると報告されています。 警告メッセージは人間のモデレータに送信され、モデレーターはユーザーを禁止したり警告したりできます。
今年の初め、Chatroulette の月間ユニーク訪問者数は約 4 万人で、これは同社が 2016 年初頭以来最多の訪問者数を記録したものです。現在では女性の割合が約 34% となっており、わいせつなコンテンツを抑制する努力が功を奏したようです。全ユーザーの割合は、11 年のユーザーのわずか 2018% から増加しました。
ソーシャル メディア企業が栄えては消えていく一方で、Chatroulette は再び注目を集めているようです。 ただし、Ternovskiy 氏は、同社にはコンテンツのモデレーション以外にも解決すべき問題があることを認めています。 Ternovskiy 氏によると、初めての訪問者のほぼ 90% は、やり取りが平凡だと感じて二度と来ないそうです。
「本当の課題は、人々が一度限りのものではなく、定期的に使用したいと思う価値のあるものを構築することです。」 テルノフスキー氏はWiredを通じてこう説明した。
