AIモデルとプラットフォーム
チャットルーレット、AI駆動のコンテンツモデレーションで復活
Unite.AI を Google の優先ソースに追加
チャットルーレットは、2010年代初頭にランダムな人々と話すことができるプラットフォームとして有名になった。しかし、ヌーディティーや「Rレート」のコンテンツに出くわすことが容易いため、悪名も高かった。Wiredによると、チャットルーレットは、AIによるコンテンツモデレーションの助けを借りて、復活を目指している。
AI駆動のコンテンツモデレーション
AIとコンピュータビジョンのアルゴリズムがより洗練され信頼性が高まると、反対的なコンテンツを検出するための応用が改善された。これは、ユーザーがコンテンツをアップロードまたは作成できる会社にとっての大きな利点である。YouTube、Facebook (META ) 、Twitterなどの会社は、AIを使用したコンテンツフィルタリングアルゴリズムを使用して、反対的なコンテンツに対処している。チャットルーレットは特に、ヌーディティーやその他の猥褻行為によって多くのユーザーを追い払った。パンデミックにより、チャットルーレットに対する関心が再び高まり、AIの画像認識の進歩により、ユーザーがストリーミングするコンテンツをより効果的に監視できるようになった。
2019年、チャットルーレットの創設者Andrey Ternovskiyは、スイスで会社を設立し、プロのマネージャーとAI専門家と協力することを目指した。マシンラーニングの専門家Andrew Doneは、Ternovskiyによって新しいチャットルーレットのAI技術の開発を担当するために雇用された。Doneは今年初めにCEOに就任し、チームにさらに製品研究者とマネージャーを加えた。
新しいリーダーシップの下で、チャットルーレットはトラフィックの増加を利用してユーザー研究を実施し、コンテンツをモデレートするさまざまな方法をテストした。チャットルーレットチームは、2つの新しいチャットチャンネルを設計した。1つのチャットチャンネルは、Random Chatと呼ばれ、反対的なコンテンツを除外するように設計されている。もう1つのチャンネルは、Unmoderatedと呼ばれ、最終的に2021年中頃に削除される予定である。この分割は、反対的なコンテンツについて心配することなく他の人と接続したいユーザーを引き付けることを目的としている。
AI会社Hiveとのパートナーシップ
チャットルーレットは、ヌーディティー検出AIを開発するために、AI会社Hiveとパートナーシップを結んでいる。Hiveは、Redditのコンテンツをモデレートする責任もあり、大規模なソーシャルネットワークでのコンテンツ管理の経験がある。Doneによると、HiveのAIモニタリングシステムは非常に正確で、人間のモデレーターを含めることで、モデレーションの正確性が低下する。Hiveは、200万人以上の分散ワーカーによって注釈付けされたデータでAIモデルをトレーニングする。分散ワーカーは、ヌーディティーや銃器の存在などの反対的なコンテンツを探し、HiveのAIをトレーニングするために画像を注釈付けする。チャットルーレットは、GoogleのCloud Vision AIシステムとAmazon (AMZN ) Rekognitionを使用してコンテンツモデレーションを支援することを試みたが、最終的にHiveのAIが最も正確で信頼性が高かったことがわかった。
HiveのAIは、チャットルーレットから600万フレーム以上のビデオを処理している。2人のユーザー間の接続ごとに3つのフレームが生成される。接続の開始時に両方のユーザーに対して1つのフレームが生成され、接続を終了するユーザーに対して1つのフレームが生成される。規約に違反するコンテンツは、1秒以内に検出できる。警告メッセージが人間のモデレーターに送信され、ユーザーを禁止または警告することができる。
今年初め、チャットルーレットには約400万人のユニークな訪問者がいた。これは、2016年初頭以来、会社が持っていた最も多くの訪問者である。猥褻コンテンツを抑制するための努力は、効果があったようだ。女性のユーザーは、2018年の11%から、現在約34%に増加した。
ソーシャルメディアの会社は来たり去りたりするが、チャットルーレットは再び注目される存在になった。しかし、Ternovskiyは、会社にはコンテンツモデレーション以外にも解決すべき問題があることを認識している。Ternovskiyによると、初めて訪問するユーザーの約90%は、インタラクションが平凡であるため、二度と戻って来ない。
「本当の挑戦は、人々が定期的に使用する価値のあるものを作ることである。ただ一度だけ使用するのではなく、人々が興味を持って使用する価値のあるものを作ることである」と、TernovskiyはWiredに語った。
