オフェル・ファミリアルは、digの共同創設者兼CEOです。digは、ソーシャルビデオインテリジェンスプラットフォームで、ブランドや政府がソーシャルビデオやソーシャルメディアを把握するのを支援しています。プラットフォームは、ブランド関連のビデオを自動的に検出して、ビデオ内分析アルゴリズムで分析し、インサイトや通知を抽出して、ブランドが安全に保たれ、並外れたインサイトを得ることができます。
6月、ウォールストリートジャーナルは、ポリーマーケットが、主に大学生であるクリエイターに、自分たちが勝利する様子を撮影するように依頼していたと報じた。これらのビデオは、ポリーマーケットのプラットフォームに似たウェブサイトでベットをしているように見えていたが、実際には勝利は起こっていなかった。ポリーマーケットは、クリエイターが作成したビデオを「クリッパー」と呼ばれるネットワークに投稿するように依頼し、ビデオが有機的に拡散しているように見せるために、クリッパーがビデオを繰り返し投稿するように依頼した。118本のビデオの中で、クリエイターは約89万ドルの勝利を祝ったが、実際にはベットをすれば166,000ドル以上の損失になっていた。キャンペーン全体では、1,105本のビデオが作成され、どれも実際の取引を反映していなかった。大部分の反応は、偽の広告について焦点を当てているが、これは妥当な説明ではあるが、ポリーマーケットがどうやって発覚したのか、また同様のキャンペーンが将来に発覚するのかどうかという、より重要な質問には触れていない。ポリーマーケットは、人間が関与していたため発覚した。人間は痕跡を残すからである。しかし、AIはこの状況を変えている。説得力のあるオンライン物語を生み出すコストは急激に低下しており、我々がそれを発覚させる能力も低下している。人間が必要だったモデルと、人間が必要ないモデルポリーマーケットのキャンペーンは、有機的に見えたからうまくいった。クリエイターは自分のアカウントから投稿し、自分の経験を記録しているように見せた。クリップは拡散し、有料作業ではなく本物の熱狂の波のように見えた。有料クリエイターはこのキャンペーンの半分を占めたが、もう半分は、見えにくいが同等に重要な、フェイクのエンゲージメントだった。これらのビデオがTikTok、YouTube、Instagramで1億4000万回再生されたことは、クリエイターが通常数百回の再生しか得られない中で、偶然ではない。通常、ビデオに人工的ないいね、コメント、視聴回数を付与して、プラットフォームの推薦エンジンがそれを本物のものと見なすようにする必要がある。有料クリエイターだけでは、通常、そんなにも大きな影響をもたらさないため、ポリーマーケットはおそらく両方の戦略を同時に実行していた。これが高価で、結局は追跡可能だったのは、すべてのステップで人間が関与していたからである。フェイクサイトを構築してホストする必要があり、クリエイターに支払いをする必要があり、ネットワークを管理する会社を雇用する必要があり、それぞれのステップで記録が残り、調査記者がそれを追跡して元にたどり着くことができた。AIは、この制約を取り除く。合成されたペルソナ、生成されたビデオ、クローンの声で、同じ有機的な熱狂のイリュージョンを生み出すことができる。メカニズムは同じままである。消えるのは、誰かが何かを署名したり、ワイヤー転送を受けたりしてそれが起こる必要性である。この変化は、問題の規模も変える。オンラインのディープフェイクのボリュームは、2023年の約50万件から2025年の約800万件に増加し、偽造されたコンテンツがこのように急速に増加すると、それは時折フィードに侵入するものではなく、フィードを構成するものになる。舞台裏と本物の境界線は保持できないほとんどの経営陣は、オンライン物語について二元的な考え方をしている。つまり、それは舞台裏か本物かのどちらかである。しかし、ポリーマーケットのピッチは、誰でも大勝できるというもので、最初は作られたものだったが、十分な人々がそれを見て、信じて、行動したときに、実際のユーザーと共鳴するようになった。そこでは、物語の起源は重要な事実ではなくなり、作られた物語でも、実際の結果を生み出すことができる。最近の研究によると、人間はAI生成コンテンツと本物のコンテンツを51%の確率でしか区別できないことがわかった。つまり、ほとんどの人は、フィードで何かを見たことがあれば、それを信じることになる。ポリーマーケットは、工学的な混乱を取引手数料に変えた。同じメカニズムを選挙や他の争点のある公共の問題に向けると、AIはそれを大規模に実行することを容易にする。賭け金は、失われた収益から、誰を信頼するか、どのように投票するかというものになる。なぜ通常のモニタリングツールがこれを逃すのかほとんどの評判モニタリングツールは、テキスト主導のインターネットを追跡するために構築されたもので、キーワード、ハッシュタグ、メンションを監視していた。しかし、認識は現在、ショートフォームビデオの中で、また、どのコンテンツが表示されるかを決定するレコメンデーションシステムの中で形成される。キャプションやコメントスレッドをスキャンするツールは、トーン、視覚的なコンテキスト、スクリーン上の人物の信頼性を読むことができなかった。AIによるビデオ生成は、ほとんどのスタジオや制作予算なしで、ほとんどのものの信憑性のあるクリップを生成できるほど優れてきている。誰かがこれらのキャンペーンを実行している場合、ブランドをタグ付けしたり、検索可能な言語を使用したりすることは避けるだろう。つまり、物語を伝える信号は、キーワードベースのシステムから見えなくなる。過去のやり方は、ウォールストリートジャーナルがポリーマーケットに対して行ったように、事後に調査することだが、それもスケールしない。なぜなら、そのような再構築は、人間が痕跡を残すことから始まるからである。ループから人間を除外すると、追跡するための痕跡は残らない。したがって、不正行為がすでに広がる前に、パターンを形成しているのを監視する必要がある。ポリーマーケットはまだ人間が必要だったので発覚した誰もが、企業が自分自身の宣伝を生み出したことに驚くべきではない。偽情報の標準的な戦術書であるが、ポリーマーケットは、人間が関与していたため発覚した。人間は痕跡を残すからである。次のキャンペーンバージョンには、それが必要ない。コンセンサスの製造コストがゼロに近づくとき、本当のものと作られたものを区別する能力は、好みの機能ではなくなり、誰を信頼するか、どのように反応するかについて、すべての下流の決定に依存するものになる。The next version of this campaign won’t need any of that. Once the cost of manufacturing consensus drops close to zero, the ability to tell real...
