インタビュー
Alex Fink, Tech Executive, Founder & CEO of the Otherweb – Interview Series
Alex Finkはテクノロジー企業のエグゼクティブであり、Otherwebの創設者兼CEOです。Otherwebは、パブリックベネフィットコーポレーションであり、AIを使用して、ユーザーがニュースやコメント、ポッドキャストを聞いたり、ウェブを検索したりする際に、支払いウォール、クリックベイト、広告、自動再生ビデオ、Affiliateリンク、その他の「ゴミ」コンテンツがないようにします。Otherwebは、App（iOSとAndroid）、ウェブサイト、ニュースレター、またはスタンドアロンのブラウザ拡張機能として利用できます。Otherweb以前は、AlexはPanopteoの創設者兼CEOであり、Swarmerの共同創設者兼会長でした。
Otherwebとそのミッションについて、ニューススペースから「ゴミ」を除去することを目指すという点で、概要を提供できますか。
Otherwebは、情報の質を向上させるために作られたパブリックベネフィットコーポレーションです。
私たちの主な製品は、ニュースアプリで、AIを使用して「ゴミ」を除去し、ユーザーが無制限にカスタマイズできるようにします。つまり、ユーザーはアプリが使用するすべての品質しきい値とソートメカニズムを制御できます。
簡単に言えば、世界の他の場所では、ユーザーへの関与を最大化するためのブラックボックスアルゴリズムを作成していますが、私たちは、ユーザーに可能な限り多くの価値を提供し、できるだけ短い時間で提供したいと考えています。さらに、AIモデルとデータセットをソースコード化して、ユーザーが私たちが何をしているか、コンテンツをどのように評価するかを正確に確認できるようにしました。
誤情報やフェイクニュースに対抗するためにAIを使用することに焦点を当てることをどのようにして決めましたか。
私はソビエト連邦で生まれ、誰もがプロパガンダを消費する社会で何が起こるかを見てきました。両親が4時に起きて、クローゼットにロックして、ラジオを聞いていたことを覚えています。もちろん、それは違法でしたが、夜にやったのは、隣人に聞かれないようにするためでした。不过、それにより、私たちは本当の情報にアクセスすることができました。
結果として、私たちは全てが崩壊し、戦争が私たちの町で起こる3ヶ月前に出ていきました。
私は、実際に、私が育った通りで戦車の写真を見て、「これが本当の情報の価値である」と思ったことを覚えています。
私は、より多くの人が、高品質の本当の情報にアクセスできるようにしたいと思います。
ディープフェイク、特に選挙に影響を与えるという点で、どれくらいの脅威となり得ますか。ディープフェイクが誤情報を広めるためにどのように使用されたか、その影響について具体的な例を共有できますか。
短期的には、非常に深刻な脅威です。
有権者は、映像や音声記録がもはや信頼できないことを認識していません。彼らは、映像が何かが起こったことを証明するものであると考えていますが、2年前はまだそうだったのですが、今はもはやそうではありません。
今年、パキスタンでは、イムラン・カーンの支持者がイムラン・カーン本人から電話を受け、選挙をボイコットするように求められました。もちろん、それは偽物でしたが、多くの人々が信じました。
イタリアでは、有権者が一つの女性政治家がポルノグラフィックなビデオに出演しているのを見ました。もちろん、それは偽物でしたが、偽物であることが発覚するまでに、すでに被害が及んでいました。
ここアリゾナでも、あるニュースレターがカーリー・レイクの支持を得たと主張するビデオを表示しました。もちろん、彼女は支持していませんでしたが、ニュースレターは数千人の購読者を得ました。
11月になれば、少なくとも1つの偽の爆弾発言が出ることはほぼ確実です。選挙の前日に出て、選挙後に偽物であることが発覚するでしょう。被害はすでに及んでいます。
ディープフェイクを識別するための現在のAIツールはどれくらい有効ですか。将来的にどのような改善が見込めますか。
過去には、偽の画像を識別する最善の方法は、画像を拡大して、画像作成者が一般的に犯す「アーティファクト」と呼ばれるミスを探すことでした。光の当て方が間違っている、影が欠けている、物体の端が不均一である、圧縮が不均一であるなどです。
GANベースの編集（ディープフェイク）では、これらのアーティファクトは存在しません。プロセスは、1つのAIモデルが画像を編集し、別のAIモデルがアーティファクトを探し、サイクルを繰り返します。アーティファクトがなくなると、プロセスは終了します。
結果として、コンテンツ自体を調べただけでは、うまく作られたディープフェイク動画を識別することはできません。
私たちは、考え方を変え、コンテンツが本当のものであると仮定する前に、その所有権の連鎖をトレースできるようにする必要があります。指紋のように考えてください。殺人武器に指紋が見つかっているだけでは十分ではありません。誰が殺人武器を見つけたのか、誰がそれを保管室に持ち帰ったのか、誰がそれを保管室に保管したのか、誰がそれを操作したのか、誰がそれを改ざんしたのかを知る必要があります。
選挙などの重要な時期に、誤情報の拡散を防ぐために、政府とテクノロジー企業が取ることができる措置については何ですか。
誤情報の最良の解毒剤は時間です。何かを見て、物事を変えることができると思ったら、すぐに公開しないでください。真実であることを確認するために1、2日待ちます。
残念ながら、このアプローチは、メディアのビジネスモデルと衝突します。メディアのビジネスモデルは、クリックを報酬としています。物が本当かどうかは関係ありません。
Otherwebは、集めたニュースの真実性と正確性を確保するために、AIをどのように活用していますか。
私たちは、正しさと形式の間に関連性があることを発見しました。真実を伝えたい人々は、自制と謙虚さを強調する特定の言語を使用する傾向があります。一方、真実を無視する人々は、できるだけ多くの注目を集めようとします。
Otherwebの最大の焦点は、事実をチェックすることではありません。形式をチェックすることです。私たちは、注意を引く言語を避け、すべての主張に対して外部の参照を提供し、事実を述べ、説得のテクニックを使用しない記事を選択します。
この方法は完璧ではありませんが、実践では、悪意のある行為者が私たちのモデルが報酬を与えるスタイルで嘘を書くことは、実際には起こりません。嘘を伝えたい人々も、多くの注目を集めたいと考えています。これが、私たちのモデルが検出してフィルタリングするものです。
実際のものと偽物の画像を区別することが難しくなっている場合、Otherwebのようなプラットフォームはどのようにしてデジタルコンテンツに対するユーザーの信頼を回復するのに役立ちますか。
ユーザーがより良いコンテンツを消費するのに役立つ最良の方法は、すべての側面からサンプルを取り、各々の最良のものを選択し、自制を実践することです。ほとんどのメディアは、検証されていない情報を急いで公開しています。私たちの情報を百以上の情報源からクロスリファレンスし、最良のアイテムに焦点を当てる能力により、ユーザーをほとんどの誤情報から保護できます。
画像や動画の真正性を検証する上で、メタデータ（C2PA規格など）はどのような役割を果たしますか。
これは、唯一の実行可能な解決策です。C2PAが正しい規格かどうかはわかりませんが、映像が現実で起こったことを反映しているかどうかを検証するには、a) カメラが映像を編集せずにキャプチャしたことを確認し、b) カメラから出た後に誰も映像を編集しなかったことを確認する必要があります。最良の方法は、メタデータに焦点を当てることです。
誤情報やディープフェイクに対する戦いにおいて、将来的にどのような開発が予想されますか。
私は、2〜3年以内に、人々が新しい現実に適応し、考え方を変えるだろうと思います。19世紀以前は、証拠の最良の形式は目撃証言でした。ディープフェイクは、我々がこれらの試験済みの基準に戻ることを引き起こすでしょう。
誤情報については、より繊細な見方を取り、意図的に作成された誤った情報（デザインフォメーション）と、真実性に関係なく金銭化される情報（ジャンク）を区別する必要があります。
ジャンクの解毒剤は、ジャンクが広がる可能性を低くするフィルタリングメカニズムです。それにより、ジャンクが広がるインセンティブ構造が変わります。ディープフェイクは存在し続けるでしょう。20世紀にはそうだったように、21世紀にもそうでしょう。
私たちが今扱いに苦労しているのは、ジャンクの氾濫です。インターネットの信号対ノイズ比が、すべての人のために改善されるでしょう。
