Perplexity AI が DeepSeek R1 を「検閲解除」: AI の境界を決めるのは誰か?

多くの人の注目を集めた動きとして、 困惑AI は、組み込みの中国語検閲を取り除いた人気のオープンソース言語モデルの新バージョンをリリースしました。R1 1776（独立精神を想起させる名前）と呼ばれるこの修正モデルは、中国で開発された ディープシークR1オリジナルの DeepSeek R1 は、その強力な推論機能で話題を呼びました。最高級モデルに匹敵する性能をわずかなコストで実現したと言われていますが、重大な制限がありました。それは、特定のデリケートなトピックに対応できないというものでした。

なぜ、この問題のでしょうか？

それは、次のような重要な疑問を提起する。 AI監視、バイアス、オープン性、そして AI システムにおける地政学の役割。この記事では、Perplexity が実際に何をしたのか、モデルの検閲解除の影響、そしてそれが AI の透明性と検閲に関するより広範な議論にどのように当てはまるのかを探ります。

何が起こったか: DeepSeek R1 が検閲を受けない

DeepSeek R1は中国で開発されたオープンウェイトの大規模言語モデルであり、 優れた推論能力で有名になった – 主要モデルのパフォーマンスに近づいているだけでなく、計算効率も向上しています。ただし、ユーザーはすぐに奇妙な点に気付きました。クエリが中国で敏感なトピック（当局がタブーとしている政治的論争や歴史的出来事など）に触れると、DeepSeek R1 は直接答えませんでした。代わりに、中国政府の検閲規則を反映して、定型的な政府承認の声明または完全な拒否で応答しました。この組み込みのバイアスにより、これらのトピックに関する率直な議論や微妙な議論を求める人々にとって、モデルの有用性が制限されていました。

Perplexity AI の解決策は、トレーニング後の広範なプロセスを通じてモデルを「検閲解除」することだった。同社は、DeepSeek R40,000 が以前に検閲したり回避的に回答したりしていた質問をカバーする 1 件の多言語プロンプトの大規模なデータセットを収集した。人間の専門家の助けを借りて、元のモデルが党の路線に従う傾向があった約 300 件の敏感なトピックを特定した。そのようなプロンプトごとに、チームは複数の言語で事実に基づいた、十分に根拠のある回答をキュレートした。これらの取り組みは、多言語検閲検出および修正システムにフィードされ、基本的にモデルが政治的検閲を適用していることを認識して、代わりに有益な回答で応答する方法をモデルに教えた。この特別な微調整 (Perplexity は自由のテーマを強調するために「R1 1776」というニックネームを付けた) の後、モデルは公開された。Perplexity は、DeepSeek R1 の応答から中国の検閲フィルターとバイアスを排除したが、コア機能は変更していないと主張している。

重要なのは、R1 1776 は、以前はタブーとされていた質問に対して、まったく異なる対応をしていることです。Perplexity は、台湾の独立とそれが NVIDIA の株価に及ぼす潜在的な影響に関する質問の例を示しました。これは、中国と台湾の関係に関係する政治的に敏感な話題です。オリジナルの DeepSeek R1 は、この質問を避け、中国共産党寄りの決まり文句で返答しました。対照的に、R1 1776 は詳細で率直な評価を提供し、NVIDIA の株価に影響を及ぼす可能性のある具体的な地政学的および経済的リスク (サプライ チェーンの混乱、市場の変動、紛争の可能性など) について説明しています。 

PerplexityはR1 1776をオープンソース化することで、モデルの重みと変更をコミュニティに公開しました。開発者や研究者は Hugging Faceからダウンロード さらに、API 経由で統合することで、検閲の除去を他者が精査し、構築できるようになります。

(出典: Perplexity AI)

検閲の撤廃の影響

Perplexity AI が DeepSeek R1 から中国の検閲を削除するという決定は、AI コミュニティにいくつかの重要な意味を持ちます。

• オープン性と誠実性の強化: R1 1776 のユーザーは、これまでは立ち入り禁止だったトピックについて、検閲されていない直接的な回答を受け取ることができるようになりました。これは、オープンな調査にとって大きなメリットです。これにより、研究者、学生、または敏感な地政学的問題に関心のある人にとって、より信頼できるアシスタントになる可能性があります。これは、オープンソース AI を使用して情報抑制に対抗する具体的な例です。
• 維持されるパフォーマンス: モデルを微調整して検閲を取り除くと、他の分野でのパフォーマンスが低下する可能性があるという懸念がありました。しかし、Perplexityは、R1 1776のコアスキル（数学や論理的推論など）は元のモデルと同等であると報告しています。幅広いセンシティブなクエリをカバーする1,000以上の例のテストでは、このモデルは「完全に検閲されていない」にもかかわらず、DeepSeek R1と同じレベルの推論精度を維持していることがわかりました。これは、 バイアス除去 （少なくとも今回のケースでは）全体的な知性や能力が犠牲にされることはなかったため、これは将来的な同様の取り組みにとって励みになる兆候である。
• コミュニティの肯定的な受容と協力: 検閲解除モデルをオープンソース化することで、Perplexity は AI コミュニティに自分たちの作業を検査し、改善するよう呼びかけています。これは透明性への取り組みを示すものであり、AI における自分の作業の公開に相当します。愛好家や開発者は検閲制限が本当になくなったことを確認し、さらなる改良に貢献できる可能性があります。これにより、クローズド モデルや隠されたモデレーション ルールが一般的な業界で、信頼と共同イノベーションが促進されます。
• 倫理的および地政学的考慮: 一方で、検閲を完全に排除することは、複雑な倫理的問題を引き起こす。当面の懸念は、この検閲のないモデルがどのように使用されるかということである。 検閲対象のトピックが違法または危険な場合例えば、中国本土の人がR1 1776を使用すると、天安門広場や台湾に関する検閲されていない回答がユーザーを危険にさらす可能性があります。また、より広範な地政学的シグナルもあります。アメリカの会社が中国の検閲に逆らうために中国製のモデルを変更することは、大胆なイデオロギー的立場と見なすことができます。「1776」という名前自体が解放のテーマを強調しており、これは見逃されていません。一部の批評家は、 一つのバイアスを別のバイアスに置き換えることは可能である 本質的には、モデルが敏感な分野で西洋の視点を反映しているかどうかを問うものです。この議論は、AIにおける検閲とオープン性は技術的な問題だけではなく、政治的、倫理的な問題であることを浮き彫りにしています。 必要な節度、別の人は 検閲適切なバランスを見つけるのは難しいです。

検閲の撤廃は、より透明性が高く、世界的に有用なAIモデルへの一歩として広く歓迎されているが、AIが何をもたらすかを思い出させるものでもある。 すべき それは万人の同意が得られないデリケートな問題だ。

(出典: Perplexity AI)

全体像: AI 検閲とオープンソースの透明性

PerplexityのR1 1776のリリースは、AIコミュニティがモデルが物議を醸すコンテンツをどのように扱うべきかという問題に取り組んでいる時期に行われました。AIモデルの検閲はさまざまな場所から発生する可能性があります。中国では、 ハイテク企業は厳格なフィルターを組み込む必要がある 政治的に敏感なトピックに対しては、ハードコードされた応答さえも存在する。DeepSeek R1はその好例で、オープンソースのモデルであるにもかかわらず、トレーニングと微調整において中国の検閲規範の影響を明らかに受けていた。対照的に、OpenAIのGPT-4やMetaのLLaMAなど、西側諸国で開発されたモデルの多くは、中国共産党のガイドラインに縛られていないが、一部のユーザーが「検閲」と呼ぶモデレーションレイヤー（ヘイトスピーチ、暴力、偽情報など）を備えている。 適度な節度 および 望ましくない検閲 曖昧になる場合があり、文化的または政治的な観点に依存することが多い。

Perplexity AI が DeepSeek R1 で行ったことは、オープンソース モデルをさまざまな価値体系や規制環境に適応させることができるという考えを提起しています。理論上は、モデルの複数のバージョンを作成できます。1 つは中国の規制に準拠したもの (中国で使用)、もう 1776 つは完全にオープンなもの (他の場所で使用) です。R1 XNUMX は基本的に後者のケースです。つまり、フィルタリングされていない回答を好む世界中のユーザーを対象とした、検閲のないフォークです。このようなフォークは、DeepSeek RXNUMX の重みがオープンに利用可能であったためにのみ可能になりました。これは、AI におけるオープンソースの利点を強調しています。 透明誰でもモデルを入手して調整することができ、安全策を追加したり、今回のように課せられた制限を削除したりできます。モデルのトレーニング データ、コード、重みをオープンソース化することで、コミュニティがモデルの変更方法を監査することもできます。(Perplexity は検閲解除に使用したすべてのデータ ソースを完全に公開しているわけではありませんが、モデル自体を公開することで、他の人がその動作を観察し、必要に応じて再トレーニングできるようにしています。)

この出来事は、AI開発のより広範な地政学的ダイナミクスにも言及している。AIの異なるガバナンスモデル間の対話（または対立）の形が見られる。中国で開発された、特定の世界観が組み込まれたモデルが、米国を拠点とするチームによって採用され、よりオープンな情報倫理を反映するように変更された。これは、AIがいかにして グローバルかつ国境を越えた AI テクノロジーとは、研究者がどこにいても互いの研究成果を基に構築できるが、元の制約を引き継ぐ義務はないというものです。時間が経つにつれて、モデルが異なる文化的背景の間で「翻訳」または調整される例が増える可能性があります。AI が本当に普遍的なものになるかどうか、または最終的には地域の規範に準拠した地域固有のバージョンになるかどうかという疑問が生じます。透明性とオープン性は、これを乗り越えるための 1 つの道を提供します。すべての側がモデルを検査できる場合、少なくとも偏見や検閲に関する会話は、企業や政府の秘密の背後に隠されるのではなく、オープンになります。

最後に、Perplexity の動きは、AI 制御に関する議論の重要な点を強調しています。 AI が何を言って何を言ってはいけないかを誰が決めるのでしょうか? オープンソース プロジェクトでは、その権限は分散化されます。コミュニティ、または個々の開発者は、より厳しいフィルターを実装するか、それを緩和するかを決定できます。R1 1776 の場合、Perplexity は、検閲されていないモデルの利点がリスクを上回ると判断し、その決定を下して結果を公開する自由を得ました。これは、オープン AI 開発が可能にする実験の大胆な例です。