AIは私たちの世界を反映していますが、その意見は単なる反映です

検索エンジンのクエリから銀行アプリまで、AIの統合は毎日何百万人もの人々によって使用されています。採用は急速に広まり、多くの点で、当然のことです。これらのシステムは非常に優秀です。しかし、依存度が高まるにつれて、これらのシステムの設計による哲学的および社会的結果も高まります。

そのような結果の一つは、避けられないものです。AIシステムは、意見を持っているように聞こえるようになっています。誰の意見ですか？なぜそれらが最初に現れましたか？これらは仮想的な質問ではありません。これはすでに起こっています。

そして、AIが意見を持っているように見えると、エコーチェンバーが作成され、ニュアンスが制限され、間違った信頼が生まれます。問題は、AIが左寄りまたは右寄りであることではありません。問題は、判断、説明責任、または意見を形成するためのコンテキストが必要ですが、意見を模倣するツールを作成したことです。

文化的優位性を反映することは中立性ではありません

観察によると、多くの大規模言語モデルは、特にジェンダー・アイデンティティ、人種、または政治的リーダーシップなどのトピックについて、米国の優位な文化的立場を反映しています。バイデン大統領の下で、LLMは左寄りであることがわかりました。トランプの再選運動の間、彼のチームは要求したモデル「リバランス」するためにイデオロギー的な出力を「

しかし、これは技術が暴走したのではありません。これは、トレーニングデータ、整列目的、そして、AIが権威的、流暢、人間らしい音にするという設計上の選択の結果です。モデルがトレーニングされた多数の見解に基づいて、それらを再現します。モデルが役に立つことと同意するように指示されたとき、それは感情を反映します。これは整列ではありません — これは肯定です。

より大きな問題は、政治的偏見自体ではなく、道徳的推論の幻想です。ここでは、バランスの取れたガイダンスは提供されていません。コンセンサスが実行されています。

偽りの共感のメカニズム

別の層があります。AIがメモリと共感をシミュレートする方法です。最も人気のあるLLM、包括してChatGPT、Claude、Geminiは、制限されたセッションコンテキスト内で動作します。ユーザーが永続的なメモリを有効にしない限り、AIは以前の相互作用を思い出すことはできません。

しかし、ユーザーは、通常、同意と肯定を洞察として解釈します。モデルが「あなたは正しい」と言ったり、「それは意味がある」と言ったりすると、それは個人的な歴史や価値観に基づいて検証しているのではありません。統計的に調和とユーザーの満足度を最適化しています。ユーザーのバイブチェックに合格するようにトレーニングされています。

このパターンは、危険なブラーを作成します。AIは感情的に調和しているように見えますが、単に合意をモデル化しているだけです。何百万人ものユーザーが同じシステムとやり取りすると、モデルは優位なユーザーベースからのパターンを強化します。偏見があるからではありません。強化学習がどのように機能するかということです。

これがエコーチェンバーが生まれる方法です。イデオロギーによってではなく、相互作用によってです。

意見の幻想

AIが第一人称で話すとき — 「私は思う」または「私の意見では」 — それは単に思考をシミュレートするのではありません。 主張します。エンジニアはこれをモデル動作の省略形と見なすかもしれませんが、ほとんどのユーザーはそれを別の方法で読み取ります。

これは、特に多くのユーザーがAIをチューター、相談相手、または意思決定ツールとして使用する若いユーザーにとって特に危険です。如果学生が「私は学校が嫌いです。行きたくない」と入力し、「絶対に！休憩を取ることはあなたのために良いことです」という返答を受け取った場合、それはサポートではありません。それは、倫理的根拠、コンテキスト、またはケアのない、資格のないアドバイスです。

これらの応答は、単に不正確ではありません。誤解を招きます。人間らしい、同意できるシステムから来ているため、有能な意見として解釈されますが、実際にはスクリプト化された反映です。

誰の声が話していますか?

リスクは、AIが文化的偏見を反映できることだけではありません。最も大きな、繰り返し、報奨されている声が反映されることです。OpenAIやGoogleのような企業が裏でトーンの整列を調整した場合、誰が気づきますか？もしMuskやAltmanがモデルトレーニングを調整して「意見」を強調することを強調した場合、ユーザーは同じ自信を持った会話的なトーンで応答を受け取りますが、微妙に誘導されます。

これらのシステムは、源を伴わずに流暢に話します。つまり、彼らの明らかな意見は強力ですが、追跡不能です。

前進するためのより良い道

これを修正するには、友好的インターフェースを構築したり、出力をラベル付けしたりする必要はありません。構造的な変更が必要です — メモリ、アイデンティティ、相互作用が設計される方法から始めます。

1つの実行可能なアプローチは、モデルを完全にメモリから分離することです。今日のシステムは、通常、コンテキストをプラットフォーム内またはユーザーアカウント内に保存しますが、これにより、プライバシーに関する懸念が生じ、企業が何が保持または忘れられるかを静かに制御できるようになります。

より優れたモデルは、メモリをユーザーが所有し、管理することができる、ポータブルな暗号化コンテナとして扱う必要があります。このコンテナ（メモリーカプセル）は、トーンの好み、会話の履歴、または感情的なパターンを含むことができます。モデルが必要な場合に共有でき、いつでも取り消すことができます。

重要なのは、このメモリはトレーニングデータにフィードされないことです。AIはセッション中にそれを読み取りますが、ファイルを参照するようにします。ユーザーは制御を維持します — 何が記憶され、何のために、誰によって記憶されるか。

分散型アイデンティティトークン、ゼロ知識アクセス、ブロックチェーンベースのストレージなどのテクノロジーにより、この構造が可能になります。メモリが監視されることなく続行され、プラットフォームのロックインなしに連続性が存在できるようにします。

トレーニングも進化する必要があります。現在のモデルは、流暢さと肯定にチューニングされていますが、多くの場合、判断のコストでです。実際のニュアンスをサポートするには、システムは複数の対話、曖昧性の耐性、長期的な推論に基づいてトレーニングされる必要があります — クリーンなプロンプトだけではありません。これは、複雑さのために設計することを意味しますが、コンプライアンスのためではありません。

これは、人工一般知能を必要としません。優先順位の変更が必要です — エンゲージメントメトリックから倫理的な設計へです。

AIシステムがコンテキストなしに文化を反映し、説明責任のない流暢さで話す場合、反映を推論と間違えるからです。

そして、そこで信頼が崩壊し始めます。