Yukai Tu, Chief Technology Officer at CARV

AIが私たちに何をしてくれるかではなく、我々がAIに何をしてあげられるか

ほとんどの人は、人工知能（AI）を一方的なレンズで見ています。技術は人間に奉仕し、効率、精度、生産性の新たなレベルを達成するためにのみ存在します。しかし、もし私たちが方程式の半分を見逃しているのであれば、どうなるでしょうか？そして、もし私たちがそうすることで、技術の欠点を増大させているのであれば、どうなるでしょうか？AIはまだ幼少期にあり、推論、データの品質、信頼、価値、インセンティブなどの概念を理解するという点で重大な限界に直面しています。現在の能力と真の「知能」の間の隔たりは大きいです。良いニュースは、我々がAIの消費者ではなく、協力者になることでこれを変えることができるということです。人間は、より優れた推論フレームワークを提供し、高品質のデータを供給し、信頼のギャップを埋めることで、知能の進化の鍵を握っています。結果として、人間と機械は、より良いコラボレーションによってより良いデータとより良い成果を生み出すために、肩を並べて働くことができます。より共生的な関係がどのように見えるか、そして、パートナーとして、有意義なコラボレーションがAIの方程式の両側に利益をもたらす方法について考えてみましょう。人間と機械の間の必要な関係AIは、確かに、膨大なデータセットを分析し、複雑なタスクを自動化することにおいて素晴らしいです。しかし、技術はまだ私たちのように考えないでいます。まず、これらのモデルとプラットフォームは、訓練データを超えた推論に苦労しています。パターン認識と統計的予測は問題ありませんが、文脈による判断と論理的フレームワークは、私たちが当たり前のように考えているものですが、複製することはより困難です。この推論のギャップは、AIが繊細なシナリオや倫理的判断に直面したときに、しばしば失敗することを意味します。2番目に、「ガベージイン、ガベージアウト」のデータの品質があります。現在のモデルは、同意の有無に関わらず、膨大な情報の宝庫で訓練されています。検証されていない、または偏った情報は、適切な帰属または認可に関係なく使用され、検証されていない、または偏ったAIにつながります。モデルの「データダイエット」は、最善の場合には疑問があり、最悪の場合には散発的です。これの影響を栄養学の観点で考えることが役立ちます。人間がジャンクフードだけを食べると、遅くなり、無気力になるでしょう。エージェントが著作権や二次的な資料だけを消費すると、そのパフォーマンスも妨げられ、出力は不正確で信頼できないものとなり、具体的ではなく一般的になります。これはまだ、約束されたエージェントの次の波の自律的で能動的な意思決定から遠いものです。重要なのは、AIはまだ誰と何をやり取りしているかを区別できないことです。整合したユーザーと整合していないユーザーを認識できず、関係を検証できず、信頼、価値交換、利害関係者のインセンティブなどの概念を理解できません。これらは、人間の相互作用を支配するコア要素です。AIの問題と人間の解決策私たちは、AIプラットフォーム、ツール、エージェントを、使用人としてではなく、我々が訓練を助けることができるアシスタントとして考える必要があります。まず、推論について考えてみましょう。私たちは、新しい論理的フレームワーク、倫理的ガイドライン、戦略的思考を導入できます。これらは、AIシステムが独自に開発できないものです。思慮深いプロンプトと慎重な監視を通じて、我々は、AIの統計的強みを人間の知恵で補完することができます。パターンを認識し、文脈を理解するようにそれらを教えることができます。同様に、AIがインターネットからスクラップできる情報に基づいて訓練するのを許可するのではなく、人間は、検証された、多様な、倫理的に取得された、高品質のデータセットをキュレーションできます。これは、コンテンツクリエイターがその貢献に対して認識され、報酬される、より優れた帰属システムを開発することを意味します。新しいフレームワークがこれを可能にします。オンラインIDを1つのバナーにまとめ、共有することに同意するかどうかを決定することで、ユーザーは、プライバシー、同意、規制を尊重するゼロパーティ情報でモデルを提供できます。さらに、ブロックチェーンでこの情報を追跡することで、ユーザーとモデルメーカーは、情報の出所を確認し、クリエイターが「新しいオイル」を提供するために適切に補償することができます。これは、ユーザーがデータに対して認められ、情報革命に参加する方法です。最後に、信頼のギャップを埋めることは、モデルに人間の価値観と態度を与えることを意味します。これは、利害関係者を認識し、関係を検証し、整合したユーザーと整合していないユーザーを区別するメカニズムを設計することを意味します。結果として、我々は、AIがその動作の背景を理解できるようにします。誰がその行動から利益を得るか、どのようなことがその開発に貢献するか、どのように価値がシステムに流れるかを理解することができます。例えば、ブロックチェーンインフラストラクチャをバックエンドに持つエージェントは、これが非常に優れています。彼らは、評判、社会的影響、またはトークン所有を通じて実証されたエコシステムへのコミットメントを持つユーザーを認識し、優先順位を付けることができます。これにより、AIは、利害関係者に報酬を与えることでインセンティブを整列させることができます。参加度に基づいて意思決定に参加する、検証されたサポーターによるガバナンスシステムを作成することができます。結果として、AIはそのエコシステムをより深く理解し、真正な利害関係者の関係に基づいて決定を下すことができます。AIにおける人間の要素を見失わないでこの技術の台頭について、そしてどのようにして業界を変え、仕事を奪うかについて、多くのことが述べられてきました。しかし、ガードレールを組み込むことで、AIが人間の経験を強化するのではなく、乗り越えるのを防ぐことができます。例えば、最も成功したAIの実装は、人間を置き換えるのではなく、人間が達成できることを拡張します。AIがルーチン分析を処理し、人間が創造的な方向性と倫理的監督を提供するとき、両側が独自の強みを貢献します。正しく行われる場合、AIは、数えきれない人間のプロセスの品質と効率を向上させることを約束します。しかし、誤った場合は、疑わしいデータソースによって制限され、真正の知能を示すのではなく、知能を模倣するだけです。私たち、方程式の人間の側が、これらのモデルを賢くし、我々の価値観、判断、倫理がその核心に残るようにする責任があります。信頼は、この技術が主流になるために不可欠です。ユーザーが自分のデータがどこに行くかを見て、どのように使用されるかを確認し、生成される価値に参加できる場合、ユーザーは、不本意な被写体ではなく、意欲的なパートナーになります。同様に、AIシステムが整合した利害関係者と透明なデータパイプラインを活用できる場合、それらはより信頼できるものになります。結果として、それらは私たちの最も重要なプライベートおよびプロフェッショナルな空間へのアクセスを得る可能性が高くなり、より良いデータアクセスと改善された成果のフライホイールを生み出します。したがって、AIの次の段階に入るにあたって、我々は、検証可能な関係、品質の高いデータソース、正確なシステムで人間と機械を接続することに焦点を当てましょう。私たちがAIに何をしてあげられるかを問うべきです。